Параметры импульсных сигналов: works.doklad.ru — Учебные материалы

Содержание

Общая характеристика импульсного сигнала

радиоликбез

Общая характеристика импульсного сигнала

Виды импульсных сигналов. Под импульсной техникой понимают область радиоэлектроники, изучающую формирование импульсных сигналов и их прохождение через электрические цепи. Импульсный сигнал может состоять из одного или серии импульсов. Под импульсом понимают быстрое появление и исчезновение тока или напряжения, т. е. кратковременное действие тока или напряжения на электрическую цепь или устройство. В импульсной технике различают два вида импульсных сигналов — видеоимпульсы (рис. 149, а), представляющие собой кратковременные односторонние (относительно оси времени) изменения напряжения или тока в цепи постоянного тока, и радиоимпульсы (рис. 149,б)—сигнал, состоящий из высокочастотных колебаний напряжения или тока, огибающая которых повторяет форму видеоимпульса. В импульсной технике в основном рассматривают видеоимпульсы.

 

Форма импульсов. Импульсы могут иметь прямоугольную, трапецеидальную, колоколообразную, треугольную и экспоненциальную

Рис. 149. Одиночные импульсы: а — видеоимпульс, б — радиоимпульс

форму (рис. 150). В импульсе различной формы различают фронт, вершину и спад. Импульсы могут быть положительной или отрицательной полярности. Импульсы положительной полярности на графиках изображают выше горизонтальной оси времени, а отрицательной — ниже оси.

Параметры импульсов. Каждый импульс характеризуется амплитудой А (см. рис. 149, а), длительностью импульса

tи, длительностями фронта tф, спада tс, снижением вершины ΔА, а также мощностью в импульсе Ри.

Амплитуда однополярного импульса характеризуется величиной (размахом) напряжения или тока от нуля до максимального значения импульса данной формы. В двустороннем импульсе величина от вершины положительного до вершины отрицательного импульса называется полным размахом импульса (полной амплитудой Aп).

Длительность импульса tп — интервал времени, в течение которого ток или напряжение действует на электрическую цепь. В реальных схемах искажается форма импульсов, поэтому длительность определяют на уровне 0,1

A и реже по основанию импульса. Активную  длительность импульса tи.a измеряют на уровне 0,5 А.

Рис. 150. Формы импульсов:

а — прямоугольная, б — трапецеидальная, в — колоколообразная, е — треугольная, д —экспоненциальная

Длительность фронта tф и спада tc оценивается интервалом времени, в течение которого амплитуда импульса нарастает от 0,1 до 0,9 своего максимального значения и падает от 0,9

A до 0,1А. В большинстве случаев желательно иметь минимальные tф и to.

Снижение вершины ΔА практически не должно превышать (0,01—0,05) А.

Мощность в импульсе характеризуется отношением энергии W, выделенной в цепи при прохождении импульса, к его длительности tи:

Далее


66631-17: VCH-606 Усилители импульсных сигналов

Назначение

Усилители импульсных сигналов VCH-606 (далее — усилители) предназначены для воспроизведения одиночных импульсных сигналов или последовательности импульсов на 16 независимых выходов.

Описание

Конструктивно усилитель выполнен в виде моноблока, в металлическом корпусе стоечного варианта.

Функционально усилитель состоит из селектора импульсов, цифро-аналогового преобразователя, распределителя импульсов, линий задержки, детекторов наличия сигналов, выходных буферных усилителей и блока питания.

Принцип действия усилителей основан на формировании из входного импульсного сигнала нормализованного импульсного сигнала, имеющего для внутренних цепей усилителя уровни ТТЛ, и распределении этого сигнала по 16 выходным буферным усилителям, для передачи на 16 выходных разъемов.

Внешний вид усилителей, место нанесения наклейки «Знак утверждения типа», поверительного клейма и схема пломбировки от несанкционированного доступа приведены на рисунках 1,2.

1    — Место нанесения, поверительного клейма

2    — Место пломбировки от несанкционированного доступа

Программное обеспечение

отсутствует.

Технические характеристики

приведены в таблице 1.

Таблица 1

Наименование параметра или характеристики

Значение

характеристики

Параметры входного импульсного сигнала:

—    полярность

—    частота повторения, Гц

—    амплитуда импульса, В, не более

—    длительность импульса, нс, не менее

положительная от 1 до 107 10 50

Параметры выходного импульсного сигнала:

—    полярность

—    амплитуда импульса, В

—    длительность фронта импульса, нс, не более

положительная от 2,5 до 5,0 1

Время установления рабочего режима, мин, не более

10

Задержка распространения сигнала от входа к выходу, нс, не более

20

Относительная разность задержек рабочих фронтов выходных сигналов, пс, не более

150

Температурный коэффициент задержки распространения сигнала, пс/°С, не более

10

Таблица 2 — Основные технические характеристики

Г абаритные размеры (ширина х высота х глубина), мм, не более

483 х 44 х 310

Масса, кг, не более:

—    усилителя

—    усилителя в упаковке

4

6

Напряжение питания от сети переменного тока, В

220±22

Напряжение питания от сети постоянного тока, В

от 22 до 30

Потребляемая мощность от сети питания переменного тока, В А, не более

20

Потребляемая мощность от сети питания постоянного тока, Вт, не более

20

Рабочие условия эксплуатации: температура окружающего воздуха, °С

—    атмосферное давление, кПа

—    относительная влажность при температуре воздуха +25 °С, %

от +5 до +40 от 84 до 106 до 80

Знак утверждения типа

наносится на титульный лист руководства по эксплуатации типографским способом (в верхнем правом углу) и на лицевую панель усилителей.

Комплектность

Таблица 3 — Комплектность средства измерений

Наименование

Обозначение

Количество

У силитель импульсных сигнало

VCH-606

1 шт

Комплект ЗИП

1 к.т

Руководство по эксплуатации

ЯКУР.468749.002РЭ

1 шт

Наименование

Обозначение

Количество

Формуляр

ЯКУР.468749.002ФО

1 шт

Упаковка

ЯКУР.411915.079

1 шт

Ящик укладочно-транспортный

ЯКУР.323361.032

1 шт

Поверка

осуществляется по документу ЯКУР. 468749.002 РЭ «Усилитель импульсных сигналов VCH-606. Руководство по эксплуатации», раздел 6 «Поверка прибора», утверждённому начальником ФГБУ «ГНМЦ» Минобороны России 14.04.2016 г.

Основные средства поверки:

—    осциллограф WaveMaster 804Zi-A (рег. № 49227-12) полоса пропускания 4 ГГц входной импеданс 50 Ом, диапазон горизонтальной развертки от 20 пс до 128 с, диапазон вертикальной развертки от 2 мВ/дел до 10 В/дел, пределы допускаемой абсолютной погрешности измерений временных интервалов ±(0,06/Рдискр.+ (1х10-6 + 0,5х10-6/ГОд) х Тизм.), где FaTOKFl. — частота дискретизации, Тизм. — измеряемый временной интервал;

—    генератор АКИП-3402 (рег. № 40102-08) диапазон выходных частот от 500 мкГц до 10 МГц, время нарастания/спада фронта импульса не более 10 нс, амплитуда выходного импульса на нагрузке 50 Ом от 10 мВ до 10 В, диапазон регулировки длительности фронта импульса от 5 нс до 100 нс, пределы допускаемой относительной погрешности по частоте ±20х10-6 .

Допускается применение аналогичных средств поверки, обеспечивающих определение метрологических характеристик поверяемых усилителей с требуемой точностью.

Знак поверки наносится на лицевую панель усилителей.

Сведения о методах измерений

приведены в эксплуатационном документе.

Нормативные документы

ЯКУР.468749.002ТУ. Усилитель импульсных сигналов. Технические условия.

Электрический импульс — это… Что такое Электрический импульс?

Электрический импульс — кратковременный всплеск электрического напряжения или силы тока в определённом, конечном временном промежутке. Различают видеоимпульсы — единичные колебания какой-либо формы и радиоимпульсы — всплески высокочастотных колебаний. Видеоимпульсы бывают однополярные (отклонение только в одну сторону от нулевого потенциала) и двухполярные.

Характеристики импульсов

Форма импульсов

Важной характеристикой импульсов является их форма, визуально наблюдать которую, можно, например, на экране осциллографа. В общем случае форма импульсов имеет следующие составляющие: фронт — начальный подъём, относительно плоская вершина (не для всех форм) и срез (спад) — конечный спад напряжения. Существует несколько типов импульсов стандартных форм, имеющих относительно простое математическое описание, такие импульсы широко применяются в технике

  • Прямоугольные импульсы — наиболее распространённый тип
  • Пилообразные импульсы
  • Треугольные импульсы
  • Трапецеидальные импульсы
  • Экспоненциальные импульсы
  • Колокольные (колоколообразные) импульсы
  • Импульсы, представляющие собой полуволны или другие фрагменты синусоиды (обрезка по горизонтали или по вертикали)

Кроме импульсов стандартной, простой формы иногда, в особых случаях, используются импульсы специальной формы, описываемой сложной функцией, существуют также сложные импульсы, форма которых имеет в значительной степени случайный характер, например, импульсы видеосигнала.

Параметры импульсов

В общем случае импульсы характеризуются двумя основными параметрами — амплитудой (размахом) и длительностью (обозначается τ или tи). Длительность пилообразных и треугольных импульсов определяется по основанию (от начала изменения напряжения до конца), для остальных типов импульсов длительность принято брать на уровне напряжения 50 % от амплитуды, для колокольных импульсов иногда используется уровень 10 %, длительность искусственно синтезированных колокольных импульсов (с чётко выраженным основанием) и полуволн синусоиды часто измеряется по основанию.

Выброс на вершине прямоугольного импульса

Для разных типов импульсов существуют дополнительные параметры, уточняющие форму или характеризующие степень её неидеальности. Например, для описания неидеальности прямоугольных импульсов используются такие параметры, как, длительности фронта и среза (в идеале должны стремиться к нулю), неравномерность вершины, а также размер выбросов напряжения после фронта и среза, возникающих в результате паразитных процессов.

Спектральное представление импульсов

Кроме временного представления импульсов, наблюдаемого по осциллографу, существует спектральное представление, выраженное в виде двух функций — амплитудного и фазового спектра.

Спектр одиночного импульса является непрерывным и бесконечным. Амплитудный спектр прямоугольного импульса имеет чётко выраженные минимумы по шкале частот, следующие с интервалом, обратным длительности импульса.

Многократные импульсы

Импульсные посылки (серии импульсов)

Иногда импульсы используются или возникают не поодиночке, а группами, которые называются сериями импульсов или импульсными посылками, в том случае, когда они формируются преднамеренно для передачи куда-либо. Импульсная посылка может нести какую-либо информацию единичного характера или служить в качестве идентификатора. Информационные посылки прямоугольных импульсов, в которых значимыми величинами являются количество импульсов, их временное расположение или длительности импульсов называются кодово-импульсными посылками или, в некоторых областях техники, кадрами, фреймами. Кодирование информации в посылках может быть осуществлено разными способами: двоичный цифровой код, время-импульсный код, код Морзе, набор заданного количества импульсов (как в телефонном аппарате). Во многих случаях импульсные посылки используются не поодиночке, а в виде непрерывных последовательностей посылок.

Импульсные последовательности

Импульсной последовательностью называется достаточно продолжительная последовательность импульсов, служащая для передачи непрерывно меняющейся информации, для синхронизации или для других целей, а также генерируемых непреднамеренно, например, в процессе искрообразования в коллекторно-щёточных узлах. Последовательности подразделяются на периодические и непериодические. Периодические последовательности представляют собой ряд одинаковых импульсов, повторяющихся через строго одинаковые интервалы времени. Длительность интервала называется периодом повторения (обозначается T), величина, обратная периоду — частотой повторения импульсов (обозначается F). Для последовательностей прямоугольных импульсов дополнительно применяются ещё две однозначно взаимосвязанных друг с другом параметра: скважность (обозначается Q) — отношение периода к длительности импульса и коэффициент заполнения — обратная скважности величина; иногда коэффициент заполнения используют и для характеристики квазипериодической и случайной последовательностей, в этом случае он равен среднему отношению суммы длительностей импульсов за достаточно большой промежуток времени к длительности этого промежутка. Спектр периодической последовательности является дискретным и бесконечным для конечной последовательности, конечным для бесконечной. Среди непериодических последовательностей с, технической точки зрения, наибольший интерес представляют квазипериодические и случайные последовательности (на практике используются псевдослучайные). Квазипериодические последовательности представляют собой последовательности импульсов, период которых или другие характеристики варьируются вокруг средних значений. В отличие от спектра периодической последовательности, спектр квазипериодической последовательности является, строго говоря, не дискретным, а гребенчатым, с незначительным заполнением между гребнями, однако, на практике этим иногда можно пренебречь, так, например, в телевизионной технике для создания полного видеосигнала к сигналу чёрно-белого изображения добавляют сигнал цветности таким образом, что гребни его спектра оказываются между гребнями чёрно-белого видеосигнала.

Импульсы как носители информации

По характеру информации импульсные сигналы могут использоваться однократно(разовое сообщение о событии) или для непрерывной передачи информации Последовательности импульсов могут передавать дискретизированную по времени аналоговую информацию или цифровую, возможны также случаи, когда в единый, в физическом смысле, сигнал вложено два вида информации, например, телевизионный сигнал с телетекстом.

Для представления информации используются различные характеристики как собственно импульсов, так и их совокупностей, как по отдельности, так и в сочетаниях

  • Форма импульсов
  • Длительность импульсов
  • Амплитуда импульсов
  • Частота следования импульсов
  • Фазовые соотношения в последовательности импульсов
  • Временные интервалы между импульсами в посылке
  • Позиционное комбинирование импульсов в посылке

Таким образом, можно выделить несколько обобщённых типов импульсных сигналов, несущих непрерывную информацию

  • Цифровой сигнал, информация в котором, как правило (но не обязательно), содержится в виде кодовых посылок
  • Аналоговый дискретизированный сигнал в виде квазипериодической последовательности
  • Аналоговый дискретизированный сигнал в виде импульсных посылок с аналоговым кодированием информации
  • Отдельно от предыдущих типов надо выделить видеосигнал (и соответствующий ему модулированный радиосигнал), в котором, в отличие от других сигналов, непрерывная информация содержится внутри самого импульса, благодаря его сложной форме

Некоторые примеры применения импульсов

Одиночные импульсы

  • Разовые команды для управления каким-либо устройством (обычно прямоугольные)
  • Разовые сигналы, генерируемые устройством при наступлении какого-либо события

Периодические последовательности

  • Тактовые импульсы — для синхронизации событий в системе
  • Стробирующие импульсы — для периодического разрешения / запрета процессов
  • Пилообразные импульсы развёртки (в телевизорах, мониторах, радиолокаторах, осциллографах и т.  д.)
  • Телевизионный синхросигнал — составляющая аналогового видеосигнала, предназначенная для синхронизации разверток передающего и приемного устройств.
  • Импульсы с образцовыми параметрами (амплитуда, длительность, частота и т. д.) на выходе калибраторов средств измерений
  • Стимулирующие импульсные сигналы для проверки работоспособности аппаратуры или её узлов
  • Стимулирующие сигналы, вырабатываемые медицинскими приборами

Непериодические последовательности

  • Импульсные сигналы измерительной информации
  • Псевдослучайные (хаотические) импульсные последовательности для тестирования аппаратуры или каналов связи

Одиночные посылки (серии)

  • Набор номера в импульсном телефонном аппарате
  • Коды идентификации, аутентификации для электронных замков и т. д.
  • Разовая информация в системах сигнализации

Последовательности посылок

  • Сигнал, представленный в цифровой форме в виде групп прямоугольных импульсов
  • Группы импульсов, непрерывно излучаемых импульсными радиомаяками
  • Посылки с время-импульсным кодированием в диалогах запросчик-ответчик в системах активной радиолокации и дальномерных каналах радионавигации

Видеоимпульсы

Примеры возникновения электрических импульсов в природе

  • Импульсы от разрядов атмосферного электричества
  • Нервные импульсы в живом организме
  • Импульсы от разрядов электрических рыб

Литература

См.

также

Ссылки

Библиотека импульсного сигнала

Блокируйте симуляцию в виде Interpreted Execution или Code Generation. Если вы хотите, чтобы ваш блок использовал MATLAB® интерпретатор, выберите Interpreted Execution. Если вы хотите, чтобы ваш блок запустился как скомпилированный код, выбрал Code Generation. Скомпилированный код требует, чтобы время скомпилировало, но обычно запускается быстрее.

Интерпретированное выполнение полезно, когда вы разрабатываете и настраиваете модель. Блок запускает базовую Систему object™ в MATLAB. Можно изменить и выполнить модель быстро. Когда вы удовлетворены своими результатами, можно затем запустить блок с помощью Code Generation. Долгие симуляции, запущенные быстрее со сгенерированным кодом, чем в интерпретированном выполнении. Можно запустить повторенное выполнение без рекомпиляции, но если вы изменяете какие-либо параметры блоков, затем блок автоматически перекомпилировал перед выполнением.

Эта таблица показывает, как параметр Simulate using влияет на полное поведение симуляции.

Когда Simulink® модель находится в Accelerator режим, блочный режим, заданный с помощью Simulate using, заменяет режим симуляции.

Ускоряющие режимы

Блокируйте симуляциюПоведение симуляции
NormalAcceleratorRapid Accelerator
Interpreted ExecutionБлок выполняет использование интерпретатора MATLAB.Блок выполняет использование интерпретатора MATLAB.Создает независимый исполняемый файл из модели.
Code GenerationБлок скомпилирован.Все блоки в модели скомпилированы.

Для получения дополнительной информации смотрите Выбор Simulation Mode (Simulink).

(PDF) Analysis of Subnanosecond Pulse Generator Based on Step Recovery Diode

ля на всех стадиях работы. Получено выражение для напряжения на выходе генератора. На

примере диода 2А609Б произведен анализ схемы генератора и получена зависимость ампли-

туды формируемых импульсов от величины прямого тока. Эта зависимость объясняется раз-

личием величины обрываемого тока для различных значений прямого тока.

Работа выполнена при поддержке Российского фонда фундаментальных исследований

(проект №16-07-01238 А).

Литература

1. Финкельштейн М.И. Подповерхностная радиолокация / М.И. Финкельштейн [и др.]; под ред. М.

И. Финкельштейна. – М.: Радио и связь, 1994. – 216 с.

2. Лазоренко О. В. Сверхширокополосные сигналы и физические процессы. 1. Основные понятия,

модели и методы описания / О. В. Лазоренко, Л. Ф. Черногор // Радиофизика и р адиоастроно-

мия. – 2008. – т. 13. – № 2. – С. 166–194.

3. Лазоренко О. В. Сверхширокополосные сигналы и физические процессы. 2. Методы анализа и

применение / О. В. Лазоренко, Л. Ф. Черногор // Радиофизика и радиоастрономия. – 2008. – т.

13. – № 4. – С. 270–322.

4. Иммореев И. Я. Сверхширокополосная локация: основные особенности и отличия от традиц и-

онной радиолокации / И. Я. Иммореев // Электромагнитные волны и электронные системы,

1997. – т.2. – № 1. – С. 81-88.

5. Белкин В.С., Шульженко Г.И. Формирователи мощных наносекундных и пикосекундных импуль-

сов на полупроводниковой элементной базе. Новосибирск. Институт ядерной физики, 1991. С. 5

6. Ю.Р. Носов, Полупроводниковые диоды с накоплением заряда и их применение. Москва, Совет-

ское радио, 1966, С. 7.

7. Moll J.L., Krakauer S., Shen R. P-n junction charge storage diodes / J. L. Moll, S. Krakauer, R. Shen //

Proc. IRE, 1962, 50, (1), P. 43-53

8. Moll J. L. Physical Modeling of the Step Recovery Diode for Pulse and Harmonic Generation Circuits /

J. L. Moll, S. A. Hamilton // Proceedings of the IEE. – vol. 37. – P.1250-1259.

9. Грехов И. В. Полупроводниковые наносекундные диоды для размыкания больших токов / И. В.

Грехов, Г. А. Месяц // Успехи физических наук, 2005. – т. 175. – №7. – С. 735-744.

10. Грехов, И.В. Мощный полупроводниковый переключатель высоковольтных импульсов с наносе-

кундным фронтом нарастания / Аристов Ю.В., Воронков В.Б., Грехов И.В., Козлов А.К., Коро т-

ков С.В., Люблинский А.Г. // Приборы и техника эксперимента. 2007. № 2. С. 87-90.

11. Белкин В.С., Шульженко Г.И. // Приборы и техника эксперимента. 1994 N.4

12. А.М. Бобрешов Генерация сверхкоротких импульсных сигналов / А.М. Бобрешов, В.А. Степкин,

Ю.И. Китаев, Г.К. Усков // Физика волновых процессов и радиотехнические системы. 2011 Т14

№3 С. 103.

13. Г.К. Усков Физика диодов с накоплением заряда при генерации сверхкоротких импульсов // Тео-

рия и техника радиосвязи №4 / 2012 с. 100-105.

14. Кюрегян А. С. Теория дрейфовых диодов с резким восстановлением / А. С. Кюрегян. // Журнал

технической физики, 2004. – том 74. – С. 57-64.

15. Dynamics of Reverse Recovery of High-Power P-i-N Diodes / Sameer P. Pendharkar, Malay Trivedi,

and Krishna Shenai // IEEE Transactions on electronic devices, vol. 43, no.1, 1996

16. Кюрегян А. С. / Кюрегян А. С., Юрков С. Н. // Физика и техника полупроводников, 1989. – т. 23.

17. Зи С. Физика полупроводниковых приборов / С. Зи; Пер. с англ.; под ред. А. Ф. Трутко. – М. :

Энергия, 1973. – 655с.

18. Генератор сверхкоротких импульсов с электронным управлением длительностью / А.М. Бобре-

шов, А.С. Жабин, В.А. Степкин, Г.К. Усков, Лэ Куанг Тук // Успехи современной радиоэлектро-

ники №11, 2015 г. – С.24-28

Оценка параметров импульсных сигналов неизвестной формы, наблюдаемых на фоне аддитивной смеси белого гауссовского шума и линейной составляющей с неизвестными параметрами

  • 1

    PM Woodward, Теория вероятностей и информации с приложениями к радару (McGraw-Hill, Нью-Йорк, 1953; Советское Радио, Москва, 1955).

  • 2

    Тихонов В.И., Статистическая радиотехника, 2 изд. (Радио и связь, М., 1982).

    Google Scholar

  • 3

    Тихонов В. И., Харисов В. Н., Статистический анализ и синтез беспроводных устройств и систем: Учебник для колледжа (Радио и связь, М., 1991).

    Google Scholar

  • 4

    H. L. Van Trees, Детектирование, оценка и теория модуляции, Часть 1: Детектирование, оценка и теория линейной модуляции (Wiley, New York, 1968; Наука, М., 1979).

  • 5

    J. Sijber и A. J. den Dekker, Magn. Резон. Med. 51 , 586 (2004).

    Артикул Google Scholar

  • 6

    Li. Xinya, D. D. Zhiqun, L. Rauchenstein, T. J. Carlson, Rev. Sci. Instrum. 87 , 041502 № 1 (2016).

  • 7

    K. Rachpon, A. Laucht, J. P. Dehollain, et al., Rev. Sci. Instrum. 87 , 073905 (2016).

    Артикул Google Scholar

  • 8

    Б.Иванов И., Грайчар М., Новиков И. Л., Вострецов А. Г., Ильичев Е. // ЖТФ. Phys. Lett. 42 , 380 (2016).

    Артикул Google Scholar

  • 9

    J. Sol’a, R. Vetter, Ph. Renevey, et al., Physiol. Измер. 30 , 603 (2009).

    Артикул Google Scholar

  • 10

    Г. П. Суччи, Д. Клапп, Р. Гамперт, Г. Прадо, Proc. SPIE Int. Soc. Опт. Англ. 4393 , 22 (2001).

    Google Scholar

  • 11

    Филатова С.Г., Спектор А.А., Автометрия, №4, 68 (2008).

  • 12

    Курленя М.В., Вострецов А.Г., Кулаков Г.И., Яковицкая Г.Е. // Физ.-техн. Пробл. Разраб. Polez. Ископ., №4, 61 (1999).

  • 13

    Акимов П.С., Бакут П.А., Богданович В.А. и др., Теория обнаружения сигналов, Под ред. Бакут П.А. (М. , Радио и связь, 1984).

    Google Scholar

  • 14

    Э. Л. Леман, Проверка статистических гипотез (Wiley, New York, 1959).

    Google Scholar

  • 15

    А.Г. Вострецов, J. Commun. Technol. Электрон. 44 , 512 (1999).

    Google Scholar

  • 16

    Закс С., Теория статистического вывода (Уайли, Нью-Йорк, 1971).

    Google Scholar

  • 17

    Боровков А.А., Математическая статистика, оценка параметров и проверка гипотез (Наука, М., 1984).

    Google Scholar

  • 18

    Э. Зехави, IEEE Trans. Aerosp. Электрон. Syst. 20, , 742 (1984).

    MathSciNet Статья Google Scholar

  • 19

    Jingjing Pan, Meng Sun, Yide Wang и др., Сигнальные процессы. 176 , 107654 (2020).

    Артикул Google Scholar

  • Амплитуда импульса — обзор

    26.4.2.2 Топология обратного хода

    Упрощенная схема обратного хода, используемая для генерации отрицательных высоковольтных импульсов в нагрузке, показана на рис. 26.33; для положительных импульсов заземление следует размещать на противоположной клемме.

    РИСУНОК 26.33. Упрощенная схема импульсной схемы обратного хода, используемой для генерации отрицательных импульсов высокого напряжения на нагрузку.

    Схема на рис. 26.33 аналогична схеме на рис. 26.30, но полярность диода D 2 на вторичной обмотке обратная. Однако это простое изменение приводит к совершенно иному поведению схемы [48].

    Рассматривая схему на рис. 26.33 и теоретические ключевые формы сигналов на рис. 26.34, для граничных условий, когда главный выключатель S включает , энергия сохраняется в трансформаторе в виде магнитного потока, трансформатор должен действовать. как катушка, хранящая энергию.Напряжение, приложенное к первичной обмотке трансформатора, составляет В, постоянного тока, ; диод УЗО D 1 и диод вторичной обмотки D 2 выключены, , таким образом, напряжение, приложенное к нагрузке, равно нулю. На вторичном диоде D 2 обратное напряжение равно

    РИСУНОК 26.34. Теоретические ключевые формы сигналов для схемы на рис. 26.33 для резистивной нагрузки: (а) сигнал переключения-триггера v gs ; (б) напряжение первичной обмотки, В 1 ; (c) коммутируемое напряжение v s ; (d) D 2 обратное напряжение; (e) D 1 обратное напряжение; и (f) напряжение нагрузки v 0 .

    (26,24) νka (D2) = N2N1Vdc,

    и диод УЗО D 1 обратное напряжение равно

    (26,25) νka (D1) = Vdc + Vc.

    Когда главный выключатель S выключен, энергия, накопленная в трансформаторе, передается на выход. Напряжение, приложенное к первичной обмотке трансформатора, составляет — В, С, ; диод УЗО D 1 и диод вторичной обмотки D 2 включены, а напряжение, приложенное к нагрузке, составляет примерно

    (26.26) ν0 = -N2N1Vc.

    Задержка напряжения главного выключателя S составляет

    (26,27) νds = Vdc + Vc.

    Фиксирующее напряжение УЗО имеет две цели: (1) уменьшить скачок напряжения, возникающий из-за резонанса между индуктивностью рассеяния трансформатора и выходной емкостью переключателя S в состоянии выключено, ; и (2) установить импульсное напряжение в течение того же периода времени.

    Учитывая форму кривой напряжения первичной обмотки трансформатора, показанную на рис.26.34, напряжение фиксации, В, C, , , может быть приблизительно получено путем приравнивания интеграла напряжения первичной обмотки В 1 за один период времени к нулю

    (26,28) Vc = C1-CVdc. ,

    аналогично напряжению В, , С, , , в повышающе-понижающей топологии (26.19).

    Что касается генерации высоковольтных импульсов [50], если скважность переключения близка к 100%, D 2 блокирует только небольшую часть выходного напряжения.Кроме того, если диод УЗО D 1 находится в положении на во время выключателя S -выкл , что означает, что обратная схема работает в непрерывном режиме, импульс выходного напряжения хорошо определяется напряжением конденсаторов УЗО В С . Кроме того, с повышающим трансформатором ( N 1) эта топология также позволяет использовать относительно низковольтные полупроводниковые устройства на первичной стороне.

    Из соображений эффективности следует рассчитать параметры схемы обратного хода, чтобы схема работала на границе между непрерывным и прерывистым состояниями.Это делается путем обеспечения того, чтобы диод УЗО D 1 выключал в тот же момент, когда выключатель S включал . Напряжение фиксатора УЗО зависит от тока главной цепи из-за высокой продолжительности включения переключателя S и поведения катушечного трансформатора.

    Конструкция обратного трансформатора более сложна, чем прямой трансформатор, так как энергия подается на нагрузку в состоянии выключено переключателя S , что означает, что трансформатор должен быть спроектирован так, чтобы сохранять энергию во время на состояние переключателя S , работающего как связанный индуктор.

    Требования к прерыванию тока переключателя S и конструкция связанной индуктивности могут быть намного более сложными в топологии обратного хода при интересующих уровнях мощности и представляют собой ограничение этой топологии. Обычно это область применения гораздо более мощных устройств, таких как IGBT и GTO, или использования параллельных полупроводников.

    Тем не менее, обратная схема намного более устойчива к короткому замыканию в нагрузке или сбоям нагрузки, поскольку переключатель S находится в состоянии выкл. во время выходного импульса и не будет видеть ток короткого замыкания, как если бы прямой топология преобразователя.

    Сравнивая прямую и обратную топологии для генерации высоковольтных импульсов для одинаковой амплитуды выходного импульса напряжения, с использованием одного и того же трансформатора коэффициента трансформации, прямые цепи требуют постоянного напряжения PS с высокой амплитудой В постоянного тока , , но напряжение УЗО ниже и коэффициент заполнения переключателя S низкий. Кроме того, в обратноходовой топологии ширина импульса напряжения не так хорошо определена, как в прямом, поскольку он генерируется схемой УЗО.

    Обе топологии имеют проблемы при работе с емкостными нагрузками, поскольку динамические изменения импеданса нагрузки не соответствуют выходному сигналу трансформатора.Решение требует использования постоянной фиктивной нагрузки, но это увеличивает рассеиваемую мощность. Другая возможность — использование имитирующей нагрузки переключателя, которая поместит полупроводниковый прибор в область высокого напряжения.

    Пример 26.7 Предположим, что из схемы на рис. 26.33 генерируются импульсы амплитудой –5 кВ с длительностью 5 мкс и f = 10 кГц (D = 95%). На схему подается напряжение В, постоянного тока, , = 25 В, и используется трансформатор N, = 10-пульсный.Рассчитайте полупроводниковые переключатели S, D 1 и D 2 напряжение удержания.

    Решение. Рассмотрим (26,28), тогда

    VC = D1-DVdc = 0,951-0,9526,3 = 500 В.

    Полупроводники удерживают при 526,3 В для переключателя S и диода D 1 и 263 В для диода D 2 , соответственно, 10,5% и 5,26% выходного напряжения.

    Следовательно, для генерации импульса 5 кВ можно использовать полупроводники на 800 В с учетом 100% запаса прочности.

    (PDF) Обнаружение и перехват параметров импульсного сигнала радара на основе алгоритма прерывания

    индивидуальный радар; идентификация сигнала, для классификации РЛС

    типов по собранным импульсам; информация о помехах

    присвоение; и извлечение параметров радара, чтобы

    измеряли неизвестные параметры радара, когда только один радар

    доступен в соответствующей полосе частот

    (Vaccaro, 1993; Stimon, 1998).

    Ранее каждая схема измерения параметров

    была построена из дискретных компонентов и могла выполнять только одну задачу

    . Недавно прогресс в скорости обработки и памяти

    , а также разработка эффективных методов цифровой обработки сигналов

    позволили компьютеру

    выполнять обработку в реальном времени еще более эффективно.

    Тенденция перехода ко всем цифровым функциям привела к тому, что постоянно увеличивающееся число аналоговых функций

    заменяется цифровыми (Tsui, 1995; Dahnoun, 2000).В этой статье

    обрабатываются две задачи обработки импульсных радиолокационных сигналов

    . Первая проблема заключается в том, как получить

    и предварительно обработать импульсный РЧ-сигнал радара. Супергетродинный приемник

    используется для преобразования радиосигнала

    частоты (RF) в промежуточную частоту (IF)

    и, соответственно, в видеосигнал. Аппаратный шумовой вентиль

    предлагается при сборе данных для точного захвата

    огибающей импульса и, таким образом, избежания неправильных прерываний

    , генерируемых восстановлением ложной формы импульса. После этого

    видеосигнал сохраняется в зависимости от наличия сигнала.

    Вторая задача связана с измерением параметров импульса радара

    .

    В этом упражнении реализован простой алгоритм для

    считывания обработанного радиолокационного сигнала вместе с параметром

    таймеров и вычисления параметров радиолокационных импульсов, которые

    включает в себя: радиочастоту (RF), время прибытия (TOA),

    время вылета (TOD), ширины импульса (PW), импульса, PRF

    и амплитуды импульса (PA).В Albaker and Rahim (2009),

    рассматривалась аналогичная задача. Однако подход

    был основан на непрерывной оцифровке сигнала промежуточной частоты

    в системе сбора данных

    . Это приведет к эффективному сбору данных радара

    с малым интервалом повторения импульсов (PRI), но на

    будет потрачено

    на хранение и обработку большого количества выборок данных. Напротив, предлагаемый подход

    полагается на управляемый прерываниями механизм для вызова последующих систем ниже

    только при обнаружении истинного радиолокационного сигнала.

    Благодаря этому получение и обработка радиолокационного сигнала

    может быть получена быстро, что позволяет реализовать наш подход

    в условиях критичных по времени требований. Более того, подход

    будет намного эффективнее, чем предыдущий метод

    в случае захвата радиолокационных импульсов с высоким PRI.

    Остальная часть статьи организована следующим образом:

    Во-первых, предлагаемый цифровой приемник вместе с двойным пороговым шумоподавителем

    описывается с разработанной архитектурой программного обеспечения

    .Во-вторых, введен новый алгоритм —

    для извлечения параметров радиолокационного сигнала. В-третьих, выполняется

    человеко-машинного интерфейса и демонстрируется

    для демонстрации обработки оцифрованного сигнала

    и проверки эффективности предложенного алгоритма.

    Наконец, представлены краткое резюме и заключительные замечания

    .

    Albaker and Rahim 1381

    СИСТЕМА СБОРА ДАННЫХ

    Цифровой приемник радиоэлектронной борьбы работает в широком диапазоне частот

    . Аналого-цифровые преобразователи (АЦП)

    не обладают достаточной энергией для прямой оцифровки этих входных сигналов

    . Поэтому аналого-цифровой преобразователь

    обычно используется после супергетеродинного приемника, который

    преобразует РЧ-сигнал в частоту ПЧ с понижением частоты. Супергетродинный приемник

    линейно преобразует входной РЧ-сигнал в сигнал ПЧ с понижением частоты

    верт. Высокоскоростной аналого-цифровой преобразователь

    используется для оцифровки сигнала IF

    .Видеодетектор с двойным пороговым шумовым затвором

    используется для прерывания цифрового процессора при наличии входного сигнала

    . На рисунке 1 показан предлагаемый цифровой приемник

    для сбора данных с прерыванием. В цифровом приемнике

    полоса частот ПЧ обычно находится в диапазоне от

    приблизительно до постоянного тока максимум до половины частоты дискретизации

    . Фильтр нижних частот понижающего преобразователя действует как фильтр сглаживания

    , поэтому он должен иметь очень крутую юбку

    (Vaccaro, 1993). Для указанного выше приемника входной поток IF

    оцифровывается и сохраняется только при наличии сигнала

    . При таком подходе производимые цифровые данные

    всегда содержат действительный входной сигнал. Однако для создания и обработки

    прерываний требуется дополнительное оборудование для определения пороговых значений

    .

    Для режимов радара с высоким PRI наш подход

    считается более подходящим, чем подход с непрерывной оцифровкой

    .Это связано с более низкими требованиями к размеру хранилища

    и скорости обработки на последующих этапах обработки

    . Однако компромиссом является время задержки

    , необходимое для распознавания прерывания, и время переключения

    на процедуру обслуживания прерывания, которое составляет

    , рассматриваемое как добавленное время. Это приводит к меньшей эффективности

    , чем подходы непрерывной оцифровки в случае

    сбора данных с высоким PRF.

    При наличии многолучевого распространения и шума высокого уровня

    , связанного с входным сигналом, огибающая импульса

    может быть сильно искажена. Если входной сигнал близок к порогу приемника

    , сигнал может запускать приемник

    много раз. В результате приемник выдаст неверные данные оценки параметров

    . Это сделает идентификатор

    на следующем этапе обработки для идентификации множества импульсов из

    одного импульса.На рисунке 2a показаны эффекты многократного запуска

    : a) Использование одного порога обнаружения

    и b) Использование двойных порогов обнаружения. В этой ситуации

    алгоритмы будут работать неэффективно. Введение двойных пороговых уровней

    для шумоподавления решит проблему

    . Таким образом, входной сигнал должен пересечь верхний пороговый уровень

    , чтобы приемник начал собирать данные; и

    падает ниже нижнего порогового уровня, чтобы объявить конец сигнала

    и прекратить сбор данных.

    На рисунке 2b показано введение двойного порогового значения

    noise gate для решения проблемы множественного запуска. На рисунке

    3 показана подсистема шумоподавителя с двойным порогом.

    Разделение между двумя пороговыми уровнями может быть выбрано произвольно.

    Если разделение слишком мало, снова возникнет проблема множественного запуска

    . If the

    A Метод предварительной обработки импульсных сигналов на основе критерия Шовене

    Импульсные сигналы широко используются для оценки состояния сердечно-сосудистой, дыхательной и кровеносной систем человека.В процессе сбора сигналам обычно мешают некоторые факторы, такие как пиковый шум и шум плохого контакта датчика, которые серьезно повлияли на точность последующих моделей обнаружения. В последние годы для обработки вышеупомянутых зашумленных сигналов были применены некоторые методы, такие как динамическое изменение масштаба во времени, разложение по эмпирическим модам, автокорреляция и взаимная корреляция. Несмотря на свою эффективность, эти методы сложны и трудны для реализации. Также обнаружено, что зашумленные сигналы тесно связаны с грубыми ошибками.Критерий Шовене, один из критериев распознавания грубых ошибок, очень эффективен и широко применим, поскольку не требует сложных вычислений, таких как декомпозиция и реконструкция. Поэтому в этом исследовании, основанном на критерии Шовенэ, предлагается новый метод предварительной обработки импульсного сигнала, в котором соответственно разработаны адаптивные пороговые значения для распознавания аномальных сигналов, вызванных импульсным шумом и шумом плохого контакта датчика. В исследовании используется 81 час пульсовых сигналов (с апноэ во сне, аннотируемых каждые 30 секунд, и всего 9720 сегментов) из полисомнографической базы данных MIT-BIH, включая 35 минут шумов с плохим контактом и 25 минут резких шумов.Предложенный метод был использован для предварительной обработки импульсных сигналов, в которой было правильно выделено 9684 сегмента из 9720, а точность метода достигла 99,63%. Для количественной оценки эффекта удаления шума проводится имитационный эксперимент для сравнения коэффициента сходства Жаккара (JSC), рассчитанного до и после удаления шума, соответственно, и результаты показывают, что предварительно обработанный сигнал получает более высокое значение JSC, ближе к опорному сигналу, что указывает на то, что предложенный метод позволяет эффективно улучшить качество сигнала. Для оценки метода были созданы три модели обнаружения апноэ во сне с обратным распространением (BP) с одинаковой сетевой структурой и параметрами, соответственно. Путем сравнения скорости распознавания и скорости предсказания моделей были получены более высокие показатели при использовании предложенного метода. Для доказательства эффективности был проведен сравнительный эксперимент между предложенным методом на основе Шовене и методом на основе Романовского, и время выполнения предложенного метода намного короче, чем у метода Романовского.Результаты показывают, что превосходство во времени выполнения метода на основе Шовене становится более значительным по мере увеличения размера даты.

    1. Введение

    В пределах каждого цикла сердечных сокращений кровеносный сосуд представляет пульсирующие изменения в соответствии с систолической и диастолической функциями сердца, которые называются импульсными сигналами [1]. В пульсовых сигналах содержится много физиологической информации, с помощью которой можно прямо или косвенно рассчитать некоторые физиологические параметры, такие как частота пульса, насыщение крови кислородом и микроциркуляция, и которая также может быть применена к соответствующим моделям обнаружения для оценки состояния сердечно-сосудистой, дыхательной и сердечно-сосудистой систем [2–4]. Однако импульсные сигналы относительно слабые, и на них неизбежно могут влиять различные факторы в процессе сбора, особенно шумы, вызванные плохим контактом датчика и нестабильной мощностью переключателя, что может повлиять на точность последующих связанных моделей обнаружения [5 , 6].

    Обычно шум в сигнале необходимо идентифицировать с помощью соответствующих методов предварительной обработки, которые затем могут применяться для оценки качества сигнала или улучшения качества сигнала (включая подавление или удаление шума).Мы можем использовать некоторые существующие методы предварительной обработки для улучшения качества сигнала, особенно для упомянутых выше импульсных сигналов низкого качества. Ли и Клиффорд [7] предложили алгоритм предварительной обработки сигнала PPG на основе динамического преобразования времени (DTW), который оценивает качество сигнала посредством анализа характеристик, связанных с качеством сигнала, через многослойную нейронную сеть восприятия. Karlen et al. [8] разработал алгоритм предварительной обработки, который может оценивать качество сигналов PPG в реальном времени. Используя алгоритм взаимной корреляции для сегментированных сигналов PPG, был получен индекс качества сигнала (SQI), и данные низкого качества были удалены с помощью индекса.Коу [9] определил коэффициент динамической переменной, используя среднее значение и дисперсию, а пороговые значения были определены с помощью скользящего окна и итеративного расчета для обнаружения шумов плохого контакта датчика, которые не только оценивали сигнал, но и удаляли выбросы. Ли и др. [10] предложили объединенный алгоритм, который объединил временную и частотную области для оценки импульсных сигналов. Основные волны в частотной области были проанализированы с помощью факторов качества, используемых в физике и технике, и в сочетании с действительными подсчетами одиночных фронтов во временной области были выбраны и удалены сигналы низкого качества.Конешло и Ду [11] предложили метод предварительной обработки сигнала PPG на совместной основе линейной программы преследования. Путем восстановления и анализа корреляции последовательностей сигналов PPG было достигнуто адаптивное удаление шума, что обеспечило высококачественный импульсный сигнал для последующей обработки. Ли и др. [12] предложили простой метод шумоподавления в реальном времени на основе двойного медианного фильтра для предварительной обработки сигнала PPG, который улучшил качество сигналов за счет эффективного подавления шума и сохранения основных морфологических особенностей сигналов PPG.Wang et al. [13] применили разложение по эмпирическим модам (EMD) к обработке данных динамических импульсов. Они выбрали определенные компоненты для восстановления сигналов и извлекли важные особенности в исходных сигналах, применив многомасштабный фильтр и фильтр коэффициента накопленной энергии к компонентам, которые были получены в результате разложения, решив проблему разрывов в динамических импульсных сигналах, а именно: проблема плохого контакта датчика. Sun et al. [14] сначала отфильтровали исходные импульсные сигналы, затем извлекли характеристики волнового пика из отфильтрованных сигналов и, наконец, выбрали сигналы хорошего качества, применив различение дисперсии к характеристикам, что повысило точность вычисления физиологических параметров. Применение вышеуказанных методов предварительной обработки внесло большой вклад в оценку или улучшение качества импульсного сигнала. Однако методы, применяемые для удаления пиковых шумов и шума плохого контакта датчика, настолько сложны, что они должны использовать многократные итерационные вычисления, декомпозиции, реконструкции и т. Д. И, таким образом, занимают много системных ресурсов, что неблагоприятно для последующих связанных физиологические параметры и создание моделей обнаружения. Поэтому очень важно принять более простой и эффективный метод предварительной обработки для удаления этих шумов.

    Ввиду того факта, что ненормальные условия, такие как плохой контакт датчика и неисправности прибора, представляют собой маловероятные события в процессе сбора сигнала, и теоретически грубые ошибки представляют собой небольшие вероятностные ошибки, которые превышают нормальную ошибку. диапазон в заданных условиях. Следовательно, шумы, собранные в этих ненормальных условиях, могут быть проанализированы и обработаны в соответствии с критерием распознавания грубой ошибки, идентифицированы и затем удалены. Из-за сложности существующих алгоритмов и ссылки на критерий распознавания грубой ошибки и его применимые условия, при разработке метода предварительной обработки, объединенного с характеристиками фактических аномальных шумов, широко применимый критерий Шовене, не содержащий множественных итераций выбран в качестве основного принципа.

    Подводя итог, в данной статье был предложен новый метод предварительной обработки импульсных сигналов на основе критерия Шовене, который является высокоэффективным в реализации и используется для различения шумов, возникающих в условиях плохого контакта датчика и нестабильной мощности переключателя. . В соответствии с критерием различения грубых ошибок и характеристиками шумов, адаптивные пороги предназначены для различения пиковых шумов и шума плохого контакта датчика, а затем импульсные сигналы в базе данных MIT-BIH используются для проверки эффективности.

    2. Данные

    Импульсные сигналы, использованные в этом исследовании, взяты из полисомнографической базы данных MIT-BIH [15, 16] (https://www. physionet.org/content/slpdb/1.0.0/), были получено при обнаружении 16 субъектов в лаборатории сна больницы Бет Исраэль в Бостоне. Все испытуемые были мужчинами в возрасте от 32 до 56 лет (в среднем 43) и весили от 89 до 152 кг (в среднем 119 кг). Данные включают в себя 81-часовой импульсный сигнал с частотой дискретизации 250 Гц и соответствующие аннотации синдрома апноэ во сне, среди которых сегмент достоверных сигналов высокого качества показан на рисунке 1 (а).Помимо дрейфа базовой линии, шума промышленной частоты и помех от электромиографии, импульсные сигналы, собранные в реальных условиях, могут также включать шумы, вызванные нестабильной мощностью переключателя, и шумы, вызванные плохим контактом датчика. Как показано на Рисунке 1 (b), амплитуда пикового шума очень высока, почти достигая максимума аналого-цифрового преобразователя. Зашумленный сигнал, возникающий при плохом контакте датчика, показан на Рисунке 1 (c), без входного сигнала во второй половине сегмента.

    Зашумленные сигналы низкого качества не подходят для последующей модели обнаружения. Следовательно, необходимо разработать эффективный алгоритм для распознавания таких сигналов. В базе данных импульсов Массачусетского технологического института имеется 81 час импульсных сигналов, которые в основном используются для обнаружения апноэ во сне, и эксперты уже предоставили аннотации для сигналов продолжительностью 30 секунд в каждом сегменте, всего 9720 сегментов. Как известно, последующий анализ основан на качестве данных, поэтому шумы в импульсных сигналах влияют на точность построения модели апноэ во сне.Таким образом, в этом исследовании, в аналогичной схеме, качественные аннотации данных присваиваются сигналам продолжительностью 30 секунд в каждом сегменте, который используется для исследования алгоритма распознавания шума. Обнаружено, что за все 81 час импульсных сигналов наблюдаются 35-минутные шумы плохого контакта с датчиком и 25-минутные всплески шума.

    3. Метод
    3.1. Характеристики и основные принципы критерия Chauvenet

    В этом исследовании был предложен метод распознавания шумных импульсных сигналов на основе критерия распознавания грубых ошибок. Широко используются критерии Паута, критерий Романовского, критерий Диксона, критерий Граббса и критерий Шовене [14]. Критерий Паута применим только при условии достаточного времени сбора, поэтому его нельзя применять к небольшому количеству сигналов. В критерии Романовского необходимы итерационные вычисления, чтобы определить, есть ли грубые ошибки в каждом сегменте сигналов. С помощью этого метода нельзя сразу обнаружить шумы из большого количества данных.Как в критерии Граббса, так и в критерии Диксона данные должны быть отсортированы в первую очередь, и при каждом вычислении может быть обнаружен только первый или последний сегмент сигналов. Необходимо проводить многократные итерационные вычисления, что является сложным и неэффективным процессом. Для критерия Шовене не требуется ни многократной итерации, ни сортировки данных, который не ограничен объемом данных, поэтому легче проводить быстрое и точное различение.

    Критерий Шовене — это строгий критерий определения грубых ошибок, основанный на равной доверительной вероятности [17]. Диапазон вероятности, включающий все выборки в наборе данных и центрированный на среднем значении, определяется, и все данные за пределами диапазона принимаются как ненормальные и должны быть удалены из набора данных. Если количество записанных измерений равно n , также называемое размером выборки, тогда доверительная вероятность равна. Величина соответствует объединенной вероятности, представленной двумя хвостами нормального распределения, и из-за ее симметрии можно рассматривать только вероятность одного хвоста.Коэффициент Шовенэ, который также называют максимально допустимым отклонением, можно получить, найдя балл z , соответствующий части доверительной вероятности, поэтому он связан только с размером выборки. В условиях нормального распределения (среднее значение распределения равно 0, а стандартное отклонение равно 1) коэффициент Шовенэ может быть рассчитан по значению обратной функции на основе или по эмпирической формуле. Если абсолютное значение разницы между обнаруженным значением и средним значением больше, чем произведение стандартного отклонения и коэффициента Шовенэ, обнаруженное значение определяется как содержащее грубые ошибки.

    3.2. Метод предварительной обработки импульсных сигналов с адаптивными порогами на основе критерия Шовене

    В этом исследовании аномальные импульсные сигналы распознаются по критерию Шовенэ, и шаги следующие.

    3.2.1. Расчет характеристических выборок

    Для любого набора исходных данных, включая импульсные сигналы в м -секции с длиной n для каждой секции,. В этом приложении импульсные сигналы длятся 30 секунд в каждом сегменте, всего 9720 сегментов, что, таким образом, равно 7500 и равно 9720.

    (1) Характерные образцы пиковых шумов . Исходные сегментированные сигналы принимаются в соответствии с характеристиками амплитуды всплесков шума для обнаружения. Поэтому, во-первых, среднее значение для каждого исходного сегмента данных вычисляется по очереди, чтобы сформировать выборку среднего значения, а затем, стандартное отклонение для каждого сегмента данных вычисляется по очереди, чтобы сформировать выборку стандартного отклонения,, В этом приложении, n равно 7500, m равно 9720 и представляет собой 9720 размерный массив, полученный расчетным путем.

    (2) Характерные образцы слабого шума контакта датчика . В соответствии с особенностями шумов, связанных с плохим контактом датчика, мы разделяем 9720 сегментов импульсных сигналов на 10 групп и вычисляем среднее значение выборок стандартного отклонения для каждой группы, а затем вычисляем стандартное отклонение выборок стандартного отклонения, .

    3.2.2. Определение адаптивных пороговых значений

    Адаптивные пороги предназначены для более точного распознавания.Для объекта X , подлежащего измерению, с количеством t , уравнение адаптивного порога T выглядит следующим образом: где — среднее значение выборки, — стандартное отклонение выборки, а — вычисленный коэффициент Шовене. по эмпирическим формулам в этом приложении.

    (1) Расчет пороговых значений для распознавания пиковых шумов . Применяя уравнение (1) для расчета порогового значения для различения пикового шума, исходные сегментированные сигналы выбираются в качестве объектов обнаружения, количество объектов обнаружения определяется размером выборки каждого сегмента сигналов, а пороговое значение шума пиков составляет n обозначает размер выборки и является коэффициентом Шовенэ для распознавания пикового шума. В этом приложении n равно 7500, вычисляется на шаге 1, и затем мы можем получить.

    (2) Расчет пороговых значений для плохой дискриминации контактного шума датчика . Для сигналов с плохим контактом датчика в качестве объектов обнаружения выбирается образец стандартного отклонения, количество объектов обнаружения определяется количеством сегментов сигнала, а порог шума плохого контакта датчика равен м. обозначает сегментов и — коэффициент Шовенэ для распознавания шума при плохом контакте датчика.В этом приложении м равно 972« вычисляется на шаге 1, и затем мы можем получить.

    3.2.3. Дискриминация импульсного шума и шума плохого контакта с датчиком

    (1) Дискриминация импульсного шума . Что касается аномального сигнала с пиковым шумом, поскольку амплитуда пикового шума чрезвычайно велика, для каждого исходного сегментированного сигнала используется критерий Шовене, чтобы определить, есть ли аномальное значение. Если это так, сегментированный сигнал воспринимается как пиковый шум. Другими словами, если абсолютное значение разницы между определенным обнаруженным значением и средним значением сигналов в сегменте больше, чем пороговое значение шума пиков, как показано в уравнении (4), обнаруживаемый сегментированный сигнал принимается как аномальный сигнал, включая пиковый шум. Все сегменты сигнала распознаются по очереди, и местоположения выделенных пиковых шумов записываются в наборе P1:

    (2) Дискриминация плохого контакта датчика и контакта . Что касается шумов из-за плохого контакта с датчиком, из-за наличия внезапных изменений амплитуды импульсного сигнала при плохом контакте с датчиком, критерий Шовене используется для выборки стандартного отклонения, чтобы определить, есть ли среди них какие-либо аномальные значения.Если это так, сегмент сигналов, соответствующий этому ненормальному стандартному отклонению, принимается за шумы плохого контакта датчика. Другими словами, если абсолютное значение разницы между стандартным отклонением и его средним значением больше, чем порог плохого контакта с датчиком, как показано в уравнении (5), сигнал, соответствующий этому стандартному отклонению принимается за шум плохого контакта датчика. Расположение выделенных шумов от плохого контакта датчика записывается в наборе P2:

    3.2.4. Удаление шума

    Шумы удаляются из исходных сигналов, чтобы получить окончательные предварительно обработанные сигналы в соответствии с местоположением аномальных сигналов, которое является объединением набора P1 и набора P2.

    4. Результаты и обсуждение

    Исходные сигналы за 81 час в базе данных были разделены на 9720 сегментов во временной последовательности, по 30 секунд для каждого сегмента. Затем все 9720 сегментов были равномерно разделены на 10 групп по 972 сегмента в каждой. Предложенный метод в этом исследовании был применен к каждой группе.Для группы 1 результаты обнаружения показаны на рисунке 2, а стандартные отклонения 972 сегментов показаны на рисунке 2 (а). По оси абсцисс показаны положения сегментированных сигналов группы 1, всего 972 сегмента. По оси ординат представлены стандартные отклонения, соответствующие сегментированным сигналам.

    Как видно на рисунке 2 (а), стандартные отклонения сигналов в сегменте 253 и сегменте 765 намного выше, чем у других сигналов, поэтому можно определить, что эти два сегмента включают шумы плохого контакта датчика. .Формы сигналов в сегменте 253 и 765 показаны на рисунках 2 (b) и 2 (c), и для четкого сравнения форм сигналов их амплитуды нормированы от 0 до 1. Абсцисса обозначает время сбора данных и ордината нормированных амплитуд. Можно видеть, что в сигналах, представленных на рисунках 2 (b) и 2 (c), присутствуют шумы из-за плохого контакта датчика.

    Предлагаемый в этом исследовании метод был применен к группе 7, и обнаруженные шумы показаны на рисунках 3 (a) –3 (d), соответствующих сегментам 13, 201, 331 и 719, соответственно.Видно, что во всех четырех сегментах присутствуют шумы с аномальными амплитудами.

    Предложенный метод был применен к 10 группам импульсного сигнала, соответственно, и два типа шумов (шум спайков и шум плохого контакта датчика) были обнаружены в каждой группе. Результаты дискриминации показаны в таблице 1. Точность предложенного метода, Accuracy_D , рассчитывается следующим образом: где TP истинно положительно, когда шумы распознаются как шумы, TN истинно отрицательно, когда нормальные сигналы распознаются как нормальные сигналы, FP ложноположительно, когда нормальные сигналы распознаются как шумы, а FN является ложноотрицательным, когда шумы распознаются как нормальные сигналы.

    % 907

    No. True False TP TN FP FN Погрешность (%)
    1 968 4 18 950 2 2 99,59 0,41
    2 972 907 907 907 907 0 100.00 0,00
    3 968 4 8 960 2 2 99,59 0,41
    17 907 907 907 907 907 2 1 99,69 0,31
    5 970 2 2 968 0 2 17 3 12 957 0 3 99.69 0,31
    7 968 4 4 964 3 1 99,59 0,41
    0,407 0 3 99,69 0,31
    9 966 6 11 955 0 6 17 907 907 907 907 907 907 907 907 907 907 7 5 960 6 1 99. 28 0,72
    Всего 9684 36 99 9585 15 21
    — 907 907 907 — 907 907 99,63 0,37

    Как видно из таблицы 1, точность дискриминации каждой группы сигналов превышает 99%.В результате, 9684 сегмента из 9720 были правильно выделены, а средняя точность предложенного метода различения достигла 99,63% при средней относительной ошибке 0,37%.

    Для оценки эффекта удаления шума с помощью предложенного метода проводится имитационный эксперимент для сравнения схожести двух сигналов путем вычисления коэффициента подобия Жаккара (JSC) (показано в уравнении (7)). Чем ближе значение JSC к 1, тем выше сходство между двумя сигналами: где представляет опорный сигнал, а представляет зашумленный сигнал или обработанный сигнал.

    Часть импульсных сигналов хорошего качества, служащих опорным сигналом (обозначенная как Rsig ) (показанная на Рисунке 4 (a)), зашумленный сигнал (названный как Nsig ) (показанный на Рисунке 4 (b)) ) синтезируется путем добавления к опорному сигналу шума пиков и шума плохого контакта датчика. Затем с помощью предложенного метода получают предварительно обработанный сигнал (обозначенный как Psig ) (показанный на рисунке 4 (c)).

    Сравнивая формы сигналов на рис. 4, можно заметить, что пиковый шум и шум плохого контакта датчика значительно уменьшены.Помимо визуального сравнения, АО используется для количественной оценки предложенного метода. АО, рассчитанное между Rsig и Nsig , составляет 0,77, а между Rsig и Psig составляет 0,93. Результат показывает, что предлагаемый нами метод позволяет получить более высокое значение JSC, ближе к опорному сигналу, что предполагает улучшение качества сигнала.

    Чтобы проверить надежность метода, была создана модель обнаружения апноэ во сне на основе нейронной сети с обратным распространением (BP), с исходными импульсными сигналами, шумоподавленные сигналы были получены методом медианной фильтрации [12 ], и предварительно обработанные сигналы с помощью предложенного метода использовались в качестве входных данных для модели, соответственно, а аннотации синдрома апноэ во сне в качестве выходных данных, которые были отмечены как модели ORIP-Apnea, Denoising-Apnea и PREP-Apnea, соответственно. .До предварительной обработки было 9720 сегментов импульсного сигнала, а после удаления шумов предложенным методом осталось 9 606 сегментов. Модель обнаружения представляет собой трехслойную нейронную сеть БП с числом нейронов в скрытом слое 50. Передаточная функция в скрытом слое — сигмоид , передаточная функция в выходном слое — softmax , производительность функция кросс-энтропия , а обучающая функция traincg . Расчет точности модели Accuracy_M показан, где TPA означает истинное апноэ во сне, TNA — истинное апноэ вне сна, FPA — ложное апноэ во сне и FNA — ложное апноэ вне сна.

    10-кратная перекрестная проверка использовалась для расчета скорости распознавания (RR, точность, рассчитанная с использованием набора обучающих данных) и скорости прогнозирования (PR, точность, рассчитанная с использованием набора тестовых данных) ORIP-Apnea, Denoising-Apnea и PREP-Apnea, как показано в таблице 2.

    907% 907

    No. ORIP-Apnea Denoising-Apnea PREP-Apnea
    PR (%) RR (%) PR (%) RR (%) PR (%)

    1 78.41 78,02 79,12 79,04 81,74 80,92
    2 78,64 78,80 78,68 79.09 78,68 79.09 78,68 79.09 78,76 79,02 82,37 81,07
    4 78,16 78,55 79,84 79,44 80.82 80,91
    5 77,28 76,11 79,64 79,12 81,67 80,87
    6 7 907
    7 79,33 76,16 79,23 79,17 81,33 81,58
    8 78,50 78. 22 78,65 78,83 82,56 80,04
    9 77,82 77,92 79,26 79,01 79,26 79,01 83,512 907 79,06 81,03 80,37
    Среднее значение 78,11 77,61 79,12 79,06 81,96 81.06

    Как показано в таблице 2, средняя скорость распознавания и прогнозирования ORIP-Apnea составляет 78,11% и 77,61%, соответственно, а также Denoising-Apnea и PREP-Apnea составляют 79,12%, 79,06%, 81,96% и 81,06% соответственно. Как скорость распознавания, так и скорость предсказания PREP-Apnea выше, чем у ORIP-Apnea и Denoising-Apnea, при этом скорость распознавания увеличилась на 3,85%, а скорость предсказания увеличилась на 3.45% после предварительной обработки исходного сигнала, что в основном связано с тем, что предложенный метод предварительной обработки идентифицировал и обрабатывал шумы, которые всегда ошибочно принимают за сигналы апноэ. Предварительно обработанные сигналы могут повысить точность при применении к модели обнаружения апноэ, что указывает на то, что предлагаемый метод является надежным методом предварительной обработки импульсных сигналов.

    Чтобы доказать эффективность, мы провели эксперимент по сравнению времени выполнения с использованием компьютера (64-битная конфигурация ПК: Windows 7 64 бит, Matlab R2014a 64 бит, Intel Core i5-7500, 3.4 ГГц, 32 ГБ ОЗУ) и сравнил время выполнения предложенного метода на основе Шовене с временем выполнения метода на основе Романовского, который требует многократных итерационных вычислений. Сравнение времени выполнения двумя методами показано в таблице 3.


    CET (s) RET CET (s) RET (s) CET (s) RET (s)

    1 1. 54 12,73 1,56 111,98 1,75 1040,93
    2 1,55 12,56 1,56 113124 1,56 113407 9017 907 907 907 907 907 907 9017 907 1,56 112,80 1,73 1022,54
    4 1,56 12,54 1,56 109,51 1.79 1033,36
    5 1,54 12,60 1,56 113,33 1,75 1023,35
    6 7 12176 907 907 907 217
    7 1,54 12,60 1,56 111,50 1,73 1029,24
    8 1,54 12.55 1,57 111,98 1,74 1034,65
    9 1,54 12,58 1,56 112,08 1,56 112,08 1,76
    7
    7
    112,13 1,74 1025,65
    Среднее значение 1,54 12,60 1,56 112,12 1,75 1032. 48

    Примечание . N обозначает сегменты импульсных сигналов, обрабатываемых двумя методами, а CET и RET представляют время выполнения с использованием предложенного метода на основе Шовене и метода на основе Романовского соответственно.

    Если запись содержит M точек выборки, среднее значение и стандартное отклонение будут рассчитаны M раз по методу Романовского, поэтому для N записей вычисления будут временными.Однако среднее значение и стандартное отклонение будут вычисляться один раз для каждой записи методом на основе Шовене, поэтому с N записей вычисления будут производиться только N раз. Как показано в Таблице 3, мы можем видеть, что RET значительно увеличивается с увеличением количества записей N . Производительность указывает на то, что CET короче, чем RET, и превосходство предложенного метода во времени выполнения становится более значительным по мере увеличения размера данных.

    5.Заключение

    Предлагается метод предварительной обработки, основанный на критерии Шовене, для решения проблемы, заключающейся в том, что шумы серьезно влияют на точность последующих моделей обнаружения. Ссылаясь на теорию ошибок, адаптивные пороговые значения для распознавания шумов разрабатываются в соответствии с характеристиками пиковых шумов и шума плохого контакта датчика, а также характеристик исходных импульсных сигналов. Шумы удаляются с помощью дискриминации, основанной на критерии Шовене, благодаря чему качество сигнала улучшается.Импульсные сигналы из базы данных MIT-BIH предварительно обрабатываются предложенным методом, и обнаруживается, что точность распознавания достигла 99,63%. Эффект удаления шума оценивается с помощью эксперимента по сравнению подобия. Рассчитываемые до и после шумоподавления значения АОП увеличились с 0,77 до 0,93 соответственно. Результаты показывают, что с помощью предлагаемого метода качество сигнала улучшается. Для проверки надежности метода модели обнаружения апноэ во сне, ORIP-Apnea, Denoising-Apnea и PREP-Apnea, основанные на нейронной сети BP, настраиваются с использованием исходных импульсных сигналов, шумоподавленных сигналов и предварительно обработанных сигналов в качестве входных данных. , соответственно.Как скорость распознавания, так и скорость прогнозирования PREP-Apnea выше, чем ORIP-Apnea и Denoising-Apnea. По сравнению с ORIP-Apnea, частота распознавания и прогнозируемость PREP-Apnea увеличились на 3,85% и 3,45% соответственно. Кроме того, для подтверждения эффективности проводится сравнительный эксперимент по времени выполнения, причем время выполнения предложенного метода намного короче, чем у метода Романовского. Производительность показывает, что по скорости обработки преимущество предложенного метода тем больше, чем больше размер данных.Приведенные выше результаты показывают, что предложенный метод может эффективно улучшить качество сигнала и точность обнаружения, что имеет потенциальное значение для обнаружения связанных заболеваний с помощью импульсных сигналов.

    Доступность данных

    Импульсные сигналы, используемые в этом исследовании, взяты из полисомнографической базы данных MIT-BIH (https://www.physionet.org/content/slpdb/1.0.0/).

    Конфликт интересов

    Авторы заявляют об отсутствии конфликта интересов.

    Благодарности

    Это исследование было поддержано Национальной программой исследований и разработок в области ключевых технологий Китая (№ 2017YFC0307700), Национальным фондом естественных наук провинции Цзилинь, Китай (№ 20180101049JC) и Фондом инноваций для выпускников Университета Цзилинь (№ . 101832018C029). Авторы благодарят членов проектного комитета за помощь.

    Оптимизированные параметры 1H по умолчанию | ЯМР-установка

    Everyday 1 Спектры ЯМР H должны регистрироваться с наборами параметров по умолчанию; в этом весь смысл их наличия.Большинство данных можно получить за одно сканирование (params = PROTON1). Если вы хотите более одного сканирования, вам следует использовать PROTON8, даже если вы собираетесь изменить количество сканирований (NS). PROTON1 и PROTON8 используют разные последовательности импульсов, и разница повлияет на ваши данные.

    В этом сообщении блога подробно рассказывается о том, как устанавливаются важные параметры по умолчанию 1 H 1D и почему.

    • Для большинства обычных органических проб набор параметров PROTON1 работает очень хорошо.Одно сканирование с возбуждением на 90 ° дает много сигнала, а длинный D1 (17 секунд на 400-1) обеспечивает хорошие интегралы.
    • Если вам нужно больше сканирований, подумайте, чего вы пытаетесь достичь.
      • Хотите уменьшить артефакты от вибрации и других некогерентных источников? NS> 1 делает это.
      • Хотите улучшить разрешение спектра? NS> 1 не имеет никакого эффекта — это не фактические лабораторные знания.
      • Хотите, чтобы сигналы казались сильнее по сравнению с шумом? Эффекты ограничены.Чтобы увеличить отношение сигнал / шум в два раза, вам нужно увеличить NS в ЧЕТЫРЕ раза — это эксперимент в четыре раза дольше. Затем необходимо учитывать количественные факторы повторения сканирования.
    • Если NS> 1 будет вам полезен, используйте набор параметров PROTON8 , который использует 8 сканирований.
      • Здесь используется другая последовательность импульсов: используется возбуждение 30 ° вместо 90 °; не трогайте P1.
      • Набор параметров «PROTON32» не получил широкого распространения; люди, кажется, предпочитают 8 сканирований.
    • Если вам нужно усилить слабые сигналы 1 H (например, концевые группы на полимере), используйте PROTON8 и измените значение NS на что-то большее, например 128 или 256.
    • Если вы редактируете параметры каждый раз, когда отправляете образец, вы зря теряете время. Попробуйте эти наборы параметров; если они вам не подходят, мы можем разработать для вас специальные наборы параметров.
    • Новые параметры по умолчанию:
      • PROTON1 : NS = 1, AQ = 3, D1 = 17 (400-1) / D1 = 5 (другие), O1P = 7, SW = 16, PULPROG = ZG (90-градусное возбуждение)
      • ПРОТОН8 : NS = 8, AQ = 3, D1 = 1.5, O1P = 7, SW = 16, PULPROG = ZG30 (возбуждение 30 градусов)

    Фон:

    Даже для наиболее распространенных задач, таких как 1D 1 H спектры, установка параметров сбора данных по умолчанию может быть проблемой. Необходимо сделать предположения о том, какие молекулы являются «типичными» в образцах, каковы их концентрации в образцах и сколько времени пользователи потратят на сбор данных. Теория ЯМР дает лишь ограниченное руководство, и практический подход к развитию заслуживает внимания.

    Ключевые факторы реального мира, которые следует учитывать:

    • S / N (отношение сигнал / шум). В отличие от УФ / видимых спектров (например), спектры ЯМР обычно не имеют значимой шкалы на вертикальной оси. Уровень сигнала необходимо измерять, сравнивая его с уровнем шума в спектре.
      • Хотя интегрировать пики несложно, как «интегрировать» шум? В принципе, шум должен быть одинаково положительным и отрицательным при достаточной выборке. Для расчета уровня шума программное обеспечение вычисляет «среднеквадратичный» (RMS) шум — числовая интенсивность каждой точки в указанном диапазоне шума возводится в квадрат, затем вычисляется среднее значение, затем квадратный корень из взято среднее.
      • Затем можно рассчитать отношение сигнал / шум, взяв интеграл от пика и сравнив его со среднеквадратичным интегральным значением заданной области шума.
    • Интенсивность сигнала. При сравнении спектров часто бывает достаточно просто наложить их и изучить высоту пика («интенсивность сигнала»), не обязательно измеряя интегральную интенсивность.
    • Общее время эксперимента. Какие бы параметры ЯМР не использовались, ваш основной интерес, вероятно, заключается в получении максимального сигнала с значимой интенсивностью за минимальное время.Оказывается, это сложно, в зависимости от нескольких различных параметров И конкретного образца.
    • T 1 Время релаксации. Кажущаяся скорость затухания, которую вы видите при взгляде на FID, называется T 2 *, но скорость затухания, которая влияет на то, насколько быстро спины фактически восстанавливаются до состояния равновесия, называется T 1 . T 1 — физическая константа, определяемая рядом различных факторов, и эти факторы различны для каждого ядра в молекуле.Значения T 1 варьируются от 0,2 до 3,0 секунд для большинства сигналов 1 H в малых молекулах (MW 100-600), но значения T 1 сигналов остаточного растворителя намного больше — обычно от 10 до 60 секунд или более.
    • Параметры, которыми вы можете управлять
      • AQ: Время, затраченное a c q на каждое сканирование ваших данных. Это значение должно определяться временем, которое требуется для заметного затухания большинства сигналов, T 2 *.На практике обработка по умолчанию включает коэффициент «расширения линии», LB = 0,3 Гц, который имитирует ускорение затухания сигнала, а установка AQ более ~ 3 секунд имеет небольшую практическую пользу. Таким образом, большинство спектров 1 H используют AQ = 3,0.

        Эксперимент ЯМР с импульсной съемкой

      • NS: Число n из s банок, которые вы сложите вместе, чтобы получить окончательный спектр. Ваш основной выбор — использовать NS = 1 или NS> 1.
        • Интенсивность каждой точки в пике должна складываться конструктивно (1 + 1 = 2), но точки в областях шума, случайно составленные из положительных и отрицательных точек, должны складываться полуконструктивно (1 + 1 «=» √2 ). Таким образом, накопление сканированных изображений добавляет больше сигнала, чем шума, улучшая отношение сигнал / шум, S / N. В идеале увеличение NS = 1 до NS = 4 должно удвоить ваше отношение сигнал / шум.
        • Использование NS> 1 дает дополнительный эффект уменьшения артефактов, которые появляются со случайной фазой, таких как боковые полосы, возникающие из-за вибрации образца.
        • Для большинства неполимерных органических молекул NS = 1 дает достаточный сигнал.
        • Использование NS> 1 требует учета эффектов повторения, которые должны учитывать значения T 1 в интересующей молекуле.
      • D1: задержка пульса. Рассматривая расслабление ваших вращений, подумайте о том, что они возбуждаются вашим пульсом, затем расслабляются на полпути во время периода сбора данных (AQ), а затем еще больше расслабляются в течение D1 перед повторной пульсацией.D1 называется «задержкой релаксации». Общее количество времени, в течение которого вы даете вращению расслабиться после пульсации, составляет AQ + D1. В эксперименте с множественным сканированием со сканированием NS общее время эксперимента составляет приблизительно NS * (AQ + D1).

        Эксперимент с множественным сканированием

      • PULPROG: ZG или ZG30 для 1 H. Обычно вы не устанавливаете это самостоятельно; он привязан к набору параметров. При выборе набора параметров PROTON1 используется импульсная программа ZG. При выборе набора параметров PROTON8 используется импульсная программа ZG30.
        • «ZG» использует для возбуждения импульс под углом 90 °, который отлично подходит для получения максимального сигнала за одно сканирование, но требует больше времени для релаксации перед повторным импульсом. Он используется в PROTON1 , но не должен использоваться для сбора данных с несколькими сканированиями.
        • «ZG30»: для возбуждения используется импульс 30 °, что лучше всего, если ваше NS> 1.
          • Поскольку он возбуждает ваши вращения только до 50% интенсивности за импульс, вам не нужно так долго ждать, пока ваши вращения вернутся к равновесию.
          • TRICKY: значение P1, которое вы видите в параметрах, все еще соответствует ширине импульса 90 ° ; ZG30 автоматически умножает это значение на 1/3, поэтому ФАКТИЧЕСКАЯ ширина импульса НЕ равна P1.
          • ЛЮБОЙ 1 H для сбора данных с NS> 1 следует использовать последовательность импульсов ZG30, поэтому начните с набора параметров PROTON8 и измените значение NS.
      • P1 : Ширина импульса 90 °. Все импульсные последовательности Bruker предполагают, что P1 соответствует времени импульса, необходимому для максимального возбуждения — «ширина импульса 90 °». Он специально откалиброван для каждого зонда на каждом спектрометре для определенного уровня мощности, и значения нельзя поменять местами. Установка «P1 = 3.0» или «P1 = 1.0» не имеет особого физического смысла. Лучше оставить P1 в покое , если у вас нет особой причины его изменить и вы не знаете, что делаете.
        • Установка P1 вручную с помощью импульсных последовательностей ZG30 и ZGDC30 может привести к очень слабым сигналам. Например, если вы попытаетесь настроить пульс так, чтобы возбуждение было 30 °, то на самом деле вы получите возбуждение 10 °, что очень мало.

    Чтобы сделать наборы параметров по умолчанию наиболее подходящими для всех, давайте начнем с некоторых предположений, а затем проверим влияние различных вариантов.

    Руководящие принципы

    • Spectrum S / N должно быть максимальным за наименьшее количество общего времени эксперимента.
    • Артефакты должны быть минимизированы.
    • Интегральные значения должны быть надежными для всех нормальных пиков пробы.
    • Интегральные значения для растворителя, ТМС, остаточной воды и т. Д. Следует игнорировать.
    • Предположения о «нормальных» образцах:
      • Молекулы имеют молекулярную массу ~ 80 — 300 г / моль
      • Образцы содержат ~ 10-20 мг соединения
      • Чистота пробы не имеет значения для определения параметров

    NS = 1: нет необходимости в испытании

    Лучший способ получить хорошие интегральные значения — это подождать бесконечное время, а затем запустить спины с помощью импульса 90 °.Эти условия практически создаются с помощью одного сканирования, которому предшествует большая задержка (например, 17 секунд). Они воплощены в наборах параметров PROTON1.

    ТЕСТ: изменение D1 с NS = 8, импульсное возбуждение 90 °

    Чтобы проверить влияние различных настроек D1 на спектры, рассмотрите серию экспериментов с возбуждением под углом 90 °, 8 сканирований с AQ = 3,0 с и различными настройками D1. Во всех показанных здесь экспериментах использовалось пятнадцать значений D1:
    D1 = 30, 20, 15, 10, 8, 6, 5, 4, 3, 2.5, 2.0, 1.5, 1.0, 0.75, 0.5 секунды

    Здесь мы видим, как интенсивность остаточного сигнала DMSO-d5h зависит от настройки D1:

    Рис. Импульсное возбуждение под углом 90 °, NS = 8, влияние настроек D1 на остаточный пик ДМСО

    Очевидно, что интенсивность этого пика очень сильно зависит от значения D1. Поэтому мы не можем количественно использовать для этого пика ни высоту пика, ни интегральные значения пика, если только мы не используем чрезвычайно высокую настройку D1 (например, 90+ секунд).

    Неужели все так плохо для сигналов с более короткими значениями T 1 ? Давайте посмотрим, для молекулы цис-2-метоксикоричной кислоты:

    Рис.4 Импульсное возбуждение под углом 90 °, NS = 8, влияние настроек D1 на пик с нормальным T 1 .

    В этих условиях сигналы с «нормальными» значениями T 1 не сильно зависят от D1. Тем не менее, это сильно зависит от настройки AQ = 3,0 секунды. Помните, надежность интегральных значений зависит от СУММЫ AQ + D1; наименьшая задержка повторного использования (AQ + D1), которую мы опробовали здесь, составляет 3,5 секунды. Если бы мы установили AQ = 1.0, наименьшая общая задержка повторного цикла составила бы 1,5 секунды.

    А как насчет пиков с умеренными значениями T 1 ? T1 от 2,0 до 6,0 секунд являются обычными, например, для сигналов ароматических, кислотных и аминных 1 H.

    Fig5 Импульсное возбуждение под углом 90 °, NS = 8, влияние настроек D1 на пик с умеренным T1

    Данные показывают, что пики умеренные, T 1 (например, 4,0 секунды), значительно уменьшаются при уменьшении D1. Для обеспечения надежных интегралов этих пиков с импульсом возбуждения под углом 90 ° и многократным сканированием необходимо установить D1 на значение более 6-8 секунд. Такие настройки сделали бы эти простые стандартные спектры трудоемкими и, следовательно, дорогостоящими.

    ВЫВОД: Возможно, комбинация возбуждения под углом 90 ° и нескольких сканирований (NS> 1) того не стоит.

    Угол Эрнста

    Вопрос о том, как максимизировать интенсивность сигнала ЯМР в кратчайшие сроки, стоит уже несколько десятилетий. Нобелевский лауреат Ричард Эрнст подошел к этому математически и вывел уравнение для «угла Эрнста» — угла возбуждения, который даст наиболее интенсивный сигнал за кратчайшее время при усреднении сигнала. Это дает следующее уравнение:

    Рис.6 Уравнение угла Эрнста

    Где Theta-E — оптимальный угол возбуждения, d1 — задержка релаксации D1, at — время захвата AQ, а T 1 — время релаксации T 1 рассматриваемого пика.

    БОНУС: Узнайте, кто написал много статей в Википедии.

    ОГРАНИЧЕНИЕ: угол Эрнста можно рассчитать только для одного пика, поэтому даже если один пик оптимизирован, его интегральное значение не будет количественно сопоставимо с таковыми для пиков с разными значениями T 1 той же молекулы. Поэтому при установке параметров сбора данных по умолчанию для получения надежных относительных интегральных значений мы должны использовать угол Эрнста только в качестве приблизительного ориентира и учитывать пики с наибольшим значением T 1 с, которое мы можем ожидать.

    Пример: для нашего пика с T 1 = 4,0 с, если мы используем AQ = 3,0 и D1 = 3,0, угол Эрнста будет 77 °.

    Подход Bruker

    На практике угол возбуждения — не лучший параметр, который нужно оптимизировать для рутинной одномерной работы. Он определяется шириной импульса P1 и должен быть тщательно откалиброван для каждого зонда на каждом приборе.

    Лучшим подходом является использование последовательности импульсов, предоставленных Bruker, которые считывают калиброванную ширину импульса 90 °, сохраненную для каждого датчика на каждом приборе, и умножают эти значения на 1/3 для получения импульсов 30 °.Если вы откроете спектр 1D 1 H в Topspin, вы сможете увидеть, использовали ли вы возбуждение 90 ° или 30 °, просмотрев параметр PULPROG или проверив вкладку с надписью «pulseprog»; Если вы не редактировали P1 и использовали «zg», вы получили импульс 90 °; если это было «zg30», вы получили импульс 30 °.

    Если вы предположите, что AQ = 3 и D1 = 3, вы можете рассчитать, что возбуждение 30 ° является оптимальным для сигналов с T 1 , равным 42 секундам — ​​очень долго! Поскольку большинство наших типичных сигналов 1 H имеют T1 намного меньше этого, мы можем безопасно уменьшить значение D1, если используем возбуждение 30 °.

    Испытание: изменение D1 с импульсным возбуждением 30 °, NS = 8

    Давайте исследуем, как интенсивности разных сигналов реагируют на разные значения D1 при возбуждении 30-градусным импульсом (программа импульсов = «zg30»). Как и в примерах выше, мы будем использовать цис-2-метоксикоричную кислоту, NS = 8 и AQ = 3,0

    .

    Рис. 7 Импульсное возбуждение 30 °, NS = 8, влияние настроек D1 на пик с «нормальным» T 1

    При угле возбуждения 30 ° мы видим, что пиковые интенсивности практически не меняются на D1.Таким образом, мы можем получить хорошие интегралы для большинства пиков даже с очень короткими значениями D1 (например, 1,0 с).

    Рассмотрим влияние на пики с умеренными значениями T 1 .

    Fig8 Импульсное возбуждение 30 °, NS = 8, влияние настроек D1 на пики с умеренным T 1

    Даже при использовании импульсов возбуждения под углом 30 ° мы все же видим некоторое снижение интенсивности пиков при умеренных значениях T 1 . Однако эффекты относительно небольшие. Для этого пика с Т 1 = 4.0 секунд, мы можем количественно определить высоту пика как функцию настройки D1:

    D1 = 30, I = 100%
    D1 = 5,0, I = 98,2%
    D1 = 4,0, I = 97,7%
    D1 = 3,0, I = 96,9%
    D1 = 2,5, I = 96,4%
    D1 = 2,0, I = 95,9%
    D1 = 1,5, I = 95,1%
    D1 = 1,0, I = 94,4%
    D1 = 0,75, I = 93,8%
    D1 = 0,50, I = 93,1%

    Конечно, мы хотим выбрать самое короткое значение D1, которое все же дает нам хорошую интегральную надежность для пиков со значениями T 1 , которые мы можем ожидать.

    В этом тесте с использованием возбуждения 30 ° мы видим, что установка

    D1 = 1,5 с снижает пиковую интенсивность пика умеренного T 1 менее чем на 5%, так что это значение теперь используется по умолчанию в параметре PROTON8. набор.

    Последующее наблюдение: как изменение D1 влияет на длинные пики растворителя T 1 с импульсом возбуждения 30 °?

    Рис.9 Импульсное возбуждение 30 °, NS = 8, влияние настроек D1 на пики с длинным T 1 (растворитель)

    Мы ясно видим, что это сигнал растворителя, с T 1 из 12.9 секунд, по-прежнему значительно зависит от уменьшения D1, даже несмотря на то, что возбуждение осуществляется 30-градусными импульсами. Вы не можете полагаться на интегралы пиков растворителя, чтобы иметь количественное значение. НИКОГДА не используйте пики остаточного растворителя для измерения концентраций!

    • Для большинства образцов лучший набор параметров 1D 1 H — PROTON1 (одно сканирование, импульс 90 °)
    • Если требуется несколько сканирований, используйте PROTON8 (импульс 30 °, 8 сканирований, но при желании NS можно изменить)
    • AQ = 3.0 в обоих наборах параметров, чтобы обеспечить хорошее разрешение без чрезмерного шума.
    • D1 = 1,5 сек для PROTON8, чтобы минимизировать общее время эксперимента при сохранении 95% надежности пиковой интенсивности для большинства пиков образца.
    • Не менять P1.
    • D1 для PROTON1 длиннее на 400-1, чем на приборах с ручным управлением, чтобы предоставить дополнительное время для автоматической регулировки усиления.

    Границы | Биологически обоснованная обработка импульсных сигналов для интеллекта на периферии

    1 Введение

    Машинное обучение (ML), особенно глубокое обучение (DL), быстро становится de facto решением на основе модели во многих областях информационных технологий из-за его беспрецедентная точность во многих практических задачах, таких как классификация изображений, распознавание речи, обработка естественного языка и т. д. (Collobert and Weston, 2008; Hinton et al., 2012; Крижевский и др., 2012). Однако этот прорыв в производительности не является бесплатным, то есть теорема без бесплатного обеда (Wolpert, 1996). Решения DL обычно основываются на огромных объемах данных (где данные используются в качестве дешевой предварительной модели для моделирования) и требуют высокой вычислительной нагрузки и использования памяти из-за их большой многомасштабной архитектуры, которая требует специализированного оборудования, например графических процессоров (GPU). и / или облачные вычисления.

    Во многих инженерных приложениях, от мониторинга до управления процессами, а также в точках продаж, управлении запасами, распознавании речи, принятии решений и мониторинге в реальном времени в медицинских приложениях, автоматическом переводе, социальных сетях и т. Д., необходимо предоставлять решения, которые можно запускать в небольших микропроцессорах или встроенных системах. Возможно, область приложения, которая больше всего страдает в связи с высокими требованиями к вычислительным ресурсам DL, — это периферийные вычисления (Shi et al., 2016), т. Е. Возможность реализовывать интеллектуальные решения для обработки сигналов в режиме онлайн рядом с датчиками, экономя огромную полосу пропускания и сокращая задержку за счет передача обработанных решений вместо необработанных данных. Точно так же внедрение стандартов Индустрии 4.0, которые революционизируют производственные и промышленные платформы, выиграет от того же подхода.Эти, наряду с проблемами этики, конфиденциальности и безопасности, будут только усугубляться, если не будут должным образом решены, по мере того, как все больше и больше устройств будут подключаться. По оценкам, в 2023 году к IP-сетям будут подключены 29,3 миллиарда сетевых устройств (Cisco, 2020), а к 2021 году около 850 зеттабайт (ZB) данных будут ежегодно генерироваться вне облака, что составляет конкуренцию за глобальный трафик центров обработки данных, составляющий всего 21 ZB. (Cisco, 2019).

    Чтобы предоставлять решения для машинного обучения в реальном времени, мы не должны забывать алгоритм наименьших средних квадратов (LMS) Уидроу, изобретенный в 1960 году (Widrow and Stearns, 1985), который изменяет параметры системы после каждой выборки данных.Если можно выполнить это обновление до того, как поступит следующая выборка данных (определяется частотой входной выборки), у нас будет обучение в реальном времени на линейной модели. С появлением адаптивной фильтрации ядра (KAF) (Liu et al., 2010) стало возможным обучение нелинейной модели в реальном времени. Совсем недавно мы продвинули современное состояние, предложив первую полностью разработанную реализацию модели пространства состояний в гильбертовом пространстве воспроизводящего ядра (RKHS), адаптивной динамической системе, называемой Kernel Adaptive AutoRegressive-Moving-Average (KAARMA). алгоритм, используя теорему о представителе (Li and Príncipe, 2016).Рекуррентные картографы необходимы для приложений временных рядов. Мы знаем, как создавать крупномасштабные решения с нуля, но остается вопрос, как эффективно масштабировать их для периферии, где не поддерживаются сложные алгоритмы машинного обучения и передовое электронное оборудование.

    Предлагаемый подход будет новым в двух фундаментальных отношениях. Во-первых, мы утверждаем, что для многих приложений, особенно в автономном обучении или реализации, нет веской причины, помимо простоты, для развертывания той же программы машинного обучения, которая ищет в обучающем наборе оптимальные границы принятия решений (или соответствующие гиперплоскости), который был принят сообществом машинного обучения.После того, как параметры зафиксированы, отображение ввода-вывода было обнаружено (то есть детерминировано) и может быть легко аппроксимировано редким вариантом аппаратного обеспечения, например, программируемой вентильной матрицей (FPGA), с использованием методов на основе памяти, дополненных правилом конечные автоматы (FSM) или автоматы, похожие на таблицы поиска. Во-вторых, исходя из биологии, должны существовать преимущества мощности и пропускной способности при работе с точечными процессами, потому что нейроны в мозге взаимодействуют таким образом.Вычисления на основе шипов активно исследуются в нейроморфных вычислениях (Maass et al., 2005), однако мы полагаем, что критически важной проблемой является эффективное обучение этих архитектур, даже если мы упустим из виду многие другие узкие места цифровых вычислений (все еще сложно) или аналоговые реализации (все еще страдающие дрейфом параметров). В настоящее время обучаются только прогнозы, что является недостатком. В качестве альтернативы наш подход требует обработки с помощью пиков или импульсных последовательностей во временной области, что является сущностью нейроморфных решений, но с использованием статистической обработки сигналов и машинного обучения для поиска оптимальных решений, что устраняет оба недостатка нейроморфных подходов.Мы называем этот подход нейро-статистической архитектурой с разреженным воплощением (SENSA), которая будет автоматизирована с помощью изученного (фиксированного) сопоставления ввода-вывода для периферийных вычислений и Интернета вещей (IoT).

    Мы предпочитаем использовать терминологию «последовательности импульсов» вместо нейроморфных «цепочек импульсов» из-за особого способа преобразования сигналов непрерывной амплитуды и времени, создаваемых в реальном мире с помощью преобразователя интеграции и запуска (IFC ) (Сингх Альварадо и др., 2011). Мы математически показали, что IFC создает дискретную (положительные и отрицательные импульсы) непрерывную последовательность импульсов, в которой временное расстояние между импульсами (межимпульсный интервал) переводит площадь под кривой и позволяет восстановить исходный непрерывный сигнал с произвольным небольшая ошибка аппроксимации (Feichtinger et al., 2012). Впоследствии мы показали, что можно выполнять арифметические операции (сложение, умножение и свертку) аналоговых сигналов напрямую, используя последовательности импульсов (Nallathambi and Principe, 2020). Большая привлекательность этого подхода — потенциальная реализация со сверхнизким энергопотреблением из-за асинхронного характера вычислений, то есть алгоритм выполняет вычисления только при наличии импульса. Следовательно, теоретически для этого требуются только триггеры и память, а не синхронные процессоры. Одна из трудностей, с которыми мы столкнулись в начале нашей работы, заключалась в необходимости разработки автоматов с использованием экспертных знаний о сигнале.Впоследствии эта трудность была устранена с помощью методологии машинного обучения, которая непосредственно из импульсных последовательностей обучается функциям, необходимым для приложения, с использованием контролируемого обучения. Наш подход является интерактивным и использует сегменты многоканальных последовательностей импульсов для определения воспроизводящего ядра, а затем отображает данные импульсов в RKHS, где классические линейные методы используются для получения нелинейных решений в исходном входном пространстве с использованием внутренних произведений.

    В частности, мы предлагаем метод разреженных импульсных автоматов через воспроизводящее ядро ​​(SPARK) для SENSA, который сначала конструирует обучающуюся машину в форме динамической системы с использованием энергоэффективных последовательностей импульсов и KAARMA, а затем извлекает разреженное решение на основе правил, в виде автоматов с использованием прототипов на основе метрик для быстрого развертывания на периферийных вычислительных платформах.Теория воспроизведения ядер (Aronszajn, 1950) является привлекательной альтернативой повсеместным нейронным сетям, используемым в DL, поскольку это более принципиальный и систематический подход к обучению обучающих машин. Не существует архитектурного гиперпараметра для установки (т.е. непараметрического), и в случае решений с прямой связью, таких как опорные векторные машины (SVM), глобальный оптимум может быть достигнут непосредственно из данных с использованием квадратичного программирования. Результаты также можно легко интерпретировать, используя геометрию и статистическую теорию обучения.Недавнее возрождение интереса к методам ядра проложило путь к конкурентоспособным результатам при выполнении многих сложных задач по сравнению с глубокими нейронными сетями (Rahimi and Recht, 2007; Cho and Saul, 2009; Huang et al., 2014; Wilson et al., 2016). ).

    Граничные вычисления могут выиграть с точки зрения ядра, что делает их более мощными и применимыми к нелинейной обработке более простым и элегантным способом. Чтобы преодолеть недостаток традиционных методов ядра, которые требовали входных данных фиксированной (постоянной) размерности или статических шаблонов, мы разработали алгоритм KAARMA для обучения последовательности и учета изменчивости во временном измерении пространственно-временных сигналов (Li and Príncipe, 2016).

    Ключевым преимуществом методов ядра является их способность работать с функциями в RKHS, а изменение воспроизводящей функции ядра не влияет на базовый алгоритм обучения. Следовательно, SPARK не зависит от типа входа и может работать с действительными векторами, используя гауссово ядро, или непосредственно с последовательностями импульсов, основанных на событиях, путем разработки соответствующего ядра импульсов. Эта взаимозаменяемость не применима к искусственным нейронным сетям (ИНС) и нейронным сетям с пиками (SNN), потому что последовательности пиков недифференцируемы.

    В качестве доказательства концепции мы применим парадигму SENSA к изолированному распознаванию речи с помощью SPARK. Речевые сигналы очень нестационарны с большими вариациями в их пространственно-временной реализации. Мы уже показали, что KAARMA превосходит скрытые модели Маркова (HMM) и машины с жидким состоянием (LSM) для распознавания речи (Li and Príncipe, 2018a), используя обычные речевые функции и последовательности импульсов, имитирующие улитку слуховой системы человека, с точки зрения повышенная точность и шумоустойчивость.Наш нейронно-статистический подход на основе импульсов идеально подходит для Интернета вещей и периферийных вычислений, поскольку единственное требование — это временная метка на частоте Найквиста источника данных, которая снижает тактовую частоту аппаратной реализации, например, в ПЛИС, на порядки. по сравнению с текущим поколением процессоров цифровых сигналов (DSP) и графических процессоров. Мы продемонстрируем, что эта комбинация биологически вдохновленного импульсного ввода и реализации на основе памяти еще больше снижает вычислительные затраты и занимаемую площадь, что открывает дверь для интеллектуальной обработки микроваттных сигналов в реальном времени в практическом интеллекте в пограничных приложениях.

    Мы организовываем оставшуюся часть этого документа следующим образом. В разделе 2 мы представляем нейро-статистическую архитектуру разреженного воплощения и SPARK. Эффективность распознавания изолированных слов как в программном, так и в аппаратном обеспечении оценивается в Разделе 3 с использованием эталонного набора цифр TI-46. Наконец, раздел 4 завершает эту статью.

    2 метода

    SENSA состоит из двух отдельных этапов. Во-первых, мы кодируем временную структуру и временную эволюцию временных рядов, таких как речь, в последовательности всплесков или импульсов.Энергетическая эффективность передачи нейронных сигналов играет важную роль в биологии, особенно в обработке информации человеческим мозгом. В частности, мы хотим разработать основанную на биологических методах непрерывную систему машинного обучения без ручного извлечения функций или инженерии, минуя стадию генерации импульсов.

    Кроме того, вместо изучения статических моделей с прямой связью, мы стремимся изучать и моделировать динамику непосредственно на последовательностях импульсов путем построения модели пространства состояний (SMM) в RKHS.Этот динамический системный подход уходит корнями в классическую механику Ньютона, где эволюция наблюдаемых во времени регулируется аттракторами, грамматикой или правилами. Эта структура может быть использована для объяснения кажущихся хаотическими временных рядов с помощью простых переходов в скрытое состояние. Грамматический вывод или открытие правил динамических систем обеспечивает экономичный способ анализа, моделирования и классификации траекторий с большими вариациями в реализации (времени и масштабе), но эквивалентными по динамике. Это позволяет нам находить такое элегантное привлекательное поведение и сокращать масштабы решений машинного обучения.

    Рекуррентные сети обычно используются для изучения временных структур и временных зависимостей в данных. Однако на практике решение зависит от конкретного типа данных, например, обычные ANN и SNN включают в себя совершенно разные механизмы обучения и выходные данные из-за недифференцируемых функций активации нейронов с импульсами. В этой статье мы стремимся к объединяющей структуре, независимой от представления входного сигнала. Это значительно повышает полезность и универсальность решений машинного обучения.Для достижения этой цели мы применяем теорию RKHS для отображения входной последовательности импульсов (одноканальной или многоканальной) в RKHS, а затем конструируем и изучаем динамическую систему в этом пространстве с помощью KAARMA. Для ядерных методов алгоритм обучения определяется в терминах внутренних продуктов между потенциально бесконечномерными функциями или функциями в функциональном пространстве, а не в терминах исходного входного представления. Входные данные могут принимать форму дискретных импульсов, атрибутов с непрерывными значениями, символов или графиков.Мы можем вычислить внутренний продукт в закрытой форме, используя трюк ядра . Следовательно, у нас есть свобода выбора входного представления независимо с соответствующей функцией воспроизводящего ядра, и изменение пары вход-ядро не влияет на алгоритм обучения.

    Во-вторых, мы формулируем метод систематического встраивания, который извлекает изученную динамику в форме простых автоматов или таблиц поиска с использованием прототипов и реализует или развертывает их на оборудовании. После изучения и фиксации динамики эти решения на основе памяти не требуют сложных вычислений и полностью заменяют функции перехода между состояниями и наблюдения динамической системы на предыдущем этапе.Эти редкие варианты воплощения идеальны для быстрого развертывания в IoT и периферийных вычислениях, где ресурсы ограничены. Эта конкретная формулировка SENSA с использованием ядерных методов называется SPARK.

    2.1 Нейро-статистическая архитектура с разреженным вариантом воплощения

    Обычное машинное обучение использует одну и ту же сеть для обучения и тестирования. Однако существует множество сценариев, в которых невозможно поддерживать сложное крупномасштабное обучение, например, при периферийных вычислениях. SENSA — это подход, который поддерживает большую сеть, обученную онлайн или офлайн, всегда используя данные с импульсным шифрованием, и периодически развертывает или обновляет гибкое портативное решение, уменьшенную версию, приближенную к желаемой точности, для обработки в реальном времени рядом с датчиками. в средах с ограниченными ресурсами с использованием методов на основе памяти, дополненных детерминированными конечными автоматами на основе правил (DFA).

    Энергоэффективность вычислений с импульсными цепями давно понята и оценена (Maass, 1997; Furber et al., 2014; Merolla et al., 2014), особенно в контексте пиковых нейронных сетей. Однако существует пропасть между методиками непрерывных сигналов амплитуды и последовательностями всплесков на основе событий. Сети SNN, обученные либо напрямую с использованием пластичности, зависящей от времени пика (STDP), либо посредством обратного распространения, не продемонстрировали сопоставимых результатов с DL ANN. Текущие исследования нейроморфных архитектур в основном сосредоточены на преобразовании обученной глубокой нейронной сети в SNN для повышения ее точности (Rueckauer et al., 2017). Этот пробел можно легко устранить с помощью методологий RKHS, поскольку фактическое представление входных данных является вторичным для методов ядра. Действительно, один и тот же код ML может использоваться для обоих типов сигналов, если выбрана правильная функция ядра для каждой модальности сигнала. Таким образом, мы предлагаем альтернативный нейро-статистический подход, который использует импульсный или импульсный вход для получения энергоэффективных решений с малой задержкой. Этот новый подход позволяет развертывать сверхнизкое энергопотребление в портальных устройствах, подключенных к интеллектуальным персональным помощникам и другим устройствам IoT.

    Как показано на рисунке 1, этот новый гибридный нейроморфно-статистический подход машинного обучения для обучения, основанного на мозге, сначала преобразует аналоговые сигналы в эффективные по данным двоичные последовательности импульсов, а затем использует метод ядра для обучения адаптивных моделей в пространстве состояний. Эти динамические модели затем можно аппроксимировать с использованием разреженного варианта осуществления и развернуть в сети перепрограммируемых конечных автоматов, используя только синхронизацию цифровых импульсов и поиск по таблице для индексации следующего состояния или вывода, без выполнения дорогостоящих вычислений.По сравнению с обычными функциями ввода, последовательности импульсов на основе событий (широко используемые в нервной системе в качестве основного режима обработки и передачи информации) являются высокоэффективными и устойчивыми к шумам, что приводит к чрезвычайно малой занимаемой площади аппаратного обеспечения, идеально подходящей для работы с низким энергопотреблением. -переработка микросхем. Кроме того, за счет использования конечных автоматов предлагаемый подход не требует арифметических операций для функциональной оценки (выходные значения извлекаются из памяти), что позволяет выполнять комплексную обработку в реальном времени, которая в противном случае повлекла бы за собой непомерно высокие расходы или была бы перемещена с периферии в облако.Таким образом, SENSA предлагает повышенную безопасность и конфиденциальность, устраняя необходимость постоянно загружать потенциально конфиденциальные данные в онлайн для обработки, и использует только данные с импульсным шифрованием.

    РИСУНОК 1 . Нейро-статистическая архитектура с разреженным воплощением (SENSA): после обучения параметров обучения отображение ввода-вывода может быть легко аппроксимировано с использованием методов на основе памяти, дополненных конечным автоматом на основе правил (FSM) для быстрого развертывания в оборудовании (FPGA). Мы называем эту конкретную формулировку использованием методов ядра для построения модели автоматов с разреженными импульсами через воспроизводящее ядро ​​(SPARK).

    Мы решили использовать методы ядра вместо типичных нейронных сетей, используемых в DL, потому что теория RKHS является теоретически обоснованной, мощной и универсальной объединяющей структурой для решения нелинейных задач в обработке сигналов и машинном обучении. Нет a priori необходимости выбирать правильное количество параметров для моделирования. Сложность методов ядра зависит от количества обучающих примеров, а не от размерности входных функций или архитектуры сети.Таким образом, ядерные методы чрезвычайно эффективны, когда размерность данных высока, а количество обучающих выборок относительно невелико. Кроме того, все онлайн-методы ядра естественным образом поддаются методам разбиения, поскольку образцы данных обрабатываются на индивидуальной основе. Мы разработали несколько методов сдерживания роста подобных сетей, в том числе с использованием комбинации критериев новизны и неожиданности, а также квазиортогональной декомпозиции (Li and Príncipe, 2016; Li and Príncipe, 2017; Li and Príncipe, 2018a).Самым большим преимуществом SPARK является то, что фактическое представление данных вторично по отношению к алгоритму обучения. Эта ключевая особенность не накладывает никаких ограничений на отношения между входными сигналами или их типами, например, мы можем легко моделировать биологические системы, используя комбинацию потенциалов локального поля с непрерывной амплитудой (LFP), нейронного сигнала с импульсной последовательностью и векторизованных переменных состояния. на входе. Это делает решения SPARK чрезвычайно гибкими.

    2.2 Построение модели с использованием ядра Adaptive AutoRegressive-Moving-Average

    Мы утверждаем, что динамические подходы гораздо более подходят для работы с пространственно-временными сигналами и в сочетании с импульсными последовательностями, синтезируемыми или генерируемыми непосредственно из управляемых деятельностью, основанных на событиях С помощью датчиков технического зрения достигается метод сжимающей выборки, который снижает корреляцию со временем, что затрудняет анализ случайных процессов (и это все еще недооценивается).Для фиксации структуры во временных рядах требуются нелинейные модели состояния. Моделирование состояния очень эффективно представляет историю сигнала и использует эту информацию в текущее время. Наш подход использует нелинейные проекции данных в бесконечномерное гильбертово пространство функций, которое мы назвали ядерной адаптивной фильтрацией (Liu et al., 2010). Теория RKHS упрощает операции над функциями, ограничивая их внутренними продуктами (трюк с ядром , ).

    Здесь мы кратко представляем базовую концепцию линейной фильтрации в RKHS или KAF.Для набора из N точек данных D = {xi, yi} i = 1N, со входом xi∈Rnx (где Rnx — это n x -мерное реальное пространство) и на выходе yi∈R, мы хотите вывести базовую функцию y = f ( x ). С точки зрения пространства весов, предполагаемая скрытая функция f̂ (x) выражается в терминах набора параметров или вектора весов W∈Rnx как

    Чтобы преодолеть ограниченную выразительность этой линейной модели, мы сначала проецируем входной вектор x ∈U⊆Rnx (где U — компактная входная область в Rnx) в потенциально бесконечномерное пространство признаков F, используя отображение U → F ϕ (), затем уравнение.1 становится

    f̂ (x) = ⟨Ω, ϕ (x) ⟩F = Ω⊺ϕ (x), (2)

    , где Ω — потенциально бесконечномерный весовой вектор в пространстве признаков, обозначенный греческой буквой.

    Применение трюка с ядром и теоремы о представителе (Scholkopf et al., 2001), Eq. 2 можно представить в виде взвешенной суммы базисных функций

    f̂ (x) = ∑i = 1NαiK (xi, x), (3)

    где α i — коэффициенты, K (x, x ′ ) представляет собой воспроизводящее ядро ​​или ядро ​​Мерсера, связанное со скалярным произведением ϕ (x), ϕ (x ‘) F, а N — количество базисных функций или обучающих выборок.Заметим, что F эквивалентно RKHS H, индуцированному ядром, если отождествить ϕ (x) = K (x, ⋅), т. Е. F = H. Обычно используется радиальная базисная функция Гаусса (RBF)

    Ka (x, x ′) = exp − a‖x − x′‖2, (4)

    с параметром ядра a > 0. Ключевая особенность Ядра Мерсера — это универсальное свойство аппроксимации: произвольная непрерывная целевая функция может быть аппроксимирована равномерно с любой степенью точности по любому компактному подмножеству входного пространства. Теория RKHS позволяет нам представить общую нелинейную функцию как вектор линейных весов Ω в пространстве признаков.

    2.2.1 Представление пространства состояний в гильбертовом пространстве воспроизводящего ядра

    С точки зрения динамических систем, рекуррентные сети важны для изучения временных структур и временных зависимостей в данных. Нас интересует рекурсивная оценка скрытых состояний через последовательность наблюдений или измерений, зависящих от состояния. Теория RKHS позволяет нам построить нелинейную модель пространства состояний с линейными весами в функциональном пространстве.

    Сначала мы определяем динамическую систему в терминах общей непрерывной нелинейной функции перехода состояний и измерения, f (⋅, ⋅) и h (⋅), соответственно,

    , где

    f (xi − 1 , ui) = Δf (1) (xi − 1, ui),…, f (nx) (xi − 1, ui) T = xi (1),…, xi (nx) T, (7) h (xi ) = Δh (1) (xi),…, h (ny) (xi) T = yi (1),…, yi (ny) T, (8)

    с входным вектором ui∈Rnu, вектором состояния xi∈Rnx и выведите yi∈Rny, где они имеют независимую размерность или степени свободы, с верхним индексом в скобках ( k ) , обозначающим k -й столбец матрицы или k -й компонент вектора .Чтобы проиллюстрировать не зависящее от входа свойство формулировки SPARK, мы сначала описываем алгоритм KAARMA, используя общую входную последовательность (действительный вектор) u i , а затем изменим его для последовательности импульсов в разделе 2.3, что по существу составляет простая замена воспроизводящего ядра.

    Для простоты выразим динамическую систему, определенную в уравнениях 5, 6, с помощью нового вектора скрытого состояния

    si = Δxiyi = f (xi − 1, ui) h◦f (xi − 1, ui), (9) yi = si (ns − ny + 1: ns) = 0Iny︸Ixiyi, (10)

    где ◦ — оператор композиции функций, 0 — это n y × n x нулевая матрица, а Iny — это единичная матрица n y × n y .Объединяя вектор исходного состояния x i с выходом y i , мы создаем расширенный вектор состояния si∈Rns, то есть n s = n x + n y . Используя это выражение, уравнение измерения упрощается до матрицы выбора I = Δ0Iny.

    Используя новую переменную состояния s , мы определяем следующую эквивалентную функцию перехода g ( s i −1 , u i ) = f ( x i −1 , u i ), и уравнения 9, 10 становятся

    Для моделирования динамической системы с общими непрерывными нелинейными функциями перехода и измерения, g (⋅, ⋅) и h g (⋅, ⋅), соответственно, сначала мы отображаем входной вектор u i и расширенный вектор состояния s i в два отдельных RKHS как ϕ (ui) ∈Hu и φ (si) ∈Hs соответственно.Затем модель пространства состояний, определяемая уравнениями 11, 12, может быть переписана как набор весов (т. Е. Функций во входном пространстве) в объединенном RKHS Hsu = ΔHs⊗Hu, используя теорему о представителе, как

    Ω = ΔΩHsu = Δg (⋅, ⋅) h◦g (⋅, ⋅), (13)

    где ⊗ обозначает оператор тензорного произведения. Признаки в совместном тензорном произведении RKHS определяются как

    ψ (si − 1, ui) = Δφ (si − 1) ⊗ϕ (ui) ∈Hsu, (14)

    , а ядро ​​тензорного произведения определяется как

    ⟨Ψ (s, u), ψ (s ′, u ′) ⟩Hsu = ∆Kasu (s, u, s ′, u ′) = (Kas⊗Kau) (s, u, s ′, u ′) = Kas (s, s ′) ⋅Kau (u, u ′).(15)

    Здесь выборки данных оцениваются с использованием внутренних продуктов или мер сходства. Мы можем увидеть ядро ​​тензорного произведения в формуле. 15 в качестве аналога логического оператора И с мягкими значениями для совместного сходства, например, для достижения желаемого следующего состояния требуются как правильный ввод, так и правильное предыдущее состояние.

    Наконец, комбинируя уравнения 10–12, 13, модель пространства состояний ядра (SSM) становится

    На рисунке 2 показана простая адаптивная модель ARMA ядра, работающая с многоканальными последовательностями импульсов.Как правило, переменные состояний x i скрыты от наблюдателя, и желаемый результат d i может быть недоступен на каждом временном шаге, например, отложенное желаемое выходное значение d f или метка последовательности для всего временного ряда появляется только на последнем проиндексированном шаге i = f .

    РИСУНОК 2 . Ядро адаптивной сети авторегрессионного скользящего среднего (KAARMA), работающей на многоканальных последовательностях импульсов.

    В этой статье мы заинтересованы в изучении и моделировании динамики неизвестной системы, где единственная информация, которую мы знаем во время обучения, — это метки последовательности, то есть y f = ± 1 для положительного или отрицательного пример целевого класса последовательностей. Это задача вывода, а не проблема прогнозирования. Нет никакого предсказания следующего ввода в последовательности, как в традиционном кадровом подходе HMM. Сеть либо принимает, либо отклоняет весь временной ряд в конце каждой последовательности.По сравнению с задачами прогнозирования это сложнее, потому что у нас нет полных знаний о классификации каждой возможной подпоследовательности (то есть, когда вывод и прогноз эквивалентны). С другой стороны, эта формулировка гораздо более полезна и универсальна, поскольку динамическая модель не делает никаких предположений о длине последовательности f , т.е. она может работать с последовательностями произвольной продолжительности. Чтобы решить эту проблему, мы воспользуемся подходом грамматического вывода. Функции перехода между состояниями и измерения могут быть параметризованы как веса полностью подключенной рекуррентной сети и адаптированы путем обратного распространения ошибки метки с конца каждой входной последовательности.

    Адаптация параметров для линейной модели состояния хорошо изучена, и знаменитый фильтр Калмана является эффективным рекурсивным оценщиком, который может обновляться в реальном времени. Однако линейная модель состояния не универсальна, т.е. решения с небольшой ошибкой возможны только тогда, когда желаемый отклик существует в диапазоне входного пространства (Хайкин, 1998). Предыдущие исследования динамического моделирования сложных нелинейных пространственно-временных сигналов, таких как речь, демонстрируют, что линейная динамическая модель не может конкурировать со статистической моделью HMM.С другой стороны, теория RKHS позволяет классическим линейным методам производить общие нелинейные решения, и, работая в потенциально бесконечномерном функциональном пространстве, мы освобождаемся от ограниченной выразительности входного пространства и модели. Веса Ом в RKHS могут быть изучены с помощью стохастического градиентного спуска, для более подробного обсуждения процедуры адаптивного обновления с каждой входящей входной выборкой, пожалуйста, обратитесь к полному производному KAARMA (Li and Príncipe, 2016).Совсем недавно мы распространили байесовскую фильтрацию на функциональное пространство в (Li and Principe, 2019).

    Алгоритм KAARMA объединяет лучшее из обоих миров: он сохраняет простоту линейной динамической модели и обладает универсальным свойством функциональных пространств. Эта гибкость делает его идеально подходящим для приложений, включающих несколько модальностей сигналов и с разными временными масштабами, например, приложения вычислительной нейробиологии, использующие либо потенциалы локального поля, либо последовательности импульсов, либо их комбинацию.Приложение распознавания речи иллюстрирует подход статистического обучения к работе с многоканальными последовательностями импульсов, который улучшает биореализм подхода и позволяет нам воспользоваться преимуществами энергоэффективного и ресурсосберегающего кодирования и обработки импульсной информации. Универсальность достигается за счет обеспечения взаимозаменяемости типов данных. Таким образом, основным строительным блоком для разработки KAARMA на основе импульсов является ядро, которое будет обсуждаться далее.

    2.3 Воспроизведение гильбертова пространства ядра для последовательностей импульсов

    Последовательность импульсов представлена ​​как последовательность M асинхронных, упорядоченных моментов времени пиков, т.е.е., P (i) = {tm∈T: m = 1,…, M} в интервале T = [0, T], что можно интерпретировать как реализацию лежащего в основе стохастического точечного процесса i с условным функция интенсивности λ (t | Ht (i)), временная координата t∈T = [0, T] и история процесса до момента времени t как Ht (i). Основная проблема при обработке импульсных сигналов состоит в том, что последовательности импульсов лишены естественной алгебры. Чтобы преодолеть это, мы должны сначала создать пространство с необходимыми свойствами для вычислений. Наш подход состоит в том, чтобы определить соответствующую функцию воспроизводящего ядра на последовательностях импульсов, которая непараметрически фиксирует мгновенные временные структуры и изменчивость импульсов, основанных на событиях.Как только мы определяем такое положительно-определенное ядро ​​или ядро ​​Мерсера для импульсов, оно отображает последовательности импульсов в гильбертово пространство функций, позволяя напрямую применять классические методы линейной обработки сигналов с помощью трюка с ядром .

    Чтобы определить совместное тензорное произведение RKHS для реализации KAARMA на основе импульсов, мы выбираем ядро ​​Шенберга (Park et al., 2012), универсальное нелинейное ядро ​​с последовательностью импульсов без бинарных данных. Он использует функции условной интенсивности для вычисления сходства между двумя временными точечными процессами и является биологическим.Ядро Шенберга обладает тремя ключевыми преимуществами по сравнению с другими ядрами с последовательностью импульсов: 1) определяет инъективное отображение 2) включает нейронные отклики произвольной стохастичности в качестве выборочного среднего в RKHS и 3) аппроксимирует произвольную функцию последовательности импульсов как универсальное ядро ​​( Park et al., 2013). Для двух условных функций интенсивности λt | Ht (i) и λt | Ht (j) ядро ​​Шенберга определяется как

    Kaλλt | Ht (i), λt | Ht (j) = Δexp − aλ∫τλt | Ht (i) −λt | Ht (j) 2dt, (18)

    с параметром ядра последовательности импульсов a λ > 0 (Paiva et al., 2009; Park et al., 2012; Дура-Бернал и др., 2016). Для данной последовательности импульсов мы можем оценить ее условную функцию интенсивности, свернув импульсы t m с функцией сглаживания g ( t ) как

    λ̂ (t) = ∑m = 1Mg ( t − tm), {tm∈T: m = 1,…, M}. (19)

    Мы можем использовать это ядро ​​для вычисления внутреннего произведения между парой последовательностей импульсов одинаковой длительности T и произвольным количеством пиков. либо от одного интегрально-запального преобразователя, взятого в разное время, либо от двух разных IFC в одном временном окне.Для распознавания речи нас интересует количественная оценка разницы в оценках функции условной интенсивности или временных структурах одной и той же последовательности импульсов или канала IFC во времени. Для многоканального импульсного входа мера подобия может быть суммирована или усреднена по всем каналам. В частности, многоканальные последовательности импульсов сегментируются на более мелкие последовательности субимпульсов фиксированной длительности, аналогично традиционной сегментации речи с использованием фиксированного размера кадра и скорости, но без выделения признаков.На рисунке 2 показана сеть KAARMA, работающая непосредственно на многоканальных кадрах последовательности импульсов длительностью T на каждом дискретном временном шаге.

    Для простоты, но без ограничения общности, прямоугольная сглаживающая функция g (t) = 1TU (t) −U (t − T) используется для оценки функции условной интенсивности со ступенчатой ​​функцией Хевисайда U ( t ) и T≫Δτ̄ — средний межимпульсный интервал. Здесь расстояние между последовательностями импульсов определяется точным временем импульсов из каждого упорядоченного набора и не зависит от количества импульсов.Когда количество импульсов отличается, мы дополняем последовательность импульсов меньшим количеством отсчетов с интервалом времени или размером кадра T . Один из способов концептуализировать это состоит в том, что, когда два временных точечных процесса похожи, их импульсы становятся ближе или синхронизируются, уменьшая попарное расстояние.

    2.4 Ядро Адаптивная цепочка авторегрессии-скользящего среднего и направленное обучение

    Для изучения долгосрочных зависимостей простой метод состоит в том, чтобы разделить входную последовательность на фиксированное количество более мелких последовательностей (длина каждой подпоследовательности не фиксирована) и обучить цепочка каскадных сетей KAARMA, каждая из которых отвечает за свою упорядоченную область входного сигнала (Li and Príncipe, 2018b).Мы рассматриваем каждый упорядоченный раздел как отдельную грамматику и обучаем для каждого отдельную сеть KAARMA, но используем одну и ту же метку класса. Общая вероятность распознавания становится продуктом индивидуальных оценок soft-max каждой сети.

    В отличие от статических шаблонов, которые работают локально, изменение порядка следования на обратное создает новую динамическую систему или дополнительную грамматику, которую можно комбинировать с оригиналом для повышения эффективности классификации. Здесь мы объединяем результаты двух цепочек KAARMA, обученных на одних и тех же последовательностях в прямом временном направлении слева направо (L2R или → с контекстной информацией, созданной из прошлого) и обратном порядке справа налево (R2L или ← с будущим контекстом), просто умножив их оценки softmax, чтобы получить двунаправленную () систему с повышенной скоростью распознавания.

    2.5 Извлечение правил для развертывания разреженных воплощений в пограничных вычислениях

    В теории формального языка (Harrison, 1978) детерминированные конечные автоматы распознают регулярные грамматики в иерархии Хомского (Chomsky, 1956) и могут работать как в режиме генерации языка, так и в режиме проверки. . DFA формально определяется как набор из 5 элементов: A = ⟨Q, Σ, δ, q0, F⟩, с конечным набором состояний Q , конечным входным алфавитом Σ , функцией перехода состояний δ где ( δ : Q × Σ Q ) отображает текущее состояние и входной символ в следующее состояние, начальное состояние q0∈Q и набор принимающих (конечных) состояний F Вопрос .DFA можно эффективно реализовать в виде таблицы поиска. Для входной последовательности или слова w в алфавите Σ DFA A распознает w , если он достигает состояния приема после последнего символа, в противном случае w считается неграмматическим и отклоняется. Язык L (A) — это набор всех приемлемых строк по A.

    Грамматика, с другой стороны, представляет собой набор из четырех элементов: G = ⟨N, T, P, S⟩, с непересекающимися конечными наборами нетерминальных символы N , символы терминала T , набор правил продукции P и начальный символ S N .Грамматика регулярная тогда и только тогда, когда каждое производственное правило в P является одной из следующих трех форм: 1) B → a, 2) B → aC или 3) B ϵ , где B и C находятся в нетерминальном наборе N с B = C разрешено, a∈T, а ϵ — пустая строка. Из A легко построить такую ​​регулярную грамматику, что L (G) = L (A). Грамматика — это порождающий дескриптор языка, а соответствующий DFA — аналитический дескриптор.

    DFA или FSM моделируют динамическую систему с дискретным временем (DTDS) в дискретном пространстве состояний, где из начального состояния входная последовательность однозначно определяет все переходы между состояниями. С этой точки зрения идентификация DTDS может рассматриваться как задача грамматического вывода: из обучающего набора положительных и отрицательных примеров последовательностей вывести грамматику, удовлетворяющую всем доступным образцам. Однако грамматическая индукция является NP-полной (Gold, 1978). Эвристические алгоритмы использовались в ранних исследованиях DTDS, но было показано, что они плохо масштабируются с размером автомата (Angluin and Smith, 1983).С 1940-х годов отношения между автоматом и рекуррентными нейронными сетями (RNN) широко изучаются (McCulloch and Pitts, 1943). Мински показал, что RNN могут моделировать любой автомат (Minsky, 1967), а затем Зигельманн для произвольной машины Тьюринга в реальном времени (Siegelmann and Sontag, 1995). В (Li and Príncipe, 2016) мы показали, что сети KAARMA могут эффективно выводить грамматики, используя гораздо меньше обучающих выборок, чем RNN. Используя динамический системный подход с формулировкой грамматического вывода, KAARMA фиксирует динамику входных последовательностей с помощью небольшого набора аттракторов, что значительно облегчает извлечение конечного автомата или таблицы поиска из обученной сети.

    Для данных с действительным знаком (бесконечный размер алфавита) наша цель — обобщить входные шаблоны и состояния на набор прототипов, а затем использовать обученную динамическую систему для перечисления и отслеживания всех возможных следующих состояний и формирования поиска на основе памяти table, который может быть встроен в оборудование и работать на лету без выполнения сложных вычислений. Чтобы получить представление с конечным числом состояний из обученной сети KAARMA, мы сначала дискретизируем входное пространство и пространство состояний. Проклятие размерности , связанное с многомерным состоянием и входными пространствами, можно легко избежать для ядерных методов путем кластеризации только тех частей пространства, где доступны данные, т.е.е., подпространство, охватываемое обучающими данными. Используя метод пространственной кластеризации, описанный в (Li and Príncipe, 2016, Algorithm 2), мы вводим два фактора квантования или пороговые значения кластеризации на основе расстояния: q вход и q состояние , для входного пространства и пространство состояний соответственно. Начальные алфавиты состоят из начального состояния и первого входного вектора. Чтобы сформировать соответствующие алфавиты Q и Σ непосредственно из обучающих данных, состояния (где следующие состояния генерируются с использованием обученной сети KAARMA) и входные точки вводятся в алгоритм пространственной кластеризации или квантователь по одному.Евклидовы расстояния вычисляются относительно всех предыдущих центров обработки данных или букв в алфавитах. Если минимальное расстояние для новой точки данных меньше, чем коэффициент квантования, словарь или алфавит остаются неизменными; в противном случае он добавляется к соответствующему алфавиту. Этот метод разрежения ранее использовался для обучения сетей KAARMA с использованием значительно меньшего количества точек данных, чем доступно (Li and Príncipe, 2016).

    После того, как мы зафиксировали входной алфавит и алфавит состояний конечного автомата, запустив все обучающие данные через обученную сеть KAARMA и применив пространственную кластеризацию ко всем входным точкам данных с использованием пороговых значений q input и q state , мы можем отобразить таблицу переходов состояний ( δ : Q × Σ Q ) для любых пар вход-состояние.Опять же, это достигается путем обработки всех пар вход-состояние в алфавитах Σ и Q через обученную сеть KAARMA и индексации ближайшего евклидова соседа в алфавите состояний Q для вывода следующего состояния. После извлечения таблицы переходов состояний мы можем дополнительно минимизировать размер алфавита состояний, удалив недостижимые состояния и объединяя неразличимые состояния, чтобы сформировать минимальный автомат, как показано в (Li and Príncipe, 2016).

    3 Результаты моделирования

    Speech — идеальное приложение для демонстрации конкурентного преимущества SPARK для количественной оценки временной структуры вместо традиционного статистического подхода с цепью Маркова, но предлагаемая нами структура SENSA применима ко всем локально стационарным сигналам.Статистике трудно справиться с временной информацией, потому что случайный процесс представляет собой семейство случайных величин во времени, которые нарушают свойство независимого и идентично распределенного (iid), упрощающее предположение, которое позволяет статистику для реальных явлений, например, байесовский фильтр требует времени — использование условных ожиданий для количественной оценки соответствующей временной структуры.

    3.1 Система автоматического распознавания речи с использованием конечных автоматов

    Чтобы продемонстрировать нашу экспериментальную реализацию, мы использовали корпус изолированных цифр TI-46 для тестирования основанных на KAARMA классификаторов SPARK.Этот набор данных состоит из слов, произнесенных восемью мужчинами и восемью женщинами, говорящими по-английски, каждая из которых произносит цифры от «нуля» до «девяти» 26 раз с частотой дискретизации 16 кГц. Из 4160 записей, 25 из 26 высказываний в каждой паре цифра-динамик (или 4000 выборок) были использованы в последующих экспериментах с несколькими динамиками. Эти высказывания были затем случайным образом разделены на обучающий набор из 2700 высказываний с равным количеством мужских / женских высказываний и цифр (т. Е. Всего 270 высказываний на цифру с половиной от говорящих-женщин) и тестовый набор из 1300 высказываний с равным количеством высказываний. мужские / женские высказывания и цифры.

    В обычном интерфейсе автоматического распознавания речи (ASR), использующем действительные кепстральные коэффициенты Mel-частоты (MFCC) (Davis and Mermelstein, 1980), выполнялась следующая предварительная обработка и разработка функций: окно Хэмминга для каждого входного кадра и применение фильтр предыскажения первого порядка ( α = 0,95), затем вычислить спектр амплитуд с использованием дискретного преобразования Фурье (ДПФ), затем масштабировать с помощью набора фильтров Mel, наконец, получить MFCC из логарифмически сжатой и дискретно преобразованной энергии косинуса вывод.Всего было вычислено 13 MFCC, но только последние 12 коэффициентов использовались для представления статических речевых характеристик в каждом кадре длительностью 25 мс со скоростью 100 кадров в секунду (fps), то есть с интервалами 10 мс или 60% перекрытие.

    Для решения, созданного человеком, мы можем ожидать хорошей производительности, используя только 12-мерный вектор признаков. Здесь мы демонстрируем возможность выполнения той же задачи ASR с использованием последовательностей импульсов, в которых информация кодируется с высокой эффективностью в точных временных интервалах импульсов (события во времени) без дополнительной разработки функций, вместо работы с формами сигналов, в которых информация закодирована в амплитуде.Увеличение количества импульсных каналов должно повысить точность распознавания, но наша цель — установить базовые характеристики, используя только 12 каналов ввода последовательности импульсов (такое же количество эффективных каналов, как и в случае набора Mel-filterbank в обычном ASR). Чтобы сгенерировать последовательность импульсов, вдохновленных биологией, мы применили набор гамматоновых фильтров с 12 фильтрами (Patterson et al., 1987) с одинаково разнесенными центральными частотами (50 Гц — 8 кГц) на эквивалентной прямоугольной шкале скорости полосы (ERB) для каждого из них. речевой сигнал, имитирующий улитку в слуховой системе человека.Чтобы преобразовать 12-канальный отфильтрованный выходной сигнал в разреженное представление или последовательности импульсов, мы нормализовали максимальную абсолютную амплитуду до 4 мкА и использовали нейроны с интеграцией и запуском или IFC (по одному на канал) с рефрактерным током и адаптацией скорости всплесков. (SRA) (Герстнер и Кистлер, 2002). В таблице 1 приведены параметры, используемые для преобразования речевого сигнала в последовательности импульсов.

    ТАБЛИЦА 1 . Параметры интегрированного и пожарного преобразователя (IFC).

    Для обучения последовательности импульсов были помечены как ± 1 на основе целевого класса цифр и сегментированы на кадры так же, как и MFCC, с использованием 25-миллисекундных кадров при 100 кадрах в секунду.В отличие от MFCC, мы напрямую подавали многоканальные последовательности импульсов в каждом временном кадре как функции в сети KAARMA на основе импульсов без дальнейшей разработки функций (то есть временного кодирования) со значениями параметров модели, перечисленными в столбце 2 таблицы 2; На рисунке 3 показан интерфейс на основе импульсов для обработки речи.

    ТАБЛИЦА 2 . Параметры КААРМЫ.

    РИСУНОК 3 . Интерфейс последовательности импульсов для распознавания речи: речевой сигнал (дискретизированный с частотой 16 кГц) сначала проходит через 12-канальный набор фильтров гамматона с центральными частотами, равномерно распределенными между 50 Гц и 8 кГц по шкале скорости ERB, а затем преобразуется в последовательности импульсов с использованием дырявые нейроны, объединяющие и зажигающие, или IFC.Это кодирует временные ряды в биологически вдохновленное, высокоэффективное разреженное представление со средним числом всплесков на кадр ( T = 25 мс) в диапазоне от 0,42 до 25,49 для разных каналов и цифр.

    Чтобы уменьшить смещение из-за дисбаланса данных с использованием подхода «один против всех» для классификации в каждой модели слов, положительный класс (10% данных для каждой целевой цифры) был воспроизведен 3 раза в обучающей выборке со случайным размещением. Окончательная система ASR состоит из 10 моделей слов, по одной для каждой цифры.Во время обработки в качестве прогнозируемого класса выбирается модель слова с наивысшей достоверностью (наибольшее положительное конечное выходное значение). Чтобы улучшить производительность распознавания и облегчить необходимость изучения долгосрочных зависимостей, каждое высказывание разделено на пять равных сегментов, это аналогично настройке HMM с 5 состояниями. В зависимости от индивидуального высказывания каждый сегмент может содержать одну или несколько речевых функций, при этом общее количество сегментов фиксируется на 5. В этой топологии каждая модель слов состоит из пяти меньших сетей KAARMA, работающих в каскаде.Одна 5-сеточная цепочка KAARMA использовалась для моделирования каждой из десяти цифр и обучена только для одной эпохи. Параметры модели не были полностью оптимизированы для соответствующих диапазонов, чтобы уменьшить переобучение. Таблица 3 суммирует результаты. Поскольку HMM не имеет встроенной поддержки импульсного ввода, подсчет импульсов в каждом кадре (то есть кодирование скорости) использовался для вычисления скорости срабатывания и формировал непрерывный 12D-вектор признаков по всем каналам. Сети KAARMA, с другой стороны, не зависят от входного представления и поддерживают оба типа данных, при этом значения параметров кодирования скорости показаны в столбце 3 таблицы 2.

    ТАБЛИЦА 3 . Сравнение цепных классификаторов KAARMA с HMM с использованием эквивалентного числа состояний и смеси восьми гауссиан на состояние. Использовались только 12 коэффициентов MFCC без логарифмических производных по энергии и времени. Точно так же использовалось только 12 каналов последовательностей импульсов.

    В таблице 4 показаны характеристики обучающего и тестового набора поведения в конечном состоянии с использованием различных пороговых значений кластеризации. Размеры входного словаря и словаря состояний определяются из обучающего набора соответствующими коэффициентами квантования и фиксируются для набора тестирования.По мере увеличения пороговых значений q разреженность также увеличивается, поскольку все больше и больше точек данных объединяются в один прототип. На рисунке 4 показаны характеристики как функция порогов квантования. Точность распознавания обратно пропорциональна значениям q , поскольку с увеличением разреженности разрешение данных уменьшается. Тем не менее, мы все еще можем сохранить высокую точность распознавания, используя только очень небольшое подмножество исходных точек пространства состояний. Мы видим, что для обученной цепочки KAARMA извлеченное поведение конечного состояния в значительной степени определяется размером входного алфавита.Уменьшение разрешения ввода ограничивает используемые части пространства состояний.

    ТАБЛИЦА 4 . Производительность дискретизированных 5-сетевых цепочек KAARMA с использованием MFCC для обработки прямой, слева направо (L2R или →) последовательности.

    РИСУНОК 4 . Производительность как функция порогов квантования. Входной алфавит однозначно определяется его коэффициентом квантования q input (например, сплошная синяя линия показывает постоянный размер алфавита 770 для фиксированного порога q input = 0.5, независимо от значений квантования состояния), в то время как алфавит состояний является функцией как входного, так и состояния квантования (например, пунктирная черная линия показывает сокращенный алфавит состояний по мере увеличения входного квантования, даже при фиксированном квантовании состояния на q состояние = 0,8). Некоторые состояния становятся недоступными при уменьшении разрешения данных. Ясно, что скрытые состояния являются скупыми дескрипторами нелинейной динамики: хорошая точность распознавания поддерживается с использованием только небольшого подмножества исходных точек пространства состояний, т.е.е., большинство переменных состояния вращаются вокруг нескольких аттракторов.

    Без потери общности, разумный компромисс между производительностью и разреженностью достигается при использовании q входных = 0,4 и q состояния = 0,2, как показано в таблице 4, что приводит к фиксированному размеру входного алфавита 2344 и фиксированный размер состояния 53, с хорошей точностью тестового набора 95,31 % . Мы визуализировали поведение в конечном состоянии или таблицы поиска квантованных сетей на рисунках 5, 6.Поскольку размер входного алфавита 2344) относительно велик по сравнению с количеством используемых состояний 53), мы использовали следующие компактные графы переходов состояний или связности, с показанными только неориентированными переходами между парами состояний. Каждая из 10 моделей слов, соответствующих цифрам от «нуля» до «девять», состоит из пяти автоматов или таблиц поиска, каждая из которых отвечает за упорядоченный раздел произвольной длины. Состояния представлены последовательно в радиальном графике, с первым состоянием или s 1 в точке 0 радиан.Состояния принятия отмечены закрашенными зелеными точками. Поскольку каждая таблица поиска отображает направленный переход к следующему состоянию для всех возможных пар состояние-вход, без потери общности и ясности, в графах связности учитываются только верхнетреугольные соединения конечного состояния и самопереходы, а самопереходы игнорируются. Ширина края пропорциональна силе или частоте перехода между состояниями, а цветовая карта указывает входную композицию. На рисунке 5 показаны все конечные автоматы первой сети (из пяти в цепочке KAARMA) для каждой из 10 моделей слов, а на рисунке 6 показаны все пять сетей для модели слова «шесть».Эти графики связности ясно показывают, что, хотя все конечные автоматы используют одни и те же состояния и входные алфавиты, они демонстрируют совершенно разную динамику. Например, не все штаты служат местом назначения или следующим штатом.

    РИСУНОК 5 . Графики связности состояний для первых сетей из десяти моделей слов SPARK с точностью обучения 97,96% и точностью тестирования 95,31%: (A) соответствует первой сети 5-сетевой цепочки KAARMA (обозначено 1/5 ) модель слова для цифры «ноль» и т. д.Состояния принятия отмечены закрашенными зелеными точками. В графах связности учитываются только верхнетреугольные соединения конечного состояния, при этом самопереходы игнорируются.

    РИСУНОК 6 . Графы связности состояний для 5-сетевой цепочки KAARMA, соответствующей словарной модели «шесть».

    Точно так же мы можем сгенерировать справочные таблицы для последовательностей импульсов, как показано в таблице 5. В целом, при использовании внешних интерфейсов на основе всплесков производительность снижается, как показано в таблице 3.Это не только свидетельство изобретательности и распространенности созданной человеком MFCC как речевой функции de facto , но также и того факта, что основное внимание в этом исследовании уделяется не оптимизации разработки функций, а, скорее, демонстрации, в качестве доказательства принципа, что простая таблица поиска позволяет достичь конкурентного результата с использованием последовательностей импульсов. Несмотря на это падение производительности, мы показали, что входы импульсной последовательности более устойчивы к шуму, чем MFCC (Li and Príncipe, 2018b). Как и в случае с MFCC, хорошие характеристики достигаются при использовании автоматов, работающих с последовательностями импульсов, путем настройки пороговых значений кластеризации.Мы наблюдаем, что изменение последовательности импульсов на обратное привело не только к разным грамматикам или автоматам, но и к алфавитам разного размера с использованием одних и тех же пороговых значений кластера. Это связано с тем, что оценка функции условной интенсивности точечного процесса теперь вычисляется в обратном порядке, а для двух последовательностей импульсов с разным количеством пиков заполнение теперь находится на противоположном конце, создавая разные сдвинутые пары синхронизации импульсов. Мы видим, что хорошая производительность с точностью тестирования 94,54% (-0,69% от производительности неквантованной последовательности импульсов) достигается при использовании менее 7000 входных шаблонов и размера состояния менее 200.

    ТАБЛИЦА 5 . Сравнение производительности SPARK (5-сетевых цепей KARMA) с использованием последовательности импульсов с другими методами на основе пиков.

    Цель SENSA — обменять небольшое снижение производительности при оцифровке модели с аппаратным развертыванием на порядки уменьшения энергопотребления и занимаемой площади. По сравнению с методами SNN с адаптивными весами, единственное вычисление, используемое для работы этих автоматов над последовательностями импульсов, — это индексация: определение ближайшего импульсного шаблона во входном алфавите, который можно оптимизировать аппаратно, поскольку метрика подобия управляется событиями и накапливается с течением времени. с каждым импульсом, затем автоматически извлекает следующее состояние из памяти.

    3.2 Реализация конечных автоматов с программируемой логической матрицей

    После извлечения конечных автоматов аппаратная реализация становится очень простой. Проектирование автоматов распознавания речи было выполнено в Verilog, при этом функциональная правильность проекта проверена путем сравнения его результатов с результатами, полученными при программной реализации. Без потери общности, мы описываем конструктивное исполнение для первой сети словесной модели «ноль» в 5-сетевой цепочке KAARMA для ввода MFCC.Поскольку реализация последовательности импульсов также основана на памяти, мы выведем общую формулу для энергопотребления и занимаемой площади на основе размера справочной таблицы.

    Во-первых, индексация данных выполняется с использованием евклидова расстояния между входным вектором и входным алфавитом, которое определяет местоположение ближайшего входного символа в поисковой таблице или автомате. С помощью этого индекса и текущего состояния (начальное состояние фиксировано для всех таблиц поиска) мы извлекаем следующее состояние из памяти.Вышеупомянутый набор шагов повторяется, пока мы не дойдем до конца входной последовательности. Конечное состояние определяет классификацию или распознавание всей последовательности на основе ее знака (принятие / отклонение), поскольку выходной компонент вектора состояния обучается с использованием метки ± 1.

    На рисунке 7 показана схема верхнего уровня реализации в FPGA. Данные для справочной таблицы (переходы состояний) размером 2344 × 53 (размер входного алфавита по размеру алфавита состояний) и входного алфавита размером 12 × 2344 (размерность вектора признаков по размеру входного алфавита) хранятся в ОЗУ только для чтения.Таблица поиска содержит индексы (1–53) следующих состояний, к которым обращаются координаты состояния ввода. Чтобы сохранить эти значения в ОЗУ, они преобразуются в двоичное представление с помощью обычного двоично-десятичного преобразователя. Входной массив состоит из 12D векторов-столбцов, соответствующих каждому прототипу во входном алфавите. Чтобы правильно представить значения внутри этого массива в двоичном формате с минимальным количеством битов, мы сначала квантовали их, а затем преобразовали в двоичные. Здесь квантованные значения представлены 8 битами в виде дополнения до двух для представления положительных и отрицательных значений.Двоичное представление входных данных получается так же, как входной алфавит, с использованием 8-битного двоичного кода.

    РИСУНОК 7 . Схема верхнего уровня для реализации конечного автомата в оборудовании FPGA с использованием цифровых данных.

    Единственная дорогостоящая операция — это определение местоположения ближайшего соседа текущего ввода в алфавите с использованием расстояния. Мы распараллелили эту операцию, реализовав многоуровневый тракт данных, показанный на рисунке 8. Оба входа в тракт данных — это 12D-векторы.Уровень 1 канала данных вычитает попарные элементы обоих входных данных одновременно по всем 12 измерениям. Уровень 2 возводит в квадрат результаты, полученные с предыдущего уровня. Уровни 3, 4 и 5 суммируют квадраты, полученные на Уровне 2. Уровень регистров присутствует между выходом каждого уровня и входом следующего уровня. Используя эту структуру канала данных, требуется шесть тактов, чтобы вычислить евклидово расстояние между одной парой входов. Обратите внимание, что канал данных может быть конвейерным для повышения производительности за счет увеличения пропускной способности.

    РИСУНОК 8 . Многоуровневый канал данных для вычисления евклидова расстояния между входными данными (12D) и входным алфавитом, который занимает шесть тактов.

    Контроллер реализован в виде пятиступенчатого конечного автомата, который генерирует управляющие сигналы для канала данных и адреса чтения для RAM. Он выводит последовательность переходов состояний для заданного набора входных данных. Разделение функций вычислений и управления системой упрощает внедрение будущих улучшений, таких как конвейерная обработка канала данных и т. Д.

    Для акустической модели с одним ключевым словом в FSM, использующей стандартные функции MFCC, мы получили следующие измерения мощности и занимаемой площади, показанные в таблице 6, с использованием тактовой частоты 10 кГц и техпроцесса SMIC 0,18 μ м. При масштабировании до самых современных технологий производства мы можем ожидать, что потребляемая мощность менее мкм Вт, эффективно переходя в диапазон nW, как показано на рисунке 9. Это превосходит отраслевой стандарт для аппаратного определения ключевых слов с использованием аналогичный ввод.Масштабирование мощности P и области A выглядит следующим образом:

    , где L 1 и L 2 — характерные длины двух различных процессов, при этом V 180 нм = 1,8 В, V 90 нм = 1,2 В, В 65 нм = 1,2 В, В 45 нм = 1,1 В, В 32 нм = 1 В и В 14 нм = 0,7 В. Недавно опубликованное исследование (28 нм CMOS с потребляемой мощностью 141 мк Вт), наши цифры как минимум на два порядка лучше, чем у решений на основе DL (Zheng et al., 2019).

    ТАБЛИЦА 6 . Сводка энергопотребления и занимаемой площади одного конечного автомата или таблицы поиска.

    РИСУНОК 9 . Масштабирование энергопотребления и занимаемой площади от одного конечного автомата до более совершенных производственных технологий.

    Аппаратная реализация последовательностей импульсов аналогична реализации векторов признаков с действительным знаком. Вместо использования евклидова расстояния между двумя векторами фиксированной размерности для определения ближайшего шаблона во входном алфавите конечного автомата используется расстояние между оцененными условными функциями интенсивности ядра Шенберга.Как обсуждалось выше, это равняется квадрату попарных разностей временных интервалов между двумя последовательностями импульсов, где последовательность импульсов с меньшим количеством импульсов дополняется необходимым количеством временных интервалов, соответствующих длительности окна. Это можно вычислить кусочно по времени при получении импульса.

    Для дальнейшего снижения энергопотребления и занимаемой площади аппаратное обеспечение может быть реализовано в специализированной интегральной схеме (ASIC). Как правило, интерфейс SENSA будет состоять из набора фильтров с IFC на каждом выходе, преобразующего аналоговый сигнал в разреженное представление импульса, где информация об амплитуде кодируется в межимпульсном интервале.Затем SPARK используется для получения непараметрического решения непосредственно из последовательностей многоканальных импульсов и внедрения интеллекта на границе с помощью автоматов. Другой способ минимизировать каждый автомат — ограничить количество импульсных последовательностей или прототипов в алфавите, уменьшив размер окна или кадра. При достаточно малых кадрах мы будем работать с разрешением одиночного импульса, то есть двоичного алфавита со значением либо единицы (импульс), либо нуля (без импульса). Мы также предполагаем сеть из простого распределенного встроенного оборудования SPARK, работающего совместно для решения более сложных проблем и принятия более разумных решений на периферии.

    4 Заключение

    Платформа SENSA использует интеллектуальный анализ данных с биологической эффективностью для масштабирования сложных решений машинного обучения для обеспечения интеллектуальных возможностей периферии. В качестве доказательства концепции мы продемонстрировали возможность использования SPARK (одна конкретная формулировка SENSA, использующая теорию RKHS) для работы с системой автоматического распознавания речи с использованием только справочных таблиц. Мы можем применить эту методологию к другим временным рядам, не только к акустическому сигналу, используя соответствующий аналого-импульсный преобразователь.Это создает бесчисленные возможности для новых приложений, которые извлекают выгоду из сверхнизкого энергопотребления, сверхбыстрых вычислений и повышенной устойчивости к шуму, особенно в предоставлении ограниченных ресурсов интеллекта на границе Интернета вещей.

    В будущем мы спроектируем и полностью реализуем ASR для изолированной и непрерывной речи в оборудовании, работающем с импульсным разрешением нулей и единиц. Кроме того, мы реализуем и протестируем реконфигурируемые конечные автоматы на оборудовании, чтобы пользователь мог настраивать их на предварительно обученных моделях с использованием однократного или многократного обучения.

    Заявление о доступности данных

    В данном исследовании были проанализированы общедоступные наборы данных. Эти данные можно найти здесь: https://catalog.ldc.upenn.edu/LDC93S9.

    Вклад авторов

    Все перечисленные авторы внесли существенный, прямой и интеллектуальный вклад в работу и одобрили ее для публикации.

    Финансирование

    Эта работа была частично поддержана контрактами DARPA N66001-10-C-2008 и N66001-15-1-4054, программой «Машины непрерывного обучения» из гранта DARPA / MTO FA9453-18-1-0039 и контрактом NSF. 1648329.

    Конфликт интересов

    Авторы заявляют, что исследование проводилось в отсутствие каких-либо коммерческих или финансовых отношений, которые могли бы быть истолкованы как потенциальный конфликт интересов.

    Примечание издателя

    Все претензии, выраженные в этой статье, принадлежат исключительно авторам и не обязательно относятся к их аффилированным организациям или претензиям издателя, редакторов и рецензентов. Любой продукт, который может быть оценен в этой статье, или заявление, которое может быть сделано его производителем, не подлежат гарантии или одобрению со стороны издателя.

    Благодарности

    Мы хотели бы поблагодарить Габриэля Наллатамби за его помощь в аппаратном анализе и арифметике на основе импульсов.

    Ссылки

    Angluin, D., and Smith, C.H. (1983). Индуктивный вывод: теория и методы. ACM Comput. Surv. 15, 237–269. doi: 10.1145 / 356914.356918

    CrossRef Полный текст | Google Scholar

    Чо, Ю., и Саул, Л. К. (2009). «Методы ядра для глубокого обучения», в Достижения в системах обработки нейронной информации 22 .Редакторы Ю. Бенжио, Д. Шурманс, Дж. Д. Лафферти, К. К. И. Уильямс и А. Кулотта (Ванкувер, Британская Колумбия: Curran Associates, Inc.), 342–350.

    Google Scholar

    Хомский, Н. (1956). Три модели описания языка. IEEE Trans. Сообщить. Теор. 2, 113–124. doi: 10.1109 / tit.1956.1056813

    CrossRef Полный текст | Google Scholar

    Cisco (2020). Годовой отчет Cisco об Интернете (2018–2023 гг.) Официальный документ. Tech. респ. Cisco Systems, Inc

    Google Scholar

    Cisco (2019).Переопределите возможности подключения, построив сеть для поддержки Интернета вещей. Tech. респ. Cisco Systems, Inc.

    Google Scholar

    Коллоберт Р. и Уэстон Дж. (2008). «Унифицированная архитектура для обработки естественного языка», в ICML ’08: Материалы 25-й Международной конференции по машинному обучению, Хельсинки, Финляндия, 5-9 июля 2008 г. (Нью-Йорк, Нью-Йорк, США: ACM), 160–167 . doi: 10.1145 / 13

    .13

    CrossRef Полный текст | Google Scholar

    Дэвис, С., Мермельштейн, П.(1980). Сравнение параметрических представлений для распознавания односложных слов в непрерывно произносимых предложениях. IEEE Trans. Акуст. Речь, сигнал. Процесс. 28, 357–366. doi: 10.1109 / tassp.1980.1163420

    CrossRef Полный текст | Google Scholar

    Дура-Бернал, С., Ли, К., Неймотин, С. А., Фрэнсис, Дж. Т., Принсипи, Дж. К. и Литтон, В. В. (2016). Восстановление поведения с помощью обратного нейроконтроллера в модели поврежденного кортикального шипа, управляющей виртуальной рукой. Фронт.Neurosci. 10, 28. doi: 10.3389 / fnins.2016.00028

    PubMed Аннотация | CrossRef Полный текст | Google Scholar

    Файхтингер, Х. Г., Принсипи, Дж. К., Ромеро, Дж. Л., Сингх Альварадо, А., и Веласко, Г. А. (2012). Приближенная реконструкция функций с ограниченной полосой пропускания для интегрированного и пожарного семплера. Adv. Comput. Математика. 36, 67–78. doi: 10.1007 / s10444-011-9180-9

    CrossRef Полный текст | Google Scholar

    Furber, S. B., Galluppi, F., Temple, S., and Plana, L.А. (2014). Проект спинакера. Proc. IEEE. 102, 652–665. doi: 10.1109 / jproc.2014.2304638

    CrossRef Полный текст | Google Scholar

    Герстнер В. и Кистлер В. М. (2002). Модели нейронов с импульсами: одиночные нейроны, популяции, пластичность . Кембридж, Великобритания: Cambridge University Press

    Gold, E. M. (1978). Сложность идентификации автоматов по заданным данным. Инф. Контроль. 37, 302–320. doi: 10.1016 / s0019-9958 (78)

    -4

    CrossRef Полный текст | Google Scholar

    Харрисон, М.(1978). Введение в теорию формального языка . Бостон, Массачусетс, США: Addison-Wesley

    Haykin, S. (1998). Нейронные сети: всеобъемлющий фундамент . 2-е изд. Верхняя Сэдл Ривер, Нью-Джерси, США: Prentice Hall PTR)

    Hinton, G., Deng, L., Yu, D., Dahl, G., Mohamed, A. R., et al. (2012). Глубокие нейронные сети для акустического моделирования в распознавании речи: общие взгляды четырех исследовательских групп. Сигнал IEEE. Процесс. Mag. 29, 82–97. DOI: 10.1109 / MSP.2012.2205597

    CrossRef Полный текст | Google Scholar

    Huang, P.-S., Avron, H., Sainath, T. N., Sindhwani, V., and Ramabhadran, B. (2014). «Методы ядра соответствуют глубинным нейронным сетям на TIMIT», Международная конференция IEEE по акустике, обработке речи и сигналов (ICASSP) в 2014 г., Флоренция, Италия, 4–9 мая 2014 г., 205–209. doi: 10.1109 / ICASSP.2014.6853587

    CrossRef Полный текст | Google Scholar

    Крижевский А., Суцкевер И. и Хинтон Г. Э. (2012). «Классификация Imagenet с глубокими сверточными нейронными сетями», в Достижения в системах обработки нейронной информации 25 .Редакторы Ф. Перейра, К. Дж. С. Берджес, Л. Ботту и К. К. Вайнбергер (Озеро Тахо, Невада: Curran Associates, Inc.), 1097–1105.

    Google Scholar

    Ли К. и Принсипи Дж. К. (2018a). Биологически вдохновленное автоматическое распознавание речи на основе спайков изолированных цифр в гильбертовом пространстве воспроизводящего ядра. Фронт. Neurosci. 12, 194. doi: 10.3389 / fnins.2018.00194

    PubMed Аннотация | CrossRef Полный текст | Google Scholar

    Ли К. и Принсипи Дж.С. (2018b). «Неожиданная новинка в обработке информации для активного обучения Gaussian Online (SNIP-GOAL)», Международная совместная конференция по нейронным сетям (IJCNN) 2018 г., Рио-де-Жанейро, Бразилия, 8-13 июля 2018 г., стр. 1–6. doi: 10.1109 / IJCNN.2018.8489555

    CrossRef Полный текст | Google Scholar

    Ли К. и Принсипи Дж. К. (2019). Функциональный байесовский фильтр . arXiv. 1911.10606 [eess.SP]

    Ли К. и Принсипи Дж. К. (2017). Переносное обучение в адаптивных фильтрах: алгоритм наименьшего среднего значения ядра с оценкой центроидов ближайшего экземпляра. IEEE Trans. Сигнал. Процесс. 65, 6520–6535. doi: 10.1109 / tsp.2017.2752695

    CrossRef Полный текст | Google Scholar

    Лю В., Принсипи Дж. К. и Хайкин С. (2010). Адаптивная фильтрация ядра: всестороннее введение . Хобокен, Нью-Джерси, США: Wiley.

    Маасс В., Легенштейн Р. А. и Бертшингер Н. (2005). «Методы оценки вычислительной мощности и обобщающей способности нейронных микросхем», в Достижения в системах обработки нейронной информации 17 .Редакторы Л. К. Саул, Ю. Вайс и Л. Ботту (Ванкувер, Британская Колумбия: MIT Press), 865–872.

    Google Scholar

    Maass, W. (1997). Сети импульсных нейронов: третье поколение моделей нейронных сетей. Нейронные сети. 10, 1659–1671. doi: 10.1016 / S0893-6080 (97) 00011-7

    CrossRef Полный текст | Google Scholar

    McCulloch, W. S., and Pitts, W. (1943). Логическое исчисление идей, присущих нервной деятельности. Бык. Математика. Биофиз. 5, 115–133.doi: 10.1007 / bf02478259

    CrossRef Полный текст | Google Scholar

    Меролла П. А., Артур Дж. В., Альварес-Икаса Р., Кэссиди А. С., Савада Дж., Акопян Ф. и др. (2014). Интегральная схема на миллион нейронов-пиков с масштабируемой коммуникационной сетью и интерфейсом. Наука 345, 668–673. DOI: 10.1126 / science.1254642

    PubMed Аннотация | CrossRef Полный текст | Google Scholar

    Мински, М. Л. (1967). Вычисления: конечные и бесконечные машины .Энглвуд Клиффс, Нью-Джерси, США: Прентис-Холл

    Наллатамби, Г., и Принсипи, Дж. К. (2020). Теория и алгоритмы обработки импульсных сигналов. IEEE Trans. Circuits Syst. Обычный Пап. 67 (8), 2707–2718. doi: 10.1109 / tcsi.2020.2981318

    CrossRef Полный текст | Google Scholar

    Пайва А. Р., Парк И. и Принсипи Дж. К. (2009). Воспроизводящая структура гильбертова пространства ядра для обработки сигналов шлейфа шлейфов. Neural Comput. 21, 424–449. DOI: 10.1162 / neco.2008.09-07-614

    PubMed Аннотация | CrossRef Полный текст | Google Scholar

    Park, I.M., Seth, S., Paiva, A.R.C., Li, L., and Principe, J.C. (2013). Методы ядра в пространстве Spike Train для нейробиологии: Учебное пособие. Сигнал IEEE. Процесс. Mag. 30, 149–160. doi: 10.1109 / msp.2013.2251072

    CrossRef Полный текст | Google Scholar

    Парк, И. М., Сет, С., Рао, М., и Принсипи, Дж. К. (2012). Ядра строго положительно-определенных шипов для расхождений точечных процессов. Neural Comput. 24, 2223–2250. doi: 10.1162 / neco_a_00309

    PubMed Аннотация | CrossRef Полный текст | Google Scholar

    Паттерсон, Р. Д., Ниммо-Смит, И., Холдсворт, Дж. И Райс, П. (1987). Приложение B к окончательному отчету SVOS: эффективный набор звуковых фильтров, основанный на функции гамматона. Заявл. Psychol. , 1–33.

    Google Scholar

    Рахими, А., и Рехт, Б. (2007). «Случайные особенности для крупномасштабных ядерных машин», в NIPS’07: Материалы 20-й Международной конференции по системам обработки нейронной информации, Ванкувер, Б.C., Канада, 3–6 декабря 2007 г. (США: Curran Associates Inc.), 1177–1184.

    Google Scholar

    Rueckauer, B., Lungu, I.-A., Hu, Y., Pfeiffer, M., and Liu, S.-C. (2017). Преобразование глубинных сетей с непрерывной оценкой в ​​эффективные событийно-ориентированные сети для классификации изображений. Фронт. Neurosci. 11, 682. doi: 10.3389 / fnins.2017.00682

    PubMed Реферат | CrossRef Полный текст | Google Scholar

    Schölkopf, B., Herbrich, R., and Smola, A.J. (2001). «Обобщенная теорема о репрезентаторе», в материалах 14-й ежегодной конференции.Теория вычислительного обучения, Амстердам, Нидерланды, 16–19 июля 2001 г., стр. 416–426. doi: 10.1007 / 3-540-44581-1_27

    CrossRef Полный текст | Google Scholar

    Shi, W., Cao, J., Zhang, Q., Li, Y., and Xu, L. (2016). Пограничные вычисления: видение и проблемы. IEEE Internet Things J. 3, 637–646. doi: 10.1109 / jiot.2016.2579198

    CrossRef Полный текст | Google Scholar

    Siegelmann, H. T., and Sontag, E. D. (1995). О вычислительной мощности нейронных сетей. Дж.Комп. Syst. Sci. 50, 132–150. doi: 10.1006 / jcss.1995.1013

    CrossRef Полный текст | Google Scholar

    Сингх Альварадо, А., Растоги, М., Харрис, Дж. Г. и Принсипи, Дж. К. (2011). «Пробоотборник Integrate-And-Fire: особый тип асинхронного Σ-Δ-модулятора», на Международном симпозиуме схем и систем (ISCAS) IEEE 2011 г., Рио-де-Жанейро, Бразилия, 15–18 мая 2011 г., 2031–2034 гг.

    Google Scholar

    Verstraeten, D., Schrauwen, B., and Campenhout, J. V. (2005).«Распознавание отдельных цифр с использованием машины жидких состояний», в материалах SPS-DARTS 2005, Антверпен, Бельгия, 19–20 апреля 2005 г., стр. 135–138.

    Google Scholar

    Уэйд, Дж. Дж., МакДэйд, Л. Дж., Сантос, Дж. А., и Сэйерс, Х. М. (2010). SWAT: алгоритм обучения нейронной сети для решения проблем классификации. IEEE Trans. Нейронная сеть. 21, 1817–1830. DOI: 10.1109 / tnn.2010.2074212

    PubMed Аннотация | CrossRef Полный текст | Google Scholar

    Уидроу, Б., и Стернс, С. Д. (1985). Адаптивная обработка сигналов . (США: Prentice-Hall, Inc.)

    Уилсон, А.Г., Ху, З., Салахутдинов, Р., Син, Э.П. (2016). «Стохастическое вариационное глубокое обучение ядра», в NIPS’16: Материалы 30-й Международной конференции по системам обработки нейронной информации, Барселона, Испания, 5–10 декабря 2016 г. (США: Curran Associates Inc.), 2594–2602.

    Google Scholar

    Вольперт Д. Х. (1996). Отсутствие априорных различий между алгоритмами обучения. Neural Comput. 8, 1341–1390. doi: 10.1162 / neco.1996.8.7.1341

    CrossRef Полный текст | Google Scholar

    Zhang, Y., Li, P., Jin, Y., and Choe, Y. (2015). Цифровая машина с жидкими состояниями с биологически вдохновленным обучением и ее применение для распознавания речи. IEEE Trans. Нейронная сеть. Учиться. Syst. 26, 2635–2649. doi: 10.1109 / tnnls.2015.2388544

    PubMed Аннотация | CrossRef Полный текст | Google Scholar

    Zheng, S., Ouyang, P., Song, D., Ли, X., Лю, L., Wei, S., et al. (2019). Бинаризованный процессор распознавания речи на основе сверточной нейронной сети со сверхнизким энергопотреблением и встроенным самообучением. IEEE Trans. Circuits Syst. 66, 4648–4661. doi: 10.1109 / tcsi.2019.2942092

    CrossRef Полный текст | Google Scholar

    Нелинейное восстановление импульсных и сильно зашумленных изображений с помощью стохастического резонанса

    Экспериментальная установка и дизайн

    В связи с практическим применением в лазерных радарах и других областях формирования изображений для восстановления и реконструкции изображений используется более гибкий и универсальный дизайн. скрытые импульсные помехи изображения.Он состоит из трех основных элементарных компонентов: наносекундного импульсного сигнала, несущего изображение, непрерывного некогерентного шума и нелинейной системы, содержащей фоторефрактивный кристалл. На рисунке 1 представлены детали схемы, использованной в нашей работе, в которой стохастический резонанс генерируется модуляционной неустойчивостью. Отличительной особенностью является то, что нет необходимости во временной синхронизации между импульсным сигналом и непрерывными шумами, что очень важно в приложениях. Импульсный сигнал представляет собой чисто когерентное наносекундное изображение числа «20», сформированное оптической системой 4-f и Nd: YAG-лазером с модуляцией добротности.Его длина волны, частота повторения и ширина импульса составляют 532 нм, 1 кГц и около 15 нс соответственно. Непрерывный шум — это пространственно некогерентный свет, генерируемый системой «линза-диффузор-линза», который облучается непрерывным лазером с удвоенной частотой Nd: YAG. В качестве нелинейной среды используется фоторефрактивный кристалл 3 SBN: 75 5,5 × 5 × 10 мм, легированный CeO 2 , нелинейный коэффициент которого регулируется путем настройки приложенного напряжения параллельно его оптической оси. Импульсный сигнал и непрерывный шум одновременно и коллинеарно инжектируются в фоторефрактивный кристалл SBN: 75.Чтобы проверить способность извлечения стохастического резонанса в условиях высокого зашумленного фона, начальное отношение интенсивности сигнала к шуму фиксируется на уровне примерно 1:25 при мощности сигнала примерно 150 нВт. Связь между сигналом и шумом происходит во время процесса стохастического резонанса, и свет, выходящий из фоторефрактивного кристалла, затем отображается на камеру CCD.

    Рисунок 1

    Схема восстановления импульсных и сильно зашумленных изображений посредством стохастического резонанса.

    Импульсные выходные изображения в теории

    Рассматривая динамику сигналов низкого уровня, мы воспользуемся теорией неустойчиво-линейных возмущений и сосредоточимся на реакции шума на управляющий сигнал, который больше подходит для некогерентной динамики 10, 11,12 .Возмущение линеаризуется для обработки каждого пикселя индивидуально для низкоуровневой интенсивности изображений 10 входных импульсов. Пренебрегая линейными потерями и нелинейным вкладом высокого порядка, скорость роста g может быть описана как 3,10

    , где A и B — эффективные зависящие от моды константы нормализации, дающие высоту и местоположение видимости. пик, γ — нелинейный коэффициент пространственной связи электрического поля, β — коэффициент дифракции, α — волновое число, l c — длина корреляции, I — интенсивность падающего света, δ — временная распределение наносекундного импульса соответственно.

    Согласно уравнению (1) наносекундное выходное изображение через стохастический резонанс численно вычисляется и анализируется. Отношение интенсивности входного сигнала к шуму составляет примерно 1:25, а именно изображение сильно зашумлено. Выходное изображение в зависимости от нелинейности для фиксированной длины корреляции представлено на рис. 2. По мере увеличения приложенного напряжения отношение интенсивности выходного сигнала к шуму увеличивается до тех пор, пока не будет достигнут максимум, что делает выходное изображение более заметным и отчетливым. .Это вызвано нестабильностью связи энергии между слабыми сигналами и случайными шумами. Распределение полной энергии когерентного сигнала и некогерентного шума восстанавливается из-за движения частиц, поскольку нелинейное изменение показателя Δn продолжает действовать на границе раздела. Наконец, извлеченное изображение становится наиболее заметным при оптимальном напряжении, как показано на рис. 2 (c). Для описания передачи энергии нелинейного динамического процесса нормированный коэффициент взаимной корреляции используется как количественная мера сходства между входным и выходным изображениями , 13, .Как показано на рис. 3, существует оптимальное напряжение для получения максимального коэффициента взаимной корреляции посредством процесса стохастического резонанса. То есть эффективность передачи энергии от шума высокого уровня к сигналу низкого уровня достигает максимума при оптимальном приложенном напряжении. Однако при более высоком Δn турбулентная динамика продолжает смешивать сигнал и шум, граница сигнала и шума будет ухудшаться в когерентно-некогерентной змееподобной нестабильности 14 . Это говорит о том, что приложенное напряжение и интенсивность шума являются двумя важными параметрами стохастического резонанса, которые влияют на видимость и качество выходного изображения.

    Рисунок 2

    ( a ) Исходное изображение, импульсное ( b ) и выходное изображение с высоким уровнем шума ( c ).

    Рисунок 3

    Коэффициент взаимной корреляции зависит от приложенного напряжения.

    Импульсные выходные изображения в эксперименте

    Эксперимент по восстановлению импульсного и сильно зашумленного изображения посредством стохастического резонанса был проведен с использованием схемы, показанной на рис. 1. Приложенное напряжение на кристалле используется для регулировки нелинейного изменения показателя Δn фоторефрактивный кристалл 10 .Длина пространственной корреляции непрерывного шума определяется размером пятна на диффузоре и скоростью его вращения. Видимость и качество выходных изображений оптимизируются путем тщательной настройки приложенного напряжения, как показано на рис. 4. Импульсные и сильно зашумленные изображения становятся все более и более четкими по мере увеличения приложенного напряжения примерно до 2000 В, при котором оптимальная реконструкция результат появляется. В процессе стохастического резонанса происходит положительный обмен, порожденный модуляционной неустойчивостью.Причина в том, что коэффициент нелинейности фоторефрактивного кристалла изменяется в зависимости от приложенного напряжения и, таким образом, можно регулировать относительное изменение нелинейного показателя Δn. Слабый импульсный сигнал и большой непрерывный шум вместе означают, что исходный сигнал, по сути, является затравкой, которая вызывает нестабильность шума. В частности, очень слабый сигнал сначала создает потенциал, который концентрирует шум, в свою очередь, нелинейная связь усиливает сигнал и усиливает потенциал. Это приводит к реконструкции сигнала через затравочную неустойчивость, когда возмущения интенсивности нарастают за счет однородного фона.А именно, нелинейность может улучшить видимость сигнала, в то время как слишком большая нелинейность ухудшит резонансную картину и ухудшит видимость. Как показано на рис. 4 (f), выходное изображение снова становится размытым при дальнейшем увеличении приложенного напряжения. Между тем, коэффициент взаимной корреляции также анализируется, как показано на рис. 5. Оптимальное усиление взаимной корреляции выше 8 достигается при приложенном напряжении 2000 В, тенденция изменения которого аналогична теоретическим результатам.

    Рисунок 4

    Выходные изображения при различных приложенных напряжениях.

    ( a ) Чистое изображение, ( b ) изображение с высоким уровнем шума, ( c ) 1000 В, ( d ) 1500 В, ( e ) 2000 В, ( f ) 2400 В

    Рисунок 5

    Взаимосвязь между усилением взаимной корреляции и приложенным напряжением.

    Начальное отношение интенсивности сигнала к шуму — еще один важный параметр, который определяет характеристики стохастического резонанса. На рисунке 6 показано его влияние на качество выходного изображения при фиксированном приложенном напряжении 2000 В.Хорошо видно, что изображение выходного импульса наиболее заметно при начальном соотношении интенсивностей примерно 1:25 и становится размытым при дальнейшем увеличении начального отношения интенсивностей. То есть модуляции становятся более выраженными с большей видимостью при соответствующем отношении интенсивности сигнала к шуму. Однако по мере того, как начальное соотношение интенсивностей продолжает увеличиваться, слишком много шума будет доминировать в этой системе и разрушить условия стохастического резонанса, что приведет к искажению выходных изображений.Этот типичный признак вызван нестабильностью связи энергии между слабыми сигналами и случайным шумом 1,3,10 . Одним словом, все приведенные выше результаты убедительно указывают на то, что приложенное напряжение и интенсивность шума являются двумя ключевыми параметрами, влияющими на свойства стохастического резонанса.

    Рисунок 6

    Выходные изображения при различных отношениях сигнал / шум при фиксированном приложенном напряжении 2000 В.

    ( a ) Чистое изображение, ( b ) 1:15, ( c ) 1:20, ( d ) 1:25, ( e ) 1:30, ( f ) 1:35.

    Согласно приведенному выше анализу, при фиксированном напряжении 2000 В и отношении интенсивности сигнал / шум 1:25 влияние частоты повторения на свойства выходного изображения анализируется, как показано на рис. 7. Выходные изображения записываются с частотой повторения 100 Гц, 500 Гц и 1 кГц соответственно. Сигнальные изображения эффективно восстанавливаются из шума высокого уровня, в котором все коэффициенты взаимной корреляции превышают 8 на трех частотах повторения.Это указывает на то, что восстановление скрытых импульсным шумом изображений с помощью стохастического резонанса применимо в большом диапазоне частот повторения. Эта характеристика расширяет области применения стохастического резонанса.

    Рисунок 7

    Выводит изображения с разной частотой повторения.

    ( a ) 100 Гц, ( b ) 500 Гц и ( c ) 1 кГц.

    Добавить комментарий

    Ваш адрес email не будет опубликован. Обязательные поля помечены *