eng
Выпуск #9/2020
С. Щаников, А. Зуев, И. Борданов, С. Данилин, В. Лукоянов, Д. Королев, А. Белов, Я. Пигарева, А. Гладков, А. Пимашкин, А. Михайлов, В. Казанцев
ИСКУССТВЕННАЯ НЕЙРОННАЯ СЕТЬ НА ОСНОВЕ МЕМРИСТИВНЫХ УСТРОЙСТВ ДЛЯ ДВУНАПРАВЛЕННОГО АДАПТИВНОГО НЕЙРОИНТЕРФЕЙСА
ИСКУССТВЕННАЯ НЕЙРОННАЯ СЕТЬ НА ОСНОВЕ МЕМРИСТИВНЫХ УСТРОЙСТВ ДЛЯ ДВУНАПРАВЛЕННОГО АДАПТИВНОГО НЕЙРОИНТЕРФЕЙСА
Просмотры: 1386
DOI: 10.22184/1992-4178.2020.200.9.86.95
Рассмотрено создание нейроинтерфейса для двунаправленной связи между выращенной в микрофлюидном чипе биологической нейронной сетью (БНС) диссоциированных клеток гиппокампа и искусственной нейронной сетью (ИНС) с синапсами на базе массивов металл-оксидных мемристивных устройств.
Рассмотрено создание нейроинтерфейса для двунаправленной связи между выращенной в микрофлюидном чипе биологической нейронной сетью (БНС) диссоциированных клеток гиппокампа и искусственной нейронной сетью (ИНС) с синапсами на базе массивов металл-оксидных мемристивных устройств.
Теги: artificial neural network memristor neurointerface искусственная нейронная сеть мемристор нейроинтерфейс
Искусственная нейронная сеть на основе мемристивных устройств для двунаправленного адаптивного нейроинтерфейса
С. Щаников, к. т. н., А. Зуев , И. Борданов , С. Данилин, к. т. н., В. Лукоянов , Д. Королев, к. ф.‑м. н., А. Белов, к. ф.‑м. н., Я. Пигарева , А. Гладков, к. б. н., А. Пимашкин, к. ф.‑м. н., А. Михайлов, к. ф.‑м. н., В. Казанцев, д. ф.‑м. н.
В настоящее время во всем мире проводятся масштабные НИОКР в области создания нейроморфных устройств [1, 2, 3, 4]. Публикации ведущих исследователей показывают, что наиболее перспективным подходом является использование мемристивных устройств, которые адаптивно меняют свое сопротивление в зависимости от предыстории приложения напряжения или пропускания тока [5, 6] и по этой причине естественным образом подходят на роль искусственных синапсов. Активное развитие этого направления и аналогия в принципах построения нейросетевых архитектур и живых сетей мозга делают возможным следующий шаг на пути к нейрогибридным системам – создание интерфейса между искусственными мемристивными и живыми системами [7] для решения актуальных задач робототехники, искусственного интеллекта и медицины. В статье рассматривается создание нейроинтерфейса для двунаправленной связи между выращенной в микрофлюидном чипе биологической нейронной сетью (БНС) диссоциированных клеток гиппокампа и искусственной нейронной сетью (ИНС) с синапсами на базе массивов металл-оксидных мемристивных устройств.
Врамках ведущих европейских научно-технических программ в период с 2013 по 2015 год стартовал ряд проектов, направленных на создание нейроморфных чипов и нейробиогибридных систем на основе мемристоров, а также координацию усилий европейских коллективов и промышленных компаний на этом широком междисциплинарном поле [8]. Проводимые исследования [9] свидетельствуют об актуальности создания распределенных или компактных нейроинтерфейсов на основе мемристивных устройств и систем.
В данной статье представлен проект искусственной нейронной сети на основе мемристоров (ИНСМ), являющейся важнейшим компонентом для создания энергоэффективных, биоподобных и биосовместимых двунаправленных адаптивных нейроинтерфейсов. В основе ИНСМ лежит применение мемристивных материалов и устройств нового поколения. Для проектирования ИНСМ использованы современные методы и средства системного анализа и имитационного моделирования, позволяющие создавать системы с заданными свойствами и характеристиками.
Общее описание нейроинтерфейса
Нейроинтерфейс на системном уровне состоит из двух основных связных подсистем, представленных на рис. 1. Подсистема регистрации активности и стимуляции БНС включает в себя микрофлюидный чип (МФЧ) с микроэлектродной матрицей (МЭМ), управляемые устройством на базе микроконтроллера. Эта подсистема регистрирует данные об активности БНС и передает их на подсистему ИНСМ для классификации паттернов активности.
На основании результатов классификации нейроинтерфейс принимает решение о регулировании стимулирования БНС, таким образом реализуя функционал двусторонней связи и адаптивности. Далее рассмотрим более подробно каждую из подсистем.
Подсистема регистрации активности и стимуляции живой культуры
МФЧ изготовлены с применением метода «мягкой литографии» из полидиметилсилоксана (ПДМС). Мастер-форма для чипов изготавливалась с помощью двухслойной литографии. МФЧ включают в себя две камеры для культивирования клеток и восемь микроканалов, обеспечивающих однонаправленный рост аксонов от камеры-источника к камере-приемнику. Микроканалы состоят из последовательно соединенных трех или четырех сегментов треугольной формы, которая обеспечивает направленный рост аксонов (рис. 2а).
Готовые ПДМС-чипы совмещались с МЭМ, поверхность которой покрывалась адгезивом полиэтиленимином в концентрации 1 мг / мл и ламинином в концентрации 20 мг / мл (производства компании Sigma-Aldrich, США). МФЧ совмещались с МЭМ (рис. 2б), содержащей 60 электродов, с помощью трехмерного механического микроманипулятора под бинокулярным микроскопом так, что 14 или 24 электрода располагались в каждой камере чипа, 24 или 32 электрода – в микроканалах (по три или четыре электрода в каждом из восьми микроканалов).
Чтобы предотвратить повреждение электродов, применяли метод обратимого соединения МЭМ с ПДМС. После прикрепления ПДМС к МЭМ их отверждали в сухожаровом шкафу при 80 °C в течение 30 мин.
Диссоциированные клетки гиппокампа эмбрионов мышей (Е18) высеивали в камеры микрофлюидных чипов (рис. 2б) с начальной плотностью 7 000–9 000 клеток на мм 2.
Беременные мыши умерщвлялись путем дислокации шейных позвонков, эмбрионы были немедленно удалены кесаревым сечением. Все экспериментальные процедуры, основные правила содержания и ухода за экспериментальными животными соответствовали нормативам и были согласованы с Этическим комитетом ФГАОУ ВО «Национальный исследовательский Нижегородский государственный университет им. Н. И. Лобачевского».
Подробное описание процедуры приведено в предыдущих публикациях [10]. Поддержание жизнеспособности клеточных культур осуществлялось в инкубаторе при температуре 37 °C, влажности 100% и содержании СО2 в воздухе 5%.
Электрофизиологические измерения проводили спустя 20 дней развития in vitro, к этому времени две культуры в МФЧ были связаны аксонами через микроканалы и генерировали спонтанную активность. Стимуляция нейрональных культур проводилась с помощью стимулятора STG‑4004 (производства компании Multi Channel Systems, Германия). Серия из 30 стимулов применялась к одному из двух электродов, выбранных случайным образом в камере-источнике. Низкочастотная стимуляция состояла из бифазных импульсов напряжения амплитудой 800 мВ, 260 мкс на фазу, первая положительная, интервалы между стимулами составляли 3 с. Сигналы от случайных четырех электродов, размещенных в середине четырех из восьми микроканалов, регистрировались системой МЭМ (производства компании Multi Channel Systems) с частотой дискретизации 20 кГц (рис. 2в).
Детектирование спайков проводилось с использованием расчета пороговых значений медианы сигнала, как описано в предыдущих исследованиях (рис. 2г) [10, 11]. Анализ сигналов и получение статистики выполнялись с помощью разработанного в среде программирования MATLAB программного обеспечения Meaman.
Подсистема ИНСМ
Основная решаемая подсистемой ИНСМ задача – это классификация паттернов нейронной активности, возникающей в БНС в ответ на стимулирующие воздействия. Стимуляция БНС проводится через электроды в камере 1 МФЧ. После стимуляции БНС происходит регистрация времен приходов спайков в микроканалах МФЧ. Таким образом, паттерн нейронной активности является пространственно-временным, так как формируется на основании информации о времени прихода спайков в разделенных в пространстве каналах МФЧ. Каждый паттерн активности соответствует одному из стимулируемых электродов в камере 1.
Архитектура ИНСМ – многослойный персептрон (МСП). Количество входов ИНСМ соответствует количеству элементов вектора, кодирующего паттерн активности. Количество выходов ИНСМ соответствует количеству стимулируемых электродов в камере 1. ИНСМ состоит из синапсов и нейронов, объединенных в слои.
Синапсы ИНСМ реализованы с применением мемристивных устройств, выполненных на основе новой многослойной тонкопленочной структуры Au / Ta / ZrO2(Y) / Ta2O5 / TiN / Ti, которая содержит самоформирующиеся интерфейсные оксидные слои, нанокристаллы и специально разработана для получения стабильного резистивного переключения с малым разбросом параметров [12, 13]. Массив мемристивных устройств смонтирован в стандартный металлокерамический корпус (рис. 3а) и может быть легко интегрирован в электрическую схему нейроинтерфейса. Мемристивные устройства демонстрируют биполярное резистивное переключение анионного типа между состоянием с высоким сопротивлением (HRS) и состоянием с низким сопротивлением (LRS). Оба состояния характеризуются нелинейной вольтамперной характеристикой (ВАХ) (рис. 3б) и низким разбросом значений сопротивления, полученных из ВАХ при напряжении 0,5 В (рис. 3в).
Следует отметить, что именно такие нелинейные характеристики обеспечивают создание пассивных массивов «кросс-бар» с высокой плотностью размещения на чипе [14].
Для программирования заданных резистивных состояний мемристивного устройства, определяющих соответствующий синаптический вес в ИНСМ, использовалась импульсная методика voltage ramp [15], адаптированная под закономерности и параметры резистивного переключения для данной мемристивной структуры. Особенностью методики является использование активной обратной связи при установлении заданного состояния с требуемой точностью, что уменьшает общее число воздействий на мемристивное устройство по сравнению с другими методами. Для задания режимов программирования из анализа статических ВАХ определялся коридор возможных состояний (значений сопротивления) мемристивного устройства. Программирование осуществляется путем подачи импульсов напряжения с увеличивающейся амплитудой в диапазоне от 0,5 до 3 В (1 мс) с проверкой состояния после каждого импульса путем подачи импульса считывания с малой амплитудой (0,1 В, 1 мс). В том случае, если при увеличении амплитуды необходимое сопротивление с заданной точностью не достигается, мемристивное устройство возвращается в исходное состояние путем подачи инициализирующего импульса напряжения (–3 В, 1 мс) с ограничением тока 300 мкA, и приведенный выше алгоритм подачи импульсов напряжения повторяется до достижения требуемого состояния. Пример временной диаграммы с двумя итерациями последовательностей программирующих импульсов и считываемыми значениями тока вне и внутри допустимого коридора показан на рис. 3 г.
На рис. 3д предствлен пример реализации предложенного алгоритма для программирования восьми различных резистивных состояний в диапазоне 10–60 кОм. Для набора статистики, необходимой для построения гистограмм, по окончании процедуры программирования дополнительно проводилось испытание retention путем измерения тока через мемристор в течение 5 с при подаче постоянного напряжения 0,1 В. Процедура программирования повторялась 20 раз для каждого заданного значения сопротивления. Несмотря на наблюдаемый разброс сопротивлений резистивных состояний, связанный с неидеальной характеристикой retention, из рис. 3д видно, что методика обеспечивает однозначное программирование заданного состояния без перекрытия распределений.
На рис. 4 представлена упрощенная электрическая принципиальная схема нейрона ИНСМ.
Умножение входных данных на весовой коэффициент выполняется через преобразование напряжения входного сигнала в ток, мемристор в этом случае выступает в качестве источника тока. Все мемристоры в строке матрицы подключены к одному операционному усилителю в инвертирующем включении (U1, U2), который выполняет функцию сумматора за счет сложения токов на инвертирующем входе по правилу Кирхгофа.
Такое решение удобно тем, что за счет отрицательной обратной связи на инвертирующем входе, к которому подключены мемристоры, можно получить не только виртуальный ноль, но и разные напряжения смещения, подав соответствующий уровень на неинвертирующий вход. Суммарный ток всех мемристоров и соответственно ток каждого отдельного элемента преобразуется в выходное напряжение сумматора с коэффициентом, равным сопротивлению обратной связи (с изменением знака).
В данной работе каждый синапс реализован с помощью пары мемристоров, расположенных в смежных строках и относящихся к одному столбцу (входу данных) для получения биполярных значений весовых коэффициентов на выходе дифференциального усилителя (U3). Таким образом, все мемристоры в заданной паре строк относятся к синапсам одного нейрона. Значение веса определяется как разница коэффициентов преобразования напряжений, поступающих на вход этого усилителя:
, (1)
где RM1 – сопротивление мемристора, относящегося к строке, сумматор которой подключен к инвертирующему входу дифференциального усилителя;
RM2 – сопротивление мемристора, относящегося к строке, сумматор которой подключен к неинвертирующему входу дифференциального усилителя;
RF – сопротивление обратной связи.
В качестве функции активации используется линейная функция с насыщением. В схеме функция активации реализуется с помощью инвертирующего усилителя (U4), коэффициент усиления которого характеризирует тангенс угла наклона функции на линейном участке. Напряжения насыщения усилителя характеризуют уровни насыщения функции.
Для решения проблемы с токами перетока, возникающими по всей матрице при работе с конкретным целевым мемристором, на данном этапе на оставшиеся не целевые строки и столбцы подается напряжение смещения 1,5 В.Для того чтобы гарантировать максимальное падение напряжения на любом другом мемристоре, кроме выбранного, не выше 1,5 В, вводится ограничение на максимальную амплитуду программирующих импульсов, равное 3 В. Таким образом диапазон напряжений программирующих импульсов составляет 1,5–3 В. При подаче проверочного импульса во избежание присутствия на входе сумматора токов других мемристоров, остальные столбцы и строки либо коммутируются на землю, либо на них подается нулевое смещение.
Для формирования программирующих импульсов и сигналов данных с различной амплитудой (и знаком) используются ЦАП с двухполярным питанием. В цифровом виде данные формируются в ПЛИС, а затем подаются на ЦАП каналов. Для считывания значений с выходных нейронов в режиме обработки данных, а также для считывания выходного напряжения с каждого сумматора в режиме программирования используются АЦП с двухполярным питанием. Данные с АЦП передаются в ПЛИС, где они обрабатываются.
Подсистема контроля и управления ИНСМ на базе ПЛИС, кроме взаимодействия с ЦАП и АЦП, выполняет коммутацию сигналов. Напряжения смещения на строках формируются за счет подачи на неинвертирующие входы сумматоров опорного напряжения. Для подачи различных уровней используются электронные ключи, управляемые ПЛИС.
Результаты
В данной работе экспериментальным путем были зафиксированы времена прихода первых четырех спайков (t1,…t4) в четырех каналах МФЧ (ch1,…ch4) в ответ на стимуляцию четырех областей БНС S1,…S4 в камере 1 (паттерн ответа). Максимальное время ожидания спайка составляло 50 мс. Данные времена были аппроксимированы функцией Гаусса и для четырех источников стимулирующих воздействий псевдослучайно синтезировано 4 000 паттернов сигналов, по 1 000 для каждого (рис. 5). Это необходимо для того, чтобы увеличить объем обучающей и тестовой выборки для разрабатываемой ИНСМ.
Для нормализации данных и приведения их к заданному диапазону амплитуд напряжений каждый паттерн ответа разделен на 50 и округлен до заданной разрядности ЦАП. В данном случае использованы биполярные 12‑разрядные ЦАП с диапазоном выходных напряжений ±5 В. Таким образом, все значения обучающей и тестовой выборок округлены с шагом 0,0024 В. Каждому паттерну ответа в выборке поставлен в соответствие вектор из четырех элементов, содержащий «1» на позиции, обозначающей номер стимулируемой области S, и «–1» на остальных позициях. Для посторонних сигналов вектор состоит из четырех «–1».
Помимо времен прихода спайков после воздействия источников S1,…S4, были замерены паттерны нейронной активности, возникающей после воздействия других источников или причин, которые условно можно классифицировать как посторонние (Sr). На основании посторонних паттернов так же было синтезировано 4 000 псевдослучайных последовательностей для обучающей и тестовой выборок ИНСМ. Общее количество паттернов 8 000 было перемешано псевдослучайным образом и разделено на обучающую (S1 – 735, S2 – 760, S3 – 724, S4 – 754, Sr – 3 027, итого: 6 000) и тестовую (S1 – 265, S2 – 240, S3 – 276, S4 – 246, Sr – 973, итого: 2 000) выборки.
Таким образом, количество входов ИНСМ – 16 – соответствует четырем каналам микрофлюидного чипа, в каждом из которых фиксируются времена прихода первых четырех спайков. Количество нейронов скрытого слоя – 8 – соответствует максимальному числу нейронов, которые можно реализовать с использованием одной матрицы мемристоров 16 × 16. Количество нейронов выходного слоя – 4 – соответствует четырем областям воздействий S1,…S4. Функции активации слоев – линейные с насыщением, максимально приближены к реальным функциям активации, реализуемым с использованием операционных усилителей.
Погрешность функционирования ИНСМ в процессе обучения оценивалась с помощью критерия средней суммы квадратов абсолютных ошибок (MSE). Метрика точности, называемая вероятностью ошибки (Perr) и равная отношению количества ошибочно классифицированных сигналов к общему количеству сигналов, использовалась для оценки производительности ИНСМ во время работы.
На рис. 6 приведена кривая обучения ИНСМ. Видно, что обучение сходится и ИНСМ способна классифицировать область стимуляции БНС по паттерну активности. Вероятность ошибки ИНСМ на тестовой выборке после обучения не более 2%. После получения весов W произведена их квантизация до пяти уровней. Для каждого уровня по формуле (1) рассчитаны значения сопротивлений для пары мемристоров, реализующих один синапс.
В результате наличия погрешностей параметров мемристоров синапса ИНСМ возникает погрешность весового коэффициента W (рис. 7а). Были рассчитаны поля допуска на погрешность весов синапсов на имитационной модели. Для всех электронных компонентов синапса заданы погрешности, чтобы оценить их влияние на вес синапса W.
Далее было проведено имитационное моделирование всей ИНСМ при заданных значениях погрешностей параметров мемристоров. Максимально допустимые пределы погрешностей весов синапсов ИНСМ определены в результате имитационного моделирования (пример на рис. 7а). Номинальные значения RF = 100 кОм ± 1%, RM1 = 322,9 кОм ± 20%, RM2 = 12,2 кОм ± 20%. Закон распределения погрешностей сопротивлений – нормальный. Границы погрешностей определены для 0,05 и 99,5% процентилей. В качестве допуска взяты наибольшие отклонения, отражающие наихудший случай (рис. 7б). Далее проведено имитационное моделирование ИНСМ при наличии погрешностей синаптических весов, вызванных погрешностями электронных компонентов (рис. 7в). При 1000 повторений эксперимента вероятность ошибки ИНСМ Perr не превышает 5%. Данное значение получено на тестовой выборке. Таким образом, мемристоры типа Au / Ta / ZrO2(Y) / Ta2O5 / TiN / Ti подходят по своим электрофизическим параметрам и характеристикам для технической реализации ИНСМ, являющейся компонентом двухстороннего адаптивного нейроинтерфейса.
* * *
В заключение можно сказать, что в результате проектирования ИНСМ получен набор моделей разного уровня структурно-функциональной иерархии, который позволил определить номинальные значения характеристик ее электронных компонентов и параметров сигналов чтения, программирования и функционирования.
Предложен оригинальный вариант принципиальной схемы многослойного персептрона на базе мемристоров. К его основным преимуществам можно отнести легкую масштабируемость и возможность регулировки диапазона весов за счет изменения номиналов резисторов. Предложенная принципиальная схема нейрона отличается схемой коммутации напряжений смещения для обеспечения режима программирования нейрона в части нейтрализации токов перетока. Отличие от других известных из публикаций решений заключается в отсутствии коммутационных элементов в цепях, в которые включены мемристоры, тем самым минимизируются помехи, связанные с переключением элементов коммутации.
В результате имитационного моделирования назначены допустимые пределы отклонения параметров электронных компонентов от номинальных значений, соблюдение которых обеспечит точность функционирования ИНСМ не менее 95%.
Различные части работы выполнены при поддержке РНФ (грант № 16-19-00144), РФФИ (грант № 19-07-01215) и гранта Президента РФ (MK‑3927.2019.9 2019).
Литература
Schuman C. D., Potok T. E., Patton R. M., Birdwell J. D., Dean M. E., Rose G. S., Plank J. S. A Survey of Neuromorphic Computing and Neural Networks in Hardware. 2017. http://arxiv.org/abs/1705.06963 [Дата обращения: 13 июля 2019].
Xia Q., and Yang J. J. Memristive crossbar arrays for brain-inspired computing // Nature Materials. 2019. V. 18, PP. 309–323. https://doi.org/10.1038/s41563-019-0291‑x.
Zhu J., Zhang T., Yang Y., and Huang R. A comprehensive review on emerging artificial neuromorphic devices // Applied Physics Reviews. 2020. V. 7. № 1. https://doi.org/10.1063/1.5118217.
Zidan M. A., Strachan J. P., and Lu W. D. The future of electronics based on memristive systems // Nature Electronics. 2018. V. 1. PP. 22–29. https://doi.org/10.1038/s41928-017-0006-8.
Chua L. O. Memristor – The Missing Circuit Element // IEEE Transactions on Circuit Theory. 1971. V. 18. № 5. PP. 507–519. https://doi.org/10.1109/TCT.1971.1083337.
Strukov D. B., Snider G. S., Stewart D. R., and Williams R. S. The missing memristor found // Nature. 2008. V. 453, PP. 80–83. https://doi.org/10.1038/nature06932.
Chiolerio A., Chiappalone M., Ariano P., and Bocchini S. Coupling resistive switching devices with neurons: State of the art and perspectives // Frontiers in Neuroscience. 2017. V. 11. https://doi.org/10.3389/fnins.2017.00070.
Vassanelli S., and Mahmud M. Trends and challenges in neuroengineering: Toward “intelligent” neuroprostheses through brain-”brain inspired systems” communication // Frontiers in Neuroscience. 2016. V. 10. https://doi.org/10.3389/fnins.2016.00438.
Serb A., Corna A., George R., Khiat A., Rocchi F., Reato M., et al. Memristive synapses connect brain and silicon spiking neurons // Scientific Reports. 2020. V. 10. https://doi.org/10.1038/s41598-020-58831-9.
Pimashkin A., Gladkov A., Mukhina I., and Kazantsev V. Adaptive enhancement of learning protocol in hippocampal cultured networks grown on multielectrode arrays // Front. Neural Circuits. 2013. https://doi.org/10.3389/fncir.2013.00087.
Pimashkin A., Kastalskiy I., Simonov A., Koryagina E., Mukhina I., and Kazantsev V. Spiking signatures of spontaneous activity bursts in hippocampal cultures // Front. Comput. Neurosci. 2011. V. 5. https://doi.org/10.3389/fncom.2011.00046.
Tikhov S., Belov A., Korolev D., Antonov A., Sushkov D., Pavlov D., et al. Electrophysical characteristics of multilayer memristive nanostructures based on yttria stabilized zirconia dioxide and tantalum oxide // Technical Physics. 2020. V. 65, PP. 284–290.
Mikhaylov A., Belov A., Korolev D., Antonov I., Kotomina V., Kotina A., et al. Multilayer Metal-Oxide Memristive Device with Stabilized Resistive Switching // Advanced Materials Technologies. 2020. V. 5. https://doi.org/10.1002/admt.201900607.
Bayat F. M., Prezioso M., Chakrabarti B., Nili H., Kataeva I., and Strukov D. Implementation of multilayer perceptron network with highly uniform passive memristive crossbar circuits // Nature Communications. 2018. V. 9. https://doi.org/10.1038/s41467-018-04482-4.
Emelyanov A. V., Nikiruy K. E., Demin V. A., Rylkov V. V., Belov A. I., Korolev D. S., et al. Yttria-stabilized zirconia cross-point memristive devices for neuromorphic applications // Microelectronic Engineering. 2019. V. 215. https://doi.org/10.1016/j.mee.2019.110988.
С. Щаников, к. т. н., А. Зуев , И. Борданов , С. Данилин, к. т. н., В. Лукоянов , Д. Королев, к. ф.‑м. н., А. Белов, к. ф.‑м. н., Я. Пигарева , А. Гладков, к. б. н., А. Пимашкин, к. ф.‑м. н., А. Михайлов, к. ф.‑м. н., В. Казанцев, д. ф.‑м. н.
В настоящее время во всем мире проводятся масштабные НИОКР в области создания нейроморфных устройств [1, 2, 3, 4]. Публикации ведущих исследователей показывают, что наиболее перспективным подходом является использование мемристивных устройств, которые адаптивно меняют свое сопротивление в зависимости от предыстории приложения напряжения или пропускания тока [5, 6] и по этой причине естественным образом подходят на роль искусственных синапсов. Активное развитие этого направления и аналогия в принципах построения нейросетевых архитектур и живых сетей мозга делают возможным следующий шаг на пути к нейрогибридным системам – создание интерфейса между искусственными мемристивными и живыми системами [7] для решения актуальных задач робототехники, искусственного интеллекта и медицины. В статье рассматривается создание нейроинтерфейса для двунаправленной связи между выращенной в микрофлюидном чипе биологической нейронной сетью (БНС) диссоциированных клеток гиппокампа и искусственной нейронной сетью (ИНС) с синапсами на базе массивов металл-оксидных мемристивных устройств.
Врамках ведущих европейских научно-технических программ в период с 2013 по 2015 год стартовал ряд проектов, направленных на создание нейроморфных чипов и нейробиогибридных систем на основе мемристоров, а также координацию усилий европейских коллективов и промышленных компаний на этом широком междисциплинарном поле [8]. Проводимые исследования [9] свидетельствуют об актуальности создания распределенных или компактных нейроинтерфейсов на основе мемристивных устройств и систем.
В данной статье представлен проект искусственной нейронной сети на основе мемристоров (ИНСМ), являющейся важнейшим компонентом для создания энергоэффективных, биоподобных и биосовместимых двунаправленных адаптивных нейроинтерфейсов. В основе ИНСМ лежит применение мемристивных материалов и устройств нового поколения. Для проектирования ИНСМ использованы современные методы и средства системного анализа и имитационного моделирования, позволяющие создавать системы с заданными свойствами и характеристиками.
Общее описание нейроинтерфейса
Нейроинтерфейс на системном уровне состоит из двух основных связных подсистем, представленных на рис. 1. Подсистема регистрации активности и стимуляции БНС включает в себя микрофлюидный чип (МФЧ) с микроэлектродной матрицей (МЭМ), управляемые устройством на базе микроконтроллера. Эта подсистема регистрирует данные об активности БНС и передает их на подсистему ИНСМ для классификации паттернов активности.
На основании результатов классификации нейроинтерфейс принимает решение о регулировании стимулирования БНС, таким образом реализуя функционал двусторонней связи и адаптивности. Далее рассмотрим более подробно каждую из подсистем.
Подсистема регистрации активности и стимуляции живой культуры
МФЧ изготовлены с применением метода «мягкой литографии» из полидиметилсилоксана (ПДМС). Мастер-форма для чипов изготавливалась с помощью двухслойной литографии. МФЧ включают в себя две камеры для культивирования клеток и восемь микроканалов, обеспечивающих однонаправленный рост аксонов от камеры-источника к камере-приемнику. Микроканалы состоят из последовательно соединенных трех или четырех сегментов треугольной формы, которая обеспечивает направленный рост аксонов (рис. 2а).
Готовые ПДМС-чипы совмещались с МЭМ, поверхность которой покрывалась адгезивом полиэтиленимином в концентрации 1 мг / мл и ламинином в концентрации 20 мг / мл (производства компании Sigma-Aldrich, США). МФЧ совмещались с МЭМ (рис. 2б), содержащей 60 электродов, с помощью трехмерного механического микроманипулятора под бинокулярным микроскопом так, что 14 или 24 электрода располагались в каждой камере чипа, 24 или 32 электрода – в микроканалах (по три или четыре электрода в каждом из восьми микроканалов).
Чтобы предотвратить повреждение электродов, применяли метод обратимого соединения МЭМ с ПДМС. После прикрепления ПДМС к МЭМ их отверждали в сухожаровом шкафу при 80 °C в течение 30 мин.
Диссоциированные клетки гиппокампа эмбрионов мышей (Е18) высеивали в камеры микрофлюидных чипов (рис. 2б) с начальной плотностью 7 000–9 000 клеток на мм 2.
Беременные мыши умерщвлялись путем дислокации шейных позвонков, эмбрионы были немедленно удалены кесаревым сечением. Все экспериментальные процедуры, основные правила содержания и ухода за экспериментальными животными соответствовали нормативам и были согласованы с Этическим комитетом ФГАОУ ВО «Национальный исследовательский Нижегородский государственный университет им. Н. И. Лобачевского».
Подробное описание процедуры приведено в предыдущих публикациях [10]. Поддержание жизнеспособности клеточных культур осуществлялось в инкубаторе при температуре 37 °C, влажности 100% и содержании СО2 в воздухе 5%.
Электрофизиологические измерения проводили спустя 20 дней развития in vitro, к этому времени две культуры в МФЧ были связаны аксонами через микроканалы и генерировали спонтанную активность. Стимуляция нейрональных культур проводилась с помощью стимулятора STG‑4004 (производства компании Multi Channel Systems, Германия). Серия из 30 стимулов применялась к одному из двух электродов, выбранных случайным образом в камере-источнике. Низкочастотная стимуляция состояла из бифазных импульсов напряжения амплитудой 800 мВ, 260 мкс на фазу, первая положительная, интервалы между стимулами составляли 3 с. Сигналы от случайных четырех электродов, размещенных в середине четырех из восьми микроканалов, регистрировались системой МЭМ (производства компании Multi Channel Systems) с частотой дискретизации 20 кГц (рис. 2в).
Детектирование спайков проводилось с использованием расчета пороговых значений медианы сигнала, как описано в предыдущих исследованиях (рис. 2г) [10, 11]. Анализ сигналов и получение статистики выполнялись с помощью разработанного в среде программирования MATLAB программного обеспечения Meaman.
Подсистема ИНСМ
Основная решаемая подсистемой ИНСМ задача – это классификация паттернов нейронной активности, возникающей в БНС в ответ на стимулирующие воздействия. Стимуляция БНС проводится через электроды в камере 1 МФЧ. После стимуляции БНС происходит регистрация времен приходов спайков в микроканалах МФЧ. Таким образом, паттерн нейронной активности является пространственно-временным, так как формируется на основании информации о времени прихода спайков в разделенных в пространстве каналах МФЧ. Каждый паттерн активности соответствует одному из стимулируемых электродов в камере 1.
Архитектура ИНСМ – многослойный персептрон (МСП). Количество входов ИНСМ соответствует количеству элементов вектора, кодирующего паттерн активности. Количество выходов ИНСМ соответствует количеству стимулируемых электродов в камере 1. ИНСМ состоит из синапсов и нейронов, объединенных в слои.
Синапсы ИНСМ реализованы с применением мемристивных устройств, выполненных на основе новой многослойной тонкопленочной структуры Au / Ta / ZrO2(Y) / Ta2O5 / TiN / Ti, которая содержит самоформирующиеся интерфейсные оксидные слои, нанокристаллы и специально разработана для получения стабильного резистивного переключения с малым разбросом параметров [12, 13]. Массив мемристивных устройств смонтирован в стандартный металлокерамический корпус (рис. 3а) и может быть легко интегрирован в электрическую схему нейроинтерфейса. Мемристивные устройства демонстрируют биполярное резистивное переключение анионного типа между состоянием с высоким сопротивлением (HRS) и состоянием с низким сопротивлением (LRS). Оба состояния характеризуются нелинейной вольтамперной характеристикой (ВАХ) (рис. 3б) и низким разбросом значений сопротивления, полученных из ВАХ при напряжении 0,5 В (рис. 3в).
Следует отметить, что именно такие нелинейные характеристики обеспечивают создание пассивных массивов «кросс-бар» с высокой плотностью размещения на чипе [14].
Для программирования заданных резистивных состояний мемристивного устройства, определяющих соответствующий синаптический вес в ИНСМ, использовалась импульсная методика voltage ramp [15], адаптированная под закономерности и параметры резистивного переключения для данной мемристивной структуры. Особенностью методики является использование активной обратной связи при установлении заданного состояния с требуемой точностью, что уменьшает общее число воздействий на мемристивное устройство по сравнению с другими методами. Для задания режимов программирования из анализа статических ВАХ определялся коридор возможных состояний (значений сопротивления) мемристивного устройства. Программирование осуществляется путем подачи импульсов напряжения с увеличивающейся амплитудой в диапазоне от 0,5 до 3 В (1 мс) с проверкой состояния после каждого импульса путем подачи импульса считывания с малой амплитудой (0,1 В, 1 мс). В том случае, если при увеличении амплитуды необходимое сопротивление с заданной точностью не достигается, мемристивное устройство возвращается в исходное состояние путем подачи инициализирующего импульса напряжения (–3 В, 1 мс) с ограничением тока 300 мкA, и приведенный выше алгоритм подачи импульсов напряжения повторяется до достижения требуемого состояния. Пример временной диаграммы с двумя итерациями последовательностей программирующих импульсов и считываемыми значениями тока вне и внутри допустимого коридора показан на рис. 3 г.
На рис. 3д предствлен пример реализации предложенного алгоритма для программирования восьми различных резистивных состояний в диапазоне 10–60 кОм. Для набора статистики, необходимой для построения гистограмм, по окончании процедуры программирования дополнительно проводилось испытание retention путем измерения тока через мемристор в течение 5 с при подаче постоянного напряжения 0,1 В. Процедура программирования повторялась 20 раз для каждого заданного значения сопротивления. Несмотря на наблюдаемый разброс сопротивлений резистивных состояний, связанный с неидеальной характеристикой retention, из рис. 3д видно, что методика обеспечивает однозначное программирование заданного состояния без перекрытия распределений.
На рис. 4 представлена упрощенная электрическая принципиальная схема нейрона ИНСМ.
Умножение входных данных на весовой коэффициент выполняется через преобразование напряжения входного сигнала в ток, мемристор в этом случае выступает в качестве источника тока. Все мемристоры в строке матрицы подключены к одному операционному усилителю в инвертирующем включении (U1, U2), который выполняет функцию сумматора за счет сложения токов на инвертирующем входе по правилу Кирхгофа.
Такое решение удобно тем, что за счет отрицательной обратной связи на инвертирующем входе, к которому подключены мемристоры, можно получить не только виртуальный ноль, но и разные напряжения смещения, подав соответствующий уровень на неинвертирующий вход. Суммарный ток всех мемристоров и соответственно ток каждого отдельного элемента преобразуется в выходное напряжение сумматора с коэффициентом, равным сопротивлению обратной связи (с изменением знака).
В данной работе каждый синапс реализован с помощью пары мемристоров, расположенных в смежных строках и относящихся к одному столбцу (входу данных) для получения биполярных значений весовых коэффициентов на выходе дифференциального усилителя (U3). Таким образом, все мемристоры в заданной паре строк относятся к синапсам одного нейрона. Значение веса определяется как разница коэффициентов преобразования напряжений, поступающих на вход этого усилителя:
, (1)
где RM1 – сопротивление мемристора, относящегося к строке, сумматор которой подключен к инвертирующему входу дифференциального усилителя;
RM2 – сопротивление мемристора, относящегося к строке, сумматор которой подключен к неинвертирующему входу дифференциального усилителя;
RF – сопротивление обратной связи.
В качестве функции активации используется линейная функция с насыщением. В схеме функция активации реализуется с помощью инвертирующего усилителя (U4), коэффициент усиления которого характеризирует тангенс угла наклона функции на линейном участке. Напряжения насыщения усилителя характеризуют уровни насыщения функции.
Для решения проблемы с токами перетока, возникающими по всей матрице при работе с конкретным целевым мемристором, на данном этапе на оставшиеся не целевые строки и столбцы подается напряжение смещения 1,5 В.Для того чтобы гарантировать максимальное падение напряжения на любом другом мемристоре, кроме выбранного, не выше 1,5 В, вводится ограничение на максимальную амплитуду программирующих импульсов, равное 3 В. Таким образом диапазон напряжений программирующих импульсов составляет 1,5–3 В. При подаче проверочного импульса во избежание присутствия на входе сумматора токов других мемристоров, остальные столбцы и строки либо коммутируются на землю, либо на них подается нулевое смещение.
Для формирования программирующих импульсов и сигналов данных с различной амплитудой (и знаком) используются ЦАП с двухполярным питанием. В цифровом виде данные формируются в ПЛИС, а затем подаются на ЦАП каналов. Для считывания значений с выходных нейронов в режиме обработки данных, а также для считывания выходного напряжения с каждого сумматора в режиме программирования используются АЦП с двухполярным питанием. Данные с АЦП передаются в ПЛИС, где они обрабатываются.
Подсистема контроля и управления ИНСМ на базе ПЛИС, кроме взаимодействия с ЦАП и АЦП, выполняет коммутацию сигналов. Напряжения смещения на строках формируются за счет подачи на неинвертирующие входы сумматоров опорного напряжения. Для подачи различных уровней используются электронные ключи, управляемые ПЛИС.
Результаты
В данной работе экспериментальным путем были зафиксированы времена прихода первых четырех спайков (t1,…t4) в четырех каналах МФЧ (ch1,…ch4) в ответ на стимуляцию четырех областей БНС S1,…S4 в камере 1 (паттерн ответа). Максимальное время ожидания спайка составляло 50 мс. Данные времена были аппроксимированы функцией Гаусса и для четырех источников стимулирующих воздействий псевдослучайно синтезировано 4 000 паттернов сигналов, по 1 000 для каждого (рис. 5). Это необходимо для того, чтобы увеличить объем обучающей и тестовой выборки для разрабатываемой ИНСМ.
Для нормализации данных и приведения их к заданному диапазону амплитуд напряжений каждый паттерн ответа разделен на 50 и округлен до заданной разрядности ЦАП. В данном случае использованы биполярные 12‑разрядные ЦАП с диапазоном выходных напряжений ±5 В. Таким образом, все значения обучающей и тестовой выборок округлены с шагом 0,0024 В. Каждому паттерну ответа в выборке поставлен в соответствие вектор из четырех элементов, содержащий «1» на позиции, обозначающей номер стимулируемой области S, и «–1» на остальных позициях. Для посторонних сигналов вектор состоит из четырех «–1».
Помимо времен прихода спайков после воздействия источников S1,…S4, были замерены паттерны нейронной активности, возникающей после воздействия других источников или причин, которые условно можно классифицировать как посторонние (Sr). На основании посторонних паттернов так же было синтезировано 4 000 псевдослучайных последовательностей для обучающей и тестовой выборок ИНСМ. Общее количество паттернов 8 000 было перемешано псевдослучайным образом и разделено на обучающую (S1 – 735, S2 – 760, S3 – 724, S4 – 754, Sr – 3 027, итого: 6 000) и тестовую (S1 – 265, S2 – 240, S3 – 276, S4 – 246, Sr – 973, итого: 2 000) выборки.
Таким образом, количество входов ИНСМ – 16 – соответствует четырем каналам микрофлюидного чипа, в каждом из которых фиксируются времена прихода первых четырех спайков. Количество нейронов скрытого слоя – 8 – соответствует максимальному числу нейронов, которые можно реализовать с использованием одной матрицы мемристоров 16 × 16. Количество нейронов выходного слоя – 4 – соответствует четырем областям воздействий S1,…S4. Функции активации слоев – линейные с насыщением, максимально приближены к реальным функциям активации, реализуемым с использованием операционных усилителей.
Погрешность функционирования ИНСМ в процессе обучения оценивалась с помощью критерия средней суммы квадратов абсолютных ошибок (MSE). Метрика точности, называемая вероятностью ошибки (Perr) и равная отношению количества ошибочно классифицированных сигналов к общему количеству сигналов, использовалась для оценки производительности ИНСМ во время работы.
На рис. 6 приведена кривая обучения ИНСМ. Видно, что обучение сходится и ИНСМ способна классифицировать область стимуляции БНС по паттерну активности. Вероятность ошибки ИНСМ на тестовой выборке после обучения не более 2%. После получения весов W произведена их квантизация до пяти уровней. Для каждого уровня по формуле (1) рассчитаны значения сопротивлений для пары мемристоров, реализующих один синапс.
В результате наличия погрешностей параметров мемристоров синапса ИНСМ возникает погрешность весового коэффициента W (рис. 7а). Были рассчитаны поля допуска на погрешность весов синапсов на имитационной модели. Для всех электронных компонентов синапса заданы погрешности, чтобы оценить их влияние на вес синапса W.
Далее было проведено имитационное моделирование всей ИНСМ при заданных значениях погрешностей параметров мемристоров. Максимально допустимые пределы погрешностей весов синапсов ИНСМ определены в результате имитационного моделирования (пример на рис. 7а). Номинальные значения RF = 100 кОм ± 1%, RM1 = 322,9 кОм ± 20%, RM2 = 12,2 кОм ± 20%. Закон распределения погрешностей сопротивлений – нормальный. Границы погрешностей определены для 0,05 и 99,5% процентилей. В качестве допуска взяты наибольшие отклонения, отражающие наихудший случай (рис. 7б). Далее проведено имитационное моделирование ИНСМ при наличии погрешностей синаптических весов, вызванных погрешностями электронных компонентов (рис. 7в). При 1000 повторений эксперимента вероятность ошибки ИНСМ Perr не превышает 5%. Данное значение получено на тестовой выборке. Таким образом, мемристоры типа Au / Ta / ZrO2(Y) / Ta2O5 / TiN / Ti подходят по своим электрофизическим параметрам и характеристикам для технической реализации ИНСМ, являющейся компонентом двухстороннего адаптивного нейроинтерфейса.
* * *
В заключение можно сказать, что в результате проектирования ИНСМ получен набор моделей разного уровня структурно-функциональной иерархии, который позволил определить номинальные значения характеристик ее электронных компонентов и параметров сигналов чтения, программирования и функционирования.
Предложен оригинальный вариант принципиальной схемы многослойного персептрона на базе мемристоров. К его основным преимуществам можно отнести легкую масштабируемость и возможность регулировки диапазона весов за счет изменения номиналов резисторов. Предложенная принципиальная схема нейрона отличается схемой коммутации напряжений смещения для обеспечения режима программирования нейрона в части нейтрализации токов перетока. Отличие от других известных из публикаций решений заключается в отсутствии коммутационных элементов в цепях, в которые включены мемристоры, тем самым минимизируются помехи, связанные с переключением элементов коммутации.
В результате имитационного моделирования назначены допустимые пределы отклонения параметров электронных компонентов от номинальных значений, соблюдение которых обеспечит точность функционирования ИНСМ не менее 95%.
Различные части работы выполнены при поддержке РНФ (грант № 16-19-00144), РФФИ (грант № 19-07-01215) и гранта Президента РФ (MK‑3927.2019.9 2019).
Литература
Schuman C. D., Potok T. E., Patton R. M., Birdwell J. D., Dean M. E., Rose G. S., Plank J. S. A Survey of Neuromorphic Computing and Neural Networks in Hardware. 2017. http://arxiv.org/abs/1705.06963 [Дата обращения: 13 июля 2019].
Xia Q., and Yang J. J. Memristive crossbar arrays for brain-inspired computing // Nature Materials. 2019. V. 18, PP. 309–323. https://doi.org/10.1038/s41563-019-0291‑x.
Zhu J., Zhang T., Yang Y., and Huang R. A comprehensive review on emerging artificial neuromorphic devices // Applied Physics Reviews. 2020. V. 7. № 1. https://doi.org/10.1063/1.5118217.
Zidan M. A., Strachan J. P., and Lu W. D. The future of electronics based on memristive systems // Nature Electronics. 2018. V. 1. PP. 22–29. https://doi.org/10.1038/s41928-017-0006-8.
Chua L. O. Memristor – The Missing Circuit Element // IEEE Transactions on Circuit Theory. 1971. V. 18. № 5. PP. 507–519. https://doi.org/10.1109/TCT.1971.1083337.
Strukov D. B., Snider G. S., Stewart D. R., and Williams R. S. The missing memristor found // Nature. 2008. V. 453, PP. 80–83. https://doi.org/10.1038/nature06932.
Chiolerio A., Chiappalone M., Ariano P., and Bocchini S. Coupling resistive switching devices with neurons: State of the art and perspectives // Frontiers in Neuroscience. 2017. V. 11. https://doi.org/10.3389/fnins.2017.00070.
Vassanelli S., and Mahmud M. Trends and challenges in neuroengineering: Toward “intelligent” neuroprostheses through brain-”brain inspired systems” communication // Frontiers in Neuroscience. 2016. V. 10. https://doi.org/10.3389/fnins.2016.00438.
Serb A., Corna A., George R., Khiat A., Rocchi F., Reato M., et al. Memristive synapses connect brain and silicon spiking neurons // Scientific Reports. 2020. V. 10. https://doi.org/10.1038/s41598-020-58831-9.
Pimashkin A., Gladkov A., Mukhina I., and Kazantsev V. Adaptive enhancement of learning protocol in hippocampal cultured networks grown on multielectrode arrays // Front. Neural Circuits. 2013. https://doi.org/10.3389/fncir.2013.00087.
Pimashkin A., Kastalskiy I., Simonov A., Koryagina E., Mukhina I., and Kazantsev V. Spiking signatures of spontaneous activity bursts in hippocampal cultures // Front. Comput. Neurosci. 2011. V. 5. https://doi.org/10.3389/fncom.2011.00046.
Tikhov S., Belov A., Korolev D., Antonov A., Sushkov D., Pavlov D., et al. Electrophysical characteristics of multilayer memristive nanostructures based on yttria stabilized zirconia dioxide and tantalum oxide // Technical Physics. 2020. V. 65, PP. 284–290.
Mikhaylov A., Belov A., Korolev D., Antonov I., Kotomina V., Kotina A., et al. Multilayer Metal-Oxide Memristive Device with Stabilized Resistive Switching // Advanced Materials Technologies. 2020. V. 5. https://doi.org/10.1002/admt.201900607.
Bayat F. M., Prezioso M., Chakrabarti B., Nili H., Kataeva I., and Strukov D. Implementation of multilayer perceptron network with highly uniform passive memristive crossbar circuits // Nature Communications. 2018. V. 9. https://doi.org/10.1038/s41467-018-04482-4.
Emelyanov A. V., Nikiruy K. E., Demin V. A., Rylkov V. V., Belov A. I., Korolev D. S., et al. Yttria-stabilized zirconia cross-point memristive devices for neuromorphic applications // Microelectronic Engineering. 2019. V. 215. https://doi.org/10.1016/j.mee.2019.110988.
Отзывы читателей
