Исследование проводилось под руководством Samsung Advanced Institute of Technology (SAIT) в тесном сотрудничестве с Samsung Electronics Foundry Business и Semiconductor R&D Center. Непосредственно изучением занимались авторы статьи – штатный научный сотрудник SAIT Сюнгчул Джун (Seungchul Jung), сотрудник SAIT и профессор Гарвардского университета Донхи Хам (Donhee Ham) и вице-президент по технологиям SAIT Санг Джун Ким (Sang Joon Kim).

Слева направо: сотрудник SAIT и профессор Гарвардского университета Донхи Хам (Donhee Ham), штатный научный сотрудник SAIT Сюнгчул Джун (Seungchul Jung) и вице-президент по технологиям SAIT Санг Джун Ким (Sang Joon Kim)

В стандартной компьютерной архитектуре данные хранятся в микросхемах памяти, а вычисления выполняются в отдельных микросхемах процессора.

В вычислениях в памяти предусмотрен иной механизм. Это новая вычислительная парадигма, обеспечивающая хранение данных и их вычисление в сети памяти. Благодаря тому, что эта схема может обрабатывать большой объем данных, хранящихся в самой сети памяти, без необходимости перемещения данных, при этом осуществляя этот процесс параллельно, энергопотребление существенно снижается. Таким образом, вычисления в памяти стали одной из перспективных технологий для создания полупроводниковых ИИ-процессоров следующего поколения с низким энергопотреблением.

Неудивительно, что исследования в столь перспективной области вычислений в памяти интенсивно ведутся во всем мире. Энергонезависимая память, в частности RRAM (резистивная память с произвольным доступом) и PRAM (память с фазовым изменением произвольного доступа), уже активно использовалась для демонстрации вычислений в памяти. MRAM, который относится к другому типу энергонезависимой памяти, имеет ряд таких преимуществ, как скорость работы, долговечность и крупномасштабное производство. Однако, в отличие от вышеупомянутых решений, MRAM было сложно использовать для вычислений в памяти из-за низкого сопротивления, из-за чего снижение энергопотребления при использовании в стандартной архитектуре вычислений в памяти было затруднительным.

Исследователи Samsung Electronics предложили решение этой проблемы с помощью архитектурной инновации. В частности, им удалось разработать чип с технологией MRAM, демонстрирующий вычисления в памяти с заменой стандартной архитектуры вычислений в памяти «сумма тока» на новую архитектуру вычислений в памяти «сумма сопротивления», которая решает проблему низкого сопротивления в MRAM-устройствах.

Исследовательская группа Samsung впоследствии протестировала производительность этого чипа MRAM для вычислений в памяти, запустив его для выполнения вычислений на базе искусственного интеллекта. Чип продемонстрировал точность в 98% при классификации рукописных цифр и 93% при обнаружении лиц в изображениях.

Внедрение MRAM в сферу вычислений в памяти позволит расширить границы возможностей энергоэффективных чипов с ИИ-технологиями следующего поколения.

Исследователи предполагают, что новый чип MRAM может не только использоваться для вычислений в памяти, но и служить платформой для загрузки биологических нейронных сетей. Эта идея соответствует концепции нейроморфной электроники, которую исследователи Samsung описали в статье, опубликованной в журнале Nature Electronics в сентябре 2021 года.

«Вычисления в памяти имеют сходство с мозгом в том смысле, что в мозге вычисления также происходят в сети биологической памяти, точнее в синапсах, где нейроны соприкасаются друг с другом, – сказал Сюнгчул Джун, первый автор статьи. – Хотя вычисления, выполняемые нашей сетью MRAM, имеют другие задачи, такая сеть твердотельной памяти может в будущем использоваться в качестве платформы для имитации мозга путем моделирования связи синапсов мозга».

Опираясь на свою ведущую технологию памяти и объединяя ее с технологией полупроводников, Samsung планирует и дальше расширять свое лидерство в области ИИ-процессоров следующего поколения.

Идея, предложенная ведущими инженерами и учеными из Samsung и Гарвардского университета, была опубликована журналом Nature Electronics в виде обзорной статьи под названием «Нейроморфная электроника, основанная на копировании и вставке нейронных связей мозга» (‘Neuromorphic electronics based on copying and pasting the brain’). Соавторами статьи являются Донхи Хэм (Donhee Ham), научный сотрудник Samsung Advanced Institute of Technology (SAIT) и профессор Гарвардского университета, профессор Хункунь Парк (Hongkun Park) из Гарвардского университета, Сунгу Хван (Sungwoo Hwang), президент и главный исполнительный директор Samsung SDS и бывший глава SAIT, и Кинам Ким (Kinam Kim), вице-председатель и главный исполнительный директор Samsung Electronics.

Изображение нейронов крысы на CNEA (матрица наноэлектродов CMOS).

Суть выдвинутой авторами концепции лучше всего выражается двумя словами – «копировать» и «вставить». В статье предлагается способ копирования карты нейронных связей мозга с помощью революционной матрицы наноэлектродов, разработанной доктором Хэмом и доктором Парком, и вставки этой карты в высокоплотную трехмерную сеть твердотельной памяти, в технологиях разработки которой Samsung является мировым лидером.

С помощью этого подхода копирования и вставки авторы предполагают создать микросхему памяти, которая по своим характеристикам приблизится к уникальным вычислительным возможностям мозга – она будет обладать низким энергопотреблением, легко поддаваться обучению, адаптироваться к окружающей среде и даже будет отличаться автономностью и поддерживать когнитивные функции – все это является недосягаемым для нынешних технологий.

Мозг состоит из большого количества нейронов, и связи различных между ними отвечают за функции мозга. Таким образом, знание карты этих связей является ключом к реверс-инжинирингу работы мозга.

Хотя первоначальная цель нейроморфной инженерии, начало которой было положено еще в 1980-х годах, состояла в том, чтобы воспроизвести структуру и работу нейронных сетей на кремниевом чипе, эта задача оказалась чрезвычайно трудной – даже сейчас ученым мало что известно о том, какие связи существуют между большим количеством нейронов, участвующих в высших мозговых функциях. В результате цель нейроморфной инженерии была упрощена и сведена к созданию чипа, скорее, «по мотивам» мозга, а не к точному его повторению.

В этой статье предлагается способ вернуться к исходной нейроморфной цели реверс-инжиниринга мозга. Матрица наноэлектродов, в сущности, может входить в большое количество нейронов, благодаря чему она способна записывать их электрические сигналы с высокой чувствительностью. Эти массивно параллельные внутриклеточные записи позволяют сформировать карту нейронных связей, с указанием точек соединения нейронов и силы этих связей. Таким образом, из этих сигнальных записей можно извлечь или «скопировать» карту нейронных связей.

Скопированную нейронную карту затем можно «вставить» в сеть энергонезависимой памяти – например, коммерческую флэш-память, которая используется в нашей повседневной жизни в твердотельных накопителях (solid-state drives, SSD), или в «новую» память, например, с резистивным произвольным доступом (resistive random access memories, RRAM) – запрограммировав каждый элемент памяти таким образом, чтобы его проводимость представляла силу каждой нейронной связи в скопированной карте.

(Слева направо) Соавторы исследования Донхи Хэм (Donhee Ham), научный сотрудник Samsung Advanced Institute of Technology (SAIT) и профессор Гарвардского университета, профессор Хункунь Парк (Hongkun Park) из Гарвардского университета, Сунгу Хван (Sungwoo Hwang), президент и главный исполнительный директор Samsung SDS и бывший глава SAIT, и Кинам Ким (Kinam Kim), вице-председатель и главный исполнительный директор Samsung Electronics.

Авторы статьи развивают эту идею и предлагают стратегию быстрой вставки полученной карты нейронных связей в сеть памяти. Сеть специально спроектированных энергонезависимых запоминающих устройств может изучать и воспроизводить карту нейронных связей при непосредственном управлении от сигналов, записанных на внутриклеточном уровне. По сути, такая схема напрямую загружает карту нейронных связей мозга в чип памяти.

Поскольку человеческий мозг насчитывает примерно 100 миллиардов нейронов и еще примерно в тысячу раз больше синаптических связей, для создания нейроморфного чипа потребуется примерно 100 триллионов элементов памяти. Объединение такого огромного количества запоминающих элементов на одном чипе стала возможным благодаря 3D-интеграции памяти – развиваемой Samsung технологии, которая открывает новую эру в индустрии памяти.

Опираясь на свой передовой опыт в производстве микросхем, Samsung намерена продолжить исследования в сфере нейроморфной инженерии, чтобы укрепить лидирующие позиции Samsung в области полупроводников следующего поколения для технологий искусственного интеллекта.

«Представленная нами идея является весьма смелой и амбициозной, – сказал д-р Хэм. – Наша работа и продвижение к столь грандиозной цели позволит раздвинуть границы машинного интеллекта, нейробиологии и полупроводниковых технологий».