Samsung розширює можливості застосування для опрацювання даних у пам’яті

Інтеграція HBM-PIM із системою пришвидшувача Xilinx Alveo AI підвищить загальну продуктивність системи в 2,5 раза за одночасного зменшення споживання енергії на більш як 60%

Архітектура PIM пошириться за межі HBM і охоплюватиме основні модулі DRAM та мобільну пам’ять

Компанія Samsung Electronics, світовий лідер у сфері передових технологій пам’яті, продемонструвала свої останні досягнення для опрацювання даних у пам’яті (processing-in-memory, PIM) на Hot Chips 33 – провідній конференції із напівпровідників, де щороку представляються найвизначніші інновації в галузі мікропроцесорів і мікросхем. Нові рішення Samsung охоплюють першу успішну інтеграцію пам’яті з високою пропускною здатністю на основі PIM (HBM-PIM) у комерційну систему пришвидшувача, а також поширення застосування PIM на модулі DRAM і мобільну пам’ять.

Перша інтеграція HBM–PIM у AI-пришвидшувач

У лютому компанія представила перше в галузі рішення HBM-PIM (Aquabolt-XL), що додало функцію опрацювання даних на основі AI до HBM2 Aquabolt від Samsung з метою покращити швидкісне опрацювання даних у суперкомп’ютерах та AI-додатках. Відтоді HBM-PIM було випробувано на пришвидшувачі Xilinx Virtex Ultrascale+ (Alveo) AI, досягнувши 2,5-кратного збільшення продуктивності системи та понад 60% меншого енергоспоживання.

«HBM-PIM – це перше в галузі рішення пам’яті з підтримкою AI, яке під час тестування в клієнтських системах AI-пришвидшувачів продемонструвало величезний комерційний потенціал, – сказав Кім Намсон, старший віцепрезидент відділу продуктів і технологій DRAM у Samsung Electronics. – Стандартизація технології збільшить кількість можливих застосувань, охопивши HBM3 для суперкомп’ютерів наступного покоління та AI-додатки, навіть мобільну пам’ять для пристроїв на основі AI та модулі пам’яті в центрах опрацювання даних (ЦОД)».

«Xilinx співпрацює із Samsung Electronics, щоб створювати вископродуктивні рішення для ЦОД, мереж і додатків для опрацювання сигналів у режимі реального часу, починаючи з сімейства Virtex UltraScale+ HBM та нашої нещодавно представленої серії приголомшливих продуктів Versal HBM», – зазначив Арун Варадараджан Раджагопал, старший директор відділу планування продуктів Xilinx, Inc.

Модулі DRAM на основі PIM

Acceleration DIMM (AXDIMM) забезпечує опрацювання даних безпосередньо в модулі DRAM, мінімізуючи переміщення великих обсягів інформації між процесором і DRAM, що покращує енергоефективність систем AI-пришвидшувача. Завдяки механізму на основі AI, вбудованому в буферний чип, AXDIMM паралельно опрацьовує водночас кілька рангів пам’яті (наборів чипів DRAM) замість одного, суттєво підвищуючи продуктивність та ефективність системи. Оскільки модуль зберігає традиційний для DIMM формфактор, заміна AXDIMM не потребує модифікації системи. AXDIMM наразі тестується на серверах клієнтів і може запропонувати приблизно вдвічі більшу продуктивність для рекомендованих додатків на основі AI та зменшує загальне енергоспоживання енергії в системі на 40%.

«SAP і Samsung постійно працюють разом над новими технологіями пам’яті, забезпечуючи оптимальну продуктивність для SAP HANA та швидшу роботу баз даних. З огляду на прогнози продуктивності та сценарії потенційної інтеграції ми очікуємо побачити значне покращення ефективності для системи керування базами даних у пам’яті (IMDBMS) та вищу енергоефективність завдяки відокремленим обчисленням на AXDIMM. SAP планує продовжувати співпрацю із Samsung у цій сфері», – прокоментував Олівер Ребгольц, керівник відділу досліджень та інновацій ядра HANA в SAP.

Мобільна пам’ять, що переносить AI з ЦОД на пристрій

Технологія мобільної пам’яті LPDDR5-PIM від Samsung пропонує незалежні можливості штучного інтелекту без під’єднання до центру опрацювання даних. Імітаційні тести продемонстрували здатність LPDDR5-PIM збільшити продуктивність більш ніж удвічі за одночасного зменшення енергії на понад 60% під час використання в таких додатках, як розпізнавання голосу, переклад і чатбот.

Підсилюючи екосистему

Samsung планує розширювати своє портфоліо пристроїв пам’яті на основі AI, співпрацюючи з іншими лідерами галузі над завершенням стандартизації платформи PIM у першій половині 2022 року. Компанія також продовжить розвивати екосистему PIM, забезпечуючи її широке застосування на ринку пам’яті.