Первая интеграция HBM-PIM в ускоритель искусственного интеллекта

В феврале Samsung представила первый в отрасли HBM-PIM (Aquabolt-XL), который включает в себя функцию обработки ИИ в HBM2 Aquabolt от Samsung, для повышения скорости обработки данных в суперкомпьютерах и приложениях ИИ. HBM-PIM был протестирован в ускорителе ИИ Xilinx Virtex Ultrascale+ (Alveo), где обеспечил прирост производительности системы почти в 2,5 раза, а также сократил энергопотребление более чем на 60%.

«HBM-PIM – это первое в отрасли решение для памяти с поддержкой искусственного интеллекта, которое демонстрирует огромный коммерческий потенциал, – сказал Нам Сунг Ким, старший вице-президент подразделения DRAM Product & Technology компании Samsung Electronics. – Благодаря стандартизации технологии, соответствующих приложений станет гораздо больше, охватив HBM3 для суперкомпьютеров следующего поколения, мобильные памяти для ИИ-устройств, а также модули памяти, используемые в центрах обработки данных».

«Xilinx сотрудничает с Samsung Electronics для создания высокопроизводительных решений для центров обработки данных, сетей и приложений обработки сигналов в реальном времени, начиная с семейства Virtex UltraScale+ HBM, а недавно мы представили наши новые и захватывающие продукты серии Versal HBM, – сказал Арун Варадараджан Раджагопал, старший директор по планированию продуктов компании Xilinx, Inc. – Мы рады продолжить сотрудничество с Samsung, поскольку мы помогаем оценивать системы HBM-PIM на предмет их потенциала для достижения значительного прироста производительности и энергоэффективности в приложениях ИИ».

Модули DRAM на основе PIM

Acceleration DIMM (AXDIMM) переносит обработку данных в сам модуль DRAM, минимизируя перемещение больших объемов данных между CPU и DRAM для повышения энергоэффективности систем ускорителей ИИ. Благодаря механизму ИИ, встроенному в буферный чип, модуль AXDIMM может выполнять параллельную обработку нескольких рангов памяти вместо одного, что значительно повышает производительность и эффективность системы. Поскольку модуль может сохранять традиционный форм-фактор DIMM, AXDIMM позволяет производить замену без необходимости модификации системы. В настоящее время модуль AXDIMM тестируется на серверах клиентов и может обеспечить примерно двукратное увеличение производительности в рекомендательных приложениях на основе искусственного интеллекта и снижение энергопотребления всей системы на 40%.

«SAP на постоянной основе сотрудничает с Samsung в области новых и перспективных технологий памяти для обеспечения оптимальной производительности SAP HANA и ускорения работы баз данных, – говорит Оливер Ребхольц, руководитель отдела исследований и инноваций ядра HANA в SAP. – Основываясь на прогнозах производительности и потенциальных сценариях интеграции, мы ожидаем значительного повышения производительности для системы управления базами данных в памяти (IMDBMS) и более высокой энергоэффективности, благодаря дезагрегированным вычислениям на AXDIMM. SAP продолжит сотрудничество с Samsung в этом направлении».

Мобильная память, которая переносит ИИ из центра обработки данных в устройство

Технология мобильной памяти LPDDR5-PIM от Samsung может обеспечить независимые возможности искусственного интеллекта без подключения к центру обработки данных. Имитационные тесты показали, что LPDDR5-PIM позволяет увеличить производительность более чем в два раза при снижении энергопотребления более чем на 60% при использовании в таких приложениях, как распознавание голоса, перевод и чат-бот.

Активизация экосистемы

Samsung планирует расширить свое портфолио ИИ-памяти, работая вместе с другими лидерами отрасли над завершением стандартизации платформы PIM в первой половине 2022 года. Компания также продолжит развивать экосистему PIM для обеспечения широкого применения на рынке памяти.