Первая интеграция HBM-PIM в ускоритель искусственного интеллекта

В феврале Samsung представила первый в отрасли HBM-PIM (Aquabolt-XL), который включает в себя функцию обработки ИИ в HBM2 Aquabolt от Samsung, для повышения скорости обработки данных в суперкомпьютерах и приложениях ИИ. HBM-PIM был протестирован в ускорителе ИИ Xilinx Virtex Ultrascale+ (Alveo), где обеспечил прирост производительности системы почти в 2,5 раза, а также сократил энергопотребление более чем на 60%.

«HBM-PIM – это первое в отрасли решение для памяти с поддержкой искусственного интеллекта, которое демонстрирует огромный коммерческий потенциал, – сказал Нам Сунг Ким, старший вице-президент подразделения DRAM Product & Technology компании Samsung Electronics. – Благодаря стандартизации технологии, соответствующих приложений станет гораздо больше, охватив HBM3 для суперкомпьютеров следующего поколения, мобильные памяти для ИИ-устройств, а также модули памяти, используемые в центрах обработки данных».

«Xilinx сотрудничает с Samsung Electronics для создания высокопроизводительных решений для центров обработки данных, сетей и приложений обработки сигналов в реальном времени, начиная с семейства Virtex UltraScale+ HBM, а недавно мы представили наши новые и захватывающие продукты серии Versal HBM, – сказал Арун Варадараджан Раджагопал, старший директор по планированию продуктов компании Xilinx, Inc. – Мы рады продолжить сотрудничество с Samsung, поскольку мы помогаем оценивать системы HBM-PIM на предмет их потенциала для достижения значительного прироста производительности и энергоэффективности в приложениях ИИ».

Модули DRAM на основе PIM

Acceleration DIMM (AXDIMM) переносит обработку данных в сам модуль DRAM, минимизируя перемещение больших объемов данных между CPU и DRAM для повышения энергоэффективности систем ускорителей ИИ. Благодаря механизму ИИ, встроенному в буферный чип, модуль AXDIMM может выполнять параллельную обработку нескольких рангов памяти вместо одного, что значительно повышает производительность и эффективность системы. Поскольку модуль может сохранять традиционный форм-фактор DIMM, AXDIMM позволяет производить замену без необходимости модификации системы. В настоящее время модуль AXDIMM тестируется на серверах клиентов и может обеспечить примерно двукратное увеличение производительности в рекомендательных приложениях на основе искусственного интеллекта и снижение энергопотребления всей системы на 40%.

«SAP на постоянной основе сотрудничает с Samsung в области новых и перспективных технологий памяти для обеспечения оптимальной производительности SAP HANA и ускорения работы баз данных, – говорит Оливер Ребхольц, руководитель отдела исследований и инноваций ядра HANA в SAP. – Основываясь на прогнозах производительности и потенциальных сценариях интеграции, мы ожидаем значительного повышения производительности для системы управления базами данных в памяти (IMDBMS) и более высокой энергоэффективности, благодаря дезагрегированным вычислениям на AXDIMM. SAP продолжит сотрудничество с Samsung в этом направлении».

Мобильная память, которая переносит ИИ из центра обработки данных в устройство

Технология мобильной памяти LPDDR5-PIM от Samsung может обеспечить независимые возможности искусственного интеллекта без подключения к центру обработки данных. Имитационные тесты показали, что LPDDR5-PIM позволяет увеличить производительность более чем в два раза при снижении энергопотребления более чем на 60% при использовании в таких приложениях, как распознавание голоса, перевод и чат-бот.

Активизация экосистемы

Samsung планирует расширить свое портфолио ИИ-памяти, работая вместе с другими лидерами отрасли над завершением стандартизации платформы PIM в первой половине 2022 года. Компания также продолжит развивать экосистему PIM для обеспечения широкого применения на рынке памяти.

Компания Samsung Electronics запустила массовое производство новейшего решения в сфере памяти для смартфонов – модулей LPDDR5 uMCP (UFS-based multichip package). Новые модули объединяют самую быструю оперативную память LPDDR5 и флэш-память UFS 3.1 NAND в одном корпусе. Благодаря решению Samsung станет возможен выпуск доступных смартфонов с производительностью устройств флагманского уровня.

Построенный на базе новейших мобильных интерфейсов DRAM и NAND, uMCP от Samsung обеспечивает высокую скорость работы и большой объем памяти при очень низком энергопотреблении. Благодаря этому сочетанию широкий круг пользователей  получит доступ к функциям, которые ранее были доступны только на смартфонах премиум-класса: 5G, непрерывная потоковая передача, передовые технологии фотосъемки, игры с современной графикой и дополненная реальность (AR).

Это стало возможно, поскольку производительность оперативной памяти LPDDR5 выросла почти на 50% по сравнению с предыдущим поколением LPDDR4X – с 17 гигабайт в секунду (ГБ/с) до 25 ГБ/с, а производительность флэш-памяти NAND удвоилась – с 1,5 ГБ/с до 3 ГБ/с.

Новый uMCP также позволяет максимально эффективно использовать пространство внутри смартфона за счет интеграции памяти DRAM и NAND в едином компактном корпусе размером всего 11,5 x 13 мм, поэтому для других компонентов остается больше места. Благодаря объему DRAM от 6 ГБ до 12 ГБ и емкости встроенной памяти от 128 ГБ до 512 ГБ Samsung uMCP подходит для широкого ряда 5G-смартфонов в среднем и высоком ценовых сегментах.

Samsung успешно завершила тестирование совместимости LPDDR5 uMCP с рядом мировых производителей смартфонов. Компания ожидает, что производство устройств с новым чипом начнется уже в этом месяце.