Samsung: сочетание памяти с высокой пропускной способностью и вычислительной мощности искусственного интеллекта

Samsung: сочетание памяти с высокой пропускной способностью и вычислительной мощности искусственного интеллекта

Samsung Electronics добавила ускоритель ИИ в высокоскоростной чип оперативной памяти. 4Gbit HBM-PIM DRAM, показанный на конференции ISSCC, является первым в отрасли устройством памяти с высокой пропускной способностью (HBM), интегрированной с AI для обработки непосредственно в памяти (processing-in-memory – PIM).

Комбинированная архитектура объединяет вычисления с ИИ внутри высокопроизводительной памяти. С помощью этой архитектуры обеспечивается крупномасштабная обработка в центрах обработки данных и системах высокопроизводительных вычислений (HPC). Samsung также рассматривает возможность использования этой технологии в мобильных приложениях с поддержкой ИИ.

«Наш HBM-PIM – первое в отрасли программируемое решение PIM, адаптированное для различных рабочих нагрузок, управляемых ИИ, таких как высокопроизводительные вычисления, обучение и логические выводы. Мы планируем развивать это направление в сотрудничестве с поставщиками решений ИИ. Вместе мы создадим ещё более продвинутые приложения на основе PIM», – отметил Квангил Парк, старший вице-президент по планированию продуктов памяти в Samsung Electronics.

HBM-PIM обеспечивает вычислительную мощность непосредственно в том месте, где хранятся данные, путём размещения 16-битного ИИ-процессора с плавающей средней частотой 300 МГц, который Samsung называет программируемым вычислительным блоком (PCU) внутри каждого банка памяти для минимизации перемещения данных. Таким образом, открывается 32 блока PCU FP16 для кристалла DRAM 4 Гбит, который обрабатывает веса в механизме вывода.

При использовании с существующим интерфейсом памяти HBM2 Aquabolt от Samsung новая архитектура способна обеспечить более чем вдвое большую производительность системы при одновременном снижении энергопотребления более чем на 70%. HBM-PIM также не требует каких-либо изменений в аппаратном или программном обеспечении, что обеспечивает более быструю интеграцию в существующие системы. Samsung объединила четыре кристалла HBM-PIM 4 Гбит с четырьмя стандартными кристаллами 8 ГБ для использования в ускорителях искусственного интеллекта.

Чип HBM-PIM в настоящее время проходит испытания в ряде ускорителей искусственного интеллекта для центров обработки данных, которые, как ожидается, будут активно использовать Nvidia и AMD. Все испытания должны быть завершены в течение первой половины 2021 года. Один из первых пользователей этого чипа – суперкомпьютер, используемый Аргоннской национальной лабораторией в США.

«Рад, что Samsung решает проблемы пропускной способности памяти и мощности для вычислений HPC и ИИ. Разработка HBM-PIM продемонстрировала впечатляющую производительность и прирост мощности в важных классах приложений искусственного интеллекта. Мы с нетерпением ждём возможности поработать вместе, чтобы оценить производительность в условиях Аргоннской национальной лаборатории», – заключил Рик Стивенс, заместитель директора лаборатории Аргонн по вычислительной технике с кафедры биологических наук.

www.samsung.com


Поделиться:



Смотрите новое видео на канале СОВРЕМЕННАЯ ЭЛЕКТРОНИКА

На данном сайте используются cookie для сбора информации технического характера и обрабатывается Ваш IP-адрес. Продолжая использовать этот сайт, вы даете согласие на использование файлов cookies.