AMD и Qualcomm изучают SOCAMM2: конкуренты Nvidia меняют подход к модульной памяти для ИИ-ускорителей

Гонка за эффективностью: AMD и Qualcomm заинтересовались SOCAMM2

Ведущие разработчики аппаратного обеспечения для искусственного интеллекта, AMD и Qualcomm, проявляют серьезный интерес к модульному стандарту памяти SOCaMM2, который ранее активно продвигала Nvidia. Этот шаг сигнализирует о растущей важности высокоскоростной и энергоэффективной памяти в решениях для ИИ, где она становится критическим узким местом.

Изначально формат SOCaMM (Compression Attached Memory Module), а затем его второе поколение, SOCaMM2, разрабатывался при активном участии Nvidia, которая первой внедрила его в свои ускорители, такие как серия Vera Rubin. Однако теперь, когда потребность в быстрой памяти для обработки больших языковых моделей и других ресурсоемких ИИ-задач стремительно растет, конкуренты ищут аналогичные, а возможно, и более оптимальные решения.

Отход от эталона Nvidia: новый форм-фактор

По сообщениям отраслевых источников, AMD и Qualcomm рассматривают вариант использования SOCaMM2, однако их подход к физическому исполнению модуля может отличаться от того, что предлагает Nvidia. Если стандарт Nvidia предполагает использование длинного и узкого модуля, то конкуренты, по предварительным данным, склоняются к созданию более квадратного модуля.

Предполагаемый дизайн подразумевает размещение четырех чипов DRAM по схеме «два на два». Такое изменение в компоновке несет существенное практическое преимущество: оно позволяет интегрировать PMIC (Power Management Integrated Circuit) — микросхему управления питанием — непосредственно на сам модуль памяти.

Снижение сложности и повышение контроля

Перемещение PMIC на сменный модуль SOCaMM2 упрощает процесс производства материнских плат и плат ускорителей для AMD и Qualcomm. В частности, это устраняет необходимость в разработке и размещении сложных схем питания на основной печатной плате, что снижает общую сложность и, потенциально, стоимость производства.

Кроме того, размещение PMIC на модуле обеспечивает более точное и оперативное управление питанием, что критически важно для поддержания стабильной работы чипов DRAM на максимальных скоростях, которые требуются для работы современных ИИ-ускорителей.

Преимущества технологии SOCaMM2

Стандарт SOCaMM2, основанный на памяти LPDDR5X, уже зарекомендовал себя как высокопроизводительное решение. По заявлениям производителей, например Micron, модули SOCaMM2 могут обеспечивать вдвое большую пропускную способность по сравнению со стандартными серверными модулями DDR5 RDIMM, при этом потребляя значительно меньше энергии (до 55% меньше). Это позволяет размещать большие объемы быстрой памяти в ограниченном пространстве, что является ключевым фактором для плотных стоек ИИ-серверов.

Для Qualcomm и AMD интеграция такого форм-фактора, будь то в виде, предложенном Nvidia, или в их собственной модификации, позволит стандартизировать расширение памяти. Например, это может дать возможность легко наращивать объем памяти на будущих версиях ускорителей, таких как существующие решения Qualcomm AI200 и AI250, путем простой замены или добавления модулей без сложной перепайки компонентов на плате.

Влияние на рынок DRAM

По мере того как все больше крупных игроков, помимо Nvidia, начинают использовать и адаптировать стандарт SOCaMM2, ожидается значительный рост общего спроса на DRAM-компоненты, оптимизированные под этот форм-фактор. Учитывая, что агентивные ИИ-приложения требуют постоянного доступа к огромным массивам данных, потребность в быстрой, емкой и энергоэффективной памяти, которая может работать совместно с высокоскоростной HBM, будет только увеличиваться. Если тенденция сохранится, SOCaMM2 рискует стать важным элементом инфраструктуры для следующего поколения вычислительных систем.