HotChips 2023: Sk hynix и Samsung показали In-memory AI

Sk hynix и Samsung давно работают над тем, чтобы объединить память и ускоритель ИИ. У Sk Hynix соответствующая технология называется AiM (Accelerator in Memory) , у Samsung – Processing-in-Memory (PIM) . Оба подхода не новые, но на нынешней HotChips 2023 они стали ближе к практической реализации.

Sk hynix, например, показала прототип GDDR6-AiM, который опирается на два FPGA. Каждый из FPGA работает с восемью чипами памяти. Емкость каждого чипа составляет 1 Гбайт, то есть в сумме установлено 16 Гбайт. Прототип будет использоваться для дальнейших тестов ускорителей (хотя сами чипы уже существуют), чтобы разработать необходимую программную инфраструктуру. Кроме того, пропускная способность 170 Гбайт/с сравнительно низкая.

{nozuna nzgallerystartat}db93a1f3-4667-11ee-88a5-000c29322405 19{/nozuna nzgallerystartat}

Первое поколение AiM разработано с памятью GDDR6, но Sk hynix оценивает использование LPDDR5 и LPDDR5T.

Samsung продвинулась на шаг дальше

Похоже, что Samsung продвинулась на шаг дальше. У ...