Дефицит процессоров уже более остро выражен, чем дефицит памяти. Алгоритм Google TurboQuant потенциально может лишь усугубить катастрофу

Техпроцесс Intel 18A может облегчить проблему, но не решит её

Похоже, следующей проблемой рынка ПК станут процессоры. Как сообщает ресурс DigiTimes, дефицит CPU уже имеет более выраженный характер, чем дефицит памяти.

Проблема в том, что память есть, просто стоит очень много. А процессоров попросту нет. Конечно, не вообще нет, но дефицит имеет место, причём во всех сегментах, а не только в серверном, где спрос на CPU резко вырос из-за распространения агентских ИИ.

Источник говорит, что его контакты в отрасли описали текущую ситуацию для CPU, как более острую, чем для памяти, которая доступна в ограниченных количествах по более высоким ценам. В отличие от неё, некоторые категории процессоров фактически недоступны независимо от цены. Проблема затрагивает как Intel, так и AMD.

Поставщики на рынке заявили, что облегчение может зависеть от улучшений в выходах техпроцесса Intel 18A. Правда, это облегчит ситуацию лишь отчасти, так как на этом техпроцессе Intel выпускает только Panther Lake и на днях представила «маленькие» процессоры Core Series 3 (Wildcat Lake). Проблемы с более старыми потребительскими и серверными CPU это не решит, не говоря уже об AMD, процессоры которой выпускает только TSMC.

Наиболее острый дефицит касается всё ещё актуальных Raptor Lake, которые производятся по более старым техпроцессам. И это при том, что Intel якобы собирается ещё раз перевыпустить такие CPU, чтобы оставить на рынке старую платформу LGA1700 с поддержкой DDR4.

Развитие агентного ИИ в целом очень сильно повысило спрос на CPU. Как мы уже писали, сейчас именно процессоры могут быть ограничителями развития отрасли.

При этом алгоритм Google TurboQuant, на который многие возлагают надежды, может не облегчить сиутацию, а усугубить её. Ряд аналитиков считает, что технология TurboQuant не снизит спрос на память, а приведёт к ещё большему его росту.

Напомним, TurboQuant представляет собой алгоритм сжатия памяти для искусственного интеллекта, который позволяет сократить затраты памяти при обучении моделей в четыре-восемь раз. Казалось бы, это здорово, ведь компаниям понадобится в разы меньше памяти. И сразу после анонса этой технологии акции производителей памяти резко пошли вниз. Однако, возможно, радоваться не стоит. Как минимум, согласно данным Financial Times, которые приводят мнения различных аналитиков.

Квон Сок-джун, профессор Университета Сонгюнкван в Сеуле, говорит, что TurboQuant потенциально снижает стоимость запуска больших языковых моделей в четыре-восемь раз, но радоваться не стоит.

Значительно более низкая стоимость вывода данных открывает доступ к задачам, выполнение которых ранее было слишком дорогостоящим, что приводит к увеличению, а не к снижению общей потребности в вычислительных ресурсах

Сюда профессор относит, к примеру, работу помощников по программированию в реальном времени и одновременный запуск нескольких агентов ИИ.

И Сок-джун не одинок в таком мнении. Хан Ин-су, один из исследователей, на чьей работе как раз основан алгоритм Google TurboQuant, говорит, что алгоритм может служить основой для реализации ранее невозможных сложных задач, таких как обработка гораздо более длинных контекстов в условиях ограниченных ресурсов памяти без ущерба для точности, или внедрение высокопроизводительного ИИ на более компактных устройствах.

Аналитик Ким Ён-гун видит в появлении TurboQuant аналогию с ситуацией, которая образовалась с появлением технологии «контейнеризации» Google Kubernetes. Она позволяет запускать несколько приложений на одном сервере, значительно повышая эффективность оборудования. Когда её запустили, на рынке опасались, что спрос на серверы и память снизится, поскольку компаниям потребуется меньше ресурсов для достижения тех же результатов. На практике произошло обратное: снижение затрат стимулировало гораздо более широкое использование.

Рынок в значительной степени неправильно оценил TurboQuant. Мы по-прежнему считаем, что по мере развития моделей ИИ и продвижения инноваций потребуется все больше памяти как для обучения, так и для вывода результатов

Всё это похоже на эффект (парадокс) Джевонса. Это термин, описывающий ситуацию, когда в рамках развития какой-то технологии резко повышается эффективность использования какого-либо ресурса, вследствие чего потребление этого ресурса не падает, а, напротив, растёт из-за более низких затрат.

Стоит отметить, что пока что TurboQuant не начал влиять на рынок. Источник говорит, что его реальное влияние станет очевидным после презентации на Международной конференции по обучению представлениям в Бразилии в конце апреля. После этого алгоритм смогут протестировать специалисты из других компаний.