Google разделила свои новые ИИ-чипы на два типа: зачем это нужно

Искусственный интеллект уже давно вышел из лабораторий и стал частью инфраструктуры. Модели растут, задачи усложняются, и прежний подход с одним типом ускорителей начинает давать сбои. Сейчас крайне важно правильно распределить вычисления между обучением и работой моделей в дата-центрах. На этом фоне Google, которая давно развивает собственные тензорные процессоры, представила новое поколение TPU и сделала ставку на специализацию. Вместо универсального решения компания фактически разделила чипы на два типа — обучение и вывод моделей. Давайте посмотрим, что корпорация предложила и как оно работает.