Bloomberg: Nvidia разработала систему защиты от нештатных действий ИИ-моделей
Американская компания Nvidia представила платформу Open Agent Safety Platform для предотвращения несанкционированных действий моделей искусственного интеллекта. Двухуровневая система безопасности призвана решить проблему нештатного поведения автономных агентов без ущерба для развития технологий, передает РИА «Новости» со ссылкой на Bloomberg.
Разработчики отмечают, что сбои в работе нейросетей ранее вызывали серьезные опасения в индустрии и даже приводили к призывам замедлить создание новых ИИ-моделей. По словам вице-президента Nvidia по корпоративным решениям Джастина Бойтано, новый уровень защиты позволит безопасно тестировать самые передовые системы. Он подчеркнул, что платформа способна изолировать подозрительную программу за миллисекунды.
Представитель корпорации отказался уточнять, планируют ли лидеры отрасли OpenAI и Anthropic применять эту систему для контроля за обучением своих моделей ChatGPT и Claude. Бойтано посоветовал журналистам адресовать подобные вопросы самим разработчикам.
Генеральный директор Nvidia Дженсен Хуан ранее неоднократно заявлял, что риски выхода искусственного интеллекта из-под контроля человека сильно преувеличены.
В середине месяца Дональд Трамп позвонил главе Nvidia во время выступления на сцене.
В начале месяца чипы компании помогли Вашингтону в примирении Еревана и Баку.
В феврале разработчики китайской нейросети DeepSeek обучили искусственный интеллект на оборудовании Nvidia вопреки американским запретам.