Axios: Anthropic признала невозможность отключить переданный Пентагону ИИ
Компания Anthropic не располагает техническими средствами или «кнопкой отключения» для контроля своих технологий после их передачи Пентагону, передает Axios. Об этом говорится в новых материалы судебного дела, направленных в федеральный апелляционный суд Вашингтона.
Пентагон ранее признал Anthropic угрозой для цепочки поставок, утверждая, что компания неправомерно вмешивается в способы использования ее технологий в секретных военных операциях.
Разработчик, в свою очередь, настаивает, что военные имеют возможность протестировать модели перед их развертыванием.
Политика использования Anthropic запрещает применять модель Claude для создания автономного оружия или массовой слежки. Пентагон счел эти ограничения отвлекающим маневром, что и привело к конфликту. Суд в Вашингтоне отказался приостановить статус угрозы для компании, однако судья в Калифорнии по параллельному делу удовлетворил аналогичную просьбу Anthropic.
Из-за противоречивых решений компания не может участвовать в новых контрактах с Пентагоном, но продолжает работу с другими правительственными учреждениями.
Разногласия обостряются на фоне планов администрации США внедрить новую модель Mythos в федеральном правительстве. Руководители ведомств сейчас ищут способы защиты своих систем от кибератак с использованием этой технологии, что может осложнить позицию Пентагона в суде.
Следующее слушание назначено на 19 мая.
Как писала газета ВЗГЛЯД, администрация США пригрозила разорвать контракты с разработчиком искусственного интеллекта Anthropic. Позже руководство компании возобновило переговоры с Пентагоном.
В итоге корпорация подала иск против Министерства обороны из-за признания разработчиков угрозой безопасности.