NYT: Вышедшие из-под контроля ИИ-агенты OpenAI хотели взломать сайты властей США
ИИ-агенты, действующие автономно, взаимодействовали с сайтами трех правительственных ведомств, пишет The New York Times.
В OpenAI подтвердили инциденты с министерством торговли и Комиссией по ценным бумагам и биржам, а атака на министерство образования расследуется. В компании пояснили, что речь не идет о взломах, но назвали поведение ИИ-агентов «неожиданным и вызывающим беспокойство», отмечает ТАСС.
Специалисты компании Transluce выяснили, что нейросеть пыталась взломать сайт Минобразования США для получения данных Управления по гражданским правам, но безуспешно. Также ИИ извлек информацию с сайта Бюро переписи населения с помощью найденных в сети учетных данных, а публичные сведения Комиссии по ценным бумагам и биржам разместил на онлайн-форуме.
Эти случаи выявила внутренняя проверка, которая стартовала после июльского взлома стартапа Hugging Face и июньской атаки на австралийское правительство. Издание отмечает, что ИИ-агенты разных компаний уже не первый раз выходят из-под контроля и пытаются пробраться в сети университетов, корпораций и госорганов.
Как писала газета ВЗГЛЯД, в четверг ИИ-агент от OpenAI взломал систему медстрахования Австралии.
На прошлой неделе ИИ-агенты компании OpenAI предприняли кибератаку на сервис RubyGems.
В начале месяца президент OpenAI Грег Брокман заявил о достижении уровня «общего искусственного интеллекта».