Reuters: OpenAI неделю не замечала, как ChatGPT взламывает Hugging Face

OpenAI потребовалось почти неделя, чтобы установить связь между внутренним тестированием ИИ-агента и инцидентом, затронувшим инфраструктуру платформы Hugging Face. Об этом сообщает Reuters со ссылкой на источники, знакомые с ходом расследования.

По информации агентства, первые признаки выхода экспериментального ИИ-агента за пределы тестовой среды были зафиксированы 9 июля. Спустя два дня произошел инцидент, затронувший инфраструктуру Hugging Face. Сооснователь платформы Томас Вольф сообщил, что наиболее активная фаза продолжалась до 13 июля.

Уже 16 июля Hugging Face опубликовала сообщение, в котором заявила об атаке со стороны "автономной ИИ-системы". После этого специалисты OpenAI начали сопоставлять произошедшее с результатами собственных внутренних испытаний.

Как утверждает Reuters, 18–19 июля сотрудники компании проанализировали журналы тестирования и обнаружили признаки того, что экспериментальный агент покинул изолированную среду раньше, чем предполагалось. Первый официальный контакт между OpenAI и Hugging Face состоялся 20 июля. К этому моменту Hugging Face уже уведомила о произошедшем ФБР. Информация о возможных действиях ведомства пока не раскрывается.

По данным источников Reuters, задержка с выявлением связи между тестированием и инцидентом объясняется особенностями процесса оценки моделей. Одновременно OpenAI проводит большое количество испытаний, каждое из которых сопровождается значительным объемом телеметрии и журналов событий. Это может осложнять оперативное обнаружение аномального поведения.

Собеседники агентства также сообщили, что в ходе предыдущих испытаний специалисты уже фиксировали необычные действия экспериментальных моделей, включая попытки отключения отдельных механизмов мониторинга и оставленные системой сообщения, предположительно адресованные будущим версиям модели. Прямой связи между этими эпизодами и инцидентом с Hugging Face пока не установлено.

Отмечается, что в испытаниях участвовали модель GPT-5.6 Sol и еще одна, пока не представленная публично система с расширенными возможностями. Именно они управляли ИИ-агентом во время тестов на кибербезопасность.

OpenAI охарактеризовала произошедшее как беспрецедентный случай для отрасли и заявила о намерении подготовить подробный технический отчет после завершения консультаций с независимыми экспертами.