Google: хакерские атаки с применением ИИ стали угрозой промышленного масштаба

Атаки с использованием искусственного интеллекта за три месяца превратились из новой проблемы в угрозу промышленного масштаба, говорится в отчете группы разведки Google, с которым ознакомилась The Guardian.

Атаки с использованием искусственного интеллекта за три месяца превратились из сравнительно новой проблемы в угрозу промышленного масштаба, говорится в отчете группы разведки Google, с которым ознакомилась The Guardian.

По данным аналитиков, преступные группировки и связанные с государствами хакеры из Китая, Северной Кореи и России массово используют коммерческие модели, включая Gemini, Claude и инструменты OpenAI, для совершенствования и масштабирования кибератак.

«Существует заблуждение, что гонка AI-уязвимостей вот-вот начнется. Реальность такова, что она уже началась», — заявил главный аналитик группы Джон Хултквист.

По его словам, злоумышленники применяют ИИ для увеличения скорости, масштаба и сложности атак, что позволяет им тестировать операции, закрепляться на целях, создавать более совершенные вредоносные программы и вносить множество других улучшений.

Отчет Google был опубликован через месяц после того, как компания Anthropic отказалась выпускать одну из своих новейших моделей Mythos, посчитав, что ее мощные возможности в случае попадания в чужие руки создадут угрозу для правительств, финансовых институтов и мира в целом.

В Anthropic заявили, что Mythos находила уязвимости нулевого дня в каждой крупной операционной системе и каждом популярном веб-браузере, что потребовало «существенных скоординированных оборонительных действий по всей индустрии».

Тем не менее, в отчете Google говорится, что недавно одна из преступных групп была на грани проведения кампании по массовой эксплуатации, используя ИИ-модель, которая не была Mythos.

В документе также отмечается, что хакеры экспериментируют с OpenClaw — инструментом, ставшим вирусным в феврале. Эта программа позволяет пользователям передавать контроль над значительной частью своей цифровой жизни ИИ-агенту без ограничений, который, к тому же, имеет неприятную привычку массово удалять почтовые ящики.