Разработчик обошел SynthID — систему водяных знаков Google для изображений, созданных с помощью ИИ

Защита цифрового контента развивается по неизменной закономерности: любой новый механизм рано или поздно удается обойти. На этот раз под удар попала система невидимых водяных знаков SynthID от Google, предназначенная для маркировки изображений, сгенерированных искусственным интеллектом (ИИ).

Разработчик под псевдонимом aloshdenny обнаружил, что алгоритм SynthID меняет свой паттерн в зависимости от разрешения и формата изображения. Он сгенерировал монохромные фоны, на которых скрытый шум системы фиксируется без помех со стороны визуального контента. На основе собранных паттернов исследователь написал скрипт, который вычисляет этот шум из файла — и таким образом удаляет водяной знак без заметной потери качества.

Впрочем, практическое значение этого метода ограничено. Скрипт нестабилен, на новых версиях моделей срабатывает не всегда, а база шаблонов требует постоянного ручного пополнения. Фактически SynthID столкнулся с классической уязвимостью любой защиты от копирования — алгоритм, рассчитанный на массового пользователя, не выдержал целенаправленного реверс-инжиниринга.

Этот случай наглядно показал, что защита контента, основанная исключительно на манипуляциях с пикселями, недостаточно надежна. Поэтому отрасль уже смещает акцент на стандарт Coalition for Content Provenance and Authenticity (C2PA). Он предусматривает криптографически подписанные метаданные с верификацией на уровне платформы — и ставит в центр цепочку проверки происхождения файла.

The post Разработчик обошел SynthID — систему водяных знаков Google для изображений, созданных с помощью ИИ first appeared on Mediasat.