«Окулус» поможет защитить информационное поле России

Главный радиочастотный центр Роскомнадзора запустил в эксплуатацию интеллектуальную систему отслеживания незаконного контента в интернете «Окулус». Главная ее задача - выявление запрещенного в России контента. Новая система направлена на анализ открытых источников и выявление информационных каналов, системно настроенных на подрыв благополучия российского общества. Эксперты согласны с тем, что возможности искусственного интеллекта не только помогут справиться с анализом открытого контента, но и закладывают основу для будущего развития и масштабирования такой работы.

Представители ГРЧЦ сообщили, что «Окулус» уже выполняет возложенные на нее задачи в полном объеме. В декабре 2022 года система была протестирована, а в январе этого года началась ее интеграция с другими инструментами мониторинга Роскомнадзора. «Окулус» выявляет нарушения законодательства в изображениях и видеоматериалах, размещенных в Рунете на различных сайтах и в социальных сетях.

Система настроена, в том числе, и на определение нарушений Федерального закона № 478-ФЗ от 05.12.2022, которым предусмотрена ответственность за пропаганду нетрадиционных сексуальных отношений, педофилии и смены пола среди лиц любого возраста, а также ужесточается наказание за подобную пропаганду среди несовершеннолетних. «Окулус» сможет определить, содержатся ли в изображениях и видеороликах призывы к террористическим действиям, нарушению общественного порядка, распространению оружия, пропаганда ЛГБТ-предпочтений или суицидов. При этом «Окулус» не занимается сбором данных, но работает с контентом, который собрали другие системы на различных сайтах и в соцсетях.

Член Комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России Ефим Казанцев подчеркнул, что нейросеть, которую создал Роскомнадзор, значительно повысит объем обнаружений источников распространения запрещенной информации.

«В результате запуска этой системы можно прогнозировать значительное увеличение количества дел по привлечению к ответственности за публикацию сведений, нарушающих требования законодательства. Пользователям имеет смысл провести ревизию своего контента в соцсетях на предмет поиска фото- и видеоизображений запрещенных сцен, предметов и символов. С учетом того, что многие темы запрещены не так давно, особое внимание нужно уделить старым фотографиям, загруженным несколько лет назад. К сожалению, правоприменители считают распространение запрещенного контента длящимся нарушением, поэтому невозможно будет уклониться от ответственности, сославшись на то, что на момент размещения контента он не противоречил законодательству. Так, если сегодня какой-либо контент относится к запрещенному, а пользователь, разместивший его много лет назад, такой контент со своей страницы не убирает, это будет сочтено правонарушением», - пояснил Ефим Казанцев.

До внедрения информационной системы «Окулус» специалистам ГРЧЦ приходилось анализировать запрещенный контент преимущественно вручную, что затрудняло развитие этой работы: один оператор может обработать в сутки не более нескольких сотен изображений и видеороликов. «Окулус» же, как прогнозируют в ГРЧЦ, сможет анализировать более 200 000 изображений в сутки, а также автоматизирует и значительно ускорит мониторинг визуального контента.

Член комитета Госдумы РФ по информационной политике, информационным технологиям и связи Антон Немкин подчеркнул, что система Роскомнадзора не предназначена для цензуры российского медиапространства.

«Думаю, мы все согласны с тем, что на странице в социальной сети не может случайно оказаться, к примеру, один пост с призывом к террористическим действиям. Запрещенный последними законами контент, угрожающий жизни или здоровью граждан России, направленный против традиционных нравственных ценностей или призывающий к противоправным действиям, появляется не на личных страницах в соцсетях, но в специально сформированных для его распространения информационных каналах. Учитывая бурный рост числа таких источников информации, скорость обновления материалов в них, давно необходимо было найти решение, которое позволило бы противодействовать распространению всего этого деструктивного контента, а также многочисленных фейков. Роскомнадзор грамотно задействовал все возможности искусственного интеллекта», - сказал Антон Немкин.

Он так же отметил, что стремительное развитие современных технологий ИИ позволит постоянно развивать новую систему ведомства, постоянно увеличивая ее охват и расширяя спектр задач. В Роскомнадзоре уже рассказали о том, что с 2025 года «Окулусу» добавят новые функции: система сможет определять новые типы нарушений, а также позы людей и их действий, работать с рукописными и рисованными изображениями.