ЦБ предупредил финансовые организации о главных опасностях использования ИИ

Банк России выпустил рекомендации, в которых перечислил основные опасности, подстерегающие финансовые организации при внедрении искусственного интеллекта. Регулятор предупреждает, что даже самые современные системы могут быть уязвимы для атак злоумышленников, а их ошибки способны обернуться серьезными проблемами для банков и их клиентов.

Одна из главных угроз, по мнению ЦБ, связана с так называемыми «отравленными» данными. Если мошенники подменят или исказят информацию, на которой обучается нейросеть, она начнет принимать неверные решения. Кроме того, злоумышленники могут украсть конфиденциальные данные клиентов или саму модель ИИ, чтобы использовать ее в своих целях. Не менее опасны и сбои в работе систем: искусственный интеллект может начать выдавать бессмысленные или ошибочные результаты — так называемые галлюцинации, а также терять точность из-за изменения данных со временем.

В документе перечислены конкретные схемы атак, которые могут использовать хакеры. Например, они могут внедрить в модель скрытые закладки, позволяющие управлять ее поведением, перегружать систему специальными запросами, чтобы она вышла из строя, или подсовывать искаженные данные, чтобы нейросеть принимала заведомо неправильные решения.

ЦБ предупреждает, что последствия таких атак могут быть очень серьезными: от убытков и репутационных потерь для банков до нарушения прав простых граждан и даже угрозы стабильности всей финансовой системы. Именно поэтому регулятор рекомендует организациям тщательно оценивать все риски перед тем, как внедрять ИИ в свои процессы, и уделять особое внимание защите систем на всех этапах — от сбора данных до повседневной работы. Рекомендации адресованы всем участникам финансового рынка, включая банки, страховые компании и платежные системы.

Ранее Центробанк провел исследование и выяснил, что Россияне участвуют в IPO ради эмоций и азарта.