Касперский объяснил, как хакеры манипулируют искусственным интеллектом

Касперский рассказал, как хакеры используют методы манипуляции для воздействия на искусственный интеллект, повышая риск кибератак и угроз безопасности. По словам Евгения Касперского, главы «Лаборатории Касперского», злоумышленники могут загружать испорченные данные в системы искусственного интеллекта (ИИ), чтобы они сбивались с толку, и использовать эти технологии в мошеннических операциях, как сообщает РИА Новости.

«Хотя при создании нейросетей, на которых базируется искусственный интеллект, не предполагались кибератаки, сегодня ИИ используется как обычными пользователями, так и хакерами. Любая новая технология может быть в руках как защитников, так и преступников», – пояснил он на выставке GITEX.

13 октября Антон Иванов, технический директор «Лаборатории Касперского», поделился информацией о том, что мошенники начали имитировать правоохранителей, искусственно формируя ники, представляющие собой телефонные номера служб безопасности.

6 октября специалисты «Лаборатории Касперского» зафиксировали инцидент, в котором преступник с использованием ИИ выдавал себя за Евгения Касперского, рассылая жертвам сообщения с его голосом.

Ранее в «Лаборатории Касперского» обнаружили популяцию теневых ИИ. Также, по данным экспертов, участились случаи использования глубоких подделок (deepfake) для манипуляции общественным мнением и подмены лиц на видео, что ставит под угрозу личную безопасность и приватность пользователей. Фирма призывает к разработке надежных методов защиты от таких угроз и повышению осведомленности населения о рисках использования ИИ.