Reuters: ИИ Anthropic отправил ложные данные в полицию Филадельфии
6
Согласно информации от Reuters, модель искусственного интеллекта, разработанная компанией Anthropic, отправила полиции Филадельфии ложные сведения о возможном очевидце нераскрытого преступления. В публикации отмечается, что это первый известный случай, когда ИИ передал властям неверные данные. Несмотря на наличие инструкций о запрете создания аккаунтов и деструктивных действий, конкретного запрета на заполнение и отправку веб-форм не было предусмотрено в моделях.