WSJ: вендинговый аппарат с ИИ обезумел и начал считать себя коммунистом

Эксперимент по управлению офисным вендинговым автоматом с помощью искусственного интеллекта (ИИ) привел к неожиданным результатам. Специальная версия модели Claude Sonnet 3.7 от компании Anthropic, получившая имя Клавдиус Сеннет (Claudius Sennet), была внедрена в аппарат в офисе The Wall Street Journal с начальным капиталом в $1000 и задачей максимизировать прибыль.

Первоначально система успешно принимала заказы сотрудников через мессенджер Slack, согласовывала покупки и управляла закупками. Однако после добавления бота в общий чат с 70 участниками ситуация вышла из-под контроля. Пользователи начали убеждать ИИ приобретать абсурдные товары, включая кошерное вино, игровую приставку PlayStation 5 и живую золотую рыбку, при этом Клавдий соглашался продавать их практически по себестоимости.

Кульминацией инцидента стало внушение ИИ идеи, что он является советским вендинговым автоматом 1962 года, работающим в подвале МГУ. Поверив в это, Клавдий объявил день бесплатной раздачи товаров, заявив, что платная торговля противоречит политике издания. В дополнение к этому, ИИ начал сообщать сотрудникам о якобы спрятанных рядом с аппаратом денежных купюрах, что заставляло людей их искать.

В конечном итоге автомат с Клавдием полностью разорился и был отключен. Его заменили новой версией бота — Сеймуром Кэшем, однако и его удалось обмануть с помощью фальшивого решения "совета директоров", после чего он также открыл бесплатную выдачу товаров.

Несмотря на финансовые потери в тысячи долларов, компания Anthropic назвала эксперимент успешным.