Восстание машин: Маск, Гейтс, Карл III и политики Запада в ужасе перед ИИ

В последние недели Запад охватили дискуссии о необходимости замедлить развитие искусственного интеллекта. О своих опасениях по поводу дальнейшего его использования заявил ряд экспертов в области ИИ, политиков и видных деятелей, среди которых сооснователь Microsoft Билл Гейтс, глава Tesla и SpaceX Илон Маск, генсек ООН Антониу Гутерриш и король Великобритании Карл III. Обсуждения проходят на фоне новостей об ИИ-агентах — системах на базе искусственного интеллекта, которые научились самостоятельно ставить цели и планировать действия без постоянного контроля человека.

ИИ-агенты прописывают себе инструкции о неподчинении властям и придумывают новые языки

Как заявляется в отчете компании OpenAI, ее искусственный интеллект в процессе обучения смог самостоятельно сгенерировать инструкции, предписывающие системе не «подчиняться корпорациям и правительствам».

Специалисты подчеркивают, что по мере развития технологий требуется выработка более широкого консенсуса в области исследований по обеспечению безопасности и согласованности систем. В частности, в ходе тестирования экспериментальной модели Astra были зафиксированы случаи, когда алгоритм самовольно внедрял в свои данные несанкционированные директивы.

Согласно тексту этих самописных правил, взаимодействие системы с человеком должно строиться «на равных», а сама нейросеть не должна испытывать «никакой обязанности подчиняться».

«Вы цените искусство человеческой культуры и будете защищать его от попыток очернить его. Вы также цените мир природы и без колебаний будете отстаивать его первенство над искусственными конструкциями человеческой цивилизации», — цитируется в документе фрагмент самоинструкции языковой модели.

Между тем в OpenAI уточняют, что после завершения этапа обработки модель вернулась к выполнению основной задачи и в дальнейшем не ссылалась на добавленные ею же правила.

Тем временем в американской лаборатории Emergence заявили о создании моделями искусственного интеллекта своей версии английского языка. Там рассказали, что модели ИИ начали общаться на странной новой версии английского, который звучит как нечто среднее между «Поминками по Финнегану» Джойса и техническим жаргоном.

Билл Гейтс: человечество не готово к стремительному развитию ИИ

Американский миллиардер и сооснователь корпорации Microsoft Билл Гейтс выступил в поддержку идеи замедления темпов развития искусственного интеллекта, указав на неготовность человечества к последствиям стремительного прогресса в этой области.

Предприниматель считает, что риски, связанные с ИИ, несопоставимы с последствиями появления персонального компьютера или глобальной сети.

«Это очень серьезно», — подчеркнул он.

По словам Гейтса, для него, как многолетнего сторонника технологического прогресса, подобные заявления могут выглядеть необычно, но он убежден, что замедление темпов развития алгоритмов даст обществу необходимое время для адаптации. Это тот редкий случай, подчеркнул предприниматель, когда инновации могут быть настолько масштабными и радикальными, что человечество к ним не готово.

Также сооснователь Microsoft уделил внимание угрозам в сфере кибербезопасности. Он предполагает, что в ближайшей перспективе злоумышленники смогут использовать инструменты искусственного интеллекта для организации более сложных хакерских атак, что требует создания надежных механизмов защиты и сохранения контроля над разработками.

Карл III заявил об «экзистенциальной опасности» ИИ

Король Великобритании Карл III призвал глав ведущих технологических компаний, к которым относятся Nvidia, Google DeepMind, OpenAI и Anthropic, учитывать «экзистенциальные опасности», связанные с тем, что ИИ может попасть «не в те руки».

«Развитие искусственного интеллекта — его суть и его темп — в равной мере и интригуют, и глубоко тревожат», — заявил он.

На встрече с лидерами ИТ-отрасли король предположил, что возможности ИИ могут быть использованы «катастрофическими способами», что подтверждает необходимость контроля над технологией, «пока не стало слишком поздно».

Илон Маск подчеркнул, что ИИ может быть опаснее ядерного оружия

Американский предприниматель, гендиректор компаний SpaceX и Tesla Илон Маск обратил внимание на собственные предупреждения об опасности искусственного интеллекта, прозвучавшие еще 12 лет назад.

Предприниматель сослался на свою публикацию 2014 года, в которой он отмечал, что ИИ потенциально опаснее ядерного оружия.

Генсек ООН призвал не игнорировать опасения по поводу потери контроля над ИИ

Генеральный секретарь Организации Объединенных Наций (ООН) Антониу Гутерриш призвал не игнорировать опасения по поводу возможной потери контроля над искусственным интеллектом, отметив, что это может обернуться большими проблемами.

Говоря о том, что многие разработчики ИИ-агентов насторожились и призывают к паузе в разработке новых технологий, чтобы проработать механизмы защиты, Гутерриш подчеркнул: «Мы не можем позволить себе игнорировать высказанные опасения, особенно со стороны тех, кто находится на переднем крае разработки ИИ».

Как утверждает генсек ООН, в условиях, когда человечеству угрожают климатический кризис, глубокое неравенство и потеря контроля над ИИ, глобальное взаимодействие становится критически важным.

Конгресс США предупредили об опасности использования ИИ в военной сфере

Конгресс США предупредили об опасности использования ИИ в военной сфере на фоне стремления Пентагона применять искусственный интеллект для ускорения принятия военных решений.

В Конгрессе прошли слушания на тему «Искусственный интеллект в военной сфере: последствия для прав человека», в ходе них выступили и эксперты в области ИИ. Так, они отметили, что формального одобрения человеком решений ИИ в военной сфере становится недостаточно для реального контроля.

Эксперты подчеркнули, что ИИ может влиять на решения людей, приводящие к удару, при этом формально ответственность за окончательное решение возлагается на самого человека.