Билл Гейтс: Возможно, ИИ выйдет из-под контроля

Соучредитель Microsoft начал свой пост в GatesNotes от 21 марта с надеждой:

«Развитие ИИ так же важно, как создание микропроцессора, персонального компьютера, Интернета и мобильного телефона. Это изменит то, как люди работают, учатся, путешествуют, получают медицинскую помощь и общаются друг с другом. Вокруг него будут переориентироваться целые отрасли. Компании будут отличаться тем, насколько хорошо они это используют».

Гейтс сказал, что ИИ может помочь с несколькими прогрессивными задачами, включая изменение климата и экономическое неравенство, но эта технология является «прорывной» и «заставит людей чувствовать себя неловко».

«ИИ также допускают фактические ошибки и испытывают галлюцинации». Галлюцинации ИИ — это уверенные ответы ИИ, которые не основаны на данных его обучения. Частые галлюцинации считаются основной проблемой больших языковых моделей, таких как ChatGPT.

«Кроме того, достижения в области искусственного интеллекта позволят создать личного агента. Думайте об этом как о цифровом личном помощнике: он будет видеть ваши последние электронные письма, знать о собраниях, которые вы посещаете, читать то, что вы читаете, и читать то, о чём вы не хотите беспокоиться», — сказал Гейтс.

Эти личные помощники будут участвовать в собраниях компании и выполнять административные задачи, такие как «подача страховых требований, работа с документами и составление заметок о посещении врача» в отрасли здравоохранения. На более позднем этапе «они смогут предсказывать побочные эффекты и определять уровни дозирования».

Что касается образовательного сектора, Гейтс сказал:

«Он будет знать ваши интересы и ваш стиль обучения, чтобы он мог адаптировать контент, который будет вас удерживать. Он будет измерять ваше понимание, замечать, когда вы теряете интерес, и понимать, на какую мотивацию вы реагируете. Это даст немедленную обратную связь».

Другая сторона ИИ

Гейтс начинает этот раздел с того факта, что ИИ не понимает «контекст запроса человека», что приводит к «странным результатам». Например, «когда вы спрашиваете совета о поездке, которую хотите совершить, вам могут предложить несуществующие отели».
Хотя такие технические проблемы будут решены, есть некоторые проблемы, представляющие большую опасность.

«Например, есть угроза, исходящая от людей, вооружённых ИИ. Как и большинство изобретений, искусственный интеллект можно использовать как во благо, так и во зло».

Затем он добавил:

«Тогда есть вероятность, что ИИ выйдет из-под контроля. Может ли машина решить, что люди представляют угрозу, прийти к выводу, что её интересы отличаются от наших, или просто перестать заботиться о нас?»

Затем Гейтс переходит к разговору о сверхразумных ИИ — алгоритмах обучения, работающих со скоростью компьютера, — которые, возможно, появятся «через десятилетие или столетие».

«Эти «сильные» ИИ, как их называют, вероятно, смогут устанавливать свои собственные цели. Каковы будут эти цели? Что произойдёт, если они вступят в противоречие с интересами человечества?»

Гейтс упомянул о своих отношениях с OpenAI — компанией, стоящей за ChapGPT, — начиная с 2016 года. В конце января OpenAI и Microsoft объявили о своём партнёрстве и инвестициях.

OpenAI использует облачную платформу Microsoft Azure. Microsoft инвестирует 10 миллиардов долларов в OpenAI, основываясь на предыдущих раундах финансирования, проведённых в 2019 и 2021 годах. OpenAI и Microsoft имеют сложную партнёрскую структуру, при этом платформа AI остаётся компанией с ограниченной прибылью, в то время как её операции регулируются некоммерческой организацией OpenAI.

Однако не все положительно относятся к ИИ, а также к отношениям Гейтса с OpenAI.

Не очень оптимистичный ответ Илона Маска

Илон Маск написал в Twitter 27 марта:

«Я помню первые встречи с Гейтсом. Его понимание ИИ было ограниченным. Оно всё ещё такое».

Отношения Маска с OpenAI начались в 2015 году, когда проект был запущен вместе с другими ветеранами отрасли, такими как Сэм Альтман из Y Combinator и Илья Суцкевер, научный сотрудник Google. Маск был одним из первых спонсоров OpenAI. Он покинул организацию в 2018 году, возможно, из-за конфликта интересов с подразделением искусственного интеллекта Tesla.

В целом Маск не разделяет радужной картины будущего ИИ, в отличие от Гейтса. Ещё в 2014 году он написал в Twitter: «Мы должны быть очень осторожны с ИИ. Потенциально он опаснее ядерного оружия».

В декабрьском твите он написал:

«ChatGPT чертовски хорош. Мы недалеки от опасно сильного ИИ».

После недавней популярности и взрывного роста ChatGPT Маск вместе с несколькими другими экспертами в этой области, которых сейчас насчитывается 1377 человек, подписали открытое письмо под названием «Приостановить гигантские эксперименты с ИИ».

Письмо призывает «все лаборатории ИИ немедленно приостановить работу как минимум на 6 месяцев по обучению систем искусственного интеллекта, более мощных, чем GPT-4».

GPT-4 — это последняя версия ChatGPT, выпущенная в марте.

Письмо начиналось с того, что ИИ должен «планироваться и управляться с соразмерным вниманием и ресурсами», но этого не происходит.

По мере того как ИИ становится «конкурентоспособным с людьми в общих задачах», в письме спрашивается:

«Должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе те, что приносят удовлетворение? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?»

«Такие решения не должны делегироваться неизбранным лидерам технологий».
В письме содержится призыв к «протоколам безопасности» при создании таких технологий, когда разработчики ИИ работают в тандеме с политиками. Эти системы должны сделать ИИ «безопасным вне всяких разумных сомнений».

«Общество поставило на паузу другие технологии, которые потенциально могут иметь катастрофические последствия для общества. Мы можем сделать это здесь. Давайте наслаждаться долгим искусственным летом, а не бросаться неподготовленными в осень», — предлагает письмо.