Билл Гейтс заявил, что бесконтрольный ИИ может привести к гибели миллиарда человек
© Jason Lee/Reuters
Бесконтрольное развитие искусственного интеллекта может привести к событиям, способным унести до миллиарда жизней, заявил основатель Microsoft Билл Гейтс. Он призвал закрепить требования безопасности в сфере разработки ИИ на законодательном уровне. Ранее на фоне аналогичных предупреждений главы Anthropic, OpenAI и Илон Маск выступили за усиление независимого контроля над ИИ, тогда как Марк Цукерберг и спикер палаты представителей США Майк Джонсон высказались против общеотраслевого регулирования и поспешных ограничений.
Бесконтрольное развитие искусственного интеллекта может привести к гибели миллиарда человек, заявил основатель Microsoft Билл Гейтс в интервью NBC News.
«ИИ, безусловно, достаточно мощный, чтобы спровоцировать события, которые могут привести к гибели миллиарда человек. Даже несмотря на то, что достичь 100-процентной уверенности довольно сложно, никогда еще не было оружия столь мощного, как сочетание людей со злыми намерениями и новейших инструментов ИИ», — сказал он.
Гейтс назвал саморегулирование развития отрасли искусственного интеллекта недостаточным и выразил уверенность, что ограничения нужно закрепить на законодательном уровне.
«Необходимо обеспечить соблюдение законов, а политики должны принять участие в обсуждении того, как должны выглядеть меры безопасности и механизмы контроля. И это должно быть обязательным требованием. Конечно, это создаст небольшую дополнительную нагрузку для отрасли, но не приведет к резкому замедлению их деятельности», — заявил Гейтс.
Замедление развития
Вопрос замедления развития ИИ оказался в центре внимания СМИ после того как бывший сотрудник Anthropic, компании-разработчика семейства нейросетей Claude, Джейкоб Коксон заявил в соцсетях, что работающие в этой сфере компании «мчатся на всех парах к самосовершенствующемуся сверхинтеллекту и играют жизнями» людей.
«Люди, создающие ИИ, искренне верят, что он может уничтожить нас всех к концу десятилетия», — добавил Коксон в серии постов в социальных сетях и интервью.
После этого глава Anthropic Дарио Амодеи опубликовал обращение, в котором призвал крупнейших участников ИИ-гонки снизить скорость совершенствования своих моделей, чтобы системы безопасности успевали за ростом их возможностей.
Глава Tesla и SpaceX Илон Маск поддержал позицию Амодеи, написав в соцсети X, что «Дарио прав». С необходимостью контроля согласился и руководитель OpenAI Сэм Альтман, который заявил о готовности компании предоставить сторонним экспертам расширенный доступ к своим системам.
«Я согласен с Дарио в том, что нам нужно идти в ногу со временем. Это было основной темой обсуждений, которые мы вели в OpenAI в последние недели. Привлечение независимых экспертов по оценке с доступом, равным доступу сотрудников, — отличная идея, и мы будем делать то же самое. Скоро нам будет чем поделиться», — написал он в Х.
Что об этом думают в Вашингтоне?
Член палаты представителей в конгрессе США от Республиканской партии Анна Паулина Луна после заявлений лидеров ИИ-отрасли потребовала от Пентагона гарантировать возможность немедленного отключения любых систем искусственного интеллекта, которые используются американскими военными.
«Я хочу, чтобы Пентагон обеспечил наличие встроенных мер безопасности во всех системах искусственного интеллекта, которые интегрированы в нашу нынешнюю систему обороны, чтобы при необходимости их можно было немедленно отключить», — заявила она в эфире Fox News.
В свою очередь спикер палаты представителей, республиканец Майк Джонсон заявил, что не будет созывать заседание для принятия закона, регулирующего темпы развития ИИ.
Он подчеркнул, что хотя руководители компаний-разработчиков призывали к замедлению темпов развития, они пока не предложили вариантов, предполагающих принятие нового федерального законодательства.
«На сегодняшний день у них самих даже нет ответа. Поэтому мы не можем поспешно заставлять конгресс принимать меры, которые могли бы нанести ущерб национальной безопасности», — сказал Джонсон.
Также от внедрения регулирования в сфере отказался глава Марк Цукерберг.
«Я не думаю, что нам нужна какая-то общеотраслевая координация. Я считаю, что каждая лаборатория должна уделить этому время, и когда она видит, что есть проблемы, просто уделить столько времени, сколько необходимо внутри компании, чтобы в принципе убедиться, что работа ведется безопасно», — приводит его слова NBC News.
Позднее президент Microsoft Брэд Смит выступая на 81-й сессии Генассамблеи ООН, заявил, что компании-разработчики ИИ не должны ждать введения федерального регулирования, чтобы замедлить свои темпы развития, и раскритиковал их за постоянную гонку друг с другом в создании более совершенных продуктов в области ИИ.
???? Самое важное в одном месте — «Газета.Ru» теперь и в MAX.