Маск, Возняк и эксперты в области ИИ предложили временно запретить обучение нейросетей
Руководитель компаний SpaceX, Tesla и Twitter Илон Маск, сооснователь корпорации Apple Стив Возняк и более тысячи экспертов в области искусственного интеллекта призвали ввести мораторий на обучение мощных нейросетей до тех пор, пока не будут созданы, внедрены и проверены общие протоколы безопасности. Открытое письмо опубликовано на сайте Института будущего жизни (Future of Life Institute).
«Мощные системы ИИ следует разрабатывать только тогда, когда мы уверены, что эффекты от них будут положительными, а риски — управляемыми», — подчеркивается в заявлении.
«Должны ли мы развивать нечеловеческие умы, которые в конечном итоге превзойдут, перехитрят, сделают устаревшими и заменят нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — задаются риторическими вопросами авторы письма. Они уверены, что соответствующие решения «не должны быть делегированы неизбираемым техническим лидерам».
В связи с этим подписанты призывают «все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4». «Об этом перерыве необходимо объявить публично, его исполнение должны быть проверяемым и охватывать всех ключевых участников [отрасли]. Если такая пауза не может быть введена быстро, правительства должны вмешаться и ввести мораторий», — убеждены они.
По мнению подписавших обращения, исследования и разработки в области искусственного интеллекта надлежит переориентировать на то, чтобы сделать системы ИИ «более точными, безопасными, интерпретируемыми, прозрачными, надежными, согласованными, заслуживающими доверия и лояльными». Параллельно разработчикам надлежит сотрудничать с политиками, чтобы ускорить разработку надежных систем управления ИИ.
В середине марта американская компания OpenAI представила новое поколение алгоритма по обработке естественного языка — мультимодальную модель GPT-4, которая, по словам ее авторов, намного превосходит предыдущую версию GPT-3.5.
Ранее эксперты инвестиционного банка Goldman Sachs пришли к выводу, что ChatGPT и другие формы генеративного искусственного интеллекта потенциально могут оставить без работы 300 млн человек в развитых странах.