«Должны ли мы рисковать потерей контроля над нашей цивилизацией?» Маск, Возняк и сотни экспертов призвали приостановить развитие ИИ
Глава Tesla и SpaceX Илон Маск, один из основателей Apple Стив Возняк и больше тысячи других экспертов в технологической сфере подписали открытое письмо с призывом приостановить разработку продвинутого искусственного интеллекта (ИИ). Оно опубликовано на сайте некоммерческой организация Future of Life.
Они призвали все лаборатории по разработке ИИ отложить минимум на полгода обучение систем более мощных, чем GPT-4 от компании OpenAI. Как подчеркивают авторы письма, системы ИИ, конкурирующие с человеческим интеллектом, могут представлять «серьезные риски для общества и человечества». Даже создатели «мощных цифровых разумов» не могут контролировать их, а современные системы искусственного интеллекта начинают конкурировать с человеком, отмечается в письме.
«Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски — управляемыми. Эта уверенность должна быть хорошо обоснована и возрастать по мере увеличения масштабов потенциальных последствий системы», — говорится в письме.
Как отмечает Reuters, исполнительный директор OpenAI Сэм Альтман не стал подписывать письмо.
В России прокомментировали письмо. Пресс-секретарь президента РФ Дмитрий Песков заявил, что работа по развитию искусственного интеллекта (ИИ) будет в стране продолжена, но потребуется регулирование, передает РБК.
«Эта работа будет продолжаться... Что касается точки зрения тех, кто считает, что серьезные опасности кроются в развитии искусственного интеллекта, вы знаете, что любое лекарство при неправильном использовании превращается в яд», — сказал Песков.
В январе 2023 года стало известно, что российские власти резко сократили расходы на развитие искусственного интеллекта, а оценка самого рынка сократилась более чем в 10 раз. Такой вывод следует из обновленной «дорожной карты» «Развитие высокотехнологичного направления „Искусственный интеллект“ до 2030 года».
Документ был утвержден Минэкономразвития в декабре 2022 года, а в январе профильный вице-премьер Дмитрий Чернышенко подписал соглашения о реализации «дорожной карты» с ее непосредственными исполнителями, такими как «Сбер», РФПИ, фонд «Сколково» — в общей сложности 30 фондов, вузов и органов власти. Российские власти за семь лет оказались готовы выделить на развитие ИИ только 24,6 млрд рублей, хотя в прошлой версии программы со сроком окончания в 2024 году эта сумма была в разы выше — 56,8 млрд рублей.
Частное финансирование тоже претерпело сокращение: если раньше власти ожидали инвестиций в размере 334 млрд рублей к 2024 году, то теперь — всего лишь 111 млрд и в период до 2030 года. Однако сильнее всего пострадала оценка потенциального рынка ИИ в России: в концепции от 2019 года прогнозировалось, что он достигнет 160 млрд к 2024 году, однако в новой «дорожной карте» его объем сократился более чем в 11 раз, теперь — только 14 млрд рублей.