Джордж Сорос указал на риски применения искусственного интеллекта

Джордж Сорос пишет об этом статье, написанной для Project Syndicate.

«Я вырос до того, как был изобретён ИИ. Благодаря этому, я сильно верю в реальность. Ещё в сравнительно раннем возрасте я осознал, насколько трудно понять мир, в котором я родился, и поэтому я обращался к реальности, чтобы найти в ней моральное руководство.

В мире, в котором мы живём, мы, люди, являемся одновременно и участниками, и наблюдателями. В качестве участников мы хотим изменить мир в нашу пользу; в качестве наблюдателей мы хотим понять реальность такой, какая она есть. Эти две цели пересекаются между собой. Я считаю это важным выводом, позволяющим мне различать правильное и ошибочное.

ИИ разрушил эту простую схему, потому что он не имеет никакого отношения к реальности. ИИ создаёт собственную реальность, а когда эта искусственная реальность перестаёт соответствовать реальному миру (что происходит достаточно часто), это пренебрежительно игнорируют, называя «галлюцинациями».

Именно поэтому я почти инстинктивно выступаю против ИИ, и всем сердцем согласен с теми экспертами, которые доказывают, что ИИ нужно регулировать. Но подобное регулирование нужно применять на глобальном уровне, потому что стимулы обманывать слишком велики: те, кто уклоняется от регулирования, получают несправедливое преимущество.

К сожалению, ввести глобальное регулирование невозможно, потому что современный мир определяется конфликтом между двумя системами государственного управления, которые диаметрально противоположны друг другу. У них радикально различаются взгляды на то, что именно нужно регулировать, и зачем.

Я называю эти две системы управления открытыми и закрытыми обществами. Разница между ними в следующем: в открытом обществе роль государства – защищать свободу человека, а в закрытом обществе роль человека – служить интересам правителей.

ИИ развивается невероятно быстрыми темпами, и простой человеческий разум неспособен в полной мере это понять. Никто не может предсказать, куда всё это нас заведёт. Но в одном мы можем быть уверены: ИИ помогает закрытым обществам и создаёт смертельную угрозу для открытых обществ. Причина в том, что ИИ особенно хорош в создании инструментов контроля, помогающих закрытым обществам следить за своими подданными.

Именно поэтому я инстинктивно против ИИ, но не знаю, как его можно остановить. Сегодня этого, впрочем, вообще никто не знает, однако большинство из тех, кто разрабатывал ИИ, признают необходимость его регулирования. Это понимают также в Конгрессе и в администрации президента Джо Байдена», - пишет Сорос.