[Перевод] ИИ, который запретил сам себя: как нейросеть Claude стала тайным оружием Пентагона

Я отдал исследованиям искусственного интеллекта двадцать лет жизни. На моих глазах эта сфера превратилась из забавной академической игрушки в несущую конструкцию современного мира. Я видел, как накатывают и разбиваются волны хайпа. Я до хрипоты спорил с паникерами, доказывая, что все эти сценарии судного дня — не более чем дешевая фантастика.

На этой неделе я замолчал.

Война обладает такой первобытной жестокостью, которую не способна уловить ни одна сухая техническая статья. Она стирает в пыль семьи. Она ломает человеческие судьбы так, как никогда не покажет официальная статистика потерь. И все эти двадцать лет я утешал себя одной мыслью: во что бы ни эволюционировал ИИ, он точно не станет этим. Он не превратится в безмолвный, невидимый винтик внутри машины для убийств. Эта моральная черта казалась мне высеченной в камне. Казалось, вся наша индустрия это понимает.

Но черта оказалась иллюзией.

И вот с какой мыслью я прошу вас свыкнуться, прежде чем вы продолжите чтение: то, что произошло на этой неделе, — это не просто политический анекдот о том, как Трамп запретил технологию, на которой, как выяснилось, держится его же собственная армия. Это материализация того самого кошмара, вокруг которого исследователи ИИ годами ходили на цыпочках. Угроза того, что, как только вы создаете нечто по-настоящему могущественное, вопрос о его превращении в оружие перестает быть философским. Он становится сугубо операционным. Он становится просто рутиной буднего дня.

Жертвы войн заслуживают нашей скорби. Но они также заслуживают того, чтобы мы не отводили взгляд от технологий, которые сделали их смерть быстрее и эффективнее.