Приведёт ли ИИ к уничтожению человечества? За последний год ряд ведущих исследователей ИИ предупреждали, что ИИ быстро достигает способности стереть человечество с лица земли.

Эти предупреждения не совсем новы. Поначалу, однако, Anthropic была практически единственной среди ведущих компаний-разработчиков больших языковых моделей, которая подчёркивала опасности, которые представляет нерегулируемый ИИ. И в ответ на её добросовестное возражение против использования её моделей для агентной войны с помощью ИИ — явного средства человекоубийства — Пентагон Хегсета попытался отомстить, обозначив компанию как угрозу безопасности. К счастью, судья раскусил этот трюк.

Тем не менее, до самого недавнего времени другие компании в сфере ИИ — в частности, Grok Илона Маска и ChatGPT — были готовы плясать под дудку администрации Трампа, чтобы получить конкурентное преимущество. Сейчас Grok используется вооружёнными силами США для помощи в наведении целей в Иране — явный предвестник ситуации, в которой машины, а не люди, решают, кто является целью.

Но теперь, довольно внезапно, Маск и генеральный директор ChatGPT Сэм Альтман встают на сторону призыва Дарио Амодея, генерального директора Anthropic, признать экзистенциальные опасности ИИ и нажать на тормоза. Примечательно, что Амодей прямо призывает к государственному регулированию, если другие компании в сфере ИИ откажутся сотрудничать:

Самый эффективный метод замедления — это регулирование, направленное на все американские компании, работающие на переднем крае ИИ, поскольку оно охватывает даже тех, кто не желает сотрудничать добровольно.

Независимо от того, почему у Маска и Альтмана внезапно проснулась совесть, я приветствую их новую позицию. Как многие думают, возможно, это произошло из-за взлома Hugging Face вышедшими из-под контроля ИИ-агентами ChatGPT. Но я также считаю, что на разворот Маска и Альтмана повлияла меняющаяся политическая обстановка — почти несомненно, что демократы возьмут Палату представителей, и очень велика вероятность, что они возьмут и Сенат.

Ибо в реальном смысле Амодей не просто пытается защитить человечество от вышедшего из-под контроля ИИ — он также пытается защитить человечество от Дональда Трампа. Важно помнить, что при администрации Байдена государственные политики пытались сформулировать некоторые базовые меры предосторожности в отношении ИИ. Но отмена этих мер предосторожности была буквально одним из первых действий Дональда Трампа при вступлении в должность во второй раз. И эту историю стоит пересмотреть в момент, когда сама индустрия ИИ бьёт тревогу, а Трамп отметает риски с ИИ:

Есть множество негативно настроенных сил, которые зря поднимают панику.

Что ж, я рад знать, что он уверен, что плохие вещи не произойдут. Но насколько я слышал, Трамп не эксперт по технологиям. И его недавний послужной список радужных предсказаний — разве война с Ираном не должна была закончиться за несколько дней? — не был блестящим.

В любом случае, вот история, которую вам следует знать.

Нынешняя эпоха ИИ часто считается начавшейся с публичного выпуска ChatGPT 30 ноября 2022 года. Однако потенциальные экономические и социальные последствия больших языковых моделей уже становились очевидными в течение первого года администрации Байдена, которая начала внедрять серию правил и исполнительных указов, призванных ограничить потенциальный ущерб от технологии. Институт экономической политики (The Economic Policy Institute) ведёт всеобъемлющий список этих действий.

Центральным элементом повестки Байдена по ИИ был Исполнительный указ 14401 (Executive Order 14401), изданный 30 октября 2023 года под названием «Безопасная, надёжная и заслуживающая доверия разработка и использование искусственного интеллекта» (Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence). В документе заявлялось:

Использование ИИ во благо и реализация его бесчисленных преимуществ требуют смягчения его существенных рисков. Это начинание требует общенациональных усилий, включающих правительство, частный сектор, академические круги и гражданское общество.

Были бы мы сейчас менее панически настроены, если бы существовали серьёзные усилия по претворению в жизнь рекомендаций этого исполнительного указа? Сказать практически невозможно, потому что политика предосторожности в отношении ИИ так и не получила шанса. Трамп отменил Исполнительный указ 14401 20 января 2025 года. Да, вы прочитали правильно: он буквально убрал все защитные меры в отношении ИИ в свой первый день в должности.

Всего через три дня его администрация издала новый исполнительный указ — «Устранение барьеров для американского лидерства в искусственном интеллекте» (Removing barriers to American leadership in artificial intelligence), который можно резюмировать как «К чёрту социальные и экзистенциальные риски, полный вперёд».

Часть этой решимости не ограничивать риски от ИИ отражала влияние индустрии. За неделю до вступления Трампа в должность NVIDIA соединила призыв к дерегуляции с раболепной похвалой в адрес входящей администрации:

Первая администрация Трампа заложила основу для нынешней силы и успеха Америки в сфере ИИ, создав среду, в которой американская промышленность могла конкурировать и побеждать по заслугам, не ставя под угрозу национальную безопасность.

Но была также и социальная составляющая в антирегуляторной позиции Трампа. Вы не удивитесь, услышав, что враждебность к DEI была прямо в сердце этой повестки. Буквально второе предложение указа гласит, что

системы ИИ должны разрабатываться, свободные от идеологической предвзятости или сконструированных социальных повесток.

Я думаю, это была прямой рекламой Grok, который, по всем отзывам, значительно уступает предложениям от Anthropic и OpenAI, но который Илон Маск пытался продавать отчасти потому, что он якобы не «woke».

В любом случае, отметание Трампом рисков от ИИ, даже в момент, когда эксперты и инсайдеры отрасли находятся в режиме пожарной тревоги, — это просто продолжение позиции, которую он занимал с самого начала.

Это также, что не случайно, полностью согласуется с его отношением к другой экзистенциальной угрозе, стоящей перед человечеством, — угрозе, которая вовсе не гипотетическая и быстро становится острой.

Континентальные Соединённые Штаты только что пережили самое жаркое лето за всю историю наблюдений, причём июль стал самым жарким месяцем за всю историю. По ту сторону Атлантики Европа опустошена засухами и волнами жары. Вот заголовок из вчерашней Wall Street Journal:

И всё, что мы знаем об изменении климата, говорит о том, что то, что мы видели до сих пор, лишь предвкушение грядущих катастроф.

И всё же в прошлом году, выступая в ООН, Трамп отмахнулся от изменения климата как от «аферы», назвав возобновляемые источники энергии, такие как солнечная и ветровая энергия, которые обеспечили почти весь мировой рост спроса на электроэнергию в прошлом году, «мошенничеством». И это пренебрежение отражается в политике. Как писал я и многие другие, администрация Трампа активно пытается блокировать проекты ветровой и солнечной энергетики. А сегодня администрация, как сообщается, планирует отменить все ограничения на выбросы парниковых газов электростанциями.

Можно многое сказать о причинах, по которым наше нынешнее правительство, похоже, так решительно настроено мчаться к катастрофе, даже когда на карту может быть поставлено само выживание человечества. Отрицание климата, как мы знаем из десятилетий опыта, подпитывается нечестивой троицей: финансовый интерес (нефтяные компании, полные решимости сохранить поток прибылей), идеология (консерваторы, враждебные любой форме регулирования) и психологическая неуверенность (настоящие мужчины жгут ископаемое топливо). Отрицание рисков ИИ, предположительно, отражает похожую смесь факторов.

Так давайте аплодировать таким лидерам, как Амодей, за то, что они говорят в полный голос, и аплодировать растущей готовности других генеральных директоров предупреждать об опасностях их технологии, даже если их приступ совести отчасти отражает нависающую перспективу вызова повесткой в суд.

Перевод статьи The MAGA Plot(s) to Destroy Humanity

Тэги: США, Экономика, Технологии

16.09.2026