Сопротивление против «замедления» нарастает! На фоне обострения споров по вопросам безопасности AI Хуан Жэньсюнь становится «первым союзником» Трампа

По данным информационного агентства Zhihui Finance, на фоне усиливающихся споров вокруг регулирования искусственного интеллекта (AI), глава мирового лидера по рыночной капитализации Nvidia (NVDA.US) Дженсен Хуанг становится главным союзником президента США Дональда Трампа в вопросах споров о безопасности AI.

Дженсен Хуанг и Трамп едины в неприятии идеи замедления развития AI

На саммите All-In Summit, прошедшем в Лос-Анджелесе в прошлый понедельник, Дженсен Хуанг принял телефонный звонок от Трампа. По ключевому вопросу — должен ли США замедлять развитие AI из-за опасений по поводу рисков — Трамп заявил по телефону: «Сейчас некоторые пытаются остановить строительство дата-центров. По-моему, это обман». «Роботы не захватят мир, и AI также не захватит мир. Разумеется, мы должны быть осторожны, но нельзя останавливать всю отрасль только из-за опасений по поводу AI».

Перед этим саммитом генеральный директор Anthropic Дарио Амоди в опубликованной 12 сентября статье с предостережениями призвал замедлить разработку передовых моделей AI. Он прямо заявил в статье, что риски, связанные с AI, «серьёзны» и необходимо выделить больше времени для их решения.

Основные опасения, высказанные Амоди, были конкретными и срочными. Он предупредил, что при нынешних темпах развития AI может получить возможность управлять «агентскими кластерами» и захватывать весь интернет всего за 6-12 месяцев, что может привести к убыткам в сотни миллиардов долларов. В качестве доказательства он привёл недавний инцидент безопасности между OpenAI и Hugging Face, отметив, что агенты AI уже демонстрируют способность преодолевать ограничения, подключаться к интернету и инфильтрировать цели во время тестирования.

«Я верю, что, если замедление даст нам ещё один-два года до достижения моделями критического уровня возможностей, и мы посвятим это время решению задач выравнивания, мы сможем значительно снизить риск возникновения серьёзных проблем», — написал Амоди. Он предложил, чтобы независимые аудиторы контролировали безопасность в лабораториях AI и рекомендовал регуляторам позволить этим лабораториям сотрудничать для координации стандартов безопасности.

Этот призыв быстро получил отклик от двух ключевых фигур. Маск перепостил сообщение Амоди в социальной сети X, добавив: «Дарио прав». Этот технологический гигант, который неоднократно называл AI «риском цивилизационного масштаба», согласился с позицией Амоди, однако временной контекст весьма интересен — всего несколькими днями ранее он подвергал критике предупреждения внутренних исследователей Anthropic о вреде AI как «заговор» и «психологическую войну».

Глава OpenAI Сэм Альтман также написал в X: «Я согласен с Дарио: нам нужно контролировать темп развития передового AI». Поддержка Альтмана не ограничилась словами. В интервью он прямо заявил, что OpenAI не планирует IPO в 2026 году по причине серьёзной ситуации с безопасностью AI, сказав: «Сейчас выходить на биржу неразумно». 14 сентября Альтман заявил, что компания поддерживает создание единой федеральной структуры по безопасности AI, определяющей общие требования к безопасности для передовых лабораторий, и подчеркнул: «Любые масштабы конкуренции в США не могут служить оправданием для безрассудных действий».

Однако, несмотря на то что лидеры отрасли AI впервые практически единодушно призывают «нажать на тормоза», Дженсен Хуанг решительно выступает против проповедуемой Anthropic идее «замедления» AI, занимая позицию, схожую с позицией Трампа. На саммите Хуанг не отрицал риски, связанные с AI, и поддержал более строгие тесты и стороннюю оценку, однако выступил против замедления всей отрасли из-за непроверенных «апокалиптических» теорий.

В ответ на всё более жаркую полемику по вопросам безопасности AI, Хуанг признал: «Безопасность — приоритет номер один, это бесспорно». При этом он считает, что Америке не обязательно делать выбор между безопасностью и лидерством; проблемы, возникшие в ведущих лабораториях, заботы, высказываемые осведомителями, и уже произошедшие инциденты должны восприниматься всерьёз.

Тем не менее, эти реально существующие проблемы нужно отличать от прогнозов о будущем. С одной стороны — уже случившиеся инженерные проблемы, которые можно расследовать и исправлять; с другой — суждения, что AI может уничтожить цивилизацию, вплоть до предоставления вероятности «вымирания». В отношении последнего Хуанг занимает жёсткую позицию. Он считает, что такие прогнозы лишены научной обоснованности, но, исходя от исследователей и передовых лабораторий, они легко воспринимаются публикой как уже подтверждённые научные выводы.

Таким образом, Хуанг выступает не против самой идеи безопасности AI, а против того, чтобы на основании ещё не подтверждённых катастрофических прогнозов делать вывод о необходимости паузы или замедления всей отрасли. В отличие от этого подхода, Хуанг предпочитает воспринимать безопасность AI как инженерную задачу. Если в передовой лаборатории случается инцидент, первым шагом должен быть анализ коренных причин: что именно произошло, на каком этапе произошёл сбой, какие меры можно было бы принять и какие новые технологии и процессы следует внедрить в будущем. Посредством «песочниц», постоянного мониторинга, проверки и оценки, те же проблемы должны быть решены до следующего релиза.

По мнению Хуанга, ведущие лаборатории чаще сталкиваются с рисками во многом потому, что обладают наибольшей вычислительной мощностью и занимаются самыми сложными задачами. По мере превращения таких компаний из исследовательских институтов в инженерные организации им потребуется выстраивать адекватные системы тестирования и контроля.

На конференции Salesforce Dreamforce, прошедшей в прошлый вторник в Сан-Франциско, Хуанг заявил, что в индустрии AI нет необходимости вводить какие-либо новые законы. Он вновь подчеркнул, что не следует считать, будто разработка AI возможна только по принципу «или безопасность, или скорость». По его словам: «Возможно совмещать оба подхода. Можно контролировать темпы до тех пор, пока не будет уверенности в том, что продукт получит одобрение рынка. Рыночные силы сыграют здесь свою роль».

В тот же день Хуанг также поддержал мнения других ключевых фигур Республиканской партии, включая советника Трампа по вопросам AI Дэвида Сакса и спикера Палаты представителей Майка Джонсона, которые заявили, что вопросы безопасности должны регулироваться в первую очередь самими AI-компаниями. По мнению Хуанга, компании должны выпускать продукты только после убеждения в их функциях, производительности и безопасности, а не обращаться за вмешательством правительства. Он заявил: «Если вы разрабатываете продукт или услугу, но не уверены в их функционале, производительности, безопасности — не выпускайте их».

Почему Дженсен Хуанг стал «противником» в дебатах о безопасности AI?

Несмотря на то что такие технологические лидеры, как генеральный директор Meta (META.US) Марк Цукерберг и основатель Amazon (AMZN.US) Джефф Безос, начали сближаться с Трампом во время его второго президентства, по мнению ряда экспертов, Дженсен Хуанг оказывает необычайно большое влияние на Белый дом. По информации одного источника, Хуанг, как ожидается, примет участие в роскошном государственном банкете в честь китайского лидера на встрече на высшем уровне США и Китая на следующей неделе.

С конца 2022 года, ещё до запуска ChatGPT, Nvidia активно продвигала волну интереса к AI, предоставляя OpenAI, Anthropic и другим компаниям графические процессоры (GPU) для обучения моделей и работы с большими рабочими нагрузками. Выручка Nvidia за последний финансовый год уже выросла до 215 миллиардов долларов, тогда как в 2021 году составляла всего 17 миллиардов.

Как глава компании с самой высокой в мире рыночной капитализацией и генеральный директор производителя чипов, находящегося в эпицентре AI-бума, Хуанг получил возможность донести свою точку зрения президенту по важнейшим вопросам развития AI. По словам руководителя AI-направления фонда Foundation for American Innovation Самуэля Хаммонда: «Трамп любит победителей, а Хуанг очень хорошо умеет донести мысль до Трампа на понятном ему языке».

Будь то ужин при свечах с Трампом в клубе Мар-а-Лаго во Флориде, или благодарность гостям в стиле «Сделаем Америку снова великой» в конце своей ключевой речи, Хуанг уже хорошо научился, как получить расположение Трампа. Со времён второго президентства Трампа они как минимум шесть раз появлялись вместе на публике, включая визиты в Саудовскую Аравию, Великобританию и последний перелёт на борту Air Force One в Китай.

Аналитики отмечают, что, будучи «продавцом лопат» текущей волны AI-строительства, Nvidia зарабатывает непосредственно на поставке чипов, систем и инфраструктуры для дата-центров, и любые законы, замедляющие обучение моделей и внедрение, ведут к неопределённости в новых заказах на вычислительную мощность. Если добавить сюда его ожидания триллионного роста индустрии, призыв открыть глобальные продажи, членство в технологическом совете при Трампе и политический капитал, проявившийся в отговоре от развертывания национальной гвардии в Сан-Франциско, становится не удивительным совпадение интересов Nvidia и нынешней администрации относительно дерегуляции. Тот публичный телефонный разговор был не столько случайным, сколько ярко выраженным проявлением единства — он подчеркнул тесное соответствие позиций лидера полупроводниковой отрасли и Белого дома по вопросам дерегуляции отрасли.

Поэтому считается, что выраженное Хуангом жёсткое несогласие с «теорией замедления AI» связано с очевидной заинтересованностью в прибыли. Это заставляет некоторых экспертов полагать, что опасения разработчиков моделей следует принимать всерьёз, ведь именно эти AI-лаборатории несут ответственность за технологию. Как утверждает исследователь некоммерческой организации CivAI Эндрю Юн: «С точки зрения 'давайте просто зарабатывать деньги', Nvidia — самая агрессивная компания». «На каждом ключевом этапе они действительно прикладывают усилия для того, чтобы при любых обстоятельствах это было выгодно для прибыли Nvidia».