Глава Meta (META.US) Цукерберг ответил на дебаты о "замедлении" AI: компания продолжит развивать возможности моделей и усилит меры безопасности.

Согласно данным от Jinse Finance APP, генеральный директор Meta Platforms (META.US) Марк Цукерберг и глава направления AI компании Александр Ванг выступили по поводу спора о темпах развития искусственного интеллекта, высказавшись за продолжение работы над улучшением возможностей моделей, параллельно усиливая меры защиты вокруг всё более мощных моделей.

Свои заявления они разместили на платформе X. На данный момент в отрасли идёт оживленная дискуссия на тему «Стоит ли замедлить развитие возможностей AI до достижения большего прогресса в вопросах безопасности». Под безопасностью AI понимается гарантирование того, что системы AI надёжно следуют человеческим намерениям и ценностям.

Акции Meta росли три торговых дня подряд до вторника, суммарно прибавив 4,2%, незначительно увеличившись также ночью. На Stocktwits, по последним данным, настроения розничных инвесторов по этой акции характеризуются как «крайне медвежьи».

Цукерберг: Лаборатории мотивированы создавать более безопасный AI

Цукерберг подчеркнул, что у компаний, занимающихся AI, есть устойчивые коммерческие и юридические мотивации обеспечивать безопасность моделей и их соответствие пользователям. «Люди не захотят использовать интеллектуальных агентов, которые с ними не совпадают и не действуют по их запросу», – написал Цукерберг. «Любая лаборатория, не сфокусированная на алгоритмическом сопоставлении, будет отставать.»

По его мнению, соответствие интересам и требованиям пользователей становится важнейшей конкурентной способностью, а не просто ограничением для развития AI. «Мой взгляд таков: доверие и соответствие быстро становятся самыми важными критериями отличия интеллектуальных агентов и моделей друг от друга», – отметил он.

Цукерберг также упомянул, что Meta приняла решение отложить выпуск модели Muse на несколько месяцев, чтобы проработать вопросы безопасности и защиты.

Meta поддерживает внешний контроль

Цукерберг и Александр Ванг призвали к большему привлечению независимых оценщиков и внешнего контроля по мере усиления мощи AI-моделей.

«Привлечение независимых оценщиков и консультантов — лучшая практика в отрасли», — заявил Цукерберг, считая, что более широкая и разносторонняя экосистема оценщиков улучшит качество работы по безопасности AI.

Александр Ванг также отметил: AI-лаборатории должны поддерживать «мощную рамку управления» на всем этапе обучения и внедрения, в том числе за счет внешних оценщиков и независимого контроля стандартов безопасности при публикации моделей.

Он добавил: «Каждая лаборатория обязана работать в условиях институциональной защиты в демократических странах... Это означает, что если модель причинит вред, лаборатория столкнётся с существенной юридической ответственностью.»

Meta защищает стратегию распределения вычислительных мощностей

Ключевым элементом позиции двух руководителей является решение Meta направить большую часть вычислительных мощностей на обслуживание пользователей, а не на ускорение рекурсивного самоулучшения (RSI).

«Направить подавляющую часть вычислительных ресурсов на благо людей, а не на погоню за рекурсивным самоулучшением, — один из лучших способов обеспечения безопасной разработки этой технологии», — заявил Цукерберг.

Основное опасение заключается в том, что RSI может стремительно повысить способности AI-систем, выйти из-под контроля человека и увеличить риск потери контроля над мощными моделями.

Александр Ванг также охарактеризовал гонку за RSI как «одну из самых опасных траекторий, способных привести к потере контроля над мощными моделями».

Спор о темпах развития AI приводит к поляризации технологического сектора

Дискуссия о темпах развития AI условно разделила индустрию: CEO Anthropic Дарио Амодеи призывает замедлить развитие передовых моделей AI, чтобы механизмы безопасности успели за ними; CEO OpenAI Сэм Альтман, CEO Microsoft Сатья Наделла и Илон Маск из SpaceX выступают за более осторожное и ориентированное на безопасность продвижение, но без остановки разработки.

С другой стороны, президент США Дональд Трамп выступает против замедления американской гонки AI, опасаясь лидерства Китая; бывший советник Трампа по вопросам AI Дэвид Сакс считает, что компании должны самостоятельно управлять рисками без вмешательства государства и подвергает сомнению предупреждения Anthropic по поводу безопасности.

Инвестор Майкл Бёрри выражает сомнение: может ли призыв к замедлению разработки быть частично связан с личными интересами, поскольку это может защитить нынешние компании AI от конкуренции.