Крупнейшие разработчики искусственного интеллекта начали публично обсуждать замедление гонки за сверхинтеллектом. После появления автономных AI-агентов и новых предупреждений об угрозах для общества руководители Anthropic, OpenAI, Google, Microsoft и X стали осторожнее говорить о необходимости как можно быстрее наращивать возможности моделей.
Ещё недавно главным принципом технологической индустрии оставалась идея «двигаться быстро и ломать препятствия». Теперь компании используют более осторожную формулировку - «соблюдать темп развития передовых систем». Она подразумевает не полный отказ от новых моделей, а более тщательную проверку их поведения, ограничение опасных функций и подготовку механизмов реагирования на инциденты.
Почему компании заговорили о паузе
Поводом для дискуссии стали системы, способные выполнять цепочки действий без постоянного контроля человека. Автономные агенты могут самостоятельно искать информацию, работать с программами и принимать решения в заданных рамках. При недостаточных ограничениях такая модель поведения повышает риск утечки данных, злоупотреблений и действий, которые разработчики не успели предусмотреть.
Microsoft AI возглавляет Мустафа Сулейман, который признал реальность угроз, связанных с развитием ИИ, и отдельно указал на потенциальные проблемы при конкуренции между компаниями. В Anthropic тем временем считают, что отрасли необходимо снизить темп, пока не появились более надёжные способы тестирования моделей и контроля их автономности.
OpenAI обновила правила публикации информации о безопасности и раскрыла ещё шесть инцидентов, которые были признаны вызывающими обеспокоенность. Такой подход должен сделать риски заметнее для пользователей и регуляторов, но одновременно показывает, что внутренние процедуры компаний пока не гарантируют полного предотвращения проблем.
Публичные заявления звучат и со стороны Google DeepMind, Microsoft и других исследовательских подразделений. Однако их единая позиция остаётся неочевидной. Компании продолжают вкладывать огромные средства в вычислительную инфраструктуру и обучение более крупных моделей, поэтому призывы к замедлению могут быть попыткой добиться удобных правил для рынка, а не готовностью отказаться от гонки.
Регулирование и конкуренция с Китаем
Одновременно AI-компании обращаются к политикам с просьбой установить понятные правила работы отрасли. В прошлом руководители OpenAI, Anthropic и других организаций уже призывали к регулированию, но теперь эти требования сталкиваются с другой риторикой - США якобы необходимо опередить Китай в создании сверхинтеллекта. Такой аргумент способен подтолкнуть власти не к паузе, а к дополнительной поддержке ускоренной разработки.
Сэм Альтман говорил о необходимости замедлиться, тогда как Марк Цукерберг не демонстрировал готовности ставить развитие ИИ на паузу. Глава Nvidia Дженсен Хуанг также активно взаимодействует с американскими политиками. Представители Китая, в свою очередь, обвиняют американские компании и чиновников в нагнетании страха ради получения более выгодных условий.
В США звучат и предложения рассматривать безопасность ИИ как вопрос национальной политики. Барак Обама занял более промежуточную позицию: развитие технологии, по его мнению, нельзя останавливать полностью, но обществу нужны инструменты контроля, прозрачные правила и ответственность разработчиков за последствия применения моделей.
Дополнительным фактором становится европейское регулирование. Согласно EU AI Act, с 2 августа 2025 года для разработчиков моделей общего назначения действуют требования по технической документации, авторскому праву и раскрытию информации. Для систем с системным риском предусмотрены дополнительные обязанности, включая оценку рисков, тестирование и уведомление о серьёзных инцидентах. Эти нормы показывают, что контроль над передовыми моделями уже переходит от добровольных обещаний к юридическим требованиям.
Главный вопрос теперь заключается в том, станет ли замедление реальным механизмом безопасности или превратится в соглашение крупнейших компаний, которое затруднит появление новых конкурентов. Если ведущие разработчики действительно хотят снизить риски, им придётся согласовать измеримые критерии безопасности, публиковать данные о проверках и допускать независимый аудит. Одних заявлений о необходимости осторожности для контроля над сверхинтеллектом будет недостаточно.
