OpenAI, Anthropic, Google DeepMind и SpaceX поддержали идею замедлить развитие наиболее мощных систем искусственного интеллекта, чтобы согласовать правила безопасности и не допустить неконтролируемой гонки технологий. Инициатива пока не выглядит полноценным международным договором, однако уже вызвала споры о том, где проходит граница между ответственным регулированием и защитой интересов крупнейших компаний.
В обсуждении участвовали Сэм Альтман, руководитель OpenAI, Дарио Амодеи из Anthropic, сооснователь Google DeepMind Демис Хассабис и глава SpaceX Илон Маск. Компании в целом согласились с предложением «синхронизировать передний край» разработки ИИ - то есть осторожнее выводить новые модели и заранее оценивать связанные с ними риски.
Один из возможных элементов такого подхода - подключение независимых сторонних аудиторов. Они могли бы проверять модели до выпуска, оценивать устойчивость к злоупотреблениям и анализировать риски, связанные с автономностью, кибербезопасностью и созданием опасного контента.
Что предлагают участники инициативы
Обсуждаемая схема также предполагает более жесткий надзор за национальными лабораториями и разработчиками, которые создают самые производительные модели. Еще один пункт - попытка добиться глобального соглашения о временном замедлении ИИ-разработок, чтобы отдельные компании или государства не получали преимущество за счет отказа от проверок.
Проблема заключается в отсутствии единого определения того, что именно считать замедлением. Речь может идти о паузе в обучении моделей определенного масштаба, ограничении доступа к вычислительным ресурсам или обязательной сертификации перед запуском. Без четких критериев подобная договоренность рискует остаться декларацией.
Критики инициативы считают, что крупные компании могут использовать риторику безопасности для ограничения конкуренции. В таком случае новые правила повысят стоимость разработки, усложнят работу небольших лабораторий и позволят лидерам рынка сохранить доступ к дефицитным GPU и крупным дата-центрам.
Отдельные претензии касаются моделей с открытым исходным кодом. Их распространение сложнее контролировать, а независимые разработчики могут не располагать ресурсами для дорогого аудита. Жесткие требования способны вытеснить такие проекты с легального рынка, несмотря на то, что они крайне полезны для исследователей и образования в этой сфере.
Оппоненты также опасаются, что добровольное соглашение крупнейших компаний превратится в подобие картеля. Участники будут формально ссылаться на безопасность, но фактически смогут согласованно сдерживать выпуск продуктов, устанавливать высокие барьеры для новичков и избегать более конкретных юридических обязательств.
Регулирование уже выходит за рамки добровольных обещаний
Показателен пример Европейского союза: закон об искусственном интеллекте EU AI Act вводит поэтапные требования для разработчиков и поставщиков систем ИИ. Правила для моделей общего назначения начали применяться в 2025 году, а значительная часть положений для ИИ-систем должна вступить в силу в 2026 году. Компании обязаны учитывать прозрачность, управление рисками и ограничения для опасных сценариев использования.
Для пользователей в России спор имеет практическое значение, но не прямое. Зарубежные сервисы OpenAI, Anthropic и Google могут менять условия доступа, цены и требования к API, а новые международные стандарты способны повлиять на работу с облачными моделями, но это не касается компаний из России. По крайней мере на данный момент. Российские технологии в этой сфере ограничиваются разработками нескольких крупных компаний и они не конкурируют на международном рынке.
Пока участники договоренности не представили единого документа с обязательными сроками, санкциями и механизмом контроля. Поэтому главный вопрос остается открытым: станет ли координация способом снизить вероятность опасной гонки или инструментом, который закрепит лидерство нескольких корпораций на рынке генеративного ИИ.
