Руководители крупнейших ИИ-компаний и технологических корпораций вновь публично заговорили о необходимости регулировать развитие искусственного интеллекта. Среди них оказались генеральный директор OpenAI Сэм Альтман, глава Anthropic Дарио Амодеи, сооснователь Google DeepMind Демис Хассабис, CEO Microsoft Сатья Наделла и руководитель X Илон Маск. Их заявления прозвучали на фоне быстрого распространения генеративных моделей и роста инвестиций в эту отрасль.
Общая формулировка у таких призывов схожа: разработка ИИ не должна идти настолько быстро, чтобы общество и государственные институты потеряли возможность контролировать последствия. Речь идет о безопасности моделей, прозрачности их работы, защите данных, влиянии автоматизации на рынок труда и риске появления систем, способных самостоятельно выполнять все более сложные задачи.
При этом подобная позиция неизбежно вызывает скепсис. Компании, руководители которых говорят об опасности искусственного интеллекта, одновременно получают огромные преимущества от его коммерциализации. Чем активнее обсуждается регулирование, тем выше может становиться роль уже существующих лидеров рынка, располагающих вычислительными ресурсами, специалистами и юридическими командами.
Предупреждения появились задолго до генеративных чат-ботов
История подобных опасений началась задолго до ChatGPT и современных больших языковых моделей. В XIX веке писатель Сэмюэл Батлер рассуждал о том, что созданные людьми машины в перспективе могут развиваться быстрее своих создателей. Эти идеи появились в период, когда промышленная революция уже меняла представления о труде, производстве и роли человека в экономике.
Сам термин artificial intelligence закрепился после Дартмутского семинара 1956 года. Организаторы встречи, включая Джона Маккарти, рассчитывали исследовать возможность моделирования человеческого мышления с помощью машин. Тогда ожидания были намного смелее технических возможностей: многие ученые полагали, что универсальный искусственный интеллект удастся создать за несколько десятилетий.
В последующие годы отношение к технологии несколько раз менялось. Периоды оптимизма сменялись так называемыми «зимами ИИ», когда финансирование сокращалось из-за невыполненных обещаний. Однако уже в 2010-х развитие нейросетей, графических процессоров и методов глубокого обучения вернуло искусственный интеллект в центр внимания.
От открытых писем к государственным правилам
В 2017 году участники конференции в Асиломаре сформулировали 23 принципа безопасного ИИ. Документ касался не только технических ограничений, но и вопросов ответственности, военного применения и распределения экономических выгод. В 2023 году более тысячи исследователей и руководителей, включая Илона Маска, подписали открытое письмо с призывом временно приостановить обучение наиболее мощных моделей, если разработчики не могут гарантировать их безопасность.
В том же году представители ведущих компаний начали участвовать в обсуждении международных норм на правительственном уровне. В Европейском союзе был принят AI Act - первый масштабный закон, который классифицирует системы по степени риска и вводит отдельные требования к разработчикам универсальных моделей. В США пока нет единого федерального закона аналогичного масштаба, однако действуют президентские распоряжения, отраслевые стандарты и правила для отдельных сфер.
Нынешние заявления руководителей технологических компаний поэтому нельзя рассматривать только как бескорыстное предупреждение или исключительно как попытку защитить бизнес. Они одновременно отражают реальные сложности с контролем мощных моделей и стремление крупных игроков участвовать в формировании правил рынка. Главный вопрос теперь заключается в том, смогут ли будущие нормы ограничить опасные сценарии, не превратившись в барьер для независимых разработчиков и научных проектов.
