Microsoft опубликовала 37-страничный кодекс гуманистического искусственного интеллекта, в котором закрепила главный принцип: интересы и безопасность людей важнее развития AI. Документ появился на фоне растущих опасений, что прогресс моделей может опередить возможности общества по их проверке и безопасному внедрению.
В кодексе отдельно подчёркивается, что современные AI-модели не являются сознательными. Microsoft считает, что разработчики не должны намеренно создавать системы, имитирующие сознание, эмоции или самостоятельную личность. Такой подход должен снизить риск того, что пользователи начнут воспринимать программные системы как субъектов, способных обладать собственными правами.
Компания также отвергает идею юридической правосубъектности искусственного интеллекта. Это означает, что модель не должна рассматриваться как отдельный участник правоотношений, а ответственность за её создание, настройку и применение должна оставаться за людьми и организациями.
Кодекс появился на фоне споров о темпах развития AI
Поводом для новой дискуссии стали предупреждения исследователей о том, что усложнение моделей способно опережать методы контроля. Особое внимание уделяется автономным AI-агентам, которые могут самостоятельно планировать действия, обращаться к внешним сервисам и выполнять цепочки задач с ограниченным участием человека.
Глава Anthropic Дарио Амодеи ранее призвал отрасль к скоординированному замедлению разработки искусственного интеллекта. По его мнению, компаниям необходимо уделить больше времени оценке рисков, прежде чем выпускать более мощные системы и расширять область их самостоятельной работы.
Microsoft в своём документе фактически ставит развитие технологий в зависимость от проверяемости, управляемости и пользы для общества. Речь идёт не только о качестве ответов чат-ботов, но и о способности разработчиков понять, почему система приняла конкретное решение, ограничить опасные действия и остановить её при необходимости.
Дополнительный контекст для регулирования ИИ
Публикация Microsoft совпадает с поэтапным вступлением в силу европейского AI Act. Закон ЕС вступил в силу 1 августа 2024 года, правила для разработчиков универсальных моделей начали применяться с 2 августа 2025 года, а основной массив требований для высокорисковых систем должен заработать 2 августа 2026 года. В документе ЕС предусмотрены требования к прозрачности, управлению рисками и человеческому контролю.
Практическим ориентиром для таких систем остаются и технические ограничения: AI-агентам требуется выдавать только минимально необходимые разрешения, вести журнал действий и подтверждать критические операции человеком. Для корпоративных решений это обычно означает разграничение доступа, тестирование на вредоносные запросы и возможность быстро отключить модель без остановки всей инфраструктуры.
Кодекс Microsoft не является законом и сам по себе не устанавливает обязательные для всей отрасли нормы. Однако он фиксирует позицию одного из крупнейших разработчиков облачных и AI-платформ: искусственный интеллект должен оставаться инструментом под контролем людей, а не самостоятельным участником цифровой среды.
