OpenAI подтвердила увольнение трёх исследователей, занимавшихся безопасностью искусственного интеллекта. Компания заявила, что Jasmine Wang, Tomek Korbak и Mikita Balesni нарушили внутренние правила обращения с конфиденциальной информацией.
В заявлении OpenAI произошедшее названо «серьёзным нарушением доверия». При этом компания отдельно подчеркнула, что решение не связано с публичными высказываниями сотрудников, их критикой руководства или обеспокоенностью темпами развития технологий ИИ.
Позиция OpenAI стала ответом на открытое письмо, опубликованное исследователями днём ранее. В нём бывшие сотрудники призвали компанию объяснить причины увольнения и сделать внутренние процедуры, связанные с безопасностью ИИ, более прозрачными.
Авторы письма также рассказали о ситуации в социальных сетях. Они утверждают, что опасаются возможной связи между увольнением и их попытками обратить внимание на риски, возникающие при разработке всё более мощных моделей. OpenAI с такой трактовкой не согласилась.
В чём состоит спор
Ключевой вопрос конфликта - где проходит граница между защитой чувствительной информации и правом сотрудников сообщать о проблемах внутри компании. OpenAI настаивает, что применяла стандартные правила к конкретному нарушению, тогда как исследователи добиваются независимого и понятного объяснения решения.
Для OpenAI тема особенно важна: компания одновременно развивает коммерческие продукты на базе генеративного ИИ и публикует документы о контроле рисков. Любые увольнения специалистов по безопасности на фоне внутренних разногласий могут повлиять на доверие сотрудников, партнёров и пользователей.
В декабре 2023 года OpenAI представила Preparedness Framework - систему оценки опасностей, связанных с передовыми моделями. В документе рассматриваются, среди прочего, биологические и химические угрозы, кибербезопасность и потенциальная способность ИИ помогать в создании опасных инструментов. Для таких направлений компания использует оценки возможностей моделей и пороговые уровни риска, после которых должны вводиться дополнительные меры защиты.
Вместе с тем наличие формальной системы оценки не раскрывает детали кадровых расследований. Поэтому открытое письмо трёх исследователей может усилить дискуссию о том, насколько сотрудники подразделений безопасности защищены, когда публично сообщают о внутренних проблемах.
Пока OpenAI не объявила о пересмотре решения и не раскрыла, какие именно сведения стали причиной увольнения. Компания ограничилась общей ссылкой на нарушение политик работы с чувствительной информацией, а исследователи продолжают требовать более подробных разъяснений.
