Microsoft согласовала 10 принципов безопасности и конфиденциальности ИИ в школах с Американской федерацией учителей (AFT) и ее нью-йоркским подразделением United Federation of Teachers (UFT). Школьные округа, которые примут эти условия, смогут закреплять их в договорах с компанией.
Договоренность появилась примерно через неделю после того, как две крупные американские школьные системы объявили об ограничениях или запрете на использование ИИ-инструментов, ориентированных непосредственно на учащихся. Для школ это стало сигналом, что внедрение чат-ботов и генеративных сервисов требует не только методических рекомендаций, но и формальных гарантий защиты данных.
Одно из ключевых обязательств Microsoft - не использовать сведения об учениках и педагогах для обучения моделей искусственного интеллекта. Речь идет о данных, которые могут появляться при работе с образовательными продуктами компании, включая запросы пользователей, загруженные материалы и информацию о взаимодействии с сервисом.
Отдельный пункт касается минимизации сбора. Microsoft обещает ограничить объем данных, который получает от школьников, учителей и образовательных организаций в первую очередь. Такой подход должен снизить риски утечек и исключить накопление сведений, не связанных напрямую с учебными задачами.
Что изменится для учеников и родителей
Компания также обязалась объяснять семьям, как работают ИИ-инструменты в школе и какие данные они используют. Информация должна предоставляться понятным языком, без необходимости разбираться в сложной технической документации или юридических формулировках. Это особенно важно для родителей, чьи дети взаимодействуют с ИИ без самостоятельного выбора платформы.
Принципы AFT и UFT могут стать договорными требованиями для конкретного школьного округа. В таком случае их соблюдение будет связано не только с публичными обещаниями Microsoft, но и с условиями соглашения между поставщиком технологий и образовательной организацией.
Для американских школ новые правила дополняют уже действующие требования FERPA, регулирующие защиту образовательных записей, и COPPA, предусматривающий родительское согласие на сбор персональных данных детей младше 13 лет в интернете. Эти нормы не запрещают ИИ сами по себе, но требуют контролировать доступ к информации и заранее объяснять цели ее обработки.
Для российских школ американская инициатива представляет интерес как пример договорного регулирования ИИ. При внедрении аналогичных сервисов в РФ образовательным организациям дополнительно придется учитывать требования закона №152-ФЗ «О персональных данных», включая правила получения согласий и обработки данных российских граждан. При этом американские принципы сами по себе не заменяют российские юридические процедуры.
Microsoft не раскрыла полный текст всех десяти пунктов в представленном описании. Однако уже обозначенные условия показывают смену подхода: поставщик образовательного ИИ должен отвечать не только за функциональность продукта, но и за границы сбора данных, прозрачность алгоритмов и запрет вторичного использования информации учеников.
