Школьные сочинения, оценки, запросы к чат-ботам и даже поведенческие данные учеников не должны превращаться в сырье для обучения нейросетей. Microsoft подписала соглашение с Американской федерацией учителей (AFT) и нью-йоркской Объединенной федерацией учителей (UFT), которое вводит обязательные правила безопасности и конфиденциальности для образовательных ИИ-сервисов.
Документ получил название National AI Safety & Privacy Standard, или Национальный стандарт безопасности и конфиденциальности ИИ для школ. Полные правила занимают 31 страницу и включают десять обязательных принципов. Школьные округа США смогут включать соответствующие условия в договоры с Microsoft. После включения требования перестают быть добровольными обещаниями: при существенном нарушении округ сможет расторгнуть контракт и добиваться компенсации или других предусмотренных договором мер.
Главное ограничение касается обучения моделей. Microsoft запрещено использовать данные учеников, педагогов и школьных администраторов для обучения, дообучения, обновления, тестирования или иного улучшения ИИ. Под защиту попадают не только имена, идентификаторы, оценки и дисциплинарные записи, но и запросы к нейросети, ответы ИИ, загруженные файлы, сведения об устройстве, местоположение, аудио, видео, метаданные, сохраненная память и информация о поведении пользователя.
Запрет распространяется даже на обезличенные, агрегированные и преобразованные наборы, полученные из школьных данных. Microsoft также не сможет использовать подобную информацию как основу для создания синтетических обучающих выборок. Ограничение продолжит действовать после окончания договора. Узкое исключение оставили для функций безопасности, которым может потребоваться минимальный объем данных для выявления угроз, травли, насилия, груминга, попыток причинения вреда себе, уязвимостей или несанкционированного доступа. Использовать сведения из подобных проверок для общего улучшения генеративных моделей нельзя.
Правила затрагивают и сбор информации внутри школьных сервисов. Без отдельного разрешения запрещены постоянное отслеживание местоположения, запись нажатий клавиш, скрытый контроль внимания, долговременное профилирование и сбор биометрии, включая распознавание лиц, голосовые отпечатки, отслеживание взгляда и определение эмоций. Школам должны предоставить управление памятью и персонализацией, а ученики и родители получат возможность просматривать и удалять сохраненную информацию. После запроса на удаление данные должны исчезнуть из активных систем и резервных копий не позднее чем через 180 дней, кроме случаев, когда хранение требует закон.
Отдельный блок посвящен решениям, которые ИИ принимает вместо человека. Системам нельзя самостоятельно выставлять итоговые оценки, принимать дисциплинарные решения, распределять учеников по образовательным программам или проводить психологическую оценку без содержательной проверки человеком. Microsoft также обязалась не предлагать школьникам ИИ-компаньонов, специально созданных для формирования эмоциональной привязанности, имитации дружбы или стимулирования раскрытия чувствительной информации.
Требования к кибербезопасности включают шифрование данных при хранении и передаче, разграничение доступа по ролям, принцип минимальных привилегий, обязательную многофакторную аутентификацию для сотрудников с доступом к защищаемой информации и ежегодный независимый пентест. Microsoft также должна поддерживать программу приема сообщений об уязвимостях и уведомлять образовательную организацию о подтвержденной или обоснованно предполагаемой утечке не позднее чем через 72 часа после обнаружения.
Обещание Microsoft имеет важное ограничение по охвату. Стандарт не распространяется автоматически на любой продукт компании, которым пользуется школа. Документ касается ИИ-сервисов, созданных и продвигаемых прежде всего для учеников, преподавателей и школьных администраторов и предоставляемых по договору с образовательной организацией. Универсальные офисные, коммуникационные, поисковые, облачные и разработческие продукты не попадают под определение образовательного ИИ только из-за использования в учебном заведении. Школьному округу также необходимо самостоятельно запросить включение новых гарантий в договор. Microsoft обязалась сделать подобную возможность доступной в течение 90 дней после вступления соглашения в силу.
Новые ограничения появились в момент, когда крупнейшие школьные системы США пересматривают отношение к генеративному ИИ. Государственные школы Нью-Йорка на 2026/27 учебный год ввели мораторий на ученические генеративные ИИ-сервисы до восьмого класса включительно. Старшеклассникам разрешат работать только с проверенными программами в ограниченных учебных целях, а курс по основам ИИ должен отдельно объяснять вопросы конфиденциальности и предвзятости алгоритмов.
При этом AFT не выступает за полный отказ от искусственного интеллекта в образовании. В 2025 году профсоюз вместе с Microsoft, OpenAI и Anthropic запустил национальную академию подготовки педагогов стоимостью $23 млн. За пять лет программа рассчитывает обучить 400 тыс. преподавателей, которые работают более чем с 7,2 млн учеников. Новое соглашение дополняет обучение учителей юридическими ограничениями для самих технологических компаний: школьные данные должны оставаться частью учебного процесса, а не превращаться в материал для развития следующего поколения ИИ.
