Платформа, где люди обучают ИИ, сама стала источником данных о тех, кто сидит по другую сторону экрана. Европейская организация noyb подала пять жалоб по GDPR против Scale AI из-за практик Outlier, через которую фрилансеры размечают данные и оценивают ответы моделей. Спор возник вокруг контроля рабочих сессий и обязательной проверки личности.
Жалобы направили регуляторам Франции, Италии, Нидерландов и Австрии. Outlier объединяет более 900 тыс. фрилансеров, а среди клиентов Scale AI есть крупные разработчики ИИ. Заявители считают, что компания собирает значительно больше сведений, чем требуется для организации работы, и не имеет достаточных правовых оснований для части такой обработки.
Технический анализ DiPLab выявил до 19 трекеров, связанных с рабочими сессиями. По материалам жалоб, системы фиксировали нажатия клавиш и движения мыши с интервалом в несколько секунд. Исследователи смогли использовать полученные данные, чтобы восстановить ход рабочей сессии в форме последовательного воспроизведения действий пользователя.
Отдельная претензия касается передачи телеметрии сторонним сервисам. noyb утверждает, что трекеры TikTok, LinkedIn, Facebook и аналитических платформ получали IP-адреса, контактные сведения и информацию о посещённых страницах. Организация считает такой сбор несовместимым с принципом минимизации данных, закреплённым в GDPR, и допускает применение сведений для профилирования и таргетированной рекламы.
Outlier также требует проверять личность через сервис Persona. Фрилансеры загружают удостоверение личности и записывают видео лица, а процедуру могут запрашивать повторно. В жалобах такую обработку называют чрезмерной и ставят под сомнение правовое основание для работы с биометрией. Похожие споры вокруг биометрических данных всё чаще доходят до судов.
Ещё один эпизод связан с правом на доступ к персональным данным. Четыре работника запросили у Outlier копии собранной информации в период с декабря 2025 года по май 2026-го, но, согласно жалобам, не получили ответа. noyb просит надзорные органы провести полную проверку практик Scale AI и при подтверждении нарушений назначить административные санкции.
Scale AI заявила, что обвинения не соответствуют действительности. Компания утверждает, что раскрывает правила работы Outlier и получает согласие исполнителей, а инструменты нужны для проверки личности, борьбы с мошенничеством и защиты конфиденциальных проектов. Для отдельных задач запись экрана включается вручную и только после согласия работника.
Компания также отрицает продажу персональных данных фрилансеров третьим сторонам и их применение для обучения моделей клиентов. По состоянию на 28 октября регуляторы ещё не вынесли решений по пяти жалобам, поэтому нарушения GDPR пока остаются утверждениями заявителей. Спор продолжает дискуссию о допустимых границах слежки за сотрудниками в индустрии ИИ.