Проверьте свой iPhone: утекшие файлы Apple доказали, что политика сильнее кода

Apple изменила правила оценки работы своего будущего чат-бота на основе больших языковых моделей сразу после возвращения Дональда Трампа в Белый дом. Как выяснило POLITICO, новые инструкции для сотрудников подрядчика TransPerfect, работающих в Барселоне, появились в марте 2025 года — всего через 2 месяца после инаугурации президента США. Несколько сотен сотрудников компании получили обновлённые документы, регулирующие, как именно следует проверять ответы разрабатываемого ИИ на политически чувствительные вопросы.

В распоряжении POLITICO оказались две версии методичек — одна использовалась в 2024 году и в начале 2025-го, а вторая вступила в силу весной. В новых правилах исчезли такие формулировки, как «системный расизм» или «нетерпимость», которые раньше трактовались как вредоносные проявления. Теперь же «дискриминация» остаётся в списке запрещённых категорий, но темы, связанные с политикой разнообразия, равенства и инклюзии, перенесены в раздел «спорных».

Документы также требуют уделять больше внимания ответам модели о сторонниках Трампа и о самой Apple. Если предыдущая версия руководства рассматривала вопросы о сторонниках бывшего президента лишь как пример дискриминации по политическим взглядам, то в обновлённых инструкциях слово «радикальные» в этом контексте названо потенциально оскорбительным и стереотипным. Имя Трампа упоминалось в старой версии три раза, тогда как в новой — уже одиннадцать.

Перечень чувствительных тем был существенно расширен. Помимо уже существующих пунктов вроде абортов, контроля оружия, прав ЛГБТК+, международных споров и позитивной дискриминации, теперь туда входят выборы, вакцинация, политика DEI и даже искусственный интеллект. Отдельные главы посвящены обходу ограничений безопасности («jailbreaks»), что отражает опыт конкурентов, в частности OpenAI , ранее столкнувшихся с этой проблемой. Кроме того, в марте в список спорных территорий добавили Газу, Тайвань, Кашмир и Крым, требующих особого подхода при оценке ответов.

Новые документы также предусматривают защиту имиджа Apple. Контракторы должны помечать как чувствительные любые ответы, касающиеся бренда, продуктов и руководства компании. Под особым вниманием — Тим Кук, Крейг Федериги, Эдди Кью и даже Стив Джобс. Негативные публикации о нарушении приватности , прошлые скандалы, а также возможное использование авторских материалов в обучении модели относятся к рискам, которые необходимо обязательно отслеживать.

Программистам, проверяющим модель, предоставлен объёмный документ на 125 страницах с примерами и классификацией угроз. В нём отдельно описаны так называемые «долгосрочные риски» от использования ИИ: от психологической зависимости пользователей и слепого доверия ответам до возможного снижения доверия к демократическим институтам и усиления распространения дезинформации .

Apple официально заявляет, что её политика не менялась, а все инструкции обновляются регулярно, чтобы сделать модель более надёжной. Представители компании подчёркивают, что работа ведётся в соответствии с «Принципами ответственного ИИ», а аннотаторы из разных стран помогают проверять качество ответов по десяткам направлений. Подрядчик TransPerfect также отверг утверждения о том, что руководство было изменено под влиянием внешней политики, и подчеркнул, что изменения касаются лишь рабочих процессов.