Удалить X из App Store: Коалиция из 28 организаций выдвинула ультиматум Тиму Куку

Коалиция из 28 организаций по защите цифровых прав во главе с UltraViolet направила письма главам Apple и Google — Тиму Куку и Сундару Пичаи — с требованием удалить приложения X и ИИ-чатбот Grok из магазинов приложений.

Кампания под названием «Get Grok Gone» обвиняет обе компании в получении прибыли от распространения интимных изображений без согласия (NCII) и материалов сексуального насилия над детьми (CSAM), генерируемых с помощью Grok на платформе X Илона Маска. По мнению правозащитников, размещение этих приложений нарушает собственные правила Apple и Google, запрещающие содействие распространению оскорбительного контента или извлечение из него прибыли.

«В нынешнем виде Apple не просто способствует распространению NCII и CSAM, но и зарабатывает на этом, — говорится в открытом письме Куку. — Как коалиция организаций, приверженных онлайн-безопасности и благополучию всех людей — особенно женщин и детей — а также этичному применению искусственного интеллекта, мы требуем, чтобы руководство Apple срочно удалило Grok и X из App Store для предотвращения дальнейших злоупотреблений и преступной деятельности».

Требование поступило на фоне усиливающегося регуляторного давления. Британский регулятор Ofcom заявил, что продолжит формальное расследование в отношении X, несмотря на недавние попытки платформы Маска исправить ситуацию. Расследование, открытое в рамках британского закона об онлайн-безопасности (Online Safety Act), изучает, нарушило ли использование Grok для создания и распространения интимных и потенциально незаконных изображений юридические обязательства X по защите пользователей в Великобритании.

Скандал разгорелся в начале января, когда выяснилось, что Grok — чатбот xAI, интегрированный в X — можно было заставить создавать откровенно сексуальные редакции изображений реальных людей по загруженным фотографиям. Как только информация распространилась, функция стала массово использоваться не по назначению: исследователи и журналисты зафиксировали поток сексуализированного контента, часть которого, по всей видимости, изображала несовершеннолетних.

Первой реакцией X стало ограничение доступа к функциям редактирования изображений Grok только для платных подписчиков. Позже платформа ужесточила контроль: ввела геоблокировку определённых манипуляций с изображениями в странах, где они незаконны, и заявила, что Grok больше не будет создавать сексуализированные редакции реальных людей.

Однако для авторов писем «Get Grok Gone» этих мер недостаточно. Они утверждают, что Apple и Google по-прежнему фактически способствуют распространению вредоносного контента, размещая приложения, которые это позволяют. По мнению правозащитников, это ставит обе компании в шаткое положение относительно их собственных правил магазинов приложений, запрещающих программы, способствующие преступной деятельности или распространению материалов сексуальной эксплуатации.

Ответят ли Купертино и Маунтин-Вью на эти требования — пока неизвестно, но кампания усиливает давление в и без того запутанной дискуссии о безопасности ИИ, свободе слова и границах ответственности платформ.