Публично — пацифизм, приватно — Gemini для войны. Жалоба в SEC вскрыла двойные стандарты Google

Бывший сотрудник Google подал конфиденциальную жалобу американскому регулятору по рынку ценных бумаг и сообщил, что в 2024 году компания помогла подрядчику израильских военных с разбором видеозаписей с беспилотников. По его версии, такие действия расходились с внутренними запретами на использование искусственного интеллекта для военных задач и систем наблюдения. Материалы обращения изучила The Washington Post. В документах говорится, что для обработки роликов применялась модель Gemini, хотя на фоне протестов сотрудников корпорация публично подчеркивала дистанцию от военного сотрудничества с израильской стороной.

К заявлению приложена служебная переписка облачного подразделения за лето 2024 года. В ней фигурирует запрос в техподдержку от пользователя с адресом Армии обороны Израиля. Имя отправителя совпадает с сотрудником израильской ИТ-компании CloudEx, которую автор обращения называет военным подрядчиком. В письме просили повысить точность распознавания объектов на видео с воздуха, среди них дроны, бронемашины и люди в форме. Специалисты облачного сервиса ответили рекомендациями и провели внутреннюю проверку настроек, следует из переписки.

На тот момент действовали опубликованные принципы Google по ИИ, где был прописан отказ от применения таких технологий для оружия и слежки, нарушающей международные нормы. Автор жалобы считает, что описанный эпизод этим правилам не соответствует. В тексте обращения также сказано, что расхождение между публичными заявлениями и практикой могло вводить в заблуждение инвесторов и надзорные органы, так как те же ограничения упоминались в официальной отчетности.

В Google с этими выводами не согласились. Представитель компании заявил, что нарушения не было, поскольку активность спорного аккаунта слишком мала для серьезного использования ИИ-инструментов. По его словам, поддержка дала стандартный ответ на общий вопрос и не подключалась к дополнительной настройке. Также он отметил, что сервис открыт для широкого круга клиентов. В комментарии указано, что ежемесячные траты аккаунта на ИИ составляли менее нескольких сотен долларов, а при таком уровне расходов заметная нагрузка на систему невозможна. В описании Google Cloud Video Intelligence сказано, что первые 1000 минут анализа видео бесплатны, далее действует тариф 0,15 доллара за минуту.

Комиссия по ценным бумагам и биржам США обсуждать конкретное обращение не стала. Ведомство принимает такие сигналы от любых заявителей, не публикует их автоматически и не обязано запускать проверку по каждому случаю. Представители Армии обороны Израиля и CloudEx на запросы журналистов не ответили. По открытым данным, CloudEx входила в число спонсоров конференции «IT for IDF» рядом с Тель Авивом, где военные чиновники говорили о роли облачных платформ в операциях в Газе.

В тексте жалобы говорится, что работа Gemini в этом эпизоде была связана с действиями израильских сил в Газе, но конкретные доказательства не приводятся. Ранее Google заявляла, что ее контракты с израильским правительством не затрагивают особо чувствительные и секретные задачи, связанные с вооружением и разведкой.

Запрет на применение ИИ в военных и наблюдательных задачах Google ввела в 2018 году после протестов сотрудников против контракта Пентагона на анализ видео с дронов. Тогда соглашение решили не продлевать. В 2021 году Google и Amazon получили совместный облачный контракт с израильским правительством на 1,2 млрд долларов под названием Project Nimbus. Microsoft также поставляет облачные сервисы государственным структурам Израиля. Работники всех 3 компаний проводили акции против такого сотрудничества. Весной 2024 года Google уволила более 50 человек после офисных сидячих протестов с требованием прекратить работу с израильскими ведомствами. Microsoft тоже сообщала об увольнениях после выступлений сотрудников на кампусе возле Сиэтла.

В феврале прошлого года Google переписала правила по ИИ и убрала прямой запрет на использование технологий для оружия и наблюдения. Руководство объяснило это необходимостью помогать демократически избранным правительствам в мировой конкуренции за развитие ИИ. В декабре Пентагон сообщил, что Gemini стала первой моделью искусственного интеллекта, которую подключили к платформе GenAI.mil для сотрудников министерства обороны США.

Нынешнее обращение дополняет серию публикаций о том, как крупные американские техкомпании участвуют в проектах для израильских военных структур на фоне войны в Газе. Израильская сторона заявляла, что при атаке ХАМАС 7 октября 2023 года погибли около 1200 человек, в основном мирные жители. Министерство здравоохранения Газы сообщает о более чем 71 000 погибших палестинцах без разделения на гражданских и комбатантов. СМИ также писали, что сотрудники Google вскоре после атаки ускоряли расширение доступа израильского военного ведомства к ИИ-инструментам, опасаясь перехода заказчика к Amazon. Microsoft в 2024 году проводила внутреннюю проверку после сообщений о хранении в ее облаке данных массового телефонного наблюдения в Газе и на Западном берегу. Позже компания заявила, что закрыла одному из подразделений израильского минобороны доступ к части сервисов по правилам, которые запрещают массовую слежку за гражданскими.