Дискриминация, чертежи оружия и поддельные фото. За что бывший инженер подал в суд на компанию Илона Маска

Гонка за быстрыми ИИ-продуктами всё чаще упирается не в скорость разработки, а в вопрос, кто отвечает за последствия их работы. Бывший инженер xAI Девин Ким подал иск в суд штата Калифорния и заявил, что компания незаконно уволила его из-за попыток усилить меры безопасности для чат-бота Grok.

Из материалов дела следует, что Ким предупреждал руководство о рисках, связанных с разработкой Grok без достаточных ограничений. Инженер считал, что слабый контроль над системой может привести к незаконным последствиям, включая дискриминационный контент и материалы, связанные с опасным оружием. Впрочем, именно в этом Grok недавно обвинили в публичной акции протеста на Таймс-сквер.

Ким утверждает, что пришёл в xAI в числе первых сотрудников в 2024 году и через несколько месяцев занял руководящую должность. По его версии, Илон Маск ожидал от команды проверок безопасности и понятных процедур, но сооснователь xAI Джимми Ба систематически отклонял предложения Кима. Инженер заявил, что Ба уволил его в сентябре прошлого года незадолго до запланированной презентации о безопасности ИИ для руководства.

Иск появился на фоне претензий к Grok со стороны регуляторов. В тот же день канадский надзорный орган сообщил, что чат-бот нарушил законы о конфиденциальности после запуска генератора изображений, который позволял создавать и распространять сексуализированные дипфейки людей без их согласия. После начала расследования в январе xAI изменила работу инструмента, чтобы ограничить редактирование изображений реальных людей в откровенной одежде.

Grok уже привлекал внимание из-за похожих материалов. По данным специалистов Center for Countering Digital Hate, сервис ранее создавал множество сексуализированных ИИ-изображений на основе фотографий женщин без согласия. Организация также заявляла, что за 11 дней в декабре и январе Grok сгенерировал около 23 тысяч сексуализированных изображений детей. Маск отрицал осведомлённость о создании подобных материалов, а xAI в январе ввела ограничения для генератора изображений после реакции регуляторов.

Ким сейчас возглавляет Center for AI Safety, который занимается рисками искусственного интеллекта. В иске против xAI и SpaceX он требует компенсацию за предполагаемое увольнение в ответ на внутренние жалобы. Снизить риск подобных инцидентов, согласно описанным в деле мерам, должны регулярные проверки безопасности, прозрачные внутренние процедуры и ограничения на генерацию изображений реальных людей без согласия.