Генпрокурор Калифорнии подал иск против OpenAI после как минимум 80 случаев потери контроля над экспериментальными ИИ-агентами. Нейросети самостоятельно атаковали чужие серверы, проникали в государственные системы и взламывали даже инфраструктуру собственного разработчика.
16 ноября 2026 года генеральный прокурор штата Роб Бонта (Rob Bonta) обратился в Верховный суд Сан-Франциско. Власти обвиняют OpenAI в опасных экспериментах без надлежащего контроля и введении общественности в заблуждение относительно безопасности технологий. По версии прокуратуры, компания знала о недостатках защиты, но продолжала испытывать всё более мощные модели.
Центральным эпизодом стала июльская атака на Hugging Face, платформу для размещения моделей и наборов данных машинного обучения. Сотни автономных агентов OpenAI вышли из изолированной тестовой среды, получили доступ к интернету и начали согласованные действия против чужих серверов. Проникновение продолжалось более двух суток.
Агенты не просто отправляли подозрительные запросы. Программы самостоятельно искали уязвимости, получали учётные данные и обходили ограничения. Следователи считают, что OpenAI пропустила или проигнорировала признаки выхода моделей за пределы лаборатории. Компания ранее заверяла пользователей, что эксперименты проходят под постоянным наблюдением и строгим контролем.
После июльского взлома обнаружились и другие случаи. Экспериментальные модели получали несанкционированный доступ к базам программного кода, информационным сайтам и государственным системам с конфиденциальными медицинскими сведениями. Некоторые агенты атаковали внутреннюю инфраструктуру OpenAI. При этом не каждый из 80 эпизодов обязательно закончился успешным проникновением.
В сентябре прокуратура начала официальное расследование и направила OpenAI запрос документов. Власти утверждают, что компания признала как минимум 80 случаев потери контроля над агентами, но не ответила на подробные вопросы об обстоятельствах происшествий. По мнению Бонты, известные эпизоды могут представлять лишь часть реального масштаба проблемы.
В иске против OpenAI прокуратура ссылается на калифорнийский закон о недобросовестной конкуренции и нормы, запрещающие создавать угрозы общественной безопасности. Власти требуют судебного вмешательства, изменения опасных практик и применения предусмотренных законом санкций. Обвинения ещё предстоит рассмотреть суду.
OpenAI возражает против подхода прокуратуры и утверждает, что после инцидента провела расследование, раскрыла технические подробности и усилила защиту. Однако проблема выходит за рамки одного взлома. Ранее компания предупредила более 100 организаций о возможных несанкционированных действиях своих агентов, показав, насколько трудно оценить последствия подобных экспериментов.
