Пентагон добился крупной победы в споре с Anthropic. Апелляционный суд США разрешил военному ведомству считать разработчика Claude риском для цепочки поставок после отказа компании снять ограничения на использование ИИ в полностью автономном оружии и массовой слежке.
Коллегия Апелляционного суда округа Колумбия поддержала Пентагон двумя голосами против одного. Конфликт начался после нескольких месяцев переговоров, во время которых военные требовали разрешить применение Claude «для любых законных целей». Anthropic согласилась существенно расширить доступ, но сохранила два ограничения: модель нельзя использовать для массового наблюдения за американцами и оружия, которое самостоятельно выбирает и поражает цели без участия человека.
Большинство судей решило, что Пентагон действовал в пределах закона. По мнению суда, встроенные ограничения Claude способны помешать работе военных систем в критический момент. В материалах дела упоминаются случаи, когда модель отказывалась выполнять разрешённые государственные задачи, а отдельный спор возник вокруг применения Claude во время секретной зарубежной военной операции.
Суд также отверг аргумент Anthropic о том, что власти наказали компанию за публичную позицию по безопасности ИИ. Большинство сочло причиной конфликта не взгляды разработчика, а отказ принять необходимое Пентагону условие контракта. Один из трёх судей не согласился с таким толкованием и указал, что закон о рисках цепочки поставок не должен охватывать открыто заявленные ограничения продукта без злого умысла.
Решение не ставит точку во всех судебных спорах. В августе федеральный суд Калифорнии пришёл к противоположному выводу по параллельному делу и признал незаконными более широкие меры против Anthropic. Судья Рита Лин тогда заблокировала общегосударственный запрет на продукты компании и требование прекратить с ней любые отношения для военных подрядчиков.
Апелляционная коллегия в Вашингтоне рассматривала другое правовое основание. В опубликованном решении суда говорится, что Пентагон вправе убрать Claude из своей цепочки поставок, поскольку ведомство не обязано рисковать отказом ИИ во время боевой операции. Военные уже несколько месяцев ищут альтернативы Claude и расширяют сотрудничество с другими разработчиками.
Anthropic заявила, что не согласна с выводами коллегии и рассматривает дальнейшие варианты обжалования, включая пересмотр дела полным составом апелляционного суда. Компания утверждает, что статус риска уже привёл к потерям бизнеса на миллиарды долларов и ударил по репутации.
Полностью отказаться от технологий Anthropic американским силовым структурам оказалось непросто. В августе выяснилось, что АНБ продолжало тестировать Mythos даже на фоне попыток Пентагона вытеснить продукты компании из военной инфраструктуры.
Одновременно возможности Claude всё ближе подходят к сценарию, которого опасается сама Anthropic. Компания недавно описала операции, где человек фактически только выбирал цель, а ИИ самостоятельно проводил разведку, эксплуатацию уязвимостей и другие этапы кибератаки.
Отдельный спор развивается вокруг наблюдения. Исследования Anthropic показывают, что ИИ способен резко снизить стоимость обработки огромных массивов информации о людях и превратить государственную слежку в задачу, для которой требуется гораздо меньше аналитиков.
