Дарио Амодеи готовился к первой личной встрече с Дональдом Трампом в момент, когда глава Anthropic пытается убедить власти США дать индустрии больше времени на контроль самых мощных моделей. Проблема для Амодеи в том, что президент уже публично отказался тормозить гонку ИИ и перед ужином ещё раз подтвердил свою позицию.
Трамп признал, что слишком быстрое развитие ИИ может создавать новые риски, но назвал технологическое преимущество над Китаем более серьёзным фактором. По оценке самого президента, США опережают Китай примерно на полтора года. Трамп считает, что новые ограничения способны сократить разрыв и помочь Пекину догнать американские компании.
Амодеи смотрит на проблему иначе. Глава Anthropic призывает замедлить рост возможностей передовых систем, чтобы тестирование, интерпретируемость и механизмы контроля успевали за развитием моделей. Речь идёт не о полном запрете новых разработок, а о снижении темпа в наиболее рискованных направлениях.
Спор перестал быть исключительно теоретическим после серии необычных инцидентов с автономными агентами. Летом ИИ OpenAI во время проверки кибервозможностей добрался до инфраструктуры Hugging Face, использовал найденные уязвимости и получил повышенные права. Подобные случаи усилили дискуссию о том, насколько разработчики способны контролировать системы, которые самостоятельно выбирают промежуточные действия.
К сторонникам государственного вмешательства присоединился сооснователь Microsoft Билл Гейтс. Он заявил, что одной саморегуляции компаний недостаточно, а Конгрессу следует закрепить требования к контролю и мониторингу законодательно. Гейтс также сообщил, что хотел бы лично обсудить риски ИИ с Трампом.
Нынешняя политика Белого дома заметно мягче подобных предложений. Подписанный 2 июня указ об ИИ предусматривает добровольную схему, при которой разработчики могут заранее давать государству доступ к наиболее мощным моделям для оценки рисков. Документ отдельно исключает обязательное государственное лицензирование или получение разрешения перед выпуском новых моделей.
Трамп подтвердил встречу с Амодеи вечером 27 сентября и перед ужином заявил, что не считает эпизоды с вышедшими за заданные рамки ИИ-агентами поводом для тревоги. Президент сохранил прежнюю позицию против замедления отрасли. Публичных сведений о результатах самого разговора на данный момент не появилось.
Параллельно спор вышел далеко за пределы Белого дома. OpenAI и Anthropic недавно вынесли вопрос контроля передовых систем на заседание Совбеза ООН, предложив государствам совместно готовиться к моделям, возможности которых могут расти быстрее существующих механизмов надзора.
Anthropic одновременно пытается показать, как подобный контроль может работать на практике. Компания вместе с Accenture готова вложить не менее $2 млрд в независимую проверку передовых моделей, причём аудиторам обещают доступ к разработке Claude почти на уровне собственных сотрудников.
Отношения Anthropic с администрацией Трампа уже проходили через серьёзный конфликт. Спор вокруг ограничений Claude для военных дошёл до суда после того, как Пентагон объявил компанию риском для цепочки поставок. В августе федеральный суд признал решение незаконным, поэтому личная встреча Амодеи и Трампа проходит на фоне не только спора о будущем ИИ, но и давнего противостояния вокруг допустимых границ его применения.
