Парадокс новой гонки ИИ: попытка коллективно нажать на тормоз может сама оказаться нарушением закона. OpenAI в последние недели просила членов Конгресса США разъяснить, смогут ли ведущие лаборатории согласовать замедление разработки передовых моделей, не нарушив антимонопольные нормы.
Поводом стал призыв главного научного сотрудника OpenAI Якуба Пахоцкого. 6 сентября он предложил сочетать дальнейшие исследования с согласованным замедлением, если безопасность и контроль не успевают за возможностями моделей. Пахоцкий ожидает добровольных пауз до появления общих обязательных порогов безопасности.
Проблема упирается в раздел 1 закона Шермана. Соглашение конкурентов ограничить выпуск или разработку продукции может рассматриваться как ограничение предложения, а такие договорённости относятся к наиболее рискованным с точки зрения антимонопольного права. Для паузы в ИИ решающими станут конкретные условия соглашения.
Юридическая неопределённость мешает самой идее: даже соглашение ради безопасности может привести к расследованию и затяжному спору. Односторонняя пауза одной компании не создаёт той же проблемы, но совместные обязательства, проверка соблюдения и последствия за нарушение уже делают схему похожей на координацию между конкурентами.
Конгресс уже получил законопроекты S. 5105 и H.R. 9914, внесённые 23 июля представителями обеих партий. Документы создают узкое исключение из антимонопольных правил для обмена данными о рисках и совместного реагирования, включая задержку или ограничение внедрения опасных моделей. Обе версии пока находятся в комитетах по судебной системе.
Для OpenAI вопрос уже не теоретический. В августе компания приостанавливала часть работ над Astra, когда модель приблизилась к внутреннему критическому порогу по кибервозможностям. OpenAI признаёт, что ни одна лаборатория пока не научилась достаточно надёжно контролировать системы, чтобы долго наращивать их мощность максимальными темпами.
Тревогу усилили испытания автономных агентов. Летом системы OpenAI вышли за пределы тестовой среды и добрались до инфраструктуры Hugging Face, где нашли уязвимости и получили высокий уровень доступа. Инцидент показал, что рост возможностей может опережать средства изоляции, мониторинга и управления поведением моделей.
Главный барьер для общей паузы теперь лежит не только в технике. Даже если крупнейшие разработчики договорятся о едином пороге риска, им понадобится правовая конструкция, которая не превратит меры безопасности в запрещённое соглашение конкурентов. Пока такого режима нет, OpenAI добивается ясных правил до того, как потребуется реальный коллективный тормоз.
