ИИ добрался до корпоративной паранойи. Корпорации требуют режима «ничего не хранить»

leer en español

3562
ИИ добрался до корпоративной паранойи. Корпорации требуют режима «ничего не хранить»

Самые ценные секреты бизнеса теперь упираются не в мощность модели, а в доверие к её памяти.

image

Самые мощные ИИ-модели упёрлись в неожиданное корпоративное ограничение: крупным заказчикам стало недостаточно обещания «не обучаться на ваших данных». Palantir, Nvidia и Booz Allen Hamilton начали ограничивать доступ к передовым моделям Anthropic и требуют гарантий, что рабочие запросы и ответы после обработки вообще не будут сохраняться у поставщика ИИ.

Издание The Information выяснило, что Palantir добивается от Anthropic безотзывного режима Zero Data Retention, или ZDR, для передовых моделей. Компания не намерена предлагать Claude Fable через свою платформу клиентам, пока разработчик не закрепит такое условие договором так, чтобы гарантию нельзя было отменить позднее в одностороннем порядке.

Причиной спора стала политика Anthropic для Claude Fable. С июня компания требует по умолчанию хранить журналы работы с наиболее мощными моделями 30 дней. Anthropic объясняет срок защитой от сложных атак и злоупотреблений, которые невозможно распознать по одному запросу. При этом компания заявляет, что корпоративные данные без отдельного согласия не идут на обучение моделей.

Для корпоративных служб безопасности разница принципиальна. Отказ от обучения не означает отказ от хранения. В журнал могут попасть исходный код, внутренние документы, сведения о клиентах, уязвимости и другие материалы, доступ к которым регулируют договоры и внутренние политики. Практический разбор рабочих документов показывает, почему одного запрета на обучение недостаточно.

Nvidia пошла по более осторожному пути и оставила модели Anthropic для задач с менее чувствительными данными, включая работу с открытым кодом. Для внутренних проектов, где затрагивается закрытая информация, компания использует собственные Nemotron. Парадоксально, что одновременно Nvidia обсуждает крупные инвестиции в Anthropic перед возможным IPO разработчика.

Booz Allen Hamilton ввела ещё более узкое ограничение. Сотрудникам запретили применять коммерческую версию Claude Fable в работе с закрытым программным обеспечением для кибербезопасности. Ранее подрядчик использовал другие модели Anthropic для поиска уязвимостей, поэтому речь идёт не об отказе от ИИ вообще, а о разделении задач по чувствительности данных.

Anthropic уже меняет архитектуру под требования крупных клиентов. В сентябре компания представила Enterprise Frontier Safeguards. Система хранит журналы в облачной инфраструктуре самого заказчика, под его ключами, политиками доступа и аудитом, а автоматические механизмы Anthropic ищут признаки опасного поведения без обязательного просмотра содержимого сотрудниками компании.

До развёртывания Enterprise Frontier Safeguards подходящим корпоративным клиентам обещан временный ZDR для Fable 5 и Fable 5.1. Anthropic разработала схему совместно более чем со 100 клиентами из финансового сектора, здравоохранения, промышленности, телекома и других регулируемых отраслей. Поэтапный запуск системы должен начаться осенью 2026 года.

OpenAI столкнулась с похожим запросом рынка и в августе расширила Zero Data Retention для передовых моделей. Для подходящих клиентов API запросы и ответы после обработки не сохраняются у OpenAI, а содержимое остаётся в инфраструктуре клиента. Отдельные автоматические механизмы могут анализировать последовательность действий, не раскрывая исходные материалы сотрудникам поставщика.

На тревоге вокруг хранения данных пытается сыграть Microsoft. Компания предлагает заказчикам изолированные облачные среды и собственные ИИ-решения, рассчитывая привлечь организации, которым недостаточно стандартных обещаний поставщиков моделей. Конкуренция смещается от одних только возможностей ИИ к архитектуре доступа, хранения и контроля над корпоративной информацией.

Спор показывает новый критерий корпоративного ИИ: качество модели уже не гарантирует доступ к самым ценным данным компании. Крупные заказчики требуют контролировать место хранения, ключи шифрования, аудит и возможность человеческого просмотра. Reuters направило запросы участникам истории, однако Palantir, Nvidia, Booz Allen, Anthropic и OpenAI не ответили к моменту публикации.

Рекламодатель
Реклама. АО «Позитив Текнолоджиз». ИНН 7718668887. 18+
Сайт рекламодателя: ptsecurity.com
Реклама