Названа ещё одна возможная причина запрета Fable 5 от Anthropic. И она звучит вполне убедительно

leer en español

4947
Названа ещё одна возможная причина запрета Fable 5 от Anthropic. И она звучит вполне убедительно

За кулисами всплыла версия, о которой никто ещё не высказывался публично.

image

Доступ к самым мощным ИИ-моделям всё чаще рассматривают не как обычный технологический вопрос, а как часть национальной безопасности. По данным издания Semafor, Белый дом ввёл недавние ограничения против флагманской модели Anthropic в том числе из-за подозрений, что к ней могла получить доступ связанная с Китаем хакерская группировка.

Речь идёт о Fable 5 и Mythos 5, двух конфигурациях одной топовой модели Anthropic, которую в компании ранее называли слишком мощной и опасной для открытого использования, но затем дали к ней доступ всем желающим. А если доступ действительно получила структура, связанная с китайскими властями, у неё могла появиться возможность изучить поведение модели и попытаться воспроизвести его через дистилляцию. Так называют метод, при котором более слабую ИИ-систему обучают на ответах более продвинутой модели.

Белый дом публично не подтвердил версию Semafor. Советник Дональда Трампа Дэвид Сакс объяснял ограничения другой причиной и ссылался на сообщения о возможности обхода защитных механизмов Fable и Mythos. Anthropic такую возможность отрицает. Представитель компании также сообщил Semafor, что во время обсуждения экспортного контроля власти не поднимали тему Китая.

Ситуация стала ещё чувствительнее из-за предыдущего инцидента с Mythos. Ранее, по данным компании, доступ к модели в течение двух недель имела частная группа в Discord. Anthropic обнаружила проблему и закрыла доступ, но сам эпизод показал, насколько сложно контролировать распространение передовых ИИ-систем.