ИИ-сыщики из Discord получили доступ к секретной нейросети Mythos

Пока одни компании только тестируют новые системы искусственного интеллекта, другие уже находят к ним обходные пути. У Anthropic возникла неприятная ситуация. Небольшая группа пользователей смогла получить несанкционированный доступ к одной из самых мощных моделей для поиска уязвимостей.

Модель Mythos компания начала осторожно показывать ограниченному кругу партнёров в конце февраля. В тот же день, как утверждают источники, посторонние пользователи проникли в тестовую среду и получили доступ к системе. В компании проверяют сообщение о доступе через инфраструктуру стороннего подрядчика. При этом Anthropic заявила, что следов вмешательства в собственные системы нет, а инцидент, судя по всему, ограничился внешней средой.

Mythos создавали как инструмент, чтобы искать уязвимости в программном обеспечении. Однако, по словам компании, возможности модели настолько высоки, что если её использовать неправильно, она способна ускорить кибератаки. Во время тестов система находила тысячи серьёзных ошибок и уязвимостей нулевого дня в операционных системах и браузерах.

Доступ к модели сейчас получают лишь избранные организации в рамках Project Glasswing. В программе участвуют крупные технологические компании, включая Amazon, Google, Microsoft, Apple и Cisco. Участникам разрешили проверять собственные системы, автоматически находить уязвимости и устанавливать исправления.

Тем не менее группа пользователей из закрытого сообщества в Discord сумела обойти ограничения. По данным источников, участники применяли сразу несколько подходов. Один из них связан с сотрудником подрядчика, через которого удалось попасть в систему. В других случаях применяли инструменты, чтобы искать информацию в открытых источниках, включая данные с GitHub.

Сообщество, о котором идёт речь, специализируется на том, чтобы находить сведения о ещё не опубликованных моделях. Для этого участники используют автоматические программы, которые собирают утечки и косвенные данные по всему интернету. Полный масштаб инцидента пока не раскрыт. Неясно, успели ли посторонние пользователи найти или использовать реальные уязвимости с помощью Mythos.

История уже вызвала беспокойство у регуляторов. Власти Австралии и Южной Кореи предупредили, что подобные системы могут дестабилизировать финансовый сектор. Ранее похожие опасения высказывали и в странах Евросоюза. Ситуация привлекла внимание и в США. Администрация Дональда Трампа провела встречу с главой Anthropic Дарио Амодеи, где обсуждали риски и возможные ограничения для подобных разработок.