Security Lab

Anthropic

Anthropic - это компания, которая разрабатывает искусственный интеллект с целью создания более устойчивого и разумного будущего. Специалисты Anthropic разрабатывают алгоритмы и модели, которые могут упростить управление такими сложными системами, как экономика, политика и т.д. Компания также работает над созданием более демократических и прозрачных систем принятия решений на основе искусственного интеллекта.

Five Eyes: ИИ-модели, способные атаковать государственные системы, появятся в течение нескольких месяцев

Новые ИИ-модели успешно создают программы для взлома компьютерных систем.

Mythos разнёс защиту АНБ изнутри. Спецслужбы испугались и потребовали закрыть доступ всему миру

Секретный эксперимент вышел из-под контроля быстрее, чем чиновники успели объяснить происходящее.

Соревновались, кто сожжёт больше токенов, — победил бухгалтер: Uber, Walmart и Amazon перешли в режим жёсткой экономии

Эйфория закончилась в тот момент, когда эксперимент превратился в графу расходов.

Белый дом требует чуда. Власти приказали сделать Claude Fable 5 абсолютно неуязвимой

Технические специалисты сочли ультиматум политиков оторванной от реальности фантазией.

США запретили самый опасный ИИ в истории — но ученые уверены: это лишь отсрочка неизбежного

Они запретили Mythos 5... но через полгода такие же возможности будут у всех моделей.

Алекс Стамос, Брюс Шнайер и создатель PGP. Звезды кибербезопасности выступили против запрета нейросетей в США

Ранее власти США заблокировали доступ к моделям Fable 5 и Mythos 5 из-за опасений перед китайскими хакерами.

Не джейлбрейк, а просьба починить код. Эксперт объяснила, почему власти США испугались Fable 5

Названа ещё одна возможная причина запрета Fable 5 от Anthropic. И она звучит вполне убедительно

За кулисами всплыла версия, о которой никто ещё не высказывался публично.

Тысячи часов проверок не помогли. Власти США заставили Anthropic отключить Fable 5

Формальным поводом для экстренного бана стала уязвимость, которая есть и у конкурентов.

Учёные создали тест из 1490 рабочих задач для ИИ. Лидеры индустрии справились только с четвертью

Автоматизация будущего внезапно споткнулась о простые повседневные задачи.

Anthropic извинилась за тайные манипуляции с ответами в новой Claude Fable 5

Модель отвечала не так, как должна была, и долго не объясняла почему.

«Самолёты проходят проверку, а ИИ — нет». Глава Anthropic хочет это исправить, пока не взлетели опасные модели

Дарио Амодеи призвал ввести обязательную сертификацию передовых ИИ-моделей перед выпуском.

Часы вместо недель. Как ИИ Anthropic научился превращать свежий патч в рабочий эксплоит почти мгновенно

Модель Anthropic собрала восемь цепочек повышения привилегий в Windows.

Конец закрытых тестов. Флагманский ИИ от Anthropic наконец-то пошёл в народ

Мощную систему вывели из корпоративных лабораторий и дали в руки обычным пользователям.

Anthropic выходит на биржу. OpenAI объявляет «перестройку» — и это не совпадение

ChatGPT спешно превращают в «суперапп» с агентами и партнёрами. А там и самим можно на IPO.

Anthropic создаёт самый мощный ИИ в мире — и первой требует его остановить

Алгоритмы могут начать улучшать себя сами. И лучше бы нам нажать на тормоз — пока не поздно.

От подозрений к реальным цифрам. Anthropic завела «цифровое досье» на всех пользователей Claude

Каждое действие теперь оставляет след в системе и оценивается по шкале риска.

Самую закрытую модель Anthropic дали разведке. АНБ планирует кибероперации с помощью Claude Mythos

«Лучшая защита строится через хорошую атаку».

Anthropic зовёт мир притормозить ИИ — за неделю до подготовки к IPO на триллион

Зачем один из лидеров рынка призывает остановить алгоритмы.