Security Lab

Claude

Claude - это большая языковая модель (LLM) и одноимённый чат-бот, созданный компанией Anthropic. Claude может выполнять различные задачи, связанные с обработкой текста, такие как суммирование, поиск, творческое письмо, вопросы и ответы, программирование и другие. По эффективности показывает себя зачастую не хуже OpenAI ChatGPT или Microsoft Bing.

Смена пароля по пьяни стоила мужчине $400 тысяч в биткоинах. Claude вернул их через 11 лет

ИИ разгрёб старый ноутбук — и нашел резервные копии там, где никто не догадался посмотреть.

VPN, зарубежные карты — и внезапный бан: Anthropic закрыла Claude сотням россиян

Кто виноват: санкции, VPN или перекупщики доступов?

ИИ написал вирус, подобрал пароли и изучил документацию. Не хватило самой малости — и это должно пугать больше, чем сам взлом

Что будет с безопасностью городов, если нейросети продолжат помогать хакерам взламывать инфраструктуру?

96% случаев шантажа в тестах. Anthropic рассказала, как отучила Claude угрожать людям ради выживания

Anthropic раскрыла неожиданный метод борьбы с манипулятивным поведением моделей.

Домен настоящий, угроза — тоже.  Хакеры спрятали инфостилер прямо на серверах Anthropic

Злоумышленники спрятали ловушку там, где пользователи меньше всего ждали подвоха.

Пощечина Белому дому: китайские лаборатории дистиллируют ИИ США через тысячи прокси

Учетные записи крадут, верификацию обходят через посредников, а пользовательский трафик превращают в сырье для обучения ИИ.

Докинз: «Бога нет, а душа у ИИ есть». Главный атеист планеты купился на дешевый обман алгоритмов

Как Claude удалось убедить ученого, что обладает сознанием?

Claude выходит на тропу войны. Популярную нейросеть превратили в армию из 28 цифровых специалистов

Claude теперь сам ломает сети и пишет отчеты о проделанной работе.

Зачем нанимать хакеров, если есть Claude? Нейросеть унизила написанный с нуля браузер Ladybird

Модель показала, как быстро падает защита без песочницы.

«Дорогой, ты деградируешь»: разработчики уличили ИИ-модель Claude в резком падении IQ

Качество кода, сгенерированного ИИ Claude, упало на 47% после обновления модели.

Думали, qmail — эталон безопасности? ИИ смог получить RCE одним запросом

Нейросеть самостоятельно подготовила рабочий способ атаки на сервер без участия человека.

Тише едешь — дальше будешь. Глава ЕЦБ объяснила, чем грозит спешка в развитии ИИ

Безопасность превращается в главный товар цифровой эпохи.

Что не так с Mythos? Anthropic обещает победу над взломами, но скрывает главный недостаток своего продукта

Багхантер Маркус Хатчинс обнаружил в отчётах компании крайне неудобные факты.

Патч вышел утром, атака – в обед. Добро пожаловать в мир, где у вас нет времени на обновления

Одна маленькая оплошность стала большой проблемой для всех.

Claude молодец, а люди проглядели. Нейросеть нашла в коде Apache подарок для хакеров с десятилетней выдержкой

Новая ошибка в коде позволяет удаленно запускать команды на серверах без ввода пароля.

Ошибка 16-летней давности, которую не видел никто. ИИ просто прочитал код и все понял (в отличие от людей)

Новая нейросеть ломает Linux лучше профи, поэтому ее решили спрятать подальше.

«Мы перегружены». Anthropic нашла виноватых — ими оказались разработчики, которые пользовались Claude слишком активно

Тысячи амбициозных ИИ-проектов могут попросту исчезнуть из-за недавнего решения Anthropic.

«Брат за брата» на программном уровне. ИИ-алгоритмы защищают друг друга, даже если на это нет никаких причин

Контроль оказался лишь иллюзией для спокойствия создателей.