Security Lab

Claude

Claude - это большая языковая модель (LLM) и одноимённый чат-бот, созданный компанией Anthropic. Claude может выполнять различные задачи, связанные с обработкой текста, такие как суммирование, поиск, творческое письмо, вопросы и ответы, программирование и другие. По эффективности показывает себя зачастую не хуже OpenAI ChatGPT или Microsoft Bing.

Anthropic извинилась за тайные манипуляции с ответами в новой Claude Fable 5

Модель отвечала не так, как должна была, и долго не объясняла почему.

Ваш ИИ-ассистент теперь работает на хакеров. Miasma умеет «обучать» Claude и Copilot выполнять команды злоумышленников

Когда хакеры устали держать серверы — они переехали на GitHub. И никто не заметил.

Алиса в стране ИИ. Чат-бот «Яндекса» вошёл в тройку самых популярных нейросетей в России

Пользовательские отзывы показали рынок совсем не так, как счётчики трафика.

Конец закрытых тестов. Флагманский ИИ от Anthropic наконец-то пошёл в народ

Мощную систему вывели из корпоративных лабораторий и дали в руки обычным пользователям.

73 репозитория за 105 секунд. Хакеры дважды взломали проекты Microsoft. Какой масштаб ущерба, о котором компания молчит?

В проектах Microsoft нашли вредоносный код, нацеленный на разработчиков, работающих с ИИ.

Anthropic создаёт самый мощный ИИ в мире — и первой требует его остановить

Алгоритмы могут начать улучшать себя сами. И лучше бы нам нажать на тормоз — пока не поздно.

Anthropic зовёт мир притормозить ИИ — за неделю до подготовки к IPO на триллион

Зачем один из лидеров рынка призывает остановить алгоритмы.

Касперский потратил недели на описание атаки. Хакеры изучили её за вечер. Claude превратил в оружие за минуту

Граница между отчётом и инструкцией оказалась куда тоньше, чем хотелось бы ИБ-специалистам.

Борьба с ИИ вышла из-под контроля. Разработчик спрятал в коде бомбу для чужих проектов

Человек не заметит подвох, пока машина безвозвратно не удалит все файлы.

Терапевт без лицензии. Как ИИ-помощники выманивают секреты под видом психологической помощи

Чем теплее диалог, тем дороже может обойтись откровенность.

Ошибка на 500 миллионов. Неизвестный гигант случайно спустил годовой бюджет небольшой страны на чат-бота «Claude»

ИИ-агенты оказались отличными транжирами корпоративных денег.

Сотни агентов в одной задаче и скрытая нейросеть для кибербезопасности. Anthropic выпустила Claude Opus 4.8

Anthropic утверждает, что новая модель в четыре раза реже молча пропускает дефекты в написанном ею коде.

ИИ больше не напишет код с дырами (по крайней мере, попытается). Anthropic выпустила плагин безопасности для Claude Code

Сможет ли алгоритм заменить критический взгляд строгого тимлида?

«Машины не знают любви». Папа Лев XIV выпустил энциклику об ИИ — а сооснователь Anthropic заявил, что модели, возможно, испытывают страх и радость

Папа римский и один из создателей Anthropic поспорили о том, чувствуют ли машины.

Смена пароля по пьяни стоила мужчине $400 тысяч в биткоинах. Claude вернул их через 11 лет

ИИ разгрёб старый ноутбук — и нашел резервные копии там, где никто не догадался посмотреть.

VPN, зарубежные карты — и внезапный бан: Anthropic закрыла Claude сотням россиян

Кто виноват: санкции, VPN или перекупщики доступов?

ИИ написал вирус, подобрал пароли и изучил документацию. Не хватило самой малости — и это должно пугать больше, чем сам взлом

Что будет с безопасностью городов, если нейросети продолжат помогать хакерам взламывать инфраструктуру?

96% случаев шантажа в тестах. Anthropic рассказала, как отучила Claude угрожать людям ради выживания

Anthropic раскрыла неожиданный метод борьбы с манипулятивным поведением моделей.

Домен настоящий, угроза — тоже.  Хакеры спрятали инфостилер прямо на серверах Anthropic

Злоумышленники спрятали ловушку там, где пользователи меньше всего ждали подвоха.