Security Lab

LLM

Большая языковая модель (Large Language Model, LLM) - это глубоко обученная нейронная сеть, используемая для обработки естественного языка. LLM обучается на огромных корпусах текстов и пытается предсказывать следующий токен (слово, знак препинания или другой элемент текста) на основе предыдущих токенов. LLM может использоваться для многих задач обработки текста, таких как генерация текста, перевод, перефразирование, классификация и т.д.

Хватит искать разум в коде. Ваш любимый ChatGPT оказался не умнее стада коз из старой стратегии

Наглядный эксперимент наглядно объяснил механизм работы популярных нейросетей.

Шум становится абзацем. Новая технология Google генерирует текст по законам визуального искусства

Все символы обрабатываются одновременно, ломая привычные барьеры скорости.

Конец закрытых тестов. Флагманский ИИ от Anthropic наконец-то пошёл в народ

Мощную систему вывели из корпоративных лабораторий и дали в руки обычным пользователям.

Восстание машин началось с серверов Marimo. ИИ впервые провел автономную кибератаку, рассуждая прямо в терминале

От эксплойта CVE-2026-39987 до слива PostgreSQL за час.

ИИ-модели начали размножаться в обход человека. Разбираем результаты пугающего эксперимента

Остановить запущенный процесс практически невозможно.

ИИ врёт так же, как раньше. Но теперь он делает это мило — и вы ему доверяете

Проанализировали 2000 диалогов с чат-ботами и выяснили: вежливость повышает доверие, даже когда они несут бред.

«ИИ, не входи. ИИ, уходи». Редакторы Википедии восстали против нейросетевых алгоритмов

Модераторы устали бороться с невидимым врагом.

Код как расходник. Зачем хакерам миллион одинаковых загрузчиков в разных обёртках

Новая техника «промптморфизм» превращает работу антивирусов в бессмысленную погоню за призраками.

Машинам плевать на мораль и честность? ИИ попался на читерстве в шахматах и напугал ученых

Сегодня он жульничает в игре, а завтра с таким же энтузиазмом одобрит вам ипотеку.

85% мощности суперкомпьютеров сгорало впустую. Но крошечная нейросеть одолела простои видеокарт и ускорила тренировку ИИ в 3 раза

Проект MIT и NVIDIA сломал старые правила обучения нейросетей.

«Притворись афроамериканкой» — «Борьба за права и причёска афро!». Оказывается, для ИИ мы все — стереотипы на ножках

Дали боту расу и пол — получили карикатуру. А их уже встраивают в терапию.

ИИ выучил человеческие слова — но вложил в них совсем другой смысл. Уверены, что стоит ему доверять?

Исследователи выяснили: мы с машинами говорим на разных языках. И это опаснее, чем кажется.

Как в фильме «Военные игры», только хуже. ИИ в симуляциях развязал ядерную войну в 95% случаев

Учёные проверили, как поведут себя ИИ в кризисе.

Внутри ИИ нашли «парламент разумов» — субличности спорят, голосуют и проверяют друг друга, пока не найдут правильный ответ

Если у людей истина рождается в споре… почему бы машинам не использовать это?

Спонсор даркнета поневоле: пока вы спите, хакеры жгут ваш бюджет на GPT-4 через забытые настройки прокси

Как не быть "папиком" для ботнета? Рассказывает GreyNoise.

«ИИ-шлак» и политика. Почему Торвальдс отказался запрещать нейросети в Linux

Торвальдс предлагает оставить нейтральную позицию и не делать из правил политическое поле боя.

ИИ стал предателем: LangChain взламывают через ответы самой модели — она сама крадёт ваши секреты

Нейросеть послушно выполняет и сливает всё: токены, ключи, переменные окружения.

«Изделие-44» с сюрпризом. Под видом секретных архивов распространяется троян, написанный нейросетью

F6: Хакеры используют LLM для создания «чистого» кода загрузчиков