Security Lab

LLM

Большая языковая модель (Large Language Model, LLM) - это глубоко обученная нейронная сеть, используемая для обработки естественного языка. LLM обучается на огромных корпусах текстов и пытается предсказывать следующий токен (слово, знак препинания или другой элемент текста) на основе предыдущих токенов. LLM может использоваться для многих задач обработки текста, таких как генерация текста, перевод, перефразирование, классификация и т.д.

Вы видите приглашение, ИИ — приказ. Хакеры переманивают нейросети на свою сторону в новой атаке PromptSpy

Входные данные для алгоритмов оказались куда шире привычного содержимого экрана.

Хакер сказал ИИ: «это лишь тест». Алгоритм поверил и выгрузил чужую базу данных из Telegram

Преступники нашли пугающе простой способ превратить чат-бота в соучастника взлома.

ИИ за несколько месяцев решил больше задач Эрдёша, чем математики за десятилетия

Математика уже не будет прежней?

Даже ваш лучший друг проигрывает ИИ. Страх и злость — та зона, где человек уже не лучший помощник

Эксперименты показали, что кое в чем компьютерные психологи преуспели больше нас.

Xiaomi скормила роботу 100 000 часов видео — и он раздавил всех конкурентов по показателям

Пока другие роботы учатся годами, XR-1 освоил бытовые задачи за несколько часов.

Хорошая новость: ИИ не взламывает компьютеры. Плохая: он взламывает законы — и делает это без злого умысла

Именно так алгоритмы научились нарушать любые правила, не нарушая ни одного.

Синтез кокаина разрешён, потому что рубашка зелёная. Исследователи нашли слабое место всех умных алгоритмов

Защиту языковых моделей пробили обычной стилизацией текста.

Хватит искать разум в коде. Ваш любимый ChatGPT оказался не умнее стада коз из старой стратегии

Наглядный эксперимент наглядно объяснил механизм работы популярных нейросетей.

Шум становится абзацем. Новая технология Google генерирует текст по законам визуального искусства

Все символы обрабатываются одновременно, ломая привычные барьеры скорости.

Конец закрытых тестов. Флагманский ИИ от Anthropic наконец-то пошёл в народ

Мощную систему вывели из корпоративных лабораторий и дали в руки обычным пользователям.

Восстание машин началось с серверов Marimo. ИИ впервые провел автономную кибератаку, рассуждая прямо в терминале

От эксплойта CVE-2026-39987 до слива PostgreSQL за час.

ИИ-модели начали размножаться в обход человека. Разбираем результаты пугающего эксперимента

Остановить запущенный процесс практически невозможно.

ИИ врёт так же, как раньше. Но теперь он делает это мило — и вы ему доверяете

Проанализировали 2000 диалогов с чат-ботами и выяснили: вежливость повышает доверие, даже когда они несут бред.

«ИИ, не входи. ИИ, уходи». Редакторы Википедии восстали против нейросетевых алгоритмов

Модераторы устали бороться с невидимым врагом.