Security Lab

LLM

Большая языковая модель (Large Language Model, LLM) - это глубоко обученная нейронная сеть, используемая для обработки естественного языка. LLM обучается на огромных корпусах текстов и пытается предсказывать следующий токен (слово, знак препинания или другой элемент текста) на основе предыдущих токенов. LLM может использоваться для многих задач обработки текста, таких как генерация текста, перевод, перефразирование, классификация и т.д.

ИИ вошёл, нашёл уязвимость и добрался до счетов. Испания расследует новый тип атаки

Агенту уже не понадобился человек для каждого следующего шага.

Вшивайте мораль в код или готовьтесь к бойне. ИИ давит животных ради выгоды

Пара единиц топлива оказалась способна перевесить ценность жизни в решениях автономных моделей.

Маленький ИИ говорит «безопасно», большой видит команду. Check Point раскрыла технику PuzzleMask

Один и тот же текст оказался безобидным для фильтра и понятной инструкцией для мощной модели.

Новый Linux-ботнет ToxNetV2 доверил управление сервером языковой модели

ToxNetV2 собирает P2P-сеть и позволяет LLM влиять на действия управляющего сервера.

Вы видите приглашение, ИИ — приказ. Хакеры переманивают нейросети на свою сторону в новой атаке PromptSpy

Входные данные для алгоритмов оказались куда шире привычного содержимого экрана.

Хакер обошел ограничения ИИ и выгрузил базу Telegram Mini App

Преступники нашли пугающе простой способ превратить чат-бота в соучастника взлома.

ИИ за несколько месяцев решил больше задач Эрдёша, чем математики за десятилетия

Математика уже не будет прежней?

Даже ваш лучший друг проигрывает ИИ. Страх и злость — та зона, где человек уже не лучший помощник

Эксперименты показали, что кое в чем компьютерные психологи преуспели больше нас.

Xiaomi скормила роботу 100 000 часов видео — и он раздавил всех конкурентов по показателям

Пока другие роботы учатся годами, XR-1 освоил бытовые задачи за несколько часов.

Хорошая новость: ИИ не взламывает компьютеры. Плохая: он взламывает законы — и делает это без злого умысла

Именно так алгоритмы научились нарушать любые правила, не нарушая ни одного.

Синтез кокаина разрешён, потому что рубашка зелёная. Исследователи нашли слабое место всех умных алгоритмов

Защиту языковых моделей пробили обычной стилизацией текста.

Хватит искать разум в коде. Ваш любимый ChatGPT оказался не умнее стада коз из старой стратегии

Наглядный эксперимент наглядно объяснил механизм работы популярных нейросетей.

Шум становится абзацем. Новая технология Google генерирует текст по законам визуального искусства

Все символы обрабатываются одновременно, ломая привычные барьеры скорости.

Конец закрытых тестов. Флагманский ИИ от Anthropic наконец-то пошёл в народ

Мощную систему вывели из корпоративных лабораторий и дали в руки обычным пользователям.