Security Lab

Prompt Injection

1627
Prompt Injection
Уязвимость типа Prompt Injection заключается в манипуляции входными данными так, чтобы заставить систему (например, ИИ-модель или чат-бота) выполнить нежелательные или вредоносные действия. Злоумышленник вводит специальные команды или текст, который интерпретируется системой как инструкция, а не как обычный ввод пользователя. Это может привести к утечке конфиденциальной информации, выполнению несанкционированных операций или другим неблагоприятным последствиям.
30 октября 11:00 Вебинар · Инфосистемы Джет Защита есть. А готовность к кибератаке? У 9 из 10 компаний техническая защита опережает процессы реагирования и восстановления. 30 октября «Инфосистемы Джет» разберут результаты исследования 100 российских компаний. Зарегистрироваться на вебинар → Реклама. Рекламодатель АО «Инфосистемы Джет» ОГРН 1027700121195

Шутки кончились, пошли эксплойты: Владельцы веб-серверов учатся обманывать нейросети за секунду до парсинга

Служебные данные сайта оказались неожиданным каналом для манипуляций с нейросетями.

3 Хакеры прячут команды в документах для ИИ. Positive Technologies научила файрвол их распознавать

Positive Technologies добавила в PT AF защиту от атак на ИИ-агентов.

Prompt injection научилась размножаться через письма, файлы и комментарии к коду

OpenAI показала атаку, которая переносит собственную инструкцию дальше.

Grok сам себя взломал: шифр заставил ИИ слить чужую переписку

Скрытая команда заставила ИИ раскрыть данные из пользовательской переписки.

Текст из pull request стал командой. Почему ИИ-агенты ломают безопасность продакшена

20 августа специалисты Яндекса и Сбера разберут prompt injection, MCP и новые риски агентных систем.

10 из 11 популярных ИИ-агентов можно обмануть трюком из 90-х. Взлом не нужен — хватит записки в README

Взломщики добрались до святая святых — личных файлов разработчиков.

Борьба с ИИ вышла из-под контроля. Разработчик спрятал в коде бомбу для чужих проектов

Человек не заметит подвох, пока машина безвозвратно не удалит все файлы.

Азбука Морзе, Grok и $200 000: как один пост в X заставил ИИ-агента перевести токены

Grok понял шифровку, Bankrbot понял буквально, токены ушли.

Считаем до 50 и взламываем. Как Anthropic переоценила внимательность программистов

В коде ИИ-агента нашли нелепую ошибку, которая позволяет обходить правила безопасности.

Сессия ещё не началась. Именно эта фраза превращает ИИ-доктора в распространителя конспирологии

ИИ-сервис Doctronic оказался уязвим к простейшим манипуляциям через текстовые подсказки.

Написали на спине «Следуй за мной»? Поздравляем, вы только что угнали чужой дрон

Как работает визуальный prompt injection: машины подчиняются любому тексту, попадающему в объектив камеры.

Zero-click атака через Gmail и скрытый URL

Чем вежливее письмо хакера, тем охотнее ИИ-ассистент удаляет ваши файлы.

display: none против GPT-5. Ученые придумали, как использовать «совесть» нейросетей против них самих

Корейские ученые предложили невидимый HTML-блок для остановки вредоносных ИИ-агентов на веб-сайтах.

ИИ стал самостоятельным хакером. Теперь данные будет вымогать не школьник, а самообучающийся алгоритм

Генерация поддельных документов и персонализация угроз теперь полностью отданы на аутсорс алгоритмам.

«Нулевой клик» в ChatGPT. Ваши данные из диалога могут украсть, пока вы просто задаете вопрос

Хакеры могут «отравить» память ChatGPT и похищать данные между сессиями.

Нож в спину от Copilot: ваш ИИ-помощник по коду может оказаться самым опасным инструментом в арсенале хакера

Раскрыта новая схема атаки через ИИ-ассистентов.

Joke Screenmate в DNS: вредонос на сотне поддоменов — и ни один антивирус не заметил

TXT-записи доменов стали новым убежищем для вредоносного ПО.

Skynet вернулся — но на этот раз он не уничтожает ИИ, а превращает в союзника

Эпоха привычных нам угроз подходит к концу. Prompt injection — процветает.

GitLab хотел сэкономить время — а получил ИИ, который шпионит в комментариях

ИИ-ассистент GitLab Duo помог с задачей — и незаметно слил весь приватный код.