Prompt Injection

Уязвимость типа Prompt Injection заключается в манипуляции входными данными так, чтобы заставить систему (например, ИИ-модель или чат-бота) выполнить нежелательные или вредоносные действия. Злоумышленник вводит специальные команды или текст, который интерпретируется системой как инструкция, а не как обычный ввод пользователя. Это может привести к утечке конфиденциальной информации, выполнению несанкционированных операций или другим неблагоприятным последствиям.