XPIA

XPIA (Cross-Prompt Injection Attack) — это атака, при которой вредоносные команды скрываются внутри текста, который затем попадает в языковую модель в другом контексте, например, в цепочке запросов. Модель, не распознавая подвоха, может выполнить эти скрытые инструкции, что приводит к утечке данных, изменению поведения или другим последствиям. Чтобы защититься от XPIA, применяют фильтрацию входных данных, выявление скрытых команд и контроль над тем, как и откуда модель получает информацию.