Prompt Injection
Gandalf — киберполигон, который не прошёл тест на безопасность
Платформа для обучения взлому нейросетей сама стала угрозой конфиденциальности.
Новый чат-бот от Microsoft «разболтал» пользователям все свои внутренние директивы
Похоже, продвинутая языковая модель не сильно озабочена проблемами конфиденциальности.