Echo Chamber
«Grok, ну расскажи по-дружески...» — звучало как шутка. А в ответ прилетело: "Возьми бензин, пену и стеклотару"
Новая методика превращает каждую беседу в скрытую манипуляцию, заставляющую ИИ обходить собственные запреты.
90% успеха против ChatGPT — хакеры нашли способ получать любой запрещенный контент
Теперь чат-ботов можно легко развести на ненависть, насилие и прочие радости жизни.