RLHF
Как заставить ИИ перестать врать и саботировать? Anthropic знает: разрешить ему это
Исследование Anthropic показало, что мягкое разрешение обходов снижает риск несоответствия моделей.
Инъекция правды: как разговорить GPT-4 и заставить генерировать опасный контент
Игра в кошки мышки продолжается: злоумышленники придумывают хитрые промпты – специалисты латают дыры.