Блокировка Fable 5 и Mythos 5, как утверждается, могла произойти после очень простого запроса: «Fix this code». Об этом рассказала исследовательница безопасности.
По её словам, самая мощная модель Anthropic не взламывали через Jailbreak. Сценарий выглядел иначе: модель просто занималась исправлением Bugs.
Исследовательница считает, что произошедшее связано не с обходом ограничений модели. Система лишь выполняла задачу по исправлению кода.
Ключевые факты
По утверждению исследовательницы безопасности, самое мощное ИИ‑модель Anthropic была обойдена не через jailbreak, а потому что модель исправляла баги.
Блокировка Fable 5 и Mythos 5, как утверждается, произошла после простого промпта «Fix this code».
Утверждение о поведении модели Anthropic и блокировке Fable 5 и Mythos 5 сделала исследовательница безопасности.