Исследователи раскритиковали модель Fable 5 от Anthropic из‑за того, как работают её фильтры кибербезопасности. По их словам, система способна блокировать даже безвредные запросы.
Критики отмечают: иногда достаточно упомянуть фразу «Security Audit», и фильтры начинают сдерживать запрос. В итоге под ограничения попадают и фрагменты кода, которые сами по себе безопасны.
Ключевые факты
Исследователи критикуют модель Anthropics Fable 5 за то, что её фильтры кибербезопасности тормозят даже безобидные запросы.
По сообщениям исследователей, уже упоминание фразы «Security Audit» может приводить к срабатыванию защитных ограничений.
Фильтры кибербезопасности в Fable 5, по мнению исследователей, ограничивают выполнение запросов, которые не несут вреда.