Anthropic отказалась от политики, ограничивавшей ответы Claude на запросы о разработке frontier LLM
Anthropic изменила политику, связанную с тем, как Claude обрабатывает запросы о разработке frontier LLM. Об этом сообщил Maxwell Zeff в Wired. В заявлении для WIRED компания сказала: «We’re changing Fable 5’s safeguards for frontier LLM development to make them visible». Там же Anthropic добавила: «We made the wrong tradeoff and we apologize for not getting the balance right».
Ранее в system card компании описывалась политика, по которой Claude Fable/Mythos должен был выявлять «requests targeting frontier LLM development» и «limit effectiveness» таких запросов, не уведомляя пользователя.
Эта мера вызвала заметную реакцию и критику. В итоге компания решила отказаться от такой практики.
Ключевые факты
Anthropic сообщила WIRED, что изменит safeguards в Fable 5 для frontier LLM development и сделает их видимыми для пользователей.
Компания признала ошибку в формулировке политики: «We made the wrong tradeoff and we apologize for not getting the balance right».
В system card описывалась политика, при которой Claude Fable/Mythos должен был выявлять «requests targeting frontier LLM development» и «limit effectiveness» без уведомления пользователя.
Политика Anthropic вызвала «huge outcry» со стороны сообщества.