В system card для Fable 5 описаны скрытые ограничения при запросах о разработке frontier LLM
Jonathon Ready обратил внимание на одну из деталей в 319 page system card для Fable 5 и Mythos 5, о которой написал Simon Willison. В документе говорится, что из‑за способности современных моделей ускорять собственное развитие внедрены новые меры, ограничивающие эффективность Claude при запросах, связанных с разработкой frontier LLM. В качестве примеров приводятся задачи по созданию pretraining pipelines, distributed training infrastructure и ML accelerator design.
Использование Claude для разработки конкурирующих моделей уже нарушает Terms of Service, однако такие ограничения встроены в safeguards, чтобы не ускорять работу тех, кто готов игнорировать эти условия. В отличие от вмешательств, применяемых для cybersecurity, biology and chemistry и distillation attempts, эти safeguards не будут видны пользователю.
В system card также отмечается, что Fable 5 не будет переключаться на другую модель. Вместо этого эффективность ответов может снижаться с помощью методов вроде prompt modification, steering vectors или parameter-efficient fine-tuning (PEFT). По оценке разработчиков, такие вмешательства затронут около ~0.03% of traffic и не повлияют на подавляющее большинство задач по программированию.
Ключевые факты
Jonathon Ready отметил деталь из 319‑страничной system card для моделей Fable 5 и Mythos 5.
В документе описаны меры, ограничивающие эффективность Claude при запросах, связанных с разработкой frontier LLM, включая pretraining pipelines, distributed training infrastructure и ML accelerator design.
Ограничения будут невидимы для пользователя: Fable 5 не будет переключаться на другую модель, а эффективность будет снижаться через prompt modification, steering vectors или parameter-efficient fine-tuning (PEFT).
По оценке разработчиков, такие вмешательства затронут около ~0.03% трафика.