Axios: личные конфликты привели к отключению моделей Anthropic
Материал Axios, на который обратил внимание блог Simon Willison, описывает закулисную сторону истории вокруг экспортного контроля США и проекта Mythos/Fable. В тексте со ссылками на «source familiar with the administration's thinking» и «source close to Anthropic» утверждается, что из‑за личных конфликтов модели Anthropic оказались офлайн.
Сообщается, что Logan Graham (I lead the Frontier Red Team at Anthropic), Dave Orr (Head of Safeguards, previously a Director of Engineering at Google DeepMind) и Nicholas Carlini должны встретиться сегодня с Commerce Department в D.C. Также отмечается, что ранее Logan был «Special Adviser to the Prime Minister» в эпоху Boris Johnson и занимался политикой в области AI, науки и технологий.
По данным источника, один из вариантов решения, добиться того, чтобы модели Anthropic нельзя было jailbroken, хотя идеальная jailbreak resistance может оказаться невозможной. В противном случае, как сказал «a source familiar with the administration's thinking», ситуация может свестись к изменению отношения, чтобы вместо ощущения пренебрежения «everyone feels safe, secure».
Ключевые факты
Axios опубликовал материал о закулисных разногласиях вокруг истории с экспортным контролем и моделями Anthropic Mythos/Fable, где источники описывают конфликт и напряжение между участниками процесса.
Сообщается, что Logan Graham (руководитель Frontier Red Team в Anthropic), Dave Orr (Head of Safeguards, ранее Director of Engineering в Google DeepMind) и Nicholas Carlini планируют встречу с Commerce Department в Вашингтоне.
В обсуждениях одним из вариантов называется требование сделать модели Anthropic устойчивыми к jailbreak, при этом признаётся, что идеальная защита от jailbreak может быть невозможна.
Logan Graham ранее работал Special Adviser to the Prime Minister в эпоху Boris Johnson, занимаясь политикой в области AI, науки и технологий.