Компания Anthropic извинилась за недостаточную прозрачность в вопросах безопасности модели искусственного интеллекта Claude Fable 5. Речь идёт о скрытых ограничениях внутри системы, о которых публично не сообщалось.
По словам компании, эти ограничения мешали работе исследователей, а также конкурентов, разрабатывающих собственные системы. В Anthropic заявили, что собираются изменить подход и сделать сведения о таких ограничениях более открытыми.
Также в компании предупредили: при новом подходе Fable может отклонять больше запросов. Зато информация о существующих ограничениях станет более прозрачной.
Ключевые факты
Anthropic извинилась за непрозрачность ограничений безопасности, встроенных в модель искусственного интеллекта Claude Fable 5.
Компания признала, что установила скрытые ограничения в Claude Fable 5, которые мешали работе исследователей и конкурентов, разрабатывающих собственные системы.
Anthropic заявила о намерении изменить подход и стать более прозрачной в вопросах ограничений модели.
Компания отметила, что при большей прозрачности Claude Fable может отклонять больше запросов.