На презентации для инвесторов 10 ноября Anthropic заявила, что её экспериментальная модель Mythos подготовила Claude к работе на ускорителях AMD за три дня. По оценке компании, традиционный перенос на новую аппаратную платформу занимает от шести до 12 месяцев. Результат не проходил независимую проверку.
Mythos перенесла или написала почти все программные ядра — низкоуровневые процедуры, которые выполняют вычисления нейросети на конкретном типе чипов. Как утверждает Anthropic, после этого Claude заработала на AMD Instinct MI355X практически без участия людей. Раньше подключение новой платформы требовало нескольких месяцев работы десятков инженеров.
Опыт касался обработки запросов одной модели Anthropic с «практически полезной» производительностью, а не переноса обучения Claude или всей инфраструктуры. Компания не сравнила скорость системы с оборудованием Nvidia. Результат также опирается на многоплатформенный стек и инструменты тестирования, которые Anthropic развивала несколько лет.
Читайте также
Результат важен из-за CUDA — программной платформы Nvidia, вокруг которой сформировались библиотеки и инструменты для ИИ-вычислений. Код, оптимизированный для этой экосистемы, обычно приходится существенно перерабатывать при переходе на оборудование другого производителя. Эта сложность помогает Nvidia удерживать клиентов не только характеристиками чипов, но и стоимостью отказа от её программного стека.
Anthropic уже объединяет оборудование разных поставщиков, архитектур и площадок в общий пул, распределяя задачи между чипами с учётом их назначения, цены и производительности. Компания обучает и запускает Claude на AWS Trainium, Google TPU, ускорителях Nvidia и AMD. Применимость такого подхода для других лабораторий пока не доказана.
Для мирового рынка ИИ-ускорителей эксперимент показывает возможность использовать ИИ для переноса моделей между аппаратными платформами, но не доказывает сопоставимую с Nvidia производительность или экономию.
