AMD планирует приобрести стартап Taalas, который разрабатывает ускорители для AI-инференса. Компания делает ставку на специализированные чипы для отдельных AI-моделей. Такой подход менее универсален, зато позволяет снизить стоимость и повысить скорость генерации.
Как пишет IT Home, представленный Taalas чип для AI-инференса создан на базе модели Llama 3.1 и производится по зрелому техпроцессу TSMC. В самой микросхеме используется высокоскоростная SRAM. По данным компании, для отдельных моделей такое решение обеспечивает скорость вывода в тысячи раз выше по сравнению с традиционными GPU, при этом обходится дешевле. Ограничение в том, что чип остается привязанным к конкретной AI-модели и не предполагает последующего обновления.
Глава Taalas Ljubisa Bajic заявил на сайте компании, что стартап создал платформу, способную «превращать любую AI-модель в специализированный кремний». По его словам, перенос ранее не адаптированной модели в аппаратную реализацию занимает около двух месяцев. Финансовые параметры сделки AMD не раскрывает. Согласно открытым данным, с момента основания в 2023 году Taalas привлекла 219 млн $.
Ключевые факты
Taalas разрабатывает ускорители AI-инференса под конкретные AI-модели
Продемонстрированный чип Taalas основан на модели Llama 3.1 и использует высокоскоростную SRAM
По словам Taalas, перенос ранее не адаптированной модели в аппаратную реализацию занимает около двух месяцев
С 2023 года Taalas привлекла 219 млн $ венчурных инвестиций