К содержанию
hegai.media
Новости

RTX 5090 выгоднее API только при достаточной загрузке

Инфографика: 20 тысяч раз разница между вариантами
Графика: hegai.media

Как пишет Habr, автор сравнил расходы на собственную RTX 5090 с затратами на API. Для этого он перевёл час работы видеокарты в рубли, учёл пропускную способность по результатам замеров и рассчитал точку безубыточности для семи сервисов.

Стоимость миллиона токенов варьируется от 1 ₽ до 20 726 ₽, а разница достигает 20 тысяч раз. Такой разброс получился при сравнении семи сервисов и собственной видеокарты с учётом разного числа часов загрузки в сутки.

По оценке автора, итоговая цена зависит не столько от самого железа, сколько от его фактической загрузки. В материале также приведена полная смета за первый год.

Ключевые факты

  • Стоимость 1 млн токенов в расчёте варьируется от 1 ₽ до 20 726 ₽.

  • Разница между вариантами достигает 20 тысяч раз.

  • Точка безубыточности рассчитана относительно семи сервисов.

  • Смета охватывает первый год.

Вопросы и ответы

Какой разброс стоимости нужно учитывать при выборе между своей GPU и API?

Расчёт даёт от 1 ₽ до 20 726 ₽ за 1 млн токенов. Между крайними вариантами разница достигает 20 тысяч раз.

С чем именно сравнивали RTX 5090 и на каком горизонте?

Точку безубыточности рассчитали относительно семи API-сервисов, а полная смета охватывает первый год эксплуатации.

Какие параметры нужны для расчёта точки безубыточности?

Автор перевёл час работы RTX 5090 в рубли, учёл пропускную способность по замерам и число часов загрузки видеокарты в сутки.

Контекст по теме