К содержанию
Новости

В сообществе r/LocalLLaMA обсуждают, существуют ли сопоставимые рейтинги open и закрытых LLM

В сообществе r/LocalLLaMA обсуждают, существуют ли сопоставимые рейтинги open и закрытых LLM
Фото: r/LocalLLaMA (Reddit)

В сообществе разработчиков локальных моделей обсуждают простой вопрос: есть ли понятные рейтинги, где закрытые и open‑weight LLM сравниваются напрямую. Один из участников пишет, что ищет таблицу или лидерборд, где такие системы можно увидеть рядом. Пока же большинство доступных бенчмарков выглядят разрозненно и не дают ясной картины, какие модели разумно запускать локально, а какие по‑прежнему остаются конкурентными только при работе через API.

Как пишет r/LocalLLaMA (Reddit), автор обсуждения рассчитывает получить достаточно VRAM, чтобы запускать модели примерно уровня GLM-5.2. Поэтому он пытается понять, какие open‑модели действительно имеют смысл на собственной инфраструктуре. В качестве ориентиров он называет GLM-5.2 и Qwen3.6 27B и задаётся вопросом, существуют ли open‑модели сопоставимого «впечатления» при похожем размере.

Отдельная тема в обсуждении, практическая ценность моделей с очень большим числом параметров. По субъективному ощущению автора, диапазон примерно 70B–350B выглядит почти пустым: размер моделей растёт довольно сильно, а прирост качества в реальных задачах не всегда кажется соразмерным требованиям к VRAM и сложности запуска. Поэтому он и спрашивает у сообщества, на какие модели и какие бенчмарки вообще стоит смотреть, если цель именно локальное использование.

Ключевые факты

  • В обсуждении упоминаются модели GLM-5.2 и Qwen3.6 27B как ориентиры по качеству для их размера.

  • Автор рассматривает возможность запускать локальные модели уровня GLM-5.2 при наличии достаточного объёма VRAM.

  • Поднимается вопрос о практической ценности моделей диапазона 70B–350B параметров.

  • Участник ищет лидерборд, который напрямую сравнивает закрытые LLM и open‑weight модели.