В сообществе r/LocalLLaMA обсуждают, продолжают ли энтузиасты делать fine-tuning на домашнем оборудовании

Пользователь Reddit задался вопросом, продолжают ли разработчики активно заниматься fine-tuning языковых моделей на обычном потребительском оборудовании. По его наблюдениям, несколько лет назад вокруг этого была довольно живая сцена: люди делились экспериментами, обсуждали инструменты и результаты. Сейчас, как ему кажется, подобных проектов стало заметно меньше.

Он предполагает, что причина может быть в изменившихся возможностях самих моделей. Современные базовые модели стали универсальнее и, по его словам, «умнее», поэтому многие задачи решаются настройкой промптов без дополнительного обучения. В качестве условного переломного момента автор называет период после появления моделей уровня Llama-3-8b.

Как сообщает r/LocalLLaMA (Reddit), раньше участники сообщества регулярно обсуждали домашние эксперименты с обучением собственных моделей. Среди примеров упоминались проекты, тренированные с помощью Unsloth или MLX. Теперь такие публикации, по словам автора поста, встречаются реже. При этом он не исключает, что разработчики по‑прежнему продолжают подобные эксперименты, просто они реже всплывают в обсуждениях.

В конце автор обращается к сообществу с вопросом: есть ли другие площадки или сабреддиты, где чаще обсуждают локальное обучение и fine-tuning моделей.