Разработчик провёл локальный эксперимент по дообучению языковой модели через LoRA, используя фреймворк MLX на Apple Silicon. Задача была довольно узкой: изменить то, как модель звучит. Речь о стиле генерации, словаре, регистре и общем литературном тоне. Для этого 7B instruction‑модель обучали писать в духе высокого фэнтези, с явным вдохновением от авторов вроде Джин Вулф и Толкин.
Как сообщает r/LocalLLaMA (Reddit), это более строгая версия эксперимента, который автор уже проводил два года назад. Теперь использовали больший объём данных и аккуратнее настроили обучение. Сам автор подчёркивает, что цель не заключалась в улучшении сюжета или качества повествования. Его интересовало другое: получится ли заметно сдвинуть саму стилистику текста.
В опубликованных примерах показано сравнение ответов базовой модели и версии после fine‑tune. Обе получают одинаковые промпты. Среди них сцена у моря с воспоминаниями о потерянном человеке и возвращение солдата в сожжённую деревню. Дообученная модель отвечает текстами с более архаичной лексикой и интонацией, которые напоминают эпическое фэнтези. Базовая версия при тех же условиях пишет заметно нейтральнее и ближе к современному стилю.
Ключевые факты
Проведён локальный LoRA fine‑tune 7B instruction‑модели с использованием MLX на Apple Silicon.
Цель обучения, изменить стиль, регистр и лексику модели, а не качество сюжета.
Модель обучали писать в манере высокого фэнтези, вдохновлённой авторами Джин Вулф и Толкин.
Эксперимент является более строгой версией аналогичной попытки, которую автор проводил два года назад.