Пользователь протестировал локальную Qwen3.6-35B-A3B на RTX 3060 для извлечения данных из чеков
Пользователь Reddit решил проверить, можно ли заменить Google Vision в своём пайплайне обработки чеков на локальную модель Qwen. Раньше у него работал бот для сообщений в LINE: пользователь отправлял фотографию чека, изображение проходило через Google Vision, затем данные разбирались в JSON и сохранялись в SQLite. В экспериментальной версии тот же процесс запустили полностью локально.
Как сообщает r/LocalLLaMA (Reddit), тестовая конфигурация выглядела так: RTX 3060 12GB, запуск через llama.cpp и модель Qwen3.6-35B-A3B в формате 12GB-target GGUF quant. Для загрузки изображений чеков использовался Paperless-ngx, после обработки результат также отправлялся в JSON и SQLite. В ходе теста модель обработала около 30 японских чеков.
Автор пишет, что нужные ему поля, store, date, subtotal, tax, total, извлекались стабильно и без заметных ошибок. Скорость обработки получилась умеренной: примерно ~31.75s на один чек при пиковом использовании памяти около ~11.06 GiB VRAM. По его словам, для такого сценария использования это вполне приемлемый результат.
Ключевые факты
Автор протестировал замену Google Vision в пайплайне обработки чеков на локальную модель Qwen3.6-35B-A3B, запущенную через llama.cpp на GPU RTX 3060 12GB.
В тесте использовались около 30 японских чеков; модель корректно извлекала поля store, date, subtotal, tax и total.
Среднее время обработки составило около 31.75 секунды на один чек.
Пиковое использование видеопамяти при запуске модели достигало примерно 11.06 GiB.