IBS Software внедрила двуязычную NER-систему для грузовой логистики на Amazon Bedrock

IBS Software разработала систему распознавания именованных сущностей для обработки грузовых логистических писем на английском и японском языках. Решение извлекает из сообщений номера AWB, данные о рейсах, весе, объеме, инструкциях по доставке и другие сведения. Компании требовалось автоматизировать обработку тысяч писем в день, при этом не увеличивать затраты и сохранять минимальную задержку при работе в реальном времени.

Как сообщает AWS Machine Learning Blog, для этого IBS Software использовала возможности knowledge distillation в Amazon Bedrock, перенеся знания из модели Amazon Nova Pro в Amazon Nova Lite. По данным компании, такой подход помог добиться F1-Score на уровне 95,085% и сократить операционные расходы в 14 раз. Система распознает 23 типа сущностей сразу на двух языках.

Проект занял около четырех месяцев. Над ним работала команда из девяти исследователей и инженеров. За это время специалисты разметили 500 писем, среди них 350 на английском и 150 на японском языке. Student-модель обучали в течение четырех эпох на 70 шагах, а показатель loss в процессе снизился с 0,05 до 0,008.

До перехода на Amazon Bedrock команда тестировала open-source инструменты, включая реализации на PyTorch и библиотеку TextBrewer. Однако в работе возникли сложности с настройкой двуязычных пайплайнов, не хватало управляемой инфраструктуры, а интеграция с производственным процессом обработки писем оказалась проблемной.