ИТ-компания Agentic Lab развернула ИИ-помощника для работы с документами «Агата» на инфраструктуре Cloud.ru. Как сообщает CNews, после перехода подключение дополнительных GPU-ресурсов сократилось с одного-двух дней до 5–10 минут. В компании также сообщили, что автоматизация рутинных операций помогает юридическим командам выполнять часть задач примерно в два раза быстрее.
Система рассчитана на анализ больших массивов данных и работу с документами. После загрузки файлов, сканов и фотографий «Агата» распознает текст, извлекает ключевые сущности и метаданные, определяет участников и события, а затем формирует единую базу знаний. Пользователи могут искать информацию на естественном языке, выстраивать хронологию событий по делу и получать ответы со ссылками на первоисточники.
Языковые модели сервиса работают в Evolution ML Inference на GPU, ресурсы выделяются автоматически в зависимости от нагрузки. Mistral отвечает за анализ документов и извлечение ключевой информации. Gemma используется для поиска, суммаризации и ответов на запросы пользователей. Бизнес-логика приложения, а также его фронтенд и бэкенд размещены в Evolution Compute.
Ключевые факты
Среднее время ответа ИИ-помощника составляет 15–20 секунд
Mistral отвечает за анализ документов и извлечение ключевой информации, Gemma, за поиск, суммаризацию и ответы на запросы
GPU для языковых моделей выделяются автоматически в сервисе Evolution ML Inference в зависимости от нагрузки