Flo Health внедрила систему проверки медициного контента на Amazon Bedrock

Flo Health перевела в промышленную эксплуатацию систему генерации и проверки медицинского контента на базе Amazon Bedrock. Как сообщает AWS Machine Learning Blog, решение выросло из proof of concept, созданного совместно с AWS Generative AI Innovation Center. В результате компании удалось сократить время проверки материалов на 60% и втрое увеличить объём контента без расширения медицинской команды.

Система помогает создавать и проверять разные типы материалов: статьи, истории внутри приложения, onboarding-сценарии и маркетинговые тексты. Раньше медицинские эксперты тратили в среднем семь рабочих дней на одну статью. В процесс входили проверка фактов, сверка ссылок с доверенными источниками и прохождение чек-листа из 10 пунктов по медицинской точности.

В Flo Health выбрали поэтапное внедрение ИИ с несколькими уровнями валидации. Сначала система сверяет материалы с внутренними медицинскими правилами компании, затем проверяет их по внешним медицинским источникам, включая clinical decision tools, рецензируемые журналы и регуляторные организации. После этого медицинские эксперты получают контент с пометками ИИ, ссылками на источники и указанием применённых правил, что ускоряет фактчекинг.

Компания также рассказала об использовании специализированных AI Judges для разных типов проверки и системы генерации контента с Retrieval Augmented Generation (RAG). Одной из ключевых задач стала минимизация риска hallucinations, поскольку пользователи приложения полагаются на медицинскую информацию сервиса.