Loka разработала голосового AI‑агента с низкой задержкой на базе Amazon Nova 2 Sonic

Компания Loka разработала разговорного AI‑агента для голосового общения с клиентами на базе модели Amazon Nova 2 Sonic. Решение работает на AWS и нацелено на более живой диалог и быстрые ответы. Система показывает высокую точность речевого рассуждения в тесте Big Bench Audio, а также снижает стоимость и задержку по сравнению с привычными архитектурами голосового AI. Как сообщает AWS Machine Learning Blog, разработчики хотели убрать типичную проблему медленных и «роботизированных» ассистентов, из‑за которых пользователи нередко просто бросают звонок.

Обычные голосовые ассистенты устроены по цепочке из нескольких этапов. Сначала речь превращается в текст через Speech‑to‑Text. Затем этот текст обрабатывает Large Language Model (LLM). После этого ответ снова переводится в аудио с помощью Text‑to‑Speech. Каждый этап добавляет задержку, поэтому между вопросом и ответом появляется пауза примерно 3–5 секунд. При таком подходе теряются и важные детали речи: интонация, паузы, ощущение срочности. Это мешает корректно разбирать сложные запросы, например когда пользователь одновременно формулирует условия, отрицания и ограничения по времени.

В новой архитектуре используется модель класса speech‑to‑speech. Аудиопоток поступает напрямую в модель, где одновременно происходят понимание, рассуждение и генерация ответа. В тестах Big Bench Audio модель Amazon Nova 2 Sonic получила показатель речевого рассуждения 87.0. Для сравнения: Gemini 2.5 Flash Native Audio (Live API) показала результат 71.0, GPT Realtime набрала 83.0.

Отдельно отмечается низкая задержка системы. Показатель Time to First Audio составляет 1.39 seconds, благодаря чему диалог звучит естественно и система может корректно реагировать, когда пользователь перебивает. По данным публикации, обработка стоит около $0.27 за час входящего аудио (по ценам на момент публикации). Это делает такую архитектуру более экономичной для масштабных голосовых сервисов.