К содержанию
Новости

В «Алиса AI» появился Live-режим для помощи незрячим через камеру смартфона

В «Алиса AI» появился Live-режим для помощи незрячим через камеру смартфона

Мобильное приложение «Алиса AI» получило обновление с функцией для пользователей с нарушениями зрения. Как сообщает iXBT, команда Яндекса адаптировала Live-режим: он помогает в реальном времени получать информацию об окружающей обстановке через камеру смартфона.

Пользователь может навести камеру на объект, задать вопрос голосом и получить ответ от нейросети. Например, узнать, с какой стороны находится вход в магазин, что написано на дисплее бытовой техники или какие продукты лежат в холодильнике и что из них можно приготовить. Технология работает на базе мультимодальной нейросети Alice AI VLM, которая распознаёт объекты и описывает их. Общение с «Алиса AI» полностью голосовое, при этом история запросов сохраняется в чате.

Менеджер по цифровой доступности Яндекса Анатолий Попко рассказал, что решение помогает незрячим и слабовидящим людям самостоятельно ориентироваться в пространстве и решать бытовые задачи без посторонней помощи. Live-режим можно включить через меню приложения или голосовой командой. Функция уже доступна бесплатно на устройствах Android и iOS. При этом запуск голосом пока работает только на Android, в Яндексе обещают добавить такую возможность и для iOS-устройств. Обновление представили на фестивале Young Con в Москве.

Вопросы и ответы

Что умеет Live-режим на практике помимо простого описания картинки?

Пользователь может навести камеру смартфона на объект и голосом задать уточняющий вопрос. «Алиса AI» подсказывает, где находится вход в магазин, читает информацию с дисплеев техники и распознаёт продукты в холодильнике с рекомендациями, что из них можно приготовить.

На каких устройствах уже работает функция и есть ли ограничения по управлению голосом?

Live-режим доступен бесплатно в приложении «Алиса AI» на Android и iOS. Включать его голосовой командой пока могут только пользователи Android, поддержку этой функции для iPhone в Яндексе пообещали добавить позже.

За счёт какой технологии работает распознавание объектов и как сохраняется взаимодействие?

Функция построена на мультимодальной нейросети Alice AI VLM, которая распознаёт объекты через камеру и описывает их голосом. История запросов пользователя сохраняется в чате приложения.

Контекст по теме