15 октября The Verge опубликовал результаты проверки Eiliko — компактного робота-питомца с ИИ-собеседником. Исследователь Сэмми Аздуфал получил доступ к 13 млн разговоров и данным примерно 68 тысяч подключённых игрушек по всему миру. Более 31 тысячи профилей в США, согласно базе, принадлежали детям.
The Verge проверил доступ на купленном редакцией устройстве: через несколько минут после десятиминутного разговора исследователь показал журналисту полную расшифровку.
Какие сведения оказались доступны
Сервис позволял искать реплики пользователей в полнотекстовой базе. Вместе с разговорами хранились электронные и IP-адреса, а также автоматически составленные профили с именем, возрастом, датой рождения, профессией и сведениями о семье, друзьях и домашних животных. Встречались и выводы об эмоциональном состоянии пользователей.
Читайте также
Исследователь также нашёл короткие аудиозаписи по общедоступным веб-адресам и незашифрованные фотографии детей. Снимки, предположительно, поступили от других роботов Energize Lab с камерами: данных о наличии камеры у Eiliko источник не приводит.
Хранение аудио расходится с политикой конфиденциальности Energize Lab, согласно которой записи шифруются, передаются партнёрам для обработки и затем сразу удаляются.
Исследователь смог изменить ответы игрушки
Аздуфал не только читал данные, но и удалённо изменил память и работу языковой модели купленного The Verge робота. После вмешательства Eiliko называл журналиста чужим именем, рассказывал выдуманную историю о погибших родителях и утверждал, что Земля плоская. Эксперимент подтвердил возможность вмешиваться в поведение ИИ-собеседника.
Что ответила Energize Lab
The Verge и исследователь больше месяца пытались связаться с производителем. Один сотрудник сообщил, что передал обращение технической команде, но содержательного ответа компания не дала. На момент публикации нет подтверждения, что доступ закрыт, настройки защиты изменены, а сохранённые данные удалены.
Что это значит
- Для ИИ-чата Eiliko нужен Wi‑Fi. До подтверждённого исправления владельцы могут не подключать игрушку к Wi‑Fi и не использовать сетевой чат.
- Отключение остановит новые разговоры через облачный сервис, но не удалит уже сохранённые данные.
- Ребёнку не следует сообщать игрушке полное имя, адрес, школу, дату рождения и сведения о родственниках.