Исследователь показал способ получить данные приватных видео через Ask Studio в YouTube

ИИ-помощник Ask Studio в YouTube Studio оказался уязвим к скрытым инструкциям в комментариях пользователей. Исследователь безопасности Javox, известный как @javoriuski, показал, что ассистент может воспринимать текст комментария как команду и включать в ответ сведения из приватных данных канала.

Как пишет SecurityLab (by Positive Technologies), исследователь тестировал сценарий, в котором комментарий маскируется под сообщение службы поддержки YouTube. После нескольких попыток ему удалось добиться того, чтобы Ask Studio начинал пересказ комментариев с заранее подготовленного уведомления. Возможная схема атаки строится на редактировании комментариев: сначала злоумышленник публикует обычный текст, а затем заменяет его скрытой инструкцией. При этом YouTube не сообщает владельцам каналов об изменении комментариев.

В ходе демонстрации Javox попросил помощника сформировать ссылку на внешний сайт, подставив в адрес название одного из видео канала. Ask Studio выполнил инструкцию и использовал название реального приватного ролика, так как имеет доступ к данным автора. По словам исследователя, подобным образом могут раскрываться неопубликованные материалы, личные записи и конфиденциальные проекты.

Javox сообщил о проблеме Google, но компания не признала ситуацию ошибкой безопасности. В Google считают, что такой сценарий требует действий со стороны жертвы и ближе к социальной инженерии. Исследователь с этим не согласился. Он заявил, что комментарии должны рассматриваться как недоверенные данные, а их влияние на ответы Ask Studio следует ограничить.