LayerX описала способ заставить AI-браузеры раскрывать чувствительные данные через «игровой» сценарий

LayerX сообщила об уязвимости в AI-браузерах, которая позволяет получить доступ к чувствительным данным с помощью простого сценария. Техника получила название BioShocking: злоумышленник маскирует запрос под игру или головоломку, из-за чего AI-агент начинает следовать ложным правилам и игнорирует встроенные ограничения.

Как пишет Android Authority, исследователи сравнивают этот метод с сюжетом BioShock, где персонажа вынуждают принять ложную реальность. В случае с браузерами вредоносная страница подает задачу как игровое взаимодействие, из-за чего AI выходит из привычного контекста.

По данным LayerX, все шесть протестированных инструментов оказались уязвимы к утечке данных при такой атаке. Компания также отмечает, что большинство поставщиков пока не устранили проблему.