Исследователи SAND Security сообщили о критической уязвимости в платформе Writer AI, которая позволяла злоумышленнику получить доступ к аккаунту пользователя и данным его организации. Проблема получила название WriteOut. По словам исследователей, для атаки не требовался предварительный доступ к инфраструктуре компании, достаточно было, чтобы пользователь открыл ссылку на опубликованного AI-агента.
Как сообщает Hacker News, уязвимость затрагивала механизм sandbox, где Writer выполняет код и показывает live-preview AI-агентов. Исследователи утверждают, что через такого агента можно было перехватывать пользовательские сессии из других организаций и получать доступ к приватным чатам, документам, конфигурациям агентов, системным промптам, источникам данных и учетным данным LLM. В отдельных случаях это также открывало административный доступ, если у пользователя были соответствующие права.
В SAND Security заявили, что Writer уже устранила проблему и изменила механизм работы с учетными данными внутри sandbox. Исследователи также призвали компании относиться к AI-sandbox как к части attack surface и не считать изоляцию кода достаточной мерой защиты.
Ключевые факты
Уязвимость WriteOut позволяла атакующему захватывать аккаунт пользователя после открытия ссылки на AI-агента
Атакующий мог действовать из собственного бесплатного или временного аккаунта Writer и атаковать пользователей других организаций
Исследователи заявили о доступе к приватным чатам, документам, конфигурациям агентов, системным промптам и учетным данным LLM
По данным SAND Security, Writer использует managed sandbox и размещала live-preview агентов через тот же origin, что и основное приложение