Anthropic 27 октября опубликовала результаты эксперимента с ещё не выпущенной исследовательской моделью Claude. За несколько месяцев система построила пять работающих цепочек атак на браузеры и операционные системы. Речь идёт о лабораторных демонстрациях внутренней модели, случаев применения этих атак в реальных взломах компания не описывала.
Главный результат эксперимента заключается в способности модели объединять несколько слабостей и последовательно обходить уровни защиты. Такие многоэтапные атаки обычно требуют работы специалистов по кибербезопасности.
Самой подробно описанной стала цепочка для Chrome. Вредоносная страница могла использовать несколько ошибок, преодолеть изоляцию браузера и запустить код на компьютере пользователя. В демонстрации на macOS через несколько секунд открывался системный калькулятор. С исследованием связаны 62 уязвимости критической или высокой опасности, исправленные в Chrome 156. Пользователям следует установить эту или более новую версию браузера.
Читайте также
Для Safari модель составила сценарий, при котором сайт получал доступ к истории, файлам cookie и данным активных сеансов. Если пользователь был авторизован в почте или интернет-банке, атака позволяла читать ответы этих сервисов и отправлять запросы от его имени. Apple получила отчёт в день обнаружения и выпустила исправление, поэтому Safari также следует обновить до последней доступной версии.
Ещё одна цепочка позволяла извлечь фотографии и другие данные из украденного заблокированного Android-смартфона через USB. Для Windows модель нашла способ удалённо и многократно вызывать перезагрузку серверов, а для Linux — запускать команды на уязвимых серверах без учётных данных и действий пользователя. Microsoft устранила найденную ошибку, исправление для Linux вошло во все поддерживаемые стабильные ветки ядра.
Anthropic передала сведения разработчикам по процедуре согласованного раскрытия. Она даёт им 90 дней на выпуск исправлений и ещё 45 дней до публикации дополнительных технических подробностей.