Вредонос Gaslight для macOS пытается обмануть системы анализа на базе ИИ

Исследователи SentinelOne обнаружили вредоносное ПО для macOS под названием Gaslight. Оно применяет техники prompt injection, чтобы запутать инструменты анализа с поддержкой ИИ. Как сообщает TechRadar, программа пытается вынудить автоматизированные системы triage прекратить исследование образца, подсовывая им ложные инструкции. Эти сообщения выглядят как служебные.

Сам вредонос выполняет привычные для подобных угроз задачи. Он распространяется через фишинг и приёмы социальной инженерии, затем устанавливает связь с инфраструктурой злоумышленников через Telegram и получает команды. Среди возможных действий сбор информации об устройстве, запуск произвольных shell‑команд, кража файлов и завершение процессов. Дополнительно загружается второй этап вредоносного ПО. Этот модуль работает как infostealer и извлекает пароли, конфиденциальные PDF‑документы и данные криптовалютных кошельков.

Главная особенность Gaslight связана с попыткой обмануть инструменты анализа. В код встроен крупный блок поддельных сообщений в формате Markdown. Они оформлены как «system»-инструкции для ИИ‑ассистентов, которыми специалисты иногда пользуются при реверс‑инжиниринге. Внутри утверждается, например, что «токен аутентификации ИИ истёк», что «среда анализа испытывает нехватку памяти», что «исчерпано место на диске» или что «статический анализ небезопасен». Человек‑аналитик обычно сразу понимает, что такие сообщения поддельные. Но LLM, если она не изолирована от недоверенных данных, может принять их за настоящие системные инструкции и остановить анализ.

В SentinelOne считают, что подобные попытки влияния на процесс анализа через prompt injection могут встречаться всё чаще. Причина проста: LLM‑инструменты всё активнее применяются в reverse engineering. Исследователи советуют относиться к содержимому вредоносных образцов как к потенциально враждебному вводу и изолировать такие данные от моделей, чтобы они не воспринимались как команды.