Amazon Bedrock предложил многоэтапный анализ писем для выявления AI-фишинга

Фишинговые атаки с использованием генеративного ИИ становятся все сложнее для традиционных почтовых фильтров. Злоумышленники используют генеративные модели и OSINT, чтобы создавать тысячи уникальных сообщений с грамотным текстом, персонализированными деталями и контекстом, который соответствует конкретной организации.

Как сообщает AWS Machine Learning Blog, современные фишинговые письма все реже можно распознать по ошибкам, шаблонным обращениям или подозрительным доменам. Теперь атаки строятся на анализе открытых данных из профессиональных сетей, корпоративных сайтов и других публичных цифровых следов. При этом сообщения способны менять тон и детали переписки в зависимости от реакции пользователя.

Amazon описывает Amazon Bedrock как дополнительный уровень анализа поверх существующей инфраструктуры безопасности. Сервис использует foundation models для оценки поведенческих паттернов, контекстных связей и аномалий в содержании писем, а не ограничивается проверкой грамматики или оформления. В предложенной схеме каждое письмо проходит аутентификацию, поведенческий анализ и оценку риска до того, как попадет во входящие.

Для защиты от AI-фишинга Amazon Bedrock объединяет две функции. Первая, предварительно обученные foundation models для распознавания скрытых признаков манипуляции. Вторая, Amazon Bedrock Guardrails для настройки ограничений и политик ответственного использования ИИ без необходимости создавать собственную логику детектирования.