Исследователи описали схему фишинга через «галлюцинации» LLM

Команда Unit 42 опубликовала исследование о практике Phantom Squatting. Речь идет о схеме, в которой злоумышленники используют вымышленные URL-адреса, сгенерированные LLM-моделями. Как сообщает Trashbox, атакующие регистрируют домены, которые искусственный интеллект по ошибке предлагает пользователям вместо настоящих сайтов.

Исследователи отмечают, что некоторые адреса LLM «галлюцинируют» особенно часто. Один из примеров: вместо name.com модель предлагает name_download.com. После регистрации таких доменов мошенники могут применять их для фишинга.

В Unit 42 сравнивают этот метод с typosquatting, когда регистрируются адреса с опечатками, например goggle.com вместо google.com. По итогам исследования специалисты обнаружили более 13 000 доменных имён, основанных на галлюцинациях искусственного интеллекта.