Fraunhofer разрабатывает систему выявления дипфейков во время видеоконференций

Как сообщает Digital Trends, исследователи Fraunhofer Institute for Secure Information Technology SIT разрабатывают систему для выявления мошенничества во время корпоративных видеоконференций в реальном времени. Она должна предупреждать сотрудников о подозрительной активности до того, как они выполнят дорогостоящее поручение от поддельного руководителя, созданного с помощью ИИ.

Исследователи вспоминают случай в Гонконге. Сотрудник участвовал в видеоконференции с несколькими предполагаемыми коллегами, однако все остальные участники оказались поддельными. Как сообщается, злоумышленники получили доступ к внутренним видеоматериалам и использовали голоса сотрудников компании, сгенерированные ИИ. Жертва перевела около 2,2 млрд ₽ (24 млн евро), а обман обнаружился только после разговора с настоящим руководителем.

В рамках отдельного исследования 2025 года студентам показали изменённое видео с их преподавателем. Для его создания использовали общедоступный инструмент, который позволяет заменять лица в реальном времени. До объяснения исследователей подделку не распознали 25 из 34 участников, или 74%.

Разработки Fraunhofer в области медиафорензики сочетают глубокое обучение и обработку сигналов. Система ищет размытые структуры лица, несоответствия между областями изображения и другие малозаметные признаки. При этом исследователь Мартин Штайнебах ранее предупреждал: автоматические детекторы дипфейков могут ошибаться достаточно часто и тем самым запутывать участников живого звонка.