Дипфейки становятся всё более опасным инструментом. С их помощью создают поддельные интимные изображения, используют для шантажа, мошенничества и травли. В 2025 году ущерб от связанных с ними преступлений превысил 1,5 миллиарда долларов. При этом человек почти не способен отличить качественную подделку от настоящего снимка. Исследователи из немецкого Института Фраунгофера предложили систему RealorRender, которая не только обнаруживает синтетические изображения, но и показывает, почему она приняла такое решение.
Система использует гибридный подход. Сначала генеративная модель пытается «перерисовать» проверяемое изображение. Затем алгоритм оценивает, насколько успешно это удалось, и вычисляет ошибку реконструкции. Если искусственный интеллект смог почти идеально воспроизвести исходный снимок, это само по себе служит сильным признаком того, что оригинал уже был создан нейросетью.
После этого классификатор на основе глубокого обучения выносит итоговый вердикт и указывает точность распознавания в процентах. По данным разработчиков, точность системы начинается от 85% и достигает 91%, а в отдельных случаях может быть и выше.
Важная особенность — объяснимый искусственный интеллект (XAI). RealorRender выделяет на изображении подозрительные области в виде тепловых карт и сегментов. Это могут быть характерные текстуры или частотные паттерны, которые выдают синтетическое происхождение снимка.
«Сначала мы используем генератор изображений, чтобы реконструировать снимок. Затем модель классификации выполняет гибридный расчёт ошибки реконструкции. В итоге мы получаем оценку точности распознавания в процентах», — объясняет Андреас Шпекер (Andreas Specker), старший научный сотрудник группы систем видеобезопасности и помощи Института Фраунгофера IOSB.
Почему это важно
Надя Буркарт (Nadia Burkart), руководитель группы прикладного объяснимого ИИ, подчёркивает ценность прозрачности: «Мы применяем методы объяснимого ИИ, чтобы выделять области и структуры изображения, которые влияют на решение модели. Характерные текстуры или частотные паттерны могут указывать на синтетическое происхождение. XAI помогает понять, на какие признаки опирается система».
Такой подход даёт разработчикам возможность улучшать алгоритм, а пользователям — больше доверия к результату. Система уже показала более высокую точность по сравнению с предыдущими методами на больших наборах данных.
Контекст проблемы
Проблема дипфейков особенно остро стоит в сфере сексуализированного контента. По данным британских властей, на одном только сайте в 2023 году было обнаружено более 276 тысяч сексуальных дипфейков, 96% из которых изображали женщин. Приложения для «обнажения» фотографий собирали миллионы посещений.
RealorRender не решает проблему создания таких изображений, но даёт инструмент для их обнаружения. Разработка финансировалась Федеральным ведомством по информационной безопасности Германии (BSI) и ведётся в Институте оптроники, системных технологий и обработки изображений Фраунгофера (IOSB).
Пока система остаётся исследовательским инструментом, но уже демонстрирует, что борьба с дипфейками может опираться не только на запреты, но и на технологические решения, способные объяснять свои выводы.
