Искусственный интеллект генерирует видео настолько реалистичные, что отличить их от настоящих становится всё сложнее. Исследователи из Калифорнийского университета в Риверсайде пошли дальше простого определения «фейк или нет». Они создали инструмент, который выясняет, какая именно нейросеть сняла ролик.
Система получила название SAGA (Source Attribution of Generative AI Videos). Она ищет в кадрах едва заметные визуальные «отпечатки», которые генеративные модели оставляют непреднамеренно. Эти следы работают как уникальные отпечатки пальцев разных ИИ-систем.
Как работает метод
В отличие от статичных изображений, видео содержит движение и временную информацию — то, как элементы меняются от кадра к кадру. Разные генераторы создают в этих изменениях свои характерные артефакты.
Команда анализирует и пространственные детали внутри отдельных кадров, и временные связи по всей последовательности. Ключевая находка — Temporal Attention Signatures, или T-Sigs. Эти сигнатуры показывают уникальные паттерны, связанные с конкретным генератором. Усредняя данные по множеству роликов одной и той же системы, SAGA формирует характерный профиль, по которому можно отличить одну модель от другой.
«Паттерны похожи на отпечатки, которые генеративная модель оставляет после себя. Наша цель была понять, различаются ли эти подписи у разных генераторов. Оказалось, что да — они действительно разные», — объяснил аспирант Рохит Кунду (Rohit Kundu), руководивший работой под руководством профессора Амита Роя-Чоудхури (Amit Roy-Chowdhury).
Что умеет система
SAGA способна определить:
- настоящее видео или синтетическое;
- создано ли оно из текста или из изображения;
- какую именно версию модели использовали;
- даже какая команда разработчиков стоит за этой моделью.
Исследователи проверили инструмент на публичных наборах данных, содержащих ролики от 19 разных ИИ-генераторов — как text-to-video, так и image-to-video.
Зачем это нужно
«Понять, что видео фейковое, часто уже недостаточно, — пишут авторы. — Критическая потребность сместилась с вопроса “фейк или нет” на вопрос “откуда оно взялось”».
Умение устанавливать источник синтетического контента поможет расследовать кампании дезинформации, соблюдать требования прозрачности и отслеживать, как искусственные ролики распространяются в сети. В работе участвовали также специалисты YouTube и Google DeepMind.
Технология пока находится на исследовательской стадии. Авторы отмечают, что это классическая игра в «кошки-мышки»: генераторы совершенствуются, и методы обнаружения должны идти с ними в ногу. Тем не менее SAGA показывает важный сдвиг — от простого детектирования фейков к их атрибуции.
