Ученые из Университета Халла разработали инновационный метод обнаружения дипфейков - изображений, созданных с помощью искусственного интеллекта. Он основан на анализе отражений света в глазах человека.
Космические технологии
Долгое время генераторы изображений на основе ИИ испытывали трудности с реалистичным отображением глаз. Однако прогресс не стоит на месте, и современные модели вроде Stable Diffusion научились создавать достаточно правдоподобные лица. Это вызывает опасения по поводу их потенциального использования в мошеннических целях.
Новая методика использует инструменты, применяемые астрономами для изучения галактик. Исследователи под руководством профессора астрофизики Кевина Пимблетта и магистрантки Адеджумоке Оволаби изучили, насколько согласованно отражается свет в настоящих глазах.
В норме отражения света в обоих глазах человека схожи по форме и расположению. Дипфейки же часто пренебрегают этой особенностью, создавая изображения с асимметричными или неправильно расположенными бликами.
Так выглядят реальные глаза на фотографиях, распознанных новой системой:
А так выглядят глаза на изображениях людей, сгенеированных искусственным интеллектом:
Анализ фотографий человеком также может выявить несоответствия в отражениях. Однако преимущество нового метода заключается в автоматизации процесса. Инструменты астрономии позволяют количественно оценить характеристики отражений, что может стать надежным доказательством подделки в суде.
Для сравнения ученые использовали коэффициент Джини - показатель, применяемый для анализа распределения света в галактиках. Он позволяет оценить равномерность распределения света по пикселям глаза. Также исследовалась эффективность параметров CAS, используемых для изучения структуры галактик.
Авторы метода признают его ограничения. Во-первых, искусственный интеллект может "научиться" создавать более реалистичные отражения. Во-вторых, для анализа требуется четкое изображение глаз крупным планом.
"Эта методика не идеальна, но она дает нам основу и направление действий в борьбе с дипфейками", - говорит профессор Пимблетт.
