Microsoft представила 2 новые технологии, которые помогут бороться с дезинформацией. Об этом в блоге компании написали представители Microsoft Том Барт (Tom Burt), корпоративный вице-президент по безопасности и доверию пользователей, и Эрик Хорвиц (Eric Horvitz), руководитель научного отдела. Первая технология, Microsoft Video Authenticator, призвана определять дипфейки в медиафайлах, а вторая — определять контент в медиа, который используется в манипулятивных целях.
В рамках Программы защиты демократии от Microsoft были представлены две технологии, которые помогут в борьбе с дезинформацией. Программа направлена на поддержку честных выборов и безопасности проведения кампаний в рамках демократического процесса. Поскольку дезинформация может проявляться в разных формах и одна технология не сможет помочь людям отличить, где правда, Microsoft разработала две отдельные технологии, которые решат различные аспекты данной проблемы.
Основная проблема — это, так называемые, дипфейкы (deepfakes), или синтетическое медиа — фото, видео или аудиофайлы, изменены искусственным интеллектом, и их трудно отличить от оригинала. Поэтому Microsoft анонсировала Video Authenticator, который способен анализировать фото или видео для определения вероятности и оценки доверия к тому, были ли медиафайлы искусственно изменены. В случае видео данная технология может показывать процент вероятности подлинности файла в реальном времени для каждого кадра во время воспроизведения видео. Данная технология идентифицирует границу наложения дипфейка, которую не определить человеческим глазом. Эта технология была разработана Microsoft Research в сотрудничестве с командой Microsoft, ответственной за ИИ, а также Комитетом Microsoft по ИИ, этике и влиянию разработки и исследований (AETHER), который помогает обеспечивать разработку и привлечение новых технологий. Video Authenticator был создан с использованием общедоступного набора данных Face Forensic++.
Другая технология поможет как определить контент, который используется в манипулятивных целях, так и убедить людей в подлинности просмотренных медиафайлов. Она состоит с 2 компонентов: первый — это инструмент, встроенный в Microsoft Azure, а другой — считыватель. Эта технология была разработана Microsoft Research и Microsoft Azure в партнерстве с Программой защиты демократии.
В ходе исследования Microsoft при поддержке профессора Джейкоба Шапиро (Jacob Shapiro) из Принстонского университета было обнаружено 96 кампаний под иностранным влиянием в социальных сетях в период с 2013 по 2019 гг. Целью этих кампании было опорочить известных людей, убедить общественность или популяризировать дебаты. Результаты по 30 странам показали, что около 93% кампаний включали создание оригинального контента, 86% дополняли уже имеющийся контент, а 74% искажали объективно проверенные факты. Недавние отчеты также показали, что широко распространялась дезинформация о пандемии COVID-19. Это привело к смерти и госпитализации людей, которые лечились на самом деле опасными препаратами.
Источник: пресс-релиз Microsoft
