Технология дипфейков продолжает стремительно развиваться. Недавний прогресс в клонировании голоса и синтезе видео делает возможным создание реалистичных цифровых двойников в режиме реального времени.
За последние несколько дней в социальных сетях произвел настоящий фурор программный пакет Deep-Live-Cam. Эта программа позволяет заменять свои лицо и голос на лицо и голос другого человека в режиме прямой трансляции и делает это с невероятной легкостью.
Программа берет одну фотографию человека и накладывает его лицо на прямую трансляцию с веб-камеры, отслеживая позу, освещение и выражения лица человека в реальном времени. Хотя результаты пока не идеальны, быстрое развитие технологии подчеркивает, насколько проще стало обманывать людей с помощью искусственного интеллекта.
Проект Deep-Live-Cam разрабатывался с конца прошлого года, но вирусную популярность он приобрел совсем недавно, после того как в сети появились демонстрационные видеоролики. В этих роликах люди имитируют известных личностей, таких как Илон Маск и Джордж Клуни, в режиме реального времени.
Some experiments - it works almost flawlessly and it's totally real-time. Took me 5 minutes to install. pic.twitter.com/Ow0QRF7WOj
— joao (@jay_wooow) August 9, 2024
Внезапный всплеск популярности ненадолго вывел этот проект с открытым исходным кодом на первое место в списке трендовых репозиториев GitHub. Deep-Live-Cam бесплатен, что делает его доступным для всех, кто обладает базовыми знаниями программирования.
Угроза злоупотреблений
Потенциальное злоупотребление Deep-Live-Cam уже вызывает обеспокоенность экспертов в области технологий. Иллюстратор Кори Брикли отметил, что большинство последних прорывных технологий склонны к злоупотреблению. "Как странно, что все основные инновации в сфере технологий последних лет относятся к навыку "Мошенничество", - написал Брикли в Твиттере, добавив: "Не забывайте устанавливать кодовые слова со своими родителями, ребята".
Хотя комментарий Брикли носит явно саркастический характер, он подчеркивает потенциальную возможность использования таких инструментов мошенниками. Учитывая распространенность и доступность технологий дипфейков, согласование кодового слова для подтверждения личности между родственниками и друзьями не кажется такой уж безумной идеей.
Технология подмены лиц сама по себе не нова. Термин “дипфейк” или “глубокий фейк” появился в 2017 году. Он произошел от никнейма пользователя Reddit, который часто публиковал фотографии и видео, на которых лица порноактрис были заменены на лица знаменитостей. Но в то время технология была медленной, дорогой и далекой от реального времени.
Теперь эти примитивные инструменты значительно улучшились. Такие проекты, как Deep-Live-Cam и другие, стали умнее и быстрее, снизив порог входа и позволив любому человеку с обычным ПК создавать дипфейки с помощью бесплатного программного обеспечения.
Потенциал для злоупотреблений уже хорошо документирован. В феврале мошенники в Китае, используя видеозвонок, выдали себя за руководителей компании, и обманули сотрудника, заставив его перевести им более 25 миллионов долларов США.
В аналогичном случае в США недавно был клонирован голос Джо Байдена, который отговаривал людей от голосования на праймериз. С появлением программы, позволяющей создавать дипфейки в режиме реального времени, такой как Deep-Live-Cam, случаи мошенничества с использованием видеозвонков могут стать более распространенными и затронуть не только публичных персон, но и обычных людей.
