Последние пару лет мы то и дело слышим о новых достижениях искусственного интеллекта в сфере создания фальшивок разного рода. Алгоритмы подделывают голоса людей, пишут фейковые новости, создают фейковые видео и даже генерируют реалистичные портреты людей, которых никогда не существовало.
Портреты, сгенерированные искусственным интеллектом
Эксперты раз за разом “выражают глубокую обеспокоенность”, но до сих пор мы не видели примеров того, что фейки используются для чего-то по-настоящему опасного и злонамеренного. Встречайте первый прецедент.
Издание Associated Press опубликовало материал, согласно которому фейковые лица, сгенерированные искусственным интеллектом, используются шпионами для общения с контактами в соцсетях. Эксперты утверждают, что в профессиональной соцсети LinkedIn активно функционирует целая сеть несуществующих людей. Один из профилей удалось выявить.
Так, в соцсети имеется некая Кейти Джонс, чей профиль связан со многими политическими экспертами Вашингтона. В их числе - помощник сенатора, заместитель помощника госсекретаря, экономист, претендующий на крупную должность в Федеральной резервной системе США.
Эксперты утверждают, что фейковый профиль Кейти Джонс является частью крупной разведывательной операции, которую проводит против США Китай. По словам Уильяма Эванина, исполнительного директора Управления национальной контрразведки США, давно прошли времена, когда шпионы встречались с целями для вербовки в парках и на темных подземных парковках. Сегодня гораздо безопаснее и проще рассылать сотням человек приглашения в друзья, сидя в комфортном офисе на другой стороне планеты.
Не возникает никаких сомнений в том, что соцсети стали использоваться для шпионажа еще на заре своего существования. Но зачем для создания фейковых профилей использовать искусственный интеллект? Эксперты утверждают, что так попросту безопаснее. Конечно, при создании фейкового профиля можно использовать фотографию другого человека или вообще позаимствовать случайное фото из интернета. Но в этом случае существует шанс, что обман рано или поздно раскроют. Если же используется “фотография” человека, который никогда не существовал в природе, это добавляет фальшивке еще один слой защиты.
К счастью, искусственный интеллект пока не справляется с генерированием абсолютно безупречных портретов. Вы можете зайти на ресурс ThisPersonDoesNotExist.com, автоматически создающий такие фото, и убедиться, что даже самые идеальные портреты зачастую имеют небольшие изъяны, выдающие подделку.
Эксперты Associated Press внимательно изучили портрет “Кейти Джонс”. Хотя на первый взгляд он кажется идеальным, на нем довольно много признаков работы ИИ:
Так, фейковые портреты всегда используют размытый невнятный фон. Фотография обрезается так, чтобы на ней было видно лишь лицо человека. Вокруг волос зачастую заметны графические артефакты и оптический эффект гало. Слабое место алгоритма - уши и мелкие украшения. Так, на четком портрете Кейти Джонс серьга в ухе размыта, а на самом ухе можно заметить странную “лесенку” теней. Глаза, к слову, тоже не идеальны. Они немного неправильно посажены и имеют разный оттенок. В природе гетерохромия (разный цвет глаз) встречается чрезвычайно редко.
Вся эта ситуация сама по себе не является катастрофой, но она очень интересна по другой причине. Ведь перед нами - первый доказанный пример использования ИИ-фейков для чего-то по-настоящему крупного.
