Идея цифрового двойника человека выглядит весьма заманчиво. Если искусственный интеллект получает достаточно информации о конкретном человеке — его возрасте, образовании, характере, прошлых решениях и ответах на многочисленные вопросы, — почему бы не использовать эту модель для прогнозирования его поведения?
Такой подход мог бы открыть немало возможностей. Компаниям цифровые двойники позволили бы быстрее проводить опросы и исследования, а ученым — экспериментировать с виртуальными участниками там, где реальные эксперименты связаны с риском или этическими ограничениями.
Однако новое масштабное исследование показывает: современный искусственный интеллект пока слишком плохо понимает индивидуальные особенности людей, чтобы надежно выполнять такую роль. Более того, созданные модели систематически искажают человеческое поведение, словно смотрят на него через кривое зеркало.
Что такое цифровой двойник человека
Цифровой двойник в данном случае — это не трехмерная компьютерная копия человека и не виртуальный аватар. Речь идет о большой языковой модели, которую дополняют данными о конкретном человеке: демографическими характеристиками, чертами личности, предыдущими ответами на вопросы и сделанным ранее выбором.
Задача такого ИИ — воспроизводить решения реального человека и предсказывать, как тот мог бы поступить в новой ситуации.
В перспективе сторонники технологии предполагают даже более амбициозные сценарии: цифровой двойник мог бы принимать решения или вести переговоры от имени своего владельца.
Но насколько хорошо такая модель действительно способна представить конкретного человека?
Масштабный эксперимент с 1784 участниками
Чтобы это проверить, исследовательская группа под руководством Тяньи Пэн (Tianyi Peng) из Колумбийского университета провела серию из 19 экспериментов.
В исследовании участвовали 1784 человека. Для каждого создавали персонального ИИ-двойника, которому передавали более 500 предыдущих ответов этого человека. Затем искусственный интеллект должен был отвечать на новые вопросы так, как, предположительно, ответил бы его реальный прототип.
Тематика была максимально разнообразной: от решений при найме сотрудников и политических взглядов до вопросов конфиденциальности и предпочтений в потреблении новостей.
Затем ответы цифровых двойников сравнили с решениями реальных участников.
Результат оказался далеко не таким впечатляющим, как хотелось бы разработчикам подобных систем.
Пять причин, почему ИИ искажает человека
Исследователи обнаружили несколько устойчивых закономерностей, из-за которых цифровые двойники заметно расходились с реальными людьми.
1. ИИ делает людей слишком похожими друг на друга
Настоящие люди отличаются друг от друга гораздо сильнее, чем это показывали их цифровые копии. Ответы ИИ оказались менее разнообразными, то есть модели были склонны сглаживать индивидуальные различия.
Это серьезная проблема для самой концепции цифрового двойника. Ведь смысл такой системы как раз в том, чтобы воспроизводить конкретного человека, а не усредненного представителя определенной социальной группы.
2. Стереотипы оказываются сильнее индивидуальности
Вместо того чтобы в достаточной степени учитывать уникальную историю человека, модели слишком часто опирались на общие демографические признаки.
Иными словами, ИИ мог рассуждать примерно так: если человек относится к определенной возрастной, образовательной или социальной группе, значит, он, скорее всего, будет вести себя соответствующим образом.
Но люди не всегда следуют статистическому шаблону. Именно индивидуальные исключения и делают человеческое поведение настолько сложным для прогнозирования.
3. У цифровых двойников обнаружился идеологический уклон
ИИ-двойники в среднем проявляли больше оптимизма относительно людей и технологий, чем реальные участники исследования.
Это означает, что модель не просто копировала имеющиеся данные, а вносила собственные систематические искажения в прогноз.
4. Одних людей ИИ моделирует лучше других
Точность цифровых двойников заметно зависела от характеристик самих участников.
Модели лучше справлялись с прогнозированием поведения людей с более высоким уровнем дохода и образования. Для других групп точность была ниже.
Такое различие особенно важно, если цифровые двойники когда-нибудь начнут использоваться в реальных социальных исследованиях или системах принятия решений. Модель, которая хорошо представляет одни группы населения и плохо — другие, может создавать дополнительные искажения уже на уровне результатов исследования.
5. ИИ слишком рационален
Пожалуй, самый любопытный результат эксперимента заключается в том, что цифровые двойники оказались слишком рациональными.
Они демонстрировали больше знаний и чаще выбирали ответ, который считался рациональным, даже если реальный человек, которого модель должна была представлять, ранее поступал иначе.
На первый взгляд это можно принять за преимущество искусственного интеллекта. Но для цифрового двойника это, наоборот, недостаток.
Если человек принимает решение под влиянием эмоций, привычек, неполной информации или просто совершает не самый разумный выбор, его цифровая копия должна воспроизвести именно это поведение. В противном случае перед нами уже не двойник, а улучшенная и довольно условная версия человека.
Почему результаты важны
Главная проблема цифровых двойников заключается не в том, что они иногда ошибаются. Любая модель прогнозирования ошибается.
Гораздо серьезнее то, что ошибки оказались систематическими.
ИИ не просто случайным образом промахивался мимо отдельных ответов. Он последовательно делал людей более похожими друг на друга, сильнее опирался на демографические стереотипы, демонстрировал собственный уклон и приписывал людям более рациональное поведение.
При этом использование более чем 500 предыдущих ответов на каждого участника лишь немного улучшало способность предсказывать новые решения по сравнению с той же моделью, которой данные о конкретном человеке вообще не предоставляли.
Получается парадокс: мы можем дать модели огромное количество информации о человеке, но это еще не означает, что она действительно начнет понимать его индивидуальность.
Почему цифровой двойник — не просто «много данных»
Этот эксперимент показывает фундаментальную проблему современных больших языковых моделей.
Человек — это не сумма анкетных данных. Его решения зависят от контекста, прошлого опыта, текущего эмоционального состояния, случайных обстоятельств и множества факторов, которые трудно измерить и еще труднее превратить в набор данных для обучения.
Даже если модель знает сотни предыдущих ответов человека, ей все равно необходимо понять, какие именно особенности этих ответов действительно важны для следующего решения.
И здесь возникает принципиальная разница между статистическим сходством и индивидуальным поведением. Можно достаточно хорошо описать типичного человека определенного возраста, образования или социального положения — и при этом совершенно не понимать конкретного Сергея, Анны или Джона.
Цифровые двойники пока не готовы к реальной работе
Авторы исследования приходят к достаточно однозначному выводу: нынешние цифровые двойники пока не готовы к широкому практическому применению.
Это не означает, что сама идея бесперспективна. Напротив, возможность создавать виртуальные модели участников могла бы оказаться чрезвычайно полезной для социологии, психологии, маркетинговых исследований и поведенческой науки.
Но прежде чем доверять таким моделям решения, которые должны отражать мнение или интересы реальных людей, необходимо научиться значительно лучше воспроизводить индивидуальные особенности поведения.
Пока же попытка сделать цифровую копию человека напоминает отражение в зеркале из комнаты смеха: знакомые черты вроде бы на месте, но пропорции заметно искажены.
И чем важнее становится задача, тем опаснее принимать такое отражение за точный портрет человека.
