Исследования показывают, что языковые модели, такие как GPT-4, способны эффективно менять взгляды людей. Искусственный интеллект попросту переубеждает собеседника в споре.
Мастерство убеждения
К такому выводу пришли ученые из Федеральной политехнической школы Лозанны (EPFL) в Швейцарии. Они провели масштабное исследование, в котором 820 человек дебатировали с другими людьми и с GPT-4 по ряду тем.
Результаты удивили: дебаты между живыми людьми чаще всего заканчивались тем, что оба участника укреплялись в собственной позиции и не могли переубедить собеседника. А вот искусственный интеллект оказался мастером убеждения. Когда ИИ GPT-4 получал хотя бы немного информации о своем оппоненте, (пол, возраст, образование и т.д.), он убеждал этого человека в своей правоте на 81,7% лучше, чем это мог бы сделать живой собеседник.
Проще говоря, искусственный интеллект мастерски подбирает персональные “ключики” к человеку, и находит слова, которые лучше всего способны переубедить конкретно этого оппонента.
Массовые манипуляции
Ученые серьезно обеспокоены полученными результатами. Опасения вызывает то, что ИИ будет манипулировать общественным мнением в огромных масштабах, подстраивая аргументы под каждого индивидуума. Социальные сети и комментарии станут полем боя за умы, где ИИ будет формировать общественное мнение по чьему-то заказу.
Следующим шагом станет использование эмоций. Уже сейчас разрабатываются системы, способные распознавать эмоциональное состояние человека по голосу (Hume AI) и даже по мимике (с использованием камеры смартфона или компьютера). Это позволит ИИ с еще большей точностью подбирать точечные аргументы и влиять на решения человека.
Впрочем, технология может принести и пользу. Она может повышать уровень счастья, выявлять нуждающихся и предотвращать конфликты. Но есть и обратная сторона. Эмоционально-чувствительная реклама, манипуляции со стороны властей или недоброжелателей - все это станет реальностью.
Контролировать свои эмоции перед лицом таких ИИ будет непросто. Людям следует подготовиться к тому, что любая беседа с машиной будет представлять собой хитрую манипуляцию, преследующую чужую цель. Не обязательно злую или враждебную - но чужую. В общем, будущим поколениям придется учиться распознавать, когда машина пытается им что-то навязать.
