Стоит ли рисковать жизнью или здоровьем людей, чтобы спасти робота? На первый взгляд, этот вопрос может показаться глупым. Кажется, так мог бы поступить только истинный мизантроп. Но новое исследование показывает, что на самом деле довольно много людей поступили бы подобным образом, но лишь при условии что этот робот выглядел бы достаточно человекоподобным. Если так, то где же находится линия разграничения?
Автоматизация хороша тем, что позволяет использовать роботов для выполнения задач, связанных с риском травмы или смерти. К примеру, для обезвреживания мин, подводных спасательных работ, горной промышленности, работы при экстремальных температурах. В теории, “неживой” робот может взять на себя риск и сохранить человеческую жизнь. Но на практике, люди часто попадают в ловушку собственной эмпатии.
Сочувствие роботам
Недавно голландские и немецкие ученые провели исследование с целью выяснить, насколько сильно люди сочувствуют и беспокоятся о роботах, и каково место машин на нашей условно “моральной шкале”.
Если говорить точно, то исследование, опубликованное в журнале Social Cognition описывает, “при каких обстоятельствах и до какой степени взрослые готовы пожертвовать роботами для спасения человеческих жизней”.
Участники исследования были поставлены перед гипотетической моральной дилеммой, схожей с классическим мысленным экспериментом “Проблемы вагонетки”. Испытуемые должны были решить, готовы ли они пожертвовать единственным индивидом для спасения группы людей. В различных сценариях роль гипотетической жертвы отводилась разным персонажам:
- живому человеку;
- человекоподобному роботу в большей или меньшей степени похожему на человека;
- негуманоидному роботу, который явно являлся машиной.
Результаты показали предсказуемую зависимость. Чем более человекоподобным был робот, тем меньше людей готовы были им пожертвовать ради спасения группы незнакомцев. То есть, в глазах испытуемых машина, обладающая внешностью андроида Дейты из “Звездного пути” или Эндрю из “Двухсотлетнего человека”, была более ценной, чем какой-нибудь “говорящий тостер”, каким бы умным этот тостер ни был.
Некоторые сценарии были более сложными. Они включали в себя описание мыслей, чувств, восприятия и опыта, который испытывал робот. В этих случаях испытуемые чаще всего не готовы были пожертвовать машиной и оставляли незнакомцев погибать. Более того, в некоторых ситуациях наблюдалось обратное. Некоторые испытуемые готовы были принести в жертву раненого человека, чтобы спасти “чувствующего” робота.
По словам Мартина Паулюса, профессора психологии Мюнхенского университета, такой результат указывает на то, что группа испытуемых присваивала роботу определенный моральный статус. По результатам исследования можно сделать вывод, что разработчикам не следует придавать своим машинам слишком человекоподобный вид. В противном случае антропоморфная внешность роботов может вступить в конфликт с их функцией - помогать людям.
Ловушка эмпатии
Развитие искусственного интеллекта не обязательно приведет к появлению роботов с сознанием в том смысле, в каком мы его понимаем. Даже самый сложный искусственный интеллект не мыслит так, как живой человеческий мозг. Да и не должен. Ведь суть многих сегодняшних разработок в сфере ИИ заключается не в том, чтобы научить компьютер думать и чувствовать по-человечески, а в том, чтобы создать иллюзию такого мышления. Поскольку же ИИ становится все более способным, нам следует воспринимать сам термин “интеллект” с осторожностью. Иначе мы рискуем попасть в ловушку чрезмерного “очеловечивания” машины.
Идея о создании искусственного человека - давняя мечта нашего вида. Настолько давняя, что ее корни можно отыскать среди мифов древнего мира и античности. Но лишь в наше время искусственные существа становятся реальными. Мы общаемся с ними в чатах, сталкиваемся в видеоиграх и виртуальной реальности. А довольно скоро антропоморфные роботы станут обыденной частью реального мира.
При этом машины становятся все более убедительными. Они не обладают сознанием и вряд ли его разовьют в обозримом будущем, но этого и не нужно. Если компьютер ведет себя как человек, то большинство людей будет воспринимать его соответствующим образом, в особенности - люди, не слишком разбирающиеся в технологиях.
Когда голосовой ассистент ведет с вами естественный диалог, вы не особенно задумываетесь об алгоритмах, которые за этим стоят. Вы просто позволяете себе верить, что имеете дело с реальной личностью. А в будущем, где роботы будут выполнять роль дворецких, врачей, сиделок и терапевтов, этот эффект лишь усилится. Все это можно считать некой формой эмоциональной манипуляции, но люди неизбежно будут ей поддаваться. Они будут привязываться к человекоподобным машинам, влюбляться в них, считать их друзьями. А потому в будущем неизбежно настанет момент, когда живой человек, не особо задумываясь, пожертвует своей или чужой жизнью для спасения дорогого ему робота. Как пожертсовал бы ради дорогого человека.
