Стали бы вы покупать беспилотный автомобиль, который способен вас убить? Вероятно, нет. А как насчет беспилотного автомобиля, который способен убить своего пассажира, если это – единственный шанс избежать многочисленных жертв среди пешеходов?
Жестокие тесты
Очень скоро беспилотные автомобили в большом количестве появятся на дорогах городов. А значит, рано или поздно неизбежно возникнет ситуация, когда автомобилю придется кем-то жертвовать.
Хрестоматийный пример: автомобиль едет по горному серпантину, но перед ним откуда ни возьмись возникает группа детей. Затормозить уже не получится. Если за рулем живой человек, ему придется за доли секунды выбирать – свернуть с дороги в пропасть и наверняка погибнуть, либо не сворачивать и убить пешеходов. Какое бы решение не принял в подобной ситуации человек, многие отнесутся к нему с пониманием – именно потому, что он живой человек. Но как в этом случае должен поступать робот?
Чтобы выяснить это, Массачусетский технологический институт запустил анонимный онлайн-тест Moral Machine. Пользователям предлагаются гипотетические дилеммы, в которых нет очевидного верного ответа. Интересно, что в тестах потенциальные жертвы различаются и количественно, и «качественно». Убить одного пешехода, чтобы спасти пять людей в машине? Убить пять пешеходов, чтобы спасти двоих пассажиров? А если количество пешеходов равно количеству пассажиров? А если в машине ребенок, а на дороге – группа стариков? Ответить на все эти вопросы вы можете на сайте MIT. Выбирайте осторожно. Не исключено, что ваши решения повлияют на то, как будут программироваться реальные автомобили.
Живое исследование
Тестами Массачусетского технологического института все не ограничилось. Исследователи лично опросили около 2 тыс человек. Поначалу абсолютное большинство проголосовавших сочло, что беспилотный автомобиль должен минимизировать количество жертв, даже если при этом нужно пожертвовать пассажирами. Люди здраво рассуждали, что автомобиль должен вести себя «этично» и в безвыходной ситуации жертвовать меньшим количеством жизней ради спасения большего количества.
Забавно, что все подобные рассуждения уходили на второй план, когда исследователи спрашивали людей, купили бы они себе такую «этичную» машину. Как выясняется, ни при каких обстоятельствах. Когда участники опроса примеряли роль пассажиров на себя, то однозначно заявляли, что автомобиль должен спасать их жизнь ценой любых жертв. Иными словами, едва ли не каждый из опрошенных считал, что на «этичной» машине должны ездить все, кроме него самого.
Трагическая ирония
Трагическая ирония всей этой ситуации заключается в том, что подобные этические дилеммы сильно тормозят внедрение по-настоящему важной технологии. По данным Всемирной организации здравоохранения (ВОЗ), в мире ежегодно гибнет в ДТП 1,25 млн. человек. Примерно в 90% всех этих ДТП так или иначе виноваты люди. Это означает, что повсеместное внедрение беспилотных автомобилей могло бы спасать от смерти по миллиону человек в год.
Ученым еще только предстоит найти выход из этой безвыходной ситуации. Текущее исследование MIT – одно из первых в своем роде. Производителям автомобилей еще предстоит выработать какое-то конкретное решение и согласовать его с международными и национальными регуляторами. Но главное – производителям автомобилей придется искать компромисс с потребителем. А, как показывает текущий опыт, это может оказаться невероятно сложной задачей.
