Исследователи из Университета штата Северная Каролина разработали и подтвердили эффективность нового подхода, позволяющего беспилотным автомобилям принимать этически обоснованные решения на дороге. Новый метод основан на анализе моральных суждений людей в обыденных дорожных ситуациях и направлен на то, чтобы обучить автономные системы учитывать этические аспекты поведения за рулём.
Как это работает
В центре новой методики лежит модель ADC (Agent-Deed-Consequence, “Агент-Поступок-Последствие”), согласно которой при вынесении моральной оценки человек учитывает три ключевых элемента:
- Агент — характер и намерения действующего лица;
- Поступок — само действие;
- Последствия — результат, к которому приводит действие.
По словам профессора программы «Наука, технологии и общество» Велко Дублевича, большинство дорожно-транспортных происшествий происходит не из-за злого умысла, а из-за повседневных решений с низкими рисками — например, превышения скорости на 8 км/ч или неполной остановки у знака «Стоп». Именно такие ситуации исследователи считают ключевыми для разработки моральных алгоритмов для автономных машин.
Для валидации своей модели учёные привлекли 274 участника с философским образованием. Им предлагались описания типичных дорожных ситуаций с последующими вопросами о моральной приемлемости действий водителей. Параллельно оценивалась этическая позиция каждого участника — были задействованы утилитаристы, деонтологи, сторонники этики добродетели и другие.
Главной задачей было выяснить, насколько каждый из элементов модели ADC влияет на моральную оценку в условиях, когда ставки невелики.
Результаты показали, что все три компонента (агент, поступок, последствия) оказывают значительное влияние на моральное суждение. Более того, несмотря на различия в философских подходах, участники — вне зависимости от школы — давали схожие оценки.
«Это удивительно, потому что обычно утилитаристы и деонтологи сильно расходятся во мнениях, — отметил Дублевич. — Однако в этих дорожных сценариях они пришли к одинаковым выводам. Это позволяет говорить о возможности обобщения наших результатов для обучения беспилотников».
Авторы подчёркивают, что в отличие от популярных моральных дилемм (вроде задачи с трамваем), повседневные и более «приземлённые» ситуации за рулём долгое время оставались без должного внимания. Однако именно они имеют наибольшее значение при создании систем, способных к реальному этическому выбору в дорожной среде.
