Как сделать умные машины еще умнее? Рассказать им о том, что они могут погибнуть в любую минуту. На первый взгляд, идея звучит странно, но именно так считают нейробиологи из Университета Южной Калифорнии.
В новой статье, опубликованной в журнале Nature, ученые заявляют, что “в динамичном и непредсказуемом мире каждый разумный агент должен преследовать собственную мета-цель самосохранения”.
Ведущий автор статьи Антонио Дамасио - настоящее светило в области интеллекта и мозга. Ассоциация научных интеллектуалов Edge Foundation утверждает, что Дамасио “внес основополагающий вклад в понимание мозговых процессов, лежащих в основе эмоций, чувств, принятия решений и сознания”. В Университете Южной Калифорнии он является главой Института мозга. В общем, мнением этого человека не стоит пренебрегать.
В своей новой работе Дамасио утверждает, что роботов можно сделать более надежными и устойчивыми, не увеличивая их прочность и силу, а, напротив, делая их уязвимыми и внедряя в них идеи сдержанности и стратегии самосохранения. “Если ИИ может использовать входные данные, вроде сигналов с сенсорного дисплея и датчика давления, то он также может идентифицировать опасность и риск для себя”, - говорит он.
Машины, способные чувствовать собственное “здоровье” - не новинка. Самый простой пример - обычные автомобили, оборудованные датчиками уровня масла или состояния двигателя. Когда автомобиль сообщает вам о том, что уровень масла в двигателе низок, это - ни что иное, как базовый пример поведения, нацеленного на самосохранение. От живого существа такая машина отличается лишь тем, что у нее нет промежуточного слоя схем для моделирования мышления или самостоятельной расстановки приоритетов. Мозгом автомобиля, ответственным за принятие решений, является сам водитель.
Но у более сложной техники способность “мыслить” или устанавливать приоритеты уже имеется. А значит, эту технику можно научить заботиться о самосохранении. Дамасио называет это “машинным гомеостазом”, способностью системы сохранять постоянство своего внутреннего состояния посредством скоординированных реакций.
“В определенных условиях машины, способные реализовать процесс, напоминающий гомеостаз, могут приобрести источник собственной мотивации и даже новый инструмент оценки поведения, похожий на чувства в живых организмах”, - говорит Дамасио. Проще говоря, именно способность чувствовать страх смерти может привести к появлению у машин эмоций и настоящего самосознания. В конце концов, именно страх смерти был первым чувством, которое четыре миллиарда лет назад испытала первая жизнь на Земле. А значит, машины вполне могут пройти тот же эволюционный путь.
Дамасио не дает ответа на вопрос о том, насколько этично будет с нашей стороны создавать жизнь, способную осознавать собственную обреченность. Впрочем, большинству людей этот вопрос не мешает заводить детей, обреченных на существование и неизбежную смерть. А значит, и с роботами "прокатит".
Если хотите получать новости через мессенджер, подписывайтесь на новый Telegram-канал iGate
