Ученые Общества Макса Планка заявили, что человечество не сможет справится со сверхмощным искусственным интеллектом, если такой будет создан. Общества Макса Планка - одно из самых авторитетных научных сообществ, включающее более 80 институтов и исследовательских центров по всему миру.
Согласно исследованию, опубликованному на прошлой неделе в журнале Journal of Artificial Intelligence Research, проблема, заключается в невозможности сдержать сверхмощный алгоритм без технологии, которая бы превосходила его по мощности.
Парадокс сдерживания
Ученые сфокусировались конкретно на вопросе сдерживания ИИ. Если бы всемогущий алгоритм по какой-то причине решил навредить человечеству или вообще его уничтожить, что бы могли противопоставить ему люди?
По словам ученых, для этого потребовался бы некий “алгоритм сдерживания”, который мог бы прогнозировать бы поведение мятежного ИИ и не позволять ему причинять вред. Но поскольку алгоритм сдерживания должен быть, как минимум, столь же мощным, как и его предполагаемая цель, проблема становится невозможной для решения.
Задел на будущее
Конечно, все это пока лишь теория. Пройдет еще очень много времени, прежде чем мы сможем создать ИИ, который будет достаточно продвинутым, чтобы угрожать человечеству. Но все же лучшие ученые мира уже ломают голову над возможной проблемой. Все потому, что решать ее следует заранее.
“Сверхинтеллектуальная машина, управляющая миром, выглядит научная фантастика. Но уже существуют машины, выполняющие важные задачи самостоятельно без полного понимания программистами того, как они освоили этот навык. Поэтому возникает вопрос, может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества”, - пишет соавтор исследования Мануэль Себриан, лидер группы цифровой мобилизации в Центре людей и машин Института развития человека Макса Планка.
