Создание искусственного интеллекта, способного справляться с различными задачами без участия человека, является целью многих технологических гигантов. Google безусловно относится к этому списку и вносит в ИИ-сферу значительный вклад. Несмотря на это, компания разделяет опасения многих относительно возможной опасности от машинного разума для человека. Подразделение Google под названием DeepMind разработало «кнопку тревоги», дающую возможность мгновенно остановить искусственный интеллект и не дать ему причинить вред.
По мнению представителей DeepMind, аварийная кнопка последним рубежом контроля человечества над ИИ в случае опасности.
Конечно, это не будет универсальным средством для остановки всех версий машинного разума. Некоторые алгоритмы, к примеру, Q-learning, можно будет легко и безопасно приостановить, а для некоторых ИИ потребуются модифицированные технологии.
Пока неясно, возможна ли вообще работа данной кнопки со всеми существующими алгоритмами, но начало положено.
Информация предоставлена по материалам ubergizmo
