Восемь сценариев катастрофы: учёные выяснили, как искусственный интеллект может погубить человечество / Все новости / Главная

Искусственный интеллект способен не только изменить привычный уклад жизни, но и создать угрозы, последствия которых окажутся необратимыми. Исследователи из Массачусетского технологического института (MIT) и ряда других научных организаций систематизировали возможные сценарии глобальной катастрофы, связанной с развитием ИИ. В результате они выделили восемь основных путей, по которым искусственный интеллект потенциально может привести к исчезновению человечества, краху цивилизации или установлению устойчивой тоталитарной системы.

Откуда взялись восемь сценариев?

Исследование провели специалисты Обсерватории экзистенциальных рисков (Existential Risk Observatory), Института будущего жизни (Future of Life Institute) и исследовательского подразделения MIT FutureTech. В работе также участвовали учёные из 15 других организаций, включая Университет Квинсленда и Оксфордский университет.

Проанализировав 3184 публикации, исследователи отобрали 58 работ, в которых рассматривались сценарии глобальных угроз, связанных с ИИ. На их основе удалось выделить 95 отдельных сценариев и объединить их в восемь категорий.

Восемь возможных путей к катастрофе

Учёные разделили выявленные сценарии на три большие группы.

1. Искусственный интеллект получает контроль над будущим человечества.

  • Единоличный захват власти: одна мощная система ИИ самостоятельно получает контроль над ключевыми процессами.
  • Распределённый захват: множество независимых систем постепенно приобретают влияние и власть.
  • Согласованный захват: несколько систем ИИ действуют совместно, усиливая свои возможности.
  • Постепенная передача полномочий: люди шаг за шагом делегируют искусственному интеллекту всё больше решений, пока не утрачивают возможность вернуть контроль.

2. Власть концентрируется в руках небольшой группы людей.

  • Укоренившийся тоталитаризм: технологии ИИ помогают установить и сохранить режим абсолютной власти.
  • Экономическое расслоение: автоматизация вытесняет человеческий труд, а экономические преимущества и политическое влияние концентрируются у ограниченного круга людей.

3. Искусственный интеллект усиливает разрушительные возможности человечества.

  • Катастрофическое изобретение: ИИ способствует созданию технологии, способной привести к гибели человечества.
  • Автоматизированная война: военные системы на основе ИИ вовлекаются в конфликт, который выходит из-под контроля людей.

Какие сценарии вызывают наибольшую обеспокоенность?

Наиболее часто в изученной литературе встречался сценарий единоличного захвата власти искусственным интеллектом. Он фигурировал в 41 из 95 рассмотренных сценариев.

На втором месте оказалась постепенная передача полномочий ИИ — 19 сценариев. Гораздо реже упоминались автоматизированные войны (три сценария) и экономическое расслоение (один сценарий).

Однако исследователи подчёркивают: количество упоминаний не означает, что тот или иной сценарий действительно более вероятен. Работа посвящена систематизации возможных угроз, а не вычислению вероятности наступления каждой из них.

Зачем нужна такая классификация?

По словам Питера Слэттери (Peter Slattery), научного сотрудника MIT FutureTech и одного из авторов исследования, систематизация угроз должна помочь разработчикам ИИ, государственным структурам и независимым экспертам лучше координировать усилия.

Каждый сценарий исследователи представили в виде последовательности причинно-следственных событий. Это позволяет оценивать реалистичность отдельных этапов, выявлять разногласия между специалистами и определять, какие меры безопасности необходимы в первую очередь.

Кроме того, подобная модель может помочь отслеживать ранние признаки развития опасных ситуаций. Если отдельные этапы потенциально катастрофического сценария начинают воплощаться в реальности, это может стать сигналом для своевременного вмешательства.

При этом авторы признают, что восемь категорий не охватывают абсолютно все возможные угрозы. В дальнейшем некоторые сценарии могут быть признаны несостоятельными, а другие — обнаружены по мере развития исследований.

Главный вывод работы заключается в том, что обсуждать риски искусственного интеллекта недостаточно — необходимо понимать конкретные механизмы, посредством которых они могут реализоваться. Только так можно своевременно выявлять опасные тенденции и разрабатывать меры, позволяющие сохранить человеческий контроль над технологиями.

Исследование опубликовано 18 ноября 2026 года. Научная работа и интерактивная база данных со всеми рассмотренными сценариями доступны в открытом доступе.

 

Похожие новости
Комментарии

comments powered by Disqus
Мы в социальных сетях: