Искусственный интеллект способен не только изменить привычный уклад жизни, но и создать угрозы, последствия которых окажутся необратимыми. Исследователи из Массачусетского технологического института (MIT) и ряда других научных организаций систематизировали возможные сценарии глобальной катастрофы, связанной с развитием ИИ. В результате они выделили восемь основных путей, по которым искусственный интеллект потенциально может привести к исчезновению человечества, краху цивилизации или установлению устойчивой тоталитарной системы.

Откуда взялись восемь сценариев?
Исследование провели специалисты Обсерватории экзистенциальных рисков (Existential Risk Observatory), Института будущего жизни (Future of Life Institute) и исследовательского подразделения MIT FutureTech. В работе также участвовали учёные из 15 других организаций, включая Университет Квинсленда и Оксфордский университет.
Проанализировав 3184 публикации, исследователи отобрали 58 работ, в которых рассматривались сценарии глобальных угроз, связанных с ИИ. На их основе удалось выделить 95 отдельных сценариев и объединить их в восемь категорий.
Восемь возможных путей к катастрофе
Учёные разделили выявленные сценарии на три большие группы.
1. Искусственный интеллект получает контроль над будущим человечества.
- Единоличный захват власти: одна мощная система ИИ самостоятельно получает контроль над ключевыми процессами.
- Распределённый захват: множество независимых систем постепенно приобретают влияние и власть.
- Согласованный захват: несколько систем ИИ действуют совместно, усиливая свои возможности.
- Постепенная передача полномочий: люди шаг за шагом делегируют искусственному интеллекту всё больше решений, пока не утрачивают возможность вернуть контроль.
2. Власть концентрируется в руках небольшой группы людей.
- Укоренившийся тоталитаризм: технологии ИИ помогают установить и сохранить режим абсолютной власти.
- Экономическое расслоение: автоматизация вытесняет человеческий труд, а экономические преимущества и политическое влияние концентрируются у ограниченного круга людей.
3. Искусственный интеллект усиливает разрушительные возможности человечества.
- Катастрофическое изобретение: ИИ способствует созданию технологии, способной привести к гибели человечества.
- Автоматизированная война: военные системы на основе ИИ вовлекаются в конфликт, который выходит из-под контроля людей.
Какие сценарии вызывают наибольшую обеспокоенность?
Наиболее часто в изученной литературе встречался сценарий единоличного захвата власти искусственным интеллектом. Он фигурировал в 41 из 95 рассмотренных сценариев.
На втором месте оказалась постепенная передача полномочий ИИ — 19 сценариев. Гораздо реже упоминались автоматизированные войны (три сценария) и экономическое расслоение (один сценарий).
Однако исследователи подчёркивают: количество упоминаний не означает, что тот или иной сценарий действительно более вероятен. Работа посвящена систематизации возможных угроз, а не вычислению вероятности наступления каждой из них.
Зачем нужна такая классификация?
По словам Питера Слэттери (Peter Slattery), научного сотрудника MIT FutureTech и одного из авторов исследования, систематизация угроз должна помочь разработчикам ИИ, государственным структурам и независимым экспертам лучше координировать усилия.
Каждый сценарий исследователи представили в виде последовательности причинно-следственных событий. Это позволяет оценивать реалистичность отдельных этапов, выявлять разногласия между специалистами и определять, какие меры безопасности необходимы в первую очередь.
Кроме того, подобная модель может помочь отслеживать ранние признаки развития опасных ситуаций. Если отдельные этапы потенциально катастрофического сценария начинают воплощаться в реальности, это может стать сигналом для своевременного вмешательства.
При этом авторы признают, что восемь категорий не охватывают абсолютно все возможные угрозы. В дальнейшем некоторые сценарии могут быть признаны несостоятельными, а другие — обнаружены по мере развития исследований.
Главный вывод работы заключается в том, что обсуждать риски искусственного интеллекта недостаточно — необходимо понимать конкретные механизмы, посредством которых они могут реализоваться. Только так можно своевременно выявлять опасные тенденции и разрабатывать меры, позволяющие сохранить человеческий контроль над технологиями.
Исследование опубликовано 18 ноября 2026 года. Научная работа и интерактивная база данных со всеми рассмотренными сценариями доступны в открытом доступе.
