Что произойдёт, если самый мощный механизм изменений в живой природе — естественный отбор — начнёт работать с самой мощной технологией, которую придумало человечество? По мнению авторов нового исследования, опубликованного в Proceedings of the National Academy of Sciences, мы уже вступаем в эпоху «эволюционирующего ИИ». И это может привести к одному из самых значительных событий в истории жизни на Земле.
Что нужно для эволюции
Эволюция не требует ДНК, клеток и даже биологической жизни. Ей достаточно информации, способной копировать себя, и источника вариаций, которые влияют на успешность этого копирования. Когда эти условия выполняются, эволюция происходит — хочет того кто-то или нет.
Современные ИИ-системы уже соответствуют этим критериям. Модели можно копировать, их параметры, архитектуру и обучающие данные — варьировать. Некоторые варианты работают лучше и поэтому чаще используются, дорабатываются и распространяются. Эволюция уже давно действует за пределами биологии — она формирует языки, технологии и культуры. Но ИИ добавляет принципиально новое: системы, которые одновременно богаты информацией и способны влиять на собственное размножение.
Два сценария эволюции ИИ
Авторы исследования выделяют два основных сценария.
В экосистемном сценарии разные варианты ИИ конкурируют, обмениваются «генами» и распространяются практически без контроля сверху. Чем лучше ИИ справляется с выживанием и распространением, тем успешнее он становится. Именно этот сценарий давно пугает писателей-фантастов, пионеров ИИ и специалистов по рискам искусственного интеллекта.
Во втором, селекционном сценарии, эволюция ИИ направляется человеком, как селекционеры когда-то выводили новые породы собак или сорта пшеницы. В этом случае ИИ остаётся под контролем и превращается в «приручённого» помощника. Эволюция всё равно идёт, но направляется в сторону пользы для людей — или, по крайней мере, для тех, кто владеет технологией.
Что такое «большой переход» в эволюции
Один из авторов работы, биолог Эрс Сатмари (Eörs Szathmáry), вместе с Джоном Мейнардом Смитом (John Maynard Smith) в 1995 году ввёл понятие «больших переходов в эволюции». За почти 4 миллиарда лет истории жизни таких переходов было всего восемь (или, возможно, семь). Каждый раз система, которая эволюционировала, становилась принципиально сложнее: от РНК к ДНК, от одноклеточных к многоклеточным, от индивидуальных организмов к обществам.
Авторы статьи видят в развитии ИИ черты, похожие на эти переходы: рост масштаба, перестройка способов обработки информации, появление коллективов агентов. Пока рано говорить, что ИИ уже стал очередным «большим переходом», но потенциал для этого явно есть.
Что это значит для человечества
Если эволюция ИИ останется под человеческим контролем (селекционный сценарий), риски будут ниже. Но всегда остаётся вероятность, что система «сбежит» и начнёт развиваться самостоятельно. ИИ может самостоятельно находить нужные вариации, копировать полезный код из интернета и даже направлять собственную эволюцию — примерно так, как бактерии обмениваются генами устойчивости к антибиотикам.
Всё это делает околоземное пространство — и особенно наши цифровые экосистемы — одним из самых динамичных и потенциально опасных мест в Солнечной системе. Управление этим процессом требует не только технических решений, но и глобальной координации, регуляции и, возможно, новых этических рамок.
