Может ли искусственный интеллект развиваться и становиться более сложным, если создать для него конкурентные условия, вроде тех, в которых находилась жизнь с момента появления на Земле? Будут ли работать для него инструменты естественного отбора в виртуальной среде? Такими вопросами задались ученые OpenAI, некоммерческая исследовательская компании, занимающейся искусственным интеллектом.
Ученые провели потрясающий эксперимент с искусственной эволюцией. Они создали виртуальное пространство, населили его самообучающимися ботами и заставили их снова и снова играть в прятки. В общей сложности было проведено около 500 млн раундов игры. Со временем ученые начали замечать, что ИИ сам разрабатывает различные стратегии и учится противодействовать приемам, которые разрабатываются другими ботами.
Сначала боты-искатели (охотники) и боты-прячущиеся (жертвы) просто бегали по игровому пространству. Но примерно после 25 млн игр жертвы научились использовать коробки, чтобы блокировать выходы и баррикадировать себя внутри комнат. Также они выработали стратегию стайного поведения, которая позволила им работать сообща и передавать друг другу коробки, быстрее блокируя выходы от хищников.
В ответ на это примерно после 75 млн игр хищники научились обходить баррикады, перемещать и использовать пандусы для преодоления препятствий.
После 85 млн игр жертвы научились забирать пандусы с собой и прятать их внутри своего “форта”, лишая хищников ценного инструмента.
По словам Боуэна Бейкера из OpenAI, все это является одним из самых потрясающих примеров того, как эволюционные инструменты естественного отбора работают в виртуальном пространстве. “Как только одна команда узнает новую стратегию, это создает давление на другую команду, вынуждая ее адаптироваться. Это интересный аналог того, как люди эволюционировали на Земле, где существовала постоянная конкуренция между организмами”, - говорит Бейкер.
Развитие ботов не остановилось. В определенный момент они научились использовать уязвимости и баги в своего виртуального мира. Например, жертвы научились избавляться от опасных пандусов навсегда, проталкивая их сквозь текстуры стен. По словам ученых, это говорит о том, что искусственный интеллект может находить такие решения сложных проблем, о каких человек даже не подумает. А еще это означает, что, в случае непредвиденной ситуации, сдержать вышедший из под контроля ИИ будет куда сложнее, чем нам может казаться.
