Китайские эксперты и политики опасаются, что стремление интегрировать искусственный интеллект в оружие и военную технику может случайно спровоцировать большую войну.
Согласно новому отчету, опубликованному Центром Новой американской безопасности (CNAS), китайские чиновники все больше видят новую «гонку вооружений» в сфере искусственного интеллекта как глобальную угрозу для мира. Сегодня страны пытаются извлечь выгоду от искусственного интеллекта в самых разных областях, включая вооруженные силы. Главное опасение состоит в том, что технология может привести к непредумышленному конфликту.
«Один из сценариев, о котором мне рассказал анонимный китайский чиновник, описывает неумышленную эскалацию, связанную с использованием беспилотника», - говорит автор отчета Грегори К. Аллен, старший научный сотрудник в CNAS.
По словам Аллена, эксплуатация беспилотников, крупных и маленьких, становится все более автоматизированной. В США беспилотники имеют базовые функции автопилота, что позволяет им выполнять простые задачи, вроде полета по кругу вокруг потенциальной цели. Для нанесения же удара нужен контроль со стороны живого оператора.
Но Китай предоставляет своим машинам гораздо больший уровень автономии. Пример тому - беспилотник Blowfish A2, который экспортируется Китаем на международном уровне и позиционируется как машина, способная к полностью автономному ведению боевых действий.
Риски и интерпретация
Прототип автономного беспилотника X-47B взлетает с борта авианосца США
Поскольку беспилотниками управляют удаленно, оператор при выполнении боевых задач не рискует собственной жизнью. Отсутствие непосредственного риска для жизни заставляет военных действовать более агрессивно. К примеру, оператор не слишком переживает, заводя беспилотник в воздушное пространство над оспариваемой территорией. То же наблюдается в ходе кибервойн, когда удаленно проводятся операции, которые выглядели бы слишком рискованными с участием живой силы.
«Становится не вполне понятно, как та или иная сторона будет интерпретировать действия, совершаемые с применением автономного оборудования. К примеру, сторона, отправляющая автономный беспилотник, может думать это не имеет большого значения, поскольку действие не сопряжено с риском для жизни пилота. По этой же причине другая сторона может легко отдать приказ на уничтожение беспилотника», - говорит Аллен.
Но все становится сложнее, когда в дело вступает более продвинутая автономная система. Предположим, робот делает предупредительный выстрел в сторону войск противника. Как будет интерпретировано это действие? Противник воспримет это как реакцию автоматической системы, либо как прямую команду вражеского командира? И какой будет реакция?
По словам Аллена, мир подходит к очень опасной черте. Ученый считает, что всем государствам в мире необходимо определить некие «нормы вооруженного конфликта» для автономных систем. Потому что в противном случае риск непредумышленной эскалации, приводящей к большой войне, возрастает с каждым днем. «Я точно знаю, что это - реальная и серьезная угроза», - говорит Аллен.
Китай и США
Современная военная техника все чаще получает автономные боевые функции
Оставшаяся часть отчета CNAS описывает много интересных моментов касательно стратегии Китая в отношении искусственного интеллекта.
К примеру, китайские власти убеждены, что на данный момент в мире существует всего две сверхдержавы, обладающих жизнеспособными технологиями ИИ. Это сам Китай и США. У обеих стран есть специалисты, финансирование, и растущие технологические сектора, продвигающие эту технологию вперед. Также у каждой страны есть свои преимущества и слабости. Китай имеет доступ к большему количеству данных и потенциал, чтобы опередить Западные технологии. К примеру, многие китайские граждане перешли к владению мобильным телефоном с нуля, минуя стадию стационарных аппаратов и наземных линий связи. С другой стороны, США лидирует в сфере изготовления микросхем, что также жизненно важно для искусственного интеллекта.
Согласно отчету CNAS, Китай изо всех сил стремится преодолеть этот разрыв. Китайские технологические гиганты Baidu, Alibaba и Huawei уже сейчас разрабатывают специализированные аппаратные средства для обработки искусственного интеллекта. Все эти проекты обильно поливаются потоком правительственных денег.
Предпринимаются и другие попытки сравнять счет. К ним можно отнести и прошлогоднее предложение сингапурской компании Broadcom по покупке американского производителя чипов Qualcomm. Сумма сделки могла бы составить $119 млрд., что сделало бы ее крупнейшей покупкой в истории мировой технологической индустрии. Но сделку лично заблокировал своим указом президент США, очевидно, опасаясь, что из-за дорогой покупки торчат именно «китайские уши».
Гонка ИИ-вооружений между Китаем и США будет становиться все более напряженной. Тем не менее, Грегори К. Аллен убежден, что сотрудничество тоже необходимо, особенно в ситуациях, касающихся вопросов войны. По словам Аллена, китайские чиновники неплохо осведомлены о взглядах американских коллег на проблемы автономного вооружение. А вот американские чиновники, напротив, порой не очень хорошо проинформированы о взглядах китайцев. Виной тому - банальный языковой барьер. Китайцы неплохо владеют английским, а американцы китайским - нет. При этом множество китайских программных документов попросту не переводится на английский язык. По мнению Аллена, непонимание стратегий разных стран увеличивает риск непредумышленной войны.
