США, как и некоторые другие страны, ранее заявляли о своем намерении сохранить контроль над ядерным оружием исключительно в руках человека. Однако Пентагон все чаще рассматривает возможность использования искусственного интеллекта для "усовершенствования" систем ядерного командования, управления и связи (NC3, nuclear command, control, and communications).
В конце прошлого месяца генерал ВВС Энтони Дж. Коттон, глава Стратегического командования США, заявил, что командование "изучает все возможные технологии, методы и способы, чтобы помочь модернизировать наши возможности NC3".
За последние несколько лет было разработано несколько военных систем вооружения и транспортных средств, управляемых искусственным интеллектом, включая истребители, беспилотники и пулеметы. Их использование на поле боя вызывает тревогу многих экспертов. Поэтому перспектива того, что ИИ, который все еще допускает множество ошибок, станет частью системы ядерного вооружения, ожидаемо спровоцировала еще больше опасений.
Генерал Коттон попытался развеять эти опасения на конференции Министерства обороны США по информационным системам разведки в 2024 году. Он заявил (в журнале Air & Space Forces Magazine), что хотя ИИ будет улучшать возможности принятия решений в области ядерного командования и управления, "мы никогда не должны позволять искусственному интеллекту принимать эти решения за нас".
Еще в мае чиновник Госдепартамента по контролю над вооружениями Пол Дин заявил на онлайн-брифинге, что Вашингтон взял на себя "четкое и твердое обязательство" сохранить контроль человека над ядерным оружием. Дин добавил, что Великобритания и Франция также взяли на себя такое же обязательство. Дин заявил, что США приветствовали бы аналогичное заявление других ядерных стран.
Коттон считает, что растущие угрозы, поток данных от датчиков и проблемы кибербезопасности делают использование ИИ необходимостью для того, чтобы американские силы опережали тех, кто стремится бросить вызов США. "Передовые системы могут информировать нас быстрее и эффективнее", - считает генерал.
Крис Адамс, генеральный директор подразделения стратегических космических систем Northrop Grumman, сказал, что часть проблемы с системой NC3 заключается в том, что она состоит из сотен подсистем, "которые модернизируются и поддерживаются в течение длительного периода времени в ответ на постоянно меняющуюся угрозу". Использование ИИ может помочь собирать, интерпретировать и представлять все данные, собираемые этими подсистемами, с более высокой скоростью.
В то же время, по словам Коттона, даже если ИИ не получит коды запуска, его использование в любой системе ядерного вооружения все еще может быть рискованным, и этот риск нужно учитывать.
"Нам необходимо направить усилия на исследования, чтобы понять риски каскадных эффектов моделей ИИ, возникающих и неожиданных поведений, а также косвенной интеграции ИИ в процессы принятия ядерных решений", - говорит генерал.
