Гонка ведущих технологических компаний за создание все более мощного искусственного интеллекта приобретает новый тревожный оттенок. Бывший исследователь Anthropic Джейкоб Коксон (Jacob Coxon), занимавшийся предварительным обучением AI-моделей, объявил об уходе из компании и заявил, что нынешние темпы развития искусственного интеллекта становятся опасными.
По его мнению, конкуренция между крупнейшими AI-лабораториями подталкивает их к созданию систем, способных самостоятельно улучшать собственные возможности. Коксон считает, что индустрия фактически движется к самоулучшающемуся сверхинтеллекту, не располагая надежными методами контроля такого уровня систем.
Почему исследователь ушел из Anthropic
Коксон проработал около трех лет в области предварительного обучения AI-моделей, причем успел поработать как в OpenAI, так и в Anthropic. В своем заявлении об уходе он утверждает, что ни одна из компаний, по его мнению, не действует достаточно ответственно.
Главная претензия исследователя связана не с самим развитием искусственного интеллекта, а с темпами этой гонки. Компании конкурируют за право первыми создать все более способные системы, а каждая попытка одной лаборатории замедлиться потенциально означает потерю преимущества перед конкурентами.
Коксон считает, что такая ситуация создает опасную систему стимулов: даже если отдельные исследователи понимают возможные риски, корпоративная конкуренция заставляет компании продолжать движение вперед.
Он также призвал коллег в индустрии открыто говорить о проблеме и допустил необходимость временно ограничить дальнейшее увеличение возможностей AI-моделей, чтобы дать исследователям время разработать более надежные механизмы безопасности.
Что такое самоулучшающийся сверхинтеллект
В центре предупреждений Коксона находится идея рекурсивного самоулучшения. Речь идет о гипотетической ситуации, в которой искусственный интеллект получает возможность существенно помогать в разработке следующего, более мощного поколения AI.
Пока процесс остается под контролем людей: инженеры определяют цели, выбирают архитектуру модели, оценивают результаты и решают, какие изменения внедрять. Однако по мере развития AI все больше этапов программирования, тестирования и научной работы можно передавать самим моделям.
Anthropic уже сообщала, что ее системы активно используются внутри компании для программирования и технических исследований. В июне 2026 года компания заявляла, что более 80% кода, объединенного в ее собственные системы, было сгенерировано Claude. До появления Claude Code в начале 2025 года этот показатель составлял всего несколько процентов.
Это еще не означает, что современные модели способны самостоятельно создавать своих полноценных преемников. Однако направление развития становится очевидным: AI все активнее участвует в разработке самого AI.
Даже Anthropic признает проблему
Предупреждение Коксона особенно примечательно тем, что Anthropic сама уделяет большое внимание безопасности искусственного интеллекта.
Ранее руководитель направления Alignment Science в компании Эван Хубингер (Evan Hubinger) публично признавал, что исследователи опасаются сценария, при котором сверхинтеллектуальная система может привести к катастрофическим последствиям. По его оценке, вероятность катастрофы в течение ближайшего десятилетия превышает 10%.
При этом Хубингер отметил принципиальную проблему: у исследователей пока нет окончательного решения задачи alignment, то есть надежного согласования целей и поведения мощной AI-системы с человеческими интересами.
Именно здесь возникает своеобразный парадокс. Компания одновременно разрабатывает все более мощные модели и признает, что универсального способа гарантировать их безопасное поведение пока не существует.
Почему компании продолжают гонку
Причина во многом экономическая. Современные AI-модели требуют огромных вычислительных ресурсов, а их развитие может приносить компаниям значительные конкурентные преимущества.
Если одна лаборатория остановит масштабирование моделей, пока остальные продолжают работу, она рискует отстать. Поэтому даже компании, которые публично говорят о необходимости осторожности, оказываются частью той же конкурентной системы.
Коксон утверждает, что именно это противоречие необходимо решить на международном уровне. По его мнению, одних добровольных ограничений со стороны отдельных компаний может оказаться недостаточно: если конкуренты продолжают ускоряться, самостоятельная пауза становится экономически невыгодной.
Похожую проблему обсуждали и руководители крупнейших AI-компаний. В совместном заявлении Pacing the Frontier представители Anthropic, OpenAI и Meta признавали, что конкурентное давление делает одностороннее замедление развития технологий крайне сложным. В качестве возможного решения они называли участие государственных структур и международное регулирование.
Что происходит с безопасностью AI
Проблема заключается не в том, что сегодняшние чат-боты внезапно обрели самостоятельные намерения. До полноценного автономного сверхразума современным системам еще очень далеко.
Речь идет о другом: возможности AI растут быстрее, чем успевают развиваться методы проверки и контроля этих систем.
Чем больше задач модель способна выполнять самостоятельно, тем сложнее становится заранее проверить все варианты ее поведения. Если AI начинает писать значительную часть программного кода, проводить научные исследования и участвовать в создании следующих поколений моделей, возникает дополнительный уровень сложности: инструмент, который мы пытаемся контролировать, одновременно помогает создавать сам себя.
Именно поэтому специалисты по AI safety рассматривают alignment, оценку возможностей моделей и независимый контроль как отдельные направления исследований, а не как задачи, которые можно решить простой настройкой одного параметра.
Катастрофический сценарий пока остается предметом споров
Важно подчеркнуть: утверждения о неизбежной катастрофе не являются установленным научным фактом.
Сценарии, при которых сверхмощный искусственный интеллект представляет экзистенциальную угрозу человечеству, остаются предметом серьезных дискуссий среди исследователей. Одни специалисты считают долгосрочные риски чрезвычайно значительными, другие указывают на неопределенность прогнозов и считают более насущными уже существующие проблемы — от злоупотребления AI до ошибок моделей и концентрации технологической власти.
Даже внутри Anthropic нет единого мнения о том, каким именно будет развитие событий. Однако тот факт, что специалисты непосредственно работающие над передовыми моделями публично обсуждают возможность катастрофических последствий, показывает масштаб неопределенности.
Поэтому главный вопрос сегодня звучит не столько как «станет ли AI опасным?», сколько как успеют ли механизмы безопасности развиться настолько же быстро, как сами модели.
Гонка, которую трудно остановить
История с уходом Коксона демонстрирует одну из главных проблем современной AI-индустрии. Создание все более мощных моделей стало глобальным соревнованием, в котором одновременно участвуют технологические компании, государства и огромные объемы капитала.
Парадокс в том, что участники гонки могут искренне опасаться последствий, но при этом продолжать ускоряться — просто потому, что никто не хочет первым остановиться.
Если развитие искусственного интеллекта действительно приближается к моменту, когда системы смогут существенно помогать в создании своих преемников, вопрос безопасности перестает быть исключительно технической проблемой отдельных лабораторий. Он становится вопросом международной политики и управления технологиями.
Пока неизвестно, приведет ли нынешняя гонка к появлению сверхинтеллекта в ближайшие годы и насколько опасным он окажется. Но одно уже очевидно: спор о том, как быстро человечество должно развивать AI и где провести границу допустимого, больше нельзя считать исключительно фантастическим сценарием.
