Один из «крестных отцов» искусственного интеллекта, лауреат Нобелевской премии по физике и автор фундаментальных идей, лежащих в основе современных ИИ-моделей, Геоффри Хинтон вновь выступил с предупреждением о потенциальной угрозе, которую представляет стремительно развивающаяся и слабо регулируемая индустрия ИИ.
В интервью для CBS, показанном в начале апреля, Хинтон отметил, что общество недооценивает масштаб грядущих изменений. По его словам, существует от 10 до 20 процентов вероятности того, что ИИ в будущем сможет перехватить контроль у человечества. «Люди еще не осознали, с чем мы имеем дело», — подчеркнул он.
Для лучшего понимания ситуации он привел яркое сравнение:
«Мы словно завели милого тигренка. Если вы не уверены, что, став взрослым, он не попытается вас убить — стоит беспокоиться».
Именно Хинтон предложил первую эффективную архитектуру обучения глубоких нейронных сетей, которая впоследствии легла в основу таких систем, как ChatGPT. Несмотря на свои заслуги в развитии ИИ, он уже давно выражает обеспокоенность последствиями стремительного прогресса в этой сфере без должных ограничений и механизмов безопасности.
В 2023 году Хинтон ушел из Google, чтобы открыто говорить о рисках, не связывая свои высказывания с позицией корпорации. Он также выразил сожаление по поводу того, что Google пересмотрела свою политику и допустила использование своих ИИ-разработок в военных целях.
По словам ученого, крупнейшие технологические компании не только не стремятся усилить контроль над ИИ, но и активно лоббируют дальнейшее снижение уже минимального уровня регулирования. «Они выделяют мизерную долю своих вычислительных ресурсов на исследования в области безопасности. Я считаю, что на это должно уходить не меньше трети», — заявил он.
Хинтон не является противником ИИ как такового. Он, как и Билл Гейтс, считает, что технологии способны изменить к лучшему здравоохранение, образование, науку и даже помочь в борьбе с изменением климата. Однако без должного контроля, по его мнению, риски становятся слишком велики.
В отличие от Хинтона, другой «крестный отец» ИИ, профессор Янн Лекун, не разделяет пессимистичный взгляд. Ранее он назвал опасения по поводу угрозы существованию человечества со стороны ИИ «абсурдными».
