После появления ChatGPT, Bard и других больших языковых моделей (LLM) мы все чаще слышим от экспертов и ученых предупреждения о рисках, создаваемых искусственным интеллектом. Теперь группа высокопоставленных лидеров отрасли выступила с необычным открытым письмом, состоящим всего из одного предложения:
“Уменьшение риска вымирания вследствие ИИ должно быть глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война”.
Письмо размещено на сайте Center for AI Safety (Центр безопасности ИИ) - организации, которая призвана «снизить риски в масштабах общества от искусственного интеллекта»
Подписанты - ведущие эксперты из индустрии ИИ, включая исполнительного директора OpenAI Сэма Олтмана - того самого, что ответственен за разработку ChatGPT. Также письмо подписал глава Google DeepMind Демис Хассабис. Исследователи, удостоенные премии Тьюринга Джеффри Хинтон и Йошуа Бенгио, считающиеся крестными отцами современного ИИ, также оставили под письмом свои имена.
Это второе подобное заявление за последние несколько месяцев. В марте Илон Маск, Стив Возняк и около тысячи других экспертов призвали сделать шестимесячную паузу в разработке ИИ, чтобы позволить промышленности и общественности подготовиться к технологии.
«В последние месяцы лаборатории ИИ оказались вовлеченными в неконтролируемую гонку, требующую от них развертывать все более мощные цифровые умы, которые никто - даже их создатели - не может понять, предсказать или надежно контролировать», - говорится в письме.
Хотя ИИ пока не осознает себя, он уже создает определенные риски, связанные с для неэтичным использованием, изготовлением дипфейков и масштабной дезинформации. Не говоря уже о том, какое влияние технология может оказать на рынок труда.
Президент США Джо Байден недавно заявил, что “пока неясно”, опасен ли ИИ, добавив, что “технологические компании должны нести ответственность за то, чтобы их продукция была безопасной прежде чем представлять ее общественности”. По словам Байдена, ИИ может помочь в решении некоторых очень сложных проблем, таких как лечение тяжелых болезней и борьба с изменением климата. Но также важно устранить потенциальные риски для общества, экономики и национальной безопасности.
