Главный исследователь OpenAI Илья Суцкевер на прошлой неделе сделал удивительное заявление. По его словам, продвинутый искусственный интеллект, возможно, уже обладает зачатками самосознания. «Может быть так, что сегодняшние крупные нейронные сети обладают некоторым сознанием», - написал Суцкевер у себя в твиттере.
Излишне говорить, что это крайне необычная точка зрения. Технология искусственного интеллекта достигла больших успехов за последнее десятилетие, но большинство исследователей считает, что она по-прежнему очень далека от человеческого интеллекта и не имеет ничего общего с полноценным сознанием. Учитывая это, Суцкевер либо преувеличивает, либо знает об ИИ нечто такое, чего пока не знают другие ученые.
Скрытая угроза?
Илья Суцкевер уже очень давно занимается проблематикой так называемого «сильного искусственного интеллекта» (AGI). Это гипотетический ИИ, который сможет действовать на человеческом или сверхчеловеческом уровне. Ранее, давая комментарий для документального фильма «iHuman», Суцкевер заявлял, что AGI сможет «решить все проблемы, которые мы имеем сегодня», но также представит «потенциал для создания бесконечно стабильных диктатур».
В 2015 году Илья Суцкевер вместе с Илоном Маском и Сэмом Олтмэном учредил некоммерческую компанию OpenAI. Организация была создана специально для того, чтобы предупредить и обуздать экзистенциальные риски, которые могут возникнуть при появлении разумных машин. Но, кажется, вместо предупреждения таких рисков OpenAI сама начала их генерировать.
Так, в 2019 году Илон Маск покинул OpenAI на фоне того, что организация создала слишком продвинутый текстовый генератор «фейковых новостей». Маск посчитал эту технологию слишком опасной для выпуска. Он заявил, что покидает организацию, потому что «не согласен с рядом вещей, которые хочет сделать команда OpenAI». Всего через месяц после ухода Маска OpenAI объявила, что больше не является некоммерческой, и теперь работает по модели «ограниченной прибыли». А через некоторое время организация сосредоточилась на разработке сильного искусственного интеллекта, который «мог бы принести пользу всему человечеству».
В общем, если бы о сознательном искусственном интеллекте заговорил кто-то другой, это можно было бы просто проигнорировать. Но OpenAI - одна из немногих организаций на планете, которая реально может создать нечто подобное. Потому слова Суцкевера о возможных зачатках самосознания в продвинутых образцах искусственного интеллекта стоит воспринимать как намек на появление в скором будущем чего-то по-настоящему интересного.
