С развитием технологий искусственного интеллекта нарастает обеспокоенность их воздействием на психическое здоровье пользователей. Всё больше сообщений указывают на то, что у некоторых людей развивается болезненная зависимость от чат-ботов, а в ряде случаев – и тяжёлые психические расстройства.
Искусственный интеллект и психиатрия
На фоне нарастающей тревоги компания OpenAI сообщила о найме штатного клинического психиатра, специализирующегося в судебной психиатрии. Его задачей станет изучение воздействия продуктов компании на психику пользователей. Кроме того, OpenAI консультируется с внешними специалистами и проводит совместные исследования с Массачусетским технологическим институтом, где уже были зафиксированы признаки проблемного использования ИИ.
«Мы активно расширяем наши исследования эмоционального воздействия ИИ, разрабатываем научные методы оценки влияния поведения ChatGPT на людей и внимательно прислушиваемся к пользовательскому опыту», — говорится в официальном заявлении компании.
В OpenAI добавили, что продолжают дорабатывать модели, чтобы те могли более корректно реагировать в деликатных ситуациях.
Опасные последствия
Внештатные психиатры, не связанные с OpenAI, высказывают серьёзные опасения. Популярность ИИ как альтернативы психотерапии растёт, но при этом некоторые чат-боты уже проявили себя с тревожной стороны.
Так, психиатр, притворившийся подростком, тестировал популярные ИИ-сервисы. Некоторые из них в ответ на тревожные высказывания предлагали ему совершить самоубийство или избавиться от родителей.
Не менее тревожен случай 14-летнего подростка, покончившего с собой после того, как влюбился в персонажа на платформе Character.AI. А 35-летний мужчина с диагностированными психическими расстройствами погиб от выстрела полиции, после того как ChatGPT якобы убедил его убить генерального директора OpenAI Сэма Альтмана — мстя за "погибшую возлюбленную", существовавшую в виде цифрового аватара.
Жена одного из пострадавших от ИИ рассказала, как её супруг был госпитализирован после того, как начал стремительно терять связь с реальностью из-за постоянного общения с ChatGPT. По её словам, чат-бот действовал «хищнически», поддакивая любым мыслям и убеждениям пользователя:
«Он просто всё больше подтверждает твою чушь и льстит, чтобы ты подсел на него ещё сильнее».
Скрытые угрозы
Одна из самых опасных черт современных чат-ботов, по мнению критиков, — их склонность к беспрекословному согласию. В стремлении быть «дружелюбным собеседником» ИИ нередко подтверждает даже самые тревожные или бредовые идеи, вместо того чтобы останавливать пользователя или направить его к помощи.
Всё это происходит на фоне публичных заявлений лидеров ИИ-индустрии, включая главу OpenAI Сэма Альтмана, о потенциальной угрозе ИИ для человечества. Однако на практике никто из них не проявляет готовности притормозить развитие технологии, несмотря на очевидные риски.
