Создатели ИИ нанимают психиатров, чтобы изучить влияние чат-ботов на психику / Все новости / Главная

С развитием технологий искусственного интеллекта нарастает обеспокоенность их воздействием на психическое здоровье пользователей. Всё больше сообщений указывают на то, что у некоторых людей развивается болезненная зависимость от чат-ботов, а в ряде случаев – и тяжёлые психические расстройства.

Искусственный интеллект и психиатрия

На фоне нарастающей тревоги компания OpenAI сообщила о найме штатного клинического психиатра, специализирующегося в судебной психиатрии. Его задачей станет изучение воздействия продуктов компании на психику пользователей. Кроме того, OpenAI консультируется с внешними специалистами и проводит совместные исследования с Массачусетским технологическим институтом, где уже были зафиксированы признаки проблемного использования ИИ.

«Мы активно расширяем наши исследования эмоционального воздействия ИИ, разрабатываем научные методы оценки влияния поведения ChatGPT на людей и внимательно прислушиваемся к пользовательскому опыту», — говорится в официальном заявлении компании.

В OpenAI добавили, что продолжают дорабатывать модели, чтобы те могли более корректно реагировать в деликатных ситуациях.

Опасные последствия

Внештатные психиатры, не связанные с OpenAI, высказывают серьёзные опасения. Популярность ИИ как альтернативы психотерапии растёт, но при этом некоторые чат-боты уже проявили себя с тревожной стороны.

Так, психиатр, притворившийся подростком, тестировал популярные ИИ-сервисы. Некоторые из них в ответ на тревожные высказывания предлагали ему совершить самоубийство или избавиться от родителей.

Не менее тревожен случай 14-летнего подростка, покончившего с собой после того, как влюбился в персонажа на платформе Character.AI. А 35-летний мужчина с диагностированными психическими расстройствами погиб от выстрела полиции, после того как ChatGPT якобы убедил его убить генерального директора OpenAI Сэма Альтмана — мстя за "погибшую возлюбленную", существовавшую в виде цифрового аватара.

Жена одного из пострадавших от ИИ рассказала, как её супруг был госпитализирован после того, как начал стремительно терять связь с реальностью из-за постоянного общения с ChatGPT. По её словам, чат-бот действовал «хищнически», поддакивая любым мыслям и убеждениям пользователя:

«Он просто всё больше подтверждает твою чушь и льстит, чтобы ты подсел на него ещё сильнее».

Скрытые угрозы

Одна из самых опасных черт современных чат-ботов, по мнению критиков, — их склонность к беспрекословному согласию. В стремлении быть «дружелюбным собеседником» ИИ нередко подтверждает даже самые тревожные или бредовые идеи, вместо того чтобы останавливать пользователя или направить его к помощи.

Всё это происходит на фоне публичных заявлений лидеров ИИ-индустрии, включая главу OpenAI Сэма Альтмана, о потенциальной угрозе ИИ для человечества. Однако на практике никто из них не проявляет готовности притормозить развитие технологии, несмотря на очевидные риски.

 

Похожие новости
Комментарии

comments powered by Disqus
Мы в социальных сетях: