Согласно новому исследованию ученых из Университета Иллинойса, подростки все чаще используют искусственный интеллект для получения эмоциональной поддержки и социального взаимодействия. При этом их родители мало понимают, как их дети используют ИИ и какие риски это может нести.
Неожиданное применение ИИ
Исследователи проанализировали 712 постов и 8533 комментария на Reddit, связанных с использованием ИИ подростками. Они также опросили семь подростков и 13 родителей, чтобы понять, как они воспринимают эту технологию, вопросы ее безопасности и способы минимизации рисков.
Оказалось, что подростки часто используют чат-боты ИИ в качестве терапевтических помощников или доверенных лиц для получения эмоциональной поддержки без осуждения и помощи в решении социальных проблем. Чат-боты также интегрированы в социальные медиа-платформы, такие как Snapchat и Instagram, и подростки используют их для обучения социальным навыкам и даже для романтических отношений.
Кроме того, подростки используют ИИ для академических целей, таких как написание сочинений, перефразирование текста и генерацию идей. Однако, некоторые подростки также генерируют с помощью ИИ сексуальный или насильственный контент, а также используют чат-боты для травли других.
Родители и дети имеют значительные заблуждения относительно генеративного искусственного интеллекта. Родители мало понимают, как их дети используют ИИ. Их собственный опыт работы с этими инструментами зачастую ограничен.
Родители не знают о том, что их дети используют такие инструменты, как Midjourney и DALL-E, для генерации изображений. Они рассматривают ИИ как инструмент для выполнения домашних заданий, в то время как дети в основном используют его для личных и социальных целей.
Опасения подростков и родителей
Подростки обеспокоены чрезмерной зависимостью от чат-ботов, использованием чат-ботов для создания оскорбительного контента, несанкционированным использованием их личной информации и распространением вредоносного контента. Они также обеспокоены тем, что ИИ может заменить человеческий труд и нарушить права интеллектуальной собственности.
Родители обеспокоены тем, что платформы ИИ собирают обширные данные, такие как демографические данные пользователей, историю разговоров и историю браузера. Они также обеспокоены тем, что дети могут делиться личной или семейной информацией. Однако, родители не полностью понимают, насколько чувствительными данными их дети могут делиться с ИИ, включая подробности личных травм, медицинские записи и частные аспекты их социальной и сексуальной жизни.
Родители хотят, чтобы ИИ для детей был обучен только на подходящем для возраста контенте или имел встроенные функции контроля возраста и тематики. Дети хотят, чтобы родители обсуждали с ними этическое использование ИИ, а не ограничивали его.
Вопросы безопасности
Платформы ИИ предоставляют ограниченную защиту детям, фокусируясь на ограничении явного контента и не предлагая функции родительского контроля, адаптированные к ИИ. Исследователи утверждают, что риски для детей и стратегии их минимизации более сложны и нюансированы, чем просто блокирование неприемлемого контента.
Ключевым вызовом для идентификации и предотвращения ненадлежащего контента на платформах ИИ является его динамический характер генерации уникального контента в реальном времени по сравнению со статическим онлайн-контентом.
Исследователи считают, что важно, чтобы платформы предоставляли прозрачные объяснения своих рисков безопасности и конфиденциальности, идентифицированных экспертами, и предлагали фильтры контента, которые могут быть адаптированы к потребностям отдельных семей и этапам развития их детей.
Стратегии безопасности не могут быть чисто техническими и должны выходить за рамки фильтрации и ограничений, признавая противоречие между автономией детей и родительским контролем над управлением онлайн-рисками. Взрослым необходимо сначала понять мотивацию поведения детей при работе с ИИ.
Учитывая все это, исследователи предлагают создать специальный поддерживающий чат-бот, который мог бы обеспечить безопасную среду для объяснения потенциальных рисков, повышения устойчивости и предложения стратегий преодоления трудностей для пользователей-подростков.
