Недавно Google запустил функцию AI Overviews для пользователей США. Эта функция должна генерировать ответы искусственного интеллекта на запросы пользователей в поисковике. Но она превратилась в генератор фейков и абсурда.
По задумке разработчиков, функция AI Overviews должна предоставлять краткие, основанные на фактах обзоры результатов поиска в верхней части страницы. Однако пользователи сообщают, что искусственный интеллект массово выдает ложную и непроверенную информацию.
Критики отмечают, что обзоры часто содержат неточности. А иногда ИИ вообще придумывает факты из воздуха. В социальных сетях пользователи делятся забавными примерами таких ответов.
Так, AI Overviews заявила одному из пользователей, что “бег с ножницами - хорошая кардио тренировка”. На просьбу назвать выдающихся выпускников какого-либо университета, ИИ выдает случайный список известных людей, которые не имеют никакого отношения к этому вузу. А пользователю, который поинтересовался, как сделать так, чтобы сыр не падал с пиццы, ИИ порекомендовал смешать кетчуп с клеем.
Google утверждает, что негативные примеры редки и не отражают реальный опыт большинства пользователей. Компания заявляет, что большинство обзоров предоставляют высококачественную информацию со ссылками для дальнейшего изучения.
Однако, эксперты по искусственному интеллекту обеспокоены тем, что даже небольшое количество дезинформации может подорвать доверие к поисковой системе, особенно с учетом того, что Google активно борется с распространением ложной информации.
Некоторые проблемы связаны с тем, на какие источники опирается AI Overviews. Например, система может не распознать шутки или сатиру на форумах и выдать их за достоверную информацию.
Специалисты считают, что Google поспешил с внедрением этой функции, стремясь конкурировать с OpenAI. Вместо того, чтобы раздражать пользователей бесполезной информацией, Google следовало бы доработать систему и сделать ее более надежной.
Пока не ясно, оправдает ли себя эта функция. Несмотря на заверения Google об улучшении качества, пользователи пока не видят значительных изменений.
