Mozilla решила дополнить базу данных MDN Web Docs возможностями искусственного интеллекта. Но в результате ИИ наводнил документацию собственными галлюцинациями.
Важность MDN Web Docs
Сервис MDN Web Docs, ранее известный как Mozilla Developer Network, - это хранилище документации, предоставляющее обучающие ресурсы для веб-разработчиков. На сайте размещены документы о CSS, HTML, JavaScript и других веб-технологиях с 2005 года. За годы существования ресурс стал авторитетной базой, которая пополняется, в том числе, крупными корпорациями, такими как Microsoft и Google.
С 2017 года сервис MDN также размещает у себя всю веб-документацию Samsung после того, как корейская компания решила закрыть собственные проекты с документацией. В общем, это серьезная база данных, альтернативы которой просто не существует.
Недавно компания Mozilla решила сделать сервис более удобным и дополнить его генеративными алгоритмами ИИ. Но получилось не очень.
Галлюцинации искусственного интеллекта
Функция AI Help, работающая на базе искусственного интеллекта, должна была стать новым компаньоном для разработчиков, ищущих документы в базе MDN. По словам директора MDN Гермины Кондеи, AI Help задумывалась для оптимизации поиска.
AI Help использует API OpenAI, чтобы передавать запросы пользователей ChatGPT. Далее искусственный интеллект должен извлекать «наиболее подходящую информацию» из гигантской базы документации MDN.
Но, как все знают, современный искусственный интеллект - не самый надежный источник информации. Его алгоритмы не обладает ни интеллектом, ни пониманием чего-либо. Он просто объединяет слова, чтобы попытаться составить наиболее статистически обоснованный ответ на запрос пользователя. Соответственно, когда точного ответа на вопрос на находится, ИИ просто его выдумывает. Он может сочинять фейковые биографии или придумывать исторические события, которые никогда не происходили в реальности.
Пользователи запустили обсуждение нововведения на GitHub и, судя по комментариям, идея никому не нравится. Пользователь Eevee ,запустивший обсуждение описывает эту функцию как «странное решение» для технической справки, поскольку ответы искусственного интеллекта «могут быть правильными по случайности, но также могут содержать убедительную ложь». Такая ложь, вводящая людей в заблуждение, может быть попросту опасна, а потому, функция AI Help «хуже, чем бесполезна». Другие комментаторы согласились с тем, что функция ИИ-помощи, вероятно, нанесет гораздо больше ущерба, чем принесет пользы.
Учитывая общественный резонанс, в данный момент работа функции AI Help приостановлена и пока неясно, станет ли Mozilla развивать ее дальше.
