Несмотря на то, что ИИ должен упрощать жизнь, многие активные пользователи уже испытывают обратный эффект. Слишком много кода для проверки, целые армии ИИ-агентов, которых нужно постоянно контролировать, и длинные промпты, которые приходится писать снова и снова. Всё это приводит к состоянию, которое консультанты Boston Consulting Group (BCG) назвали «AI brain fry» — умственному истощению от чрезмерного использования и надзора за инструментами искусственного интеллекта.
Новая форма когнитивной нагрузки
Бен Виглер (Ben Wigler), сооснователь стартапа LoveMind AI, объясняет: «Это совершенно новый вид когнитивной нагрузки. Приходится буквально нянчиться с этими моделями». Тим Нортон (Tim Norton), основатель консалтинговой компании по внедрению ИИ nouvreLabs, добавляет, что выгорание возникает именно у тех, кто создаёт целые легионы агентов и вынужден постоянно ими управлять.
При этом BCG подчёркивает: речь не идёт о том, что ИИ вызывает общее выгорание на работе. Наоборот, их исследование 1488 американских профессионалов показало снижение уровня выгорания, когда ИИ берёт на себя рутинные задачи.
Особенно тяжело разработчикам
Пока «AI brain fry» сильнее всего бьёт по программистам. ИИ-агенты быстро научились писать код, но этот код требует гораздо более тщательной проверки, чем человеческий.
«Жестокая ирония в том, что ИИ-генерированный код нужно проверять внимательнее, чем написанный человеком», — пишет инженер-программист Сиддхант Кхаре (Siddhant Khare). Адам Макинтош (Adam Mackintosh), программист из канадской компании, добавляет: «Страшно коммитить сотни строк кода от ИИ, потому что есть риск уязвимостей безопасности или просто непонимания всей кодовой базы».
Если ИИ-агента не держать в строгих рамках, он может неправильно понять задачу, уйти в неверном направлении и потратить огромные вычислительные ресурсы впустую.
«Я стал раздражительным»
Виглер отмечает, что обещание быстрых результатов с помощью ИИ особенно опасно для стартап-команд, которые и так склонны работать допоздна. «Появляется особый вид reward hacking, когда производительность на таком уровне провоцирует ещё более поздние часы».
Макинтош вспоминает, как провёл 15 часов подряд, доводя до ума 25 000 строк кода, сгенерированных ИИ: «В конце я чувствовал, что больше не могу программировать. Дофамин был полностью выжат — я стал раздражительным и не хотел отвечать даже на простые вопросы о своём дне».
Музыкант и преподаватель, пожелавший остаться анонимным, рассказал, что вечерами вместо отдыха продолжает экспериментировать с ИИ и не может «выключить мозг».
При этом все опрошенные в целом позитивно относятся к ИИ, несмотря на побочные эффекты.
BCG в своём недавнем исследовании рекомендует компаниям устанавливать чёткие границы использования и надзора за ИИ. Однако Виглер скептически относится к тому, что это сработает в американской корпоративной культуре: «Забота о себе — это не очень американская ценность на рабочем месте. Поэтому я сильно сомневаюсь, что в долгосрочной перспективе это будет здорово и качественно».
