Искусственный интеллект уже обыгрывает чемпионов мира в го, пишет код и диагностирует болезни. Но стоит ему столкнуться с нечёткой задачей, моральным выбором или неожиданным поворотом — и он теряется. Почему? Потому что ему не хватает главного человеческого качества — мудрости. Теперь учёные из Университета Ватерлоо впервые предложили реальный план, как научить машины этому качеству.
Статья «Воображаем и строим мудрые машины: центральная роль метакогниции в ИИ», опубликованная в журнале Trends in Cognitive Sciences, стала результатом совместной работы психологов, компьютерщиков и инженеров из Университета Ватерлоо, Университета Монреаля, Макс-Планк институтов, Санта-Фе института, Стэнфорда, Уорика и Google DeepMind.
Мудрость — это не знания, а особый способ думать
«ИИ становится умнее каждый день, но ему не хватает именно мудрости, — объясняет профессор психологии Университета Ватерлоо Сэм Джонсон, один из ведущих авторов работы. — Мудрость — это не объём знаний и не скорость вычислений. Это набор ментальных навыков, которые помогают справляться с неопределённостью, сложными решениями и запутанными социальными ситуациями».
Сегодняшние большие языковые модели отлично справляются с чётко поставленными задачами, но пасуют перед неоднозначностью. У них нет полного набора человеческих стратегий: они не умеют признавать границы своих знаний, гибко менять подход в зависимости от контекста, учитывать разные точки зрения и оставаться открытыми к тому, что ситуация может развернуться неожиданным образом.
Ключ к решению, по мнению авторов, — метакогниция, то есть способность ИИ думать о собственном мышлении. Именно она лежит в основе человеческой мудрости.
«Мудрость всегда казалась слишком философской и слишком человеческой категорией, чтобы формализовать её для машин, — говорит соавтор, профессор Игорь Гроссманн. — Но если разобрать её на конкретные стратегии — интеллектуальную скромность, поиск разных перспектив, адаптацию к контексту — мы получаем чёткую дорожную карту».
Как именно учить ИИ мудрости
Исследователи предлагают три практических направления:
- Специально обучать существующие большие языковые модели стратегиям мудрого мышления.
- Разрабатывать новые архитектуры, которые изначально поддерживают метакогницию.
- Создать специальные бенчмарки, которые будут измерять именно уровень мудрости ИИ, а не только точность ответов.
Результатом должны стать системы, которые:
- лучше справляются с совершенно новыми задачами и окружениями,
- более охотно сотрудничают с человеком,
- прозрачнее объясняют свои решения,
- безопаснее, потому что лучше понимают и разделяют человеческие ценности и цели.
«Если самый умный человек в мире — это трёхлетний ребёнок, мы всё равно не дадим ему ядерные коды, — образно говорит Джонсон. — Сегодняшний ИИ всё больше похож на вундеркинда, которому очень нужна здоровая доза родительской мудрости».
Следующий шаг — тесное сотрудничество с индустрией. Учёные уже планируют создавать вычислительные модели человеческой мудрости, которые можно будет напрямую внедрять в дизайн будущих ИИ-систем.
Пока искусственный интеллект продолжает стремительно набирать силу, эта работа напоминает: настоящая безопасность и надёжность появятся не тогда, когда машины станут ещё умнее, а когда они наконец научатся быть мудрее.
