Большие языковые модели уже умеют решать логические задачи, строить цепочки рассуждений и делать выводы из заданных условий. Но есть любопытный парадокс: человек способен рассуждать не только с помощью языка, тогда как большинство современных ИИ-моделей обучается преимущественно на текстах.
Исследователи из Пекинского и Университета Цинхуа решили проверить, можно ли использовать человеческий мозг как своеобразный источник подсказок для искусственного интеллекта. Их эксперимент показал: внутренние представления мозга и языковых моделей действительно частично похожи, а сигналы мозговой активности можно использовать для корректировки работы ИИ и улучшения его способности к дедуктивному мышлению.
Что общего у мозга и большой языковой модели
Исследование выросло из двух направлений науки.
Первое связано с нейробиологией. Хотя язык и мышление тесно связаны, они не являются одним и тем же процессом. За обработку речи и решение логических задач в мозге отвечают в значительной степени разные нейронные сети.
Вторая область — NeuroAI, междисциплинарное направление на стыке нейронауки и искусственного интеллекта. Его цель — использовать знания о работе мозга для понимания и совершенствования ИИ, а заодно применять модели искусственного интеллекта для изучения человеческого мышления.
Предыдущие исследования уже показывали определенное сходство между тем, как информацию представляют нейронные сети мозга и искусственные модели. Но ученые задались более амбициозным вопросом: если мозговая активность коррелирует с внутренними представлениями ИИ, можно ли не просто измерять это сходство, а направлять работу модели с помощью сигналов мозга?
Как исследователи сравнивали мозг и ИИ
Для эксперимента ученые использовали общедоступный набор данных функциональной магнитно-резонансной томографии — фМРТ (fMRI). В нем содержались записи активности мозга людей, которые решали задачи на дедуктивное мышление.
Дедукция — это способ рассуждения, при котором из известных предпосылок выводится логическое следствие. Например, если известно, что все представители определенной группы обладают некоторым свойством, а конкретный объект относится к этой группе, можно сделать вывод о наличии этого свойства у объекта.
Исследователи выделили сигналы из областей мозга, связанных с мышлением более высокого порядка, а затем дали 10 открытым языковым моделям те же самые языковые задания.
Размер моделей сильно различался — от 1,5 до 72 млрд параметров.
Затем ученые сравнили активность мозга с активностью внутренних компонентов ИИ. Для этого применили метод, известный в исследованиях NeuroAI как нейронная предсказуемость (neural predictivity).
Проще говоря, исследователи проверяли, насколько хорошо внутренние представления модели можно математически сопоставить с представлениями, наблюдаемыми в мозге. Чем выше соответствие, тем сильнее связь между двумя пространствами представлений.
Мозг может не только «оценивать» ИИ, но и направлять его
Наиболее интересной частью работы стал следующий этап.
Ученые разработали систему, которая использовала паттерны мозговой активности для корректировки внутренних представлений языковых моделей. Иными словами, сигнал мозга применялся не просто как объект наблюдения, а как своеобразный ориентир для работы нейросети.
Такой подход протестировали на всех десяти моделях.
Результат оказался положительным: после мозгового «наведения» модели лучше справлялись с задачами, требовавшими дедуктивного рассуждения. Причем улучшение не ограничивалось теми случаями, которые непосредственно использовались для настройки системы. Эффект в определенной степени переносился и на другие задачи.
Это особенно интересно потому, что результат оказался дополнительным к улучшениям, которые можно получить обычным обучением на языковых данных. Получается, мозговая активность потенциально может предоставить ИИ информацию, которую трудно получить только из текста.
Зачем ИИ вообще нужен «взгляд из мозга»
Большие языковые модели учатся преимущественно на огромных массивах текста. Они получают колоссальное количество информации о том, как люди используют язык, но язык не обязательно полностью отражает процессы, происходящие во время мышления.
Человек может прийти к определенному выводу, не формулируя все промежуточные шаги словами. Некоторые особенности мышления просто трудно описать языком.
Именно здесь может пригодиться NeuroAI. Если исследователи научатся извлекать из мозговых сигналов информацию о том, как человек представляет задачу и строит рассуждение, ее можно будет использовать для обучения искусственных систем.
По сути, речь идет о попытке передать ИИ не готовый ответ, а своеобразный ориентир для внутренней обработки информации.
У технологии есть серьезное ограничение
Однако до прямого «подключения мозга к ChatGPT» здесь очень далеко.
Исследование использовало данные фМРТ, а этот метод хорошо показывает, где в мозге происходит активность, но сравнительно медленно фиксирует изменения во времени. Для анализа быстрых процессов мышления это серьезное ограничение.
Исследователи поэтому планируют изучить другие способы регистрации мозговой активности, которые обладают более высоким временным разрешением. Это позволит точнее отслеживать динамику рассуждения и понять, какие именно особенности мозговых сигналов помогают ИИ.
Кроме того, нынешние результаты показывают лишь частичное сходство между мозгом и языковыми моделями. Это вовсе не означает, что LLM действительно рассуждают так же, как люди. Скорее, некоторые внутренние представления двух систем оказываются достаточно похожими, чтобы их можно было сопоставлять и использовать для взаимного обучения.
Новый путь к более «человеческому» ИИ
Работа исследователей из Пекина и Цинхуа предлагает необычный взгляд на развитие искусственного интеллекта. Вместо того чтобы постоянно увеличивать объем обучающих данных или число параметров модели, можно попробовать дополнить обучение информацией о том, как работает человеческий мозг во время решения задач.
Пока речь идет о лабораторном эксперименте и довольно узком классе задач — прежде всего о дедуктивном мышлении. Но сам принцип может оказаться гораздо шире.
Если будущие исследования подтвердят результаты, мозговые сигналы потенциально можно будет использовать для совершенствования других когнитивных способностей ИИ — например, планирования, принятия решений или работы с более сложными абстрактными задачами.
В этом случае NeuroAI станет не просто способом сравнивать искусственные и биологические нейронные сети. Он может превратиться в своеобразный мост между ними: мозг будет подсказывать искусственному интеллекту, какие внутренние пути обработки информации помогают человеку успешно решать задачи.
И, возможно, следующий заметный шаг в развитии ИИ окажется связан не с еще большей языковой моделью, а с тем, чему такая модель сможет научиться непосредственно у человеческого мозга.
