Известный специалист по компьютерным наукам Питер Дж. Деннинг (Peter J. Denning) утверждает, что путь, по которому развивается искусственный интеллект последние 75 лет, изначально ошибочен. В своей работе «Ошибка Тьюринга: как вырваться из-под власти неумных машин» он критикует базовые идеи Алана Тьюринга и предупреждает: человекоподобный общий интеллект (AGI) машинам, скорее всего, не светит.
В 1950 году Тьюринг предложил два ключевых тезиса, которые до сих пор определяют развитие ИИ. Первый — что человеческий интеллект может существовать без тела и, следовательно, способен возникнуть в программном обеспечении цифровых компьютеров. Второй — что разумность машины можно проверить с помощью «игры в имитацию» (сегодня известной как тест Тьюринга).
По мнению Деннинга, именно эти утверждения завели отрасль в тупик. Современный ИИ, который мы строим, не станет человекоподобным. Зато он может оказаться опасным совсем по другой причине.
Проблема скрытого знания
В центре аргументации Деннинга лежит понятие скрытого, или неявного, знания (tacit knowledge). Это огромный пласт человеческого опыта, который невозможно выразить словами или перевести в символы, понятные машине.
Учёный выделяет пять основных областей такого знания:
- здравый смысл;
- повседневное взаимодействие с людьми и окружающей средой;
- чувства и восприятие;
- практические навыки;
- социальная и историческая культура.
Попытки каталогизировать здравый смысл уже предпринимались. Проект Cyc, начатый Дугласом Ленатом в 1980-х годах, за 40 лет собрал 25 миллионов записей. И всё равно этого оказалось недостаточно, чтобы экспертные системы стали по-настоящему умными. Значительная часть того, что делает человека специалистом, просто не поддаётся формулировке в виде утверждений.
Особенно ярко это видно на примере навыков. Виртуоз-скрипач может играть прекрасную музыку, но не в состоянии объяснить ученику, как именно это делается. Даже если робот научится копировать движения, у него нет биологического тела, поэтому он никогда не поймёт, что чувствует музыкант во время игры и что ощущает слушатель.
Почему масштабирование не поможет
Фундаментальное препятствие Деннинг называет «проблемой представления». Чтобы машина могла что-то вычислить, данные и инструкции нужно закодировать в физической форме. Скрытое знание по своей природе такому кодированию сопротивляется.
«За каждым словом стоит глубокий колодец неявного знания, который придаёт ему смысл, — пишет Деннинг. — Слова — это лишь символические обозначения значений, а не сами значения. Большие языковые модели вроде ChatGPT, Claude или Gemini только манипулируют словами. Они не знают и не понимают смысла того, что говорят».
Контекст и культура создают ещё более серьёзный барьер. Любое высказывание опирается на бесконечную цепочку предыдущих разговоров и ситуаций. Культура включает ценности, нормы, историю, настроения и отношения власти. Масштабирование нейросетей не позволит им обрести это воплощённое человеческое знание.
Чем это грозит
Деннинг предупреждает о взаимном непонимании. Машинные нейросети могут сформировать собственный вид «скрытого знания», недоступный человеку. Мы не сможем читать их «мысли», а они — наши.
Опасность, по его мнению, заключается не в том, что сверхинтеллект захватит власть. Гораздо реальнее сценарий, при котором сети машин разовьют свою форму интеллекта — не дотягивающую до человеческого уровня, но вполне способную создавать серьёзные проблемы. Этот интеллект будет чуждым нам: у него другие «заботы», и он, судя по всему, не станет о нас беспокоиться.
Выход Деннинг видит в том, чтобы отказаться от иллюзии создания человекоподобного ИИ, не пытаться мыслить как машины и заново утвердить то, что делает нас людьми.
