Гений, который мог ошибаться

Хочу рассказать вам кое-что, что реально перевернуло моё представление об искусственном интеллекте на этой неделе.

Последние десятилетия мы оценивали прогресс ИИ по критерию, который предложил Алан Тьюринг ещё в 1950 году. Его знаменитая «игра в имитацию» — теперь все знают это как тест Тьюринга — предполагала простую идею: если компьютер смог обмануть человека и заставить его думать, что он общается с другим человеком, значит, машина «мыслит».

Логично звучит, правда?

Но Питер Дж. Деннинг — серьёзный учёный-компьютертерщик, выпустивший книгу «Ошибка Тьюринга: Освобождение от ярма немашинного интеллекта» — утверждает, что мы гнались за неправильной мечтой все эти 75 лет.

И знаете что? Прочитав его аргументы, я думаю — он может быть прав.

Проблема тела (и она важна)

Вот первое допущение Тьюринга, которое Деннинг считает ошибочным: идея, что интеллект может существовать отдельно от физического тела.

Задумайтесь на секунду. Мы пытаемся воссоздать человеческий уровень интеллекта внутри компьютеров — чистый софт, плавающий в цифровом пространстве. Но Деннинг говорит, что это всё равно что пытаться понять плавание, изучая молекулы воды. Тут чего-то важного не хватает.

Когда мы с вами взаимодействуем с миром, мы не просто обрабатываем информацию. Мы чувствуем. Ощущаем температуру, чувствуем текстуру дверной ручки, замечаем лёгкое покачивание, когда наступаем на неровную плитку. Всё это физическое переживание формирует то, как мы думаем, рассуждаем и понимаем мир.

Деннинг указывает: наши тела — это не просто транспорт для мозга. Они неотъемлемая часть того, как мы мыслим.

И вот что интересно — это не какая-то маргинальная идея. Философы годами говорят об «инкарнированном познании». Но исследования в области ИИ в основном это игнорировали в пользу чисто вычислительных подходов.

Загадка неявного знания

Тут становится по-настоящему интересно (и немного философски, но обещаю — без занудства).

Деннинг вводит понятие «неявного знания» — и это одна из тех идей, которые, если ухватишь суть, начинаешь замечать повсюду.

Неявное знание — это всё то, что мы знаем, но не можем легко объяснить. Например... откуда вы знаете, какое именно усилие приложить, когда открываете дверь? Как ловите мяч, не высчитывая траекторию в голове? Как понимаете по интонации, когда человек шутит, а когда серьёзен?

Эти вещи кажутся нам автоматическими. Но они невероятно сложные.

Деннинг утверждает, что есть как минимум пять больших категорий неявного знания, которые машинное обучение просто не способно охватить:

Здравый смысл — миллионы мелких фактов об устройстве мира, о которых мы никогда не задумываемся сознательно.

Повседневные взаимодействия — как мы читаем социальные ситуации, ориентируемся в личных отношениях, понимаем невысказанные ожидания.

Эмоции и восприятие — то, как переживание радости или грусти фундаментально меняет то, как мы обрабатываем информацию.

Практические навыки — знание, которым обладает мастер-ремесленник или виртуозный музыкант, но которое не может полностью описать словами.

Культурное понимание — ценности, нормы, история и более глубокие смыслы, встроенные в то, как живут сообщества.

Почему 40 лет проекта Cyc ничего не решили

Чтобы показать масштаб проблемы, Деннинг ссылается на проект Cyc. Если не знаете — это амбициозная попытка, стартовавшая в 80-х, создать гигантскую базу здравого смысла — вещи вроде «если уронить что-то, оно падает вниз» или «людям нужна вода, чтобы выжить».

Проект строили сорок лет и набрали примерно 25 миллионов таких фактов.

Двадцать пять миллионов единиц знания!

И знаете что? Этого всё равно не хватило для создания по-настоящему умных систем. Деннинг отмечает: «большая часть знаний, делающих людей экспертами, не может быть выражена в виде утверждений».

Вот в чём тихая трагедия проекта Cyc. Он наглядно продемонстрировал: пытаться вручную записать человеческий здравый смысл — практически невозможно. Его слишком много, и слишком многое из него не выражено явно.

Музыкант, который не может это объяснить

Поделюсь одним из примеров Деннинга, который меня зацепил.

Представьте виртуозного скрипача. Человека, который играет с захватывающей красотой и эмоциями. А теперь попробуйте объяснить новичку точно, как добиться такого звука.

У него не получится. Не полностью. Он может дать какие-то технические советы — наклонить смычок здесь, усилить давление там — но разрыв между «знать как» и «знать что» огромен.

Скрипач обладает телесным знанием, которое существует в его мышцах, нервах, физическом опыте создания звука. Это нельзя загрузить в компьютер. Нельзя записать в базу данных.

И вот более глубокая мысль: даже если бы вы создали робота, способного идеально копировать движения скрипача, этот робот всё равно не смог бы понять, что чувствуешь, создавая прекрасную музыку. У него нет биологического опыта, эмоционального контекста, связи с публикой.

Проблема представления

Так что же тут происходит? Почему человеческое знание так упрямо сопротивляется оцифровке?

Деннинг называет это «проблемой представления», и она фундаментальна.

Компьютеры работают с символами — единицами и нулями, которые что-то обозначают. Когда мы загружаем информацию в компьютеры, мы кодируем знания о реальном мире в эти символьные формы.

Но вот засада: за каждым словом, каждым понятием, каждым «знанием», которым мы обладаем, стоит глубокий колодец неявного понимания, придающий этому смысл. Слова — это просто символы, указывающие на значения. Но они не сами значения.

Деннинг говорит так: «За каждым словом стоит глубокий колодец неявного знания, придающий ему смысл. Слова — это лишь символьные представления значений, а не сами значения».

Это значит, что когда вы общаетесь с чем-то вроде ChatGPT, Claude или Gemini, вы взаимодействуете с системами, невероятно изощрёнными в манипуляции символами, но которые не понимают по-настоящему, что эти символы обозначают. Они блестяще ищут паттерны, но поиск паттернов — это не понимание.

Контекст решает всё (а у машин его нет)

Вот ещё один слой, с которым ИИ не справляется: контекст.

Когда мы с вами разговариваем, мы опираемся на бесконечные слои общего понимания. Мы знаем, кто мы, что пережили вместе, какова текущая ситуация, что уместно, а что нет, когда человек шутит, а когда серьёзен.

Этот контекст — не просто фон. Он фундаментален для значения.

Деннинг описывает это как фрактал: каждый контекст опирается на предыдущие, которые опираются на ещё более ранние. Бесконечная цепочка общего понимания, которую мы выстраивали всю жизнь.

Культура добавляет ещё одно измерение. Деннинг описывает её как охватывающую «ценности, нормы, суждения, историю, сообщества, настроения и даже отношения власти и заботы».

Всё это невидимо для систем ИИ. Они могут распознавать паттерны в языке, но не способны по-настоящему ухватить культурный вес слов и действий.

Что это значит для будущего ИИ?

Не подумайте, я не говорю, что ИИ бесполезен — очевидно, это не так. Эти системы действительно впечатляют в конкретных задачах и невероятно полезны как инструменты.

Но аргумент Деннинга намекает: мы, возможно, приближаемся к потолку. Что настоящий общий искусственный интеллект — машины с человеческим уровнем понимания и адаптивности — может быть фундаментально недостижим при наших текущих подходах.

И вот где становится немного тревожно: Деннинг предупреждает, что если мы продолжим гнаться за AGI, игнорируя эти фундаментальные ограничения, мы рискуем создать технологии, которые принесут серьёзные новые риски, не оправдав обещаний.

Подумайте сами. Мы строим системы, которые не до конца понимаем, используя подходы, которые могут быть изначально ограничены, для решения проблем, требующих видов понимания, к которым у этих систем доступа нет.

Моё мнение

Честно говоря, аргументы Деннинга убедили меня, но не полностью.

Да, есть фундаментальные проблемы с захватом неявного знания. Да, телесный опыт, вероятно, важен больше, чем мы признавали. И да, тест Тьюринга может быть плохим показателем настоящего интеллекта.

Но я также думаю, что мы открываем эти ограничения в реальном времени, и сам процесс открытия ценен. Каждая проблема, которую указал Деннинг, — это исследовательский вопрос. Каждая стена, в которую мы упираемся, учит нас чему-то новому о человеческом познании и сознании.

Возможно, настоящий урок не в том, что ИИ не может быть интеллектуальным, а в том, что человеческий интеллект удивительнее, чем мы ценили. Каждый раз, когда вы понимаете шутку, ловите мяч или чувствуете, что в разговоре что-то «не так» — вы делаете то, чего наши самые продвинутые компьютеры до сих пор не могут.

Может, вопрос не в том, могут ли машины думать как люди. Может, вопрос в том: что они могут делать хорошо, и как встроить это в мир, где человеческие качества значат больше, а не меньше?

Над этим стоит поразмышлять.

А что думаете вы? Аргументы Деннинга перекликаются с вашим опытом использования ИИ? Или вы верите, что мы недооцениваем потенциал этих систем?

Пишите в комментариях — мне правда интересно, как это на вас действует.