Геният, който може би се е лъгал

Хайде да ви споделя нещо, което наистина ме смая тази седмица. Започнах да гледам на изкуствения интелект по съвсем различен начин.

Години наред мерихме напредъка на AI спрямо визия, очертана от Алан Тюринг през 1950-а. Неговата прочута "имитационна игра" — днес позната като Теста на Тюринг — предполагаше, че ако компютърът успее да заблуди хората да мислят, че си говорят с човек, значи машината на практика "мисли".

Звучи логично, нали?

Е, според Питър Дж. Денинг — сериозен компютърен учен, който току-що пусна нова книга — може би 75 години сме гонели грешна цел.

И след като прегледах аргументите му, мисля, че е попаднал на нещо важно.

Проблемът с тялото (да, има значение)

Ето първата грешка според Денинг: идеята, че интелектът може да съществува без физическо тяло.

Помислете за момент. Опитваме се да пресъздадем човешки интелект в компютри — чист софтуер, плуващ в дигиталното пространство. Но Денинг твърди, че това е като да се опитваш да разбереш плуването, като изучаваш водните молекули. Пропускаш нещо съществено.

Когато се придвижваме из света, ние не просто обработваме информация. Усещаме нещата. Чувстваме температурата, текстурата на бравата, люшването когато стъпим на неравна настилка. Цялата тази физическа опитност оформя как мислим, разсъждаваме, разбираме света.

Денинг подчертава, че телата ни не са просто превозни средства за мозъците ни. Те са неразделна част от мисленето ни.

И нещо важно — това не е маргинална идея. Философите отдавна говорят за "въплътеното познание". Но изследванията в областта на AI до голяма степен я пренебрегнаха в полза на чисто изчислителните подходи.

Загадката на мълчаливото знание

Тук става наистина интересно (и малко философско, но обещавам да го държа здраво).

Денинг въвежда понятието "мълчаливо знание" — и това е една от онези идеи, които щом ги схванеш, започваш да ги виждаш навсякъде.

Мълчаливото знание е всичко онова, което знаеш, но не можеш лесно да обясниш. Като... как разбираш точно колко натиск да приложиш, когато отключваш врата? Как хващаш топка, без да правиш сложни физически изчисления в главата си? Как разбираш кога някой е саркастичен, а кога — искрен, само по тона на гласа?

Тези неща ни се струват автоматични. Но са невероятно сложни.

Денинг твърди, че има поне пет големи категории мълчаливо знание, които машинното обучение просто не може да улови:

Обикновен разум — милионите дребни факти за това как работи светът, за които никога не се замисляме съзнателно.

Ежедневни взаимодействия — как четем социални ситуации, навигираме лични отношения, разбираме неизречени очаквания.

Емоции и възприятие — начинът, по който преживяването на радост или тъга фундаментално променя как обработваме информация.

Практически умения — знанието, което майстор-занаятчия или виртуозен музикант притежава, но не може напълно да опише.

Културно разбиране — ценности, норми, история и по-дълбоките значения, вградени в начина, по който общностите работят.

Защо 40 години Cyc не решиха проблема

За да илюстрира предизвикателството, Денинг сочи нещо наречено проектът Cyc. Ако не сте чували — това беше амбициозен опит от 80-те години да се изгради огромна база данни от обикновени знания — неща като "ако пуснеш нещо, то пада надолу" или "хората се нуждаят от вода, за да оцелеят".

Проектът отне четири десетилетия, за да събере около 25 милиона записа.

Двадесет и пет милиона парчета знание!

И знаете ли какво? Пак не беше достатъчно за наистина интелигентни системи. Денинг отбелязва, че "голяма част от знанието, което прави хората експерти, не може да бъде формулирано като твърдения."

Това е тихата трагедия на проекта Cyc. Той показа, с цената на огромни усилия, че ръчното кодиране на човешкия обикновен разум е на практика невъзможно. Има твърде много от него, и твърде много от него е имплицитно, а не експлицитно.

Музикантът, който не може да го обясни

Нека споделя един пример на Денинг, който наистина ми заседна.

Помислете за виртуозен цигулар. Човек, който свири с потресаваща красота и емоция. Сега си представете, че се опитвате да обясните на начинаещ точно как да произведе този звук.

Не може наистина. Не напълно. Може да даде някакъв технически съвет — наклонението на лъка тук, натискът там — но пропастта между "знаеш как" и "знаеш какво" е огромна.

Цигуларят притежава въплътено знание, което съществува в мускулите му, нервите му, физическия опит от създаването на звук. Не можеш да свалиш това в компютър. Не можеш да го пре transcribed в база данни.

И ето по-дълбоката точка: дори да изградиш робот, който перфектно имитира движенията на цигуларя, този робот пак не би разбрал какво означава да създаваш красива музика. Липсва му биологичният опит, емоционалният контекст, връзката с публиката.

Проблемът с представянето

Какво точно се случва тук? Защо човешкото знание е толкова упорито срещу дигитализацията?

Денинг го нарича "проблемът с представянето", и той е наистина фундаментален.

Компютрите работят със символи — единици и нули, които представляват неща. Когато подаваме информация в компютри, ние кодираме знание от реалния свят в тези символни форми.

Но ето уловката: зад всяка дума, всяко понятие, всяко парче "знание", което притежаваме, има дълбок кладенец от мълчаливо разбиране, който му дава смисъл. Думите са просто символи, сочещи към значенията — не са самите значения.

Денинг го формулира така: "Зад всяка дума стои дълбок кладенец от мълчаливо знание, което й дава смисъл. Думите са само символни представи на значенията, не самите значения."

Това означава, че когато говориш с нещо като ChatGPT, Claude или Gemini, взаимодействаш със системи, невероятно сложни в манипулирането на символи, но те наистина не разбират какво тези символи представляват. Могат блестящо да разпознават модели, но разпознаването на модели не е разбирането.

Контекстът е всичко (а машините нямат такъв)

Ето още един слой, с който AI се бори: контекстът.

Когато двама души разговарят, те черпят от безкрайни слоеве на споделено разбиране. Знаем кой сме, какво сме преживели заедно, каква е настоящата ситуация, какво е уместно и какво — не, когато някой се шегува и когато е сериозен.

Този контекст не е просто фонови шум — той е фундаментален за значението.

Денинг го описва като фрактален: всеки контекст почива на предишни контексти, които почиват на още по-ранни. Безкрайна верига от споделено разбиране, изграждана през целия живот на опит.

Културата добавя още едно измерение. Денинг я описва като обхващаща "ценности, норми, преценки, история, общности, настроения и дори отношения, свързани с власт и грижа."

Всичко това е невидимо за AI системите. Могат да засичат модели в езика, но не могат наистина да схванат културната тежест зад думите и действията.

Какво означава това за бъдещето на AI?

Не казвам, че AI е безполезен — очевидно не е. Тези системи са наистина впечатляващи в конкретни задачи и са невероятно полезни инструменти.

Но аргументът на Денинг предполага, че може би се доближаваме до таван. Че истинският общ изкуствен интелект — машини с човешко ниво на разбиране и адаптивност — може би е фундаментално недостижим чрез сегашните ни подходи.

И ето къде става малко притеснително: Денинг предупреждава, че ако продължим да преследваме AGI, докато игнорираме тези фундаментални ограничения, рискуваме да изградим технологии, които носят значителни нови рискове, без да изпълнят обещанията си.

Помислете. Изграждаме системи, които не разбираме напълно, използвайки подходи, които може би са присъщо ограничени, за решаване на проблеми, изискващи видове разбиране, до които тези системи нямат достъп.

Моето мнение

Откровено казано, намерих аргументите на Денинг убедителни, но не напълно смазващи.

Да, има фундаментални предизвикателства при улавянето на мълчаливо знание. Да, въплътената опитност вероятно има повече значение, отколкото сме признавали. И да, Тестът на Тюринг може би е лош заместител на истинския интелект.

Но също така мисля, че откриваме тези ограничения в реално време и самият процес на откритие е ценен. Всяко предизвикателство, което Денинг идентифицира, е и изследователски въпрос. Всяка стена, в която се блъскаме, ни учи нещо ново за човешкото познание и съзнание.

Може би истинският урок не е, че AI не може да бъде интелигентен, а че човешката интелигентност е по-удивителна, отколкото сме оценявали. Всеки път когато разбереш шега, хванеш топка или усетиш, че нещо в разговора "не е наред" — правиш нещо, което най-сложните ни компютри все още не могат.

Може би въпросът не е дали машините могат да мислят като хората. Може би е: какво могат да правят добре и как го напасваме към свят, в който човешките качества имат значение повече, а не по-малко?

Това е въпрос, с който си струва да седнеш за малко.

Какво мислите? Аргументът на Денинг ли реzonира с вашия опит с AI инструменти? Или смятате, че подценяваме какво тези системи могат в крайна сметка да постигнат?

Пишете коментар — наистина искам да знам как ви се отразява.

Източник: ScienceDaily