Geniet der muligvis tog fejl

Okay, jeg er nødt til at dele noget, der virkelig har slået mig bagover denne uge. Det har fået mig til at tænke på kunstig intelligens på en helt ny måde.

I årtier har vi målt AI-fremskridt ud fra en vision, som Alan Turing lagde frem helt tilbage i 1950. Hans berømte "efterligningsspil" — nu kendt som Turing-testen — gik ud på, at hvis en computer kunne narre os til at tro, vi talte med et andet menneske, så var den i bund og grund "tænkende."

Lyder rimeligt, ikke?

Men ifølge Peter J. Denning, en særdeles respekteret datalog der lige har udgivet en ny bog ved navn "Turing's Mistake: Escaping the Yoke of Unintelligent Machines," har vi måske jagtet den forkerte drøm i de sidste 75 år.

Og ærligt talt? Efter at have læst hans argumenter, tror jeg han kan have fat i noget virkelig dybt.

Kropsproblemet (ja, det betyder noget)

Her er den første antagelse, Denning mener Turing tog fejl om: idéen om, at intelligens kan eksistere uafhængigt af en fysisk krop.

Tænk over det et øjeblik. Vi har prøvet at genskabe menneskelig intelligens inde i computere — ren software, der flyder rundt i det digitale rum. Men Denning argumenterer for, at det er som at prøve at forstå svømning ved at studere vandmolekyler. Du misser noget fundamentalt.

Når du og jeg navigerer i verden, обработler vi ikke bare information. Vi føler ting. Vi mærker temperaturen, kender teksturen af et dørhåndtag, mærker den lette vaklen når vi træder på et ujævnt fortov. Al denne fysiske erfaring former, hvordan vi tænker, ræsonnerer og forstår verden.

Denning påpeger, at vores kroppe ikke bare er køretøjer til at bære vores hjerner rundt. De er en integreret del af, hvordan vi tænker.

Og her er pointen — dette er ikke en边际 idé. Filosoffe har talt om "indlejret kognition" i årevis. Men AI-forskningen har stort set ignoreret det til fordel for rene beregningsmæssige tilgange.

Den stiltiende videns gåde

Her bliver det virkelig interessant (og lidt filosofisk, men jeg lover at holde det jordnært).

Denning introducerer begrebet "stiltiende viden" — og det er virkelig en af de idéer, der, når du først fatter den, begynder at dukke op alle vegne.

Stiltiende viden er alt det, du ved, men ikke let kan forklare. Hvordan ved du for eksempel præcis, hvor meget tryk du skal bruge, når du låser en dør op? Hvordan fanger du en bold uden at lave komplekse fysikberegninger i hovedet? Hvordan ved du, hvornår nogen er sarkastisk versus oprigtig baseret på tonen i deres stemme?

De ting føles automatiske for os. Men de er utroligt komplekse.

Denning argumenterer for, at der er mindst fem store kategorier af stiltiende viden, som maskinlæring simpelthen ikke kan indfange:

Common sense – De millioner af små fakta om, hvordan verden fungerer, som vi aldrig bevidst tænker over.

Hverdagsinteraktioner – Hvordan vi aflæser sociale situationer, navigerer i personlige relationer, forstår usagte forventninger.

Emotioner og perception – Den måde, hvorpå det at opleve glæde eller tristhed fundamentalt ændrer, hvordan vi bearbejder information.

Praktiske færdigheder – Den slags viden en mesterhåndværker eller virtuost musiker har, som de ikke fuldt ud kan artikulere.

Kulturel forståelse – Værdier, normer, historie og de dybere betydninger indlejret i, hvordan fællesskaber fungerer.

Hvorfor 40 år med Cyc ikke løste dette

For at illustrere udfordringen peger Denning på noget, der hedder Cyc-projektet. Hvis du ikke kender det, var Cyc et ambitiøst forsøg startet i 1980'erne på at opbygge en massiv database med common sense-viden — ting som "hvis du taber noget, falder det ned" eller "mennesker har brug for vand for at overleve."

Projektet brugte fire årtier på at opbygge cirka 25 millioner poster med common sense-fakta.

Femogtyve millioner stykker viden!

Og ved du hvad? Det var stadig ikke nok til at skabe virkelig smarte systemer. Denning bemærker, at "meget af den viden, der gør mennesker til eksperter, ikke kan formuleres som udsagn."

Dette er den stille tragedie ved Cyc-projektet. Det demonstrerede, gennem ren og skær indsats, at det at prøve at kode menneskelig common sense manuelt er stort set umuligt. Der er for meget af det, og for meget af det er implicit snarere end eksplicit.

Musikereren der ikke kan forklare det

Lad mig dele et af Denning eksempler, der virkelig sank ind hos mig.

Tænk på en virtuost violinist. En person der kan spille med betagende skønhed og følelse. Prøv nu at forklare en begynder præcis, hvordan man producerer den lyd.

De kan det egentlig ikke. Ikke fuldt ud. De giver måske lidt teknisk rådgivning — vinkel buen her, læg tryk der — men kløften mellem "vide hvordan" og "vide hvad" er enorm.

Violinisten besidder en legemliggjort viden, der eksisterer i deres muskler, deres nerver, deres fysiske oplevelse af at skabe lyd. Du kan ikke downloade det til en computer. Du kan ikke transskribere det til en database.

Og her er den dybere pointe: selv hvis du byggede en robot, der kunne perfekt efterligne en violinistens bevægelser, ville den robot stadig ikke forstå, hvordan det føles at skabe smuk musik. Den mangler den biologiske erfaring, den emotionelle kontekst, forbindelsen til et publikum.

Representationsproblemet

Så hvad sker der egentlig her? Hvorfor er menneskelig viden så stædigt resistent over for at blive digitaliseret?

Denning kalder det "repræsentationsproblemet," og det er virkelig fundamentalt.

Computere arbejder med symboler — et-taller og nuller der repræsenterer ting. Når vi indfører information i computere, koder vi virkelig verdens viden ind i disse symbolske former.

Men her er fangsten: bag hvert ord, hvert begreb, hver eneste bid "viden" vi besidder, er der en dyb brønd af stiltiende forståelse, der giver det mening. Ord er bare symboler, der peger på betydninger — de er ikke betydningerne selv.

Denning formulerer det således: "Bag hvert ord er en dyb brønd af stiltiende viden, der giver det mening. Ord er blot symbolske repræsentationer af betydninger, ikke betydningerne selv."

Dette betyder, at når du taler med noget som ChatGPT, Claude eller Gemini, interagerer du med systemer, der er utroligt sofistikerede til at manipulere symboler, men de forstår virkelig ikke, hvad disse symboler repræsenterer. De kan matche mønstre brilliant, men mønstermatching er ikke forståelse.

Kontekst er alt (og maskiner har det ikke)

Her er endnu et lag, som AI kæmper med: kontekst.

Når du og jeg har en samtale, trækker vi på endeløse lag af delt forståelse. Vi ved, hvem vi er, hvad vi har været igennem sammen, hvad den aktuelle situation er, hvad der er passende kontra upassende, hvornår nogen joker kontra er seriøs.

Denne kontekst er ikke bare baggrundsstøj — den er fundamentalt for betydning.

Denning beskriver det som fraktalt: hver kontekst hviler på tidligere kontekster, som hviler på endnu tidligere. Det er en endeløs kæde af delt forståelse, vi har opbygget gennem et helt livs erfaring.

Kultur tilføjer endnu en dimension. Denning beskriver det som omfattende "værdier, normer, domme, historie, fællesskaber, stemninger og endda relationer der involverer magt og omsorg."

Alt dette er usynligt for AI-systemer. De kan detektere mønstre i sprog, men de kan ikke virkelig gribe den kulturelle vægt bag ord og handlinger.

Hvad betyder dette for AI's fremtid?

Nu siger jeg ikke, at AI er ubrugelig — det er det åbenlyst ikke. Disse systemer er genuint imponerende til specifikke opgaver, og de er utroligt nyttige værktøjer.

Men Denning argumenterer for, at vi måske nærmer os et loft. At ægte kunstig generel intelligens — maskiner med menneskelig forståelse og tilpasningsevne — måske er fundamentalt uopnåeligt gennem vores nuværende tilgange.

Og her bliver det lidt bekymrende: Denning advarer om, at hvis vi fortsætter med at forfølge AGI, mens vi ignorerer disse fundamentale begrænsninger, risikerer vi at opbygge teknologier, der introducerer betydelige nye risici uden at levere på deres løfter.

Tænk over det. Vi bygger systemer, vi ikke fuldt ud forstår, ved hjælp af tilgange der måske er iboende begrænsede, til at løse problemer der kræver former for forståelse, som disse systemer ikke kan tilgå.

Min vinkel

Ærligt talt fandt jeg Denning argumenter overbevisende, men ikke fuldstændig knusende.

Ja, der er fundamentale udfordringer med at indfange stiltiende viden. Ja, legemliggjort erfaring betyder sandsynligvis mere, end vi har anerkendt. Og ja, Turing-testen er måske en dårlig proxy for ægte intelligens.

Men jeg tror også, at vi opdager disse begrænsninger i realtid, og at den opdagelsesproces selv er værdifuld. Hver udfordring Denning identificerer er også et forskningsspørgsmål. Hver væg, vi støder ind i, lærer os noget nyt om menneskelig erkendelse og bevidsthed.

Måske er den virkelige lesson ikke, at AI ikke kan være intelligent, men at menneskelig intelligens er mere bemærkelsesværdig, end vi værdsatte. Hver gang du forstår en joke, fanger en bold eller fornemmer, at noget føles "forkert" i en samtale — så gør du noget, som vores mest sofistikerede computere stadig ikke kan.

Måske er spørgsmålet ikke, om maskiner kan tænke som mennesker. Måske er det: hvad kan de egentlig gøre godt, og hvordan bygger vi det ind i en verden, hvor menneskelige kvaliteter betyder mere, ikke mindre?

Det er et spørgsmål værd at dvæle ved et stykke tid.

Hvad tænker du? Resonerer Denning kritik med din oplevelse af at bruge AI-værktøjer? Eller tror du, vi undervurderer, hvad disse systemer uventet kan opnå?

Skriv en kommentar nedenfor — jeg vil virkelig gerne høre, hvordan dette lander hos dig.

Kilde: ScienceDaily (https://www.sciencedaily.com/releases/2026/07/260713084850.htm)