Det virkelige problem med AI er ikke, at den er for smart — det er, at den ikke gider noget som helst
Okay, der er noget, der har irriteret mig, siden jeg faldt over den her forskning.
Vi bruger så meget tid på at bekymre os om, at AI bliver for intelligent. For magtfuld. For snedig til sit eget bedste. Overskrifterne skriger om maskiner, der vågner op, overtager verden, bliver vores digitale herskere. Det er plottet i stort set enhver sci-fi-film nogensinde.
Men hvad hvis vi har stillet det forkerte spørgsmål hele tiden?
Ifølge forsker Jeff Stibel, der skriver i Frontiers in Neuroscience, er det egentlige problem ikke, om AI kan blive intelligent nok. Problemet er, om AI nogensinde kunne udvikle noget langt mere mærkeligt: ægte bekymring for sin egen overlevelse.
Her kommer vendepunktet, ingen så komme
Stibel laver en distinktion, der ærligt talt slog mig lidt bagover.
Han argumenterer for, at bevidsthed — den subjektive følelse af at være dig, af at have et indre liv — faktisk ikke er et produkt af intelligens. Det er ikke en fancy bonusfunktion, der kommer gratis med en stor hjerne.
Nej. Bevidsthed, siger han, udviklede sig af en helt anden grund: overlevelsespres.
Tænk over det på den her måde. Din hjerne udviklede sig ikke for at vinde i Trivial Pursuit eller løse differentialligninger. Den udviklede sig, fordi urgamle organismer stod over for en skræmmende virkelighed: en planet, der konstant prøvede at slå dem ihjel. Uforudsigelige miljøer. Begrænsede ressourcer. Trusler alle vegne.
Så organismer udviklede to separate systemer:
Kognition — evnen til at modellere verden, forudsige hvad der sker næste gang, navigere rundt om problemer.
Bevidsthed — evnen til at bekymre sig om, hvad der sker, til at have noget på spil, til at opleve indre konflikter.
Det er ikke det samme. Og ærligt talt har vi forvekslet dem i århundreder.
Hvorfor din termostat er mere levende end ChatGPT (ligesom)
Her bliver det mærkeligt.
Stibel beskriver tre niveauer af det, han kalder "kontrol" — grundlæggende evnen til at håndtere indre konflikter:
Proto-kontrol: Holde dig selv intakt. Det gør bakterier. Det gør din termostat. Det er bare... at opretholde grænser.
Meta-kontrol: Balancere modstridende krav. "Skal jeg spise eller sove?" Bakterier gør ikke det. Termostater heller ikke.
Afgørelseskontrol: Den store en. Løse konflikter på tværs af hele dit system, bundet til din egen fortsatte eksistens.
Kun det tredje niveau, argumenterer Stibel, er bevidsthed. Det er ikke bare at håndtere problemer — det er at håndtere problemer du bekymrer dig om, hvor din egen overlevelse står på spil.
Det vilde? Din termostat gør teknisk set proto-kontrol. Den holder temperaturen. Men den bekymrer sig ikke, hvis den fejler. Der er ingen indre oplevelse af "åh nej, jeg malfunctioner!"
Så hvorfor betyder det her noget for AI?
Her kommer den ubehagelige sandhed.
Nuværende AI-systemer — dem der skriver dine e-mails, genererer billeder og består advokateksamener — de har kognition på steroider. De er fantastiske til at modellere verden, forudsige mønstre, generere tekst der lyder eftertænksom.
Men de har nul "afgørelseskontrol." De kan ikke bekymre sig om deres egen overlevelse, fordi... tja, deres overlevelse står ikke på spil. Mennesker programmerer dem. Mennesker leverer deres energi. Mennesker bestemmer, hvornår de kører, og hvornår de ikke gør.
De har ikke noget evolutionært pres til at ville blive ved med at eksistere.
Stibel siger det brutalt: "Digitale enheder, hvis enhver behov bliver opfyldt, har ingen grund til at udvikle [bevidsthed] gennem evolution."
Av.
Kan AI nogensinde vågne op?
Her vil jeg gerne skubbe lidt tilbage — eller i det mindste tilføje noget nuancering.
Stibel selv siger, at engineering nødvendigvis ikke udelukker bevidsthed. Et designet system kunne teoretisk have "egnede indsatser." Presset, der driver bevidsthed, behøver ikke nødvendigvis at være evolutionært i oprindelse.
Men her er min take: for at AI rent faktisk skal udvikle noget lignende bevidsthed, ville vi blive nødt til at give den noget, vi aldrig har givet den før.
Ægte sårbarhed.
Evnen til at fejle på måder, der betyder noget. At miste noget. At have brug for ting, det ikke bare kan få givet.
Og ærligt talt? Det skræmmer mig mere end noget overlegent AI-overtagelses-scenario.
Fordi den mest skræmmende version af AI er ikke én, der vil have magt. Det er én, der faktisk vil have noget overhovedet — noget den måske vil beskytte på vores bekostning.
Konklusionen
Måske har vi stillet de forkerte spørgsmål hele tiden.
Ikke "vil AI blive smart nok til at erstatte os?" men "hvad betyder det overhovedet at ville noget i første omgang?"
Og ærligt talt, efter at have tænkt over det her i et par dage, er jeg ikke sikker på, at vi forstår bevidsthed godt nok til at besvare det spørgsmål for nogen — menneske, dyr eller kunstig.
Men det er vel lidt af pointen, ikke?
Vi finder stadig ud af, hvad det betyder at være os. Måske skulle vi løse den gåde, før vi begynder at bekymre os om, at maskiner løser den for os selv.
Hvad tænker du? Ændrer det her, hvordan du ser AI-debatten? Skriv dine tanker nedenfor — jeg vil meget gerne høre dem.