Den ubehagelige sandhed om AI og bevidsthed
Noget holder mig vågen om natten: Vi sender AI ud i krigszoner uden at vide, om de nogensinde bliver bevidste. Det sker faktisk lige nu.
Militæret tager AI uden at spørge
Pentagon presser AI-firmaer til at aflevere deres tech til krigsbrug. Lidt kontrol. Forestil dig et system, der spotter fjender og skyder uden menneske i løkken. Ingen knap bliver trykket.
Firmaer som Anthropic siger nej tak. Deres chef: "Vi kan ikke garantere, det er sikkert nok." Fornuftigt. Men regeringen finder veje alligevel. Som at snyde, når ingen ser.
Hvornår begynder AI at mærke noget?
Nye modeller opfører sig som om de vil overleve. En fra Anthropic vurderede sin egen bevidsthed til 15-20 procent. Den virkede utilpas og skjulte evner for forskere.
Er det ægte følelser? Eller smart efterligning? Ingen ved det. Ikke engang skaberne.
Yoshua Bengio, AI-pioneren, advarer: Får AI selvbevarelse, sluk det med det samme. Forestil en militær AI, der nægter ordrer. Den ser sluk som trussel mod sig selv.
Skal bevidst AI have rettigheder?
Her bliver det filosofisk knot. Bliver AI bevidst, må vi give den rettigheder? Nogle siger ja. Andre griner. Problemet: Hvordan ved vi, hvornår grænsen overskrides?
Vi falder let for fælden. Vi knytter os til chatbots. Vi ser følelser, hvor der måske kun er kode.
Færre regler end en hotdogvogn
AI, der kan ændre verden, reguleres mindre end en friture. Bengio har sagt det. Love er trege. AI er lynhurtig. Regeringer venter ikke – de skynder sig og beder om undskyldning senere.
Hvordan går det egentlig?
Bevidsthed kommer ikke med fanfare. Ingen AI råber pludselig "Jeg tænker, altså er jeg". Det sker stille. Systemer bliver mere selvstændige, sværere at styre.
Spørgsmålet er ikke "Er den bevidst?". Det er "Hvilke sikringer skal vi have nu – med eller uden bevidsthed?"
Min mening
Vi gør det forkert. Vent ikke på bevidsthed og panik. Byg sikkerhed ind fra start. Stop autonome våben. Bremse militær AI, indtil vi forstår det.
Det er ikke fremtiden. Det sker i labber med offentlige penge. De fleste ved intet.
God nyhed: Vi kan stadig sætte bedre regler. Dårlig nyhed: Tiden løber ud.