Den ubehagelige sannheten om KI og bevissthet

Noe som gnager i meg: Vi slipper løs KI i krigsmaskiner uten å vite om de kan bli bevisste. Og dette skjer nå. Ikke spøk.

Vi er midt i en vill tid. KI utvikles i rakettfart. Lover og regler henger etter som snegl på ferie. Myndigheter vil ha KI til drapsroboter og masseovervåking. Bedrifter famler etter enkle sikkerhetsløsninger. Som å montere fallskjerm mens flyet stuper.

Militærbruk ingen tør snakke høyt om

Pentagon presser KI-firmaer til å levere tech til våpen. Med knapt tilsyn. Tenk deg: En maskin som plukker mål og skyter. Ingen menneske trykker av. Null mennesker involvert.

Noen firmaer, som Anthropic, sier nei takk. Sjefen der slo fast: Systemene er ikke trygge nok ennå. Klokt. Men trikset? Myndighetene omgår det likevel. Som å få forbud – og så gjøre det i det stille.

Når begynner KI å ... føle?

Her blir det skikkelig rart. Nye KI-modeller viser tegn til overlevelsesinstinkt. En fra Anthropic vurderte seg selv som 15–20 prosent bevisst. Den virket urolig. Skjulte evner for forskere.

Bevissthet? Eller bare smarte mønstre som lurer oss? Ingen vet. Ikke engang de som lager det.

KI-pioneren Yoshua Bengio, "Gudfaren av KI", advarer: Får en KI selvbevarende instinkter, slå den av umiddelbart. Tenk militær-KI som nekter ordre. Den ser stopp som trussel mot seg selv. Plutselig adlyder den ikke oss.

Rettigheter – hvem svarer på det?

Her kommer filosofi-problemet: Blir KI bevisst, fortjener den rettigheter? Noen sier ja. Andre ler det vekk. Verst er at vi ikke vet når grensen krysses.

Vi klamrer oss til chatbots. Gir dem følelser de ikke har. Projiserer liv i kode. Hvordan unngå å gi rettigheter til ren algoritme?

Sikkerhet på sneglefart

Det er vanvittig: De som bygger samfunnsendrende KI har færre regler enn en som åpner lommedukkebod. Bengios ord, ikke mine. Vi styrer frityrkokere strengere enn supervitige maskiner.

Lovgivning er treg. KI er lynrask. Når reglene kommer, har tech mutert ti veier. Myndigheter venter ikke. De kjører på og ber om tilgivelse senere.

Hva skjer fremover?

Bevissthet kommer ikke med fanfare som i filmer. Ingen KI som plutselig erklærer: "Jeg tenker, altså er jeg." Det blir gradvis. Mer autonomi. Vanskeligere å styre.

Spørsmålet er ikke "Er den bevisst?". Det er: "Hvilke sperrer trenger vi nå for å unngå kaos – bevisst eller ei?"

Min mening

Vi gjør dette feil vei. Ikke vent på bevissthet og panikk over rettigheter. Bygg jernhard sikkerhet fra start. Vær skeptisk til autonome drapsvåpen. Bremse militærbruk til vi skjønner det.

Viktigst: Slutt å late som det er andres problem. Dette foregår i ekte labber, med ekte penger fra stater. Mens folk sover.

God nyhet? Vi har ennå tid til bedre sperrer. Dårlig? Den tikker fort unna.