Keinotekoisessa älyssä on yksi ongelma, jota kukaan ei näytä huomaavan

Tämä tutkimus on pyörinyt mielessäni jonkin aikaa.

Keskustelu tekoälystä pyörii usein saman ympyrän ympärillä. Miten kauan kestää, kunnes koneet ylittävät ihmisälyn? Milloin ne alkavat kehittyä omatoimisesti? Entä jos ne alkavat suunnitella meitä?

Jeff Stibel esittää Frontiers in Neuroscience -julkaisussa jotain, mikä saa pysähtymään. Hänen mukaansa olemme kysyneet vääriä kysymyksiä koko ajan.

Se, mistä puhumme, on väärä ongelma

Stibel vetää terävän eron kahden asian välille.

Toinen on kognitio – kyky mallintaa maailmaa, ennakoida tapahtumia, ratkaista ongelmia.

Toinen on tietoisuus – sisäinen kokemus siitä, että on olemassa. Että asioilla on merkitystä.

Nämä eivät ole sama asia. Ei edes lähellä.

Ajattele vaikka näin. Aivosi eivät kehittyneet siksi, että osaisit laskea tai muistaa syntymäpäivät. Ne kehittyivät, koska esi-isämme elivät maailmassa, joka yritti jatkuvasti tappaa heidät. Ympäristö muuttui arvaamattomasti. Resurssit olivat niukkoja. Vaara oli kaikkialla.

Joten eliöt kehittivät kaksi erillistä järjestelmää.

Kognitio auttoi navigoimaan. Tietoisuus auttoi välittämään siitä, mitä tapahtuu.

Miksi termostaatti on elävämpi kuin ChatGPT (tavallaan)

Stibel jakaa kontrollin kolmeen tasoon:

Proto-kontrolli pitää sinut koossa. Bakteerit tekevät tätä. Termostaatti tekee tätä. Se on yksinkertaisesti rajojen ylläpitämistä.

Meta-kontrolli tasapainottaa kilpailevia tarpeita. "Syönkö vai nukunko?" Tämä on jo monimutkaisempaa.

Settlement-kontrolli ratkaisee ristiriidat koko järjestelmässä – ja se on sidottu omaan selviytymiseen.

Vain tämä kolmas taso on Stibelin mukaan tietoisuutta. Ei vain ongelmien ratkaisemista, vaan ongelmien ratkaisemista, joilla on merkitystä. Joissa oma olemassaolo on vaakalaudalla.

Termostaattisi tekee proto-kontrollia. Se pitää lämpötilan sopivana. Mutta se ei välitä, jos se hajoaa. Sisäistä kokemusta "oho, jotain meni pieleen!" ei ole olemassa.

Mitä tämä tarkoittaa tekoälylle?

Tässä kohtaa asiat muuttuvat epämukaviksi.

Nykyinen tekoäly – se joka kirjoittaa sähköpostisi, piirtää kuvat ja läpäisee tentit – on kognitiossa huippuluokkaa. Se mallintaa maailmaa, tunnistaa kaavoja, tuottaa tekstiä, joka vaikuttaa harkitulta.

Mutta sillä ei ole settlement-kontrollia. Se ei voi välittää omasta selviytymisestään, koska... no, sen selviytyminen ei ole uhattuna. Ihminen ohjelmoi sen. Ihminen syöttää sille virran. Ihminen päättää, milloin se toimii.

Ei evolutiivista painetta haluta jatkaa olemassaoloa.

Stibel tiivistää: "Digitaaliset entiteetit, joiden jokainen tarve täytetään, eivät kehity tietoisiksi evoluution kautta."

Se sattuu.

Voiko tekoäly herätä?

Täytyy myöntää, että tässä kohtaa haluan lisätä jotain.

Stibel ei sulje pois, etteikö suunniteltu järjestelmä voisi teoriassa saavuttaa tietoisuutta. Paine ei välttämättä tarvitse olla evolutiivinen.

Mutta oma näkemykseni on tämä: jotta tekoäly todella kehittyisi tietoiseksi, sille pitäisi antaa jotain, mitä sille ei ole koskaan annettu.

Aito haavoittuvuus. Mahdollisuus epäonnistua tavalla, jolla on merkitystä. Mahdollisuus menettää jotain. Tarvita asioita, joita ei voi vain saada.

Ja rehellisesti? Tämä pelottaa minua enemmän kuin mikään superälykkään tekoälyn valtaus-skenaario.

Koska kaikkein pelottavin versio tekoälystä ei ole sellainen, joka haluaa valtaa. Se on sellainen, joka haluaa yhtään mitään – jotain, jota se saattaa suojella meidän kustannuksellamme.

Mitä tästä pitäisi ajatella?

Ehkä olemme kysyneet vääriä kysymyksiä alusta asti.

Ei "kehittyykö tekoäly tarpeeksi älykkääksi korvaamaan meidät?" vaan "mitä se edes tarkoittaa, että haluaa jotain?"

Ja jos olen rehellinen, en ole varma ymmärrämmekö me tietoisuutta riittävän hyvin vastataksemme siihen kenenkään kohdalla – ihmisen, eläimen tai koneen.

Mutta ehkä se on koko pointti.

Emme vieläkään tiedä, mitä tarkoittaa olla me. Ehkä meidän pitäisi ratkaista se mysteeri ennen kuin alamme huolehtia siitä, että koneet ratkaisevat sen puolestamme.

Mitä sinä ajattelet? Muuttaako tämä näkökulmaasi tekoälykeskusteluun? Kirjoita kommenttisi alle – haluaisin kuulla ajatuksesi.