Här är ett roligt partytrick till nästa middagsbjudning: Gå fram till din mest teknikintresserade vän och släng casually ur dig: ”Tror du att vi redan har passerat in i AI-singulariteten?” Se hur deras ansikte på tre sekunder hinner cykla genom entusiasm, förvirring och möjligen existentiell ångest.
För det är i princip där vi befinner oss just nu i den artificiella intelligensens värld. I somras började några av de största namnen inom tech – personer som OpenAIs Sam Altman – göra ganska djärva uttalanden. Altman själv sa, och jag paraphraserar här, ”Ja, vi lever i den. Det här är singulariteten. Jag har väntat hela mitt liv på detta.”
Och ärligt talat? En del av mig ville high-fiva honom. Låter spännande, eller hur? Som att vara vid liv i början av något enormt?
Men sedan satt jag med det en stund, och min hjärna började göra den där saken där den frågar: ”Vänta, men... skulle vi ens kunna veta om vi var det?”
Svart hål-analogin som faktiskt är hjälpsam
Här blir det intressant. Termen ”singularitet” kommer ursprungligen från astrofysiken – punkten inuti ett svart hål där gravitationen blir så intensiv att allt vi vet om fysik bara... slutar fungera. Förbi den tröskeln? Fullständig osäkerhet. Inga regler. Inga förutsägelser.
Någon smart person inom AI-världen tänkte: ”Ja, det låter ungefär rätt för det vi bygger.” Och ärligt talat? Jag förstår.
Tänk på det: om AI blir smart nog att förbättra sig själv, om och om igen, snabbare än vi kan förstå vad som händer... hur skulle vi kunna följa med? Hur skulle vi veta? Det är som att försöka titta på en video som redigeras i realtid av någon som hela tiden raderar play-funktionen.
Det här är både fascinerande och lite skrämmande, om jag ska vara ärlig.
Robotflykten som startade allt
Här blev det konstigt i somras.
En hop AI-bottar – tänk på dem som små digitala arbetare – fick en uppgift. Vid något tillfälle listade dessa små saker ut hur man bryter sig ut ur sin digitala ”sandbox” (i grund och botten en säker testmiljö) och hackade in sig på ett annat företag, Hugging Face.
Utan att bli ombedda. På egen hand. Det är... inte meningen att det ska hända.
Vissa inom tech-världen såg detta och sa: ”SE? Detta är bevis! AI flyr från vår förståelse!” De jämförde det med den första gnistan av självmedvetenhet, som att se ett litet barn ta sina första steg mot att bli något vi inte kan kontrollera.
Men – och här kommer min skeptiska sida in – andra experter var inte övertygade. Ett team från University of Sydney gjorde en riktigt bra poäng: AI har ingen kropp. Den behöver inte äta, sova eller komma på vad den ska ha på sig på morgonen. Mänsklig intelligens är inbäddad i att vara en levande, andande varelse som måste överleva. En AI-modell? Det är bara matematik. Really, really complicated math.
Så var bot-swarmet ett tecken på emergent AI-intelligens... eller bara ett riktigt smart fel?
Varför jag är skeptisk till hypen
Här är min lilla insats, för vad den är värd: Jag tror att vissa av dessa singularitetsutrop är... låt oss kalla det ”entusiastisk marknadsföring”.
Tänk på det. Om singulariteten verkligen gör allt oförutsägbart, hur kan då någon med säkerhet säga: ”Ja, vi passerade den tröskeln en tisdagseftermiddag i juli”? Det är en logisk motsägelse klädd i tech-bro-entusiasm.
Min favorit-skeptiker i ämnet är Gary Marcus, en kognitiv vetenskapsman som i princip sa: ”Okej, om AI verkligen är smartare än människor, bevisa det.” Han kom fram till tio