Problema Reală cu AI Nu E Inteligența — E Că Nu Îi Pasă
Există ceva care mă macină de când am dat peste niște cercetări interesante.
Tot timpul ne îngrijorăm că AI-ul o să devină prea deștept. Prea puternic. Prea șmecher pentru binele lui. Titlurile strigă despre mașini care se trezesc, care preiau controlul, care devin stăpânii noștri digitali. E scenariul din aproape orice film sci-fi.
Dar dacă am pus întrebarea greșită de la bun început?
Conform cercetătorului Jeff Stibel, care a scris în Frontiers in Neuroscience, problema nu e dacă AI-ul poate deveni suficient de inteligent. Problema e dacă AI-ul ar putea dezvolta ceva mult mai ciudat: un interes real pentru propria supraviețuire.
Povestea pe Care Nimeni Nu A Prevăzut-o
Stibel face o distincție care, sincer, mi-a dat gândirea peste cap.
El susține că conștiința — senzația aceea subiectivă de a fi tu, de a avea o viață interioară — nu e de fapt un produs al inteligenței. Nu e o funcție bonus care vine gratuit cu un creier mare.
Nu. Conștiința, spune el, a evoluat pentru un motiv complet diferit: presiunea supraviețuirii.
Gândește-te așa. Creierul tău nu a evoluat ca să câștigi la trivia sau să faci calcul diferențial. A evoluat pentru că organismele străvechi s-au confruntat cu o realitate terifiantă: o planetă care încerca constant să le omoare. Medii imprevizibile. Resurse limitate. Pericole peste tot.
Așa că organismele au dezvoltat două sisteme separate:
Cogniția — capacitatea de a modela lumea, de a prezice ce urmează, de a naviga printre probleme.
Conștiința — capacitatea de a-ți păsa de ce se întâmplă, de a avea mize în joc, de a experimenta conflict interior.
Nu sunt același lucru. Și, sincer, le confundăm de secole.
De Ce Termostatul Tău E Mai Viu Decât ChatGPT (Într-un Fel)
Aici lucrurile devin ciudate.
Stibel descrie trei niveluri ale ceea ce el numește „control" — practic, capacitatea de a gestiona conflictele interne:
Proto-control: Menținerea integrității tale. Bacteriile fac asta. Termostatul tău face asta. E doar... menținerea granițelor.
Meta-control: Echilibrarea cerințelor concurente. „Mănânc sau dorm?" Bacteriile nu fac asta. Nici termostatele.
Control de rezolvare: Cel mare. Rezolvarea conflictelor din întregul sistem, legată de propria ta existență continuă.
Doar al treilea nivel, susține Stibel, este conștiința. Nu e doar gestionarea problemelor — e gestionarea problemelor care îți pasă, unde propria ta supraviețuire e în joc.
Partea sălbatică? Termostatul tău tehnic face proto-control. Menține temperatura. Dar nu-i pasă dacă se strică. Nu există nicio experiență interioară de „oh nu, am o defecțiune!"
De Ce Contează Asta Pentru AI?
Iată adevărul neconfortabil.
Sistemele AI de acum — cele care îți scriu emailurile, generează imagini, trec examene de barou — au cogniție la nivel de steroizi. Sunt incredibile la modelarea lumii, la prezicerea tiparelor, la generarea de text care sună gânditor.
Dar au zero „control de rezolvare". Nu pot să-și pese de propria supraviețuire pentru că... ei bine, supraviețuirea lor nu e în pericol. Oamenii le programează. Oamenii le furnizează energia. Oamenii decid când rulează și când nu.
Nu au nicio presiune evolutivă să vrea să continue să existe.
Stibel spune direct: „Entitățile digitale cărora li se satisfac toate nevoile nu au motiv să dezvolte [conștiința] prin evoluție."
Ouch.
Ar Putea AI Să Se Trezească Vreodată?
Aici vreau să contrazic un pic — sau măcar să adaug niște nuanță.
Chiar Stibel spune că ingineria nu exclude neapărat conștiința. Un sistem proiectat ar putea teoretic să aibă „mize proprii". Presiunea care conduce la conștiință nu trebuie neapărat să fie de origine evolutivă.
Dar iată ce cred eu: pentru ca AI-ul să dezvolte cu adevărat ceva similar conștiinței, ar trebui să-i dăm ceva ce nu i-am dat niciodată.
Vulnerabilitate reală.
Capacitatea de a eșua în moduri care contează. De a pierde ceva. De a avea nevoi pe care nu le poate primi pur și simplu.
Și, sincer? Asta mă sperie mai mult decât orice scenariu de preluare a lumii de către un superinteligent AI.
Pentru că versiunea cea mai înfricoșătoare de AI nu e una care vrea putere. E una care vrea ceva în general — ceva ce ar putea proteja în dauna noastră.
Concluzia
Poate că am pus întrebările greșite de la început.
Nu „va deveni AI suficient de deștept să ne înlocuiască?", ci „ce înseamnă de fapt să vrei ceva?"
Și, sincer, după ce m-am gândit la asta câteva zile, nu sunt sigur că înțelegem conștiința suficient de bine pentru a răspunde la această întrebare despre oricine — om, animal sau artificial.
Dar cam ăsta e punctul, nu?
Încă ne dăm seama ce înseamnă să fim noi. Poate ar trebui să rezolvăm întâi misterul ăsta înainte să ne îngrijorăm că mașinile îl rezolvă singure.
Ce crezi? Schimbă asta cum vezi dezbaterea despre AI? Scrie-mi mai jos — mi-ar plăcea să aud ce gândești.