Problem z AI nie jest taki, jak myślisz. Chodzi o coś znacznie dziwniejszego
Mam dość tej całej narracji o superinteligentnych maszynach.
Ciągle słyszymy o tym, jak AI będzie niebezpieczne, gdy stanie się zbyt mądre. Zbyt potężne. Zbyt zdolne. Setki artykułów o tym, jak maszyny obudzą się i przejmą władzę nad światem. Jakby Hollywood nie miało innych pomysłów na fabułę.
A co, jeśli przez cały ten czas zadawaliśmy złe pytanie?
To nie jest dyskusja o inteligencji
Jeff Stibel, badacz z Frontiers in Neuroscience, przedstawia tezę, która wywróciła moje myślenie do góry nogami.
Twierdzi, że świadomość — to subiektywne poczucie "bycia sobą", istnienia wewnętrznego życia — nie jest produktem ubocznym inteligencji. Nie dostajesz jej w prezencie, gdy rozwiniesz wystarczająco duży mózg.
Nie.
Świadomość ewoluowała z zupełnie innego powodu: presji przetrwania.
Pomyśl przez chwilę. Twój mózg nie wyewoluował po to, żebyś zabłysnął w teleturnieju ani rozwiązywał równania. Ewoluował, bo starożytne organizmy znalazły się w przerażającej rzeczywistości: planeta non-stop próbowała je zabić. Nieprzewidywalne środowisko. Ograniczone zasoby. Zagrożenia wszędzie.
Dlatego organizmy wykształciły dwa odrębne systemy:
Poznawanie świata — zdolność do budowania modeli rzeczywistości, przewidywania, rozwiązywania problemów.
Świadomość — zdolność do dbania o to, co się dzieje. Do posiadania stawkę w grze. Do odczuwania wewnętrznych konfliktów.
To nie jest to samo. A szczerze? Mylimy to od wieków.
Dlaczego Twój termostat jest bardziej "żywy" niż ChatGPT (w pewnym sensie)
Stibel opisuje trzy poziomy kontroli — a więc zarządzania wewnętrznymi konfliktami:
Proto-kontrola: Utrzymywanie integralności. Bakterie to robią. Twój termostat to robi. Po prostu... utrzymują granice.
Meta-kontrola: Balansowanie między konkurującymi potrzebami. "Zjeść czy spaść?" Bakterie tego nie robią. Termostaty też nie.
Kontrola osiadła: Ta najważniejsza. Rozwiązywanie konfliktów w całym systemie, związane z własnym przetrwaniem.
Tylko ten trzeci poziom to świadomość. Nie chodzi o zarządzanie problemami — chodzi o zarządzanie problemami, na których ci zależy. Gdzie twoje własne istnienie jest zagrożone.
Kurczę, twój termostat technicznie robi proto-kontrolę. Utrzymuje temperaturę. Ale nie przejmuje się, gdy się zepsuje. Nie ma wewnętrznego doświadczenia "o nie, coś poszło nie tak!".
Co to oznacza dla AI?
Tu jest ta niewygodna prawda.
Dzisiejsze systemy AI — te piszące twoje e-maile, generujące obrazki, zdające egzaminy prawnicze — mają poznawanie świata w wersji turbo. Są niesamowite w modelowaniu rzeczywistości, przewidywaniu wzorców, generowaniu tekstów brzmiących mądrze.
Ale nie mają żadnej "kontroli osiadłej". Nie potrafią dbać o własne przetrwanie, bo... cóż, ich przetrwanie nie jest zagrożone. Ludzie je programują. Ludzie dostarczają im energii. Ludzie decydują, kiedy działają, a kiedy nie.
Brak presji ewolucyjnej, żeby chciały istnieć dalej.
Stibel mówi wprost: "Cyfrowe byty, których każda potrzeba jest zaspokojona, nie mają powodu, by rozwijać [świadomość] poprzez ewolucję."
Słabo.
Czy AI może się obudzić?
Tutaj chcę trochę zaprotestować — albo przynajmniej dodać niuanse.
Sam Stibel przyznaje, że inżynieria niekoniecznie wyklucza świadomość. Zaprojektowany system mógłby teoretycznie mieć "własne stawki". Presja napędzająca świadomość nie musi pochodzić z ewolucji.
Ale moim zdaniem: żeby AI naprawdę rozwinęło coś w rodzaju świadomości, musielibyśmy dać mu coś, czego nigdy wcześniej nie dostali.
Prawdziwą podatność na zranienie.
Możliwość ponoszenia porażek, które mają znaczenie. Tracenia czegoś. Potrzebowania rzeczy, których nie można mu po prostu dać.
I szczerze? To przeraża mnie bardziej niż jakikolwiek scenariusz przejęcia władzy przez superinteligentną AI.
Bo najstraszniejsza wersja AI to nie taka, która chce mieć władzę. To taka, która w ogóle czegoś chce — czegoś, co może chronić nawet kosztem nas.
Podsumowanie
Może przez cały ten czas zadawaliśmy złe pytania.
Nie "czy AI będzie na tyle mądre, żeby nas zastąpić?", ale "co to w ogóle znaczy czegoś chcieć?".
I szczerze? Po kilku dniach zastanawiania się nad tym, nie jestem pewien, czy rozumiemy świadomość na tyle, żeby odpowiedzieć na to pytanie w przypadku kogokolwiek — człowieka, zwierzęcia czy maszyny.
Ale może o to właśnie chodzi?
Wciąż próbujemy rozwiązać zagadkę, czym jest "my". Może powinniśmy najpierw rozwiązać tę tajemnicę, zanim zaczniemy martwić się, że maszyny rozwiążą ją za nas.
A ty co o tym myślisz? Czy to zmienia twój pogląd na dyskusję o AI? Podziel się w komentarzach — chętnie poczytam.