Az az zseni, aki lehet, hogy tévedett

Oké, van valami, ami tényleg lesújtott ezen a héten, és teljesen új megvilágításba helyezte nálam a mesterséges intelligenciát.

Évtizedek óta úgy mérjük az MI fejlődését, amit Alan Turing 1950-ben vázolt fel. A híres „utánzásos játék" – ma Turing-tesztként ismert – azt sugallta: ha egy számítógép képes átverni az embereket, hogy másik emberrel beszélgetnek, akkor lényegében „gondolkodik".

Logikusnak tűnik, nem?

Akkor jön Peter J. Denning, egy rendkívül elismert informatikus, aki épp most adott ki egy új könyvet „Turing tévedése: Szabadulás a nem-intelligens gépek jármából" címmel. Azt állítja, hogy talán 75 éve a rossz álom után futunk.

És őszintén? Miután átrágtam magam az érvein, kezdem úgy érezni, hogy talán valamire ráérzett.

A test problémája (Igen, számít)

Ez az első feltételezés, ahol Denning szerint Turing mellényúlt: az az elképzelés, hogy a intelligencia létezhet fizikai test nélkül.

Gondolkodj el ezen egy pillanatig. Megpróbáljuk újraalkotni az emberi szintű intelligenciát számítógépeken belül – tiszta szoftver, lebegve a digitális térben. De Denning szerint ez olyan, mintha megpróbálnád megérteni az úszást a vízmolekulák tanulmányozásával. Valami lényeges mindig hiányzik.

Amikor te és én navigálunk a világban, nem csak információt dolgozunk fel. Érzünk dolgokat. Érezzük a hőmérsékletet, a kilincs textúráját, érezzük azt a enyhe billegést, amikor egy kicsit egyenetlen járdára lépünk. Mindez a fizikai tapasztalat formálja, hogyan gondolkodunk, érvelünk és megértjük a világot.

Denning rámutat: a testjeink nem csak járművek, amelyek az agyunkat szállítják. Integrális részei annak, ahogyan gondolkodunk.

És itt a lényeg – ez nem valami peremgondolat. A filozófusok évtizedek óta beszélnek a „testes kognícióról". De az MI-kutatás nagyrészt figyelmen kívül hagyta, a tiszta számítási megközelítések kedvéért.

A hallgatólagos tudás rejtvénye

Itt válik igazán érdekessé (és kicsit filozófiaivá, de ígérem, lehozom a földre).

Denning bevezeti a „hallgatólagos tudás" fogalmát – és ez tényleg azok közé az ötletek közé tartozik, amelyeket, ha megértesz, mindenhol kezded látni.

A hallgatólagos tudás az összes olyan dolog, amit tudsz, de nem tudsz könnyen elmagyarázni. Mint... honnan tudod, hogy pontosan mekkora nyomást alkalmazz, amikor kinyitod az ajtót? Hogyan fogsz meg egy labdát anélkül, hogy komplex fizikai számításokat végeznél a fejeden belül? Honnan tudod, hogy valaki ironikus-e vagy őszinte, a hangszín alapján?

Ezek automatikusnak érződnek nekünk. De hihetetlenül bonyolultak.

Denning szerint legalább öt nagy kategória van a hallgatólagos tudásból, amelyet a gépi tanulás egyszerűen nem tud megragadni:

** здравый értelem** – A világ működéséről szóló milliónyi apró tény, amit soha nem gondolunk tudatosan.

** Mindennapi interakciók** – Hogyan olvasunk társas helyzeteket, navigálunk személyes kapcsolatokban, értjük a kimondatlan elvárásokat.

** Érzelmek és percepció** – A mód, ahogyan az öröm vagy szomorúság átélve alapvetően megváltoztatja, hogyan dolgozzuk fel az információt.

** Gyakorlati készségek** – Az a tudás, ami egy mester kézművesnek vagy virtuóz zenésznek van, és amit nem tud teljesen megfogalmazni.

** Kulturális megértés** – Értékek, normák, történelem és a mélyebb jelentések, amelyek beágyazódnak a közösségek működésébe.

Miért nem oldotta meg 40 év Cyc ezt

Hogy illusztrálja a kihívást, Denning a Cyc projektre mutat. Ha nem ismered, a Cyc egy ambiciózus kísérlet volt az 1980-as években, hogy óriási adatbázist építsenek здравый értelemről – olyan dolgokról, mint „ha leejtesz valamit, leesik" vagy „az embereknek vízre van szükségük a túléléshez".

A projekt négy évtized alatt körülbelül 25 millió bejegyzést épített fel.

Huszonöt millió tudásdarab!

És tudod mit? Még ez sem volt elég igazán okos rendszerek létrehozásához. Denning megjegyzi, hogy „az a tudás, ami az embereket szakértővé teszi, nem fejezhető ki kijelentésekként."

Ez a Cyc projekt csendes tragédiája. Aknamunkával demonstrálta, hogy megpróbálni kézzel kódolni az emberi здравый értelemet, lényegében lehetetlen. Túl sok van belőle, és túl sok Implicit, nem explicit.

A zenész, aki nem tudja elmagyarázni

Hadd osszam meg Denning egyik példáját, ami tényleg megmaradt bennem.

Gondolj egy virtuóz hegedűművészre. Valakire, aki lélegzetelállító szépséggel és érzelemmel tud játszani. Most képzeld el, hogy megpróbálod egy kezdőnek pontosan elmagyarázni, hogyan kell azt a hangot előállítani.

Nem igazán tudja. Nem teljesen. Adhat némi technikai tanácsot – itt fordítsd a vonót, ott alkalmazz nyomást –, de a „tudni hogyan" és a „tudni mit" közötti szakadék hatalmas.

A hegedűművész olyan testi tudással rendelkezik, ami az izmaiban, az idegeiben, a hang létrehozásának fizikai tapasztalatában létezik. Ezt nem töltheted le egy számítógépre. Nem másolhatod át egy adatbázisba.

És itt jön a mélyebb pont: még ha építenél is egy robotot, ami tökéletesen utánozni tudja a hegedűművész mozdulatait, az a robot akkor sem értené, milyen érzés szép zenét alkotni. Hiányzik belőle a biológiai tapasztalat, az érzelmi kontextus, a kapcsolat a közönséggel.

A reprezentációs probléma

Szóval mi történik itt valójában? Miért olyan makacsul ellenálló az emberi tudás a digitalizálással szemben?

Denning ezt „reprezentációs problémának" nevezi, és ez tényleg alapvető.

A számítógépek szimbólumokkal dolgoznak – egyesekkel és nullákkal, amelyek dolgokat reprezentálnak. Amikor információt viszünk be a számítógépekbe, valóságos tudást kódolunk ezekbe a szimbolikus formákba.

De itt a csavar: minden szó, minden koncepció, minden „tudás" mögött, amivel rendelkezünk, ott van egy mély kútnyi hallgatólagos megértés, ami értelmet ad neki. A szavak csak szimbólumok, amelyek a jelentésekre mutatnak – nem maguk a jelentések.

Denning így fogalmaz: „Minden szó mögött egy mély kútnyi hallgatólagos tudás van, ami értelmet ad neki. A szavak csak szimbolikus reprezentációi a jelentéseknek, nem maguk a jelentések."

Ez azt jelenti, hogy amikor ChatGPT-vel, Claude-mal vagy Geminivel beszélgetsz, olyan rendszerekkel interakciózol, amelyek hihetetlenül kifinomultak a szimbólumok manipulálásában, de nem értik igazán, mit reprezentálnak ezek a szimbólumok. Brilliánsan tudnak mintázatokat illeszteni, de a mintázatillesztés nem megértés.

A kontextus mindent jelent (és a gépeknek nincs)

Itt van még egy réteg, amivel az MI küzd: a kontextus.

Amikor te és én beszélgetünk, végtelen rétegeit használjuk a megosztott megértésnek. Tudjuk, kik vagyunk, mit éltünk át együtt, mi a jelenlegi helyzet, mi megfelelő és mi nem, mikor viccel valaki és mikor komolyan.

Ez a kontextus nem háttérzaj – alapvető része a jelentésnek.

Denning fraktálként írja le: minden kontextus előző kontextusokon nyugszik, amelyek még korábbiakon nyugszanak. Végtelen lánc a megosztott megértésből, amit egy életnyi tapasztalat során építettünk fel.

A kultúra még egy dimenziót ad hozzá. Denning úgy írja le, mint ami magában foglalja az „értékeket, normákat, ítéleteket, történelmet, közösségeket, hangulatokat és még a hatalommal és gondoskodással kapcsolatos kapcsolatokat is."

Mindez láthatatlan az MI-rendszerek számára. Képesek nyelvi mintákat észlelni, de nem tudják igazán felfogni a szavak és cselekedetek mögötti kulturális súlyt.

Mit jelent ez az MI jövőjére?

Most nem azt mondom, hogy az MI hasznavehetetlen – nyilvánvalóan nem az. Ezek a rendszerek tényleg lenyűgözőek bizonyos feladatoknál, és rendkívül hasznos eszközök.

De Denning érvelése azt sugallja, hogy talán plafonhoz közeledünk. Hogy az igazi általános mesterséges intelligencia – gépek emberi szintű megértéssel és alkalmazkodóképességgel – talán alapvetően elérhetetlen jelenlegi megközelítéseinkkel.

És itt válik kicsit aggasztóvá: Denning figyelmeztet, hogy ha az AGI felé haladunk, miközben figyelmen kívül hagyjuk ezeket a alapvető korlátokat, kockáztatjuk, hogy olyan technológiákat építünk, amelyek jelentős új kockázatokat hoznak, miközben nem teljesítik az ígéreteiket.

Gondolkodj el rajta. Olyan rendszereket építünk, amelyeket nem teljesen értünk, olyan megközelítésekkel, amelyek talán alapvetően korlátozottak, hogy megoldjunk problémákat, amelyek olyan megértést igényelnek, amihez ezek a rendszerek nem férnek hozzá.

Az én véleményem

Őszintén, Denning érvei meggyőzőek voltak, de nem teljesen letaglózók.

Igen, alapvető kihívások vannak a hallgatólagos tudás megragadásával. Igen, a testi tapasztalat valószínűleg sokkal fontosabb, mint amennyire elismertük. És igen, a Turing-teszt valószínűleg rossz mérőeszköz az igazi intelligenciára.

De azt is gondolom, hogy valós időben fedezzük fel ezeket a korlátokat, és maga a felfedezési folyamat értékes. Minden kihívás, amit Denning azonosít, egyben kutatási kérdés is. Minden fal, ami nekünk ütközik, tanít valamit az emberi kognícióról és tudatosságról.

Talán az igazi lecke nem az, hogy az MI nem lehet intelligens, hanem az, hogy az emberi intelligencia csodálatosabb, mint amennyire értékeltük. Minden alkalommal, amikor megértesz egy viccet, elcsapsz egy labdát, vagy megérzed, hogy valami „nem stimmel" egy beszélgetésben – olyasmit csinálsz, amit a legkifinomultabb számítógépeink még mindig nem tudnak megtenni.

Talán a kérdés nem az, hogy a gépek gondolkodhatnak-e úgy, mint az emberek. Talán az: mit tudnak jól csinálni, és hogyan építjük ezt egy olyan világba, ahol az emberi tulajdonságok fontosabbak, nem kevésbé?

Ez egy kérdés, amit érdemes egy kicsit átgondolni.

Te mit gondolsz? Rezonál Denning kritikája az MI-eszközök használatának tapasztalatára? Vagy úgy gondolod, hogy alábecsüljük, amit ezek a rendszerek végül elérhetnek?

Írj kommentet – őszintén kíváncsi vagyok, hogyan landol nálad.