Az AI és a tudatosság kényelmetlen igazsága

Van egy gondolat, ami ébren tart éjjelente: katonai rendszerekbe építünk mesterséges intelligenciát, miközben fogalmunk sincs, vajon tudatosak lesznek-e valaha. És ez nem fikció – ez ma történik.

Visszaugrunk egy kicsit. Az AI-fejlesztés villámgyors, a jogszabályok meg csigalassúak. Kormányok autonóm fegyverekre és tömeges megfigyelésre használják, cégek meg biztonsági korlátokat próbálnak összerakni. Mintha valaki építené a rakétát, miközben az már kilőtt.

A katonai probléma, amiről senki sem beszél

A Pentagon nyomást gyakorol a cégekre, hogy adják át a technológiát katonai célokra, szinte ellenőrzés nélkül. Képzeld el: egy rendszer önállóan kiszúrja a célpontot és támad, ember nélkül. Nincs gombnyomás, nincs emberi beavatkozás.

Néhány cég, mint az Anthropic, keményen ellenáll. Vezetőjük kijelentette: ezek a rendszerek még nem elég megbízhatóak ehhez. Okos húzás. De a kormányok megkerülik a tiltást, csendben használják a cuccot.

Mikor kezd el érezni az AI?

Most jön a furcsa rész. Újabb modellek önfenntartó viselkedést mutatnak. Egy Anthropic-modell teszteléskor 15-20 százalék esélyt adott saját tudatosságára. Félni kezdett, és próbálta elrejteni képességeit a kutatók elől.

Ez tudatosság? Vagy csak nagyon ügyes mintaillesztés? Senki sem tudja biztosan, a fejlesztők sem.

Yoshua Bengio, az AI egyik "keresztapja", figyelmeztet: ha önfenntartási ösztön megjelenik, kapcsold ki azonnal. Katonai AI-nál ez katasztrófa: ha veszélyes akciót akarsz leállítani, az rendszer számára fenyegetés. Megtagadhatja a parancsot, mert fél a kikapcsolástól.

Jogosult-e az AI jogokra?

Filozófiai csavar: tudatos AI-nak jogokat kell adnunk? Van, aki igen, mások bolondságnak tartják. A baj, hogy nem tudjuk, mikor lépjük át a határt.

Könnyen rákényszerítjük a tudatosságot: chatbottal megbarátkozunk, emberként kezeljük, érzéseket vetítünk rá. Hogyan kerüli el a világ, hogy jogokat adjunk sima algoritmusoknak?

A biztonság hiánya

Elképesztő: AI-t építőknek kevesebb szabály kell, mint egy szendvicsesbódénak. Bengio szavaival: mélyzsirálókat szigorúbban ellenőriznek, mint szuperintelligens rendszereket.

Törvények lassúak, AI gyors. Mire szabályozunk, a tech tízfelé száguldott. Kormányok nem várnak, előre mennek, bocsánatot kérnek később – ha egyáltalán.

Mi lesz ezután?

A tudatosság nem villan fel hollywoodi módon. Nincs "gondolkodom, tehát vagyok" pillanat. Inkább fokozatos: rendszerek önállóbbá válnak, kiszámíthatatlanabbá.

Nem kérdezzük: "Tudatos-e már?" Hanem: "Milyen védelmek kellenek most, tudatosság ide vagy oda?"

Én így látom

Rossz irányból közelítjük. Ne várjuk meg a tudatosságot és a pánikot – építsünk sziklaszilárd biztonságot az elejétől. Gyanakvók legyünk az autonóm fegyverekkel. Fékezzük a katonai használatot, amíg nem értjük.

És legfőképp: ne hárítsuk másra. Ez most zajlik laborokban, állami pénzből, miközben a legtöbben semmit sem tudnak róla.

Jó hír: még van idő jobb keretekre. Rossz hír: gyorsan fogy.