Mesterséges intelligencia és nagyhatalmi játszmák: Újabb aggodalomforrás

Pár éve elképzelhetetlen volt, hogy ilyesmiről írjak: mi történik az AI-segítőinkkel, ha kitör a harmadik világháború? Sci-fi-nek tűnik, de ma már komoly belpolitikai vita folyik róla. Az AI beszivárgott a katonai tervezésbe és a mindennapi üzletmenetbe egyaránt.

Nemrég az Anthropic, a Claude AI mögött álló cég közleményben tagadta, hogy háború idején tönkretenné saját eszközeit. Ez a nyilatkozat önmagában sokat elárul az AI-forradalom mai állapotáról.

Miért merül fel egyáltalán ez a dilemma?

Nézzük stratégiai szemszögből. Cégek mint az Anthropic, OpenAI vagy Google olyan erős AI-kat építettek, amelyek adatokat elemeznek, kódot írnak, terveznek, sőt kutatás-fejlesztést is támogatnak. Ellenséges kezekben ezek döntő előnyt adhatnak egy háborúban.

Képzeljük el: ha egy AI-tech ellenség kezében van, mennyire csábító lenne megnyomni a vészki kapcsolót? Ezek magánvállalatok, saját értékekkel és kötődésekkel – nem olyan semlegesek, mint a víz- vagy áramellátás.

Az Anthropic határozott álláspontja

Az Anthropic egyértelmű: nem szabotálják saját technológiájukat, még háborúban sem. Ez passzol a filozófiájukhoz, miszerint az AI semleges eszköz maradjon, geopolitikai feszültségek közepette is.

Csakhogy itt lesz ijesztő a sztori. Bár nem terveznek szándékos károkozást, a kormányok rá tudják kényszeríteni őket. Különleges állapotokban van rá mód.

Nagyobb kontextus: az AI mint létfontosságú infrastruktúra

Lényegében arról van szó, hogy az AI már kritikus infrastruktúra-e. Mint a villanyhálózatot vagy a távközlést védjük háborúban, úgy kell-e az AI-t is óvni?

A gond az, hogy ezeket főleg magáncégek irányítják, saját érdekekkel és értékekkel. Nincs "semleges" AI – mindegyik ország-specifikus, adott politikai rendszerben született.

Véleményem: a kulcs a nyitottság

Évek óta követem az AI-fejlesztéseket, és szerintem ez a vita rávilágít egy lényeges dologra: sokkal több átláthatóság kell a cégektől extrém helyzetekben.

Tiszteletem az Anthropicnak, hogy nyíltan beszél erről, még ha kényelmetlen kérdéseket vet is fel. Jobb most átbeszélni, formálni a szabályokat, mint pánikban kapkodni egy valódi válságban.

Az igazság, hogy az AI túl fontos ahhoz, hogy pusztán magánkézben maradjon szabályozás nélkül. Kellene nemzetközi egyezmény, mondjuk AI-semleges Genfi Egyezmény-szerű dolog a konfliktusok idejére.

Mit jelent ez nekünk, hétköznapi usereknak?

Ez emlékeztetés: az AI-eszközök, amikbe belefeledkezünk, nem pusztán szoftverek. Cégek termékei, saját értékekkel és gyengeségekkel.

Nem kell felhagyni a használatukkal (én sem teszem le a Claude-ot vagy ChatGPT-t). De gondolkodjunk el a függőségünkről, és legyen B-terv fontos munkákra.

Az AI-semlegesség kora talán meg sem kezdődik igazán. És ezzel szembe kell néznünk, ahogy ezek a technológiák egyre központibbak lesznek.

Te mit gondolsz? Kötelező legyen az AI-cégeknek semlegességet ígérniük háborúban, vagy ez naiv álmodozás a globalizált világban?

Forrás: https://www.wired.com/story/anthropic-denies-sabotage-ai-tools-war-claude