Amikor a mesterséges intelligencia túl jól hazudik

Emlékszel, amikor a deepfake-ek csak celebek ostoba videóin tréfálkoztak? Azok az idők elmúltak. Ma már az AI még tapasztalt orvosokat is átverhet. Ez elég ok arra, hogy ébren tartsson éjszaka.

Egy friss Radiology tanulmány igazi sokkoló: a legjobban képzett radiológusok sem tudják megbízhatóan megkülönböztetni az igazi röntgenfelvételeket az AI által készítettektől. Nem kis különbségről van szó. Ezek a hamis képek bíróságon is kitűnhetnének, vagy betegellátást tehetnének tönkre.

A kutatás, ami mindent felforgatott

A kutatók 17 radiológust gyűjtöttek össze hat országból. Volt köztük pályakezdő és 40 éves rutinnal rendelkező szakember. Nekik 264 röntgenképet mutattak: fele valódi, fele AI-generált.

Íme a csavar: ha nem tudták, hogy hamisak is vannak köztük, csak 41 százalékát fedezték fel a radiológusok. Ez szinte lottó. Ha viszont tudták, hogy vigyázzanak, 75 százalékra javult. Még mindig gyenge, ha az élet múlik rajta.

Egyéni különbségek óriásiak voltak. Volt, aki 58 százalékot talált, más 92-t. Tehát szerencse kérdése, kit kapsz.

Gépek gépek ellen – sikertelenül

Kipróbálták, vajon az AI-k észreveszik-e egymás munkáját. Google Gemini, Meta Llama és OpenAI GPT modellek kaptak feladatot.

Eredmény? Nem ment jobban. 57-85 százalékos találat – hasonló káosz, mint az embereknél. Még a GPT-4o, ami maga készítette a hamis röntgeneket, sem ismerte mindig fel saját alkotását. Mint ha hamisítót kérnél hamisítvány felismerésére.

A jellemző jelek – ha tudod, mire nézz

Legérdekesebb: a deepfake röntgenek túl tökéletesek. Emberi csontok soha nem simák. Gerinc görbült, hibás. AI viszont szimmetrikus, tiszta képet ad. Tüdő egyenletes, erek egyenesek. Törések túl szabályosak, nem úgy néznek ki, mint igazi sérülés.

A kutatás vezetője, Dr. Mickael Tordjman mondta: "A deepfake orvosi képek gyakran túl tökéletesek." Vicces: az AI olyan jó, hogy túllő a célon, mint a völgy a mélyben, de csontokon.

Miért fontos ez – nem csak ijesztgetés

Ez nem sci-fi. Képzeld el: hamis törés röntgen biróságon. Vagy hacker szúr be képeket kórházi rendszerbe, tönkreteszi diagnózisokat.

Nem elmélet. Valóság, amire fel kell készülni.

Érdekes: tapasztalat nem véd. 40 éves radiológus sem jobb pályakezdőnél. Csak a csont-specialisták teljesítettek kissé jobban – ismerik a normál mintákat.

Mi jön most?

Már dolgoznak a megoldásokon. Láthatatlan vízjelet javasolnak a képekbe, kriptográfiai aláírást a készítőhöz kötve. Mint digitális pecsét: bizonyíték, honnan, mikor jött.

Kiadtak edzőadatbázist kvízzel, hogy orvosok gyakoroljanak. Mert a deepfake-eket nem állítjuk le. Jobban kell észrevennünk őket.

Rémisztő: ez csak a jéghegy csúcsa. Következik a 3D: CT, MRI. Ha 2D-vel átver, 3D-vel mi lesz?

A lényeg

Ez nem pánik, hanem riadó. Kórházak, tech cégek, biztonsági szakértők most fogjanak össze. Építsenek jobb eszközöket, képezzék az orvosokat.

Jó hír: még van időnk megelőzni. De siessünk. Rosszabb a képzeletbeli betegség a valóságosnál – és még rosszabb, ha orvosok sem látják át.