Když technologie lže tak dobře, že to děsí

Pamatujete na deepfakes jen s celebritami v bláznivých videích? To je pryč. Dnes AI oklame i zkušené lékaře. A to by mělo znepokojit nás všechny.

Nová studie v časopise Radiology ukázala alarmující pravdu. Nejlepší radiologové nerozlišují rentgeny od těch vygenerovaných umělcem. Tyto padělky jsou tak dokonalé, že by mohly sloužit k podvodům v soudní síni nebo k manipulaci s léčbou.

Studie, která všechno změnila

Vědci shromáždili 17 radiologů ze šesti zemí. Od nováčků po experty s 40 lety praxe. Ukázali jim 264 rentgenů. Polovina byla skutečná, polovina AI.

Bez varování odhalili jen 41 procent padělků. Jako hod kostkou. Když věděli o riziku, stouplo to na 75 procent. Pořád málo na tak vysoké sázky.

Rozdíly mezi doktory byly obrovské. Někteří chytli jen 58 procent, jiní až 92. Úspěch závisel na štěstí.

AI proti AI – a prohra na obou stranách

Zajímavé bylo testování AI detektory. Použili Google Gemini, Meta Llama a OpenAI GPT. Měly odhalit vlastní výtvory.

Výsledek? Slabý. Úspěšnost od 57 do 85 procent. Stejně špatně jako u lidí. Dokonce GPT-4o, tvůrce těch rentgenů, selhal. Jako když padělatele žádáte, ať najde padělek.

Jak poznat podvod (pokud víte, kam koukat)

Padělky mají jednu slabinu: jsou příliš dokonalé. Lidské kosti nejsou hladké. Páteř má nerovnosti a křivky.

AI dělá vše symetrické a čisté. Plíce vypadají ideálně vyvážené. Cévy jako nakreslené pravítkem. Zlomeniny mají uměle čisté hrany.

Vedoucí studie, Dr. Mickael Tordjman, řekl: „Deepfake rentgeny jsou často příliš perfektní.“ Ironie – AI je tak dobré, že prozradí sebe sama. Jako údolí hrůzy, ale pro kosti.

Proč to není jen sci-fi

Rizika jsou reálná. Představte si falešný rentgen se zlomeninou pro soudní spor. Nebo hacker, co vloží padělky do nemocničních záznamů. Diagnostika v chaosu.

Zkušenost nepomáhá. Dokonce 40 let praxe nezaručuje lepší oko. Výjimka: specialisté na kosti a klouby. Ti znali normální vzory.

Co dál?

Vědci navrhují řešení. Neviditelné vodoznaky v obrazech. Kryptografické podpisy od autora snímku. Digitální pečeť pravosti.

Vydali i tréninkový dataset s kvízy. Pro lékaře a personál. Deepfakes nezmizí. Musíme se naučit je chytat.

A varování: tohle je jen začátek. Přicházejí 3D snímky z CT a MRI. Složitější než rentgeny. Pokud AI klame v 2D, v 3D to bude horší.

Závěr

Není třeba panikařit. Je to budík. Nemocnice, firmy a experti na bezpečnost musí spolupracovat hned. Vytvořit lepší nástroje. Trénovat doktory.

Dobrá zpráva: máme čas. Ale hodiny tikají. Nejhůř než nemoc je vymyšlená nemoc. A ještě hůř, když ji lékaři nerozlišují.