Technologie die te goed wordt in bedriegen

Vroeger zagen deepfakes er grappig uit: beroemdheden in idiote filmpjes. Die tijd is voorbij. Nu laat AI zelfs topdokters in de luren. Dat is zorgwekkend.

Een nieuwe studie in Radiology schudt de medische wereld wakker. Ervaren radiologen kunnen nep-röntgenfoto's niet van echte onderscheiden. Deze fakes zijn zo overtuigend dat ze rechtszaken kunnen beïnvloeden of zorgplannen verstoren.

De baanbrekende test

Wetenschappers verzamelden 17 radiologen uit zes landen. Van starters tot veteranen met 40 jaar ervaring. Ze kregen 264 röntgenbeelden te zien: helft echt, helft AI-gemaakt.

Zonder waarschuwing spotten de dokters slechts 41 procent van de neppers. Puur gokken. Met een heads-up klom dat naar 75 procent. Nog steeds riskant.

Verschillen waren groot. De slechtste ving 58 procent, de beste 92 procent. Het hing af van de radioloog – een soort loterij.

AI tegen AI: een flop

Zelfs AI-systemen faalden in het ontmaskeren. Google's Gemini, Meta's Llama en OpenAI's GPT-modellen scoorden tussen 57 en 85 procent. GPT-4o, die de fakes zelf maakte, herkende ze niet altijd. Alsof een vervalser zijn eigen werk moet checken.

De valkuilen van perfectie

Nep-röntgenfoto's stralen te veel symmetrie uit. Echte botten zijn grillig, met oneffenheden en natuurlijke krommingen. AI maakt longen te gelijkmatig, vaten te strak, breuken te netjes.

Leidende onderzoeker Dr. Mickael Tordjman zegt het treffend: "Deepfakes zien er té perfect uit." Ironisch: de AI overspeelt haar hand, net als in de uncanny valley voor skeletbeelden.

Waarom dit écht telt

Geen sf-verhaal, maar keiharde dreiging. Stel je een valse breuk op een röntgenfoto in de rechtbank. Of hackers die ziekenhuisdata saboteren met nepbeelden.

Ervaring helpt niet altijd. Een 40-jarige expert doet het niet beter dan een beginner. Alleen bot-specialisten scoren consistent hoger, dankzij hun oog voor normale patronen.

Oplossingen in de maak

De onderzoekers pleiten voor onzichtbare watermerken en cryptografische stempels. Een digitaal bewijs van echtheid: wie, wanneer, hoe gemaakt.

Ze bieden nu trainingsdata met quizzes. Dokters moeten leren jagen op fakes. Want stoppen lukt niet; herkennen wel.

Dit is pas het begin. 3D-beelden zoals CT- en MRI-scans vormen de volgende uitdaging. Complexer, en dus gevaarlijker.

De les

Geen paniek, maar actie. Ziekenhuizen, techbedrijven en experts: bundel krachten. Bouw detectietools en train personeel.

Goed nieuws: we kunnen dit nog keren. Maar wacht niet. Een nepziekte is erger dan een echte – als dokters het niet zien.