När tekniken blir farligt bra på att ljuga

Tänk dig deepfakes som bara busade med kändisar i roliga klipp. De dagarna är över. Nu lurar AI till och med proffs inom sjukvården. Det är dags att vakna upp.

En ny studie i tidskriften Radiology visar det svart på vitt. Världens skarpaste radiologer klarar inte att skilja äkta röntgenbilder från AI-förfalskningar. De här bilderna är så verklighetstrogna att de kan användas för att sno åt sig rättvisa eller sabotera behandlingar.

Studien som skakade om allt

Forskare samlade 17 radiologer från sex länder. Erfarenhet varierade från nyexaminerade till 40-årsveteraner. De granskade 264 röntgenbilder – hälften äkta, hälften AI-skapade.

Utan förvarning prickade läkarna bara 41 procent av förfalskningarna. Sämre än en slantkastning. Med tips om fakes steg det till 75 procent. Ändå svagt med tanke på insatserna.

Individuella skillnader var enorma. Vissa fann 58 procent, andra 92. Det blev en slump om du fick en jägare eller inte.

AI mot AI – en ojämn kamp

Forskningen testade också AI-modeller som detektiver. Googles Gemini, Metas Llama och OpenAIs GPT fick chansen att avslöja sina egna skapelser.

Resultatet? Trubbigt. Träffprocenten låg mellan 57 och 85 procent – likadant kaos som hos människorna. Till och med GPT-4o, som genererat bilderna, misslyckades ofta med sina egna verk. Som en bedragare som ska peka ut en kopia.

De avslöjande spåren – om du vet var du ska titta

En höjdare var att AI-bilderna ofta ser för perfekta ut. Onaturligt perfekta.

Verkliga ben har ojämnheter och kurvor. AI gör allt symmetriskt och polerat. Lungor balanserar för jämnt. Kärl ser ritade ut. Brott ser för prydliga ut, som om skadan bara drabbar ena sidan.

Studieledaren Dr. Mickael Tordjman sa det bäst: "Deepfake-röntgen blir ofta för perfekta." Ironiskt nog avslöjar AI:s skicklighet just det – ett läskigt ideal som inte hör hemma i verkligheten.

Varför det här är stort – inte bara skräckhistorier

Låter det som sci-fi? Riskerna är verkliga. En falsk bild med påhittat brott i rätten. En hackare som stoppar in AI-bilder i sjukhusdata för att förstöra journaler eller diagnoser.

Det här är inte "tänk om". Det är hot vi måste hantera nu.

Erfarenhet räcker inte heller. 40-åringar var inte bättre än rookies. Enda undantaget: specialister på muskler och leder. Deras blick för normala benmönster gav övertag.

Vad gör vi åt saken?

Forskarna rullar redan ut fixar. Osynliga vattenmärken i bilderna. Krypterade signaturer som bevisar vem, när och var bilden togs. Ett digitalt äkthetstecken.

De har släppt träningsdata med quiz för läkare och personal. Vi stoppar inte faken, men vi kan bli bättre på att jaga dem.

Varningen? Det här är bara början. Nästa steg: AI-3D-bilder som CT och MRI. Mycket tuffare än platta röntgen. Om 2D lurar experter, vad händer med volymer?

Slutsatsen som räknas

Ingen panik, men vakna upp. Sjukhus, techjättar och säkerhetsexperter måste samarbeta direkt. Bygg detektorer. Träna personalen.

Tekniken stannar inte. AI blir bara vassare. Lyckligtvis har vi tid att ta ledningen. Värre än sjukdom är falsk sjukdom. Värst är läkare som inte märker skillnaden.