Kun tekoäly pettää jopa lääkäreitä röntgenkuvissa

Muistatko, kun syväfeikit koskettivat lähinnä julkkiksia hassuissa videoissa? Ne ajat ovat ohi. Nyt tekoäly huijaa jopa kokeneita lääkäreitä. Se on pelottavaa.

Tuore tutkimus Radiology-lehdessä paljasti karun totuuden. Maailman parhaatkin radiologit sekoittavat aitoja röntgenkuvia tekoälyllä tehtyihin kopioihin. Erot eivät ole pieniä. Nämä väärennökset voisivat johtaa väärään hoitoon tai jopa oikeudellisiin sotkuihin.

Tutkimus, joka ravisteli alaa

Tutkijat keräsivät 17 radiologia kuudesta maasta. Heillä oli kokemusta muutamasta vuodesta jopa 40 vuoteen. Asiantuntijoille näytettiin 264 röntgenkuvaa. Puolet oli aitoja, puolet tekoälyn tekemiä.

Jos lääkärit eivät tienneet väärennöksistä, he tunnistivat vain 41 prosenttia feikeistä. Arvaus on yhtä hyvä. Kun heidät varoitettiin, osumat nousivat 75 prosenttiin. Silti heikko tulos, kun potilaan elämä on pelissä.

Erot lääkäreiden välillä olivat valtavat. Jotkut bongasivat vain 58 prosenttia, toiset peräti 92 prosenttia. Onni päätti, kuka onnistui.

Tekoäly jahtaamassa omaa lajiaan – tulokset kehnoja

Tutkijat testasivat myös, erottavatko tekoälyt toistensa feikkejä. Mukana Googlen Gemini, Metan Llama ja OpenAI:n GPT-mallit.

Tulos? Ei menestystä. Tarkkuus heilui 57–85 prosentissa. Ihmiset pärjäsivät samalla tasolla. Jopa GPT-4o, joka itse generoi kuvat, mokasi tunnistuksessa. Väärennössnadi ei aina erota omaa työtään.

Tunnusmerkit piilevät täydellisyydessä

Feikkikuvat erottuvat usein liiallisesta kiillosta. Ne ovat liian sileitä.

Ihmisen luut ovat epätäydellisiä. Nikamat kaartuvat luonnottomasti. Tekoäly piirtää kaiken symmetriseksi ja puhtaaksi. Keuhkot tasapainoiset. Suonet suorina viivoina. Murtumat näyttävät liian siisteiltä, eivät vastaa todellisuutta.

Päälliktutkija Mickael Tordjman kiteytti: "Syväfeikkikuvat ovat liian täydellisiä." Ironista – tekoäly on niin taitava, että liioittelee.

Miksi tämä on iso juttu?

Ei pelkkää kauhutarinaa. Kuvittele väärennetty murtuma oikeussalissa. Tai hakkeri, joka sotkee sairaalan tietoja feikeillä. Näitä pitää varautua.

Kokemus ei takaa taitoa. 40 vuoden veteraani ei pärjännyt paremmin kuin aloittelija. Vain luu- ja nivelspesialistit erottuivat edukseen. He tunsivat normaalin luuston.

Mitä seuraavaksi?

Ratkaisuja kehitetään. Suositus: näkymättömät vesileimat ja kryptografiset allekirjoitukset kuviin. Digitaalinen todiste alkuperästä.

Julkaistu myös harjoitusdataa visioineen. Lääkärit voivat treenata feikkien bongaamista. Syväfeikkejä ei pysäytetä, mutta havainnointia voi parantaa.

Huolestuttavaa: tämä on vasta alkua. Seuraavaksi 3D-kuvat, kuten TT- ja MRI-skannit. Jos 2D huijaa, 3D tuhoaa.

Pääviesti

Ei paniikkia, vaan hereille. Sairaalat, firmat ja turva-asiantuntijat yhteen. Kehitetään työkaluja ja koulutetaan. Tekoäly kehittyy. Meidänkin pitää.

Hyvä uutinen: aikaa on. Mutta kello tikittää. Sairaus on huono, feikkisairaus pahempi – ja lääkäri, joka ei erota, pahin.