Kiedy technologia za dobrze udaje prawdę

Kiedyś deepfake'i bawiły w filmikach z gwiazdami. Dziś to już przeszłość. AI oszukuje nawet doświadczonych lekarzy. I to nie żarty – warto o tym myśleć przed snem.

Nowe badanie w magazynie Radiology wstrząsnęło światem. Radiologów z wieloletnim stażem nie potrafią odróżnić prawdziwych Rentgenów od tych zrobionych przez sztuczną inteligencję. Te podróbki są tak dobre, że mogłyby służyć do matactw w sądzie albo psuć leczenie pacjentów.

Badanie, które wszystko zmieniło

Zespół naukowców zebrał 17 radiologów z sześciu krajów. Od nowicjuszy po weteranów z 40 latami praktyki. Pokazali im 264 zdjęcia Rentgena. Połowa prawdziwa, połowa z AI.

Gdy lekarze nie wiedzieli o podróbkach, wyłapali tylko 41 procent fałszywych. Jak rzut monetą. Po podpowiedzi, że faki są w grze, poprawili się do 75 procent. Nadal słabo, biorąc pod uwagę ryzyko.

Różnice między specjalistami ogromne. Jedni złapali 58 procent podróbek, inni aż 92. To loteria – zależy, na kogo trafisz.

AI kontra AI – rematch na remis

Sprawdzili też, czy maszyny same wykryją swoje sztuczne twory. W teście Google's Gemini, Meta Llama i modele OpenAI jak GPT.

Wynik? Słabo. Precyzja od 57 do 85 procent. Podobny bałagan jak u ludzi. Nawet GPT-4o, które samo generowało te Rentgeny, nie zawsze poznawało swoje dzieło. Jak fałszerz patrzący na podróbkę – czasem tak, czasem nie.

Sekretne ślady podróbek

Najciekawsze? Sztuczne Rentgeny bywają za idealne. Za gładkie.

Prawdziwe kości mają nierówności. Kręgosłupy – naturalne krzywizny. AI robi symetrię, czystość jak z obrazka. Płuca równo po obu stronach. Naczynia proste jak kreska. Złamania zbyt schludne, jednostronne.

Lider badania, dr Mickael Tordjman, mówi wprost: "Deepfake'i medyczne wyglądają zbyt idealnie". Ironia – AI jest tak dobre, że zdradza się perfekcją. Dolina niesamowitości, ale dla kości.

Dlaczego to nie bajka, a problem

Brzmi jak sci-fi? Realne zagrożenia są blisko. Wyobraź sobie fałszywy Rentgen z złamaniem, który trafia do sprawy sądowej. Albo haker w systemie szpitala wstawia podróbki, psując diagnozy.

Doświadczenie nie chroni. Radiolog z 40 latami nie zawsze bije nowicjusza w wykrywaniu AI. Wyjątek? Specjaliści od kości i stawów – znają normalne wzorce, więc mają przewagę.

Co dalej?

Naukowcy działają. Proponują niewidoczne znaky wodne w zdjęciach i kryptograficzne pieczęcie – dowód, kto i kiedy zrobił obraz.

Wypuścili też zestaw treningowy z quizami. Dla lekarzy i personelu – by ćwiczyć łapanie fałszywych Rentgenów. Deepfake'i nie znikną, trzeba się uczyć ich tropić.

To dopiero start. Czeka nas AI w 3D – tomografie i rezonanse. Skomplikowane o wiele bardziej niż płaskie zdjęcia. Jeśli 2D oszukuje, 3D rozwali system.

Prawdziwy wniosek

Nie panikuj, ale obudź się. Szpitale, firmy tech i specjaliści od bezpieczeństwa muszą współpracować już dziś. Budować detektory, szkolić medyków.

Dobra wiadomość? Jeszcze możemy być przed problemem. Zegar tyka. Bo gorsze od choroby jest choroba zmyślona. A najgorsze – lekarz, który jej nie rozpozna.