Когато ИИ-ът Става Майстор на Измамата

Помните ли времето, когато дипфейковете бяха само за шеги с знаменитости? Това е минало. Сега изкуственият интелект заблуждава дори опитни лекари. И това ни кара да се тревожим сериозно.

Ново проучване в списание Radiology разкри нещо шокиращо. Най-добрите радиолози – с години опит – не разграничават истински снимки от фалшиви, направени от ИИ. Тези фалшиви рентгенови снимки са толкова реалистични, че могат да подкупят съдебни дела или да объркат лечение.

Проучването, Което Промени Играта

Учените събраха 17 радиолози от шест държави. От начинаещи до ветерани с 40 години практика. Показали им 264 рентгенови снимки – половина истински, половина от ИИ.

Когато лекарите не подозирали за фалшиви, разкрили само 41% от тях. Сякаш хвърлят монета. Когато им казали да търсят измами, стигнали до 75%. Все пак слабо за толкова важни неща.

Резултатите варират много. Някои хващат 58% фалшиви, други – до 92%. Излиза на късмет.

ИИ срещу ИИ – И Никой Не Печели

Тестваха и дали ИИ може да разпознае свои собствени творения. Използвали Google's Gemini, Meta's Llama и моделите на OpenAI.

Не успели по-добре от хората. Точността – между 57% и 85%. Дори GPT-4o, който създал фалшивите снимки, не ги разпознавал винаги. Като да питаш фалшификатор да намери фалшификат.

Как да Разпознаеш Фалша (Ако Знаеш Къде да Гледаш)

Фалшивите рентгени изглеждат прекалено идеални. Твърде гладки.

Истинските кости имат дефекти, гръбначният стълб – естествени извивки. ИИ правят всичко симетрично, като от учебник. Бялите дробове – перфектно балансирани. Съдовете – права линия. Пукнатините – прекалено чисти, от една страна.

Д-р Микел Тордjман, ръководител на проучването, каза: „Дипфейк медицинските снимки често са твърде перфектни.“ Ирония – ИИ е толкова добър, че прекалява.

Защо Това Е Наистина Сериозно

Не е просто ужасяваща история. Представете си фалшива снимка с фрактура за съд. Или хакер, който вкарва фалшиви в болнична база, за да обърка диагнози.

Опитът не помага много. 40-годишен радиолог не е по-добър от новак. Само специалистите по кости и стави се справят малко по-добре – познават нормалните модели.

Какво Следва?

Учените предлагат решения. Невидими водни знаци в снимките. Криптографски подписи – доказателство кой и кога е снимал.

Пуснали и датасет за тренировка с тестове. Трябва да се учим да хващаме фалшиви, щото няма да ги спрем.

Страшното? Това е само началото. Следват 3D снимки – КТ и ЯМР. Ако 2D заблуждават, 3D ще е по-лошо.

Главният Урок

Не паника, а сигнал за действие. Болници, фирми и експерти – работете заедно. Създавайте детектори и тренирайте лекари.

Хубавата новина? Още имаме време. Но часовникът тиктака. По-лошо от болест е измислена болест, която никой не разпознава.