Когда ИИ слишком ловко врёт врачам

Помните, как дипфейки шутили над звёздами в дурацких видео? То время ушло. Теперь ИИ обманывает настоящих медиков. И это пугает по-настоящему.

Недавнее исследование в журнале Radiology взорвало мозги. Опытные рентгенологи не отличают подлинные снимки от фейковых, слепленных ИИ. Разница не в процентах — это уровень, где фальшивки могут подставить человека в суде или испортить лечение.

Исследование, которое всё перевернуло

Учёные собрали 17 рентгенологов из шести стран. От новичков до ветеранов с 40-летним стажем. Показали им 264 снимка. Половина — настоящие рентгены. Половина — творения ИИ.

Ключевой момент: без подсказки врачи ловили всего 41% подделок. Как подбросить монетку. Зная о фейках, поднялись до 75%. Не идеал, учитывая риски.

Результаты скакали. Один поймал 58% фальшивок, другой — 92%. Всё как лотерея.

ИИ против ИИ: провал

Страннее всего — тест ИИ на ИИ. Запустили Google Gemini, Meta Llama и модели OpenAI. Смогут ли машины распознать свои поделки?

Не-а. Точность от 57% до 85%. То же, что у людей. Даже GPT-4o, который сам генерировал фейки, путался. Как фальшивомонетчику показать фальшивку — то угадывает, то нет.

Признаки подделки, если присмотреться

Фейковые снимки слишком идеальны. Ненатурально.

Настоящие кости неровные. Позвоночники с изгибами и дефектами. ИИ рисует симметрию, чистоту, как в рекламе. Лёгкие ровно сбалансированы. Сосуды — по линейке. Переломы чистенькие, с одной стороны — не как в жизни.

Руководитель исследования доктор Микель Тордjман сказал в точку: "Дипфейки в медицине слишком совершенны". Ирония: ИИ так старается, что переигрывает. Долина ужаса, но для костей.

Почему это не шутки

Звучит как фантастика? Риски реальны. Фейковый перелом в суде. Хакер меняет записи в больнице — хаос в диагнозах.

Опыт не спасает. Ветеран с 40 годами не лучше новичка. Лучше всех — специалисты по костям и суставам. Им знакомы нормы.

Что дальше?

Учёные уже ищут выход. Невидимые водяные знаки в снимках. Крипто-подписи от автора и времени съёмки. Как цифровая печать подлинности.

Выпустили датасет с тестами. Врачи потренируются ловить фейки. Подделки не остановить — нужно учиться их видеть.

Но это только старт. Впереди 3D-снимки: КТ, МРТ. Сложнее рентгена. Если 2D обманывает, 3D добьёт.

Главный вывод

Не паника, а сигнал тревоги. Больницы, техгиганты и спецы по безопасности — объединяйтесь. Создавайте детекторы. Учите врачей.

ИИ не уйдёт. Он совершенствуется. Хорошая новость: время есть. Но тикает. Фальшивая болезнь хуже настоящей. А если врачи не отличают — катастрофа.