Почему ИИ в медицине пока не оправдывает ожидания

Свежее исследование в JAMA Network Open выдало базу:

ИИ ставит диагнозы точнее врачей, но их совместная работа пока выглядит как топтание на месте.

Выяснилось, что наличие под рукой мощной языковой модели добавляет к точности медика всего 2%, хотя потенциал технологии позволяет закрывать задачи гораздо эффективнее .

В ходе тестов ChatGPT-4 выдал 90% точности, работая в гордом одиночестве, а живые врачи без помощи ИИ лишь 74% . Самый показательный момент: группа «врач + ИИ» показала результат в 76% . Разрыв между тем, что может нейронка, и тем, что из неё выжимает профи большой.

Проблема кроется не в «галлюцинациях» (ошибках) алгоритма, а в «заводских настройках» человеческой психики. Врачи часто страдают от предвзятости подтверждения: если ИИ предлагает верный вариант, который не вписывается в их гипотезу, подсказку просто игнорируют.

Возможно, экспертное эго мешает признать, что иногда статистическая модель справляется с дифференциальной диагностикой лучше, чем многолетний опыт.

Другая проблема - медики используют ИИ-чат-бот как навороченный поисковик, а не как полноценного партнера для мозгового штурма.

Вместо того чтобы просить модель найти противоречия в симптомах или построить дерево решений, её спрашивают базовые вещи. В итоге узкое горлышко эффективности - это не мощность нейросети, а эго и отсутствие навыков написания промптов.

Без переобучения, ИИ в медицине так и останется дорогой игрушкой. Технологии уже готовы к более точной диагностике, но отсутствие слаженного взаимодействия между врачом и алгоритмом - и есть та самая неэффективность.

Придется либо менять стандарты мед. образования, либо смириться с тем, что в руках ряда специалистов этот ИИ-ассистент будет использован лишь как технологичный «молоток» для решения обычных задач.

#ИИ