Des LLM plus précis qu’un étudiant en médecine mais moins que des radiologues juniors

Les grands modèles de langage multimodaux (LLM), capables de traiter des données textuelles et visuelles, sont de plus en plus expérimentés dans le domaine de la radiologie. Dans une étude parue dans la revue Radiology, des chercheurs de l’Université Yonsei de Séoul, en Corée du Sud, ont évalué la précision de plusieurs d'entre eux face à celle de lecteurs humains, ayant différents niveaux d’expérience, dans des cas cliniques issus d'articles de la revue New England Journal of Medicine (NEJM), publiés de 2005 à 2024.

272 cas test avec des données textuelles et visuelles

Les LLM, dont GPT-4V, GPT-4 Omni (GPT-4o), DeepMind Gemini 1.5 Pro et Claude 3, ont été mis à l'épreuve sur 272 cas, avec des données textuelles et visuelles. Le groupe de lecteurs humains incluait sept radiologues juniors, deux cliniciens, un radiologue en formation et un étudiant en médecine, en aveugle face aux réponses publiées.

GPT-4o plus précis qu’un étudiant en médecine

Premier constat : GPT-4o était le plus