Modelele de inteligență artificială (AI) care promit o revoluție în medicină pot fi departe de a oferi diagnostice corecte, conform unui studiu recent. Cercetarea, realizată de Mass General Brigham din Massachusetts și publicată în Jama Network Open, a testat eficiența mai multor modele lingvistice în interpretarea datelor medicale. Rezultatele sugerează limite semnificative, mai ales în condiții de informații incomplete.
ChatGPT și rivalii: erori în diagnosticare
Studiul a evaluat 21 de modele lingvistice, inclusiv cele dezvoltate de companii precum OpenAI, Anthropic, Google, xAI și DeepSeek. Cercetătorii au utilizat 29 de viniete clinice bazate pe texte medicale de referință. Fiecare model a fost alimentat cu informații medicale pas cu pas, similare cu modul în care un medic ar analiza cazul unui pacient. Aceste informații includeau constatări ale consultațiilor și rezultate ale analizelor de laborator.
Concluziile sunt îngrijorătoare: modelele au generat diagnostice eronate în peste 80% din cazurile în care nu au avut acces la informații complete despre pacienți. Chiar și cu date complete, rata de eroare a rămas ridicată, depășind 40% în multe situații. Cu toate acestea, în unele cazuri, anumiți chatbot-i au reușit să ofere diagnostice corecte pentru 90% dintre pacienți.
Limitări și „halucinații” în AI medical
Experții avertizează că performanța acestor chatbot-i pe partea medicală depinde în mod crucial de volumul și calitatea informațiilor disponibile. Chiar și atunci când modelele au acces la un set complet de date, ele pot oferi răspunsuri incorecte, sugerând o limitare fundamentală: așa-numitele „halucinații”. Acestea se referă la capacitatea modelelor lingvistice de a inventa informații sau de a prezenta date false atunci când nu pot genera un răspuns clar bazat pe informațiile disponibile.
Aceste „halucinații” reprezintă o provocare majoră pentru utilizarea inteligenței artificiale în medicină, unde precizia și acuratețea sunt critice. Riscul de a pune un diagnostic greșit sau de a oferi un tratament inadecvat are consecințe grave pentru pacienți.
Implicații pentru viitorul medicinei bazate pe inteligență artificială
Rezultatele studiului subliniază necesitatea unei abordări prudente în ceea ce privește implementarea AI în domeniul medical. Cercetătorii subliniază că, deși AI are un potențial enorm, este esențial să se continue cercetarea pentru a îmbunătăți acuratețea și fiabilitatea acestor modele. Dezvoltarea unor mecanisme care să reducă „halucinațiile” și să asigure o mai mare transparență a procesului de diagnosticare este vitală.
Studiul arată că, deși progresele în AI sunt rapide, utilizarea acestora în medicină necesită o evaluare atentă și o abordare responsabilă.
