ChatGPT și Gemini dau diagnostice greșite în majoritatea cazurilor medicale
Modelele lingvistice de inteligență artificială (AI), precum ChatGPT și Gemini, prezintă un risc semnificativ în domeniul medical. Un studiu recent arată că aceste instrumente greșesc diagnosticul în peste 80% din cazurile în care au acces la informații incomplete despre pacienți. Chiar și cu informații complete, rata erorilor rămâne ridicată, depășind 40%.
Cum au fost testate AI-urile
Studiul a fost realizat de Mass General Brigham din Massachusetts și publicat în Jama Network Open. Cercetătorii au testat 21 de modele lingvistice diferite, inclusiv cele dezvoltate de companii precum OpenAI, Google și xAI. Testarea a folosit 29 de viniete clinice, bazate pe texte medicale de referință.
Chatboții au fost expuși treptat la informații medicale relevante pentru o anumită boală, pornind de la datele de consultație și rezultatele analizelor de laborator. Rezultatele au arătat o performanță slabă, în special în absența datelor complete. Specialiștii au observat că, chiar și atunci când au avut acces la toate informațiile, chatboții s-au dovedit a fi predispuși la erori.
De ce greșesc AI-urile
Una dintre principalele cauze ale erorilor este fenomenul de „halucinație” specific modelelor lingvistice. Acesta se referă la tendința AI-urilor de a genera informații false sau inexacte atunci când nu pot găsi un răspuns clar. Astfel, sistemele pot „inventa” detalii care conduc la diagnostice greșite.
Acest lucru subliniază importanța prudenței în utilizarea acestor instrumente în domeniul medical. Pacienții și profesioniștii din domeniul sănătății trebuie să fie conștienți de riscuri și să nu se bazeze exclusiv pe diagnosticele generate de AI. În plus, studiul evidențiază necesitatea continuării cercetării pentru îmbunătățirea preciziei și fiabilității acestor tehnologii.
Concluziile studiului subliniază importanța evaluării critice a rezultatelor generate de AI și necesitatea de a le combina cu expertiza medicală umană.
