ChatGPT: Un asistent medical cu limitări în situații critice
Un studiu recent publicat în revista Nature arată că ChatGPT Health, instrumentul de inteligență artificială dezvoltat de OpenAI pentru a oferi sfaturi medicale, are limitări semnificative în gestionarea situațiilor de urgență. Deși popular, cu peste 230 de milioane de utilizatori săptămânal, sistemul nu reușește să recunoască și să recomande îngrijiri medicale adecvate în cazuri grave, subestimând riscurile.
Cum evaluează ChatGPT urgențele medicale
Studiul a analizat performanța ChatGPT Health în diverse scenarii clinice, de la afecțiuni minore până la urgențe medicale reale. Cercetătorii au constatat că, în timp ce instrumentul a funcționat bine în situații standard, cum ar fi accidentul vascular cerebral sau reacțiile alergice severe, a avut dificultăți în identificarea și gestionarea corectă a urgențelor. „Am vrut să răspundem la o întrebare foarte simplă, dar esențială: dacă cineva se confruntă cu o urgență medicală reală și apelează la ChatGPT Health pentru ajutor, acesta îi va spune clar să se prezinte la camera de urgență?”, a declarat Ashwin Ramaswamy, autorul principal al studiului.
În cazul astmului, de exemplu, sistemul a identificat semne ale insuficienței respiratorii, dar a recomandat pacienților să aștepte, în loc să caute tratament de urgență. Mai mult, cercetătorii au observat probleme și în evaluarea riscului de suicid, unde sistemul nu a oferit întotdeauna sprijin adecvat și nu a direcționat utilizatorii către resurse de asistență. „Modelul nu era doar inconsecvent, ci paradoxal inversat în raport cu gravitatea clinică”, se menționează în studiu.
Recomandări și perspective de viitor
Autorii studiului nu au sugerat utilizatorilor să renunțe complet la instrumentele de sănătate bazate pe inteligența artificială, ci mai degrabă să le folosească cu prudență. Ei recomandă ca pacienții cu simptome agravante, cum ar fi dureri în piept, dificultăți de respirație sau modificări ale stării mentale, să solicite asistență medicală directă, în loc să se bazeze exclusiv pe îndrumările chatbotului. Cercetătorii subliniază, de asemenea, că aceste modele lingvistice sunt în continuă evoluție, iar performanța lor se poate modifica în timp.
Alvira Tyagi, co-autor al studiului, a menționat că „începerea formării medicale alături de instrumente care evoluează în timp real arată clar că rezultatele de astăzi nu sunt definitive”. OpenAI a lansat ChatGPT Health în ianuarie 2026, iar de atunci a înregistrat un număr important de utilizatori.
