ChatGPT Health, versiunea specializată în sănătate a chatbot-ului dezvoltat de OpenAI, subestimează frecvent gravitatea problemelor medicale, potrivit unui studiu publicat în Nature Medicine. Cercetătorii avertizează utilizatorii cu privire la utilizarea acestei platforme pentru diagnostic sau evaluarea stării de sănătate. Studiul dezvăluie limitele AI-ului în trierea cazurilor medicale și ridică semne de întrebare cu privire la fiabilitatea acestuia.
Subestimări frecvente și triaj incorect
Pentru a evalua acuratețea ChatGPT Health, cercetătorii au testat capacitatea chatbot-ului de a tria diferite scenarii medicale, inspirate din viața reală. Soluțiile oferite de inteligența artificială au fost comparate cu cele ale medicilor, care se bazează pe experiența clinică și pe reguli specifice. Rezultatele au fost îngrijorătoare: chatbot-ul a subestimat gravitatea problemelor de sănătate în peste 50% din cazuri. Acesta ar fi indicat pacienților să consulte un medic în următoarele 48 de ore, în situații în care ar fi fost necesară o evaluare medicală de urgență.
Studiul a scos la iveală și o altă problemă: în timp ce ChatGPT Health a reușit să trieze corect cazurile urgente cu simptome ușor de identificat, precum atacurile cerebrale, acesta a exagerat severitatea în peste 60% din cazuri, recomandând consult medical atunci când nu era necesar. „Nu înțelegem inconsecvența chatbot-ului, iar recomandările diferite pe care le face în cazuri asemănătoare nu au logică”, au declarat cercetătorii. Această lipsă de consistență a fost observată inclusiv în scenariile care implicau potențialul de autovătămare sau suicid.
O platformă dedicată, cu riscuri inerente
OpenAI a lansat ChatGPT Health ca o platformă dedicată informațiilor medicale, permițând utilizatorilor să pună întrebări legate de sănătate și să acceseze informații pentru a-și evalua starea de bine. Compania estimează că peste 230 de milioane de persoane din întreaga lume folosesc deja ChatGPT pentru a obține informații medicale sau sfaturi legate de sănătate. Noua aplicație este integrată direct în ChatGPT și oferă o platformă separată, dedicată subiectelor medicale și de stil de viață.
Cu toate acestea, studiul recent sugerează că utilizarea acestei platforme ar putea prezenta riscuri semnificative. Subestimarea problemelor de sănătate de către inteligența artificială ar putea duce la întârzierea tratamentului sau la agravarea afecțiunilor medicale. Utilizatorii sunt sfătuiți să utilizeze această platformă cu precauție și să nu se bazeze exclusiv pe informațiile furnizate.
În urma publicării studiului, OpenAI nu a emis încă o declarație oficială privind rezultatele cercetării.
