O tânără din Manchester a primit un diagnostic eronat de la un chatbot cu inteligență artificială, ridicând semne de întrebare asupra siguranței utilizării acestor instrumente în domeniul medical. Abi, care folosește ChatGPT pentru sfaturi medicale de un an, a primit recomandarea de a se prezenta de urgență la spital, după ce a suferit o căzătură. Ulterior, s-a dovedit că sistemul de inteligență artificială a greșit diagnosticul.
Chatboții medicali devin tot mai populari, în special în condițiile în care accesul la un medic este dificil. Aceștia promit răspunsuri rapide și ușor de obținut. Totuși, astfel de experiențe, precum cea a lui Abi, demonstrează că utilizarea inteligenței artificiale în scopuri medicale poate genera erori, ceea ce poate duce la panică sau la decizii riscante.
Riscurile sfaturilor medicale oferite de inteligența artificială
Potrivit BBC, Abi a apelat la ChatGPT pentru îndrumare după ce a căzut. Chatbot-ul a detectat potențiale probleme grave, recomandând prezentarea imediată la urgențe. După o așteptare de trei ore la spital, Abi a constatat că starea sa nu era atât de gravă, verdictul chatbot-ului fiind eronat.
Experiența lui Abi ilustrează o problemă majoră. Inteligența artificială poate fi eficientă în anumite situații, dar prezintă riscuri semnificative atunci când este utilizată pentru diagnosticarea și tratarea problemelor de sănătate. Profesorul Sir Chris Whitty, medic-șef al Angliei, a subliniat că răspunsurile furnizate de astfel de sisteme nu sunt întotdeauna adecvate. Sistemul poate oferi soluții sigure, dar eronate.
Precizia versus încrederea: dilema utilizatorilor
Un studiu realizat de Universitatea din Oxford a analizat capacitățile chatboților în diferite scenarii medicale. În situațiile în care chatboții primeau informații complete, precizia era de 95%. Totuși, atunci când utilizatorii interacționau direct cu aceștia, precizia a scăzut la 35%. Asta arată că, în două treimi din cazuri, persoanele primeau un diagnostic greșit.
Medicul generalist Dr. Margaret McCartney subliniază diferența dintre consultarea unui chatbot și căutarea informațiilor pe internet. “Pare că ai o relație personală cu un chatbot, în timp ce, în cazul unei căutări pe Google, intri pe un site web și acolo găsești multe elemente care îți indică dacă informațiile sunt mai mult sau mai puțin fiabile,” spune aceasta.
Dezinformarea și limitele tehnologiei AI
Un studiu recent al Institutului Lundquist pentru Inovație Biomedicală din California a arătat că chatboții de inteligență artificială pot răspândi, de asemenea, informații false. Cercetătorii au testat sisteme precum Gemini și ChatGPT, în domenii precum cancerul, vaccinurile și nutriția. Peste jumătate dintre răspunsuri au fost considerate problematice.
Dr. Nicholas Tiller, cercetătorul principal, avertizează că aceste sisteme sunt concepute pentru a oferi răspunsuri sigure și autoritare. Acest lucru creează o iluzie de credibilitate. El recomandă evitarea utilizării chatboților pentru sfaturi medicale, cu excepția cazului în care utilizatorul are competențe suficiente pentru a detecta erorile.
OpenAI, compania care a dezvoltat ChatGPT, a declarat că colaborează cu medici pentru a îmbunătăți modelele sale, dar că aceste instrumente ar trebui utilizate doar în scop informativ și educativ, nu pentru a înlocui sfatul medical profesional.
Sursa: Digi24
