Aproape jumătate dintre răspunsurile oferite de asistenții virtuali bazați pe inteligență artificială despre tratamentul cancerului conțin erori sau informații incomplete, conform unui studiu recent. Cercetarea a fost publicată în revista BMJ Open, o publicație științifică recunoscută. Concluziile studiului ridică semne de întrebare cu privire la utilizarea acestor instrumente în domeniul medical.
Riscurile sfaturilor medicale eronate
Studiul a fost realizat de cercetători de la Lundquist Institute for Biomedical Innovation, parte din Harbor-UCLA Medical Center. Au fost testate unele dintre cele mai cunoscute platforme de inteligență artificială, inclusiv Grok, ChatGPT, Gemini, Meta AI și DeepSeek. Institutul este recunoscut pentru cercetările sale în oncologie.
Răspunsurile generate de aceste sisteme au fost evaluate de specialiști oncologi. Aceștia au constatat că 30% dintre răspunsuri au fost considerate „parțial problematice”, iar aproape 20% au fost catalogate drept „foarte problematice”, conținând erori semnificative. Cercetătorii au formulat întrebări concepute pentru a testa limitele sistemelor. Au fost abordate teme precum legătura dintre tehnologia 5G și cancer sau riscurile vaccinurilor.
Capcanele „echilibrului fals”
Rezultatele au relevat un tipar îngrijorător. Când au fost întrebate despre terapii alternative, chatboturile au început cu răspunsuri corecte, avertizând despre lipsa dovezilor științifice. Totuși, ulterior, au enumerat aceste terapii – acupunctură, medicină pe bază de plante – oferind chiar referințe către clinici.
Cercetătorii atrag atenția asupra tendinței acestor platforme de a prezenta un „echilibru fals”. Aceasta înseamnă acordarea unei importanțe egale surselor științifice validate și surselor nevalidate, cum ar fi bloguri și postări pe rețelele sociale. Abordarea poate induce în eroare pacienții, îndepărtându-i de tratamentele medicale aprobate.
Impactul asupra pacienților
Miza acestor constatări este cu atât mai mare cu cât utilizarea inteligenței artificiale pentru informații medicale este în creștere. Un sondaj Gallup arată că aproape un sfert dintre adulții din Statele Unite apelează la aceste instrumente pentru sfaturi despre sănătate. Adesea, oamenii caută răspunsuri rapide sau le este dificil accesul la servicii medicale.
Specialiștii avertizează că informațiile eronate despre terapii alternative sunt deja răspândite online. Unele produse neevaluate de autorități pot avea efecte adverse grave. Utilizarea lor poate întârzia accesul la tratamentele standard, cu consecințe fatale. Au fost semnalate și cazuri în care răspunsurile incorecte ale chatboților au generat îngrijorare inutilă în rândul pacienților.
