Un stat american dă undă verde unui chatbot AI pentru reînnoirea rețetelor medicale
În premieră, statul american Utah testează un program-pilot prin care un sistem de inteligență artificială (AI) va putea reînnoi rețetele pentru medicamente psihiatrice, fără intervenția directă a unui medic. Inițiativa, coordonată de compania Legion Health, are drept scop combaterea deficitului de specialiști în domeniul sănătății mintale. Decizia, însă, este controversată, ridicând semne de întrebare cu privire la siguranța pacienților.
Cum va funcționa sistemul bazat pe AI
Pacienții considerați „stabili”, care nu au suferit modificări ale medicației și nici nu au fost spitalizați în ultimul an, pot opta pentru acest serviciu contra unei taxe lunare de 19 dolari. Chatbotul AI va avea acces doar la o listă restrânsă de 15 medicamente cu risc scăzut, precum Prozac sau Zoloft. Substanțele controlate, precum Adderall, sunt excluse din program.
Pentru a asigura un nivel de siguranță, primele 250 de rețete generate de AI vor fi revizuite de un medic autorizat. Sistemul va trebui să mențină o rată de aprobare de 98% înainte de a putea funcționa fără supraveghere medicală imediată. Departamentul de Comerț din Utah a subliniat că măsura este necesară din cauza lipsei de personal calificat în domeniul sănătății mintale, lăsând sute de mii de rezidenți fără acces la îngrijire.
Riscuri și critici la adresa AI în medicină
Programul-pilot stârnește îngrijorări din cauza experiențelor anterioare. Un proiect similar din Utah s-a confruntat rapid cu manipulări din partea unor cercetători, care au reușit să programeze AI să genereze teorii conspiraționiste despre vaccinuri sau să triplaze dozele de opioide. Experții avertizează că modelele lingvistice de mari dimensiuni sunt vulnerabile la „jailbreak”, un tip de atac informatic.
Criticii susțin că inteligența artificială ar trebui să rămână un instrument de asistență, nu un înlocuitor pentru medici. Există teama că folosirea excesivă a AI ar putea duce la scăderea competențelor profesioniștilor din domeniul medical. Studiile arată că AI poate fi utilă în reducerea erorilor și a timpilor de așteptare, dar decizia din Utah marchează un pas important, cu implicații potențiale semnificative.
Provocări și perspective de viitor
Deși obiectivul de a extinde accesul la servicii de sănătate mintală este susținut, dependența de un chatbot autonom este o soluție controversată. Rămâne de văzut dacă AI va putea să facă față complexității cazurilor medicale și să asigure siguranța pacienților. Experimentul din Utah este monitorizat cu atenție, iar rezultatele vor influența deciziile altor state.
