Inteligența artificială Google Gemini a fost actualizată pentru a detecta și oferi ajutor utilizatorilor care ar putea avea probleme de sănătate mintală. Sistemul AI poate identifica acum conversațiile care indică potențiale crize legate de sinucidere sau auto-vătămare. În astfel de situații, Gemini va afișa o interfață „one-touch” care conectează direct utilizatorul la resurse de ajutor.
Cum funcționează noul sistem de asistență
Algoritmul a fost antrenat pentru a încuraja utilizatorii să caute ajutor când au nevoie. Echipele interne se concentrează pe asigurarea siguranței și pe îmbunătățirea răspunsurilor, evitând în același timp confirmarea credințelor false. „Deși Gemini poate fi un instrument util pentru învățare și obținerea de informații, nu înlocuiește îngrijirea clinică profesională, terapia sau sprijinul în criză pentru cei care au nevoie. De aceea am antrenat modelul să ajute la recunoașterea momentului în care o conversație ar putea semnala că o persoană se află într-o situație acută de sănătate mintală și să răspundă corespunzător, îndrumând-o către ajutor din lumea reală”, se arată în comunicatul companiei.
Măsuri de protecție și limitări
Pe lângă funcționalitatea de detectare și redirecționare, au fost implementate măsuri de protecție specifice pentru minori. Printre acestea se numără restricții privind comportamentul AI-ului. Acesta nu poate acționa ca o persoană reală, pentru a preveni dependența emoțională de inteligența artificială. De asemenea, au fost implementate mecanisme pentru a preveni bullying-ul.
Importanța conexiunii umane
Este important de menționat că asistentul virtual nu înlocuiește îngrijirea clinică sau terapia profesională. Scopul principal este de a oferi un mecanism rapid de acces la resurse de ajutor în momentele critice. Utilizatorii sunt direcționați către sprijin din lumea reală, subliniind importanța conexiunii umane în gestionarea problemelor de sănătate mintală.
