Inteligența Artificială (AI) generativă, promovată de companii precum Google, se confruntă cu o problemă majoră: acuratețea. Deși noile funcții, cum ar fi rezumatele generate de AI în motorul de căutare, par promițătoare la prima vedere, rata de eroare ridicată ridică semne de întrebare. Un studiu recent evidențiază că, deși răspunsurile corecte predomină, erorile pot fi semnificative, având în vedere volumul uriaș de căutări procesate zilnic.
Erori Semnificative în Răspunsurile AI
Studiul menționat sugerează că funcția „AI Overview” a Google oferă răspunsuri corecte în 9 din 10 cazuri. Totuși, această rată de succes, de 90%, înseamnă că milioane de răspunsuri discutabile ar putea fi generate zilnic, având în vedere că Google procesează un număr impresionant de căutări. În plus, acuratețea este dificil de monitorizat constant, un răspuns greșit putând fi corectat ulterior, ceea ce face sistemul imprevizibil. Afișarea acestor rezumate în partea de sus a paginii de rezultate crește încrederea utilizatorilor, amplificând impactul eventualelor erori.
Surse problematici și riscul manipulării informațiilor
O parte din problemele legate de acuratețe sunt legate de sursele utilizate. Cercetătorii au constatat că platforme precum Facebook și Reddit sunt citate frecvent, uneori chiar în răspunsuri incorecte. În alte situații, AI-ul citează surse credibile, dar le interpretează eronat. Există, de asemenea, riscul manipulării intenționate a informațiilor. Prin crearea de conținut fals și creșterea artificială a vizibilității acestuia, utilizatorii rău-intenționați ar putea induce AI-ul să preia și să difuzeze informații eronate.
Recomandări și consecințe potențiale
Este esențial ca utilizatorii să abordeze astfel de instrumente cu scepticism. O eroare la fiecare zece răspunsuri poate părea minoră, dar are un impact major pe termen lung. Dependenta excesivă de tehnologiile de inteligență artificială ar putea afecta capacitățile cognitive ale utilizatorilor. Sistemul afișează de altfel un avertisment clar: „AI-ul poate greși, așa că verifică informațiile”.
