Conform HotNews: Oamenii devin mai puțin abili în a recunoaște când nu știu ceva, odată ce au acces la chatbot-uri AI, arată un studiu recent. Capacitatea de a spune „nu știu” este o abilitate cognitivă esențială, protejându-ne de concluzii greșite, însă simpla prezență a inteligenței artificiale pare să slăbească acest mecanism.
Cercetători de la Universitatea Milano-Bicocca, Ecole Normale Superieure și Universitatea Sapienza au investigat modul în care chatbot-urile AI influențează judecata umană. În cinci experimente la care au participat peste 3.000 de persoane, s-a analizat dacă inteligența artificială schimbă criteriile pe baza cărora oamenii decid dacă pot răspunde sau nu la o întrebare.
Când AI „halucinează” răspunsuri
Participanților li s-au pus întrebări dificile, având mereu posibilitatea de a răspunde „nu știu”. Un grup a avut acces la răspunsurile unui chatbot AI, în timp ce altul nu. Pentru a izola efectul psihologic al prezenței AI, întrebările au vizat detalii vizuale foarte specifice din filme, informații pe care modelele lingvistice tind să le genereze incorect, cunoscute sub numele de „halucinații”.
Pentru a exclude posibilitatea ca participanții să se bazeze pe o sursă în general competentă, a fost ales un model AI care greșea aproape de fiecare dată. Acest lucru a fost menit să sublinieze că orice încredere acordată răspunsurilor sale nu provine din acuratețea acestuia, ci dintr-un alt factor.
Greșeli făcute cu încredere
În absența accesului la AI, 44% dintre participanți au optat să spună „nu știu”. Când au avut acces la chatbot, acest procent a scăzut dramatic la doar 3%. În același timp, acuratețea răspunsurilor s-a prăbușit, iar încrederea participanților în propriile răspunsuri a crescut aproape dublu. Oamenii au ales mai des să răspundă, au greșit mai frecvent, dar au fost mult mai convinși că au dreptate.
„Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”, a explicat Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și unul dintre autorii studiului.
Impactul asupra metacogniției
Majoritatea cercetărilor anterioare despre efectele chatbot-urilor AI s-au concentrat pe externalizarea efortului cognitiv sau pe potențiala pierdere a unor competențe pe termen lung. Noul studiu pune însă accentul pe impactul AI asupra metacogniției – capacitatea de a ne evalua propriile cunoștințe și de a ști când avem suficiente informații pentru a răspunde.
Metacogniția este mecanismul care ne diferențiază între „știu”, „cred că știu” și „nu știu”. Fără ea, devenim mai vulnerabili la erori și la concluzii trase cu prea multă încredere. Riscul este să ajungem să „halucinăm” răspunsuri, la fel ca chatbot-urile, adică să oferim răspunsuri greșite cu o siguranță falsă.
Confuzia generată de formularea AI
Autorii studiului sugerează că oamenii nu sunt convinși de AI pentru că acesta ar fi mereu corect, ci pentru că răspunsurile sale sună convingător. Modul fluent, coerent și fără ezitări în care un chatbot generează text pare să inducă creierul uman în eroare, confundând aparența de siguranță cu dovada corectitudinii informației. În loc să verifice veridicitatea unui răspuns, oamenii ajung să îl accepte pentru că este bine formulat și plauzibil.
Spre deosebire de un om care poate suspenda judecata și admite că nu știe, un model lingvistic este proiectat să genereze un răspuns la aproape orice întrebare. Chiar și în lipsa informațiilor suficiente, produce cea mai probabilă continuare a textului, fără a avea o evaluare sinceră a propriilor limite. Delegarea acestui tip de decizii către un sistem care rareori admite incertitudinea poate duce la o tendință similară în comportamentul uman.
Studiul arată, de asemenea, că AI-ul a determinat, în unele cazuri, participanții să renunțe la răspunsuri pe care le-ar fi oferit corect pe baza propriei judecăți. Chatbot-ul nu a completat doar lacunele, ci a înlocuit uneori raționamentul propriu cu unul greșit, dar prezentat cu o încredere suficientă pentru a părea credibil. Acest lucru este notabil, având în vedere că oamenii sunt, în mod normal, destul de sceptici față de sfaturile altora. Chiar și atunci când un răspuns AI intra în conflict cu convingerile inițiale ale participanților, acest lucru nu a sporit prudența, ci, dimpotrivă, a crescut încrederea în corectitudinea răspunsului final.
Sursa: HotNews
