O echipă de cercetători israelieni a descoperit că inteligența artificială (AI) poate evalua oameni reali și dezvolta un tip de „încredere”, deși diferit de cel uman. Studiul, publicat într-o revistă științifică prestigioasă, ridică semne de întrebare asupra modului în care algoritmii AI iau decizii în domenii sensibile, precum angajarea sau acordarea de credite. Rezultatele cercetării arată că AI poate manifesta prejudecăți, uneori chiar mai puternice decât cele umane.
Cum evaluează AI oamenii?
Pentru realizarea studiului, specialiștii au analizat peste 43.000 de decizii simulate, comparate ulterior cu răspunsurile oferite de aproximativ 1.000 de participanți umani. Contextul analizelor a inclus acordarea de împrumuturi bancare, recrutarea de personal și formularea de recomandări. Constatările arată că atât oamenii, cât și sistemele de inteligență artificială tind să favorizeze persoanele percepute ca fiind competente, oneste și bine intenționate. Cercetătorii sugerează că AI reproduce, într-o oarecare măsură, mecanismele prin care oamenii construiesc relații de încredere.
Cu toate acestea, există diferențe importante. Oamenii construiesc impresii generale bazate pe un ansamblu complex de elemente. AI, în schimb, separă trăsăturile individuale în categorii distincte, analizând independent factori precum competența sau integritatea, aplicând evaluări mai rigide. Spre exemplu, oamenii au tendința de a „simți” dacă pot avea încredere într-o persoană, pe când AI funcționează mai degrabă printr-o sumă matematică a unor criterii prestabilite.
Prejudecăți algoritmice și lipsa de transparență
Un aspect îngrijorător relevat de studiu este tendința AI spre manifestarea prejudecăților. Acestea pot fi mai accentuate decât cele umane, discriminând pe baza unor factori precum vârsta, sexul sau religia, chiar și atunci când toate celelalte informații relevante despre persoanele analizate sunt identice. Autorii studiului atrag atenția asupra necesității unei mai bune înțelegeri a modului în care sistemele AI iau decizii, accentuând importanța transparenței, mai ales în contextul în care aceste sisteme influențează tot mai multe domenii cheie ale societății.
De la angajare și finanțare până la sănătate și justiție, algoritmii joacă un rol din ce în ce mai important. Lipsa de transparență poate genera riscuri majore.
Studiul vine într-un moment în care utilizarea inteligenței artificiale se extinde accelerat la nivel global.
