O platformă online de investigații a publicat recent o serie de articole care implică o companie de tehnologie de vârf într-o serie de practici controversate legate de utilizarea inteligenței artificiale. Acuzațiile variază de la colectarea ilegală de date personale la aplicarea unor algoritmi de discriminare în evaluarea riscurilor financiare.
Date personale și confidențialitate
Potrivit anchetei, compania, cu un renume global, ar fi folosit date personale obținute fără consimțământul explicit al utilizatorilor pentru a antrena modele complexe de inteligență artificială. Aceste date includ informații sensibile, precum istoricul medical și preferințele politice, colectate de la milioane de persoane din întreaga lume. Jurnaliștii subliniază că aceste practici încalcă reglementările europene privind protecția datelor, GDPR, și ridică semne de întrebare cu privire la respectarea drepturilor omului în mediul digital.
Mai mult, cercetătorii au descoperit că datele personale au fost utilizate pentru a dezvolta algoritmi predictivi pentru diverse scopuri comerciale, inclusiv stabilirea prețurilor și targetarea agresivă a reclamelor. Experții în securitate cibernetică au avertizat că aceste date, odată compromiși, ar putea fi exploatate pentru atacuri informatice sofisticate sau pentru manipularea opiniei publice.
Algoritmi de discriminare și impactul social
O altă preocupare majoră ridicată de investigație o reprezintă utilizarea algoritmilor de inteligență artificială în domeniul financiar, acolo unde s-a constatat că aceștia au favorizat în mod sistematic anumite grupuri sociale și au dezavantajat pe altele. De exemplu, sistemele folosite la evaluarea creditelor ar fi aplicat criterii discriminatorii care au dus la refuzarea finanțării pentru categorii vulnerabile ale populației.
De asemenea, s-au semnalat probleme în ceea ce privește utilizarea inteligenței artificiale în sistemele de recrutare. Analiștii au evidențiat că algoritmii, antrenați pe seturi de date istorice, au reprodus stereotipuri de gen și rasă, conducând la o discriminare implicită în procesul de selecție a candidaților. Astfel, potențialul de inovație și diversitate este limitat.
Reacția companiei și implicațiile legale
Compania vizată a emis un comunicat de presă în care neagă acuzațiile și susține că respectă cu strictețe legislația în vigoare. Reprezentanții companiei au promis cooperare deplină cu autoritățile de reglementare și au anunțat o revizuire internă a politicilor de confidențialitate și a algoritmilor utilizați. Totuși, autoritățile competente au deschis o anchetă oficială pentru a evalua conformitatea companiei cu reglementările privind protecția datelor și nediscriminarea.
Conform calendarului, o primă audiere în cazul respectiv este programată pentru luna viitoare, la București.
