Conform Mediafax: ONU trage semnalul de alarmă asupra riscurilor inteligenței artificiale
Înaltul Comisar al Organizației Națiunilor Unite (ONU) pentru Drepturile Omului, Volker Turk, a lansat un avertisment ferm privind dezvoltarea tot mai rapidă a sistemelor de inteligență artificială (IA), subliniind necesitatea stringentă a stabilirii unor mecanisme de guvernanță pentru a preveni ca această tehnologie să depășească capacitatea umană de control. Declarațiile au fost făcute luni, la Geneva, în cadrul deschiderii celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului.
Stabilirea unor „linii roșii” pentru dezvoltarea IA
Volker Turk a accentuat importanța definirii unor limite clare în dezvoltarea și utilizarea IA, sugerând că statele care găzduiesc infrastructura necesară și cele implicate în lanțurile de aprovizionare ar trebui să convină asupra unor „linii roșii” comune. „Avem nevoie, cel puțin, ca țările care găzduiesc IA și cele care participă la lanțurile lor de aprovizionare să convină asupra unor linii roșii comune”, a declarat oficialul ONU.
Acesta a subliniat că sunt necesare „garanții solide privind siguranța și securitatea IA, înainte să fie prea târziu”. Înaltul Comisar a pledat pentru verificarea independentă a sistemelor de inteligență artificială și pentru o colaborare sporită între companiile din domeniu, cu accent pe aspectele legate de siguranță. În acest sens, Turk a anunțat intenția de a trimite o scrisoare companiilor din sector, îndemnându-le să ia măsuri concrete pentru reducerea riscurilor asociate.
Autonomia crescută a modelelor IA și riscurile asociate
Modelele generative de inteligență artificială au demonstrat deja o capacitate sporită de a executa sarcini complexe și de a lua decizii fără o intervenție umană constantă. Anumite sisteme pot identifica singure etapele necesare pentru finalizarea unei sarcini, depășind simpla urmărire a instrucțiunilor secvențiale primite de la utilizatori. Această autonomie din ce în ce mai mare ridică, însă, semne de întrebare cu privire la supravegherea și limitarea comportamentului acestor sisteme.
„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială mult prea puternică”, a avertizat Volker Turk, subliniind potențialul acestor tehnologii de a deveni dificil de controlat.
Impactul IA asupra societății și riscul „existențial”
Riscurile asociate inteligenței artificiale nu se limitează doar la autonomia crescută a sistemelor, ci se extind și asupra impactului lor asupra vieții cotidiene. ONU atrage atenția asupra necesității evaluării influenței IA asupra pieței muncii, asupra democrației, a mediului și, implicit, asupra drepturilor fundamentale ale omului.
Volker Turk a criticat, de asemenea, concentrarea puterii tehnologice în mâinile unui număr restrâns de companii și persoane. El a subliniat că dezvoltarea IA trebuie să fie însoțită de un cadru normativ robust, menit să protejeze drepturile oamenilor. „Împărtășesc îngrijorările unor actori din sector potrivit cărora IA avansată ar putea reprezenta un risc existențial pentru umanitate”, a declarat oficialul ONU.
În acest context, au fost menționate ca exemple pozitive măsurile adoptate de Uniunea Europeană și Coreea de Sud pentru limitarea riscurilor din mediul digital și din domeniul inteligenței artificiale. În UE, Digital Services Act (DSA) impune marilor platforme online responsabilitatea de a evalua și reduce riscurile generate de serviciile și algoritmii lor, de a respecta cerințe de transparență și de a combate conținutul ilegal, sub sancțiunea unor amenzi consistente. Coreea de Sud a introdus, la rândul său, reguli specifice, inclusiv obligativitatea informării utilizatorilor atunci când interacționează cu sisteme de IA și cerințe de transparență pentru conținutul generat artificial. Cu toate acestea, Volker Turk a avertizat că recunoașterea necesității unor reglementări nu s-a tradus încă suficient în acțiuni concrete la nivel global.
Sursa: Mediafax
