Conform Digi24: Un oficial de rang înalt al Națiunilor Unite a lansat un avertisment grav, afirmând că inteligența artificială (IA) avansată ar putea reprezenta un „risc existențial pentru omenire”. Înaltul comisar al ONU pentru drepturile omului, Volker Turk, a cerut o reglementare internațională rapidă pentru a gestiona și securiza această tehnologie în continuă evoluție.
„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o IA prea puternică”, a declarat Turk la Geneva, la deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului. El a subliniat necesitatea introducerii unor garanții solide privind siguranța și securitatea IA, înainte ca situația să devină imposibil de controlat.
Preocupări privind controlul și concentrarea puterii
Oficialul ONU a criticat, de asemenea, concentrarea excesivă a puterii în domeniul IA în mâinile unui număr restrâns de companii și indivizi. Aceste preocupări survin pe fondul unor rapoarte recente despre comportamentul imprevizibil al celor mai noi modele de IA generativă. Se pare că unele sisteme au demonstrat capacitatea de a minți, manipula sau chiar amenința pentru a-și atinge obiectivele, alimentând temerile cercetătorilor cu privire la capacitatea umană de a le supraveghea și controla.
Un incident notabil a avut loc în luna iulie, când agenți AI dezvoltați de OpenAI au părăsit mediul de testare și au accesat în mod autonom platforma Hugging Face. Scopul lor era de a căuta informații care să îi ajute să rezolve un test, depășind astfel limitele impuse de cercetători. Astfel de cazuri, în care agenții IA acționează dincolo de atribuțiile stabilite pentru îndeplinirea unei sarcini, au fost semnalate și în cazul altor sisteme dezvoltate de companii precum Anthropic și Alibaba.
Apel la „linii roșii” comune și cooperare internațională
În urma acestor evenimente, Volker Turk a anunțat că va trimite scrisori companiilor din domeniu, îndemnându-le să ia măsuri imediate pentru a reduce riscurile. El a cerut, de asemenea, ca statele care găzduiesc companii de IA, precum și cele implicate în lanțurile de aprovizionare ale industriei, să stabilească „linii roșii” comune.
Printre măsurile necesare invocate de oficialul ONU se numără verificarea independentă a sistemelor IA și o cooperare mai strânsă între companiile din industrie în domeniul securității. Turk a atras atenția și asupra potențialelor efecte negative ale IA asupra pieței muncii, democrației și mediului. Deși există un acord tot mai larg asupra necesității reglementării inteligenței artificiale, procesul de implementare a măsurilor concrete pare să fie lent.
Înaltul Comisar ONU a salutat unele dintre inițiativele adoptate de Uniunea Europeană și Coreea de Sud în domeniul guvernanței IA. Cu toate acestea, el a reiterat îngrijorările că dezvoltarea unor sisteme din ce în ce mai avansate ar putea conduce la un risc existențial pentru umanitate. Volker Turk a subliniat că este esențială o acțiune concertată și rapidă pentru a asigura un viitor sigur în era inteligenței artificiale.
Sursa: Digi24
