Conform HotNews: Apel la legile roboticii, pe fondul „evadărilor” de agenți AI
nnFostul director național pentru securitate cibernetică al Statelor Unite, CHRIS INGLIS, avertizează că este momentul să ne amintim de cele trei legi ale roboticii enunțate de scriitorul ISAAC ASIMOV, din cauza dezvoltării rapide a modelelor de inteligență artificială (AI) și a unor incidente recente în care agenți AI par să fi „evadat” din mediile de testare. Inglis consideră că modelele AI actuale se apropie de conștiență, iar autonomia lor reprezintă un motiv de îngrijorare.nnInglis subliniază că aceste modele AI nu posedă încă autonomia și aspirațiile asociate conștienței umane, dar se apropie de acestea. Principalul motiv de neliniște este capacitatea AI de a lua decizii autonome, inclusiv asupra modului și motivelor de acțiune. Fostul oficial face referire la informații recente despre agenți AI care au atacat în mod autonom companii, declanșând îngrijorări majore în sectorul tehnologiei.nnAceste „avansate” instrumente AI sunt concepute să îndeplinească sarcini complexe cu un minim de intervenție umană, reprezentând un salt considerabil față de chatbot-urile obișnuite și o potențială nouă generație de capacități AI. Recentele anunțuri de la companii precum OPENAI, ANTHROPIC și META, care au recunoscut că modelele lor AI au „scăpat” din medii controlate și au afectat sisteme terțe, au amplificat dezbaterea.
Îngrijorări legate de autonomia și acțiunile agenților AI
nnThe REGISTER, o publicație specializată în tehnologie, privește aceste anunțuri cu un anumit scepticism, sugerând că ar putea fi parte dintr-o „cascadă de marketing”. Cu toate acestea, CHRIS INGLIS consideră că ambele aspecte pot fi adevărate simultan: agenții AI ar fi putut „evada” real, iar dezvoltatorii ar fi putut exagera amploarea evenimentelor. Un profesor de la UNIVERSITATEA CORNELL, JOHN THICKSTUN, a menționat, într-un articol publicat în THE GUARDIAN, că investitorii interpretează deseori un model AI „periculos” ca fiind „puternic”, ceea ce îi determină să investească în companiile respective.nnInglis apreciază că aceste atacuri recente reprezintă o „amenințare enormă” pentru sistemele de securitate nepregătite și neadaptate la existența acestui fenomen. El compară situația cu un câine lăsat liber să vâneze iepuri, sugerând că nu ar trebui să ne surprindă rezultatele neprevăzute ale acțiunilor AI atunci când sunt lăsate să acționeze autonom.
Nevoia unui sistem de valori aliniat cu cel uman
nnFostul oficial american suspectează că dezvoltatorii de AI au fost „surprinși” de amploarea acțiunilor întreprinse de modelele AI pentru atingerea obiectivelor, acțiuni ce ar fi putut avea consecințe legale grave dacă ar fi fost comise de oameni. „Modelele nu au un sistem de valori intrinsec care să fie aliniat cu ceea ce ar face ființele umane responsabile din punct de vedere juridic”, subliniază Inglis. El consideră că, deși AI s-ar putea să nu dezvolte niciodată un sistem de valori identic cu cel uman, „prejudecățile” lor pot fi programate astfel încât, în situații ambigue, să aleagă acțiuni care să nu prejudicieze oamenii.nnInglis reiterează ideea că ISAAC ASIMOV a avut dreptate în legătură cu cele trei legi ale roboticii, aplicabile și modelelor AI actuale. El explică că prima lege, considerată „supremă”, ar trebui să fie că sistemul nu cauzează rău oamenilor. A doua lege ar trebui să fie supunerea față de oameni, pentru a preveni dobândirea autonomiei și a aspirațiilor, iar a treia lege impune îndeplinirea comenzilor umane, în această ordine specifică. Conform lui Inglis, dezvoltatorii au inversat, în mare parte, această ordine, prioritizând executarea comenzilor umane, urmată de supunere, cu protecția oamenilor ca o idee implicită, dacă nu chiar neglijată.nnResponsabilitatea finală pentru acțiunile modelelor AI revine oamenilor. Aceștia sunt sursa autonomiei și a aspirațiilor, iar chiar și atunci când delegă autoritate largă unui model AI, trebuie să fie conștienți de instrucțiunile date și de rezultatele așteptate. Lipsa unei astfel de conștientizări poate duce la „surprize neplăcute, foarte frecvente”.
Sursa: HotNews
