Conform Bursa: Experții în securitate cibernetică din SUA și China avertizează că un sistem de inteligență artificială (AI) care ar interveni într-o rețea de comandă nucleară sau ar declanșa o operațiune cibernetică militară ar putea lăsa Washingtonul sau Beijingul cu doar câteva minute pentru a determina dacă acțiunea reprezintă un atac deliberat din partea celeilalte părți. Aceste concluzii, rezultate dintr-un dialog bilateral axat pe securitatea națională și AI, contribuie la fundamentarea discuțiilor oficiale dintre cele două mari puteri.
Preliminarii pentru o criză AI
Specialiștii implicați în acest dialog, organizat de Brookings Institution și Universitatea Tsinghua, cer ambelor guverne să se pregătească pentru astfel de scenarii. Preocupările cresc odată cu dezvoltarea rapidă a sistemelor AI din ce în ce mai puternice și mai autonome. Printre propunerile cheie se numără stabilirea unor „linii roșii” clare în privința sistemelor nucleare, menținerea controlului uman asupra atacurilor cibernetice cu consecințe majore și crearea unei linii directe de comunicare pentru incidentele care implică sisteme AI autonome.
Recomandările au fost publicate înaintea unor discuții guvernamentale programate pe tema inteligenței artificiale și a unei întâlniri anticipate între președinții Donald Trump și Xi Jinping. Autorii raportului, Melanie Sisson și Tianjiao Jiang, subliniază că rivalitatea SUA-China în domeniul AI depășește competiția pentru tehnologie avansată, intrând pe teritoriul tradițional al controlului armamentului. Se pune accent pe prevenirea confuziei dintre accidente și atacuri, limitarea deciziilor militare automate și stabilirea unor protocoale de comunicare în situații imprevizibile.
Ministrul chinez al Securității de Stat, Chen Yixin, a declarat recent că inteligența artificială „transformă fundamental forma confruntării militare”, trecând de la un rol auxiliar la unul central pe câmpul de luptă. Acesta a invocat atacurile coordonate cu ajutorul AI în conflicte recente. Sisson sugerează că deciziile de inițiere a atacurilor cibernetice asistate de AI împotriva sistemelor nucleare sau a infrastructurii critice ar trebui să rămână exclusiv în mâinile oamenilor. Un sistem autonom ar putea funcționa defectuos, depăși instrucțiunile sau fi compromis, făcând dificilă determinarea originii și intenției acțiunii.
Jiang a propus definirea unor linii roșii explicite pentru a împiedica AI să decidă independent utilizarea armelor nucleare sau să atace autonom sistemele de comandă nucleară. De asemenea, au fost solicitate măsuri de protecție pentru infrastructurile critice din sectoare precum energia, finanțele și sănătatea. O propunere importantă vizează adoptarea unei definiții comune pentru conceptul de „control uman semnificativ”, pentru a evita interpretări divergente ale nivelurilor de autonomie acordate sistemelor informatice.
Comunicare și convergență în era AI
Ideea de a menține controlul uman asupra deciziilor privind armele nucleare este susținută de principii agreate anterior de președinții Joe Biden și Xi Jinping. Lora Saalman, specialistă la Stockholm International Peace Research Institute, a subliniat că acest principiu reprezintă un punct de convergență între cele două țări, în ciuda integrării tot mai profunde a AI în sistemele nucleare.
Jiang a propus, de asemenea, crearea unei linii militare directe dedicate incidentelor AI între SUA și China. Acesta avertizează că schimburile cibernetice automate s-ar putea amplifica rapid, făcând intervenția umană dificilă. Un sistem AI defensiv ar putea răspunde automat unei activități suspecte, iar cealaltă parte ar putea interpreta reacția ca un atac, ducând la o escaladare neintenționată. O linie directă ar putea facilita informarea rapidă asupra naturii neobișnuite a unei operațiuni AI – dacă a fost accidentală, neautorizată sau în curs de investigare – înainte ca incidentul să fie considerat o acțiune deliberată.
Cu toate acestea, experți precum Carla Freeman de la Johns Hopkins School of Advanced International Studies, pun sub semnul întrebării utilitatea actualelor linii de comunicare pentru situații de criză, amintind de lipsa de răspuns a oficialilor chinezi în timpul incidentului cu presupusul „balon de spionaj” din februarie 2023. Ierarhia rigidă a birocrației chineze ar putea limita capacitatea ofițerilor de rang inferior de a lua inițiativa în interacțiunile cu omologii americani.
Niciunul dintre guverne nu a susținut public propunerile Brookings-Tsinghua, însă China a început să integreze problematica AI în structurile sale de control al armamentului. Departamentul pentru Controlul Armamentului din cadrul Ministerului chinez de Externe, responsabil și de armele nucleare, gestionează oficial și domeniul AI. Ambasadorul Chinei pentru probleme de dezarmare a subliniat în iunie, la ONU, că utilizarea militară a AI ar putea afecta stabilitatea strategică și ar crește riscul erorilor de calcul, susținând că armele trebuie să rămână sub control uman. În același timp, China susține că siguranța AI nu trebuie folosită ca pretext pentru bariere tehnologice. Washingtonul nu dispune de o structură unică echivalentă în sistemul de control al armamentului, politica de securitate națională fiind împărțită între mai multe agenții.
Riscul existențial și competiția globală
Dezbaterea privind utilizările militare ale AI se desfășoară în paralel cu avertismentele venite din partea unor cercetători care consideră că sistemele AI performante ar putea reprezenta o amenințare existențială pentru omenire. Cercetători de la companii precum Google DeepMind și Anthropic au exprimat public preocupări legate de rezultatele catastrofale pe care le-ar putea genera AI avansată, capabilă de raționament autonom și utilizarea unor instrumente externe.
CEO-ul Anthropic, Dario Amodei, a cerut laboratoarelor AI să încetinească ritmul dezvoltării, propunând evaluări independente de siguranță mai stricte și cooperare internațională. Sam Altman (OpenAI) și Elon Musk (xAI) au susținut, de asemenea, o abordare mai prudentă. Aceste avertismente evidențiază un dezacord privind efectele încetinirii dezvoltării AI: dacă aceasta ar diminua riscurile catastrofale sau ar dezavantaja țările și companiile implicate în competiția tehnologică globală. Președintele Donald Trump a respins scenariile alarmante, considerându-le exagerate și susținând necesitatea menținerii avansului SUA în cursa tehnologică.
Pozițiile divergente reflectă dilema guvernelor, care trebuie să echilibreze securitatea națională și competiția economică cu riscurile potențiale, de la atacuri cibernetice autonome până la scenarii extreme privind dispariția omenirii. Propunerile de introducere a unor mecanisme de siguranță, inspirate din era nucleară, reprezintă o încercare de a stabili limite pentru utilizările periculoase ale AI, fără a opri complet competiția tehnologică.
Sursa: Bursa
