Conform HotNews: Anthropic cere o pauză în dezvoltarea inteligenței artificiale
Compania americană de inteligență artificială Anthropic, fondată de foști angajați ai OpenAI, a lansat un apel către marile laboratoare din domeniu pentru a lua în considerare o pauză coordonată și verificabilă în dezvoltarea tehnologiilor AI. Motivul invocat este preocuparea că progresele rapide ar putea duce, în curând, la sisteme capabile de auto-îmbunătățire, scăpând de sub controlul uman.
Uriașii AI, avertizați de auto-îmbunătățire
Potrivit Anthropic, capacitatea sistemelor AI de a îndeplini sarcini în mod autonom s-a dublat în aproximativ patru luni. Această evoluție rapidă ar putea culmina cu „autoîmbunătățirea recursivă”, un punct în care tehnologia se perfecționează singură, fără nicio intervenție umană. O asemenea etapă ridică semne de întrebare majore cu privire la securitatea, monitorizarea și modelarea comportamentului sistemelor AI.
Jack Clark, cofondator al Anthropic, și Marina Favaro, directoarea Anthropic Institute, au subliniat că autoîmbunătățirea recursivă nu este încă inevitabilă, însă ar putea apărea înainte ca majoritatea instituțiilor să fie pregătite. Aceștia consideră că o pauză ar permite societății să gestioneze implicațiile uriașe ale unei astfel de tehnologii. Compania, evaluată recent la aproape un trilion de dolari, a arătat în trecut angajamentul său față de siguranță, refuzând, de exemplu, să permită armatei americane să folosească modelele sale pentru arme complet autonome.
Cererea de pauză, pe fondul riscurilor necontrolate
Îngrijorările legate de potențialul scăpare de sub control a sistemelor AI s-au intensificat pe măsură ce tehnologia a devenit tot mai capabilă. Chiar și modelul „Mythos” dezvoltat de Anthropic a demonstrat o capacitate remarcabilă în identificarea vulnerabilităților în cod, un aspect care a determinat compania să nu-l lanseze public. Progresele în reglementarea AI au fost lente, în special în Statele Unite, unde activează cele mai mari laboratoare de inteligență artificială.
Analiștii au observat o tensiune între promisiunea unei pauze și lansarea de noi modele puternice, compania renunțând în februarie la angajamentul de a reține dezvoltarea AI potențial periculoase dacă rivalii ajung la niveluri similare de performanță. Deși Anthropic și-a exprimat public dorința unei încetiniri coordonate, subliniază că o pauză unilaterală ar schimba doar ierarhia liderilor din cursă, fără a crea procesul amplu de deliberare necesar.
Anthropic Institute intenționează să analizeze sistemele necesare pentru a susține o astfel de încetinire și va organiza întâlniri cu factorii de decizie politică, cercetători și companii rivale. Un reprezentant al companiei a declarat publicației Reuters că o pauză ar necesita un acord între „mai multe laboratoare bine finanțate” pentru a fi eficientă și pentru a stabili regulile de declanșare și încheiere a acesteia, precum și mecanismele de supraveghere.
Sursa: HotNews
