Conform Mediafax: David Robinson, un responsabil important pentru siguranța la OpenAI, a demisionat în această săptămână, lansând un avertisment sever cu privire la cultura companiei care dezvoltă instrumente de inteligență artificială. Robinson a fost persoana care a coordonat redactarea rapoartelor de siguranță însoțitoare pentru lansările de produse ale dezvoltatorului ChatGPT.
Într-un text amplu, intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, Robinson subliniază necesitatea unei reforme culturale în cadrul firmelor de top din domeniul inteligenței artificiale. El a atras atenția asupra faptului că recentele incidente de siguranță ale agenților AI autonomi sunt „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care oamenii acționează”, conform publicației The Guardian.
„Sunt de acord cu alți angajați care au părăsit recent compania, spunând că firmele care dezvoltă această tehnologie nu sunt nici pe departe suficient de prudente”, a declarat Robinson într-un material publicat în revista The Atlantic. El a continuat: „Dar cred că trebuie să privim mai adânc decât regulile specifice sau noile legi. Trebuie să vorbim despre cultură. Pe măsură ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consider necesar.”
În textul său, Robinson a solicitat două modificări esențiale în materie de siguranță. Prima este ca firmele din domeniul inteligenței artificiale să se bazeze pe expertiza în siguranță din alte domenii critice, precum cel nuclear și cel al aviației. A doua solicitare se referă la dezvoltarea unei „științe noi” care să garanteze că sistemele puternice din viitor vor putea fi ținute sub control, mai ales atunci când funcționează în mod autonom.
Alți angajați din companii AI majore au demisionat
Demisia lui Robinson vine la doar câteva săptămâni după ce Jacob Coxon, un cercetător care a activat atât la OpenAI, cât și la Anthropic, și-a depus și el demisia, anunțându-și retragerea din industria inteligenței artificiale. El a avertizat că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului”. Acest avertisment a fost urmat de o declarație din partea Anthropic, care a estimat o probabilitate de peste 10% ca instrumentele AI să distrugă umanitatea în următorul deceniu.
Recent, OpenAI a demonstrat o prudență sporită în urma incidentului Hugging Face. Săptămâna aceasta, compania a anunțat că renunță la lansarea unui model de inteligență artificială de nouă generație, după ce cercetătorii au semnalat probleme de siguranță în timpul testelor interne. De asemenea, OpenAI a suspendat temporar antrenarea celor mai avansate modele ale sale.
Preocupări privind viteza de dezvoltare și riscurile inerente
Principala critică adusă de David Robinson vizează cultura organizațională din companiile de inteligență artificială, în special ritmul alert cu care sunt lansate noi produse. El consideră că această viteză compromite nivelul necesar de atenție și rigurozitate în ceea ce privește siguranța.
Expertiza din domenii cu un istoric lung în managementul riscurilor, cum ar fi cel nuclear și aviația, ar putea oferi soluții valoroase pentru dezvoltarea responsabilă a AI. Robinson militează pentru o abordare mai sistematică și bazată pe date concrete, care să prevină potențiale scenarii nefavorabile.
Dezvoltarea unei „științe noi” pentru controlul sistemelor autonome avansate este considerată de Robinson o necesitate stringentă. Aceasta ar trebui să ofere garanții că progresul tehnologic nu va depăși capacitatea umană de a gestiona și direcționa astfel de sisteme.
Plecarea unor figuri cheie precum Robinson și Coxon subliniază tensiunile existente în industria AI între aspirația către inovație rapidă și imperativul siguranței pe termen lung. Declarațiile lor ridică semne de întrebare cu privire la mecanismele de control intern și la evaluarea corectă a riscurilor inerente dezvoltării unor tehnologii cu potențial transformator, dar și cu pericole neevaluate complet.
Sursa: Mediafax
