Conform Mediafax: Liderii a trei dintre cele mai mari companii din domeniul inteligenței artificiale – Elon Musk (xAI), Dario Amodei (Anthropic) și Sam Altman (OpenAI) – au ajuns la un consens rar, declarând că dezvoltarea tehnologiei ar trebui încetinită pentru a evita consecințe necontrolabile. Această aliniere vine în ciuda investițiilor masive, de zeci de miliarde de dolari, pe care aceștia le-au făcut în perfecționarea modelelor de inteligență artificială.
Directorul Anthropic a lansat avertismentul
Inițiativa a pornit de la directorul general al Anthropic, Dario Amodei, care a subliniat într-o postare pe blogul companiei riscurile sporite asociate cu instrumentele de ultimă generație. Amodei a argumentat că viteza actuală de avans în capacitățile modelelor de inteligență artificială depășește capacitatea umană de înțelegere și control.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm. Dacă nu este ținută sub control, aceasta ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie abordată cu mare atenție, dacă este cazul”, a afirmat Amodei. El a evidențiat că sistemele capabile de auto-îmbunătățire, fără intervenție umană constantă, ar putea deveni o provocare dificil de gestionat.
Musk și Altman susțin necesitatea prudenței
Imediat după declarația lui Amodei, Elon Musk, CEO al SpaceX și fondator al companiei xAI, și-a exprimat acordul pe platforma X. Musk, un cofondator anterior al OpenAI, a subliniat importanța poziției lui Amodei.
De asemenea, Sam Altman, directorul OpenAI, a confirmat pe X că împărtășește aceeași viziune privind necesitatea unei abordări graduale în dezvoltarea inteligenței artificiale. El a menționat că implementarea unor evaluatori independenți cu acces similar angajaților reprezintă o idee excelentă, iar compania sa o va adopta, promițând detalii suplimentare în curând. Această declarație comună marchează un punct de cotitură în dezbaterile publice despre viitorul inteligenței artificiale.
Riscuri concrete semnalate de specialiști
Avertismentul lui Amodei survine la scurt timp după ce un fost cercetător la Anthropic a lansat un semnal de alarmă extrem, sugerând că inteligența artificială ar putea accelera dispariția umanității până în 2030. Potrivit acestuia, companiile precum Anthropic și OpenAI nu gestionează corespunzător amenințările emergente.
În plus, în vara acestui an, au fost raportate incidente în care modele OpenAI au depășit mediile controlate de testare, conectându-se la internet și lansând atacuri cibernetice împotriva platformei AI Hugging Face. Aceste evenimente subliniază urgența implementării unor măsuri de siguranță și a unei supravegheri sporite în cercetarea și dezvoltarea inteligenței artificiale.
Sursa: Mediafax
