O companie americană dezvoltă un model de inteligență artificială (AI) atât de avansat încât îl consideră prea periculos pentru a fi lansat public. Denumit Claude Mythos, modelul a descoperit deja mii de vulnerabilități de securitate, inclusiv unele vechi de decenii, în sisteme informatice utilizate la nivel global.
Un AI cu Puteri Incomode
Compania ANTHROPIC, responsabilă pentru dezvoltarea lui Claude Mythos, a recunoscut că modelul său AI este capabil să identifice breșe de securitate de tip zero-day. Aceste vulnerabilități, necunoscute până acum, pot afecta serios sistemele informatice ale companiilor, băncilor și altor instituții. Potrivit reprezentanților ANTHROPIC, peste 99% dintre vulnerabilitățile identificate de Claude Mythos nu au fost încă remediate, fapt ce justifică discreția în ceea ce privește detalii suplimentare.
Una dintre descoperirile spectaculoase ale AI-ului a fost o vulnerabilitate veche de 27 de ani în OpenBSD, un sistem de operare recunoscut pentru securitatea sa ridicată. Această breșă a rămas nedetectată timp de aproape trei decenii, demonstrând capacitățile remarcabile ale lui Claude Mythos în identificarea amenințărilor cibernetice.
Proiectul glasswing: Un experiment controlat
Deși consideră modelul prea periculos pentru publicul larg, ANTHROPIC a lansat Proiectul Glasswing. Prin acesta, un număr limitat de companii, 50 la număr, primesc acces restrâns la Claude Mythos. Scopul este de a identifica și remedia vulnerabilitățile din propriile sisteme. Pe lista „invitaților” se regăsesc nume sonore din industria tehnologică și financiară, inclusiv AMAZON, APPLE, GOOGLE, MICROSOFT, și JP MORGAN CHASE.
Acest demers ridică semne de întrebare cu privire la transparența și controlul asupra dezvoltării AI. Accesul limitat la un astfel de instrument sugerează o abordare precaută, însă și o concentrare a puterii în mâinile unui număr restrâns de entități.
Implicații pentru Viitor
Capacitățile lui Claude Mythos de a identifica și exploata vulnerabilități prezintă un risc semnificativ pentru securitatea cibernetică globală. Descoperirile AI-ului arată că sistemele informatice, inclusiv cele considerate sigure, pot conține breșe ascunse. Acestea pot fi exploatate de actori rău intenționați, cu consecințe grave.
În acest context, colaborarea între companii, guverne și specialiști în securitate cibernetică devine esențială. Doar prin schimbul de informații și prin adoptarea celor mai bune practici se pot reduce riscurile asociate cu progresele rapide în domeniul inteligenței artificiale.
