O nouă tehnologie de inteligență artificială (IA) dezvoltată de Anthropic a reușit să identifice mii de vulnerabilități de tip zero-day, adică defecte necunoscute anterior dezvoltatorilor, în diverse sisteme informatice majore. Descoperirea, anunțată recent, ridică semne de întrebare asupra capacităților IA în domeniul securității cibernetice și a implicațiilor acesteia pentru infrastructura digitală globală. Modelul, numit Claude Mythos Preview, a demonstrat capabilități impresionante în găsirea și exploatarea vulnerabilităților.
Descoperiri alarmante în sisteme critice
Potrivit detaliilor publicate de companie, Claude Mythos Preview a descoperit breșe de securitate în sisteme de operare majore, browsere web populare și alte programe importante. Printre descoperiri se numără o vulnerabilitate veche de 27 de ani în OpenBSD, un sistem de operare recunoscut pentru securitatea sa, și o alta de 16 ani în FFmpeg, un software utilizat pentru codificarea și decodificarea video. Modelul a reușit chiar să combine mai multe vulnerabilități din nucleul Linux, esențial pentru funcționarea serverelor globale, permițând potențial un atacator să obțină controlul total asupra unei mașini. Aceste descoperiri au fost raportate dezvoltatorilor de software, iar soluțiile au fost deja implementate în majoritatea cazurilor.
Evaluările comparative indică o performanță superioară a modelului Claude Mythos Preview față de alte modele existente, în special în ceea ce privește capacitatea de a reproduce vulnerabilități cibernetice. Cisco, Amazon Web Services (AWS) și Microsoft se numără printre partenerii care au testat modelul și au confirmat eficacitatea acestuia în identificarea și remedierea problemelor de securitate. Citatele acestor companii evidențiază schimbări fundamentale în modul în care trebuie abordată securitatea cibernetică, dată fiind viteza cu care IA poate identifica și exploata vulnerabilități.
Proiectul glasswing și viitorul securității cibernetice
Anthropic a anunțat lansarea Proiectului Glasswing, o inițiativă amplă care vizează colaborarea cu diverse organizații pentru a identifica și remedia vulnerabilitățile în sisteme cruciale. Partenerii vor avea acces la Claude Mythos Preview pentru a efectua teste și pentru a îmbunătăți securitatea sistemelor lor. Proiectul include un angajament financiar de 100 de milioane de dolari sub formă de credite pentru utilizarea modelului. De asemenea, au fost donate fonduri către Alpha-Omega, OpenSSF și Apache Software Foundation pentru a susține eforturile comunității open-source în domeniul securității.
În cadrul Proiectului Glasswing se vor dezvolta și împărtăși recomandări pentru îmbunătățirea securității. Vor fi abordate aspecte precum procesele de divulgare a vulnerabilităților, actualizările de software și securitatea lanțului de aprovizionare. Anthropic este în discuții cu oficialii guvernamentali americani pentru a explora implicațiile modelelor IA în domeniul securității naționale. Scopul este de a stabili standarde pentru industrie și de a explora modul în care IA poate fi utilizată în mod responsabil pentru a îmbunătăți securitatea cibernetică.
Prin parteneriatele sale, Anthropic caută să stabilească un model pentru abordarea complexităților legate de securitatea cibernetică în era inteligenței artificiale. Acesta este încurajat de faptul că Google a afirmat că va pune la dispoziție instrumente precum Vertex AI pentru a sprijini inițiativa.
