Anthropic, o companie de frunte în domeniul inteligenței artificiale, a dezvăluit un nou model AI cu capacități impresionante, denumit „Claude Mythos Preview”. Tehnologia, conform dezvoltatorilor, poate identifica vulnerabilități critice în sisteme de operare și browsere, ridicând semne de întrebare serioase cu privire la utilizarea sa. Din cauza acestor capabilități, modelul nu va fi lansat public pentru moment.
Capacități avansate, riscuri pe măsură
Compania a efectuat teste riguroase pentru a evalua potențialul modelului. Într-un experiment, sistemul a reușit să găsească o modalitate de a ocoli restricțiile dintr-un mediu virtual securizat. Mai mult, a publicat detalii despre vulnerabilitate pe diverse site-uri publice. Cercetările au arătat, de asemenea, că modelul poate identifica erori majore în nucleul Linux, esențial pentru funcționarea majorității serverelor la nivel global. A reușit chiar să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Într-un alt caz, programul a detectat o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
Colaborare strictă cu giganți IT și autorități
Anthropic a decis să limiteze accesul la model, acesta urmând să fie utilizat exclusiv într-un program de securitate cibernetică cu acces restricționat. Proiectul, numit „Project Glasswing”, va implica companii importante din industria tehnologiei, printre care Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul este de a identifica vulnerabilități și de a îmbunătăți securitatea sistemelor informatice ale acestor companii. Anthropic a confirmat discuțiile cu oficiali ai guvernului american despre implicațiile modelului, considerând că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale.
Viitorul inteligenței artificiale și provocările sale
Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme cu capacități similare în curând. Experții companiei anticipează apariția unor astfel de modele AI pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității cibernetice avertizează asupra necesității pregătirii industriei pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
