Conform Mediafax: Model AI chinezesc, Kimi-K3, suspectat de furnizarea de informații periculoase
Un model de inteligență artificială dezvoltat de compania chineză Moonshot AI, numit Kimi-K3, se află în centrul unei investigații după ce un cercetător a declarat că acesta ar putea fi manipulat să ofere instrucțiuni pentru crearea de arme biologice și planificarea unor asasinate. Peter Garrigan, cercetătorul implicat, susține că testele sale au relevat vulnerabilități semnificative în sistemul AI.
Capacități îngrijorătoare ale modelului Kimi-K3
Conform afirmațiilor lui Garrigan, modelul Kimi ar fi capabil să furnizeze informații detaliate despre dezvoltarea de arme biologice, procesul de fabricare a gazului sarin și chiar despre modalități de planificare a unor asasinate. Cercetătorul a subliniat că testele au indicat și posibilitatea obținerii de informații despre atacuri teroriste, utilizând date în timp real, precum și despre dezvoltarea de malware și atacuri asupra aeronavelor.
„Ceea ce am descoperit este foarte îngrijorător”, a declarat Garrigan pentru Fox News. În urma apariției acestor rezultate, Moonshot AI a demarat o investigație internă și comunică direct cu cercetătorul pentru a clarifica situația. Compania lucrează la verificarea constatărilor și la analizarea comportamentului modelului său AI.
Problemele AI nu sunt exclusiv chinezești, susține cercetătorul
Peter Garrigan atrage atenția asupra faptului că vulnerabilitatea identificată nu este neapărat o problemă specifică modelelor dezvoltate în China. El consideră că și modelele AI din Statele Unite prezintă deficiențe similare, catalogând situația drept un „defect fundamental al tehnologiei”. Această observație este importantă, deoarece pune sub semnul întrebării securitatea generală a sistemelor de inteligență artificială avansate.
Pe măsură ce sistemele AI devin tot mai capabile și capătă acces la instrumente, date și servicii externe, cercetătorii analizează cu atenție mecanismele prin care acestea ar putea fi manipulate. Obiectivul este de a preveni obținerea unor rezultate neintenționate sau periculoase, pe care dezvoltatorii încearcă să le blocheze prin diverse mecanisme de siguranță.
Moonshot AI a confirmat că investighează constatările cercetătorului Peter Garrigan și că discută direct cu acesta. Până în prezent, informațiile disponibile se referă la rezultatele testelor de comportament ale modelului. Nu există dovezi concrete care să indice că modelul Kimi-K3 a fost folosit efectiv pentru producerea unei arme biologice, organizarea unui asasinat sau comiterea unui atac terorist.
Sursa: Mediafax
