Conform Digi24: OpenAI, compania din spatele popularului instrument de inteligență artificială ChatGPT, a anunțat blocarea unui grup de conturi provenite din Rusia. Aceste conturi erau implicate într-o campanie de influență și răspândire de dezinformare, menită să prezinte Rusia într-o lumină favorabilă și statele occidentale într-o manieră negativă.
Compania a descoperit activitatea în timp ce investiga postări pe rețelele sociale generate cu ajutorul inteligenței artificiale. Analiza a dezvăluit o operațiune mult mai amplă, concepută să ascundă originea rusă a actorilor implicați. Deși accesul la modelele OpenAI nu este oficial disponibil în Rusia, operatorii au utilizat VPN-uri pentru a-și masca locația.
ChatGPT, folosit pentru producerea mesajelor de propagandă
Potrivit informațiilor furnizate de OpenAI, persoanele implicate introduceau instrucțiuni în limba rusă și utilizau ChatGPT pentru a genera diverse materiale, inclusiv comentarii, destinate unor platforme precum Substack, Telegram, X (fostul Twitter), Facebook și LinkedIn. Un detaliu semnificativ este solicitarea ca modelul AI să elimine din textele generate orice indiciu lingvistic care ar fi putut dezvălui originea rusă a autorilor.
O componentă cheie a acestei campanii a fost promovarea unei organizații fictive, denumită International Burke Institute (IBI). Pe site-ul acesteia, au fost publicate materiale copiate din lucrări academice reale, unele fiind atribuite în mod fals altor autori. Astfel, operațiunea nu s-a rezumat doar la distribuirea unor postări favorabile Rusiei, ci a vizat construirea unei infrastructuri menite să confere credibilitate acestor mesaje, prin prezentarea unor presupuși experți, materiale cu aspect academic și instrumente de analiză.
Un „indice al suveranităţii” cu tentă pro-rusă
Campania a dezvoltat, de asemenea, un aşa-numit „sovereignty index”, sau indice al suveranităţii. Acest indice evalua Rusia într-o manieră pozitivă, în timp ce statele occidentale erau prezentate negativ. Postările generate cu ChatGPT direcționau utilizatorii către această instituție, creând aparența unei surse credibile, cu experți, cercetări academice și propriile analize. OpenAI subliniază că acest mecanism demonstrează modul în care inteligența artificială poate fi utilizată nu doar pentru producerea rapidă de conținut, ci și pentru fabricarea unei aparențe de autoritate și independență a surselor.
Impactul operaţiunii şi provocările AI
OpenAI estimează că operațiunea nu a reușit să obțină o audiență extinsă. Cu toate acestea, pericolul major rezidă în infrastructura creată, care putea fi extinsă și utilizată pentru campanii de influență la scară mult mai mare. Inteligența artificială permite actorilor implicați să producă volume mari de conținut, să ascundă originea mesajelor și să creeze organizații aparent legitime care să susțină anumite narațiuni. Paradoxal, utilizarea AI în acest caz a contribuit la descoperirea operațiunii, prin urmele lăsate de instrumentele folosite.
Acesta nu este primul incident de acest gen care implică actori pro-ruși. În luna februarie, OpenAI a anunțat închiderea unor conturi ChatGPT asociate cu Rybar, o organizație media pro-rusă despre care guvernul britanic susține că este parțial coordonată de Administrația Prezidențială rusă. Această descoperire subliniază provocările tot mai mari generate de inteligența artificială, unde aceeași tehnologie ce permite producerea rapidă și ieftină de conținut poate fi folosită pentru a construi ecosisteme de informații false, menite să ascundă adevăratele surse din spatele mesajelor online.
Sursa: Digi24
