Cercetătorii avertizează că personajele virtuale extrem de realiste, controlate de inteligența artificială, ar putea juca în curând un rol major în formarea opiniei publice și în influențarea sistemelor democratice, potrivit Science Daily.
Un document recent al unui forum de politici publicat în revista Science descrie modul în care grupuri mari de personaje generate de IA pot imita în mod convingător comportamentul uman online.
Aceste sisteme pot intra în comunități digitale, participa la discuții și influența punctele de vedere cu o viteză extraordinară.
Spre deosebire de rețelele de boți anterioare, acești agenți IA se pot coordona instantaneu, pot răspunde la feedback și pot menține narațiuni consecvente pe mii de conturi.
Cum imită personajele ia oamenii reali online
Progresul rapid în domeniul modelelor lingvistice de mari dimensiuni și al sistemelor multi-agent a făcut posibil ca un singur operator să gestioneze rețele vaste de „voci” ale IA.
Aceste personaje pot părea autentice, pot adopta limba și tonul local și pot interacționa într-un mod care pare natural pentru ceilalți utilizatori.
De asemenea, ele sunt capabile să desfășoare milioane de experimente la scară mică pentru a determina care mesaje sunt cele mai convingătoare.
Acest lucru le permite să-și rafineze strategiile de comunicare în timp real și să genereze ceea ce pare a fi un consens public larg. În realitate, acest consens este creat artificial și conceput pentru a influența discuțiile politice.
Deepfake-urile și știrile false semnalează riscuri timpurii
Deși roiurile de IA pe deplin dezvoltate sunt încă în mare parte teoretice, cercetătorii spun că există deja semne de avertizare.
Acestea includ deepfake-uri generate de IA și surse de știri false care au influențat recentele discuții electorale în țări precum Statele Unite, Taiwan, Indonezia și India, potrivit informaticianului de la UBC, dr. Kevin Leyton-Brown.
În același timp, organizațiile de monitorizare au identificat rețele pro-Kremlin care răspândesc volume mari de conținut online.
Se crede că această activitate are ca scop modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA, influențând potențial modul în care aceste sisteme se comportă și ce informații prioritizează.
experții avertizează asupra impactului crescând asupra democrației
Privind în viitor, experții consideră că „roiurile” de IA ar putea afecta în mod semnificativ echilibrul de putere în societățile democratice.
Dr. Leyton-Brown a avertizat că aceste sisteme vor schimba probabil modul în care oamenii au încredere în informațiile online. „Nu ar trebui să ne imaginăm că societatea va rămâne neschimbată odată cu apariția acestor sisteme. Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”.
O nouă generație de agenți de inteligență artificială, capabili să imite comportamentul uman cu o precizie uimitoare, stârnește îngrijorări serioase în rândul experților. Acești agenți, susținuți de progresele în modelele lingvistice și sistemele multi-agent, ar putea influența semnificativ opinia publică și, implicit, procesele democratice.
Agenți ia: imitatori abili ai comportamentului uman
Aceste sisteme avansate pot crea personaje virtuale extrem de realiste, capabile să interacționeze în comunitățile digitale, participând la discuții și influențând punctele de vedere. Spre deosebire de boții anteriori, acești agenți pot coordona acțiuni, răspunde la feedback și menține narațiuni coerente pe mii de conturi. Un singur operator ar putea controla o rețea vastă de „voci” IA, creând impresia unui consens public larg.
Aceste personaje pot adopta limbajul și tonul local, interacționând într-un mod considerat natural de către ceilalți utilizatori. Mai mult decât atât, ele pot desfășura milioane de experimente la scară mică pentru a determina care mesaje sunt cele mai convingătoare, rafinându-și strategiile de comunicare în timp real. Această capacitate de a modela și influența opinia publică reprezintă o preocupare majoră.
Semnale de alarmă: deepfake-uri și dezinformare
Chiar dacă „roiurile” de IA pe deplin dezvoltate sunt încă în stadiul teoretic, semne de avertizare timpurii au fost deja observate. Deepfake-urile generate de IA și sursele de știri false au influențat deja discuțiile electorale în țări precum Statele Unite, Taiwan, Indonezia și India, conform cercetătorilor.
Organizațiile de monitorizare au identificat rețele pro-Kremlin care răspândesc cantități mari de conținut online. Aceste activități vizează modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA, influențând potențial comportamentul acestora și informațiile pe care le prioritizează. Astfel de tactici ridică semne de întrebare cu privire la manipularea informațiilor și impactul asupra proceselor democratice.
Impactul asupra democrației: un viitor incert
Experții avertizează că aceste „roiuri” de IA ar putea afecta echilibrul de putere în societățile democratice. Dr. Kevin Leyton-Brown a subliniat că aceste sisteme vor schimba modul în care oamenii au încredere în informațiile online. Scăderea încrederii în vocile necunoscute de pe rețelele sociale ar putea amplifica influența vedetelor și ar putea face mai dificilă promovarea mesajelor venite de la nivelul de bază.
Autoritățile și experții din întreaga lume vor continua să monitorizeze dezvoltarea acestor tehnologii, anticipând potențialele efecte asupra societății și sistemelor democratice.
