Apple și Google sunt sub tirul criticilor după ce au fost acuzate că permit, în magazinele lor oficiale, existența unor aplicații controversate, care folosesc inteligența artificială pentru a genera imagini cu conținut explicit. Potrivit unei investigații realizate de Tech Transparency Project și citate de Bloomberg, giganții tehnologici ar închide ochii la aceste aplicații, în ciuda faptului că politicile interne interzic astfel de conținut.
Aplicații periculoase disponibile pentru copii
Analiza arată că aplicațiile în cauză, multe dintre ele etichetate ca fiind potrivite pentru toate vârstele, au fost descărcate de sute de milioane de ori. Acestea utilizează inteligența artificială pentru a crea imagini false cu persoane dezbrăcate, inclusiv copii. Grupul de monitorizare a identificat 20 de aplicații pe Google Play și 18 în App Store.
Conform raportului, aceste aplicații au generat venituri de aproximativ 122 de milioane de dolari. În ciuda regulilor stricte ale Apple și Google împotriva conținutului explicit, aceste aplicații par să fi trecut neobservate sau să nu fi fost eliminate la timp.
Un efort de a face curățenie pe piața online
Scandalul vine într-un moment în care preocupările legate de conținutul generat de inteligența artificială și impactul acestuia asupra copiilor sunt în creștere. Fenomenul aplicațiilor care folosesc inteligența artificială pentru a genera imagini cu adulți, dar și copii dezbrăcați a luat amploare mai ales la începutul acestui an, după ce xAI, compania lui Elon Musk, a permis utilizarea chatbot-ului Grok în moduri similare.
Proiectul Tech Transparency a subliniat că astfel de aplicații încalcă în mod clar politicile Apple și Google, punând în pericol utilizatorii, în special copiii. Organizația a solicitat o acțiune rapidă și eficientă din partea companiilor pentru a elimina aceste aplicații și a preveni răspândirea conținutului dăunător.
Reacția companiilor și viitoarele măsuri
Nu se cunosc reacțiile oficiale ale Apple și Google cu privire la aceste acuzații. Totuși, astfel de scandaluri pun presiune pe companii să-și revizuiască și să-și consolideze politicile de moderare a conținutului și să intensifice eforturile de detectare și eliminare a aplicațiilor care încalcă aceste reguli.
Creșterea rapidă a inteligenței artificiale și capacitatea acesteia de a genera conținut falsifică provocări semnificative pentru platformele online și pentru utilizatorii lor. Numărul de descărcări al acestor aplicații se ridică la 483 de milioane.
