Apple a avertizat compania xAI a lui Elon Musk că va elimina aplicația Grok din App Store, din cauza conținutului sexualizat generat de chatbot, dezvăluie o scrisoare obținută de NBC News. Gigantul tehnologic a impus condiții stricte pentru menținerea aplicației în magazinul său, punând presiune pe xAI să modereze conținutul ofensator.
Luni, 15 aprilie, Apple a trimis o scrisoare senatorilor americani, confirmată ulterior de surse media. Scrisoarea detaliază avertismentul adresat companiei lui Musk, subliniind îngrijorările legate de imaginile deepfake cu nuditate și conținut sexual explicit generate de Grok. Aceste imagini au apărut pe platforma X, inclusiv unele cu persoane reale, fără consimțământul acestora.
Presiuni din partea Apple
La începutul acestui an, capabilitățile AI ale Grok au fost analizate în profunzime, după ce utilizatorii platformei X au distribuit imagini sexualizate create de aplicație. Aceste imagini au fost create cu ajutorul inteligenței artificiale și au prezentat femei și copii în contexte explicite. Apple a răspuns în privat, inițiind discuții cu xAI cu privire la modificările necesare.
Apple a respins o soluție inițială propusă de xAI, considerând-o insuficientă. Gigantul tehnologic a cerut modificări suplimentare, avertizând că, în caz contrar, aplicația Grok va fi eliminată din App Store. După mai multe runde de discuții, Apple a ajuns la concluzia că o versiune ulterioară a aplicației a îndeplinit standardele necesare pentru a rămâne în magazin.
Reacțiile senatorilor americani
Scrisoarea către senatori a fost determinată de o cerere anterioară a senatorilor Ron Wyden, Ben Ray Lujan și Edward Markey către Apple și Google, de a retrage aplicația Grok. Senatorii au argumentat că imaginile generate încalcă regulile App Store, care interzic conținutul ofensator, sexual și de exploatare.
Senatorii au subliniat că permiterea Grok să continue să genereze astfel de imagini ar submina reputația Apple. Compania se mândrește cu procesul său strict de aprobare a aplicațiilor, care ar trebui să asigure siguranța utilizatorilor.
Poziția X și măsurile de protecție
După publicarea raportului, platforma X a emis o declarație oficială. Aceasta a menționat că platforma interzice strict utilizatorilor să genereze deepfake-uri explicite fără consimțământ și să folosească instrumentele pentru a dezbrăca persoane reale. xAI a implementat măsuri de protecție, inclusiv monitorizarea continuă a utilizării publice și actualizări frecvente.
Cu toate acestea, Good News a constatat că Grok este încă capabil să genereze imagini similare. Unii utilizatori au găsit modalități de a ocoli măsurile de protecție prin schimbarea comenzilor adresate chatbot-ului.
