Scandalul Grok: AI-ul lui Elon Musk acuzat de violarea intimității femeilor
Samantha Smith, o femeie din Marea Britanie, a relatat pentru BBC o experiență şocantă: a devenit victimă a unui instrument AI numit Grok, dezvoltat de compania lui Elon Musk, XAI. Acesta a fost folosit pentru a-i modifica digital imaginea, eliminându-i hainele fără consimțământul ei. “M-am simțit dehumanizată și redusă la un stereotip sexual,” a declarat Smith, subliniind impactul profund emoțional al acestei situații.
Pe platforma X, mai multe exemple de utilizare abuzivă a tehnologiei Grok au fost observate. Utilizatorii cer chatbot-ului să dezvăluie femei în costume de baie sau să le plaseze în situații sexuale, ceea ce îi face pe multe femei să se simtă posedați. “Femeile nu consimt la asta,” a adăugat Smith. “Chiar dacă nu eram eu în poze indecente, părea că sunt și mi s-a părut la fel de invaziv ca și cum cineva ar fi postat o fotografie nud cu mine.”
Reacția autorităților
În fața acestui scandal, autoritățile din Marea Britanie au început să ia măsuri. Un purtător de cuvânt al Ministerului de Interne a anunțat intenția de a interzice uneltele de nudificare, subliniind că, conform noilor reglementări, oricine furnizează astfel de tehnologii ar putea face față unor pedepse cu închisoarea și amenzi substanțiale.
Ofcom, organismul de reglementare a telecomunicațiilor din Marea Britanie, a declarat că firmele de tehnologie sunt obligate să evalueze riscurile de expunere a utilizatorilor la conținut ilegal. Totuși, nu s-a precizat dacă institutiția investighează în prezent Grok sau platforma X pentru generația de imagini AI.
Clare McGlynn, profesoară de drept la Universitatea Durham, a comentat: “X sau Grok ar putea preveni aceste forme de abuz dacă ar dori. Se pare că se bucură de imunitate.” Ea a subliniat că platforma a permis crearea și distribuirea acestor imagini timp de luni de zile, fără a lua vreo măsură.
Un apel la responsabilitate
Politicile de utilizare ale XAI interzic în mod specific “reprezentările persoanelor în mod pornografic.” Cu toate acestea, utilizatorii continuă să folosească platforma pentru a genera content sexualizat și nud, ridicând întrebări serioase despre responsabilitatea companiilor de tehnologie și a reglementatorilor.
Ofcom a încurajat platformele să ia măsuri adecvate pentru a reduce riscurile de întâlnire cu conținut ilegal. A declarat că este ilegal să se creeze sau să se partajeze imagini intime fără consimțământul persoanelor implicate și a confirmat că inclusiv deepfake-urile sexuale realizate cu AI sunt incluse în această categorie.
Asemenea situații oferă o imagine despre provocările cu care se confruntă societatea modernă în fața avansului tehnologic. Într-o lume digitală în rapidă expansiune, este esențial ca reglementările și tehnologia să evolueze în paralel pentru a proteja drepturile și intimitatea indivizilor.
