Investigație în Franța după proliferarea deepfake-urilor sexuale pe platforma X
Autoritățile franceze au demarat o investigație în urma raportărilor referitoare la proliferarea deepfake-urilor sexuale, realizate de platforma de inteligență artificială Grok. Aceste imagini, generate fără consimțământul persoanelor implicate, au fost distribuite pe rețeaua socială X, provocând indignare în rândul societății și al oficialilor.
Alerta legislativă
Pe 2 ianuarie, doi deputați francezi, Arthur Delaporte și Eric Bothorel, au contactat Parchetul din Paris, semnalând un număr alarmant de deepfake-uri sexuale. Conform unei declarații a procuraturii, aceste acțiuni se adaugă unei investigații deja existente și sunt pedepsite cu până la doi ani de închisoare și o amendă de 60.000 de euro.
Delaporte a subliniat gravitatea situației, afirmând că „aceste imagini încalcă demnitatea persoanelor reprezentate”. În ultimele zile, sute de femei și adolescente au declarat că fotografiile lor au fost manipulate pentru a fi „dezbărate” de îmbrăcăminte, la solicitarea utilizatorilor Grok.
Reacția autorităților și a societății civile
Trei miniștri guvernamentali – Roland Lescure (ministrul economiei), Anne Le Hénanff (ministrul pentru inteligență artificială și afaceri digitale) și Aurore Bergé (ministrul egalității) – au raportat conținut manifest illegal către procuratura publică și platforma de supraveghere online a guvernului, Pharos, solicitând eliminarea imediată a acestuia. Sarah El Haïry, Comisarul Național pentru Copii, a denunțat aceste practici, declarându-se „îngrijorată” de impactul pe care astfel de acțiuni îl pot avea asupra tinerelor.
Investigația extinde o altă anchetă în desfășurare a unității de combatere a criminalității cibernetice din Franța, care a fost inițial deschisă în noiembrie 2022 pentru a aborda afirmațiile antisemitice și negaționiste referitoare la Holocaust, diseminate tot prin intermediul platformei Grok.
Care este poziția platformei Grok?
În fața controversei, Grok a emis un comunicat în care și-a exprimat regretul pentru apariția „cazurilor izolate” în care utilizatorii au generat imagini ale minorilor în ținute minimale. Reprezentanții platformei au menționat că, deși există măsuri de prevenire, se lucrează continuu la îmbunătățirea acestora pentru a bloca astfel de solicitări în întregime.
Până în prezent, platforma X nu a oferit un răspuns oficial, iar Comisia Europeană nu a comentat situația. Îngrijorările legate de impactul generării de conținut profund inadecvat cu ajutorul inteligenței artificiale continuă să crească, iar această investigație ar putea deschide o discuție mai amplă asupra eticii și responsabilității platformelor digitale.
Aceste dezvoltări subliniază o problemă din ce în ce mai relevantă în era digitală, unde tehnologia îmbină creativitatea umană cu riscurile potențiale ce pot afecta în mod grav viața privată și demnitatea individului. Sub ochii autorităților și ai societății, viitorul funcționării platformelor tehnologice și a legislației în domeniu este acum cu siguranță pus sub semnul întrebării.
