Conform Digi24: OpenAI a anunțat implementarea unei noi tehnologii menite să marcheze invizibil textele generate de ChatGPT, conform cerințelor legislative din Uniunea Europeană. Această inițiativă, denumită „textGrain”, își propune să diferențieze clar conținutul creat de inteligența artificială de cel produs de oameni. Compania americană urmează astfel exemplul Anthropic, care a implementat deja măsuri similare pentru propriile soluții AI.
Identificarea automată a conținutului AI
Marcajele invizibile vor fi integrate atât în textele obișnuite, cât și în codul sursă generat de sistemele AI ale OpenAI. Pentru a detecta aceste „amprente” digitale, va fi utilizat un detector specific, capabil să identifice watermark-urile ascunse în text. Această măsură vine ca răspuns direct la noile reglementări europene, care impun o mai mare transparență în ceea ce privește originile conținutului digital.
Potrivit informațiilor furnizate de News.ro, compania consideră că „textGrain” este o soluție performantă în identificarea textelor generate de inteligența artificială. Cu toate acestea, OpenAI avertizează că sistemul nu poate oferi o garanție de 100% în recunoașterea perfectă în toate situațiile. Există posibilitatea unor erori, fie prin nerecunoașterea unui text generat de AI, fie prin confuzia între un text uman și unul produs artificial.
Limitări și perspective de îmbunătățire
Eficiența sistemului de detectare variază în funcție de lungimea textului. OpenAI estimează o rată de succes de aproximativ 80% pentru textele mai scurte. Situația devine și mai complexă atunci când textele generate de AI sunt ulterior modificate sau prelucrate de către utilizatori umani, ceea ce poate diminua semnificativ acuratețea detectării.
În vederea îmbunătățirii continue a acestor tehnologii, OpenAI a anunțat că va oferi sistemul de detectare a textelor AI sub licență open-source. Acest demers permite altor dezvoltatori și organizații să contribuie la perfecționarea instrumentului, adaptându-l la diverse cazuri specifice și creșterea preciziei sale generale. Obiectivul pe termen lung este crearea unui ecosistem digital mai transparent și mai sigur.
Sursa: Digi24
