NAPISALI STE TEKST UZ POMOĆ CHATGPT-a: Više to nećete moći sakriti
Bilo da se radi o prijavi za posao, službenoj pritužbi ili dužem autorskom tekstu, sadržaj koji generira ChatGPT uskoro će nositi nevidljivi digitalni trag. Tvrtka OpenAI u nadolazećim tjednima započinje postupno uvođenje vodenih žigova u Europskoj uniji za ChatGPT i programerski alat Codex, čime se usklađuje sa strogim europskim Zakonom o umjetnoj inteligenciji (EU AI Act).
Europska regulativa obvezuje pružatelje AI usluga da generirani sadržaj označe na način koji računalni sustavi mogu nedvojbeno prepoznati.
Kako funkcionira „textGrain“?
Nova tehnologija pod nazivom textGrain ne ostavlja nikakve vizualne simbole ili skrivene znakove koji bi bili uočljivi ljudskom oku prilikom čitanja, piše Fenix.
Trag se nalazi izravno u samom odabiru i poretku riječi:
ChatGPT bira formulacije i raspored riječi prema specifičnom, statistički predvidljivom obrascu.
Taj uzorak za čitatelja zvuči potpuno prirodno, ali specijalizirani softver za provjeru može detektirati točno određenu matematičku pravilnost.
Tko će moći provjeravati tekstove?
Alat za detekciju skrivenog traga zasad neće biti dostupan običnim korisnicima.
OpenAI je pristup programu za provjeru ograničio na odobrene znanstvene istraživače, stručne organizacije i razvojne programere koji modele integriraju putem API sučelja. Prijave za pristup sustavu otvorene su početkom listopada.
Kao glavni razlog ograničenog pristupa navode se tehnička nesavršenost i mogućnost pogrešaka, jer sustav može previdjeti vodeni žig ili, pak, označiti ljudski tekst kao umjetno stvoren.
Ograničenja sustava: Zamjena nekoliko riječi ruši točnost
Ispitivanja su pokazala da je otkrivanje skrivenog uzorka podložno manipulacijama:
U testovima na tekstovima na engleskom jeziku program je u početku prepoznavao oko 92 posto označenog sadržaja.
Nakon što je samo 10 posto riječi zamijenjeno sinonimima, uspješnost detekcije pala je na tek 66 posto.
Kratke forme i sažetke znatno je teže pouzdano analizirati nego duže tekstove.
Također, pozitivan rezultat provjere ne znači nužno da je cijeli tekst stopostotno djelo umjetne inteligencije. Skriveni trag može opstati i nakon što čovjek unese značajne izmjene. Vodeni žig pritom ne otkriva tko je koristio alat, je li sadržaj činjenično točan, niti koliki je stvarni udio ljudskog rada u konačnom članku.
