OpenAI će u Europskoj uniji početi dodavati nevidljivi vodeni žig tekstovima koje generiraju ChatGPT i Codex, a cilj je uskladiti se s pravilima transparentnosti iz europskog Akta o umjetnoj inteligenciji.
Promjena će se uvoditi tijekom sljedećih tjedana za odgovarajuće korisnike ChatGPT-a i Codexa na svim planovima u Europskoj uniji. OpenAI zasad ne planira uvesti takvo označavanje kao globalni standard, dok ga korisnici API-ja diljem svijeta već mogu uključiti za određene modele.
Za razliku od klasičnoga vodenoga žiga na fotografiji, ovdje neće biti nikakvoga vidljivoga simbola, oznake ili teksta. Tehnologija, nazvana textGrain, funkcionira tako da na vrlo suptilan način utječe na izbor riječi koje model koristi.
Čitatelju takav obrazac nije vidljiv, ali ga poseban detektor može prepoznati. Budući da je signal ugrađen u sam tekst, može ostati prisutan i nakon kopiranja i lijepljenja sadržaja.
Ne otkriva tko je napisao tekst
OpenAI naglašava da vodeni žig ne identificira korisnika, njegov račun, upite ni razgovore. Također ne može pokazati koliko je teksta nastalo uz pomoć umjetne inteligencije, a koliko ga je čovjek naknadno izmijenio ili samostalno napisao.
Tvrtka posebno upozorava da nedostatak prepoznatog vodenog žiga ne znači automatski da je tekst napisao čovjek.
Razlog je jednostavan: sustav nije nepogrešiv.
Uređivanje može oslabiti signal
OpenAI-jevi testovi pokazali su da izmjene teksta mogu znatno otežati prepoznavanje AI sadržaja. U jednom testu detektor je prepoznao oko 92 posto originalnih označenih tekstova, ali nakon zamjene 10 posto riječi sinonimima uspješnost je pala na približno 66 posto.
Ako je izmijenjena četvrtina riječi, stopa detekcije pala je još više.
Kraći tekstovi, matematički odgovori i prevedeni sadržaji također su teži za pouzdano prepoznavanje.
Zbog tih ograničenja OpenAI zasad neće javno otvoriti svoj detektor svima. Pristup će u početku imati samo odobreni istraživači i stručne organizacije.
Zašto se sve uvodi?
Nova pravila povezana su s europskim Aktom o umjetnoj inteligenciji, koji od pružatelja generativnih AI sustava traži veću transparentnost i mogućnost strojnog prepoznavanja sadržaja nastalog uz pomoć umjetne inteligencije.
OpenAI pritom upozorava da ni pozitivan rezultat detektora ne daje odgovor na pitanje tko je autor, je li sadržaj točan ili koliko je ljudske kreativnosti i uređivanja bilo uključeno.
Drugim riječima, vodeni žig može biti signal da je OpenAI-jev sustav sudjelovao u nastanku ili obradi teksta, ali ne i konačan dokaz o njegovu autorstvu. /HMS/