OpenAI u EU uvodi nevidljivi vodeni žig u tekst ChatGPT-a i Codex-a
Nevidljivi obrazac u izboru reči zadržava se pri kopiranju, a detektor će u prvoj fazi imati samo odobreni istraživači i stručne organizacije. OpenAI navodi da žig ne identifikuje korisnika.
OpenAI je saopštio da će u narednim nedeljama korisnicima ChatGPT-a i Codex-a u EU dodavati nevidljivi vodeni žig u generisani tekst, radi usklađivanja s pravilima transparentnosti EU AI Act, koja su na snazi od 2. avgusta.
Žig nije vidljiv simbol, već suptilno usmeravanje izbora reči. Obrazac čitalac ne primećuje, ali ga detektor prepoznaje i zadržava se pri kopiranju. OpenAI navodi da žig ne otkriva identitet korisnika i da nije primetio značajniji uticaj na kvalitet modela.
Metoda se zove textGrain, a tehnički izveštaj objavljen je uz najavu, u saradnji s istraživačima Univerziteta Pensilvanije i Yalea. Detektor za sada imaju samo odobreni istraživači i stručne organizacije.
Izmena teksta može oslabiti žig. Zamena 10 odsto reči sinonimima spustila je detekciju sa oko 92 na 66 odsto. Kratki odlomci, odgovori iz matematike i prevedeni tekst teže se prepoznaju. OpenAI upozorava da odsustvo žiga ne dokazuje da je tekst napisao čovek.
Developeri koji koriste OpenAI API bilo gde u svetu mogu žig uključiti od danas za odabrane modele, ali je podrazumevano isključen. Za krajnje korisnike uvodi se samo u EU.
Šta uraditi
- Ako vaša firma koristi OpenAI API za generisanje sadržaja za klijente iz EU, proverite kako se žig uključuje za modele koje koristite; podrazumevano je isključen.
- Ne oslanjajte se na žig kao jedini dokaz porekla teksta: izmena, prevod i kratki odlomci smanjuju pouzdanost detekcije.
Izvori
Uočili ste grešku? Pišite na redakcija@webjunkie.net. Kako ispravljamo tekstove