Kopiranje odgovora iz ChatGPT v Word, e-pošto ali objavo na spletu kmalu ne bo nujno odstranilo vseh sledi o njegovem izvoru.
OpenAI v Evropski uniji uvaja tehnologijo, ki bo v besedilo vgradila neviden signal, namenjen strojnemu prepoznavanju vsebin, ustvarjenih z umetno inteligenco. Uporabnik pri tem na zaslonu ne bo opazil posebne oznake.
Vodnega žiga ne boste mogli videti
OpenAI svojo tehnologijo imenuje textGrain. Pri njej ne gre za klasičen vodni žig, napis ustvarjeno z AI, skrito kodo ali nenavadne znake med besedami. Sistem med ustvarjanjem odgovora nekoliko vpliva na izbiro med možnimi besedami oziroma deli besed. V daljšem besedilu se tako postopoma ustvari statistični vzorec, ki ga lahko zazna poseben detektor. Ker je signal vgrajen v samo besedilo, lahko ostane prisoten tudi takrat, ko odgovor iz ChatGPT kopiramo v drugo aplikacijo.
V EU prihaja v naslednjih tednih
OpenAI bo označevanje postopoma vključil pri upravičenih uporabnikih ChatGPT in Codex v Evropski uniji, in sicer ne glede na paket. Podjetje tega za zdaj ne namerava vključiti kot globalno privzeto možnost. Razvijalci, ki uporabljajo OpenAI API, pa lahko pri nekaterih podprtih modelih označevanje vključijo tudi zunaj EU. Pri API-ju je funkcija za zdaj izključena, dokler je razvijalec sam ne aktivira. Razlog za spremembo so nova evropska pravila o preglednosti vsebin, ustvarjenih z umetno inteligenco.
Ali bo mogoče ugotoviti, da ste uporabili ChatGPT?
Ne vedno. OpenAI opozarja, da tehnologija ni nezmotljiva. Najbolje deluje pri daljših besedilih, kjer se lahko nabere dovolj značilnega statističnega vzorca. Veliko težje je zanesljivo preverjati zelo kratke odgovore, matematične rezultate in prevedena besedila. Težavo predstavlja tudi naknadno urejanje. V enem od preizkusov OpenAI je zamenjava približno desetine besed s sopomenkami zmanjšala zaznavanje z okoli 92 na 66 odstotkov. To pomeni, da vodni žig ni trajen dokaz, ki ga ne bi bilo mogoče oslabiti.
Odsotnost oznake ne pomeni, da je besedilo napisal človek
To je verjetno najpomembnejša omejitev novega sistema. Če detektor oznake ne najde, iz tega ni mogoče sklepati, da je besedilo zagotovo človeško. Lahko je bilo prekratko, močno urejeno ali ustvarjeno z drugim sistemom umetne inteligence. Enako velja v nasprotni smeri. Zaznan signal lahko nakaže, da je OpenAI-jev sistem ustvaril ali obdelal del besedila, ne more pa povedati, koliko dela je opravil človek. Prav tako ne razkriva identitete uporabnika. Ne bo torej mogoče iz vodnega žiga ugotoviti, kdo je vprašanje zastavil ali iz katerega računa je besedilo prišlo.
Detektor za zdaj ne bo na voljo vsakomur
OpenAI se je odločil, da dostopa do preverjanja sprva ne bo odprl širši javnosti. Dobili ga bodo odobreni raziskovalci in strokovne organizacije, ki bodo pomagali preverjati zanesljivost tehnologije in možnosti njene uporabe. To je pomembno predvsem zato, ker bi lahko napačna interpretacija rezultata povzročila težave – na primer pri ugotavljanju, ali je neko šolsko, službeno ali novinarsko besedilo napisal človek.
Nova oznaka zato ni nekakšen univerzalni detektor ChatGPT. Je predvsem dodaten signal o izvoru besedila, ki pa ga bo vedno treba razumeti skupaj z njegovimi omejitvami.
