OpenAI je od maja delal raziskavo, kako lahko besedila, ki jih generira ChatGPT, označili kot delo umetne inteligence.
Včeraj so objavili blog prispevek, kjer so delili izsledke raziskave.
Ugotovili so, da so orodja, ki so jih razvili, zelo natančna pri tem, da prepoznajo umetno generirano besedilo s ChatGPT (v nasprotju z besedili, ki jih ustvari človek). Besedila naj bi pravilno prepoznali kar v 99 odstotkih primerov.
Kljub temu so ugotovili tudi to, da je tovrstno zaščito lahko obiti. Z obračanjem stavkov in menjanjem besed ne bomo uspešni, uspešni pa smo lahko že s samimi navodili pri ustvarjanju besedil, npr. naj orodje med besede doda pike in jih potem tudi odstrani. Prav tako prepoznava ne deluje, če uporabimo druga orodja umetne inteligence za premetavanje besedila, ali če besedilo poženemo skozi prevajalnik besedila (in nazaj).
Zdi se, da je podjetje OpenAI zaskrbljeno tudi zaradi tega, da bi uporaba vodnega žiga odvrnila uporabnike od uporabe ChatGPT. V anketi, ki s jo izvedli med uporabniki, jih je skoraj 30 odstotkov povedalo, da bi ChatGPT uporabljali manj, če bi bil uveden vodni znak.
Ker bi to ogrozilo profit podjetja in odprlo pot konkurenci, zna biti prihodnost pri ugotavljanju pristnosti besedil še zanimiva.
