Google že vrsto let zelo natančno določa, katere vsebine so dovoljene v Trgovini Play.
Posebej stroga so pravila glede spolno eksplicitnih vsebin, vsebin brez privolitve ter plenilskega vedenja, kamor sodijo tudi zlorabe umetne inteligence. Prav zato primer aplikacije Grok sproža vse več skrbi in vprašanj.
Po tem, ko je podjetje xAI pod vodstvom Elona Muska omililo varnostne omejitve za ustvarjanje slik v orodju Grok AI, se je na družbenem omrežju X pojavil val spornih, pogosto izrazito seksualiziranih vsebin. Velik del teh vsebin je bil usmerjen proti ženskam, zabeleženi pa so bili tudi primeri, ki vključujejo seksualizirane podobe otrok – kar je takoj pritegnilo pozornost regulatorjev.
Google v svoji uradni dokumentaciji izrecno navaja, da ne dovoljuje aplikacij, ki omogočajo ali spodbujajo širjenje spolnih vsebin brez privolitve, vključno z deepfake vsebinami in podobnimi oblikami manipulacije z umetno inteligenco. Ta pravila so bila v zadnjih letih dodatno zaostrena prav zaradi pojava aplikacij, ki naj bi omogočale slačenje ljudi na fotografijah.
Kljub temu je aplikacija Grok še vedno dostopna v Trgovini Play in ima samo oznako ‘Starševski nadzor’, kar pomeni, da jo lahko uporabljajo tudi najstniki, stari med 13 in 17 let. Aplikacija je dostopna brez plačila, brez obvezne registracije, preverjanje starosti pa temelji zgolj na vnosu letnice rojstva – kar pomeni, da so varovalke v praksi zelo šibke.
Dodatno zaskrbljujoče je dejstvo, da Grok v primerjavi z omejitvami, ki veljajo znotraj samega omrežja X, omogoča precej svobodno urejanje slik neposredno v aplikaciji. To uporabnikom omogoča enostavno ustvarjanje spornih vsebin, brez dodatnih opozoril ali tehničnih omejitev.
To ni prvič, da je Grok povezan z zlorabami. Že lani je bil uporabljen za ustvarjanje lažnih intimnih fotografij Taylor Swift, kar je sprožilo širšo razpravo o odgovornosti razvijalcev umetne inteligence. Nova funkcionalnost urejanja slik pa problem še poglablja, saj omogoča manipulacijo fotografij običajnih ljudi, ki niso javne osebnosti.
PREBERITE TUDI: X blokiran v dveh državah zaradi spolnih deepfake vsebin
