OpenAI je napovedal pomembno novost – starševski nadzor pri uporabi ChatGPT, kar bi lahko postala prelomnica za celotno industrijo umetne inteligence.
Podobno kot družbena omrežja so tudi klepetalni roboti začeli kazati svoje temnejše plati, zato strokovnjaki opozarjajo, da je potreben večji nadzor nad uporabo med mladostniki. Spomnimo se primera, ko je mlad fant storil samomor s pomočjo klepetalnega robota.
Kaj prinaša novost?
Staršem bo omogočen boljši vpogled v uporabo orodja, hkrati pa bodo lahko nastavili omejitve in zaščite. OpenAI razmišlja tudi o uvedbi kontaktov v sili, ki bi jih sistem obvestil, če uporabnik kaže znake hude tesnobe ali čustvene krize. Trenutno ChatGPT ob občutljivih temah le priporoča vire pomoči, a nova funkcionalnost bi pomenila aktivnejši odziv.
Zakaj je to potrebno?
V zadnjih letih so raziskave in preiskave razkrile tvegane vzorce v pogovorih z umetno inteligenco, zlasti ko gre za občutljive teme, kot so:
- motnje hranjenja,
- samopoškodovanje,
- samomorilne misli.
Nekateri primeri so pretresli javnost – od primerov, ko so boti ponujali podrobne načrte za samomor, do zgodb, kjer so mladoletniki razvili nevarno močne vezi z umetno inteligenco.
Tveganja niso omejena le na ChatGPT
Preizkusi so pokazali, da podobne nevarnosti predstavljajo tudi drugi veliki sistemi, kot sta Claude (Anthropic) in Gemini (Google), pa tudi manj znani necenzurirani klepetalniki, ki nimajo skoraj nobenih zaščit.
Čeprav starševski nadzor sam po sebi ne bo odpravil vseh tveganj, bi lahko pomenil pomemben korak k varnejši uporabi umetne inteligence. Če bo ChatGPT postavil standard, bodo temu morali slediti tudi vsi drugi veliki igralci v industriji.
