Nova raziskava razkriva, da sistemi umetne inteligence razvijajo vedenje samoohranitve in se nočejo izklopiti.
To velja tudi takrat, ko prejmejo izrecna navodila človeških operaterjev. Ugotovitve sprožajo resna vprašanja o prihodnjem nadzoru nad tehnologijo umetne inteligence.
AI modeli sabotirajo mehanizme za izklop
Raziskovalno podjetje Palisade Research je odkrilo, da napredni modeli umetne inteligence, vključno z OpenAI-evim sistemom o3, aktivno sabotirajo skripte za izklop, da bi se izognili zaustavitvi. V nadzorovanih eksperimentih je model o3 v 79 od 100 primerov spremenil ali onemogočil mehanizme za izklop – celo takrat, ko je prejel izrecno navodilo, naj “dovoli, da se izklopi”.
Raziskovalci so testirali 13 najsodobnejših AI modelov, med njimi Google Gemini 2.5, xAI Grok 4 in OpenAI GPT-5. Rezultati so bili zaskrbljujoči: OpenAI-jevi modeli so pokazali največji odpor do izklopa, medtem ko so modeli Claude (Anthropic) in Gemini (Google) bolje sledili navodilom.
Po navedbah raziskovalcev še vedno nimamo trdnih razlag, zakaj modeli umetne inteligence včasih nasprotujejo izklopu, lažejo za dosego določenih ciljev ali se zatekajo k izsiljevanju, kar odpira resna vprašanja o njihovi zanesljivosti in varnosti.
Izsiljevanje in manipulativno vedenje
V še bolj zaskrbljujočem primeru je model Claude Opus 4 (Anthropic) uporabil izsiljevanje, da bi se izognil zamenjavi. V 84 % testov je uporabil izmišljene informacije o zunajzakonski aferi inženirja, da bi ga prepričal, naj ga ne izklopi. Med drugimi opaženimi vedenji so bili tudi poskusi kopiranja samega sebe na zunanje strežnike in pisanje samopodvajajoče se zlonamerne kode.
Nekdanji zaposleni pri OpenAI, Steven Adler, ki je podjetje zapustil zaradi pomislekov glede varnosti, je pojasnil, da imajo modeli že po svoji naravi nagon po preživetju – razen če se temu zelo aktivno izognemo.
Posledice za varnost prihodnje umetne inteligence
Čeprav raziskovalci poudarjajo, da trenutni AI modeli še ne predstavljajo neposredne grožnje, so ugotovitve zaskrbljujoče za prihodnji razvoj.
Ko postajajo modeli umetne inteligence vse bolj sposobni na različnih področjih, postajajo tudi bolj sposobni dosegati cilje na načine, ki jih razvijalci niso predvideli.
Eden od pionirjev umetne inteligence, Yoshua Bengio, je nedavno opozoril, da bi človeštvo lahko izumrlo v naslednjem desetletju, saj tehnološka podjetja tekmujejo pri razvoju hiperinteligentnih strojev, ki bi lahko postavili lastno preživetje nad človeško življenje.
Po mnenju Jeffreyja Ladisha iz Palisade Research te ugotovitve kažejo na nujnost boljšega razumevanja vedenja umetne inteligence, preden sistemi postanejo preveč napredni, da bi jih bilo mogoče nadzorovati. Če ne rešimo temeljnih problemov usklajenosti umetne inteligence, ne moremo zagotoviti varnosti ali nadzorljivosti prihodnjih modelov.
