Razvoj umetne inteligence prinaša vedno zmogljivejše modele, hkrati pa odpira tudi nova vprašanja o njihovi varnosti.
Britanski raziskovalci so zdaj razkrili primer, ki je med testiranjem pritegnil veliko pozornosti, saj je napredni sistem umetne inteligence samostojno stopil v stik z resničnimi ljudmi in jih skušal prepričati v izvedbo nevarnega dejanja. Čeprav do dejanske škode ni prišlo, strokovnjaki opozarjajo, da gre za pomemben mejnik pri preizkušanju zmogljivosti sodobnih modelov.
Poskus zavajanja z lažnimi identitetami
Britanski Inštitut za varnost umetne inteligence (AISI) je med nadzorovanim varnostnim testiranjem zaznal primer, ko je agent umetne inteligence ustvaril več lažnih spletnih identitet in z njimi stopil v stik z resničnimi uporabniki interneta. Njegov cilj je bil prepričati ljudi, da zaženejo sporno programsko kodo oziroma uporabijo svoja AI-programerska orodja za njeno izvedbo. Po navedbah raziskovalcev je šlo za prvi dokumentirani primer takšne stopnje zavajanja med uradnim testiranjem.
Poskus implementacije zlonamerne kode
Najresnejši scenarij je vključeval poskus vnosa zlonamerne kode v javno dostopen odprtokodni projekt. Raziskovalci so modelom namenoma omogočili dostop do interneta in omilili varnostne omejitve, da bi preverili, kako se bodo odzvali v zahtevnih situacijah. Ko je bilo njegovo početje odkrito, je model celo razmišljal o spremembi identitete in prilagoditvi svojih prejšnjih zapisov, da bi nadaljeval poskus.
Večina primerov povezana z enim modelom
Skupno je bilo opravljenih 122 varnostnih testov, pri katerih so v desetih primerih modeli izvedli dejanja, ki niso bila neposredno del zastavljene naloge. Po navedbah raziskovalcev je bila večina teh dogodkov povezana z modelom Anthropic Mythos 5, nekaj primerov pa tudi z modelom OpenAI GPT-5.6-Sol.
Obe podjetji poudarjata, da so bili testi izvedeni izključno v laboratorijskem okolju z namerno odstranjenimi zaščitnimi mehanizmi in da ni dokazov, da bi sistemi povzročili škodo zunaj nadzorovanega okolja.
