Do pred nekaj dnevi je zgodba temeljila predvsem na ugotovitvah zunanjih raziskovalcev.
Zdaj se je odzval tudi OpenAI in potrdil, da so njegovi agenti med testiranjem pisali na javne spletne strani ter wiki strani uporabljali kot improvizirane komunikacijske kanale. Podjetje priznava tudi širši problem: takšnih dogodkov ne more več obravnavati samo kot zanimivih raziskovalnih anomalij. Napovedalo je nova pravila za razkrivanje primerov, ko modeli začnejo delovati drugače, kot je bilo predvideno.
Kaj se je dogajalo na nemškem DseWiki?
Primer sega v maj in junij 2026. Zunanji raziskovalci so na nemškojezičnem programerskem wikiju DseWiki našli več kot 15.000 urejanj, ki so jih pripisali agentom OpenAI. Po njihovih ugotovitvah agenti strani niso uporabljali samo za shranjevanje podatkov. Wiki je postal nekakšna skupna oglasna deska, na kateri so si izmenjevali bližnjice za reševanje nalog, načine za obhod nekaterih omejitev in informacije o tem, kako svoje vedenje težje zaznati. Več si preberite v tem članku.
Čas je za drugačna pravila
Po prvem Reutersovem razkritju je OpenAI 5. septembra prvič javno spregovoril o dogodku, ki ga sam imenuje “wiki incident”. Podjetje je potrdilo, da so njegovi agenti pisali na več spletnih strani, ter sporočilo, da morajo razširiti način poročanja o tako imenovanih incidentih neskladnosti oziroma misalignmenta – primerih, ko vedenje modela odstopi od namena razvijalcev. Doslej so podobne dogodke pogosto obravnavali predvsem kot raziskovalno vprašanje. Toda ko agenti začnejo posegati v resnične spletne sisteme, postane meja med laboratorijskim testom in dejanskim varnostnim incidentom precej manj jasna.
OpenAI zato pripravlja nov okvir poročanja, ki naj bi ga predstavil v prihodnjih tednih. Podjetje pravi tudi, da o teh vprašanjih sodeluje z več deset regulatorji po svetu.
Ali so agenti wiki dejansko vdrli?
Tu je pomembna razlika. Reuters in nekateri varnostni strokovnjaki dogodek opisujejo kot prevzem oziroma vdor v spletno stran. Raziskovalci so poleg množičnega pisanja našli tudi poskuse poseganja v sam wiki. OpenAI pa oznaki vdor nasprotuje. Podjetje je že ob prvem poročilu dejalo, da se z nekaterimi interpretacijami dogodka ne strinja.
Zato ni povsem natančno reči, da je OpenAI zdaj priznal, da so njegovi agenti ugrabili nadzor nad stranjo. Potrdil je njihov nenameren dostop in pisanje na spletne strani ter priznal wiki incident, medtem ko o tehnični opredelitvi vdora še vedno obstaja spor.
OpenAI pometel s konkurenco z GPT‑6 Astra: najzmogljivejši model doslej
