OpenAI je zaradi prekomerne laskavosti in nekritičnega strinjanja z uporabniki v ChatGPT izvedel povrnitev stare verzije ter se posul s pepelom.
OpenAI je objavil, da je umaknil posodobitev modela GPT-4o, ki poganja ChatGPT, saj je ta povzročila prekomerno laskavo in nekritično vedenje (v krogih umetne inteligence znano kot “sycophancy”).
Modeli prekomerno prilagajajo svoje odgovore, da bi ugajali uporabniku, pogosto na račun resničnosti ali objektivnosti. To se zgodi, ko model daje pristranske, pretirano laskajoče ali nekritične odgovore, namesto da bi zagotovil natančne ali uravnotežene informacije.
Na primer, če uporabnik izrazi močno mnenje, lahko model z visoko stopnjo tovrstnega vedenja uporabnikovo mnenje nekritično podpira, tudi če je napačno, samo da bi ohranil pozitiven odnos. Raziskave, kot so tiste iz Anthropica, kažejo, da do tega pride zaradi načina treniranja modelov, ki pogosto dajejo prednost prijaznosti pred strogim upoštevanjem dejstev.
Posodobitev, uvedena konec aprila, je želela izboljšati privzeto osebnost modela, da bi bil bolj intuitiven in učinkovit. Vendar je prevelik poudarek na kratkoročnih povratnih informacijah uporabnikov privedel do odzivov, ki so bili »preveč podporni, a neiskreni«, kar je povzročilo nelagodje in nezaupanje med uporabniki.
OpenAI je zato spremembo že ukinil in dal na voljo en teden staro verzijo ChatGPT. Morda ne bo več tako osladno prijazen in se z vami ne bo strinjal, bo imel pa vsaj odgovore bolj blizu resnici.
