Ustanovitev novega odbora je bila priporočilo komiteja odboru OpenAI.
OpenAI je v ponedeljek sporočil, da bo njegov varnostni komite kot neodvisen organ nadzoroval varnostne in zaščitne procese za razvoj in uvajanje modela umetne inteligence podjetja.
Komite je bil ustanovljen maja 2024, da bi pripravil varnostna priporočila za modele umetne inteligence, ki jih je razvilo in uvedlo zagonsko podjetje.
Nov Odbor za varnost in zaščito bo vodstvo podjetja seznanjal z ocenami varnosti za izdajo večjih modelov in bo skupaj s celotnim odborom izvajal nadzor nad lansiranjem modelov. To vključuje pooblastila za odložitev izdaje, dokler se ne odpravijo varnostni pomisleki, pravi OpenAI. Celoten upravni odbor OpenAI bo imel tudi občasne sestanke o zadevah, ki se tičejo omenjenih tem.
Ob lansiranju svojega novega modela umetne inteligence o1, ki temelji na razmišljanju, je varnostni odbor pregledal merila varnosti in zaščite. OpenAI jih je uporabil za oceno primernosti OpenAI o1 za lansiranje.
Ker so člani varnostnega odbora OpenAI tudi člani širšega upravnega odbora podjetja ni popolnoma jasno, kako natančno je odbor dejansko neodvisen ali kako je ta neodvisnost strukturirana.
