Opozarjajo, da so sistemi umetne inteligence dovolj močni, da povzročijo resno škodo brez ustrezne regulacije.
Skupina sedanjih in nekdanjih zaposlenih v vodilnih podjetjih za umetno inteligenco OpenAI in Google DeepMind je objavila pismo, v katerem opozarja na nevarnosti napredne umetne inteligence. Trdijo, da podjetja postavljajo finančne dobičke pred potreben nadzor in s tem ogrožajo javno varnost.
Pismo z naslovom “Pravica do opozorila o napredni umetni inteligenci” je podpisalo trinajst zaposlenih, od katerih jih je enajst trenutno ali prej delalo za OpenAI, podjetje, ki stoji za ChatGPT. Preostala dva podpisnika sta iz Google DeepMind. Šest posameznikov se je odločilo ostati anonimni.
Opozarjajo, da so sistemi umetne inteligence dovolj močni, da povzročijo resno škodo brez ustrezne regulacije.
Tiskovna predstavnica OpenAI Linsey Held je za New York Times povedala, da je podjetje ponosno na svoje dosežke pri zagotavljanju najnaprednejših in varnejših sistemov AI. “Verjamemo v naš znanstveni pristop k obravnavi tveganja in se strinjamo, da je glede na pomen te tehnologije ključna stroga razprava. Še naprej bomo sodelovali z vladami, civilno družbo in drugimi skupnostmi po vsem svetu,” je dodala Held.
Vodje treh vodilnih podjetij AI – OpenAI, Google DeepMind in Anthropic – so že govorili o tveganjih. “Če razvijemo sistem umetne inteligence, ki je bistveno bolj kompetenten od človeških strokovnjakov, vendar zasleduje cilje, ki so v nasprotju z našimi najboljšimi interesi, bi lahko bile posledice katastrofalne … hiter napredek umetne inteligence bi lahko bil zelo moteč, spremenil bi zaposlitev, makroekonomijo in moč strukture,” je razvidno iz izjave podjetja Anthropic iz marca 2023.
Skupina, ki stoji za pismom, trdi, da imajo podjetja AI informacije o tveganjih svojih tehnologij, vendar zaradi pomanjkanja predpisov te informacije ostanejo skrite.
Pismo vsebuje štiri zahteve za podjetja z umetno inteligenco:
- prenehajte siliti zaposlene v pogodbe, ki jim preprečujejo, da bi delodajalce kritizirali glede tveganj,
- ustvarite anonimen postopek za poročanje o pomislekih,
- podprite kulturo odprte kritike,
- ne maščujte se nekdanjim in sedanjim zaposlenim, ki delijo zaupne informacije o tveganjih po drugih procesih, ki jim ni uspelo.
