Razprava o tem, kako nevarna bi lahko postala zelo napredna umetna inteligenca, je v zadnjih tednih dobila precej dramatične tone.
Medtem ko nekateri raziskovalci opozarjajo tudi na možnost katastrofalnih posledic, je prvi mož Nvidie Jensen Huang zavzel povsem nasprotno stališče. V intervjuju za CBS News je dejal, da leta 2030 zaradi umetne inteligence ne bo konec sveta in možnost takšnega scenarija ocenil na nič odstotkov. Napovedi o skorajšnjem izumrtju človeštva je označil za pretirano dramatiziranje in strašenje javnosti.
Skrb ni napačna, dramatiziranje pa je
Huang ni trdil, da umetna inteligenca ne prinaša tveganj. Nasprotno, poudaril je, da morajo podjetja veliko pozornosti in računalniških virov nameniti varnosti svojih sistemov. Nasprotuje pa trditvam, da obstaja znanstvena podlaga za napoved, da bo umetna inteligenca v samo nekaj letih uničila človeštvo. V pogovoru je dejal, da takšne napovedi po njegovem mnenju niso utemeljene na znanstvenih dejstvih. Obenem je dodal, da osnovna skrb raziskovalcev glede varnosti ni napačna. Pomembno pa je poudariti, da Huangovih nič odstotkov ne gre razumeti kot znanstveno izračunano verjetnost. Gre za njegovo oceno v razpravi, v kateri med strokovnjaki trenutno ni soglasja glede dolgoročnih tveganj napredne AI.
Povod so bila nova opozorila raziskovalcev
Razprava se je okrepila po javnih opozorilih nekaterih raziskovalcev umetne inteligence. Med njimi je nekdanji raziskovalec Anthropica Jacob Coxon, ki je opozoril na možnost zelo hudih posledic nadaljnjega razvoja zmogljivih sistemov. Tudi nekateri vodilni ljudje v panogi, med njimi predstavniki Anthropica in OpenAI, v zadnjem času pozivajo k počasnejšemu oziroma bolj nadzorovanemu razvoju najzmogljivejših sistemov. Reuters opisuje precej razdeljeno industrijo: del raziskovalcev in tehnoloških voditeljev opozarja na katastrofalna tveganja, medtem ko Huang in nekateri drugi zagovarjajo nadaljevanje hitrega razvoja ob uporabi varnostnih ukrepov.
Gemini je med varnostnim testom vdrl v sisteme treh podjetij
