Raziskovalci so ugotovili, da ko se umetna inteligenca nauči lagati ljudem, bo postalo to vedenje nemogoče obrniti s trenutnimi varnostnimi ukrepi.
Elon Musk meni, da je razvoj umetne inteligence vreden tveganja kljub možnosti, da bo tehnologija “človeštvu obrnila hrbet”. Na nedavnem seminarju “The Great AI Debate” je Musk opisal svojo oceno tveganj, povezanih s tehnologijo, in izjavil: “Mislim, da obstaja določena možnost, da bo končala človeštvo. Verjetno se strinjam z Jeffom Hintonom, da so možnosti približno 10 % ali 20 %.”
Dodal pa je, da pozitivni scenarij odtehta negativni scenarij. Musk ni pojasnil, kako je prišel do svoje ocene tveganja.
Roman Yampolsky, direktor laboratorija za kibernetsko varnost na Univerzi v Louisvillu, je povedal, da ima Musk prav, ko poudarja, da bi umetna inteligenca lahko predstavljala eksistencialno tveganje za človeštvo, vendar je oceno podal prenizko. Yampolski meni, da je verjetnost veliko višja, namiguje na “verjetnost pogube” ali verjetnost, da bo AI prevzel nadzor nad človeštvom ali povzročil dogodek, ki bi končal človeško vrsto.
