Umetna inteligenca je v zadnjih letih postala ključni del poslovnega sveta.
Podjetja jo uvajajo z namenom večje učinkovitosti, nižjih stroškov in hitrejšega razvoja. A ob vsem navdušenju se vse pogosteje pojavlja vprašanje – ali ji zaupamo preveč? Mnoga velika podjetja so začela zmanjševati število zaposlenih in hkrati vlagati v umetno inteligenco. Ideja je preprosta: avtomatizacija naj bi nadomestila delo ljudi, pospešila procese in znižala stroške.
Toda takšen pristop ni nov – podjetja že desetletja iščejo načine, kako delati hitreje in ceneje. Razlika je le v tem, da umetna inteligenca obljublja tudi kakovost. Prav tu pa se začnejo težave.
Kaj se je zgodilo pri Amazonu
Amazon je eden od največjih zagovornikov uporabe umetne inteligence. V zadnjem obdobju je odpustil na tisoče zaposlenih in močno povečal uporabo AI-orodij pri razvoju programske opreme. A praksa je pokazala, da stvari niso tako preproste. Prišlo je do več izpadov storitev, med drugim tudi do resnega incidenta, ko je AI-orodje samostojno poseglo v sistem in povzročilo večurno nedelovanje. Čeprav podjetje poudarja, da je šlo za človeško napako, je bistvo drugje – umetna inteligenca je imela preveč svobode in premalo nadzora.
Kje je prava težava
Problem ni nujno v umetni inteligenci sami, temveč v načinu, kako jo uporabljamo. Ko podjetja umetni inteligenci zaupajo naloge brez ustreznega nadzora, jo pravzaprav obravnavajo kot popolnoma zanesljivo orodje. V resnici pa gre za sistem, ki lahko dela napake – včasih celo zelo resne. V Amazonovem primeru je umetna inteligenca delovala z enakimi pravicami kot izkušen inženir, vendar brez njegove presoje. Posledice so bile tehnične težave, izpadi in dodatno delo za ekipe.
Zakaj se bo to še dogajalo
Ker podjetja hitijo z uvajanjem umetne inteligence, pogosto preskočijo pomemben korak – preverjanje in nadzor. Umetna inteligenca je hitra in poceni, vendar to še ne pomeni, da je tudi zanesljiva. Če ni ustreznih varnostnih mehanizmov, lahko napake povzročijo veliko škodo.
Kaj se lahko naučimo
Amazonov primer jasno kaže, da umetna inteligenca še ni pripravljena, da bi v celoti nadomestila ljudi – predvsem na področjih, kjer so potrebne izkušnje, presoja in odgovornost.
Podjetja bi morala pred širšo uporabo poskrbeti za:
- jasne omejitve in nadzor nad AI-orodji
- dodatno preverjanje sprememb
- postopno uvajanje tehnologije
- kombinacijo umetne inteligence in človeškega znanja
V Amazonu so po incidentih uvedli pravilo, da morajo spremembe, ki jih predlaga umetna inteligenca, potrditi izkušenejši inženirji – kar je korak nazaj k bolj tradicionalnemu nadzoru.
