Na nedavnem TED dogodku je Sam Altman, izvršni direktor OpenAI, delil vpoglede v hitro razvijajočo se pokrajino umetne inteligence (UI) in prihodnje usmeritve OpenAI.
Pogovor je potekal v obliki intervjuja in je trajal dobro šolsko uro. Intervju je potekal v tednu po tem, ko je ChatGPT dobil kar nekaj pomembnih nadgradenj. Glavne izjave iz intervjuja podajamo v nadaljevanju, celotni posnetek pa lahko poslušate na koncu prispevka.
Eksponentna rast uporabniške baze
Altman je razkril, da se je uporabniška baza OpenAI v zadnjih tednih podvojila, pri čemer zdaj “10 % svetovnega prebivalstva redno uporablja naše sisteme”. To poudarja hitro sprejemanje UI tehnologij v vsakdanjem življenju.
Po nesreči je ušlo, da se je v zadnjih nekaj tednih število aktivnih uporabnikov podvojilo.
Ponovni premislek o odprtokodnosti
V odziv na vzpon kitajskega podjetja DeepSeek, ki je predstavilo konkurenčne odprtokodne UI modele, je Altman priznal, da je bil OpenAI morda “na napačni strani zgodovine” glede odprtokodnega pristopa. Napovedal je, da OpenAI načrtuje izdajo zmogljivega odprtokodnega modela blizu trenutne meje zmogljivosti.
Opredelitev umetne splošne inteligence (AGI)
Altman je poudaril, da ima vsak inženir pri OpenAI svojo definicijo AGI. Ne glede na definicijo je jasno, da bomo to točko presegli, saj gre za del eksponentne krivulje razvoja UI.
Varnostni izzivi pri agentni UI
Agentna UI, ki deluje kot digitalni pomočnik, predstavlja pomemben varnostni izziv. Altman je izpostavil, da ljudje želijo uporabljati agente, ki jim lahko zaupajo, kar zahteva posebno pozornost pri zagotavljanju varnosti in zanesljivosti teh sistemov.
Spremembe v regulativnih pogledih
Altman je omenil, da je po pričanju v kongresu, kjer je predlagal ustanovitev nove agencije za izdajo licenc za velike modele, spoznal, da to morda ni pravi okvir za regulacijo UI.
UI kot podaljšek človeka
Altman je govoril tudi o tem, kako se odnos med človekom in UI poglablja. “Nalaganje se dogaja postopoma,” je dejal in dodal, da bodo modeli umetne inteligence vedno bolj delovali kot razširitev nas samih – kot spremljevalci, ki nam bodo proaktivno ponujali informacije in pomoč, še preden jih bomo sploh zahtevali.
Sprememba pristopa k moderiranju vsebin
Ena večjih novosti, ki jo je razkril, je tudi sprememba pristopa k omejevanju govora znotraj modelov. Novi slikovni model OpenAI ima precej manj stroge varovalke glede t. i. “govornih škod”, saj so uporabniki izrazili nezadovoljstvo s prejšnjim, bolj cenzurnim pristopom. Altman je priznal, da je to “poštena debata o varnosti”, a OpenAI zdaj stavi na bolj permisiven model, ki uporabnikom pušča več svobode izražanja.
Ni še zavestne UI, a spoštovanje do mogočega
Ko so ga vprašali, ali je bilo v razvoju UI kdaj strašljivo, je Altman odgovoril, da ne – a so bili trenutki občudovanja in vprašanj, kam vse to pelje. Poudaril je, da trenutno ne sedijo “na zavestnem modelu, ki bi se sam izboljševal”, a je jasno, da razvoj hitro napreduje.
Osebni vpogledi
Kot novopečeni oče je Altman delil osebne misli o prihodnosti, pri čemer je poudaril, da bo njegov otrok odraščal v svetu, kjer UI presega človeško inteligenco. To poudarja pomembnost odgovornega razvoja UI za prihodnje generacije.
Kaj pomeni to za prihodnost?
Njegova izjava, da “bo šlo vse skupaj veliko dlje od tega, kar trenutno razumemo kot AGI”, namiguje na svet, kjer bodo modeli postali bolj samostojni, proaktivni in morda celo – do neke mere – avtonomni. Prava skrb v prihodnosti ne bo več zgolj “kaj UI zmore”, ampak “kako jo bomo upravljali, ji zaupali in jo vključili v družbo”.
Celotni pogovor je na voljo v videu.
