V navdihujočem zapisu na svojem blogu je Sam Altman povzel preteklih 5 let in razkril svoje videnje za razvoj superinteligence v naslednjih letih.
Spodaj objavljamo celoten prevod njegovega bloga, v katerem razkrije svoje videnje, kako bo umetna inteligenca preoblikovala naše življenje do leta 2030 in kaj moramo storiti, da bomo njene koristi izkoristili odgovorno.
Prečkali smo dogodkovno obzorje; vzlet se je začel. Človeštvo je blizu ustvarjanja digitalne superinteligence, in vsaj za zdaj je to veliko manj čudno, kot bi pričakovali.
Roboti še ne hodijo po ulicah, prav tako večina od nas še ne govori z umetno inteligenco ves dan. Ljudje še vedno umirajo zaradi bolezni, še vedno ne moremo zlahka v vesolje, in veliko je o vesolju, česar ne razumemo.
Kljub temu smo nedavno razvili sisteme, ki so v mnogih pogledih pametnejši od ljudi in lahko znatno povečajo storilnost tistih, ki jih uporabljajo. Najmanj verjetni del dela je za nami; znanstvena spoznanja, ki so nas pripeljala do sistemov, kot so GPT-4 in o3, so bila težko pridobljena, a nas bodo ponesla zelo daleč.
Umetna inteligenca bo prispevala k svetu na mnoge načine, toda izboljšave kakovosti življenja zaradi hitrejšega znanstvenega napredka in povečane storilnosti, ki jih omogoča UI, bodo ogromne; prihodnost je lahko bistveno boljša od sedanjosti. Znanstveni napredek je največji gonilnik splošnega napredka; vznemirljivo je razmišljati, kako veliko več bi lahko imeli.
V nekem velikem smislu je ChatGPT že zdaj močnejši od katerega koli človeka, ki je kdaj živel. Na stotine milijonov ljudi se nanj zanaša vsak dan in za vse bolj pomembne naloge; majhna nova zmožnost lahko ustvari zelo pozitiven učinek; majhna neusklajenost, pomnožena z več sto milijoni ljudi, pa lahko povzroči veliko negativnega učinka.
Leto 2025 je prineslo agente, ki lahko opravljajo resnično kognitivno delo; pisanje računalniške kode ne bo nikoli več enako. Leto 2026 bo verjetno prineslo sisteme, ki bodo lahko odkrivali nova spoznanja. Leto 2027 pa morda prinese robote, ki bodo lahko opravljali naloge v resničnem svetu.
Veliko več ljudi bo lahko ustvarjalo programsko opremo in umetnost. Svet si želi več obojega, a strokovnjaki bodo verjetno še vedno veliko boljši od začetnikov, dokler bodo sprejemali nova orodja. Na splošno bo sposobnost posameznika, da v letu 2030 naredi veliko več kot v letu 2020, osupljiva sprememba, od katere bodo mnogi znali imeti korist.
V najpomembnejših vidikih se trideseta leta morda ne bodo drastično razlikovala. Ljudje bodo še vedno ljubili svoje družine, izražali svojo ustvarjalnost, igrali igre in plavali v jezerih.
Vendar bodo trideseta leta v še vedno zelo pomembnih vidikih verjetno povsem drugačna od vseh prejšnjih časov. Ne vemo, kako daleč lahko presežemo človeško raven inteligence, a kmalu bomo to ugotovili.
V tridesetih letih bosta inteligenca in energija – ideje ter sposobnost uresničevanja idej – postali izjemno obilni. Ti dve sta dolgo časa omejevali človeški napredek; z obilico inteligence in energije (ter dobrim upravljanjem) lahko teoretično imamo vse drugo.
Že zdaj živimo z neverjetno digitalno inteligenco, in po začetnem šoku se je večina od nas nanjo precej navadila. Zelo hitro preidemo od začudenja, da lahko UI ustvari lepo napisan odstavek, do spraševanja, kdaj bo lahko napisal lepo napisan roman; ali od začudenja, da lahko postavi življenjsko pomembne medicinske diagnoze, do spraševanja, kdaj bo lahko razvil zdravila; ali od začudenja, da lahko ustvari majhen računalniški program, do spraševanja, kdaj bo lahko ustvaril celotno novo podjetje. Tako poteka singularnost: čudesa postanejo rutina, nato pa osnovna pričakovanja.
Znanstveniki že poročajo, da so dva- ali trikrat bolj produktivni, kot so bili pred UI. Napredna UI je zanimiva iz mnogih razlogov, a morda ni nič tako pomembnega kot dejstvo, da jo lahko uporabimo za hitrejše raziskave UI. Morda bomo odkrili nove računalniške substrate, boljše algoritme in kdo ve, kaj še. Če bomo lahko v enem letu ali mesecu opravili desetletje raziskav, bo hitrost napredka očitno povsem drugačna.
Od zdaj naprej nam bodo že zgrajena orodja pomagala najti nadaljnja znanstvena spoznanja in nam pomagala ustvarjati boljše sisteme UI. Seveda to ni enako kot UI sistem, ki popolnoma samostojno posodablja svojo kodo, a kljub temu je to začetna različica rekurzivnega samoizboljševanja.
Delujejo tudi druge samoojačitvene zanke. Ustvarjanje gospodarske vrednosti je sprožilo vztrajnik vse večje gradnje infrastrukture za delovanje teh vse močnejših sistemov UI. Roboti, ki lahko gradijo druge robote (in v nekem smislu podatkovni centri, ki lahko gradijo druge podatkovne centre), niso več tako daleč.
Če moramo prvi milijon humanoidnih robotov zgraditi na staromoden način, nato pa lahko oni upravljajo celotno dobavno verigo – kopajo in obdelujejo minerale, vozijo tovornjake, vodijo tovarne itd. –, da zgradijo še več robotov, ki lahko gradijo še več tovarn za čipe, podatkovnih centrov itd., bo hitrost napredka očitno povsem drugačna.
Ko se proizvodnja podatkovnih centrov avtomatizira, bi se stroški inteligence sčasoma morali približati stroškom električne energije. (Ljudje pogosto sprašujejo, koliko energije porabi povpraševanje po ChatGPT; povprečno povpraševanje porabi približno 0,34 vatne ure, kar je približno toliko, kot porabi pečica v nekaj več kot eni sekundi ali visoko učinkovita žarnica v nekaj minutah. Porabi tudi približno 0,000085 galone vode; približno eno petnajstino čajne žličke.)
Hitrost tehnološkega napredka se bo še naprej pospeševala, in ljudje bodo še naprej sposobni prilagoditi se skoraj vsemu. Bodo zelo težke stvari, kot je izginjanje celih skupin poklicev, po drugi strani pa bo svet tako hitro postajal bogatejši, da bomo lahko resno razmišljali o novih političnih idejah, ki jih prej nikoli nismo mogli. Verjetno ne bomo naenkrat sprejeli nove družbene pogodbe, a ko bomo čez nekaj desetletij pogledali nazaj, bodo postopne spremembe skupno prinesle nekaj velikega.
Če je zgodovina kakšen pokazatelj, bomo ugotovili nove stvari, ki jih bomo počeli, in nove stvari, ki si jih bomo želeli, ter hitro sprejeli nova orodja (sprememba zaposlitev po industrijski revoluciji je dober nedaven primer). Pričakovanja bodo rasla, a tudi zmožnosti bodo rasle enako hitro, in vsi bomo imeli boljše stvari. Gradili bomo vse bolj čudovite stvari drug za drugega. Ljudje imamo dolgoročno pomembno in radovedno prednost pred UI: naravno nam je pomembno, kaj drugi ljudje mislijo in počnejo, strojev pa nas to ne zanima prav veliko.
Kmet izpred tisoč let bi pogledal, kaj mnogi od nas počenjamo, in rekel, da imamo lažne službe ter da se samo igramo igre za zabavo, saj imamo dovolj hrane in nepredstavljivega razkošja. Upam, da bomo gledali na službe čez tisoč let in mislili, da so zelo lažne službe, in nedvomno se bodo ljudem, ki jih bodo opravljali, zdele izjemno pomembne in zadovoljujoče.
Hitrost doseganja novih čudes bo ogromna. Težko si je danes sploh predstavljati, kaj vse bomo odkrili do leta 2035; morda bomo eno leto rešili visokoenergijsko fiziko, naslednje leto pa začeli s kolonizacijo vesolja; ali pa bomo eno leto dosegli velik preboj v znanosti o materialih, naslednje leto pa resnične širokopasovne možgansko-računalniške vmesnike. Mnogi se bodo odločili živeti življenje na podoben način, a vsaj nekateri se bodo verjetno odločili za “priklop”.
Gledano naprej, se to zdi težko razumeti. A verjetno bo življenje skozi to impresivno, a obvladljivo. Z relativistične perspektive se singularnost dogaja postopoma, in združevanje poteka počasi. Plezamo po dolgem loku eksponentnega tehnološkega napredka; naprej vedno izgleda navpično, nazaj pa ravno, a je ena gladka krivulja. (Pomislite na leto 2020 in kako bi zvenelo, če bi imeli nekaj blizu AGI do leta 2025, v primerjavi s tem, kakšnih je bilo zadnjih pet let.)
Obstajajo resni izzivi, ki jih moramo rešiti poleg ogromnih prednosti. Rešiti moramo varnostne težave, tehnično in družbeno, nato pa je ključno, da široko razdelimo dostop do superinteligence glede na gospodarske posledice. Najboljša pot naprej bi bila morda naslednja:
- Rešiti problem usklajevanja, kar pomeni, da lahko robustno zagotovimo, da se sistemi UI učijo in delujejo v skladu s tem, kar kolektivno resnično želimo dolgoročno (družbeni mediji so primer neusklajene UI; algoritmi, ki jih poganjajo, so neverjetni pri tem, da vas zadržijo pri pomikanju in jasno razumejo vaše kratkoročne preference, a to počnejo z izkoriščanjem nečesa v vaših možganih, kar preglasi vaše dolgoročne preference).
- Nato se osredotočiti na to, da bo superinteligenca poceni, široko dostopna in ne preveč skoncentrirana pri kateri koli osebi, podjetju ali državi. Družba je odporna, ustvarjalna in se hitro prilagaja. Če lahko izkoristimo kolektivno voljo in modrost ljudi, bomo, čeprav bomo delali veliko napak in bo nekaj stvari šlo resno narobe, hitro učili in se prilagodili ter bomo to tehnologijo uporabili za maksimalne koristi in minimalne slabosti. Dajanje uporabnikom veliko svobode, znotraj širokih meja, ki jih mora družba določiti, se zdi zelo pomembno. Prej ko bo svet začel pogovor o tem, kakšne so te široke meje in kako definiramo kolektivno usklajevanje, tem bolje.
Mi (cela industrija, ne samo OpenAI) gradimo možgane za svet. Ti bodo izjemno prilagojeni in enostavni za uporabo za vse; omejevali nas bodo dobre ideje. Dolgo časa so se tehnični ljudje v startup industriji norčevali iz “idejnih ljudi”; ljudi, ki so imeli idejo in iskali ekipo, ki bi jo uresničila. Zdaj se zdi, da bodo kmalu doživeli svoj trenutek slave.
Inteligenca, ki je preveč poceni, da bi jo merili, je povsem dosegljiva. To se morda zdi noro reči, a če bi vam v letu 2020 rekli, da bomo tam, kjer smo danes, bi to verjetno zvenelo bolj noro, kot naše trenutne napovedi za leto 2030.
Naj se gladko, eksponentno in brez pretresov povzpemo čez superinteligenco.
