Razvoj umetne inteligence je v zadnjih letih dosegel izjemno hitrost, vendar bi se lahko tehnološka industrija kmalu znašla pred še precej večjo spremembo.
Ameriško podjetje Anthropic, ki razvija umetno inteligenco Claude, je v uradnih dokumentih opozorilo na možnost, da bodo prihodnji sistemi bistveno pospešili razvoj novih generacij umetne inteligence. Gre za pomemben korak proti tehnologiji, ki bi lahko nekoč sodelovala pri ustvarjanju svojih zmogljivejših naslednikov.
Umetna inteligenca že sodeluje pri svojem razvoju
Anthropic je 2. novembra 2026 ameriški Komisiji za vrednostne papirje in borzo (SEC) predložil dopolnjeno dokumentacijo, v kateri je med tveganji izpostavil vse večjo vlogo umetne inteligence pri lastnih raziskavah. Podjetje namreč Claude že uporablja pri programiranju, izvajanju eksperimentov in drugih razvojnih nalogah. V dokumentu opozarja, da bi lahko prihodnji modeli kmalu dosegli prag, ki ga podjetje opredeljuje kot dramatično pospeševanje tehnološkega napredka s pomočjo umetne inteligence. Še posebej zanimivo je priznanje, da podjetje nekaterih preteklih pospešitev razvoja ni zaznalo pravočasno, temveč šele po tem, ko so se že zgodile.
Kaj bi pomenilo, če bi se umetna inteligenca izboljševala sama?
Strokovnjaki za takšen koncept uporabljajo izraz rekurzivno samoizboljševanje (RSI). V najnaprednejši obliki bi umetna inteligenca lahko samostojno načrtovala, razvijala in preizkušala nove modele, ki bi bili zmogljivejši od nje same. Ti bi nato sodelovali pri ustvarjanju še naprednejših sistemov. Takšen razvoj bi lahko močno pospešil znanstvena odkritja, razvoj zdravil in reševanje zapletenih tehnoloških problemov.
Toda obstaja tudi druga plat. Če bi zmogljivosti umetne inteligence napredovale hitreje kot varnostni mehanizmi, bi postalo njeno delovanje težje nadzorovati. Anthropic zato poudarja, da želi ohraniti pomembno vlogo ljudi pri razvoju prihodnjih modelov. Pomembno je, da noben trenutni model podjetja še ni uradno dosegel omenjenega praga.
