Umetna inteligenca petkrat povečuje tveganje za pandemijo: alarmantna študija razkriva nove nevarnosti.
Po najnovejši študiji, objavljeni v reviji TIME, so sodobna orodja umetne inteligence povečala tveganje za pandemije, ki jih povzroči človek, kar za petkrat – z 0,3 % na 1,5 %. Raziskava potrjuje svarila podjetij OpenAI in Anthropic, da današnji napredni jezikovni modeli omogočajo tudi zlonamerno uporabo, kot je pomoč pri razvoju biološkega orožja.
Medtem ko so bile biološke grožnje nekoč omejene na visoko specializirane laboratorije in strokovnjake, danes umetna inteligenca omogoča tudi neizkušenim posameznikom dostop do znanja, ki je bilo prej rezervirano za virologe z doktoratom.
Kaj so ugotovili?
Napredni AI sistemi že prekašajo strokovnjake pri reševanju viroloških problemov.
Tveganje za pandemijo, povzročeno s pomočjo umetne inteligence, je realno in narašča.
Ključna težava: klepetalni roboti lahko ponudijo konkretne napotke pri ustvarjanju smrtonosnih virusov.
Študija predlaga dve vrsti ukrepov:
- Tehnični varnostni mehanizmi v samih AI modelih – podjetja kot OpenAI že uvajajo zaščite, da modeli ne odgovarjajo na nevarna vprašanja.
- Regulacija sinteze genetskega materiala – trenutno je mogoče dobiti biološke materiale le z naročilom genetske kode, brez resnega nadzora. To bi se moralo spremeniti.
Ob upoštevanju obeh ukrepov bi se po mnenju napovedovalcev tveganje lahko znižalo na 0,4 %. Čeprav popolna varnost ni dosegljiva, je jasno: prihodnost umetne inteligence in biološke varnosti je prepletena in zahteva takojšen, odgovoren odziv.
