"Ili ćemo je kontrolisati, ili će ona kontrolisati nas!": Vođe AI industrije konačno složne oko jedne stvari

Lideri najmoćnijih tehnoloških kompanija, Demis Hasabis (Google DeepMind) i Sem Altman (OpenAI), uputili su dramatičan apel sa konferencije u Nju Delhiju, upozoravajući da razvoj veštačke inteligencije više ne sme da se odvija bez rigorozne ljudske kontrole.

Hasabis je istakao da autonomni sistemi donose nepredviđene rizike, dok Altman insistira na tome da je brzina inovacija toliko velika da države moraju delovati odmah kako bi se sprečila katastrofa. Oba stručnjaka se slažu da trenutne institucije nemaju snagu da isprate tempo kojim AI menja svet.

Preporučujemo

Foto: AA/ABACA / Abaca Press / Profimedia

Opšta inteligencija stiže brže nego što mislimo?

Najveće neslaganje među liderima odnosi se na vreme dolaska prave opšte veštačke inteligencije (AGI), sistema koji može da uči i prilagođava se u realnom vremenu baš kao čovek. Dok Hasabis procenjuje da nam je potrebno još pet do osam godina intenzivnog rada na algoritmima, Altman veruje da bi se ti preokreti mogli desiti znatno ranije.

Upravo ova neizvesnost nameće potrebu za osnivanjem međunarodne agencije za nadzor, koja bi po ugledu na onu za atomsku energiju kontrolisala najnaprednije modele.

Rizici od autonomije i zlonamernih aktera

Opasnost više nije samo teoretska, a Hasabis je identifikovao dve ključne kategorije rizika: zlonamerne aktere koji bi mogli da zloupotrebe tehnologiju i mogućnost da se modeli ponašaju na potpuno neočekivan način. Što su sistemi korisniji i samostalniji, to je veći potencijal za nepredviđeno ponašanje koje trenutni bezbednosni protokoli ne mogu da zaustave.

Da bismo izbegli scenario u kojem veštačka inteligencija preuzima kontrolu, neophodno je licenciranje svih velikih računarskih centara i uvođenje strogih inspekcija.

(Telegraf.rs)