Da li je AI bliža ljudskom nivou nego što mislimo?

Novi izveštaj Ujedinjenih nacija izneo je svoje najoštrije upozorenje do sada: veštačka inteligencija bi uskoro mogla da se izjednači, i potencijalno nadmaši, ljudski intelekt.

UN upozoravaju da bi opšta veštačka inteligencija (AGI Artificial General Intelligence) mogla da stigne za nekoliko godina, a ne decenija, istovremeno donoseći i blistave prodore i egzistencijalnu opasnost.

Preporučujemo

Prema dokumentu na 32 stranice, potpuno autonomni sistem sposoban da rasuđuje, uči i stvara poput osobe mogao bi da ubrza zdravstvena istraživanja, smanji vreme potrebno za otkrivanje novih lekova i ubrza trku ka ciljevima održivog razvoja.

Ali ista moć, upozoravaju autori, mogla bi da se pretvori u oružje ili jednostavno da izmakne ljudskoj kontroli, izazivajući nepovratnu štetu.

Za razliku od tradicionalne veštačke inteligencije, AGI bi bila sposobna da donosi odluke sa visokim ulogom bez ljudskog nadzora što uključuje pokretanje sajber napada, manipulisanje naprednim oružjem ili destabilizaciju čitavih ekonomija.

Kritična infrastruktura, od električnih mreža do bolnica, mogla bi postati ranjiva u izuzetno kratkom vremenu, ne ostavljajući vremena za ljudsku intervenciju.

Da bi taj scenario ostao u domenu naučne fantastike, UN pozivaju na neposrednu, koordinisanu, međunarodnu akciju.

Na vrhu liste prioriteta je posebna sednica Generalne skupštine UN posvećena isključivo pitanjima veštačke inteligencije kao i definisanje okvira u kojima AI može da se razvije.

U dokumentu se predviđa međunarodni program sertifikacije za proveru da li novi modeli AI ispunjavaju bezbednosne standarde kao i pravno obavezujuća konvencija UN koja bi odražavala projekat.

Kako se u dokumentu tvrdi, ključni faktor je vreme. AI laboratorije su sistemi za obuku sa trilionima parametara dok se finansiranje pristiže rekordnom brzinom.

Kada kapaciteti pređu prag, bezbednosne nadogradnje mogu biti nemoguće, a zakoni koji se nakon toga brzo donose retko funkcionišu.

Tehnološki lideri izražavaju slične alarme. Kompanija Google DeepMind u februarskom tekstu za The Economist iznosi da da bi opšta veštačka inteligencija (AGI) mogla da se pojavi u roku od pet do deset godina i predlažu međunarodni istraživački centar, kao što je CERN za veštačku inteligenciju uparen sa nadzornim organom sličnim Međunarodnoj agenciji za atomsku energiju.

Istraživači DeepMind-a su čak pomenuli 2030. godinu kao mogući datum dolaska, dovoljno brzo, upozoravaju, da čekanje više nije opcija.

Suština izveštaja UN je direktna: čovečanstvo mora oblikovati AGI pre nego što AGI oblikuje čovečanstvo.

Ako vlade, naučnici i industrija ne uspeju da deluju zajedno i brzo, tehnologija koja bi mogla da izleči bolesti i okonča siromaštvo mogla bi umesto toga da preokrene samu civilizaciju.

Sat, kako kažu UN, otkucava, a ishod ćemo saznati u bliskoj budućnosti.

(Telegraf.rs/Goran Lazarov)