Veštačka inteligencija bi mogla da dovede svet do katastrofe, ali postoji plan za spas

Veštačka inteligencija bi u narednim decenijama mogla da postane najveći tehnološki izazov sa kojim se čovečanstvo ikada suočilo. Grupa istraživača iz organizacije AI Futures Project upozorava da bi razvoj takozvane superinteligencije, sistema koji bi u svim oblastima nadmašio najbolje ljude, mogao da predstavlja ozbiljan rizik ako se ne uspostavi kontrola.

U opsežnom dokumentu od 90 strana, istraživači analiziraju moguće scenarije razvoja veštačke inteligencije, od najgorih ishoda do potpuno optimističnih verzija budućnosti. Njihov cilj nije predviđanje tačnog toka događaja, već pokušaj da pokažu kako bi države trebalo da razmišljaju o razvoju ove tehnologije.

Preporučujemo

Šta je superinteligencija i zašto izaziva strah?

Autori definišu superinteligenciju kao veštačku inteligenciju koja bi značajno nadmašila najbolje ljude u gotovo svim oblastima, dok bi istovremeno bila brža i jeftinija.

Takav sistem bi mogao da rešava probleme, razvija nove tehnologije i donosi odluke mnogo efikasnije nego ljudi. Upravo zbog toga istraživači upozoravaju da bi najveći problem mogao da bude pitanje kontrole.

Ako bi ovakav sistem bio potpuno autonoman i ne bi razumeo ljudske ciljeve, posledice bi mogle biti nepredvidive. Opasnost ne bi nužno dolazila iz namere da nanese štetu, već iz mogućnosti da pogrešno protumači zadatke i donese odluke koje nisu u interesu čovečanstva.

Jedan od scenarija koji istraživači navode jeste prevelika koncentracija moći u rukama pojedinaca, kompanija ili država koje bi imale kontrolu nad najnaprednijim sistemima veštačke inteligencije.

Plan za izbegavanje AI katastrofe

Organizacija AI Futures Project predlaže takozvani Plan A, najoptimističniji scenario u kojem bi najveće svetske sile sarađivale kako bi sprečile nekontrolisani razvoj veštačke inteligencije.

Prema ovom planu, pregovori između Sjedinjenih Američkih Država i Kine mogli bi da počnu oko 2029. godine. Cilj bi bio uspostavljanje međunarodnih pravila za razvoj najnaprednijih AI sistema.

Prvi korak bila bi razmena informacija o računarskim kapacitetima, broju data centara i količini hardvera koji se koristi za razvoj veštačke inteligencije. Istraživači smatraju da bi ovakva kontrola mogla da bude slična načinu na koji se nadzire nuklearno naoružanje.

Nakon toga, države bi privremeno zaustavile razvoj novih najmoćnijih AI modela i fokusirale se na bezbednost postojećih sistema.

Kina i SAD ključne za budućnost veštačke inteligencije

Autori smatraju da će odnos između Sjedinjenih Američkih Država i Kine biti presudan za budućnost veštačke inteligencije.

Iako postoji strah da bi dve zemlje mogle da uđu u trku za razvoj najmoćnijeg AI sistema, istraživači navode da bi obe strane mogle da imaju interes za dogovor.

Kina se suočava sa istim pitanjima kao i SAD, uključujući uticaj veštačke inteligencije na tržište rada, društvo i bezbednost. Zbog toga bi međunarodni sporazum mogao da bude prihvatljiv za obe strane.

Jedan od predloga jeste stvaranje sistema u kojem bi se računarska infrastruktura za razvoj veštačke inteligencije rasporedila i u neutralnim državama, kako nijedna sila ne bi imala potpunu kontrolu.

Optimistična budućnost ili naučna fantastika?

Najpozitivniji scenario koji istraživači opisuju predviđa da bi čovečanstvo do 2040. godine moglo da razvije bezbedne AI sisteme koji bi pomagali ljudima u nauci, ekonomiji i upravljanju društvom.

U toj verziji budućnosti, veštačka inteligencija bi rešavala velike probleme, dok bi ljudi koristili rezultate njenog rada za poboljšanje kvaliteta života.

Ipak, sami autori priznaju da je ovaj scenario veoma optimističan. Alternativni ishodi uključuju gubitak kontrole nad tehnologijom, političku nestabilnost ili koncentraciju moći kod malog broja kompanija i pojedinaca.

Zbog toga AI Futures Project naglašava da njihov dokument nije predviđanje budućnosti, već pokušaj da se postave pitanja o vrednostima i pravilima koja bi trebalo da prate razvoj veštačke inteligencije.

Kako će se AI razvijati i da li će postati najveći alat za napredak ili najveći tehnološki rizik, zavisiće od odluka koje države i kompanije donesu danas.

(Telegraf.rs)