Milion žrtava i $100 milijardi gubitaka: Stručnjaci upozoravaju na 5 AI rizika koji nas mogu pogoditi već sada

Grupa od 272 stručnjaka za veštačku inteligenciju iz 37 zemalja procenila je da čak 18 od 24 analizirana rizika ima više od 10 odsto šanse da izazove katastrofalne posledice, ukoliko se ništa ne promeni u načinu razvoja ove tehnologije. Pod katastrofalnim posledicama istraživači podrazumevaju više od milion žrtava, štetu veću od 100 milijardi dolara ili slične razmere štete.

Istraživanje su sproveli MIT FutureTech, interdisciplinarna grupa pri MIT Sloan School of Management i MIT CSAIL laboratoriji, u saradnji sa Univerzitetom u Kvinslendu. Stručnjaci su dolazili iz industrije, akademske zajednice, državnih institucija i civilnog sektora.

Preporučujemo

Čak i u scenariju gde se primenjuju razumne i isplative mere zaštite, pet rizika je i dalje ocenjeno sa verovatnoćom katastrofe većom od 10 odsto. Autori studije naglašavaju da se ove procene ne mogu jednostavno sabirati u jedinstvenu cifru, jer se kategorije rizika preklapaju i međusobno utiču jedna na drugu.

Koji rizici najviše zabrinjavaju stručnjake

Prema proceni učesnika istraživanja, pet najozbiljnijih pretnji odnosi se na opasne sposobnosti veštačke inteligencije, oružje i sajber-napade omogućene AI tehnologijom, konkurenciju između kompanija i država, centralizaciju moći, kao i stvaranje i širenje sofisticiranih lažnih informacija.

Nil Tompson, glavni naučni istraživač na MIT Sloan i direktor MIT FutureTech programa, kaže da je posebno zabrinjavajuće što se verovatnoća od 10 odsto za katastrofalan ishod pojavljuje u toliko različitih oblasti. On podseća da bi se u zrelijim tehnološkim granama, poput nuklearne energije ili avijacije, takav nivo rizika smatrao potpuno neprihvatljivim.

Stručnjaci su kao najranjivije sektore izdvojili informacione tehnologije, finansije i nacionalnu bezbednost. Kao konkretne primere navode zloupotrebu veštačke inteligencije za hakovanje sistema, dizajniranje biološkog oružja ili razvoj autonomnog naoružanja.

Ko snosi posledice, a ko donosi odluke

Istraživanje pokazuje da najveću odgovornost za upravljanje rizicima stručnjaci pripisuju kompanijama koje razvijaju opšte modele veštačke inteligencije, kao i regulatorima i vladama. Ipak, isti stručnjaci upozoravaju da će najveći teret posledica pasti na obične korisnike i širu javnost, iako oni imaju najmanje mogućnosti da na to utiču.

Piter Slateri, istraživač pri MIT FutureTech i MIT Initiative on the Digital Economy, objašnjava da kompanije i vlade nemaju dovoljno podsticaja da usporavaju razvoj tehnologije ili ulažu u bezbednost, jer je konkurencija u ovoj oblasti izuzetno oštra. Zbog toga, kaže on, zakoni i međunarodni sporazumi mogu postati neophodni.

Procene su nastale tokom trorundnog Delfi istraživanja krajem 2025. godine, u kome su učestvovali istraživači veštačke inteligencije, savetnici za politike, tehnolozi i stručnjaci za upravljanje rizicima. Svi odgovori prikupljeni su anonimno i obrađeni zbirno, kako bi se smanjio uticaj pojedinačnih interesa na rezultate.

Studija je deo šireg MIT AI Risk Initiative projekta, koji uključuje bazu podataka sa više od 1.700 identifikovanih rizika od veštačke inteligencije i alat koji povezuje te rizike sa više od 1.400 zabeleženih incidenata. U narednoj fazi istraživanja, tim planira da analizira javne dokumente vodećih kompanija u oblasti veštačke inteligencije, kako bi utvrdio da li njihovi odgovori na ove rizike odgovaraju ozbiljnosti situacije koju stručnjaci opisuju.

(Telegraf.rs)