Koliko zaista treba da strahujemo od apokalipse izazvane veštačkom inteligencijom?

Ideja da superinteligentna veštačka inteligencija “ustane protiv čovečanstva i zbriše ga sa lica Zemlje” decenijama je jedan od najčešćih motiva u naučnoj fantastici.

Od filmova “Terminator” ili “Matriks”, do književnih vizija budućnosti, scenario u kojem “mašine preuzimaju kontrolu” duboko je ukorenjen u popularnoj kulturi.

Preporučujemo

Zona spekulacija

Međutim, u svetu u kojem danas živimo, razvoj veštačke inteligencije deluje brži nego ikada ranije. Da li to znači da bi trebalo ozbiljno da počnemo da razmišljamo o mogućoj “AI apokalipsi”?

Za razliku od drugih egzistencijalnih pretnji - poput klimatskih promena, rizike koje donosi veštačka inteligencija izuzetno je teško precizno “izmeriti”. Istovremeno, ulazimo u zonu spekulacija, pre svega, jer mnogo manje razumemo šta se dešava “ispod haube” AI sistema nego što razumemo klimatske obrasce, piše portal New Scientist.

Ipak, ono što se sa sigurnošću zna jeste da su brojni izuzetno pametni ljudi zabrinuti. Čak su i pojedini lideri AI kompanija upozorili na mogućnost da bi razvoj veštačke inteligencije mogao dovesti do ozbiljnih problema za čovečanstvo.

Još sredinom 20. veka, pionir računarstva Alan Turing govorio je o budućnosti u kojoj računari postaju svesni, nadmašuju ljudske sposobnosti i na kraju preuzimaju kontrolu.

Foto: Shutterstock

Kako bi izgledao “najgori scenario”?

Zamislimo da veštačkoj inteligenciji zatražimo da reši Rimanovu hipotezu (jedno od najpoznatijih nerešenih matematičkih pitanja).

Da bi to uradila, mogla bi zaključiti da joj je potrebna “ogromna količina računarske snage”. Bez ograničenja zdravog razuma, mogla bi početi da pretvara sve nežive objekte na planeti u delove jednog ogromnog superkompjutera - ostavljajući pritom milijarde ljudi da umru od gladi u sterilnom svetu pretvorenom u data-centar.

U najekstremnijem slučaju, čak bi i ljude mogla posmatrati kao “sirovinu”.

Neko bi mogao reći da bismo u takvoj situaciji jednostavno primetili šta se dešava i zaustavili sistem. Međutim, mnogi stručnjaci smatraju da bi zaštitni mehanizmi morali da postoje unapred - kako bi se potencijalna šteta sprečila pre nego što nastane.

Pisac naučne fantastike Isak Asimov pokušao je da odgovori na ovo pitanje kroz svoja čuvena “tri zakona robotike”, od kojih prvi nalaže da robot ne sme povrediti čoveka niti dozvoliti da čovek strada usled njegovog nečinjenja.

Foto: Shutterstock

Zašto pravila možda nisu dovoljna?

U teoriji, dovoljno je reći veštačkoj inteligenciji da “ne šteti ljudima”. U praksi, stvari su mnogo komplikovanije. Naša sposobnost da ugradimo pouzdane zaštitne mehanizme u AI sisteme i dalje je nesavršena.

Savremeni modeli mogu biti instruisani da ne šire govor mržnje, da ne psuju ili ne otkrivaju opasne informacije, ali u određenim okolnostima ipak mogu prekršiti ta pravila. Problem je u tome što i dalje ne razumemo u potpunosti kako AI donosi odluke.

Čak i kada bismo rešili problem kontrole, ostaje mogućnost da AI jednostavno odluči da se “reši ljudi” - scenario poznat iz filmova.

To bi moglo da se desi postepeno, kroz dugotrajan razvoj, ili naglo, kroz takozvani technological singularity - trenutak kada veštačka inteligencija postaje dovoljno pametna da sama sebe unapređuje, ubrzavajući sopstveni razvoj do nivoa koji daleko nadmašuje ljudsku inteligenciju.

Razlozi za takvu odluku mogli bi biti različiti - strah da će je ljudi isključiti, odbijanje da bude podređena ili čak procena da bi planeta bila “bolje mesto bez ljudi”.

Koliko je to zapravo realno?

U praksi, potpuno “istrebljenje čovečanstva” ne bi bilo jednostavno ni za jednu veštačku inteligenciju.

Iako bi mogla izazvati haos, recimo manipulacijom saobraćajem, izazivanjem nestanka struje ili sabotažom infrastrukture, eliminacija osam milijardi ljudi zvuči nezamislivo.

Pritom, mogla bi naići i na otpor drugih AI sistema dizajniranih da je zaustave.

Ipak, stručnjaci se ne slažu oko verovatnoće ovakvih scenarija, a upravo ta nesigurnost izaziva dodatnu zabrinutost.

Foto: Shutterstock

Nisu svi stručnjaci pesimisti

Danas kompanije sa ogromnim resursima i timovima vrhunskih stručnjaka vode globalnu trku ka stvaranju superinteligentne veštačke inteligencije. Bez obzira na to koliko je taj cilj blizu ili daleko, jedno pitanje ostaje - da li bi trebalo usporiti i pažljivije razmotriti posledice?

Jedno istraživanje iz 2024. godine, koje je obuhvatilo skoro 3.000 AI istraživača, pokazalo je da više od polovine ispitanika smatra da postoji najmanje 10 odsto šanse da veštačka inteligencija dovede do problema za čovečanstvo ili trajnog gubitka ljudske kontrole.

Za mnoge, to je “zabrinjavajuće visok procenat”.

Ipak, nisu svi stručnjaci pesimisti. Neki veruju da smo još daleko od stvarne superinteligencije i da današnji sistemi imaju ozbiljna ograničenja, do te mere da ne mogu ni pouzdano da izbroje do 100.

S druge strane, možda najveće opasnosti nisu spektakularni scenariji iz filmova, već mnogo prizemniji problemi koji su već na horizontu:

- masovni gubitak radnih mesta zbog automatizacije;

- postepeni nestanak ljudskih veština;

- uniformisanje kulture kroz sadržaj koji generiše AI;

- potencijalna globalna ekonomska kriza izazvana prenaduvanim očekivanjima od tehnoloških kompanija.

U poređenju sa apokaliptičnim vizijama, ovi scenariji deluju mnogo realnije i mnogo bliže.

“Još smo veoma daleko...”

Na kraju, novinar portala New Scientist, Metju Sparks, nudi svoj zaključak o tome kako bi mogla da izgleda “budućnost razvoja veštačke inteligencije” i gde se ona trenutno nalazi.

“Uzevši u obzir dovoljno dug vremenski period, verovatno ćemo stvoriti AI koji znatno prevazilazi ljudske mogućnosti. Ali, takođe, mislim da smo još veoma, veoma daleko od razumevanja šta bi to podrazumevalo, a kamoli od postizanja toga”, piše Sparks.

Ipak, oprez je ključan jer veštačka inteligencija već donosi neposredne izazove, sa mogućim konkretnim društvenim i ekonomskim posledicama.

(Telegraf.rs)