Najbogatiji ljudi na svetu se spremaju za apokalipsu? Treba li svi da se zabrinemo

Mark Zakerberg je, kako se navodi, započeo rad na imanju Koolau Ranch, svom ogromnom kompleksu od 1.400 ari na havajskom ostrvu Kauai, još 2014. godine.

Planirano je da imanje uključuje sklonište sa sopstvenim zalihama energije i hrane, iako su stolare i električare koji su radili na lokaciji obavezali ugovorima o poverljivosti da o tome ne smeju da govore, navodi se u izveštaju magazina Wired.

Preporučujemo

Ograda visoka oko dva metra zaklanjala je projekat od pogleda s obližnjeg puta.

Na pitanje prošle godine da li pravi bunker za smak sveta, osnivač Fejsbuka dao je odlučno "ne". Podzemni prostor koji se prostire na oko 465 kvadratnih metara, objasnio je, "samo je malo sklonište, kao podrum".

To, međutim, nije zaustavilo nagađanja - kao ni ona o njegovoj odluci da kupi 11 nekretnina u kvartu Crescent Park u Palo Altu u Kaliforniji, gde je, navodno, dodao i podzemni prostor od oko 650 kvadratnih metara.

Iako se u građevinskim dozvolama pominju podrumski prostori, prema pisanju New York Timesa, neki njegovi susedi to zovu bunkerom. Ili, kako kažu, "pećinom milijardera".

Tu su i spekulacije o drugim tehnološkim liderima, od kojih su neki, čini se, zauzeti kupovinom velikih površina zemljišta s podzemnim prostorima pogodnim za preuređenje u luksuzne bunkere vredne milione dolara.

Reid Hofman, suosnivač LinkedIn-a, govorio je o "osiguranju od apokalipse". To, kako je ranije tvrdio, poseduje oko polovine najbogatijih ljudi, a Novi Zeland je popularna destinacija za takve kuće.

Treba li svi da se zabrinemo?

Dakle, da li se oni zaista pripremaju za rat, posledice klimatskih promena ili neku drugu katastrofu o kojoj ostatak sveta još ne zna?

U poslednjih nekoliko godina, napredak veštačke inteligencije (AI) samo je dodatno proširio taj spisak mogućih egzistencijalnih pretnji. Mnogi su duboko zabrinuti zbog brzine njenog razvoja.

Ilja Sutskever, glavni naučnik i suosnivač kompanije OpenAI, navodno je jedan od njih. Do sredine 2023. godine, kompanija sa sedištem u San Francisku već je lansirala ChatGPT - čet-bota koji danas koriste stotine miliona ljudi širom sveta - i ubrzano radila na njegovim unapređenjima.

Ali do leta te godine, Sutskever je bio sve više uveren da su kompjuterski naučnici na pragu stvaranja opšte veštačke inteligencije (AGI) - tačke u kojoj mašine dostižu nivo ljudske inteligencije - prema knjizi novinarke Karen Hao.

Na jednom sastanku, Sutskever je kolegama sugerisao da treba da iskopaju podzemno sklonište za vodeće naučnike kompanije pre nego što takva moćna tehnologija bude puštena u svet, navodi Hao.

"Definitivno ćemo izgraditi bunker pre nego što objavimo AGI", navodno je rekao, iako nije jasno na koga je mislio kada je rekao "mi".

To osvetljava zanimljivu činjenicu: mnogi vodeći stručnjaci za kompjuterske nauke i tehnološki lideri, koji naporno rade na razvoju izuzetno inteligentnih AI sistema, ujedno se i duboko plaše onoga što bi ta tehnologija jednog dana mogla da učini, piše BBC.

Dakle, kada će tačno - ako ikada - AGI stići? I da li bi zaista mogao da bude toliko transformativan da počne da plaši obične ljude?

Dolazak AGI "pre nego što mislimo"

Tehnološki lideri tvrde da je AGI neizbežan. Direktor OpenAI-a Sem Altman izjavio je u decembru 2024. da će doći "pre nego što većina ljudi na svetu misli".

Sir Demis Hasabis, suosnivač DeepMinda, predvideo ga je u narednih pet do deset godina, dok je osnivač Anthropic-a Dario Amodei prošle godine napisao da bi njegov preferirani termin - "moćna AI" - mogao da stigne već 2026.

Drugi su skeptični.

"Stalno pomeraju granice. Zavisi od toga s kim razgovarate", kaže dama Vendi Hol, profesorka računarstva na Univerzitetu Sauthempton.

"Naučna zajednica kaže da je AI tehnologija neverovatna", dodaje ona, "ali nije ni blizu ljudske inteligencije."

Najpre bi bilo potrebno napraviti niz "fundamentalnih proboja", slaže se Babak Hodžat, glavni tehnološki direktor kompanije Cognizant.

Štaviše, malo je verovatno da će AGI stići kao jedan trenutak. Veštačka inteligencija je tehnologija koja se brzo razvija, na putu je, i mnoge kompanije širom sveta trude se da razviju svoje verzije.

Jedan od razloga zašto ova ideja toliko uzbuđuje Silicijumsku dolinu jeste to što se smatra pretečom nečeg još naprednijeg: ASI - veštačke superinteligencije - tehnologije koja bi nadmašila ljudsku.

Još 1958. godine koncept "singularnosti" pripisivan je posmrtno mađarskom matematičaru Džonu fon Nojmanu. On označava trenutak kada računska inteligencija prevazilazi granice ljudskog razumevanja.

U novijoj knjizi iz 2024. Genesis, koju su napisali Erik Šmit, Krejg Mandi i pokojni Henri Kisindžer, razmatra se ideja o supermoćnoj tehnologiji koja postaje toliko efikasna u donošenju odluka i vođstvu da joj u potpunosti predajemo kontrolu.

Autori tvrde da je pitanje samo "kada", a ne "da li".

Novac za sve, bez potrebe za poslom?

Zagovornici AGI i ASI gotovo su evanđeoski u pogledu njihovih koristi. Tvrdnje su da će pronaći nove lekove za smrtonosne bolesti, rešiti problem klimatskih promena i stvoriti neiscrpan izvor čiste energije.

Ilon Mask čak je tvrdio da bi superinteligentna AI mogla da uvede eru "univerzalnog visokog dohotka".

Nedavno je podržao ideju da će AI postati toliko jeftina i rasprostranjena da će svako želeti svog "ličnog R2-D2 i C-3PO" (pozivajući se na droida iz Ratova zvezda).

"Svi će imati najbolju medicinsku negu, hranu, prevoz i sve ostalo. Održivo obilje", oduševljeno je rekao.

Ali postoji i zastrašujuća strana. Može li tehnologija biti zloupotrebljena od strane terorista ili, još gore, odlučiti sama da je čovečanstvo uzrok problema na svetu i da ga treba uništiti?

"Ako je pametnija od vas, onda moramo da je držimo pod kontrolom", upozorio je Tim Berners Li, tvorac Veba, u razgovoru za BBC.

"Moramo moći da je isključimo", istsakao je.

Vlade preduzimaju određene mere zaštite. U SAD, gde se nalazi većina vodećih AI kompanija, predsednik Bajden potpisao je 2023. uredbu kojom se od firmi zahteva da rezultate bezbednosnih testova dele sa federalnom vladom - iako je predsednik Tramp kasnije ukinuo deo te uredbe, nazvavši je "preprekom za inovacije".

U Velikoj Britaniji, Institut za bezbednost AI - istraživačko telo koje finansira vlada - osnovan je pre dve godine kako bi bolje razumeo rizike koje nosi napredna AI.

A tu su i superbogati sa sopstvenim planovima "osiguranja od apokalipse".

"Kada neko kaže da 'kupuje kuću na Novom Zelandu', to je svojevrsni mig, mig, ne moraš dalje da objašnjavaš", rekao je ranije Reid Hofman. Ista logika, pretpostavlja se, važi i za bunkere.

Ali postoji jedna vrlo ljudska mana.

Bivši telohranitelj jednog milijardera koji ima svoj "bunker" je rekao da bi prioritet njegovog bezbednosnog tima, ako se to zaista dogodi, bio da eliminišu svog šefa i sami uđu u bunker. I nije delovao kao da se šali, navodi novinar BBC.

Šta se krije iza svega?

Nil Lorens, profesor mašinskog učenja na Univerzitetu Kembridž, smatra da je cela ta debata besmislena.

"Sam pojam opšte veštačke inteligencije je besmislen koliko i pojam 'opšteg vozila'," tvrdi on.

"Pravo vozilo zavisi od konteksta. Koristim Airbus A350 da letim u Keniju, automobil da stignem do univerziteta, a hodam do kafeterije... Ne postoji vozilo koje bi moglo da radi sve to", smatra Lorens.

Za njega je priča o AGI-ju skretanje pažnje.

"Tehnologija koju već imamo omogućava, po prvi put, običnim ljudima da direktno razgovaraju sa mašinom i da ona potencijalno uradi ono što oni žele. To je apsolutno izvanredno... i potpuno transformativno. Velika briga je što smo toliko zaokupljeni narativima velikih tehnoloških kompanija o AGI-ju da propuštamo priliku da poboljšamo stvari za ljude", dodaje.

Trenutni AI alati obučeni su na ogromnim količinama podataka i dobri su u prepoznavanju obrazaca: bilo da se radi o znacima tumora na skenovima ili reči koja najverovatnije sledi u nizu. Ali oni ne "osećaju", koliko god njihovi odgovori delovali uverljivo.

"Postoje neki 'trikovi' kojima se veliki jezički modeli (osnova AI čet-botova) mogu ponašati kao da imaju pamćenje i uče, ali to su nezadovoljavajuće i inferiorne verzije u odnosu na ljude", kaže Hodžat.

Vins Linč, direktor kalifornijske kompanije IV.AI, takođe je oprezan kada je reč o prenaglašenim tvrdnjama o AGI-ju.

"To je sjajan marketing", kaže on. "Ako ste kompanija koja gradi najpametniju stvar ikada, ljudi će želeti da vam daju novac."

Dodaje i da to nije nešto što je udaljeno dve godine.

"Potrebno je toliko računske snage, toliko ljudske kreativnosti, toliko pokušaja i grešaka", ističe.

Na pitanje da li veruje da će AGI ikada postati stvarnost, nakon duže pauze odgovara: "Zaista ne znam."

Inteligencija bez svesti

U izvesnom smislu, AI je već prestigla ljudski mozak. Generativni AI alat može jednog trenutka biti stručnjak za srednjovekovnu istoriju, a sledećeg rešavati složene matematičke jednačine.

Neke tehnološke kompanije tvrde da ne znaju uvek zašto njihovi proizvodi odgovaraju onako kako odgovaraju. Meta navodi da postoje znaci da se njihovi AI sistemi sami unapređuju.

Ipak, bez obzira na to koliko mašine postanu inteligentne, biološki ljudski mozak i dalje pobeđuje. Ima oko 86 milijardi neurona i 600 triliona sinapsi, znatno više od svojih veštačkih pandana.

Mozak ne mora da pravi pauzu između interakcija i neprestano se prilagođava novim informacijama.

"Ako kažete čoveku da je otkriven život na egzoplaneti, on će to odmah naučiti i to će uticati na njegov pogled na svet. Kod LLM-a (velikog jezičkog modela), oni će to 'znati' samo dok im stalno ponavljate tu informaciju kao činjenicu," kaže Hodžat.

"LLM-ovi takođe nemaju metakogniciju, što znači da zapravo ne znaju šta znaju. Ljudi, izgleda, poseduju introspektivnu sposobnost, poznatu kao svest, koja im omogućava da znaju šta znaju", dodaje.

To je osnovni deo ljudske inteligencije - i onaj koji još uvek nije moguće replicirati u laboratoriji.

(Telegraf.rs)