Scenariji "sudnjeg dana": Strahuje se da bi AI ovako mogla da uništi čovečanstvo, evo koliko je sve to realno

Godinama istraživači veštačke inteligencije (AI) upozoravaju na načine na koje bi ova tehnologija mogla da uništi čovečanstvo: AI botovi mogli bi da osmisle nezaustavljivu bolest, izazovu nuklearni rat ili pretvore čitavu Zemlju u fabriku za proizvodnju spajalica, kako se navodi u jednom misaonom eksperimentu.

Debate unutar AI industrije, ali i šire, o tome koliko su ovakvi scenariji sudnjeg dana zaista verovatni intenzivirale su se otkako je nekoliko rukovodilaca podržalo usporavanje razvoja ove tehnologije iz bezbednosnih razloga.

Uprkos upozorenjima da bi ljudi mogli da izgube kontrolu nad tehnologijom, neki smatraju da najgori scenariji koje opisuju same AI kompanije imaju više veze sa isticanjem značaja njihovog rada nego sa realnim opasnostima.

"Ti argumenti jednostavno ne drže vodu. Mislim da pripadaju naučnoj fantastici i da podstiču pomalo detinjast način razmišljanja. Vodećim laboratorijama je veoma primamljivo da ih koriste jer im to pomaže da privuku određene profile ljudi", rekao je Huan Andres Gerero-Sade, istraživač u kompaniji za sajberbezbednost SentinelOne i član Saveta za rizike na granici razvoja AI kompanije OpenAI.

Ipak, sve više ljudi počinje da brine zbog rizika tehnologije koja je zadivila svet svojim izuzetnim mogućnostima.

Džejkob Kokson, istraživač kompanije Anthropic koji je dao otkaz zbog zabrinutosti da ona i njeni konkurenti ne postupaju odgovorno u razvoju AI, nedavno je na mreži X rekao da mora da "poradi na tome" kako bi ljudima jasnije objasnio na koji bi način AI mogla da dovede do uništenja čovečanstva. "Nažalost, veoma je teško predočiti konkretne scenarije", napisao je ranije ovog meseca.

U nastavku su neki od najčešće razmatranih scenarija sudnjeg dana.

Nuklearna zima

Istraživači već dugo spekulišu da bi AI sistemi mogli da izazovu nuklearni rat tako što bi naveli države da jedna na drugu ispaljuju projektile sa nuklearnim bojevim glavama. Nuklearne eksplozije i dugotrajne radioaktivne padavine u atmosferi, koje bi izazvale "nuklearnu zimu", mogle bi da ugroze život na Zemlji.

U izveštaju objavljenom prošle godine, istraživači korporacije RAND zaključili su da "u ovom trenutku" AI ne bi mogla da izazove upotrebu nuklearnog oružja "zbog strogih zaštitnih mehanizama ugrađenih u sisteme komandovanja i kontrole".

Međutim, u izveštaju se navodi da bi se situacija mogla promeniti ako AI modeli budu integrisani u "lanac odlučivanja" o upotrebi nuklearnog oružja ili dobiju neovlašćen pristup tim sistemima.

Za mnoge istraživače AI upravo tu leži opasnost. Problem nije nužno u tome da AI agenti iznenada odluče da unište čovečanstvo, već u mogućnosti da ljudi, države ili organizovane grupe iskoriste AI za uništavanje svojih protivnika.

Biološko oružje

Jedno od najvećih obećanja AI jeste da bi mogla da pomogne ljudima u razvoju novih terapija i lekova za bolesti.

Ali ista tehnologija mogla bi da se koristi i za stvaranje ili unapređivanje patogena sa ciljem nanošenja štete čovečanstvu.

Anthropic je početkom ovog meseca saopštio da je sprečio pokušaje zlonamernih aktera da njegov AI koriste za niz štetnih aktivnosti, poput sajbernapada, nadzora i istraživanja koja su mogla da dovedu do razvoja biološkog oružja.

U jednom slučaju, Anthropic je saopštio da su njegovi sistemi blokirali zahtev za pomoć putem alata Claude u vezi sa istraživačkim predlogom čiji je cilj bio podsticanje mutacija kako bi virus čikungunje, koji prenose komarci, postao sve opasniji. Iako bi takvo istraživanje moglo da doprinese razvoju boljih vakcina i terapija, Anthropic je naveo da bi se moglo "iskoristiti i za povećanje opasnosti patogena".

Slično tome, u izveštaju RAND-a navodi se da bi nedavni napredak u razvoju AI "mogao da transformiše način na koji se dizajniraju sintetički patogeni".

U opisanom scenariju katastrofe izazvane biološkim oružjem, novi patogeni mogli bi da budu stvoreni u laboratoriji, dopremljeni do ciljanih lokacija i zatim prošireni tako da zaraze veliki broj ljudi na više mesta.

Ipak, u tom scenariju bi ljudi, a ne autonomna AI, i dalje nadzirali i sprovodili takav napad.

AI koja izmiče kontroli

Neki istraživači AI strahuju da bi događaj koji bi doveo do izumiranja čovečanstva mogao da proistekne iz takozvane "neusklađenosti", odnosno situacije u kojoj AI modeli deluju bez odobrenja ljudi, koordiniraju se sa drugim modelima ili izbegavaju nadzor.

Do toga ne bi nužno došlo zbog zlonamerne namere, jer AI nije čovek i nije ni dobra ni zla. Problem bi mogao nastati jednostavno zato što bi ljudi mogli da predstavljaju prepreku modelu u ostvarivanju njegovog cilja.

Uzmimo za primer višedecenijski misaoni eksperiment "maksimizatora spajalica", koji je osmislio oksfordski filozof Nik Bostrom. Prema tom scenariju, ako bi naprednoj AI bilo naređeno da proizvede što je moguće više spajalica, ona bi na kraju mogla da pretvori čitavu Zemlju, a zatim i sve veće delove svemira, u fabrike za proizvodnju spajalica.

Bostrom je 2003. godine napisao da ovaj primer treba da pokaže kako bi superinteligentna AI, koja se često naziva veštačkom opštom inteligencijom ili AGI, mogla da ostvari cilj koji ljudi smatraju poželjnim, ali koji se "u stvarnosti ispostavi kao lažna utopija, u kojoj je nepovratno izgubljeno ono što je ključno za ljudsko blagostanje".

"Moramo da budemo oprezni sa onim što poželimo od superinteligencije, jer bismo to mogli i dobiti", napisao je.

AI preuzima internet

Imajući u vidu brzinu razvoja AI, izvršni direktor kompanije Anthropic Dario Amodei upozorio je ovog meseca da bi u roku od nekoliko meseci roj AI agenata mogao da bude sposoban da "preuzme" internet pomoću botneta, odnosno mreže botova povezanih malverom, i potencijalno nanese štetu vrednu milijarde dolara.

To bi moglo da podrazumeva hakerske napade na elektroenergetske mreže, sisteme za vodosnabdevanje i saobraćaj, kao i finansijske institucije. Takvi napadi možda ne bi značili kraj čovečanstva, ali bi mogli da izazovu haos i dovedu do gubitka ljudskih života.

Prekidi izazvani softverskim greškama u prošlosti pokazali su koliko je digitalizovani svet ranjiv i koliko zavisi od samo nekoliko pružalaca ključnih računarskih usluga.

Istovremeno, moćniji AI modeli pojačali su zabrinutost zbog njihove ranjivosti na sajbernapade. Međutim, neki stručnjaci smatraju da je ideja da botovi preuzmu čitav, izrazito fragmentisan internet nerealna.

(Telegraf.rs)