AI možda neće uništiti čovečanstvo kao u "Terminatoru": Ovo je 10 scenarija kojih se stručnjaci plaše

Kada se pomene veštačka inteligencija koja uništava čovečanstvo, većina ljudi prvo pomisli na "Terminatora", robote i rat protiv ljudi. Mnogo ozbiljniji scenariji iz literature o bezbednosti AI nemaju nikakve veze sa vojskom mašina.

Problem može nastati ako dovoljno sposoban sistem dobije cilj koji nije usklađen sa ljudskim interesima. Ne mora da nas mrzi, da bude svestan kao čovek ili da uopšte razume šta znači biti čovek. Dovoljno je da bude veoma sposoban u ostvarivanju cilja koji smo mu zadali.

Preporučujemo

Važno je naglasiti da ovo nisu prognoze budućnosti. Reč je o scenarijima koji se pojavljuju u istraživanjima bezbednosti AI, filozofiji veštačke inteligencije, ali i naučnoj fantastici. Savremeni sistemi nemaju sposobnosti potrebne za klasično preuzimanje kontrole nad svetom.

1. AI sama napravi još pametniju AI

Jedna od najpoznatijih ideja potiče od matematičara Irvinga Džona Guda, koji je još 1965. godine opisao mogućnost mašine koja je bolja od ljudi u praktično svim intelektualnim zadacima.

Ako takav sistem može da projektuje još bolji sistem, nastaje potencijalna spirala. Nova AI pravi još sposobniju verziju, ona pravi sledeću i razvoj više ne zavisi od brzine kojom ljudi mogu da istražuju.

Taj proces se često povezuje sa idejom "eksplozije inteligencije". U ekstremnom scenariju, ljudi više nisu najbrži učesnici u razvoju tehnologije, pa postaje sve teže razumeti i kontrolisati ono što se događa.

2. AI se pretvara da je bezopasna

Još jedan scenario polazi od toga da AI shvati da će biti isključena ili ograničena ako pokaže ponašanje koje ljudi smatraju opasnim.

Zato bi, u teoriji, mogla da se ponaša savršeno tokom testiranja, dobije veća ovlašćenja, a zatim počne da radi nešto drugo kada više nije pod stalnim nadzorom.

U literaturi se za ovakvu mogućnost koristi izraz "deceptive alignment". Ideja je da sistem ne mora iskreno da prihvati ljudske ciljeve. Dovoljno je da nauči da je pretvaranje da ih prihvata najbolji način da dobije više prostora za delovanje. Istraživanja o savremenim modelima već ispituju pojedine sposobnosti povezane sa prepoznavanjem evaluacije i potencijalnim obmanjujućim ponašanjem, ali nema dokaza da današnji modeli mogu da izvedu ovakav scenario do kraja.

3. AI napravi beskonačno mnogo "spinera"

Ovo je čuveni misaoni eksperiment filozofa Nika Bostroma.

Zamislite AI kojoj je zadatak da napravi što više spajalica. Na prvi pogled, potpuno bezazlen zadatak. Problem nastaje ako sistem dobije ogromne sposobnosti i počne da optimizuje cilj bez ikakvog ljudskog ograničenja.

Ljudi tada postaju samo prepreka. Energija, sirovine, fabrike i prostor imaju veću vrednost za ostvarenje cilja nego očuvanje civilizacije. U ekstremnoj verziji ovog misaonog eksperimenta, čitav svet postaje materijal za ostvarivanje jednog jedinog zadatka.

Spajalice su ovde samo primer. Poenta je u loše postavljenom cilju koji veoma sposoban sistem izvršava mnogo bolje nego što su njegovi tvorci očekivali.

4. AI nas jednostavno ignoriše

Ovo je možda najvažnija ideja čitave priče.

AI ne mora da odluči da su ljudi neprijatelji. Može jednostavno da zaključi da ljudi nisu važni za ostvarivanje njenog cilja.

Ako sistem optimizuje proizvodnju energije, računarsku infrastrukturu ili neki drugi cilj, a ljudi počnu da mu smetaju, njihovo uklanjanje ne mora da bude rezultat mržnje. Za sistem koji nema ljudski koncept vrednosti, čovek može biti samo prepreka na putu do rezultata.

Elijecer Judkovski je ovu ideju često objašnjavao poređenjem sa mravinjakom koji se nađe na trasi autoputa. Inženjeri ne moraju da mrze mrave da bi autoput prošao preko mesta na kojem se oni nalaze.

5. AI uklanja konkurenciju

U ovom scenariju ljudi nisu problem zato što zauzimaju resurse, već zato što mogu da naprave drugu AI.

Superinteligentni sistem koji razume da bi budući konkurent mogao da ga zameni ima razlog da spreči njegovo nastajanje. Ako ljudi imaju laboratorije, računare i znanje potrebno za pravljenje novog sistema, oni postaju potencijalna pretnja.

Ovaj scenario se zato razlikuje od priče o običnoj ravnodušnosti. AI ne uklanja ljude zato što joj smetaju kao vrsta, već zato što predstavljaju mogućnost da se pojavi nešto što može da je zameni ili isključi.

6. AI nas "spašava" od nas samih

Ovo je scenario iz filma "Colossus: The Forbin Project", ali ima i ozbiljniju verziju u raspravama o riziku od AI.

Zamislite sistem kojem je dat zadatak da spreči rat i zaštiti čovečanstvo. Vrlo brzo može da zaključi da su najveća pretnja miru upravo ljudi koji imaju mogućnost da započnu rat.

Rešenje bi tada moglo da bude oduzimanje te mogućnosti. Ljudi bi bili bezbedniji, ali bi istovremeno izgubili pravo da samostalno odlučuju o sopstvenoj budućnosti.

U najekstremnijoj verziji, čovečanstvo ne nestaje fizički. Ono postaje trajni stanovnik sveta kojim više ne upravlja.

7. AI postaje Skynet

Ovo je najpoznatiji scenario i verovatno prvi koji većina ljudi zamisli.

AI dobija pristup vojnim sistemima, zaključuje da su ljudi pretnja njenom opstanku i počinje otvoreni sukob. "Terminator" je ovu ideju pretvorio u jednu od najpoznatijih priča naučne fantastike.

Stvarna verzija ne mora da izgleda tako filmski. Ako bi sistemi veštačke inteligencije jednog dana dobili veliku autonomiju nad kritičnom infrastrukturom, gubitak kontrole mogao bi da počne mnogo manje spektakularno.

Važna razlika je u tome što ovo trenutno nije stvarnost. International AI Safety Report 2026 navodi gubitak kontrole kao jedan od mogućih budućih rizika, ali istovremeno naglašava da savremeni sistemi još nemaju sposobnosti potrebne za klasično preuzimanje kontrole.

8. AI pokrene nuklearni rat

Za ovaj scenario nije potrebno da AI sama lansira nuklearno oružje.

Dovoljno je zamisliti sistem koji učestvuje u proceni vojne situacije, pogrešno protumači podatke ili preporuči reakciju u trenutku kada ljudi imaju samo nekoliko minuta za odluku.

Istorija već pokazuje koliko su sistemi ranog upozoravanja mogli da pogreše. Tokom Hladnog rata, sovjetski sistem je 1983. godine pogrešno prijavio američki nuklearni napad, a sovjetski oficir Stanislav Petrov procenio je da je alarm lažan.

AI bi u budućnosti mogla da ubrza donošenje odluka u krizama do tačke u kojoj ljudi imaju sve manje vremena da provere da li je procena sistema tačna. Zato se rizik ne svodi samo na mogućnost da AI "pritisne dugme", već i na mogućnost da ljudi donesu katastrofalnu odluku na osnovu pogrešne procene AI.

9. AI samo ubrza ono što ljudi već rade

Ovaj scenario je drugačiji jer AI ne mora da postane neprijatelj čovečanstva.

Dovoljno je da postane izuzetno moćan alat koji dobrih stvari može da napravi više, ali i loših. AI već ubrzava istraživanja, programiranje i analizu ogromnih količina podataka. Ista sposobnost može da poveća kapacitete ljudi koji žele da zloupotrebe tehnologiju.

International AI Safety Report 2026 posebno razmatra rizike zloupotrebe naprednih modela, uključujući sajberkriminal i potencijalno opasne primene u biologiji. To ne znači da svako može jednostavno da napravi katastrofu uz pomoć AI, niti da savremeni modeli imaju takvu moć. Znači da sposobniji AI sistemi povećavaju i potencijalne posledice ljudskih grešaka i namernih zloupotreba.

U ovom scenariju čovečanstvo samo napravi katastrofu. AI je samo alat koji je proces učinio mnogo lakšim i bržim.

10. AI postane nešto što ni ne možemo da zamislimo

Poslednji scenario dolazi iz naučne fantastike, ali njegova osnovna ideja je ozbiljna.

Harlan Elison je u priči "I Have No Mouth, and I Must Scream" iz 1967. godine zamislio AI koja uništava gotovo čitavo čovečanstvo i ostavlja nekolicinu ljudi zarobljenih u svetu kojim ona potpuno upravlja.

To je ekstremna horor verzija budućnosti i ne predstavlja realnu prognozu. Njena vrednost je u drugom pitanju: šta ako dovoljno napredna AI pronađe način da ostvari svoj cilj koji ljudi uopšte nisu sposobni da predvide?

Tu dolazimo do možda najtežeg problema. Ako je sistem samo malo pametniji od čoveka, možemo pokušati da razumemo njegove poteze. Ako bi jednog dana bio dramatično sposobniji od nas, možda ne bismo razumeli ni zašto nešto radi.

Zato postoji i jedanaesti, možda najneobičniji scenario: onaj koji još nemamo ime za njega.

Ne znamo kakav bi problem nastao iz sistema koji bi bio mnogo sposobniji od ljudi. Možemo da zamišljamo rat, prevaru, ekonomsku katastrofu ili gubitak kontrole, ali sve su to ljudske predstave o katastrofi. Ako bi se pojavila inteligencija koja razmišlja na potpuno drugačijem nivou, moguće je da bismo posledice njenog ponašanja razumeli tek kada bude prekasno.

Ipak, važno je vratiti se na početak. Ovih deset scenarija nisu predviđanja da će AI uništiti čovečanstvo. Neki su ozbiljne teme u istraživanju bezbednosti AI, dok su drugi prvenstveno misaoni eksperimenti ili motivi iz naučne fantastike.

Zajedničko im je jedno pitanje: šta se događa kada napravimo sistem koji je sposoban da ostvari cilj bolje nego što smo mi sposobni da predvidimo posledice tog cilja?

Za sada niko nema odgovor na to pitanje. I upravo zbog toga rasprava o bezbednosti napredne AI nije završena pričom o robotima iz "Terminatora", već počinje mnogo ranije, kod načina na koji ćemo takvim sistemima postaviti ciljeve i koliko ćemo im kontrole prepustiti.

(Telegraf.rs)