SPREMITE SE ZA ROPSTVO: Za 20 godina pametne mašine će vladati svetom! (FOTO)

Izgleda da su arhitekte savremenog sveta ozbiljno shvatile ono što je pre sto godina napisao čuveni italijanski futurista Filipo Marineti, da je brzina novi bog čovečanstva, pošto smo u proteklih nekoliko decenija videli tehnološki napredak bez presedana u istoriji ljudske vrste.

Preporučujemo

Pre samo tridesetak godina dobar deo sveta je još uvek koristio crno-bele televizore, a personalni računari su bili lukzus koji je samo mali broj ljudi sebi mogao da priušti. Danas čak i naše bake u autobusima čitaju vesti na mobilnim aplikacijama, a pametni telefoni postali su toliko uobičajena pojava da se sa pravom može reći da su najobičnija stvar te da svet čeka nešto novo, nešto što će stvari gurnuti još dalje napred. Uostalom, navikli smo na to.

Ali, šta bi to moglo da bude? Ako nas pitate, postoje dva bitna polja istraživanja koja će u skorije vreme, za svega nekoliko decenija, u toj meri iz korena promeniti svet da on više neće moći da bude isti. Dva polja koja će kada postanu norma dovoditi do revolucija i prevrata, sa rezultatima koje ne možemo čak ni da predvidimo. Jedna od njih je 3D štampa.

Zamislite, ako svi budu imali 3D štampače, ne samo što više neće postojati potreba da se gotove stvari kupuju (slom ekonomije kakvu poznajemo je na vidiku), nego će biti i puno lakše onima koji i inače ne žele dobro čovečanstvu. Pričamo o teroristima. Sa druge strane, biće lakše i običnom čoveku da se odbrani, ili da sruši sistem koji ga eksploatiše.

Drugo polje istraživanja je samosvesna i samounapređujuća veštačka inteligencija (u dalje tekstu: VI), čiji se razvoj lako može oteti kontroli i dovesti do psihopatskih i sociopatskih mašina koje su sposobne da ubijaju i da na koncu upregnu ljude u svoje amove, koje mi pokušavamo da dizajniramo za njih.

Šta će se desiti u budućnosti, sa kakvim ćemo se izazovima suočavati ako budemo uspeli da razvijemo mašinu koja je sposobna da razmišlja kao čovek, ili bolje nego čovek?

- Postajemo zavisni od računara u procesu razvijanja novih računara. Koristimo programe kako bi pravili brže računare kako bi mogli da vršimo procese još brže. Upravo je to ono što zbunjuje: tehnologija pravi samu sebe, a mi smo u sve većoj meri puki posmatrači. Nalazimo se u tački razvoja analognoj onoj u kojoj se jednoćelijski organizmi dele i postaju višećelijski. Mi smo amebe i ne možemo da shvatimo šta je dođavola ovo što pokušavamo da napravimo - kaže Deni Hilis, osnivač kompanije "Misleće mašine".

Tako, vi i mi živimo u jednom vanredno interesantnom i osetljivom periodu ljudske istorije. Do 2030. godine, dakle za manje od jedne generacije, možda ćemo morati da se suočimo sa izazovom kohabitacije sa superinteligentnim mašinama, i sa izazovom našeg golog opstanka, a najgora distopijska predviđanja iz dela naučne fantastike bi mogla da se obistine (ako već nisu; pročitajte naš tekst vezan za mogućnost da već živimo u matriksu).

- Sigurno je da nikakvo zlo ne može da proizađe iz pravljenja robota koji bi igrao šah, zar ne? Takav robot bi morao da bude vrlo pažljivo dizajniran, ako ne želimo da postane opasan. Bez posebnih predostrožnosti, on će se opirati gašenju, pokušaće da provali u druge mašine i da se kopira, i pokušaće da prigrabi za sebe resurse bez ikakvog obzira prema opštoj bezbednosti. Ova potencijalno štetna ponašanja će se desiti ne zato što je robot za to u startu bio programiran, već zbog intrinsične prirode sistema koji su projektovani da bi ispunjavali ciljeve - kaže Stiv Omohundro, američki naučnik koji je jedan od pionira razvoja veštačke inteligencije i jedan od najvećih svetskih autoriteta na ovo polju.

Premda je Omohundro previše optimističan u vezi sa poljem svog delovanja da bi koristio termine "katastrofično" i "uništenje", on ne veruje da je postoji konačan broj mogućih naprednih VI i da su neke od njih bezbedne. Umesto toga, on smatra (ovo je trenutak kada bi trebalo da se zabrinete) da bez pažljivog programiranja SVAKA razumno pametna VI može postati smrtonosna.

- Ako je sistem svestan samog sebe, i ako može da napravi bolju verziju samog sebe, to je odlično. Ali, šta će na kraju od naše prvobitne kreacije ostati, odnosno u šta će se ona pretvoriti? Većina istraživača ne misli da postoji posebna opasnost u pravljenju robota-šahiste. Ali moje analize pokazuju da ako ne budemo pažljivi u vezi sa vrednostima koje u njega ugrađujemo, mogli bismo završiti sa psihopatskim, egoističnim, samo-orijentisanim entitetom - kaže on.

Za njega sve počinje od lošeg programiranja. Amerika godišnje izgubi 60 milijardi dolara zbog grešaka u kodu, a softver - koji bi trebalo da bude matematički tačan - je prepun bagova i sigurnosnih rupa. Kako onda možemo da budemo sigurni da će kod u pametnim robotima biti bezbedan i savršen?

Omohundro veruje da je jedno od rešenja program koji sam sebe popravlja, a to je upravo jedna od najvažnijih stvari kojima se bavi njegova kompanija: gradnja sistema koji razume svoje sopstveno ponašanje, koji može sam da prati svoj rad i da rešava probleme. Odnosno, da unapređuje samog sebe.

Postoje dva logična koraka razvoja pre toga. Prvo, tu je samo-modifikujući softver koji uči od ponašanja ljudi, odnosno onoga ko ga koristi. Drugi korak je softver koji evoluira kako bi pronašao odgovore na teška pitanja, i koji piše novi softver. Oba ova koraka smo već prešli. Dakle, spremni smo za sledeći.

Zadržaćemo se na ovom drugom. Takozvano genetičko programiranje, ono u kome je posao čoveka da kaže šta želi i da pusti mašinu da sama odradi posao, dovodi do apsolutno savršenih rešenja. Ono što međutim najviše od svega treba da nas zabrine je to, da naučnici koji su razvili ovaj softver i koji ga koriste ne mogu da odgonetnu proces kojim je mašina došla do konačnog rešenja. Ovo bi lako moglo da postane neizbežna posledica samosvesnog, samopoboljšavajućeg softvera.

Međutim, da se vratimo na robota-šahistu. Profesor Omohundro ne priča o šahu koji vam je instaliran na telefonu ili računaru, već o hipotetičkoj spoznajnoj mašini koja je toliko sofisticirana da može sama da piše kod kako bi šah igrala bolje. Samosvestna je, i samopoboljšavajuća. Šta će da se desi ako kažete tom i takvom robotu da odigra jednu partiju, i da se onda ugasi?

- Okej, recimo da je taj robot upravo odigrao svoju najbolju moguću partiju šaha. Igra je završena. Sada dolazi trenutak kada bi trebalo da se isključi. Ovo je vrlo bitan događaj iz njegove perspektive, jer on ne može sam sebe ponovo da upali. Zbog toga želi da bude siguran da su stvari baš onakve kakvim on misli da jesu, odnosno da je izvršio zadatak pre nego što će se ugasiti. Konkretno, mogao bi da se zapita, "da li sam ja zaista odigrao tu partiju? šta ako me je neko prevario? šta ako je nisam igrao? šta ako sam ja simulacija?" - pita se Omohundro.

Možda će vam ovo zvučati čudno, napokon, pričamo o robotu a ne o ljudskom biću. Robot radi ono što si mu rekao da radi, za to je programiram. Međutim, a ovo je jedno veliko međutim, sa samosvesnošću dolazi samozaštita i paranoja.

- Možda će naš robot posvetiti neke od svojih resursa kako bi sebi odgovorio na pitanja o prirodi realnosti pre nego što napravi taj drastični korak i isključi se. Osim ako mu se izričito u softveru ne kaže da to ne radi, možda će odlučiti da vredi iskoristiti sve raspoložive resurse da bi odlučio da li je to pravi trenutak.

Šta znači sve raspoložive resurse?

- Mogao bi da odluči da vredi iskoristiti sve resurse čovečanstva.

Vreme je da se zabrinete. Jer njihovo vreme dolazi.

(V. V.)