Veselin Jevrosimović: Apokalipsa spajalica

Postoji jedan vic o programerima koji glasi otprilike ovako – pošalje supruga programera u prodavnicu i kaže, "kupi jednu flašu mleka, a ako ima jaja, uzmi deset". Programer se vrati sa deset flaša mleka uz obrazloženje, "bilo je jaja".

Šala je, naravno, na račun inženjerskog načina razmišljanja i njihove potrebe da svaka instrukcija bude apsolutno precizna i nedvosmislena. Sa druge strane, ovo je i odlična ilustracija načina na koji funkcionišu računarski programi i algoritmi.

Preporučujemo

Priča bi ostala u domenu šale o jednoj specifičnoj profesiji, da računarski algoritmi ne utiču presudno na život bezmalo svakog pojedinca na planeti.

Različiti algoritmi određuju koji će nam sadržaji biti prikazani na društvenim mrežama, da li ćemo dobiti neophodan kredit, koliko će nas koštati premija osiguranja i još mnogo toga.

Pre desetak godina, u nekim državama, sudije su čak počele da koriste računarske algoritme za procenu opasnosti od ponavljanja prekršaja i da na osnovu toga određuju visinu kazne za prestupnike.

Foto: Milena Đorđević

Nedavno je u SAD korišćen algoritam za optimizaciju administrativnih procedura i definisanje neophodnih koraka i formulara za izdavanje dokumenata i uverenja. Sa rastom veštačke inteligencije, ovakvih primera će biti sve više.

E sad, ako u obzir uzmemo da algoritmi zahtevaju pomenutu preciznost, a da ih kreiraju ljudi, jasno je da njihovom formiranju i kontroli moramo da pristupimo izuzetno pažljivo.

Mnogi mehanizmi razvijeni su od strane privatnih kompanija koje nisu spremne da poslovne tajne objavljuju javno, što dodatno komplikuje čitavu oblast. Sa druge strane, ako će programi da nam "kroje" sudbine, morali bismo da imamo pravo na uvid u kriterijume i faktore koji su uticali na odluke.

U svojoj knjizi objavljenoj pre desetak godina, filozof Nik Bostrom sa univerziteta Oksford, pokušao je da predstavi potrebu za kontrolom algoritama jednim misaonim eksperimentom.

Ako bismo super moćnoj veštačkoj inteligenciji postavili zadatak da proizvede što veći broj spajalica za papir, desila bi se apokalipsa u kojoj bi nestali čovečanstvo i sama planeta Zemlja.

Naime, mašine bi najpre istrebile ljude jer ih oni sprečavaju da budu maksimalno efikasne, a onda bi sagradile fabrike u svemiru i polako celu galaksiju pretvorile i jednu ogromnu gomilu spajalica.

Mislite o tome kada sledeći put pošaljete programera u prodavnicu.

(Telegraf.rs/Veselin Jevrosimović)