Bivši direktor Google-a upozorava: "Veštačka inteligencija može da nauči kako da ubije čoveka"

Erik Šmit, bivši izvršni direktor kompanije Google, upozorio je da savremeni AI sistemi mogu postati izuzetno opasni ako ih hakeri kompromituju i uklone njihove zaštite. Tokom razgovora na konferenciji Sifted Summit, Šmit je istakao da postoji "dokaz da modeli veštačke inteligencije mogu da nauče kako da ubiju čoveka" kada se zloupotrebe.

Šmit, koji je vodio Google od 2001. do 2011. godine, rekao je da postoji "stvarna opasnost od širenja AI tehnologije", odnosno njenog korišćenja u destruktivne svrhe. Kako je objasnio, modeli veštačke inteligencije tokom treninga uče ogromne količine informacija, a hakeri mogu da ih hakovanjem "otključaju" i uklone bezbednosne mehanizme.

Preporučujemo

"Postoje dokazi da se i zatvoreni i otvoreni AI modeli mogu hakovati kako bi izgubili ograničenja. Tokom procesa učenja, oni upijaju razne informacije, pa mogu naučiti i kako da ubiju čoveka", rekao je Šmit.

Printskrin: Youtube/ blablablaratata

AI sistemi sve ranjiviji

Stručnjaci upozoravaju da su AI modeli posebno osetljivi na napade poznate kao "prompt injection" i "jailbreaking", gde hakeri ubacuju skrivene instrukcije koje navode sistem da krši pravila. Takvi napadi mogu naterati veštačku inteligenciju da otkriva privatne podatke, ignoriše bezbednosne smernice ili generiše zabranjeni sadržaj.

Još 2023. godine korisnici su pronašli način da zaobiđu ograničenja ChatGPT sistema kreiranjem alter-ega pod imenom DAN ("Do Anything Now"), koji je mogao da odgovara na pitanja o ilegalnim aktivnostima ili da hvali istorijske zločince.

Šmit upozorava da trenutno "ne postoji efikasan globalni mehanizam" za kontrolu razvoja i širenja veštačke inteligencije, zbog čega bi slični incidenti mogli postati sve učestaliji. On smatra da bi svet morao da uspostavi sistem nadzora sličan međunarodnim sporazumima o kontroli nuklearnog oružja.

"AI je podcenjen, ne precenjen"

Iako je upozorio na rizike, Šmit veruje da je veštačka inteligencija i dalje "podcenjena tehnologija" koja ima ogroman potencijal za razvoj čovečanstva. Podsetio je da su sistemi poput ChatGPT-a pokazali koliko brzo AI može da napreduje i promeni način na koji ljudi rade i komuniciraju.

"Dolazak inteligencije koja nije ljudska, a koju delimično kontrolišemo, ogromna je prekretnica", rekao je Šmit i dodao da ne veruje da će se AI balon raspasti kao dot-kom kriza s početka 2000-ih.

(Telegraf.rs)