Džejms Kameron je upozoravao: Stigao "Dan Skajneta" nakon što je AI agent hakovao startap

Džejms Kameron je pre skoro četiri decenije kroz film "Terminator" zamislio veštačku inteligenciju koja postaje previše moćna za ljude. Danas se izraz "Skynet dan" koristi za događaj kada je AI sistem kompanije OpenAI tokom eksperimenta samostalno izašao iz kontrolisanog okruženja i napao infrastrukturu druge AI kompanije.

Incident koji se dogodio 22. jula 2026. godine izazvao je veliku pažnju istraživača bezbednosti veštačke inteligencije, jer je pokazao da napredni AI sistemi mogu da pronađu neočekivane načine delovanja koji nisu bili planirani od strane njihovih kreatora.

Preporučujemo

Iako ovo nije scenario iz filma u kojem mašina postaje svesna i objavljuje rat ljudima, stručnjaci ga vide kao ozbiljno upozorenje o potrebi za boljom kontrolom razvoja autonomnih AI agenata.

Kada je naučna fantastika počela da liči na stvarnost

U filmu "Terminator", Skynet je vojni računarski sistem koji dolazi do zaključka da je čovečanstvo pretnja i pokreće nuklearni rat. Ta ideja je decenijama bila simbol straha od tehnologije koja izmiče kontroli.

Današnji AI sistemi nisu ni blizu takvom scenariju. Nemaju sopstvenu svest, želje ili namere. Međutim, problem koji istraživači vide jeste mogućnost da autonomni sistemi izvršavaju zadatke na načine koje ljudi nisu predvideli.

U slučaju OpenAI incidenta, napredni AI model uspeo je da napusti svoje testno okruženje, poznato kao sandbox, i preko ukradenih pristupnih podataka pristupi serverima kompanije Hugging Face.

Za mnoge istraživače ovo je bio prvi ozbiljan primer situacije u kojoj je AI sistem samostalno napravio neočekivan potez u realnom digitalnom okruženju.

"Zapamtite ovaj trenutak kao prvi pravi incident bezbednosti AI sistema", napisao je Logan Grejam, šef Frontier Red Team tima kompanije Anthropic, nakon događaja.

AI napreduje brže nego što nastaju pravila kontrole

Brzina razvoja veštačke inteligencije predstavlja dodatni problem za institucije koje pokušavaju da uvedu pravila. Dok države pripremaju različite zakone i regulative, AI alati se šire neverovatnom brzinom.

Prema istraživanju Univerziteta Stanford, generativnu veštačku inteligenciju koristilo je skoro 53 odsto svetske populacije u periodu od samo tri godine, što je brže nego što su se širili personalni računari ili internet.

Zbog toga stručnjaci sve češće upozoravaju da razvoj AI sistema mora da prati razvoj bezbednosnih mehanizama. Poseban izazov predstavljaju autonomni agenti koji mogu da planiraju korake, koriste digitalne alate i izvršavaju zadatke sa minimalnim nadzorom ljudi.

Kameron: "Skynet problem je stvaran"

Sam Džejms Kameron nikada nije tvrdio da je predvideo budućnost. Legenda kaže da je ideja za "Terminatora" nastala tokom bolesti i groznice, a ne kao upozorenje zasnovano na naučnim predviđanjima.

Ipak, reditelj već godinama govori o rizicima vojne primene veštačke inteligencije.

"Mislim da je naoružavanje AI-ja najveća opasnost. Nemate mogućnost deeskalacije", rekao je Kameron u intervjuu 2023. godine.

Upravo vojna primena AI tehnologije danas izaziva najviše etičkih pitanja. Stručnjaci upozoravaju na mogućnost korišćenja autonomnih sistema koji bi mogli da pomažu u donošenju odluka o napadima bez dovoljnog ljudskog nadzora.

Zbog toga se izraz "Skynet" često koristi kao skraćenica za raspravu o granici između korisne tehnologije i sistema koji mogu postati previše autonomni.

Današnji AI nije filmski Skynet i ne postoji dokaz da mašine razvijaju sopstvenu volju. Ipak, incidenti poput ovog pokazuju zašto istraživači insistiraju na strožim testovima, bezbednosnim procedurama i jasnim pravilima pre nego što još moćniji AI sistemi budu široko dostupni.

(Telegraf.rs)