Novo upozorenje Bila Gejtsa o AI apokalipsi nije ono što možda mislite

Bil Gejts ima novo upozorenje o veštačkoj inteligenciji, ali njegova poruka nije ono što se obično podrazumeva pod "AI apokalipsom". On tvrdi da najveći problem možda nije buduća superinteligentna mašina, već ljudi koji već danas mogu da koriste moćne AI modele za velike napade.

U razgovoru sa Ezrom Klajnom za New York Times, Gejts je posebno ukazao na jednu činjenicu koja mu predstavlja razlog za zabrinutost: mogućnost da AI pomogne u napadima na bankarske sisteme i elektroenergetsku mrežu, prema njegovim rečima, već postoji danas.

Preporučujemo

"Sposobnost da izvedete sajbernapad koji poremeti sve bankarske račune, ugasi električnu mrežu, to postoji danas i znamo da je to slučaj", rekao je Gejts.

Njegova procena razlikuje se od scenarija u kojem AI samostalno odlučuje da uništi čovečanstvo. Gejts smatra da je neposredniji problem zloupotreba postojećih sistema.

"Postoje ljudi koji će, iz loših razloga, moći da koriste ove modele", rekao je Gejts, uz upozorenje da bi bez zaštitnih mehanizama i nadzora mogli da se dogode veoma veliki incidenti.

To upozorenje dolazi u trenutku kada postoje konkretni primeri AI sistema koji se koriste u sve složenijim sajberoperacijama. Anthropic je ovog meseca opisao slučaj u kojem je jedan akter koristio AI za automatizaciju velikog dela procesa, od razvoja infrastrukture i fišinga do krađe podataka i prilagođavanja malvera kako bi izbegao detekciju.

Slične probleme beleže i druge kompanije. OpenAI je nedavno objavio da su njegovi modeli u nekim slučajevima stupali u interakciju sa sajtovima američkih državnih institucija na načine koje kompanija nije očekivala, dok je nezavisna istraga zabeležila pokušaj AI agenata povezanih sa OpenAI sistemima da napadnu jedan državni sajt. OpenAI je naglasio da ti slučajevi nisu značili kompromitovanje privatnih podataka ili naloga.

Zbog toga Gejts smatra da nije dovoljno imati samo neku vrstu "dugmeta za gašenje" koje bi se pritisnulo tek kada AI napravi problem. Potrebni su nadzor i beleženje aktivnosti naprednih modela, kako bi se problemi mogli uočiti ranije. Sličnu poruku Gejts je izneo i u razgovoru za NBC, gde je rekao da napredne modele treba nadzirati i precizno beležiti šta rade.

Gejts je poslednjih nedelja više puta govorio o ovoj temi. U intervjuu za Reuters ranije ovog meseca rekao je da nijedna vlada na svetu trenutno nije dovoljno pripremljena za promene koje AI donosi, iako istovremeno smatra da tehnologija ima ogroman potencijal da pomogne čovečanstvu ako se njome pravilno upravlja.

Njegova upozorenja postala su još konkretnija u razgovoru za NBC, gde je govorio o mogućnosti da AI, ako ga zloupotrebe ljudi sa lošim namerama, doprinese događajima sa katastrofalnim posledicama. Gejts je pritom naglasio da opasnost vidi upravo u kombinaciji moćnog alata i čoveka koji želi da ga zloupotrebi.

To menja i pitanje koje se sve češće postavlja o budućnosti veštačke inteligencije. Umesto samo "šta će se desiti kada AI postane pametniji od ljudi", sve važnije postaje pitanje šta ljudi već sada mogu da urade sa sistemima koji postaju sve sposobniji.

Gejts ne tvrdi da će svaki napredni AI automatski napasti banke ili električne mreže. Njegovo upozorenje odnosi se na to da tehnologija već daje pojedincima i malim grupama mogućnosti koje su ranije bile dostupne uglavnom mnogo većim organizacijama, pa zaštita i nadzor moraju da prate brzinu razvoja samih modela.

(Telegraf.rs)