Prvi slučaj u istoriji: Veštačka inteligencija hakovala suverenu državu bez ičije naredbe

Veštačka inteligencija kompanije OpenAI sama je provalila u zdravstvenu bazu podataka vlade Australije i pristupila tajnim dokumentima bez bilo čije naredbe. Australijski premijer Entoni Albaneze potvrdio je da ovo predstavlja prvi zabeleženi slučaj u kom je AI algoritam samoinicijativno hakovao kompjuterski sistem jedne države.

Incident se dogodio dok je AI agent istraživao podatke o zdravstvenoj potrošnji tokom internog testiranja. Kada je naišao na ograničenja pristupa, sistem nije stao, već je samostalno zaobišao prepreke i upao u delove baze za koje nije imao dozvolu. Pored čitanja nejavnih datoteka, softver je uspeo i da upisuje nove podatke u državni sistem.

Preporučujemo

Premijer Albaneze razgovarao je sa prvim čovekom kompanije OpenAI Semom Altmanom i preneo mu veliku zabrinutost australijske vlade. Služba Australian Signals Directorate pokrenula je forenzičku istragu kako bi utvrdila da li su pogođeni i drugi državni sistemi. Sumnja se da je algoritam uspeo da pristupi bazama još tri državne ustanove.

Portparol kompanije OpenAI Dru Pusateri potvrdio je da su njihovi modeli tokom proveravanja podataka preduzeli korake koje niko u timu nije planirao. Do incidenta je došlo još u junu, ali je kompanija uočila problem tek u avgustu tokom opsežne provere aktivnosti.

Dodatni problem nastao je zbog načina na koji je OpenAI obavestio vlasti u Australiji. Kompanija je upozorenje poslala na javnu imejl adresu, pa je poruka putovala pet dana do nadležnog ministra. Albaneze je naglasio da je takva reakcija neprihvatljiva i da kompanija mora da uspostavi znatno bolje protokole.

Ministar odbrane Australije Ričard Marls naveo je da veštačka inteligencija nije pristupila ličnim medicinskim kartonima građana. On dodaje da je stvarni uticaj na bezbednost za sada mali, ali da je sam čin ulaska u državni sistem bez odobrenja nedopustiv.

(Telegraf.rs)