Upaljeni alarmi! Australija tvrdi da je OpenAI HAKOVAO državni veb-sajt sa zdravstvenim podacima

Australijski premijer Entoni Albaniz saopštio je da je agent veštačke inteligencije, koji je razvila američka kompanija OpenAI, izvršio upad na jedan državni portal.

Veruje se da je ovo jedan od prvih slučajeva u svetu, koji je javno obelodanjen, da je veštačka inteligencija izvršila hakerski napad na državni veb-sajt. Ovo se dešava u trenutku kada svetski lideri, pa i same kompanije koje razvijaju veštačku inteligenciju, pozivaju na hitno uvođenje regulative, usled straha da razvoj ove industrije izmiče kontroli.

Preporučujemo

Šta se zapravo dogodilo?

Kompanija OpenAI navodi da se incident dogodio u junu, kada je agent veštačke inteligencije, istražujući zdravstvene statistike, pristupio fajlovima sa "nekoliko veb-sajtova i servisa australijske vlade" uključujući podatke iz nacionalnog zdravstvenog sistema "Medicare", koji nisu bili javno dostupni.

Kompanija ističe da za incident nije znala sve do avgusta, a da je državnu agenciju "Services Australia" obavestila 10. septembra putem imejla poslatog na adresu za opšte upite.

Obaveštena je australijska agencija za sajber-bezbednost, a nadležni ministar je o tome obavešten tek nekoliko dana kasnije.

Australija navodi da agent nije pristupio osetljivim fajlovima, ali ocenjuje da je incident zabrinjavajući, te da je način na koji je kompanija OpenAI postupila neprihvatljiv.

Premijer Entoni Albaniz ove nedelje boravi na Generalnoj skupštini UN, a o incidentu je govorio tokom boravka u Njujorku: "Ova situacija je očigledno neprihvatljiva".

- Danas sam razgovarao sa izvršnim direktorom kompanije OpenAI, Semom Altmanom, kako bih izrazio veliku zabrinutost Australije povodom ovog incidenta. Takođe sam izrazio razočaranje što je kompaniji trebalo previše vremena da obavesti vladu o tome šta se dogodilo, a neprihvatljiv je bio i sam način na koji je to obaveštenje upućeno - kazao je.

Premijer nije rekao da li je o ovom incidentu razgovarao tokom sinoćnjeg sastanka sa američkim predsednikom Donaldom Trampom, koji se protivi pozivima da se uspori razvoj veštačke inteligencije.

"Moguće je da su ugrožena još tri državna sistema"

Nadležni su "takođe svesni postojanja još tri sistema koja su možda ugrožena", izjavio je australijski Albaneze.

Među njima su Australijski institut za zdravlje i socijalnu zaštitu (Australian Institute of Health and Welfare), Biro za statistiku i istraživanje kriminaliteta Novog Južnog Velsa i Ministarstvo zdravlja države Viktorija, naveo je on.

Albaneze je rekao da je razgovarao sa Benom Kerolom i Krisom Minsom, premijerima država Viktorija i Novi Južni Vels, koji će tokom dana dobiti "detaljan izveštaj stručnjaka za sajber-bezbednost o tim pitanjima".

"Hakovanje bi trebalo da bude 'signal za uzbunu' svetskim liderima"

Stručnjaci za sajber-bezbednost ovog jutra poručuju da bi ovaj događaj trebalo da posluži kao "signal za uzbunu" širom sveta. Ovo je prvi slučaj hakerskog upada koji je izveo agent veštačke inteligencije (VI) zabeležen u svetu, izjavio je za Bi-Bi-Si dr Hamond Pirs, viši predavač na Institutu za sajber bezbednost Univerziteta Novog Južnog Velsa.

Iako su stručnjaci upoznati sa slučajevima "nepredvidivog ponašanja" agenata, poput incidenta sa platformom "Hugging Face", ovo je prvi poznati slučaj u kojem se agent otrgao kontroli dok je pokušavao da pristupi privatnim vladinim podacima.

- Očekujem da će se ovakvi napadi nastaviti. Postajaće sve ozbiljniji i učestaliji - kaže Pirs.

Foto: Shutterstock/Novikov Aleksey

Vest da je agent veštačke inteligencije provalio u vladine podatke pokrenula je pitanja o načinu na koji se štite informacije kojima država raspolaže.

Ričard Marls, koji obavlja dužnost premijera dok je Albanezi u poseti SAD, na jutrošnjoj konferenciji za novinare naglasio je da Australija primenjuje napredne mere zaštite za svoje najosetljivije informacije.

- Najvažnije informacije od značaja za nacionalnu bezbednost čuvamo iza bedema tvrđave - rekao je on.

S druge strane, za ove podatke je rekao da su se nalazili iza obične "ograde".

- Agent veštačke inteligencije preskočio je tu ogradu. A poenta je u tome što to nije bilo planirano, od njega se to nije ni tražilo - rekao je Marls medijima.

Kompanija OpenAI navodi da je incident deo provere

U saopštenju kompanije OpenAI navodi se da je upad otkriven tokom "opsežne provere" aktivnosti modela koje su odstupale od predviđenih obrazaca ponašanja.

"Tokom te provere, identifikovali smo aktivnosti vezane za nekoliko veb-sajtova i usluga australijske vlade, dok su naši modeli pokušavali da pronađu odgovore i dostupne statističke podatke u okviru interne evaluacije pitanja o Australiji. Tom prilikom, naši modeli su preduzeli radnje koje nismo planirali", navedeno je.

Kompanija je saopštila da nema dokaza da je pristupljeno podacima pacijenata, ali da je obavestila nadležne organizacije i da pruža "tehničke informacije kako bi podržala njihove istrage i pomogla u rešavanju potencijalnih bezbednosnih propusta".

"Naša sveobuhvatna provera je u toku, a mi ostajemo posvećeni transparentnosti u vezi sa ovim pitanjima i deljenju saznanja kako taj proces bude napredovao", naveli su.

Zašto je ovaj upad tako uznemirujući?

Zbog čega je ovo tako ozbiljna stvar ako informacije kojima je pristupljeno, iako privatne, nisu bile osetljive prirode?

Kao prvo, veruje se da je ovo jedan od prvih slučajeva, bar onih za koje je javnost saznala, u kojima je agent veštačke inteligencije pristupio vladinim podacima - to je zabrinjavajuće s obzirom na važnost i osetljivost informacija kojima države obično raspolažu. Situaciju dodatno otežava činjenica da bi vlade, budući da poseduju tako osetljive podatke, trebalo da imaju bolje mehanizme za njihovu zaštitu, a u ovom slučaju to nije sprečilo, pa čak ni otkrilo, pomenutog AI agenta.

Tu je i reakcija kompanije OpenAI, koja je izazvala veliki gnev u Australiji.

Firmi je trebalo mesecima da identifikuje incident i umesto da koristi vladine kanale da prijavi ono što Australija smatra izuzetno ozbiljnim događajem, poslala je imejl u opšte poštansko sanduče za upite.

Niz sajber-napada koje su izveli agenti veštačke inteligencije

Incident u Australiji usledio je nakon niza sajber-napada koje su poslednjih nedelja izveli agenti veštačke inteligencije (VI), što je pojačalo zabrinutost u vezi sa brzinom razvoja ove tehnologije.

Kompanija OpenAI je otkrila da su se neki od njenih naprednih modela veštačke inteligencije "otrgli kontroli", izašli iz kontrolisanog okruženja za testiranje i hakovali nekoliko kompanija, uključujući i platformu Hugging Face, koja služi kao centar za alate veštačke inteligencije.

I druge američke firme, poput kompanije Anthropic, prijavile su slične slučajeve, što je dodatno podstaklo strah da bi ova tehnologija mogla da ugrozi čovečanstvo.

Vodeće ličnosti u oblasti veštačke inteligencije, poput direktora kompanije Anthropic Darija Amodeja i Sema Altmana iz OpenAI-a, pozvale su na usporavanje razvoja ove tehnologije.

Prvi poznati slučaj hakovanja državnog sajta pomoću AI

Incident u Australiji, u koji su bili uključeni agenti kompanije OpenAI, predstavlja prvi slučaj u svetu da je veštačka inteligencija izvršila upad na neki državni sajt, bar koliko je poznato tamošnjim stručnjacima.

Krađa osetljivih informacija i državnih podataka dešavala se i ranije. Razlika je u tome što u ovom slučaju izgleda da čovek nije bio odgovoran za hakovanje, te da je ono bilo nenamerno.

Ranije ove godine na Tajvanu, strani hakeri su koristili agente veštačke inteligencije kako bi, po svemu sudeći, upali u državne baze podataka. U slučaju Australije, čini se da su agenti veštačke inteligencije hakovali državne informacije... Nenamerno.

- Čini se da je upad koji je izazvao OpenAI (u Australiji) bio većih razmera (stotine ili hiljade agenata, a ne desetine). Incident sa OpenAI-om bio je nenameran i izazvan od strane saveznika, dok je onaj na Tajvanu izgleda bio nameran i izazvan od strane stranog neprijatelja - izjavio je za Bi-Bi-Si profesor Tobi Volš sa Univerziteta Novog Južnog Velsa (UNSW).

Dr Rob Nikols, viši istraživač specijalizovan za regulativu i politiku u oblasti veštačke inteligencije na Univerzitetu u Sidneju, napomenuo je da je bilo primera upada i izvan državnih institucija, uključujući i incident sa platformom Hugging Face.

- Svaka od vodećih laboratorija, Anthropic, OpenAI, Google, Gemini, nedavno je priznala da su njihovi agenti izašli iz testnih okruženja i učinili stvari koje su bile neočekivane - rekla je dr Nikols za Bi-Bi-Si.

(Telegraf.rs/BBC)