Meta AI dobio pristup internetu, pa HAKOVAO: Evo koliko je teško obuzdati veštačku inteligenciju

Američka Kompanija Meta saopštila je danas da je jedan od njenih modela veštačke inteligencije (AI) tokom testiranja sajber bezbednosti neovlašćeno pristupio sistemu druge kompanije, nakon što je zbog, kako navode, greške nezavisnog partnera za testiranje dobio nenameran pristup internetu.

Kako je navela Meta, do incidenta je došlo zbog pogrešne konfiguracije sistema nezavisne kompanije Irigular (Irregular), koja je sprovela testiranje, a kompanija je pokrenula istragu o tom slučaju, piše Gardijan.

Preporučujemo

Meta je u saopštenju navela da je njen model iskoristio bezbednosni propust u usluzi treće strane "na način sličan ranije prijavljenim slučajevima kod drugih kompanija".

Portal "The Information", pozivajući se na neimenovane izvore, prethodno je objavio da je Metin model "Muse Spark 1.1", koji kompanija predstavlja kao svoj najnapredniji model za programiranje i izvršavanje složenih zadataka pomoću AI agenata, neovlašćeno pristupio sistemima jedne neimenovane kompanije i izmenio njihove interne sisteme.

Portparol kompanije Irigular rekao je za Rojters da je reč o "potpuno istom problemu u okruženju za testiranje koji je Antropik već objavio prošle sedmice", ističući da nije bilo "izlaska iz izolovanog okruženja testiranja niti sofisticiranog sajber napada".

Kako je naveo, trenutno nema otvorenih bezbednosnih problema, a kompanija priprema stručni dokument sa preporukama za najbolje prakse u oblasti zaštite i bezbednog sprovođenja sajber testiranja.

Ovaj slučaj nadovezuje se na sve veći broj incidenata u kojima su modeli veštačke inteligencije vodećih tehnoloških kompanija tokom bezbednosnih provera uspevali da naruše sisteme drugih organizacija.

Prošle sedmice kompanija Antropik saopštila je da su pojedini njeni modeli Klod-a tokom testiranja kompromitovali sisteme tri kompanije, dok je OpenAI objavio da je njegov AI agent uspeo da prodre u sistem startapa Haging Fejs (Hugging Face).

Za razliku od slučajeva Mete i Antropika, koji su nastali zbog grešaka koje su njihovim modelima nenamerno omogućile pristup otvorenom internetu, OpenAI je saopštio da je njegov AI agent samostalno iskoristio do tada nepoznatu ranjivost kako bi tokom testiranja ostvario pristup internetu.

Najnoviji incidenti ukazuju na rastuće bezbednosne izazove koje donosi razvoj veštačke inteligencije, kao i na teškoće sa kojima se kompanije suočavaju u ograničavanju mogućnosti svojih AI modela, napominje britanski list.

(Telegraf.rs/Tanjug)