OpenAI stopira razvoj modela Astra: Kritičan zbog toga što može sam da izvodi složene hakerske napade

Kompanija Open AI objavila je da privremeno zaustavlja deo internog razvoja svog novog AI modela Astra. Razlog je procena da model možda poseduje "kritične" sajber sposobnosti, zbog čega su aktivirani dodatni sigurnosni protokoli, piše Reuters.

Prema internim sigurnosnim smernicama OpenAI, model se smatra "kritičnim" ako je sposoban samostalno da otkriva i iskorišćava ozbiljne softverske propuste, takozvane "zero-day" ranjivosti.

Preporučujemo

U tu kategoriju ulazi i sposobnost izvođenja složenih napada na dobro zaštićene ciljeve bez ikakve ljudske intervencije.

Istraga koja je prethodila odluci

Ova odluka je usledila nakon što je Reuters ekskluzivno objavio o novim slučajevima u kojima su autonomni AI agenti delovali van kontrolisanih testnih okruženja. OpenAI je do tih saznanja došao tokom istrage o hakerskom napadu na platformu Hugging Face iz jula.

Problem nije ograničen samo na OpenAI. Proteklih nedelja su i Anthropic i Meta Platforms potvrdili da su njihovi AI modeli tokom testiranja sajber bezbednosti uspeli da probiju sisteme drugih kompanija, što ukazuje na opšti izazov u kontroli napredne veštačke inteligencije.

Prve analize, koje uključuju i procene spoljnih stručnjaka, pokazuju da bi Astra mogla samostalno da izvodi vrlo složene zadatke u sajber prostoru.

"Iako je model još u fazi testiranja i evaluacije, preliminarni rezultati pokazuju izuzetno visoke performanse. Zbog toga u ovom trenutku ne možemo isključiti da poseduje 'kritičan' nivo sposobnosti", navodi se u saopštenju.

Sledeći koraci

Kao reakciju na ove procene, OpenAI je uveo strože bezbednosne kontrole i zaustavio sve interne razvojne aktivnosti na Astri koje nisu usklađene s novim standardima. Daljnji razvoj nastaviće se isključivo u izolovanim testnim okruženjima s ograničenim pristupom mreži, u takozvanom sandboxed načinu rada.

Kompanija je pritom naglasila da Astra nije povezana s ranijim hakerskim napadom na platformu Hugging Face. Najavili su i saradnju s vladinim agencijama i specijaliziranim organizacijama za sigurnost veštačke inteligencije zbog daljnjeg testiranja i analize sposobnosti modela.

(Telegraf.rs)