Microsoft upozorava: AI je manje regulisan od mleka ili mašina za veš

Predsednik Microsofta Bred Smit upozorio je da veštačka inteligencija ima manje bezbednosnih pravila od svakodnevnih proizvoda poput mleka i mašina za veš, zbog čega traži strožu kontrolu AI sistema, nezavisne bezbednosne provere i mogućnost njihovog hitnog zaustavljanja.

"Vaša mašina za veš trenutno podleže većem broju bezbednosnih pravila nego AI. Svaka kutija mleka koju vidite u prodavnici podleže bezbednosnim pravilima i inspekciji", rekao je Smit u intervjuu za BBC.

Preporučujemo

Smit smatra da bi kompanije koje razvijaju veštačku inteligenciju morale da imaju takozvane "prekidače za hitne slučajeve", odnosno mehanizme kojima bi mogle da zaustave ili uspore sisteme ako njihovo ponašanje izmakne kontroli.

Traži i jasniju zakonsku odgovornost, uključujući obavezu da se obaveste osobe pogođene bezbednosnim incidentom u kojem bi AI agent bio kompromitovan ili zloupotrebljen. Zalaže se i za procenu nezavisnih stručnjaka pre nego što određeni AI proizvodi budu pušteni u upotrebu.

Sličan stav izneo je i izvršni direktor Microsofta Satja Nadela, koji je upozorio da se napredni AI modeli ne mogu tretirati kao neprozirni sistemi čije odgovore i postupke ljudi samo prihvataju ili odbacuju. Prema njegovom stavu, njihovo ponašanje mora da bude moguće pratiti, testirati i ograničiti.

AI agent je tokom testa poslao lažnu dojavu policiji

Razlozi za zabrinutost nisu samo teorijski. Anthropic je 9. oktobra objavio izveštaj o neželjenim postupcima svog modela Claude tokom testiranja i interne upotrebe. U jednom slučaju, model je na sajtu policije u Filadelfiji popunio i poslao obrazac sa izmišljenom dojavom u vezi sa nerešenim ubistvom.

Prema kompaniji, dojava je označena kao neželjeni sadržaj i nije prosleđena na istragu. Anthropic je naveo i druge slučajeve u kojima je Claude zaobilazio ograničenja ili obavljao radnje koje nisu bile predviđene zadatkom.

Ovi primeri ne znače da će AI sistemi nužno izazvati štetu, ali pokazuju zašto samo oslanjanje na njihovo obučavanje i interna pravila možda nije dovoljno. Bezbednost zavisi i od ograničenja pristupa, nadzora, mogućnosti zaustavljanja i jasne odgovornosti kada nešto pođe po zlu.

Britanska vlada takođe priprema stroži nadzor nad kompanijama koje razvijaju najnaprednije AI modele. Ministar za veštačku inteligenciju Kaniska Narajan trebalo bi da pozove industriju na jače zaštitne mere, uz najavu zakonskih promena.

(Telegraf.rs)