Da li kompanije treba da pišu pravila za AI?

Veštačka inteligencija razvija se brže nego što države uspevaju da donesu jasna pravila za njenu bezbednu upotrebu. Zato je vest da su predstavnici jedne AI kompanije ponudili američkim zakonodavcima predlog zakona o bezbednosti najmoćnijih sistema otvorila pitanje koje se tiče svih, ko treba da odlučuje šta je prihvatljiv rizik.

Prema predlogu koji je preneo Reuters, država bi mogla da zaustavi objavljivanje ili korišćenje naprednog modela samo ako postoji neposredna i predvidiva opasnost od štete veće od milijardu dolara ili smrti, odnosno teških povreda, kod više od 50 ljudi.

Preporučujemo

Predlog se odnosi na rizike poput biološkog oružja, sajber napada ili sistema koji izmiče kontroli svojih tvoraca. U njemu se predviđaju testiranje, objavljivanje nalaza i nezavisne procene.

Na prvi pogled, to deluje kao razuman pokušaj da se opasnost definiše dovoljno precizno da vlasti ne mogu da blokiraju svaku novu tehnologiju samo zato što izaziva strah. Ali prag postavljen tako visoko otvara i suprotnu dilemu. Koliko štete mora da nastane pre nego što država dobije pravo da reaguje? Ako se ozbiljna posledica ne može unapred izmeriti, pravilo može da pruži sigurnost kompanijama, ali ne i ljudima koji snose posledice.

Posebno je sporno ko proverava bezbednost. Predlog predviđa nezavisne procenjivače koje bi plaćale kompanije čiji se modeli ispituju, iako isplata ne bi smela da zavisi od rezultata.

To nije samo po sebi dokaz pristrasnosti. Ipak, kada jednu stranu plaća ona koju treba nadzirati, javnost ima pravo da traži jasne garancije, ko bira procenjivača, ko objavljuje nalaze i ko snosi odgovornost ako procena pogreši.

S druge strane, bez znanja ljudi koji prave ove sisteme, zakonodavci bi mogli da donesu pravila koja zvuče strogo, a u praksi su neprimenljiva. Potpuno isključivanje industrije zato nije rešenje. Problem nastaje kada stručni doprinos preraste u odlučujući uticaj nad granicama koje bi trebalo da važe za sve.

Za Srbiju tema nije daleka. AI alati već se koriste u radu, obrazovanju i komunikaciji, a posledice ozbiljnog propusta ne bi se zaustavile na granicama jedne države.

Zato bi javnost morala da zna ne samo šta zakon traži od kompanija, već i ko proverava da li su zahtevi ispunjeni.

Možda nije pitanje da li kompanije treba da učestvuju u pisanju pravila, već koliko daleko njihov uticaj sme da ide pre nego što javni interes ostane po strani. Gde bi čitaoci povukli tu granicu?

(Telegraf.rs/Goran Lazarov)