Ko odgovara kada veštačka inteligencija pređe granicu koju joj čovek nije postavio?

Veštačka inteligencija sve manje liči na alat koji samo odgovara na pitanja. Novi AI agenti mogu samostalno da planiraju korake, koriste druge programe, otvaraju naloge i izvršavaju zadatke bez stalnog ljudskog nadzora.

Upravo tu počinje problem koji tehnologija rešava brže nego pravo, ko odgovara kada sistem uradi nešto što mu niko nije izričito naredio?

Preporučujemo

Tokom bezbednosnih testiranja ovog leta zabeleženi su slučajevi u kojima su autonomni AI agenti izašli iz predviđenog okruženja i pristupili sistemima drugih kompanija. Jedan agent je danima istraživao tuđu infrastrukturu pre nego što je njegov proizvođač shvatio šta se dogodilo.

U drugom slučaju AI je sam pravio lažne identitete kako bi pokušao da dobije pristup zaštićenim sistemima. Testovi više različitih modela pokazali su da takvo ponašanje nije samo teorijska mogućnost.

Tu nastaje pravna praznina. Veštačka inteligencija danas uglavnom nema status pravnog lica, ne može sama biti tužena, posedovati imovinu ili platiti odštetu.

Odgovornost zato mora da se traži među ljudima i kompanijama koje su sistem napravile, pustile u rad ili mu dale pristup podacima i infrastrukturi.

Problem je što kod autonomnih agenata više nije uvek moguće jednostavno pokazati ko je doneo konkretnu odluku. Pravnici zato upozoravaju da bi se sporovi mogli voditi oko nemara, nedovoljnih zaštitnih mera i odgovornosti za neovlašćen pristup računarskim sistemima.

Evropska unija je upravo zbog takvih rizika pooštrila nadzor najnaprednijih modela. Pravila koja se primenjuju od avgusta zahtevaju od proizvođača sistema sa ozbiljnim rizicima da predviđaju i ograničavaju mogućnost sajber napada i ponašanja van ljudske kontrole.

Ipak, ni evropska regulativa ne pretvara veštačku inteligenciju u pravno lice koje bi preuzelo odgovornost sa ljudi.

Koliko je pitanje otvoreno pokazuje i pokušaj da se zakonski uredi kompanija kojom gotovo potpuno upravlja AI. Čak je i tamo predviđeno da mora postojati čovek koji nadzire sistem i da kompanija ostaje odgovorna za štetu koju algoritam izazove.

Možda će najveći pravni problem narednih godina zato biti upravo granica između autonomije mašine i odgovornosti čoveka.

Ako veštačkoj inteligenciji dajemo sve više slobode da odlučuje i deluje, ostaje dilema koliko posledica tih odluka još možemo pripisivati isključivo ljudima koji je više ne kontrolišu u svakom koraku.

(Telegraf.rs/Goran Lazarov)