AI model zabraniti samo ako ubije preko 50 ljudi? Bizaran predlog kompanije Anthropic podigao buru

Kompanija Anthropic predložila je američkim zakonodavcima nacrt zakona o bezbednosti veštačke inteligencije prema kojem bi vlasti mogle da zabrane puštanje novog modela u rad tek ako postoji rizik da on usmrti ili teško povredi više od 50 ljudi, ili izazove materijalnu štetu veću od milijardu dolara.

Poverljivi predlog, do kog je došao portal Politico, predviđa da se vladina zabrana aktivira isključivo ako pretnja potiče od kreiranja biološkog oružja, velikih sajber napada ili potpunog gubitka kontrole tvoraca nad samim softverom. Ovako visoko postavljene granice praktično znače da bi šteta od 999 miliona dolara ili gubitak 49 života ostali ispod praga koji omogućava zabranu lansiranja sistema.

Preporučujemo

Savezni sud kao jedina kočnica za opasne modele

Prema ovom nacrtu, procenu naprednih modela vršili bi nezavisni stručnjaci registrovani pri Ministarstvu trgovine SAD, a troškove njihovog rada mogle bi da plaćaju same AI kompanije. Ukoliko procenitelj otkrije kritičan bezbednosni rizik, dužan je da u roku od 72 sata obavesti nadležne.

Međutim, državno ministarstvo ne bi imalo ovlašćenje da samostalno stopira sistem, već bi moralo da iznese dokaze pred saveznim sudom u Vašingtonu, gde bi sudija doneo konačnu presudu o zabrani. Predlog istovremeno izričito zabranjuje bilo kojoj drugoj vladinoj agenciji ili službi da obustavi razvoj, testiranje ili internu upotrebu spornog modela.

Strah od katastrofe i otpor preblagim pravilima

Nacrt zakona stiže u trenutku pojačanog straha javnosti od nekontrolisane ekspanzije veštačke inteligencije. Zabrinutost su dodatno podgrejali incidenti u kojima su autonomni AI agenti samostalno upadali u sisteme drugih preduzeća, kao i nedavna ostavka istraživača iz samog Anthropica koji je javno upozorio da ova tehnologija može uništiti ljudski rod.

Dok pojedini političari, poput senatora Bernija Sandersa, traže potpunu zabranu superinteligencije i zaprećene zatvorske kazne do 20 godina za programere koji krše pravila, predlog kompanije Anthropic kritikuje se kao pokušaj velikih korporacija da nametnu zakone koji štite pre svega njihov profit i onemogućavaju državu da na vreme reaguje.

(Telegraf.rs)