UN poziva na privremnu zabranu prepoznavanja lica: "AI može imati katastrofalne efekte..."

Potrebno je proceniti rizik od različitih sistema koji se oslanjaju na veštačku inteligenciju za pravo na privatni život ili slobodu kretanja i izražavanja...

Foto: Shutterstock

Ujedinjene nacije pozvaju da se uvede moratorijum na neke sisteme veštačke inteligencije kao što je prepoznavanje lica, dok se ne ustanove elementi za zaštitu ljudskih prava.

- Tehnologije veštačke inteligencije mogu imati negativne efekte, čak katastrofalne ako se koriste a da se nedovoljno uzima u obzir način na koji one utiču na ljudska prava - rekla je Mišel Bašle, visoka komesarka UN za ljudska prava.

Ona je pozvala da se proceni rizik od različitih sistema koji se oslanjaju na veštačku inteligenciju za pravo na privatni život ili slobodu kretanja i izražavanja i zatim da se zabrane ili da se snažno regulišu oni koji predstavljaju najveću opasnost.

Foto: Shutterstock

Ali dok se čeka da se te procene završe, države treba da uvedu moratorijum na tehnologije koje potencijalno predstavljaju veliki rizik, rekla je Bašle, bivša predsednica Čilea, prilikom predstavljanja novog izveštaja svoje službe posvećenog toj temi.

Izveštaj sačinjen na zahtev Saveta UN za ljudska prava razmatrao je kako se te tehnologije često upotrebljavaju, a da prethodno nije propisno procenjeno kako funkcionišu, ni kakav uticaj će imati.

Loše funkcionisanje veštačke inteligencije sprečilo je ljude da dobiju socijalnu pomoć, nađu posao ili je dovelo do hapšenja nevinih ljudi na osnovu sistema prepoznavanja lica koji nisu dobro urađeni i ne mogu ispravno da prepoznaju osobe sa afričkim crtama, na primer.

- Više je nego stvaran rizik od diskriminacije vezan za odluke zasnovane na veštačkoj inteligenciji - radi se o odlukama koje mogu menjati, stigmatizovati ili naškoditi jednom ljudskom životu - rekla je Bašle.

Foto: Shutterstock

U izveštaju se navodi da se veštačla inteligacija razvija na osnovu ogromnih baza podataka čije sastavljanje je često vrlo netransparentno. Te baze podataka bi mogle da budu same loše sastavljene, zastarele i da prema tome doprinose kršenju ljudskih prava.

U izveštaju se posebno naglašava sve češća upotreba sistema zasnovanih na veštačku inteligenciju od strane snaga reda.

(Telegraf.rs/Beta)