Možemo li verovati kompaniji koja upozorava na sopstveni AI?

Jedna od najvećih kompanija za veštačku inteligenciju priprema izlazak na berzu uz moguću vrednost od dva biliona dolara. Istovremeno, u dokumentima namenjenim investitorima upozorava da napredna veštačka inteligencija može doneti ozbiljne, čak i katastrofalne posledice po čovečanstvo. Teško je zamisliti neobičniju prodajnu poruku, naš proizvod može promeniti svet, možda i ugroziti ljude, ali vredi da u njega uložite ogroman novac.

Na prvi pogled, takvo upozorenje deluje odgovorno. Kompanija otvoreno priznaje da tehnologija nije obična aplikacija, već sistem koji može uticati na poslove, bezbednost, političku moć i svakodnevni život.

Preporučujemo

Ako opasnost postoji, bolje je da se o njoj govori nego da se skriva iza reklama o efikasnosti i napretku. Problem nastaje zato što ista kompanija istovremeno prodaje proizvod, procenjuje njegovu bezbednost i pokušava da utiče na pravila po kojima će biti kontrolisana.

To je kao kada bi proizvođač automobila sam određivao koliko sudara njegov model sme da izazove pre nego što bude povučen sa tržišta.

U javnosti se zato pojavljuje sumnja da velika upozorenja nisu samo izraz odgovornosti. Ona mogu biti i poslovna strategija.

Ako se najnapredniji sistemi predstave kao izuzetno opasni i skupi za nadzor, država može uvesti pravila koja samo najveće kompanije mogu da ispune.

Manji konkurenti tada nestaju, dok tržište ostaje u rukama onih koji su prvi upozoravali na opasnost.

Postoji i druga strana. Razvoj moćne veštačke inteligencije zaista zahteva ogromne računarske kapacitete, energiju, stručnjake i bezbednosna testiranja.

Kompanija planira stotine milijardi dolara ulaganja u infrastrukturu. Bez velikog kapitala možda nije moguće napraviti sisteme koji su istovremeno korisni i dovoljno kontrolisani.

Ipak, vrednost kompanije ne dokazuje da je njena tehnologija bezbedna. Velika ulaganja mogu ubrzati istraživanje, ali mogu povećati i pritisak da se proizvod što pre pusti na tržište.

Kada investitori očekuju rast, oprez lako postaje trošak, a odlaganje znak slabosti.

Domaće firme, škole, mediji i državne institucije sve više koriste sisteme koje nisu napravili i čija unutrašnja pravila ne mogu da provere.

Prihvatamo korist, ali prihvatamo i procenu rizika koju je napisao prodavac.

Možda najveća opasnost nije samo u tome šta će veštačka inteligencija jednog dana moći da uradi, već ko danas dobija pravo da odredi koliko je rizika prihvatljivo.

Dilema ostaje gde postaviti granicu između tehnološkog napretka i poverenja u kompanije koje istovremeno upozoravaju na opasnost i na njoj grade ogromnu tržišnu vrednost.

(Telegraf.rs/Goran Lazarov)