Glavni stručnjak za bezbednost napustio AI giganta uz upozorenje: "Svet je u opasnosti"

Istraživač bezbednosti iz kompanije Anthropic napustio je firmu uz upozorenje da je "svet u opasnosti" zbog ubrzanog razvoja veštačke inteligencije. Mrinank Šarma poručio je da tim za bezbednost stalno trpi pritiske da potisne ključne rizike.

Njegove izjave ponovo otvaraju pitanje da li AI industrija ide prebrzo, bez adekvatnih zaštitnih mehanizama. Posebno su istaknuti rizici poput bioterorizma i zloupotrebe naprednih modela.

Preporučujemo

Anthropic je osnovan sa jasnim ciljem razvoja bezbedne veštačke inteligencije, što dodatno pojačava težinu ove ostavke.

Unutrašnji pritisci i spor oko prioriteta

Šarma je naveo da bezbednosni tim "konstantno trpi pritiske da zanemari ono što je najvažnije". U fokusu su, prema njegovim rečima, rizici koji mogu imati globalne posledice.

Kompanija se javno pozicionirala kao lider u odgovornom razvoju AI sistema. Međutim, napetost između brzog napretka i bezbednosnih standarda očigledno raste širom industrije.

Izvršni direktor kompanije, Dario Amodei, ranije je upozorio da razvoj AI tehnologije ide previše brzo. Na forumu u Davosu pozvao je na jaču regulaciju koja bi naterala vodeće kompanije da uspore tempo.

Trend odlazaka u AI bezbednosti

Ovo nije izolovan slučaj. Tokom 2024. godine, dva ključna člana "Superalignment" tima iz kompanije OpenAI napustila su firmu, tvrdeći da je fokus previše usmeren na finansijsku dobit umesto na minimizovanje rizika od razvoja sistema "mnogo pametnijih od nas".

Takvi odlasci ukazuju na širi problem u AI sektoru. Stručnjaci upozoravaju da bez jasnih regulatornih okvira i transparentnih bezbednosnih protokola, razvoj može izmaći kontroli.

Zašto je ovo važno za industriju

Kompanije kao što su Anthropic i OpenAI razvijaju modele koji imaju sve veću moć i autonomiju. Pitanje više nije samo tehnološko, već bezbednosno i političko.

Debata o regulaciji veštačke inteligencije postaje centralna tema globalnih tehnoloških i političkih foruma. Odlazak istraživača bezbednosti dodatno pojačava pritisak na industriju da uspostavi jasna pravila i sporiji, odgovorniji razvoj.

(Telegraf.rs)