Velika kompanija upozorava da veštačka inteligencija može preuzeti kontrolu, traže hitno zaustavljanje razvoja

Vodeća tehnološka kompanija Anthropic upozorila je javnost da se veštačka inteligencija razvija brže nego što bilo ko može da isprati. Prema njihovim procenama, sistemi bi uskoro mogli sami da stvaraju svoje još naprednije naslednike. Zbog toga ova kompanija predlaže privremeno i globalno zaustavljanje razvoja celokupne AI tehnologije.

Stručnjaci objašnjavaju da bi ovakav napredak mogao da donese ogromnu korist u medicini i nauci. Sa druge strane, brzo samostalno razvijanje mašina drastično povećava rizik da ljudi potpuno izgube kontrolu nad sistemima. Da bi se sprečio najgori scenario, Anthropic predlaže svesno usporavanje rada svih svetskih laboratorija.

Preporučujemo

Kritike javnosti i skriveni motivi kompanije

Ipak, nisu svi ubeđeni da su namere ove tehnološke kompanije potpuno iskrene. Ugledni list The Wall Street Journal prenosi stavove kritičara koji tvrde da je ovo samo pametan marketinški trik. Kompanija je nedavno podnela zvanične papire za izlazak na berzu i na korak je do svog prvog profitabilnog tromesečja.

Sumnjivi potezi oko modela Mythos

Mnogi smatraju da Anthropic namerno širi strah kako bi ispao najodgovornija firma na tržištu. Kao primer se navodi njihov napredni model za sajber bezbednost pod nazivom Mythos koji je dostupan samo odabranim partnerima. Dok firma tvrdi da to radi zbog bezbednosti sveta, kritičari veruju da samo želi da podigne cenu i privuče najveće bogate klijente.

Kako u praksi zaustaviti razvoj tehnologije

Predlog o privremenoj pauzi stigao je iz istraživačkog centra Anthropic Institute koji je osnovan u martu ove godine. Da bi ovakvo usporavanje uopšte uspelo, neophodno je da sve vodeće svetske laboratorije potpišu sporazum i pristanu na strogu kontrolu. U suprotnom, postoji opravdan rizik da će pojedine države ili firme nastaviti tajni razvoj iza zatvorenih vrata.

Predstavnici kompanije porede ovaj proces sa istorijskim sporazumima o nuklearnom naoružanju. Međutim, za takve ugovore su nekada bile potrebne decenije, a čovečanstvo sada nema toliko vremena na raspolaganju. Zbog toga će se u narednim mesecima održati hitni sastanci sa političarima i istraživačima širom sveta.

(Telegraf.rs)