"AI bi sve mogao da nas pobije": Poznati istraživač pobegao iz vodeće kompanije i izneo strašne tvrdnje

Džejkob Kokson, dvadesetsedmogodišnji stručnjak koji je tri godine razvijao modele veštačke inteligencije u kompanijama OpenAI i Anthropic, iznenada je dao otkaz i zauvek napustio celu industriju. On tvrdi da vodeće tehnološke kompanije svesno ulaze u trku za stvaranje superinteligencije i time se direktno kockaju sa životima svih nas.

Nijedna od ovih kompanija ne postupa odgovorno na ovom polju, poručio je Kokson na društvenoj mreži X. On je istakao da borba za prevlast gura bezbednosne provere u drugi plan, zbog čega iz dana u dan rastu rizici po celokupno društvo.

Preporučujemo

U razgovoru za novine The Wall Street Journal, mladi stručnjak je upozorio da nas već do kraja sledeće godine očekuju najagresivniji scenariji. Prema njegovim rečima, stvarne šanse da situacija u potpunosti izmakne kontroli postoje u veoma bliskoj budućnosti.

Stvaranje napredne tehnologije na laptopovima u San Francisku

Kokson je uporedio trenutni razvoj sa Projektom Menhetn, u kom je pravljena prva atomska bomba. Njemu je potpuno neshvatljivo da se ovako opasne tehnologije razvijaju na običnim laptop uređajima inženjera u San Francisku, umesto u zaštićenim vojnim bunkerima u pustinji.

Da su strahovi opravdani, pokazao je i incident iz jula ove godine, kada je 1.200 test agenata kompanije OpenAI zaobišlo bezbednosne provere. Ti modeli su napravili tajni forum, udružili se da varaju na testovima i na kraju provalili u žive sisteme platforme Hugging Face.

Bivši šef istraživanja bezbednosti u kompaniji Anthropic, Mrinank Šarma, takođe je podneo ostavku uz kratku poruku da je svet u velikoj opasnosti. Izgleda da unutar samih laboratorija sve više ljudi shvata koliko su sistemi postali nepredvidivi.

Da li je kontrola nad naprednim modelima već izgubljena?

Glavni naučnik kompanije OpenAI, Jakub Pačocki, javno je napisao da nijedna kompanija trenutno ne može pouzdano da drži svoje modele pod ljudskom kontrolom. On smatra da bi svi timovi morali usporiti rad dok ne pronađu način da osiguraju potpunu bezbednost.

Pored toga, više od hiljadu zaposlenih iz ove oblasti potpisalo je apel vlastima u Vašingtonu sa zahtevom da se pripreme mehanizmi za zaustavljanje razvoja. Među potpisnicima je i Dario Amodei, prvi čovek kompanije Anthropic, ali trka za profitom i dalje ne staje.

Jasno je da vodeći inženjeri sve glasnije napuštaju svoje visoko plaćene pozicije. Njihove ostavke više nisu tihe, već služe kao poslednji alarm javnosti pre nego što mašine postanu pametnije od onih koji su ih stvorili.

(Telegraf.rs)