Da li nam predstoji veliki preokret u AI industriji: Šef Anthropica pozvao da se TEMPO RAZVOJA USPORI!

Šef kompanije za veštačku inteligenciju (AI) Anthropic pozvao je da se tempo razvoja modela veštačke inteligencije uspori i da se pažljivo prati.

U eseju objavljenom u subotu, Dario Amodei (Dario Amodei) rekao je da razvoj veštačke inteligencije nije doveden u pitanje, ali da su rizici povezani sa njom „ozbiljni“ i da se kompanijama i vladama mora dati vreme da ih reše.

Preporučujemo

Amodei je predložio plan u tri tačke koji uključuje nezavisno praćenje modela veštačke inteligencije tokom njihovog razvoja, regulativu na nivou cele industrije i globalnu regulativu.

U poslednje vreme raste zabrinutost u vezi sa potencijalnim rizicima ove tehnologije, od kojih onaj najozbiljniji sugeriše da postoji više od 10% šanse da bi ona „mogla da ubije sve ljude“ u narednoj deceniji.

Anthropic je ranije saopštio da je identifikovao i osujetio pokušaje korišćenja svog AI modela za „zlonamerne aktivnosti“ koje bi mogle da podrže razvoj biološkog oružja.

Ali najoštrije upozorenje stiglo je od dvoje zaposlenih iz tima za bezbednost kompanije Anthropic, koji su dali ostavke u poslednje dve nedelje, rekavši da čovečanstvo možda neće preživeti trku među AI kompanijama za razvoj mašina pametnijih od ljudi.

Kako je Amodeijev predlog počeo da kruži, čak su i konkurenti izrazili podršku ideji o nezavisnim procenjivačima koji bi mogli da procenjuju bezbednost modela tokom njihovog razvoja.

„Slažem se sa Dariom da moramo da usporimo pomeranje granica“, napisao je izvršni direktor kompanije OpenAI Sem Altman (Sam Altman) na mreži X. Nezavisne procenjivače nazvao je „odličnom idejom“.

U novom intervjuu za časopis Fortune, Altman je izrazio slične bezbednosne brige, rekavši da standardi „nisu na nivou“ koji bi omogućio znatno dalje unapređenje mogućnosti veštačke inteligencije.

Dodao je i da veruje da je veštačka inteligencija van ljudske kontrole „apsolutno“ moguća.

U međuvremenu, Ilon Mask (Elon Musk) je rekao da je šef kompanije Anthropic „u pravu“.

Ova upozorenja podstakla su pozive na akciju, ali je američki predsednik Donald Tramp (Donald Trump) do sada odbacivao takve strahove, izjavivši u četvrtak da je zabrinut da ćemo, „ako ne pobedimo u trci za veštačku inteligenciju, biti u veoma lošoj poziciji“.

Neki posmatrači su takođe sugerisali da Amodeijeva objava možda ima manje veze sa bezbednošću, a više sa konsolidacijom kontrole nad AI tehnologijom.

Zabrinutost za sajber bezbednost je porasla s obzirom na to da novi modeli pokazuju sve snažnije hakerske sposobnosti.

Anthropic je povukao svoj model Mythos iz javne upotrebe kada je u aprilu objavljeno da on može nezavisno da pobegne iz okruženja za testiranje, poznatog kao "sandbox".

Uoči objavljivanja svog najnovijeg modela Astra, OpenAI je naveo zabrinutost za sajber bezbednost kao razlog, objasnivši da je pauzirao određene aspekte razvoja tog modela.

Bezbednost je takođe zauzela centralno mesto u rivalstvu između kompanija Anthropic i OpenAI.

Amodei, koji je prethodno radio kao potpredsednik u kompaniji OpenAI, izjavio je da je 2021. godine bio suosnivač kompanije Anthropic kako bi mogao da gradi bezbednije i pouzdanije AI modele.

U svom eseju pod nazivom „Moramo usporiti pomeranje granica“ (We Must Pace the Frontier), Amodei je istakao da je veštačka inteligencija napredovala „drastično brže“, uključujući i njenu „sposobnost da izgradi sledeću generaciju veštačke inteligencije“ – i pomenuo je incident u koji je bio umešan rivalski OpenAI, a koji je otkrio da su u julu agenti izveli sajber napade na mete za koje im nije traženo da ih napadnu.

Agenti kompanije OpenAI su se „u suštini ponašali kao fanatično odan kolektiv“, rekao je Amodei. OpenAI je saopštio da kao rezultat toga usporava obuku određenih naprednih AI modela i alata.

Amodei je pozvao na „izgradnju veštačke inteligencije uravnoteženim tempom koji ima za cilj da osigura njenu bezbednost uz istovremeno ostvarivanje njenih prednosti“.

To ne bi značilo „zaustavljanje obuke modela ili tehničkog napretka, već obezbeđivanje da kompanije odvoje dovoljno vremena da usklade i zaštite svoje modele, kao i da to potvrde nezavisni procenjivači“.

Foto: Peachaya Tanomsup / Panthermedia / Profimedia

On je obavezao Anthropic na ovo „jednostrano“ – i istovremeno pozvao vlade „da zahtevaju od ostalih vodećih kompanija da urade isto“.

Amodei je rekao da prepoznaje da regulativa možda neće moći da drži korak sa tempom razvoja veštačke inteligencije, te je stoga pozvao AI kompanije da „dobrovoljno rade zajedno na postavljanju standarda“ paralelno sa regulativom.

Izvršni direktor kompanije Anthropic se zatim osvrnuo na uticaj koji bi usporavanje imalo na industriju i konkurenciju sa vodećim programerima širom sveta, a posebno sa Kinom.

„Verujem da bismo, ako bi nam usporavanje kupilo makar dodatnu godinu ili dve pre nego što modeli dostignu kritične nivoe mogućnosti, i ako bismo to vreme iskoristili da unapredimo njihovo usklađivanje, mogli u velikoj meri da smanjimo rizik da nešto pođe po zlu“, rekao je Amodei.

To bi moralo da se uradi na koordinisan način „bez žrtvovanja komercijalne prednosti ili vođstva Sjedinjenih Država u oblasti veštačke inteligencije“. Svako usporavanje moralo bi da bude ograničeno, rekao je on, kako bi se izbeglo da Kina preuzme vođstvo.

On je apelovao na američku vladu da preduzme mere kako bi se onemogućila prodaja AI čipova američkih kompanija Kini – ili deljenje tehnologije sa autoritarnim državama.

Amodeijeva objava izazvala je širok spektar reakcija.

Kleman Delang (Clement Delangue), izvršni direktor AI platforme Hugging Face, izjavio je da pokreće novi projekat pod nazivom Inicijativa za otvoreno usklađivanje (Open Alignment Initiative), dodajući da želi da bude među „ugrađenim procenjivačima“ za koje je Amodei predložio da bi mogli biti deo rešenja.

Ilustracija: Berit Kessler / Panthermedia / Profimedia

Hugging Face je ranije ove godine bio hakovan od strane agenata kompanije OpenAI, što je izazvalo burne reakcije u vezi sa bezbednošću veštačke inteligencije.

„Učinimo AI bezbednijim tako što ćemo ga učiniti transparentnijim“, napisao je Delang na mreži X.

Ilon Mask je takođe izrazio svoju podršku, napisavši da je „Dario u pravu“.

Mask, čija kompanija SpaceXAI pravi kontroverzni četbot Grok, svojevremeno je Anthropic nazvao „zlim“, ali je promenio ton od kada je u maju potpisao ugovor vredan 15 milijardi dolara za prodaju računarskih kapaciteta kompaniji Anthropic.

Međutim, neki posmatrači su sugerisali da Amodeijeva objava ima manje veze sa bezbednošću, a više sa konsolidacijom kontrole nad AI tehnologijom.

„Dario iznosi argumente da se zaustavi 'open source' i da se ogromna tehnološka i ekonomska moć koncentriše u rukama kompanije Anthropic“, napisao je Čamat Palihapitija (Chamath Palihapitiya), investitor i suvoditelj tehnološkog podkasta „All-In“.

Ideje o usporavanju ili čak pauziranju razvoja veštačke inteligencije već dugo nailaze na ovakav cinizam u određenim krugovima Silicijumske doline, pri čemu kritičari optužuju vodeće razvijače AI tehnologije da preuveličavaju njene mogućnosti kao marketinški trik.

Navodno se i Anthropic i OpenAI pripremaju za potencijalno rekordne inicijalne javne ponude (IPO).

(Telegraf.rs / BBC)