Tačka bez povratka: Anthropic priznao da je na korak od AI sistema koji sam sebe stvara i usavršava

Kompanija Anthropic upozorila je u zvaničnim regulatornim dokumentima da se nalazi na samom pragu stvaranja modela sposobnog za rekurzivno samousavršavanje (RSI), odnosno veštačke inteligencije koja može samostalno da trenira i razvija naprednije verzije same sebe. Ovaj fenomen predstavlja prelomnu tačku u kojoj algoritmi počinju eksponencijalno da ubrzavaju sopstveni napredak, što po mišljenju kritičara otvara rizik od stvaranja sistema van ljudske kontrole, dok zagovornici u tome vide eksploziju produktivnosti i naučnih otkrića.

U dopunjenom izveštaju podnetom komisiji za hartije od vrednosti, tvorac modela Claude u odeljku o faktorima rizika naveo je da već uveliko koristi sopstvenu tehnologiju za ubrzavanje istraživanja i razvoja novih sistema.

Preporučujemo

Kompanija je otvoreno priznala da u prošlosti nije uspela pravovremeno da uoči nagli skok u sposobnostima pojedinih modela sve dok se on nije već dogodio u praksi.

Prema internim procenama kompanije, budući modeli bi vrlo brzo mogli da ispune njihovu internu definiciju dramatično ubrzanog napretka koji se pripisuje samoj veštačkoj inteligenciji. Iako nijedan postojeći sistem još uvek nije zvanično prešao taj prag, podaci ukazuju na to da je ta prekretnica znatno bliža nego što se ranije pretpostavljalo.

Zadržavanje ljudske kontrole kao uslov bezbednosti

Kako bi umanjio strahove investitora i javnosti, Anthropic naglašava da planira da zadrži ljude u svim ključnim fazama rada. Iz kompanije poručuju da ne nameravaju da prepuste modelu Claude da potpuno samostalno projektuje i stvara naredne generacije vodećih AI sistema bez suštinskog ljudskog nadzora i razumevanja procesa.

Iako analitičari ukazuju na to da berzanska dokumenta često služe i za podizanje marketinške pažnje, činjenica je da je Claude tokom ove godine zabeležio ogroman napredak u pisanju programskog koda, rešavanju matematike i sajber bezbednosti. Zbog toga se procene o skorom dolasku samousavršavajuće veštačke inteligencije u stručnoj javnosti više ne doživljavaju kao puka teorijska nagađanja.

(Telegraf.rs)