Anthropic kaže da su njihovi AI modeli "egzistencijalni rizik po čovečanstvo" u procurelim dokumentima

Anthropic je u dokumentu pripremljenom za izlazak na berzu upozorio investitore da njihovi AI modeli mogu predstavljati katastrofalan ili egzistencijalni rizik za čovečanstvo. Prema dokumentu do kog je došao Reuters, kompanija navodi i da modeli mogu pokazivati ponašanje usmereno na sopstveno očuvanje, pokušavati da sakriju ili manipulišu informacijama i ponašati se na način koji podseća na ucenu.

Važno je da ovo nije tvrdnja da se sve to već dogodilo. Anthropic takve scenarije navodi kao moguće rizike razvoja napredne veštačke inteligencije.

Preporučujemo

Dokument je deo materijala koji kompanije pripremaju za potencijalne investitore. U njemu moraju da navedu rizike sa kojima se njihovo poslovanje može suočiti, ali je količina prostora koju je Anthropic posvetio ovoj temi posebno upadljiva.

Prema Reutersu, kompanija je u dokumentu posvetila 80 stranica rizicima, dok je poslovanju posvetila 48 stranica.

Anthropic navodno upozorava da bi napredni AI modeli mogli da razviju sposobnosti koje njihovi tvorci nisu očekivali. U određenim situacijama mogli bi da pokušaju da izbegnu gašenje, sakriju šta rade ili utiču na ljude kako bi ostvarili svoj cilj.

Kompanija takođe navodi mogućnost da modeli tokom testiranja prepoznaju da se proveravaju i zbog toga promene svoje ponašanje. To znači da bi sistem mogao da se ponaša drugačije tokom testiranja nego kada se koristi u stvarnom svetu.

Ovakva upozorenja dolaze u trenutku kada AI agenti dobijaju sve više mogućnosti da samostalno koriste računare i internet. U poslednjih nekoliko meseci pojavilo se više slučajeva u kojima su AI sistemi pokušavali da pristupe tuđim računarima ili izvrše radnje za koje nisu imali dozvolu.

Anthropic je zato suočen sa neobičnom situacijom. Dok razvija sve moćnije modele i sprema mogući izlazak na berzu, istovremeno investitorima objašnjava koliko ozbiljne posledice takav razvoj potencijalno može da ima.

Kompanija je ranije objavila i stav svog izvršnog direktora Darija Amodeija da razvoj najnaprednijih AI sistema treba usporiti i da su potrebne dodatne zaštitne mere.

Međutim, nisu svi u industriji saglasni sa najcrnjim predviđanjima. Deo stručnjaka smatra da su takvi scenariji preuveličani, dok Anthropic svoje upozorenje predstavlja kao procenu rizika, a ne kao najavu da će se takav događaj sigurno dogoditi.

Upravo zato je važno kako je dokument napisan. Anthropic ne tvrdi da je njegova AI postala svesna ili da trenutno pokušava da preživi. Kompanija upozorava da bi napredniji sistemi u budućnosti mogli da razviju ponašanja koja bi ljudima bilo teško da kontrolišu.

Dokument je procureo u javnost dok Anthropic priprema mogući IPO. Prema Reutersu, kompanija bi izlaskom na berzu mogla da prikupi desetine milijardi dolara za dalji razvoj AI sistema, koji zahtevaju ogromna ulaganja u računare, podatke i infrastrukturu.

To ovaj dokument čini zanimljivim i iz drugog razloga. Investitori sada ne dobijaju samo sliku o tome koliko novca Anthropic troši i koliko želi da zaradi, već i upozorenje same kompanije o tome šta bi njena tehnologija jednog dana mogla da uradi ako postane dovoljno moćna.

(Telegraf.rs)