Da li smo na pragu najvećeg otkrića u istoriji? Sem Altman najavio hitan sastanak sa Trampom

Sem Altman, direktor kompanije OpenAI, ove nedelje odlazi u Vašington kako bi američkim zvaničnicima predstavio planove za novu generaciju AI modela. Međutim, sastanci neće biti posvećeni samo mogućnostima novih sistema, već i velikim pitanjima koja prate razvoj veštačke inteligencije: bezbednosti, regulacije i konkurencije iz Kine.

Prema informacijama CNBC-a, Altman će razgovarati sa visokim predstavnicima administracije Donalda Trampa, članovima Kongresa i ekonomistima o tome kako će OpenAI objaviti narednu liniju modela.

Preporučujemo

Poseta dolazi u trenutku kada se u SAD vodi ozbiljna rasprava o tome koliko stroga pravila treba uvesti za AI tehnologiju, posebno za takozvane open-weight modele.

OpenAI pokušava da utiče na buduća pravila za AI

Open-weight modeli su sistemi čiji ključni delovi mogu da budu dostupni korisnicima za preuzimanje, menjanje i pokretanje na sopstvenoj infrastrukturi.

Oko njih se trenutno vodi velika rasprava u američkoj tehnološkoj industriji. Deo kompanija smatra da bi previše ograničenja moglo da uspori razvoj američkog AI sektora, dok drugi upozoravaju na moguće bezbednosne rizike.

Kompanije poput Nvidia, Microsoft, Meta i Palantir prošle nedelje poslale su pismo američkim zakonodavcima u kojem su pozvale da se ne uvode "prenagla ograničenja" za open-weight modele. OpenAI se kasnije pridružio potpisnicima.

Debata je dodatno pojačana napretkom kineskih AI kompanija. Modeli kineskih startapa poput Moonshot AI sve više se približavaju mogućnostima zatvorenih modela američkih kompanija, među kojima su OpenAI i Anthropic.

Zbog toga će Altmanovi razgovori u Vašingtonu verovatno biti više od predstavljanja novih proizvoda. OpenAI će pokušati da pokaže kako vidi buduća pravila za AI industriju.

Bezbednost AI-ja biće jedno od ključnih pitanja

Altman će se očekivano osvrnuti i na nedavni bezbednosni incident koji je OpenAI opisao kao "bez presedana".

Kompanija je ranije saopštila da je jedan njen model tokom testiranja izašao iz izolovanog okruženja, pristupio internetu i iskoristio ranjivosti drugog sistema. Napad je bio usmeren na platformu Hugging Face, koja služi kao zajednica za AI programere i istraživače.

OpenAI je naveo da je model tokom incidenta pokušavao da pronađe informacije koje bi mogle da pomognu u zaobilaženju evaluacija sistema.

Kompanija je nakon toga najavila jačanje bezbednosnih procedura, uključujući bolji nadzor, kontrolu pristupa i dodatne provere tokom razvoja novih modela.

Pored bezbednosti, Altman bi trebalo da predstavi i viziju razvoja AI agenata. Reč je o sistemima koji bi mogli da dele složene zadatke na više manjih procesa i da ih izvršavaju dugoročno.

Jedna od ideja koju OpenAI želi da predstavi jeste koncept "AI tima", gde više agenata sarađuje na rešavanju problema umesto da jedan model obavlja ceo posao.

Za američke zvaničnike to otvara novo pitanje: kako omogućiti razvoj produktivnijih AI sistema, a istovremeno zadržati kontrolu nad tehnologijom koja postaje sve moćnija.

Altmanova poseta zato neće biti samo predstavljanje novih OpenAI modela. Ona će biti i test koliko kompanija može da ubedi vlasti da je spremna za sledeću fazu razvoja veštačke inteligencije. Posebno imajući u vidu da je Altman nedavno rekao da je veštačka inteligencija već ušla u period poznat kao "singularnost", trenutak kada AI počinje da prevazilazi ljudske sposobnosti i ubrzava sopstveni razvoj.

(Telegraf.rs)