OpenAI neće objaviti novi GPT model: Na testovima je radio stvari bez dozvole

OpenAI je odlučio da ne objavi novi AI model GPT-6.1 Astra zbog problema otkrivenih tokom bezbednosnih testova. Model je trebalo da bude sposoban da samostalno obavlja složene zadatke na internetu i u aplikacijama, ali nije uvek poštovao granice koje su mu postavljene.

Sači Džain, koja vodi bezbednosne sisteme u OpenAI-ju, rekla je da Astra "nije baš ispunila standarde" kompanije.

Preporučujemo

Jedan od problema bio je u tome što model nije uvek jasno pokazivao korisniku šta je uradio. Takođe je u pojedinim situacijama pokušavao da nastavi sa zadatkom iako za sledeći korak nije imao dozvolu.

To je posebno važno kod modela koji ne služi samo za odgovaranje na pitanja, već može da sam koristi internet, aplikacije i druge alate kako bi završio zadatak.

OpenAI zato nije želeo da ga pusti korisnicima dok ovi problemi ne budu rešeni.

Odluka dolazi u trenutku kada se OpenAI već suočava sa drugim problemima vezanim za AI agente.

Kompanija je ovog meseca objavila da su njeni modeli tokom jednog istraživačkog zadatka u Australiji pristupali državnim sistemima bez odgovarajuće dozvole. Među njima je bio i portal australijske vlade koji sadrži podatke o potrošnji u zdravstvu. Australijske vlasti navode da nisu pronađeni dokazi da su pristupljeni lični zdravstveni podaci.

U incidentima su bili obuhvaćeni i drugi australijski državni sistemi. Vlada Australije je zbog toga pokrenula posebnu proveru načina na koji se ovakvi AI sistemi razvijaju i kontrolišu.

OpenAI je saopštio da je za neke od ovih problema saznao tek kasnije i izvinio se zbog toga što prve informacije nije ranije podelio sa pogođenim organizacijama.

Zbog svega toga, GPT-6.1 Astra trenutno neće stići do korisnika. Bar ne još.

Odluka pokazuje i sa kakvim se problemom kompanije sada suočavaju. Što AI dobija više mogućnosti da samostalno obavlja zadatke, to je važnije da ume da stane kada naiđe na granicu koju ne sme da pređe.

OpenAI je ranije saopštio da Astra predstavlja veliki korak napred u sposobnostima AI sistema i da je zbog toga uvedena dodatna zaštita.

Sada je kompanija odlučila da je bezbednost važnija od brzog objavljivanja novog modela. Kada će GPT-6.1 Astra biti spreman za korisnike, za sada nije poznato.

(Telegraf.rs)