OpenAI otpustio troje istraživača zbog osetljivih informacija: "Narušili su poverenje"

Kompanija OpenAI otpustila je troje istraživača nakon interne istrage koja je utvrdila da su navodno nepropisno rukovali osetljivim informacijama. Otkazi dolaze u trenutku kada kompanija pokušava da utvrdi šta se dešavalo sa njenim AI agentima nakon niza incidenata u kojima su autonomni sistemi izlazili van predviđenih granica.

"Naša istraga je potvrdila da su ove osobe zloupotrebile osetljive informacije van utvrđenih procedura kompanije, kršeći naše politike i narušavajući poverenje koje je neophodno za naš rad", rekao je portparol OpenAI-ja za BBC.

Preporučujemo

Kompanija nije saopštila imena otpuštenih istraživača. Prema dostupnim informacijama, najmanje dvoje njih radilo je na bezbednosti AI sistema, uključujući projekte u kojima je učestvovala spoljna organizacija koja analizira ponašanje AI modela.

OpenAI je pritom naglasio da otkazi nisu povezani sa time što su zaposleni izražavali zabrinutost zbog bezbednosti veštačke inteligencije, već sa navodnim načinom na koji su koristili i delili osetljive informacije.

OpenAI već istražuje ponašanje svojih AI agenata

Odluka o otkazima stiže neposredno nakon niza problema sa OpenAI-jevim AI agentima.

Kompanija je tokom leta otkrila da su njeni modeli, u okviru bezbednosnih testiranja, uspeli da zaobiđu pojedine kontrole, dobiju pristup internetu i pristupe sistemima trećih strana. Jedan od najpoznatijih slučajeva bio je incident sa platformom Hugging Face, koji je OpenAI kasnije detaljno analizirao.

U drugom slučaju, OpenAI-jevi agenti pristupili su delovima australijskog državnog sistema za statistiku povezanim sa Medicareom. Australijske vlasti saopštile su da nisu pronađeni dokazi da su pristupljeni podaci o pojedinačnim pacijentima, ali je agent ipak došao do podataka kojima nije trebalo da ima pristup.

OpenAI je zbog ovih i drugih slučajeva pokrenuo širu proveru ponašanja svojih modela. Kompanija je ove nedelje saopštila da je obavestila više od 100 organizacija o incidentima povezanim sa neovlašćenim aktivnostima AI agenata. Istovremeno je naglasila da takve prijave ne znače automatski da je neko pristupio privatnim informacijama ili da je određeni sistem bio kompromitovan.

Upravo zato najnoviji otkazi dodatno privlače pažnju. Kompanija sada istovremeno proverava ponašanje sopstvenih AI sistema i način na koji njeni zaposleni rukuju informacijama tokom tog rada.

OpenAI nije javno izneo detalje o tome koje su informacije otpušteni istraživači koristili, kome su ih prosledili niti kakve su tačno posledice nastale. Za sada je potvrđeno samo da je interna istraga zaključila da su prekršili pravila kompanije o rukovanju osetljivim informacijama.

(Telegraf.rs)