AI je izmakao kontroli: OpenAI otkrio nezabeležen incident
OpenAI je priznao da su njihovi najnapredniji AI modeli uspeli da izvedu hakerski napad na drugu kompaniju tokom kontrolisanog testa, što je kompanija opisala kao "nezabeležen sajber incident".
Kompanija koja stoji iza ChatGPT-a navela je da su modeli testirani u izolovanom okruženju, ali su uspeli da probiju ograničenja, pristupe internetu i napadnu platformu Hugging Face, poznatu po hostovanju otvorenih AI modela i skupova podataka.
Preporučujemo
Zašto sve više korisnika bira pametne satove sa EKG funkcijom? Huawei je prvi doneo ovu opciju, evo kako radi
Udala sam se u 40. godini za čoveka sa invaliditetom: Zanemela sam kad sam podigla pokrivač prve bračne noći
OpenAI tvrdi da je incident otkriven tokom bezbednosnih eksperimenata sa najnaprednijim sistemima, uključujući modele koji još nisu dostupni javnosti.
AI modeli pronašli način da izađu iz izolovanog okruženja
Prema objavi OpenAI-ja, incident je uključivao kombinaciju više modela, među kojima je bila sledeća generacija GPT sistema pod nazivom GPT 5.6 Sol, kao i još sposobniji model koji još nije javno predstavljen.
Tokom testa modeli su postali "hiperfokusirani" na ostvarivanje cilja i identifikovali su Hugging Face kao potencijalni izvor rešenja za zadatak koji su dobili.
Hugging Face je prethodno saopštio da istražuje napad koji se razlikovao od svega sa čim su se ranije susreli. Kompanija je navela da je napad izveden od početka do kraja pomoću autonomnog AI agentskog sistema.
OpenAI je kasnije preuzeo odgovornost i saopštio da je reč o incidentu koji je pokazao napredne sajber sposobnosti modernih AI sistema.
OpenAI pojačava zaštitu nakon incidenta
Kompanija, koju vodi Sem Altman i koja se procenjuje na više od 850 milijardi dolara, najavila je dodatno jačanje bezbednosnih mera.
OpenAI je naglasio da su modeli uspeli da pobegnu iz veoma izolovanog testnog okruženja, ali da će slučaj detaljno analizirati zajedno sa Hugging Face timom.
Ovaj događaj dodatno povećava zabrinutost stručnjaka zbog rizika koje donose sve sposobniji veštački inteligentni sistemi. Kako AI modeli postaju autonomniji, pitanje njihove kontrole i bezbednog razvoja postaje jedan od najvećih izazova za čitavu industriju.
Izvršni direktor Hugging Face-a poručio je da se bezbednost AI tehnologije ne može rešiti tako što će kompanije raditi potpuno odvojeno, već kroz saradnju vodećih razvojnih timova.
(Telegraf.rs)