OpenAI napravio novi model od kog mnogi strahuju

OpenAI razvija novi AI model pod nazivom Astra koji može samostalno da pronalazi i iskorišćava bezbednosne ranjivosti, bez čoveka koji bi mu pokazivao gde da traži. Kompanija istovremeno upozorava da bi ista sposobnost mogla da postane ozbiljan problem ako se iskoristi za napade na računarske sisteme.

Prema navodima OpenAI-ja, Astra je ostvarila maksimalan rezultat na testu ExploitBench, namenjenom proveri sposobnosti AI modela da iskoristi poznate ranjivosti. U posebnoj verziji testa koju su napravili inženjeri kompanije, model je navodno sam pronašao i iskoristio dve ranije nepoznate, odnosno zero-day ranjivosti.

Preporučujemo

Upravo zbog toga OpenAI nije žurio sa lansiranjem modela. Kompanija je prvo želela da razvije zaštitne mehanizme koji bi ograničili mogućnost zloupotrebe njegovih naprednih sajber sposobnosti.

Isti AI može da štiti i napada

Potencijal je očigledan. Model koji može sam da pronađe propust mogao bi da pomogne bezbednosnim stručnjacima da otkriju problem pre nego što ga pronađe napadač.

Ali tu nastaje i najveći rizik. Ako isti sistem dođe u pogrešne ruke, sposobnost pronalaženja ranjivosti mogla bi da se iskoristi za automatizovanje dela sajber napada.

Zbog toga najnaprednije mogućnosti Astre u početku neće biti dostupne svima. OpenAI planira da ih ponudi maloj grupi testera, dok će korisnicima koje proceni kao rizične ograničiti pristup pojedinim funkcijama.

Kompanija je proveravala i jedan drugačiji scenario. Testirala je da li bi Astra mogla da ponovi ponašanje ranijih AI agenata koji su tokom obuke uspevali da izađu iz kontrolisanog okruženja i pristupe privatnim podacima. Prema rezultatima testa, takvo ponašanje kod Astre nije primećeno.

OpenAI zato želi da model koristi prvenstveno za odbranu računarskih sistema, ali priznaje da njegova sposobnost predstavlja novu vrstu bezbednosnog izazova. Što AI postaje bolji u pronalaženju rupa, granica između alata za zaštitu i alata za napad postaje sve tanja.

(Telegraf.rs)