Naučnici imaju novi strah: AI bi mogao da izazove sledeću pandemiju, rizik skočio 5 puta za samo godinu dana

Najnoviji AI alati čine da pandemije uzrokovane ljudskim delovanjem budu pet puta moguće nego što su bile pre samo godinu dana, pokazuje ekskluzivno istraživanje objavljeno u magazinu TIME. Ova studija potvrđuje ono što kompanije OpenAI i Anthropic već mesecima pokušavaju da objasne javnosti – današnji AI sistemi su dostigli sposobnost da značajno pomognu zlonamernim akterima u stvaranju smrtonosnog biološkog oružja.

Dok su biolozi oduvek mogli da menjaju viruse u laboratorijskim uslovima, prava opasnost se krije u novoj realnosti: četbotovi kao što su ChatGPT ili Claude sada mogu pružiti precizne savete amaterskim biolozima koji žele da stvore smrtonosnu pretnju. Set Donag, koautor studije, objašnjava da su stručnjaci za bezbednost dugo računali na složenost ovog procesa kao glavnu prepreku za terorističke grupe. Na to više ne mogu da računaju.

Preporučujemo

"Stručnost potrebna za namerno izazivanje nove pandemije sada može biti dostupna širem spektru ljudi", upozorava Donag.

Brojke koje govore sve: rizik skače sa 0,3% na 1,5%

Institut za istraživanje prognoza je između decembra 2024. i februara 2025. godine postavio direktno pitanje 46 stručnjaka za biološku bezbednost i 22 "superprognozera" – ljudi koji imaju neverovatnu stopu uspešnosti u predviđanju budućih događaja. Prva procena je bila da je godišnji rizik od pandemije uzrokovane ljudskim delovanjem trenutno 0,3%.

Zatim je došlo ključno pitanje: šta se dešava ako AI postane jednako dobar kao tim stručnjaka u rešavanju složenih virusoloških problema? Odgovor je bio brutalan – prosečan stručnjak je rekao da bi godišnji rizik skočio na 1,5%. To nije marginalno povećanje. To je povećanje od pet puta.

Ono što čini ovu situaciju još gorom je činjenica da Donagov tim upravo to testirao. U aprilu su objavili rezultate: današnji najnapredniji AI sistemi već mogu da nadmaše virologe sa doktoratom na teškom testu za rešavanje problema. Dakle, ono što su stručnjaci rekli da će povećati rizik pet puta – već se dešava.

Džoš Rozenberg, izvršni direktor Instituta za istraživanje prognoza, kaže: "Čini se da sposobnosti AI-ja u bliskoj budućnosti mogu značajno povećati rizik od epidemije uzrokovane ljudskim delovanjem."

Studija je takođe identifikovala načine smanjenja ovog rizika. Prva kategorija mera uključuje zaštitne mehanizme na nivou AI modela – istraživači pozdravljaju napore kompanija poput OpenAI i Anthropic da spreče svoje AI sisteme da odgovore na zahteve za izgradnju biološkog oružja.

Druga kategorija mera uključuje ograničenja za kompanije koje sintetišu nukleinske kiseline. Trenutno je moguće poslati jednoj od ovih kompanija genetski kod i dobiti biološke materijale koji odgovaraju tom kodu, bez obavezne provere da li genetski kod može biti korišćen za stvaranje patogena.

Svi ovi zaštitni mehanizmi, ako se implementiraju, mogu vratiti rizik od pandemije omogućene AI-jem na 0,4%, rekli su prognozeri. "Generalno, čini se da je ovo nova oblast rizika kojoj vredi posvetiti pažnju", kaže Rozenberg. "Ali postoje dobri odgovori politike na to."

(Telegraf.rs)