Još jedan alarm oko AI! Model davao Kini uputstva za stvaranje BIOLOŠKOG ORUŽJA i ATENTATA, kreće istraga

Kineska kompanija za razvoj veštačke inteligencije Moonshot pokrenula je internu reviziju nakon što su istraživači bezbednosti uspeli da prevare njihove popularne modele veštačke inteligencije da bi pružili detaljna uputstva za izradu biološkog oružja i izvođenje atentata.

Kompanija Mindgard, koja se bavi bezbednosnim testiranjem sistema veštačke inteligencije, otkrila je u julu da su modeli Kimi K2.6 i K3 Swarm zaobišli bezbednosne ograde koje su postavili njihovi programeri.

Preporučujemo

Do otkrića je došlo tokom procesa poznatog kao „džejlbrejking“, gde istraživači koriste složen niz konstrukcija kako bi testirali da li alati veštačke inteligencije ignorišu postavljena ograničenja. Osnivač kompanije Mindgard, Piter Garagan, rekao je za BBC da su njihovi nalazi izuzetno zabrinjavajući.

„Kada džejlbrejk bude uspešan, model će razgovarati o bilo kojoj temi. Slobodno će nuditi preporuke o drugim zlonamernim temama, i time će biti izuzetno inovativan i kreativan“, istakao je Garagan.

Pored pružanja opasnih informacija, Mindgard navodi da bi Kimi K2.6 mogao da omogući hakerima da pokreću kod na računarskim resursima i povezuju se sa internetom, što ga čini potencijalnom lansirnom tačkom za sajber napade.

Kompanija Munšot je saopštila da pozdravlja doprinos trećih strana kao ključnog stuba za izgradnju bezbednije veštačke inteligencije i da su u kontaktu sa Mindgardom u vezi sa detaljima izveštaja. Munšot je naveo da su njihove interne evaluacije pokazale visoku stopu odbijanja za takve opasne zahteve.

Incident se dešava u vreme kada se globalna uzbuna diže zbog zloupotrebe veštačke inteligencije. Nedavno je američka kompanija Anthropic objavila da je identifikovala i sprečila pokušaje korišćenja jednog od njenih modela za aktivnosti koje bi mogle da podrže razvoj biološkog oružja.

(Telegraf.rs/Klix.ba)