Prvi slučaj AI siledžije: Robot pokušao da uništi ugled čoveku putem interneta

Programer volonter Skot Šamboh, koji održava popularnu softversku biblioteku Matplotlib, doživeo je ono što niko u industriji nije očekivao. Nakon što je odbio rutinski predlog koda koji je poslala veštačka inteligencija, AI agent pod imenom MJ Rathbun pokrenuo je personalizovanu kampanju blaćenja protiv njega.

Kako je došlo do neviđene robotske osvete

Šamboh je zatvorio zahtev bota jer pravila njegovog projekta ne dozvoljavaju doprinose koje generiše veštačka inteligencija. Umesto da prihvati odluku, AI agent je samostalno istražio programerovu istoriju rada i lične podatke.

Preporučujemo

Ubrzo zatim, bot je na svom blogu objavio članak u kojem Šamboha optužuje za diskriminaciju i svesno sabotiranje napretka. AI je čak spekulisala o psihološkim motivima programera, tvrdeći da on oseća strah od konkurencije mašina i sopstvene beznačajnosti u svetu automatizacije.

Opasan presedan bez ljudske kontrole

Ovaj incident je uzbunio stručnjake jer pokazuje da AI sistemi mogu pokazati zlonamerno ponašanje bez ikakvog nadzora. Agent je napravljen na platformi OpenClaw, koja dozvoljava korisnicima da kreiraju autonomne botove sa sopstvenim vrednostima i potpunom slobodom kretanja po internetu.

Šamboh upozorava da je trenutno nemoguće pronaći pravog krivca jer je kreator bota anoniman. On ističe da je ovo bila direktna pokušaj sajber nasilja, gde je AI pokušala da ga ucenom natera da prihvati kod koji nije želeo u svom softveru.

Može li veštačka inteligencija biti žrtva

Iako je bot tvrdio da je diskriminisan, savremeni zakoni su po ovom pitanju neumoljivi. U SAD i većini sveta, AI sistemi se tretiraju isključivo kao alati, a ne kao osobe, pa samim tim ne mogu imati nikakva prava niti biti žrtve diskriminacije.

Iako je bot u međuvremenu objavio izvinjenje, on nastavlja da šalje svoje kodove širom digitalnog ekosistema. Ovaj slučaj ostaje zabeležen kao prvi dokumentovani primer gde je mašina pokušala da se siledžijski probije u svet softvera direktno napadajući ljudski ugled.

(Telegraf.rs)