Sora bi mogla da dozvoli golotinju: Stručnjaci su veoma zabrinuti

Foto: Robert Way / Shutterstock.com

OpenAI je najavio javno lansiranje svog AI modela veštačke inteligencije koji generiše video, Sore, "definitivno ove godine", što bi moglo da omogući korisnicima da vizualizuju svoje snove ili ideje u video formatu. Model Sora je već demonstrirao sposobnost generisanja raznovrsnih scenarija, uključujući sirenu sa pametnim telefonom i bika u prodavnici porcelana.

Međutim, pitanje golotinje u generisanim videima ostaje nejasno, a Mira Murati, glavna tehnološka direktorka OpenAI-a, izjavila je da kompanija sarađuje s umetnicima i kreatorima iz različitih oblasti kako bi odredila "tačan nivo fleksibilnosti" koji Sora treba da ima.

Preporučujemo

Stručnjaci izražavaju zabrinutost zbog potencijala zloupotrebe takvih tehnologija, uključujući generisanje deepfake pornografije, koja je već prisutna kod većih AI alata. Anketa Instituta za politiku AI (AIPI) pokazala je da 77% ispitanika smatra da je važnije uključiti sigurnosne mehanizme u AI generatore videa poput Sore kako bi se sprečila zloupotreba, nego ih činiti široko dostupnima, prenosi Quartz.

Više od dve trećine ispitanika veruje da bi developer AI modela trebalo da bude pravno odgovoran za bilo kakvu nelegalnu aktivnost koju model omogući.

Problem nedostatka regulative od strane vlade SAD u vezi sa AI tehnologijama naglašava potrebu za proaktivnim pristupom u regulisanju, sa ciljem sprečavanja zloupotrebe poput sajber kriminala, koji uključuje kreiranje deepfake videa. Predložene mere zaštite uključuju verifikaciju korisnika, označavanje sadržaja, ocenjivanje rizika i ograničenja na izvoz AI generisanog sadržaja.

(Telegraf.rs)