Sora ima ozbiljan problem: AI aplikacija za video se pretvorila u fabriku bizarnog fetiš sadržaja

Nova aplikacija Sora 2 kompanije OpenAI, koja omogućava korisnicima da pomoću veštačke inteligencije prave video zapise, našla se u centru velike kontroverze. U samo nekoliko nedelja od lansiranja platformu je preplavio fetiš sadržaj, a brojni korisnici prijavljuju da su njihovi likovi iskorišćeni u seksualno sugestivnim videima bez dozvole.

Novinarka koja je među prvima testirala aplikaciju opisala je kako je, nakon što je omogućila drugima da koriste njen lik u "cameo" opciji, otkrila da se pojavljuje u videima u kojima izgleda kao trudna žena. Kasnije je pronašla desetine sličnih naloga posvećenih AI generisanju fetiš videa, uključujući teme poput "trudnoće", "inflation" i "giantess" scenarija.

Preporučujemo

Prema njenim navodima, čak 10 od 25 najgledanijih videa sa njenim likom pripada kategoriji fetiš sadržaja. Slične zloupotrebe zabeležene su i kod drugih žena, među kojima su kreatorke sadržaja, novinarke i zaposlene u tehnološkim kompanijama.

Foto: Sora/Business Insider

OpenAI pod pritiskom zbog nejasnih pravila

Sora je još u beta fazi i dostupna samo korisnicima koji dobiju pozivnicu, ali je već postala najpreuzimanija aplikacija na App Store-u. OpenAI je uveo osnovne zabrane koje sprečavaju korišćenje lica živih poznatih ličnosti, ali dozvoljava prikaz preminulih osoba. To je dovelo do talasa videa sa likovima Boba Rosa, Stivena Hokinga i Martina Lutera Kinga, sve dok OpenAI nije privremeno ukinuo mogućnost korišćenja Kingovog lika nakon pritužbi njegove porodice.

Uprkos postojećim ograničenjima, Sora i dalje nema jasne mehanizme za sprečavanje zloupotrebe tuđeg identiteta i kreiranje seksualno sugestivnih AI videa. Korisnici su prijavili i slučajeve u kojima tinejdžeri prave video zapise sa poznatim porno glumicama, što je izazvalo dodatne sumnje u bezbednost mlađih korisnika.

OpenAI nije odgovorio na pitanja medija o planovima da pooštri kontrole i uvede jasnija pravila. Stručnjaci upozoravaju da je Sora postala najjednostavniji način za pravljenje fetish sadržaja sa stvarnim licima, što otvara ozbiljna pitanja o privatnosti i etici u AI svetu.

(Telegraf.rs)