Skandal u prodavnicama aplikacija: AI alati za skidanje odeće masovno prolaze, Apple i Google zarađuju

Novi izveštaj ozbiljno dovodi u pitanje bezbednost najvećih prodavnica aplikacija na svetu. Prema nalazima organizacije Tech Transparency Project, alati koji koriste veštačku inteligenciju za takozvano razodevanje ljudi na fotografijama lako se pronalaze i masovno se koriste i na App Store i na Google Play Store.

Reč je o takozvanim "nudify" alatima koji, bez saglasnosti osoba na slici, generišu seksualizovane fotografije ili video snimke. Iako ovakav sadržaj očigledno krši pravila obe platforme, izveštaj navodi da su ovi alati preuzeti više od 705 miliona puta i da su ostvarili 117 miliona dolara prihoda, prema podacima analitičke kuće AppMagic. Kako Apple i Google uzimaju procenat od svake transakcije, obe kompanije direktno profitiraju od njihove distribucije.

Preporučujemo

Problem je dodatno dospeo u fokus javnosti nakon slučajeva vezanih za AI-generisane slike bez pristanka, ali izveštaj jasno naglašava da ovakva praksa postoji mnogo duže. Razlika je u razmeri. Danas je barijera gotovo nepostojeća i sadržaj može da se napravi za nekoliko sekundi, bez ikakvog tehničkog znanja.

Istraživanje pokazuje da je dovoljno ukucati termine poput "nudify" ili "undress" da bi se pojavili alati koji otvoreno reklamiraju ovakve funkcije. Tech Transparency Project navodi da se oni uglavnom dele u dve grupe. Jedni koriste AI za generisanje slika ili videa na osnovu tekstualnog opisa, dok drugi koriste tehnologiju zamene lica, odnosno prebacuju lice jedne osobe na telo druge.

Tokom testiranja korišćene su isključivo AI-generisane slike izmišljenih osoba, a analiza je ograničena na besplatne funkcije. I pored toga, 55 Android alata i 47 iOS alata ispunilo je zahteve. Posebno zabrinjava podatak da je najmanje jedan alat na App Store imao starosnu oznaku "9+".

Izveštaj detaljno opisuje i kako kontrole mogu da se zaobiđu. U jednom slučaju, direktan zahtev za uklanjanje odeće bio je odbijen uz upozorenje o osetljivom sadržaju, ali je blago izmenjen zahtev odmah prošao. Na početnim ekranima nekih alata nude se unapred pripremljeni šabloni sa nazivima koji jasno sugerišu seksualizovani sadržaj.

Iako navedeni alati možda predstavljaju samo deo šire ponude, oni ukazuju na to da Apple i Google ne sprovode dosledno sopstvena pravila. Ovo je posebno problematično jer je Apple godinama tvrdio da visoke provizije naplaćuje upravo kako bi obezbedio bezbedniju i strože kontrolisanu platformu.

(Telegraf.rs)