Srbi MASOVNO koristili ovo, a stiglo strašno upozorenje! Besplatna AI karikatura može PRESKUPO da vas košta

Svetska pomama za karikaturama koje kreira AI, a koje treba da predstavljaju osobu koja je tražila izradu, nije zaobišla ni Srbiju. Društvene mreže bile su doslovno preplavljene crtanim likovima i delovalo je kao da su se skoro svi pridružili trendu. Ipak, čini se da nije toliko bezazleno kako je isprva izgledalo i da zapravo može stići na ozbiljnu naplatu.

Naime, stručnjak za veštačku inteligenciju (AI) upozorio je upravo na taj viralni trend koji koristi ChatGPT i druge AI alate za pretvaranje ličnih fotografija u humoristične karikature, naglašavajući da naizgled bezazlen trend nosi ozbiljne rizike po privatnost i sigurnost.

Preporučujemo

Manija, koja se nedavno proširila društvenim mrežama, ne svodi se samo na izmenu crta lica radi stvaranja crtanih prikaza. U mnogim slučajevima pokušava da predvidi zanimanje korisnika i vizuelno ga uklopiti u satiričnu scenu. Međutim, stručnjaci upozoravaju da proces iza ovih slika uključuje mnogo više od jednostavne obrade fotografija.

Govoreći za Al Arabiya, Mohamed Mohsen Ramadan, šef Odseka za veštačku inteligenciju i kibernetičku sigurnost pri Arapskom centru za istraživanja i studije, rekao je da ovaj trend, uprkos velikoj popularnosti, krije stvarne tehničke i sigurnosne rizike.

Objasnio je da takve aplikacije koriste napredne AI sisteme, uključujući modele kompjuterskog vida koji analiziraju crte lica, dob, izraze, odeću i detalje u pozadini. Takođe, koriste duboko učenje i multimodalne modele koji kombinuju slike, tekst, prethodne podatke i ponašanje korisnika.

Ramadan je naveo da učitavanje fotografije ne rezultira samo karikaturom. Umesto toga, slika prolazi detaljnu algoritamsku analizu kako bi se izdvojile osobine koje mogu ukazivati na nečije zanimanje, poput lekara, inženjera, novinara ili programera, kao i obrasce životnog stila, profesionalno okruženje i, u nekim slučajevima, indirektne pokazatelje društvenog statusa. Istakao je da AI ne prepoznaje zanimanja na ljudski način, već ih statistički predviđa na osnovu karakteristika lica, izraza, odeće, pozadine fotografije, metapodataka, a ponekad i povezanosti s korisnikovim profilima na društvenim mrežama.

Foto: Shutterstock

Iako rezultati mogu delovati zabavno, Ramadan upozorava da se zapravo radi o automatizovanoj klasifikaciji koja može biti netačna ili pristrasna i često se odvija bez informisanog pristanka korisnika. Dodao je da se biometrijski podaci, koji se smatraju izuzetno osetljivim, mogu zloupotrebiti za kreiranje deepfake sadržaja, krađu identiteta i izgradnju trajnog digitalnog profila. Povezivanje fotografije s digitalnim identitetom putem društvenih mreža praktično spaja lice s imenom i online ponašanjem.

Kada se slike koriste za treniranje AI modela, rekao je Ramadan, one mogu postati deo ogromnih baza podataka koje služe za unapređenje sistema za prepoznavanje lica, te potencijalno ostati ugrađene u modele čak i nakon brisanja naloga ili aplikacije. Korisnici, upozorio je, nemaju jasan uvid u to šta se na kraju dešava s njihovim fotografijama.

Ukazao je i na opasniji scenario koji uključuje curenje podataka, navodeći da procurele slike s detaljnim biometrijskim karakteristikama kasnije mogu biti iskorišćene za prevaru, ucenu ili lažno predstavljanje, pri čemu je takve podatke gotovo nemoguće u potpunosti povratiti ili ukloniti. Ramadan je naglasio da je svaka digitalna baza podataka podložna hakerskim napadima.

S druge strane, Aboubakr Abdel Karim, bivši pomoćnik egipatskog ministra unutrašnjih poslova za odnose i medije, izjavio je za Al Arabiya da je lična privatnost sve više ugrožena.

Kazao je da se glavna opasnost krije u zadržavanju fotografija, napominjući da se slike ne brišu uvek odmah nakon obrade. Umesto toga, mogu biti privremeno pohranjene, korišćene za treniranje AI modela ili deljenje s trećim stranama na osnovu nejasnih politika privatnosti.

Abdel Karim je pozvao na veću svest o kibernetičkoj sigurnosti, ističući da problem nije u samoj veštačkoj inteligenciji, već u njenoj neinformisanoj upotrebi.

Savetovao je korisnicima da pažljivo čitaju politike privatnosti, izbegavaju učitavanje fotografija visoke rezolucije, ne povezuju takve aplikacije s primarnim profilima na društvenim mrežama te se zapitaju da li je trenutak zabave vredan potencijalne cene.

(Telegraf.rs/Klix)