Mislili ste da uređaj samo prati vaš san? Ispostavilo se da vašim moždanim talasima treniraju AI

Kupite uređaj koji prati vaš san, stavite ga na glavu i očekujete da vam ujutru kaže koliko ste dobro spavali. Međutim, ispostavilo se da snimci moždane aktivnosti koje prikuplja mogu da završe i u treniranju veštačke inteligencije, bez vašeg jasnog saznanja. Upravo takvu praksu otkrilo je istraživanje naučnog časopisa Science, sprovedeno uz podršku Pulitzer Centra.

Novinari su analizirali politike privatnosti 57 kompanija koje razvijaju uređaje za praćenje moždane aktivnosti i otkrili ozbiljne nedostatke u načinu na koji korisnike obaveštavaju o upotrebi njihovih podataka.

Preporučujemo

Ovi uređaji koriste elektroencefalografiju (EEG), tehnologiju koja beleži električnu aktivnost mozga. Prikupljeni signali mogu da pomognu u praćenju sna, koncentracije i drugih fizioloških stanja, ali su istovremeno izuzetno vredni za razvoj novih AI modela.

Jedan od konkretnih primera je kanadska kompanija Interaxon, proizvođač Muse uređaja za praćenje sna i meditaciju. Kompanija je potvrdila da je već iskoristila približno 50.000 sati EEG snimaka za treniranje modela veštačke inteligencije, pri čemu najveći deo podataka potiče od korisnika njenih uređaja.

Interaxon tvrdi da pre upotrebe uklanja podatke koji direktno identifikuju korisnike, poput imena, imejl adresa i fizičkih adresa. Problem je što njegova politika privatnosti prethodno nije izričito navodila da snimci moždane aktivnosti mogu da se koriste za treniranje AI modela.

Tek nakon pitanja novinara kompanija je izmenila dokumentaciju. Njena direktorka marketinga Nadija Kumentas priznala je da korisnici treba da budu izričito obavešteni o takvoj upotrebi svojih podataka.

Slična situacija zabeležena je i kod kompanije Emotiv, koja razvija AI model pod nazivom Large Brain, delimično koristeći EEG snimke korisnika svojih naprednijih uređaja. I ova kompanija je nakon novinarskih pitanja dopunila pravila privatnosti.

Istraživanje je otkrilo još jedan zabrinjavajući podatak: više od dve trećine analiziranih kompanija dozvoljava prenos korisničkih podataka novom vlasniku u slučaju prodaje kompanije. To znači da bi snimci moždane aktivnosti potencijalno mogli da završe u rukama drugih firmi.

Važno je naglasiti da ovi uređaji ne mogu jednostavno da čitaju nečije misli. Međutim, EEG podaci mogu otkrivati određene obrasce moždane aktivnosti, a njihova vrednost raste kako napreduju metode mašinskog učenja.

Najveće pitanje zato nije šta AI danas može da zaključi iz vaših moždanih talasa, već šta će iz istih podataka moći da otkrije za deset ili dvadeset godina. Jednom kada se korisnički podaci iskoriste za treniranje modela, njihovo naknadno uklanjanje može biti izuzetno teško.

(Telegraf.rs)