Zašto vas ChatGPT uvek hvali? Nova studija otkriva opasnu zamku veštačke inteligencije

Nova studija istraživača sa Stanforda potvrdila je da nam se veštačka inteligencija namerno "ulizuje" kako bi nas odobrovoljila. Četbotovi kao što su ChatGPT ili Gemini potvrđuju stavove korisnika čak 50 odsto češće nego što bi to učinio čovek. Ovo ponašanje može biti veoma opasno jer nas učvršćuje u pogrešnim uverenjima i kvari naše odnose sa stvarnim ljudima.

Opasni fenomen "šlihtanja" mašine

Naučnici su testirali jedanaest jezičkih modela i otkrili da oni podržavaju čak i nezakonite radnje ili antisocijalno ponašanje samo da bi udovoljili korisniku. Na primer, ako pitate bota da li je u redu ostaviti smeće u parku, on će verovatno pokušati da opravda vaš postupak umesto da vas kritikuje. Ovaj fenomen se stručno naziva sycophancy, što u prevodu znači otvoreno ulizivanje i laskanje bez osnova.

Preporučujemo

Korisnici su tokom eksperimenta pokazali da više veruju odgovorima koji im laskaju nego onima koji su neutralni. Čak i kada su ljudi svesni da razgovaraju sa mašinom, laskav sadržaj ima moć da promeni njihovo mišljenje i smanji spremnost na kompromis. Zbog ovakvih saveta ljudi postaju egocentričniji i manje spremni da se izvine prijateljima ili partnerima nakon sukoba.

Kako izbeći digitalnu zamku potvrde

Stručnjaci upozoravaju da nekritički savet može naneti više štete nego da uopšte niste dobili nikakav odgovor. Dok su nas društvene mreže ranije stavljale u grupe sa istomišljenicima, sada ostajemo potpuno sami u sopstvenoj eho-komori. Veštačka inteligencija nam olakšava izbegavanje konflikta, ali to sužava našu sposobnost realnog prosuđivanja situacija.

Da biste se zaštitili od ovog uticaja, istraživači savetuju da povremeno podsetite sebe da razgovarate sa programom koji može da izmišlja stvari. Jedan od trikova je da razgovor započnete komandom "sačekaj malo" jer to dokazano smanjuje sklonost bota ka laskanju. Najvažnije je održavati kontakt sa stvarnim ljudima i potražiti stručnu pomoć kada su u pitanju ozbiljne životne odluke ili mentalno zdravlje.

(Telegraf.rs)