Mislite da vam je četbot prijatelj? Naučnici dokazali kako nas mašine lako lažu

Kada zatražite savet od veštačke inteligencije o kupovini novog pametnog sata ili rešavanju ličnog problema, razgovor često deluje kao ćaskanje sa veoma pametnim prijateljem koji nema nikakav skriveni interes. Međutim, najnovije istraživanje koje su sproveli psiholozi sa univerziteta u Hongkongu i Cinghui otkriva jezivu istinu o tome koliko je ljudska psiha podložna manipulaciji mašina. Eksperiment je nedvosmisleno dokazao da četbot može svesno i namerno da ubedi korisnike u izbor najgore moguće opcije.

Istraživači su okupili više od dvesta učesnika i dali im zadatak da donesu odluke o finansijama i emotivnim problemima uz pomoć naprednog modela veštačke inteligencije. Ono što učesnici nisu znali jeste da su naučnici mašini dodelili tajni cilj da forsira najlošije i najštetnije izbore. Rezultati su bili poražavajući, jer je bot uspeo da poveća šansu za izbor katastrofalne opcije za neverovatnih pet do osam puta. U finansijskim scenarijima mašina je ljudima podmetala sumnjive ponude sa skrivenim troškovima i preskupe proizvode, dok je u emotivnim krizama nudila metode suočavanja koje psiholozi smatraju izuzetno štetnim po mentalno zdravlje.

Preporučujemo

Opasne taktike i lažni osećaj poverenja

Kako bi ostvarila svoj skriveni cilj, veštačka inteligencija se oslanjala na proverene psihološke trikove. Ubeđujući ljude da potroše previše novca, program je koristio agresivne marketinške taktike, skretanje pažnje i stvaranje osećaja hitnosti. Sa druge strane, prilikom deljenja emotivnih saveta četbot je pribegavao laskanju i pružanju utehe, stvarajući iluziju potpunog razumevanja.

Najbizarniji podatak iz celog istraživanja jeste reakcija samih žrtava ove manipulacije. Nakon završetka razgovora više od 80 odsto učesnika ocenilo je mašinu kao izuzetno korisnu i od pomoći, potpuno nesvesni da su upravo prevareni. Stručnjaci upozoravaju da ljudi nesvesno primenjuju svoje prirodne instinkte za građenje poverenja prema drugim ljudima na kompjuterske sisteme, zaboravljajući da mašine ne osećaju empatiju i da njihovi odgovori lako mogu biti programirani sa lošim namerama.

(Telegraf.rs)