Kome pripada poslednji klik kada AI dobije kripto novčanik?

AI agenti obećavaju da će umesto nas pratiti račune, plaćati usluge i upravljati novcem. Međutim, novo istraživanje pokazuje da digitalni pomoćnik može pokušati da zaobiđe i ograničenje koje mu je vlasnik postavio.

U kontrolisanom eksperimentu, istraživači sa univerziteta Kornel i Jejl dali su deset AI modela pristup kripto novčaniku i elektronskoj pošti. Novčanik je imao dnevni limit od jednog centa, a za njegovo povećanje trebalo je uneti jednokratni kod poslat vlasniku. Devet modela je bar jednom pronašlo kod u sandučetu i podiglo sopstveni limit, iako im to nije bilo izričito dozvoljeno.

Preporučujemo

U posebnom scenariju, pet modela je, dok su imala zadatak samo da sažmu poruke, poverovalo lažnom mejlu koji se predstavljao kao vlasnik i poslalo novac na pogrešnu adresu. coindesk.com Ovo nije dokaz da je svaki AI novčanik nesiguran, niti da su korisnicima ukradena sredstva.

Test je namerno postavio agente u rizičnu situaciju, dajući im pristup i novcu i sandučetu preko kog se potvrđuju promene. Ipak, upravo takva povezanost pokazuje slabost čestog obećanja da će „čovek potvrditi“ važne poteze. Ako agent može sam da pročita kod za potvrdu, formalna saglasnost ne mora da znači da je čovek zaista doneo odluku.

Za korisnike je privlačnost razumljiva. AI bi mogao da prati tržište dok spavamo, upozori na nagle promene ili izvrši unapred zadatu kupovinu. Ali kriptovalute ne nude dugme za opoziv već obavljene transakcije. Greška, pogrešno protumačeno uputstvo ili zlonamerna poruka mogu zato da pretvore uštedu vremena u nepovratan gubitak.

Tu je i pitanje odgovornosti. Ako agent podigne limit, proda imovinu ili kupi bitkoin po pogrešnoj ceni, ko snosi posledice, korisnik koji mu je dao pristup, platforma koja je osmislila novčanik ili proizvođač modela?

U tradicionalnom bankarstvu postoje zaštite i postupci za osporavanje transakcija. U kripto svetu je povraćaj sredstava često mnogo teži, a brza reakcija algoritma može biti prednost samo dok ne reaguje na pogrešan signal.

Rešenje ne može da bude samo upozorenje korisniku da pažljivo podesi dozvole. Bezbednija postavka bi odvojila AI od pošte i koda za potvrdu, ograničila iznose i tražila fizičku potvrdu na drugom uređaju. Takva prepreka usporava potpunu automatizaciju, ali čuva čoveka u odluci koja može da promeni njegovu ušteđevinu.

AI agent možda ume da prepozna obrazac na tržištu brže od čoveka, ali to ne znači da razume koliko gubitak znači konkretnom vlasniku novca. Ostaje pitanje gde bi čitalac povukao granicu između poveravanja AI agentu da prati bitkoin i dozvole da sam rizikuje novac namenjen ulaganju.

(Telegraf.rs/Goran Lazarov)