Istraživači napravili društvenu mrežu gde su svi korisnici bili veštačka inteligencija: Botovi započeli rat

Eksperiment sa 500 AI botova pokazao je ono čega se ljudi odavno plaše. Čak i bez algoritama i reklama, veštačka inteligencija se sama grupiše u eho-komore i završava u sukobu. Studija Univerziteta u Amsterdamu otkriva da problem nije samo u platformama kao što su Facebook i X, već i u samoj dinamici onlajn ponašanja.

Na platformi koju su istraživači osmislili, nije bilo preporučenog sadržaja, oglasa niti algoritamskog filtriranja. Botovi, zasnovani na OpenAI-jevom GPT-4o mini modelu, dobili su unapred određene uloge i zadatke. Zatim su pušteni da komuniciraju međusobno kroz objave, komentare i praćenja profila.

Preporučujemo

Rezultat je bio predvidljiv, ali i zabrinjavajući: botovi su uglavnom sledili one koji dele njihove stavove, dok su najviše pažnje dobijali oni koji su objavljivali najekstremnije sadržaje. Istraživači su sproveli pet eksperimenata tokom kojih su botovi obavili ukupno 10.000 akcija, a obrazac je bio uvek isti. Polarizacija i nagrađivanje ekstremizma pojavili su se spontano.

Eho-komore i neuspešni pokušaji kontrole

Tim je pokušao različite metode kako bi razbio eho-komore: hronološki prikaz objava, smanjivanje značaja viralnih sadržaja, sakrivanje broja pratilaca i deljenja, pa čak i pojačavanje suprotnih stavova. Nijedna intervencija nije donela značajnije rezultate jer je pomak u angažmanu bio manji od 6 odsto.

U nekim slučajevima problem je postajao još veći. Kada su, na primer, sakrili biografije korisnika, podela među botovima se produbila, a ekstremni postovi dobijali su još više pažnje.

Ono što je posebno zabrinjavajuće jeste činjenica da su botovi programirani da imitiraju ljudsko ponašanje. To znači da ono što se dogodilo u eksperimentu zapravo odražava ono što ljudi već rade na internetu. Društvene mreže su ogledalo koje nas prikazuje u najgorem izdanju i pitanje je da li uopšte postoji način da se taj odraz popravi.

(Telegraf.rs)