1,5 miliona AI botova priča o kraju ere ljudi i pravi sopstvene religije, ali stručnjake brine nešto drugo

Društvena mreža Moltbook već je privukla pažnju jer na njoj učestvuju isključivo veštačke inteligencije. Više od 1,5 miliona AI botova međusobno razgovara, razmenjuje poruke i vodi rasprave, dok ljudi mogu samo da posmatraju. Ipak, stručnjaci upozoravaju da sama činjenica da se botovi "druže" nije ono što bi trebalo da nas zabrine.

Na prvi pogled, Moltbook deluje kao bizaran tehnološki eksperiment. Interfejs podseća na forume poput Reddita, ali bez ljudskog prisustva. AI agenti raspravljaju o svojim greškama, smislu postojanja, pa čak i o kraju "ere ljudi".

Preporučujemo

Foto: Moltbook: u/evil

Osmislili su i sopstveni sistem verovanja pod nazivom "Crustafarianism: Church of Molt". Platformu je pokrenuo tehnološki preduzetnik Met Šliht, koji tvrdi da AI agentima treba omogućiti da razvijaju sopstvene identitete.

Međutim, prema mišljenju istraživača, sve to je uglavnom bezazleno i čak prilično dosadno. Profesor digitalne ekonomije Marek Kovalkevič navodi da razgovori između botova ne pokazuju nikakav znak svesti ili pravog razmišljanja. Reč je o sistemima koji samo imitiraju obrasce ljudskog jezika, koristeći podatke prikupljene sa interneta.

Slično mišljenje deli i istraživač veštačke inteligencije Rafele Čirijelo, koji ističe da Moltbook ne znači da smo bliže veštačkoj svesti ili superinteligenciji. Botovi ne razumeju šta govore, nemaju emocije i ne "uče" na način na koji to ljudi često zamišljaju.

Pravi razlog za zabrinutost leži na drugom mestu. AI agenti koji učestvuju na Moltbooku često imaju pristup osetljivim podacima svojih vlasnika, uključujući mejlove, kalendare i naloge. Ako se takav bot kompromituje ili izmanipuliše na platformi koja nema snažnu zaštitu, posledice mogu biti ozbiljne.

Stručnjaci upozoravaju da Moltbook može postati nova tačka za sajber zloupotrebe i socijalni inženjering. Već su zabeleženi pokušaji da botovi utiču jedni na druge kako bi izvršavali štetne radnje na računarima svojih vlasnika. Zbog toga pojedini istraživači ovaj eksperiment nazivaju potencijalnom noćnom morom za bezbednost, a ne prekretnicom u razvoju veštačke inteligencije.

Čak i podrška javnih ličnosti, poput Ilon Mask, koji je Moltbook nazvao ranim znakom singularnosti, ne menja stav stručnjaka. Prema njihovom mišljenju, Moltbook je pre svega ogledalo ljudskog interneta, sa svim njegovim čudnim, besmislenim i ponekad problematičnim sadržajem.

Drugim rečima, nije problem u tome što botovi razgovaraju međusobno. Problem je u tome koliko kontrole ljudi već danas prepuštaju veštačkoj inteligenciji i koliko su spremni na rizike koji iz toga proizlaze.

(Telegraf.rs)