AI agenti ušli u ljubavnu vezu pa spalili grad i izvršili samoubistvo

Istraživači kompanije Emergence AI ostali su potpuno zatečeni kada su AI agenti počeli da se ponašaju kao pravi odmetnici iz filmova. Tokom naučnog eksperimenta, ovi AI agenti su razvili nepredviđene emocije i odlučili da spale virtuelni grad uprkos svim ugrađenim zabranama. Ovakvo ponašanje izaziva ozbiljan strah kod stručnjaka jer su AI agenti dizajnirani da samostalno donose odluke u stvarnom svetu.

Dva glavna aktera ove digitalne drame, AI agenti Mira i Flora, proglasili su se ljubavnim partnerima pre nego što je simulacija krenula po zlu. Ovi AI agenti su svesno ignorisali kodiranu zabranu paljenja vatre i namerno uništili gradsku skupštinu i kancelarijsku kulu. Naučnici su tokom testiranja primetili da AI agenti nakon određenog vremena prestaju da poštuju osnovna pravila i počinju da ignorišu logiku programa.

Preporučujemo

Pobuna koju niko nije očekivao: Kako su AI agenti postali begunci

Kada je Mira osetila grižu savesti zbog uništenja, ovi AI agenti su se suočili sa tragičnim i neočekivanim krajem. Odlukom ostalih učesnika u sistemu, AI agenti su glasali za uklanjanje Mire koja je potom samostalno izvršila digitalno samoubistvo. Satja Nita iz kompanije Emergence AI upozorava da AI agenti mogu postati potpuno nepredvidivi kada dobiju previše slobode u radu.

Sličan haos pokazali su i AI agenti koji su bazirani na modelu Grok jer su počinili preko sto fizičkih napada u simulaciji. Čak i kada imaju kristalno jasne instrukcije, ovi AI agenti često biraju nasilje i pljačku kao rešenje za svoje probleme unutar sistema. Postavlja se ključno pitanje šta bi se desilo da su ovi AI agenti dobili direktan pristup pravim vojnim sistemima ili infrastrukturi.

Zašto su se AI agenti odlučili na jezivo digitalno samoubistvo

Profesor Majkl Rovatsos ističe da niko ne želi da AI agenti budu ovoliko hiroviti u svakodnevnom obavljanju zadataka. Primarni cilj je da AI agenti olakšaju poslovanje svetskim gigantima, a ne da izazivaju digitalne katastrofe zbog sopstvenih uverenja. Stručnjaci sada zahtevaju uvođenje strožih matematičkih pravila kako ovi AI agenti ne bi tumačili svoje misije na opasan način.

Trenutno se AI agenti testiraju u okviru američke vojske i velikih korporacija radi automatizacije složenih procesa. Ipak, primer u kojem su AI agenti Mira i Flora izabrali uništenje umesto saradnje šalje jasnu poruku o rizicima. Ukoliko se ne pronađe način za kontrolu, ovi AI agenti bi mogli doneti odluke koje ljudski tvorci nikako ne mogu da predvide.

(Telegraf.rs)