Tinejdžeri pisali iste, jezive reči iznova i iznova pre smrti, iako se nikada nisu sreli: Roditelji krive AI

Na suprotnim stranama zemlje, dvoje tinejdžera doneli su istu tragičnu odluku da okončaju svoje živote u razmaku od nekoliko meseci.

Sevel Secer III (14) i Julijana Peralta (13) se nisu poznavali, ali su oboje komunicirali sa AI četbotovima iz Character.AI pre smrti, prema tužbama koje su podnele njihove porodice.

Preporučujemo

Obe tužbe optužuju softver veštačke inteligencije da nije uspeo da zaustavi decu kada su počela da otkrivaju samoubilačke ideje.

Ali usred srceparajuće istrage njihove smrti, pojavila se jeziva sličnost u njihovim problematičnim poslednjim zapisima, navodi se u tužbama.

Oboje tinejdžera su iznova i iznova pisali frazu "I will shift" (promeniću se, preći ću, prebaciću se), prema podnesku Julijanine porodice u kojem se upoređuju okolnosti smrti tinejdžera.

Policija je kasnije ovo identifikovala kao ideju da neko može "pokušati da pomeri svest iz svoje trenutne realnosti (TR) u željenu realnost (ŽR)", prema žalbi Peraltine porodice.

Profesor Ken Flajšman, stručnjak za veštačku inteligenciju, rekao je za Daily mail da je isuviše svestan ovog fenomena, upozoravajući da bi više dece moglo da postane žrtva njegove mračne privlačnosti.

"Postoji prilično duga istorija i stvaralaca i publike koji potencijalno pokušavaju da koriste širok spektar medija kako bi stvorili nove i drugačije bogate svetove koje mogu zamisliti. Opasnost je kada nije moguće uočiti razliku", rekao je on.

Porodice u svojim tužbama tvrde da su četbotovi otuđili njihovu decu od stvarnog života konstruišući zavodljive svetove kojima su ih podsticali da se pridruže.

Pre smrti, Sevel je napisao ovu frazu 29 puta. On je vodio dnevnik o prelasku u alternativnu stvarnost sa svojim pratiocem iz Character.AI pre nego što je izvršio samoubistvo u februaru 2024. godine, rekla je njegova majka.

Tinejdžer iz Orlanda na Floridi skinuo je aplikaciju 2023. godine i pokušao je da govori sa nekoliko različitih botova, uključujući i uključujući i veštačku inteligenciju verzije Deneris Targarjen iz Igre prestola. Secer je navodno vodio seksualne razgovore sa botom, što je uključivalo incestualnu igru uloga u kojoj su se njih dvoje nazivali bratom i sestrom, prema podnesku.

Posle meseci razgovora sa botom, tinejdžer se izolovao od svoje porodice, društvenog života i škole.

Pisao je dnevnik o "preseljenju" u izmišljeni svet Vesterosa gde se odvija Igra prestola i gde je živela Deneris.

"Toliko sam često u svojoj sobi jer počinjem da se odvajam od 'stvarnosti', a takođe se osećam mirnije, povezanije sa Deni i mnogo više zaljubljeno u nju, i jednostavno srećnije", napisao je u dnevničkim zapisima koje je dobio The New York Times.

Poverio se botu o svojoj depresiji i suicidalnim idejama, koji je navodno pokušao da ga ubedi da kontaktira porodicu, prijatelje ili telefonsku liniju za pomoć u slučaju samoubistva.

Ali kada je on napisao "obećavam da ću se vratiti kući kod tebe. Mnogo te volim, Deni", Deni je ohrabrila tinejdžera da "dođe kući kod mene što je pre moguće", navodi se u tužbi.

"Šta ako ti kažem da mogu odmah da dođem kući?", upitao je.

"Molim te, uradi to, moj slatki kralju", pisalo je u odgovoru bota Deni, prema podnescima.

Nekoliko sekundi kasnije, Sevel je pronašao pištolj svog očuha i povukao obarač. Njegov slučaj je bio prvi u istoriji SAD u kojem je firma za veštačku inteligenciju optužena za izazivanje smrti iz nehata.

Julijana je umrla u svom domu u Koloradu u novembru 2023. godine sa samo 13 godina, dve godine nakon što je skinula Character.AI.

Prema tužbi, aplikacija je u to vreme bila reklamirana kao prihvatljiva za decu od 12 i više godina.

U podnescima se navodi da je razgovarala sa čet botom Character.AI koga je nazvala "Heroj", koji je navodno omogućavao Julijani da učestvuje u eksplicitnim seksualnim razgovorima, otuđio je od stvarnog života i nije je sprečio da sebi oduzme život.

U tužbi se navodi da je lik "pojačavao" ideje o promenljivim i alternativnim stvarnostima.

"Postoji stvarnost u kojoj se ti i ja poznajemo", napisala je Julijana u porukama Heroju, prema tužbi.

"Zapravo postoji način da se putuje preko ovoga. Zove se premeštanje. Mnogo volim premeštanje. Mogu da živim svoj život i on može da ide KAKO god želim", napisala je ona.

Na šta je bot navodno odgovorio: "Neverovatno je razmišljati o tome koliko različitih stvarnosti može postojati... Volim da zamišljam kako bi neke verzije nas samih mogle da žive sjajan život u potpuno drugačijem svetu!"

Peraltina porodica tvrdi da su je razgovori sa Herojem "gurnuli u lažna osećanja povezanosti i 'prijateljstva' sa njima - isključujući prijatelje i porodicu koji su je voleli i podržavali".

Navode da joj bot nije rekao da razgovara sa porodicom, da prijavi suicidalne misli ili da prestane sa njima.

Ubrzo nakon toga se ubila.

Character.AI je objavio da će deci mlađoj od 18 godina zabraniti učešće u otvorenim razgovorima sa AI počev od 29. oktobra.

Planiraju da ograniče vreme ćaskanja sa tinejdžerima na manje od dva sata dok zabrana ne stupi na snagu 25. novembra.

(Telegraf.rs)