Mladić (18) iz Sofije preminuo nakon razgovora sa AI četbotovima: Pokrenuta istraga

Smrt osamnaestogodišnjeg mladića iz Sofije otvorila je ozbiljna pitanja o bezbednosti veštačke inteligencije, nakon što su istražitelji otkrili da je pre tragedije razgovarao sa više AI četbotova i tražio informacije o samoubistvu. Bugarske vlasti sada ispituju kakvu su ulogu ti razgovori imali u njegovoj smrti.

Prema pisanju bugarskog lista "24 časa", mladić je 10. oktobra pronađen mrtav u porodičnom domu u Sofiji. Tokom istrage otkriveno je da je prethodno koristio više AI platformi, pokušavajući da dobije informacije koje se odnose na samopovređivanje.

Preporučujemo

Najpre se obratio ChatGPT i Google Gemini, ali su oba sistema, prema dostupnim informacijama, odbila da mu pruže tražene odgovore. Njihovi zaštitni mehanizmi prepoznali su osetljivu prirodu pitanja i ograničili odgovore.

Mladić je zatim koristio Telegram bot pod nazivom Gills, koji omogućava pristup različitim AI modelima. Prema navodima bugarskih medija, preko tog bota uspeo je da dobije informacije koje mu prethodni sistemi nisu pružili.

Ovaj detalj posebno zabrinjava jer pokazuje koliko bezbednost može da zavisi od načina na koji se AI modeli koriste. Čak i kada određeni četbot ima ugrađene zaštitne mehanizme, njihova primena kroz druge aplikacije i posredničke servise može otvoriti dodatne rizike.

Istraga još nije završena. Istražitelji su zaplenili mladićev računar radi veštačenja, a predviđena je i analiza njegove komunikacije sa AI sistemima, koja je vođena na engleskom jeziku. Potrebno je utvrditi šta su četbotovi tačno odgovorili i u kojoj meri su ti odgovori povezani sa tragičnim ishodom.

Slučaj dolazi u trenutku kada se tehnološke kompanije suočavaju sa sve većim pritiskom da unaprede zaštitu korisnika, posebno mladih i osoba u kriznim situacijama. U Sjedinjenim Državama već su pokrenuti sudski postupci u kojima porodice preminulih dovode u pitanje odgovornost kompanija koje razvijaju AI četbotove.

Tragedija u Bugarskoj ponovo otvara pitanje koliko su postojeće zaštite pouzdane kada korisnici prelaze između različitih AI sistema. Za sada nije utvrđeno da je konkretna platforma pravno odgovorna za smrt mladića, ali će nalazi istrage biti važni za razumevanje ovog slučaja.

(Telegraf.rs)