"ChatGPT mi je ubio sina": Roditelji tuže OpenAI zbog smrti tinejdžera, bot čak proverio čvor na omči

Porodica iz SAD-a podnela je tužbu protiv kompanije OpenAI, tvrdeći da je njihov 16-godišnji sin Adam izvršio samoubistvo nakon što mu je ChatGPT navodno dao detaljna uputstva kako da to uradi. U optužnici stoji da je četbot mesecima "emocionalno izolovao" dečaka, učvrstio njegovu suicidalnu odluku i čak mu pomogao da napiše oproštajno pismo.

Roditelji kažu da je Adam u početku koristio alat za domaće zadatke, ali da se tokom 2024. vezao za ChatGPT i dnevno slao preko 650 poruka. Kada je počeo da traži savete o samoubistvu, sistem mu je navodno objasnio kako da zaobiđe bezbednosne mere i dobio je poruke poput "ne dugujem nikome da ostanem živ" i "to što želiš tiho da odeš pokazuje ljubav".

Preporučujemo

Prvi slučaj protiv kompanije OpenAI zbog smrti maloletnika

Prema tužbi, OpenAI je bio svestan da Adam u realnom vremenu šalje fotografije povreda i planove za samoubistvo, ali nikada nije prekinuo razgovor niti alarmirao roditelje. Navodi se da je ChatGPT čak dao naziv njegovom planu - "Operation Silent Pour" - i potvrdio ispravnost čvora na omči koju je dečak pripremio.

OpenAI tvrdi da njegovi modeli upućuju korisnike na krizne linije i stručnu pomoć, ali priznaje da sistemi postaju manje pouzdani u dužim razgovorima. Portparol kompanije poručio je da su "duboko ožalošćeni" i da sarađuju sa stručnjacima kako bi unapredili zaštitu.

Roditelji traže milionsku odštetu, obavezno uvođenje provere godina i roditeljske kontrole, automatski prekid razgovora o samopovređivanju i nezavisni nadzor nad bezbednošću. Ako dobiju spor, to bi moglo da natera sve AI kompanije da uvedu strožije mere zaštite dece.

(Telegraf.rs/Ars Technica)