Koristila je Claude kao dnevnik, a onda je AI njene poruke prijavio policiji

Jedna žena sa Floride koristila je Anthropic Claude kao dnevnik, ali je jedna poruka koju je tamo napisala završila kod policije. Sistem je njene reči označio kao potencijalnu pretnju, nakon čega ih je pregledao čovek i procenio da je potrebno obavestiti nadležne.

Karli Mišel Heler iz Bonita Springsa uhapšena je nakon što je 26. septembra u razgovoru sa Claudeom navodno napisala da planira napad na kancelariju šerifa. Prema policijskom izveštaju, Heler je kasnije rekla istražiteljima da četbot koristi kao "dnevnik".

Preporučujemo

Claudeov sistem za bezbednost označio je poruku, a ona je prosleđena na ljudsku proveru. Nakon procene da bi moglo da se radi o verodostojnoj pretnji, slučaj je prijavljen policiji.

Anthropic u svojim pravilima navodi da u ograničenim hitnim situacijama može da podeli informacije o korisniku ako smatra da je to potrebno kako bi se sprečila smrt ili ozbiljna fizička povreda.

Policija je identifikovala Heler i došla na njenu adresu. Privedena je bez incidenta, nakon čega je slučaj preuzela jedinica zadužena za obaveštajne poslove u kancelariji šerifa okruga Li.

Heler je optužena za pisanu pretnju nasiljem, krivično delo koje se na Floridi tretira kao felony. Zakon obuhvata i elektronske poruke kojima se preti smrću ili povređivanjem, masovnom pucnjavom ili terorističkim aktom.

Slučaj pokazuje nešto što korisnici AI četbotova često mogu da previde: razgovor sa četbotom nije isto što i vođenje privatnog dnevnika.

Čak i kada korisnik AI koristi za lične beleške ili razgovore koje ne bi vodio sa drugom osobom, postoje sistemi za bezbednost, pravila kompanije i situacije u kojima sadržaj može biti prosleđen ljudima na proveru.

To ne znači da će svaka neprijatna ili čudna poruka automatski završiti kod policije. Anthropic navodi da se informacije mogu deliti u ograničenim hitnim okolnostima, a u ovom slučaju kompanija je procenila da postoji potencijalna ozbiljna pretnja.

Zato je možda najvažnija lekcija ovog slučaja jednostavna: pre nego što četbotu napišete nešto što biste smatrali potpuno privatnim, imajte na umu da razgovor nije isto što i papirni dnevnik koji stoji zaključan u fioci.

(Telegraf.rs)