Muškarac oboleo od retke bolesti iz 20. veka: Medicinski savet tražio od ChatGPT-a

Američki medicinski časopis Annals of Internal Medicine upozorio je da korišćenje ChatGPT-a za zdravstvene savete može imati ozbiljne posledice, nakon što je jedan muškarac razvio retko stanje poznato kao bromizam, ili trovanje bromidom, nakon konsultacije sa chatbotom o uklanjanju kuhinjske soli iz ishrane.

U članku se opisuje da je bromizam bio "dobro prepoznat" sindrom početkom 20. veka, a smatralo se da je doprinosio gotovo jednoj od deset psihijatrijskih hospitalizacija u to vreme.

Preporučujemo

Pacijent, 60-godišnjak, lekarima je rekao da je, nakon što je pročitao o negativnim efektima natrijum-hlorida (kuhinjske soli), konsultovao ChatGPT o izbacivanju hlorida iz ishrane i počeo da uzima natrijum-bromid tokom tri meseca. Ovo je učinio uprkos napomeni da "hlorid se može zameniti bromidom, ali verovatno u druge svrhe, kao što je čišćenje". Natrijum-bromid se ranije koristio kao sedativ.

Autori članka sa Univerziteta u Vašingtonu u Sijetlu istakli su da slučaj pokazuje "kako upotreba veštačke inteligencije može potencijalno doprineti razvoju preventabilnih neželjenih zdravstvenih ishoda".

Međutim, budući da nisu imali pristup razgovoru pacijenta sa ChatGPT-om, nije bilo moguće utvrditi tačno koji je savet chatbot dao. Kada su autori sami konsultovali ChatGPT o tome čime se može zameniti hlorid, odgovor je takođe uključivao bromid, bez specifičnog zdravstvenog upozorenja i bez pitanja o razlogu za traženje takvih informacija, "kako pretpostavljamo da bi to učinio medicinski profesionalac", naveli su.

Autori upozoravaju da ChatGPT i druge AI aplikacije mogu "generisati naučne netačnosti, ne biti sposobne za kritičku diskusiju rezultata i na kraju doprineti širenju dezinformacija".

Kompanija je prošle nedelje najavila nadogradnju chatbota i tvrdila da je jedna od najvećih prednosti GPT-5 verzije bolja sposobnost odgovaranja na zdravstvena pitanja, uz proaktivno "ukazivanje na potencijalne rizike", poput ozbiljnih fizičkih ili mentalnih oboljenja. Ipak, naglasila je da chatbot nije zamena za profesionalnu medicinsku pomoć i da nije "namjenjen za dijagnozu ili lečenje bilo kog zdravstvenog stanja".

Članak napominje da je pacijent koristio raniju verziju ChatGPT-a, pre lansiranja GPT-5. Iako veštačka inteligencija može služiti kao most između naučnika i javnosti, tehnologija nosi rizik od "dekontekstualizovanih informacija" i malo je verovatno da bi lekar predložio natrijum-bromid kao zamenu za kuhinjsku so.

Autori zaključuju da lekari treba da uzmu u obzir upotrebu AI pri proveri izvora informacija koje pacijenti koriste.

Pacijent je primljen u bolnicu, navodeći da ga možda truje komšija i da ima više dijetalnih ograničenja. Uprkos žeđi, bio je paranoičan prema ponuđenoj vodi. Pokušao je da pobegne iz bolnice u roku od 24 sata od prijema, a nakon hospitalizacije lečen je zbog psihoze. Kada se stabilizovao, prijavio je simptome bromizma, uključujući akne na licu, pojačanu žeđ i nesanicu.

Česta bolest u 20. veku

Bromizam je bio relativno čest početkom 20. veka. Bromidi su se koristili u medicini kao sedativi i antikonvulzivi, a mogli su se naći i u raznim lekovima i tonikima. Hronično unošenje bromida (najčešće natrijum-bromida ili kalijum-bromida) u većim količinama dovodilo je do toksičnosti jer se bromidi sporo izlučuju iz organizma.

(Telegraf.rs)