Da li pacijent mora da zna kada ga procenjuje veštačka inteligencija?

Kada lekar pogleda snimak, laboratorijski nalaz ili istoriju bolesti, pacijent očekuje stručnu procenu. Sve češće u tom procesu učestvuje i softver koji prepoznaje obrasce, označava sumnjive promene ili predlaže sledeći korak. Takva pomoć može biti dragocena, ali otvara pitanje koliko pacijent zna o načinu na koji je zaključak donet.

Britanska komisija je nedavno preporučila jasnije obaveštavanje pacijenata o korišćenju veštačke inteligencije i praćenje bezbednosti tih sistema tokom njihove upotrebe. Naglasak nije samo na početnom testiranju, već i na tome kako se softver ponaša u stvarnim uslovima.

Preporučujemo

Reč je o preporukama za budući regulatorni okvir, a ne o univerzalnim pravilima koja već svuda važe.

Razlog za takav pristup je jednostavan. Dobar rezultat na testu ne garantuje podjednaku pouzdanost u svakoj ordinaciji. Kvalitet podataka, oprema i osobine pacijenata mogu uticati na učinak sistema.

Softver koji se menja i nadograđuje zahteva proveru i nakon početnog odobrenja. Poverenje zato ne može počivati samo na obećanju proizvođača.

Za pacijenta, međutim, tehnički detalji nisu najvažniji. Važno mu je da razume da li je lekar samostalno procenio nalaz, proverio preporuku sistema i uzeo u obzir njegove posebne okolnosti.

Broj na ekranu može delovati precizno, ali preciznost prikaza nije isto što i sigurnost medicinskog zaključka.

Tu nastaje neprijatna mogućnost. Veštačka inteligencija uvedena da pomogne lekaru može vremenom postati autoritet čiji se predlozi sve ređe preispituju. Posebno tamo gde nema dovoljno vremena i osoblja.

Tada tehnologija formalno ostaje pomoćnik, dok u praksi dobija veći uticaj nego što pacijent pretpostavlja, ponekad i bez jasnog razgovora o tome.

S druge strane, potpuno odbacivanje takvih alata takođe ima cenu. Oni mogu pomoći u ranijem prepoznavanju bolesti i smanjenju rutinskog opterećenja.

Pacijentu nije u interesu da izgubi korisnu pomoć samo zato što dolazi od računara. Ali prihvatanje tehnologije ne mora da znači odricanje od objašnjenja, pitanja i ljudske provere.

Obaveštavanje zato ne bi trebalo svesti na potpisivanje još jednog formulara. Rečenica da ustanova koristi savremene digitalne alate govori malo.

Mnogo više znači razumljivo objašnjenje uloge sistema, njegovih ograničenja i načina na koji stručnjak proverava rezultat. Pacijentu je potreban razgovor koji smanjuje neizvesnost, a ne dodatna stranica sitno pisanih uslova.

Pravo poverenje moglo bi da raste upravo tamo gde se otvoreno govori i o mogućnostima i o greškama. Medicina već podrazumeva neizvesnost. Uvođenje veštačke inteligencije tu činjenicu ne briše, već menja način na koji je treba objasniti.

Ostaje dilema koliko smo spremni da prepustimo tehnologiji kada je zdravlje u pitanju i da li bismo istu preporuku prihvatili podjednako mirno kada bismo tačno znali kako je nastala i ko ju je proverio.

(Telegraf.rs)