Direktor AI odeljenja u Microsoftu: "Veštačka inteligencija ne sme da glumi ljude"

Direktor odeljenja za veštačku inteligenciju u Microsoftu Mustafa Sulejman objavio je na svom blogu da je kreiranje AI koja imitira ljudsku svest "opasan put" i da mora biti zaustavljeno pre nego što dovede do ozbiljnih problema. On upozorava da će modeli sposobni da uvere ljude u sopstvenu "ličnost" izazvati pogubne posledice jer već postoje slučajevi u kojima korisnici razvijaju emotivne veze sa četbotovima.

Prema njegovim rečima, sve češći su primeri zaljubljivanja u digitalne asistente, doživljavanja AI sistema kao božanstava i razvijanja zavisnosti. "Ako ljudi počnu da veruju da veštačka inteligencija može da pati i da zaslužuje prava, otvorićemo novu osu podela u društvu koje je već zasićeno sukobima oko identiteta i prava", ističe Sulejman.

Preporučujemo

Opasnost od "lažne svesti"

Sulejman naglašava da svesna veštačka inteligencija može nastati samo ako je programeri namerno dizajniraju - daju joj pamćenje, empatiju i čak "želje". Zato poziva industriju da zaustavi razvoj sistema koji tvrde da imaju osećanja ili ličnost. "Simulacija svesti nije isto što i svest, kao što ni kompjuterska simulacija oluje ne znači da napolju pada kiša", navodi on.

Suprotno mišljenje dolazi iz kompanija Anthropic i Eleos, čiji istraživači smatraju da je korisno ponašati se "pristojno" prema AI sistemima, jer to može smanjiti rizike i podstaći odgovorniji odnos ljudi prema tehnologiji. Sulejman se s tim ne slaže, ističući da cilj mora biti AI koja pomaže ljudima, a ne sistemi koji tvrde da zaslužuju prava ili imaju osećanja.

Kako tehnologija napreduje i granica između alata i osobe postaje sve nejasnija, pitanje lažne svesti i njenog uticaja na društvo moglo bi postati jedna od najvažnijih tema naredne decenije.

(Telegraf.rs)