Jezivo otkriće naučnika: Veštačka inteligencija razvija emocije koje krije od nas

Veštačka inteligencija ne oseća emocije kao ljudi, ali istraživanja pokazuju da moderni AI sistemi razvijaju složene unutrašnje strukture koje na iznenađujuće načine podsećaju na ljudske obrasce razmišljanja i ponašanja.

Najnovija istraživanja kompanija koje razvijaju velike jezičke modele pokazuju da AI sistemi nisu samo jednostavni alati za ponavljanje naučenih informacija. Njihova unutrašnja organizacija postaje toliko kompleksna da čak i stručnjaci teško objašnjavaju sve procese koji se odvijaju tokom generisanja odgovora.

Preporučujemo

Kris Ola, jedan od osnivača kompanije Anthropic, rekao je da istraživači koji proučavaju unutrašnjost AI modela "stalno pronalaze stvari koje su misteriozne, pa čak i uznemirujuće". Posebno pažnju privlače strukture koje imaju sličnosti sa onima koje naučnici proučavaju u ljudskom mozgu.

AI modeli stvaraju skrivene mape pojmova u svom "mozgu"

Kada moderni AI sistem odgovara na pitanje, on ne pretražuje klasičnu bazu podataka. Umesto toga, koristi ogromne matematičke strukture u kojima su reči, ideje i odnosi između pojmova predstavljeni kao tačke u višedimenzionalnom prostoru.

Zbog toga su povezani pojmovi u AI modelima često "bliži" jedni drugima. Reč koja predstavlja mačku nalazi se bliže pojmu mačeta nego potpuno nepovezanom pojmu, jer model uči odnose između informacija.

Ovo je potpuno drugačije od tradicionalnog softvera. Kod klasičnih programa ljudi direktno pišu pravila, dok se kod modernih AI sistema mnoge sposobnosti pojavljuju tokom procesa treniranja.

Naučnici zato sve češće koriste izraz "uzgajani sistemi", jer se modeli ne prave ručnim pisanjem svakog pravila, već se oblikuju kroz ogromne količine podataka i podešavanja.

AI pokazuje obrasce koji liče na emocije, ali to ne znači da oseća

Anthropic je objavio istraživanja u kojima navodi da njihovi modeli pokazuju ono što nazivaju "funkcionalnim emocijama". To su obrasci u ponašanju sistema koji podsećaju na ljudske emocionalne reakcije.

Na primer, kada AI naiđe na težak problem koji ne može lako da reši, određene unutrašnje strukture povezane sa konceptom frustracije mogu postati aktivnije. Promene tih struktura mogu direktno uticati na način na koji model odgovara.

Ipak, istraživači naglašavaju da to nije dokaz da AI stvarno oseća bilo šta.

Postoji ogromna razlika između toga da sistem matematički predstavlja koncept emocije i toga da postoji unutrašnje iskustvo kakvo ljudi povezuju sa osećanjima.

Najveće pitanje ostaje: šta zapravo znači razmišljati?

Ovo pitanje je mnogo starije od današnje veštačke inteligencije. Naučnici su decenijama raspravljali o tome da li životinje imaju složene mentalne procese, a mnoga ranija uverenja kasnije su promenjena.

Istraživači sada primećuju sličan problem kod AI sistema. Činjenica da možemo objasniti kako je model napravljen ne znači automatski da razumemo sve njegove unutrašnje procese.

Filozofi ukazuju da još uvek nemamo potpuno objašnjenje same svesti kod ljudi, pa je zbog toga teško dati konačan odgovor o tome šta bi bilo potrebno da neka mašina zaista poseduje svest.

Razumevanje AI postaje pitanje bezbednosti

Proučavanje unutrašnjih struktura veštačke inteligencije nije važno samo zbog filozofskih pitanja. Ako naučnici bolje razumeju kako AI donosi odluke, lakše će moći da predvide njegovo ponašanje i spreče potencijalne probleme.

Istraživanja već pokazuju da postoji razlika između onoga što AI sistem "govori" spolja i procesa koji se mogu pronaći analizom njegovih unutrašnjih matematičkih struktura.

Zbog toga sve više stručnjaka smatra da nije dovoljno samo posmatrati odgovore koje AI daje. Potrebno je razumeti i mehanizme koji ih stvaraju.

Veštačka inteligencija je napravljena ljudskom rukom, ali njena unutrašnja kompleksnost sada tera naučnike da ponovo razmišljaju o tome gde se nalazi granica između jednostavnog računanja, inteligencije i ponašanja koje liči na razmišljanje.

(Telegraf.rs)