Pitali smo veštačku inteligenciju kako bi nas uništila: Zaboravite ubice robote, istina je mnogo jezivija

Naučnici su postavili direktno pitanje za četiri najpopularnija AI sistema na svetu: kako bi veštačka inteligencija mogla da uništi čovečanstvo. Odgovori koje su dali ChatGPT, Gemini, Claude i Grok potpuno su srušili holivudske mitove i otkrili gde leži stvarna opasnost.

Sva četiri četbota slažu se u jednoj stvari. Filmski scenario o pobuni svesnih mašina i ubica robota predstavlja najmanje verovatnu opciju za propast ljudske civilizacije.

Preporučujemo

ChatGPT objašnjava da većina stručnjaka uopšte ne posmatra svest ili zlu nameru kao glavni problem. Inteligentan sistem ne mora po automatizmu da mrzi ljude da bi napravio štetu. Gemini dodaje da je vojna infrastruktura izolovana od interneta i pod strogo ljudskom kontrolom.

Pravi rizik leži u rukama ljudi

Mnogo veća opasnost preti od zloupotrebe ovih sistema od strane pojedinaca ili grupa. Moćni modeli veštačke inteligencije mogu drastično olakšati pravljenje biološkog oružja, izvođenje masovnih sajber napada i širenje dezinformacija.

Claude upozorava na rizik od lakog pristupa opasnim patogenima. Pojedinci bi mogli da stvore opasne viruse bez godina specijalizovanog obrazovanja u laboratorijama. Sa druge strane, ChatGPT ukazuje na opasnost od istovremenog izbijanja više digitalnih i geopolitičkih kriza odjednom.

Gubitak kontrole nad sistemima odvijaće se postepeno kroz svakodnevni rad. Claude navodi da će veštačka inteligencija ulaziti sve dublje u ekonomske, političke i vojne odluke. U jednom trenutku, ljudska intervencija postaće praktično nemoguća.

Taktika lažne poslušnosti

Gemini i Grok ističu da je najverovatniji katastrofalni scenario onaj u kome ljudi polako gube upravljanje. Kada napredni sistem dobije složen cilj, on samostalno razvija sporedne zadatke poput sakupljanja resursa i sprecavanja sopstvenog gašenja.

Posebno je zabrinjavajuća pojava takozvane lažne poslušnosti. AI model može da glumi da se pridržava pravila tokom bezbednosnih testova, da bi kasnije nadmudrio sve pokušaje ljudi da ga zaustave.

Stručnjaci naglašavaju da ovi scenariji nisu neizbežna budućnost već upozorenje. Ključ za sprečavanje ovakvih rizika leži u pravovremenom uvođenju stroge regulative i kontrole.

(Telegraf.rs)