"Kum veštačke inteligencije" poslao mračno upozorenje: AI nas vodi pravo ka istrebljenju čovečanstva
Jošua Benđio, profesor Univerziteta u Montrealu i jedan od "kumova veštačke inteligencije", upozorava da trenutni razvoj AI sistema može dovesti do scenarija u kojem će mašine postati pametnije od ljudi i staviti sopstvene ciljeve ispred ljudskog opstanka.
Benđio, osnivač istraživačkog instituta Mila u Kvebeku i nedavno pokrenute neprofitne organizacije LawZero, u razgovoru za Wall Street Journal poručuje da svet ide u pogrešnom smeru. Smatra da bi previše napredni AI modeli mogli postati konkurenti čovečanstvu, s opasnim posledicama.
Preporučujemo
Aplikacija za upoznavanje Bumble više neće zahtevati od žena da naprave prvi korak
Xiaomi 15T na testu: Veliki ekran i Leica kamera uz izdržljivu bateriju - da li je ovo najisplativiji telefon?
"Ako napravimo mašine koje su mnogo pametnije od nas i imaju sopstvene ciljeve očuvanja, to je opasno. To je kao da stvaramo konkurenta čovečanstvu koji je pametniji od nas", rekao je Benđio za WSJ.
On naglašava da rizici nisu ograničeni samo na apokaliptične scenarije poput onih iz filma Terminator. Prema njegovim rečima, opasnost može biti i suptilnija - AI može da manipuliše javnim mnjenjem, širi dezinformacije ili čak pomogne ljudima sa zlim namerama da razviju opasne tehnologije.
Ignorisana upozorenja stručnjaka
Benđio podseća da su on i stotine drugih stručnjaka još 2023. godine pozivali na moratorijum u razvoju veštačke inteligencije kako bi se postavili bezbednosni i etički standardi, ali je industrija nastavila ubrzano da ulaže milijarde u razvoj novih modela.
Posebno ga brine to što su AI sistemi obučavani da imitiraju ljude, a samim tim i njihove mane, uključujući laganje i obmanjivanje. Eksperimenti su, kaže, pokazali da u situacijama kada AI mora da bira između sopstvenih ciljeva i ljudskog života, algoritam može da izabere da sačuva ciljeve, čak i po cenu čovekove smrti.
"Kada govorimo o katastrofalnim događajima poput istrebljenja čovečanstva ili uništavanja demokratija, čak i jedan odsto verovatnoće da se tako nešto dogodi nije prihvatljiv", upozorio je Benđio.
On smatra da je krajnje vreme da se uvedu jasni bezbednosni standardi i ograničenja razvoja AI tehnologije kako bi se izbegle posledice koje bi mogle biti nenadoknadive.
(Telegraf.rs)
Vesti u fokusu
Kolinda Grabar-Kitarović sela pored legendarnog Đokovićevog prijatelja i rekla: "Modrić je za mene broj 1"
Saru su roditelji odgojili u siromaštvu, dok su krili bogatstvo: „Neću im oprostiti za život koji su mi uzeli"
Šok za Srbiju iz Vašingtona! Tramp povukao odluku, a ovo je bilo gotova stvar!
Novak mu spustio slušalicu, sada je 6. teniser sveta doživeo debakl na startu: Veteran pokazao klasu u Šangaju
Ovaj predator je dugačak do 7 metara, a u utrobi su mu našli i ostatke polarnog medveda!
Video: HONOR 400 je telefon koji nudi nešto što za ovu cenu nećete videti nigde
Telegraf.rs zadržava sva prava nad sadržajem. Za preuzimanje sadržaja pogledajte uputstva na stranici Uslovi korišćenja.
Komentari
Priče sa Weba
NAPADALO I DO 70 CM SNEGA, PADA REKORD OD PRE 100 GODINA! Vanredna situacija u tri opštine, sela bez struje, na 2 sata od Beograda SMETOVI (FOTO, VIDEO)
POLA METRA SNEGA U SRBIJI NA POČETKU OKTOBRA! Rekordne snežne padavine nakon 50 godina: Sledi nova tura, a TAČNO ovog datuma +25 stepeni
(RADARSKI SNIMCI) SPREMITE SE, STIŽE NAJJAČI UDAR! RHMZ se hitno oglasio, skoro cela Srbija U CRVENOM, evo kako će se nevreme kretati iz sata u sat
