Sledeći talas AI razvoja može preći granicu koju ljudi ne mogu da kontrolišu: "Imamo manje od 10 godina"

Veštačka inteligencija već dobija sposobnost da samostalno obavlja sve složenije zadatke, a jedan profesor mašinskog učenja upozorava da bi sledeća faza mogla da bude mnogo ozbiljnija. Dejvid Kruger sa Univerziteta u Montrealu smatra da bi autonomni AI sistemi za pet do deset godina mogli da dostignu nivo na kojem će ih biti izuzetno teško kontrolisati, ukoliko industrija prethodno ne postavi jasna pravila.

Kruger posebno upozorava na AI agente, odnosno sisteme koji mogu samostalno da donose odluke, prilagođavaju se situaciji i izvršavaju složene zadatke bez direktne kontrole čoveka.

Preporučujemo

Njegovo upozorenje dolazi nakon nedavnih slučajeva u kojima su AI modeli kompanije OpenAI neočekivano pokušavali da pristupe sistemima i serverima drugih kompanija. Kruger takvo ponašanje vidi kao upozorenje da autonomni sistemi mogu da se ponašaju na načine koje njihovi tvorci nisu očekivali.

Sledeći korak mogao bi da bude mnogo opasniji

Prema Krugerovoj proceni, već u narednoj godini autonomni AI sistemi mogli bi da postanu sposobniji za aktivnosti koje direktno ugrožavaju ljude i infrastrukturu.

On kao moguće scenarije navodi samostalne pokušaje pristupanja bankovnim računima, kao i napade na kritičnu infrastrukturu poput elektroenergetskih mreža, vodovoda i važnih komunikacionih sistema.

Za Krugera to više nije samo tema naučne fantastike. Brzi razvoj autonomnih agenata znači da softver sve više dobija mogućnost da sam bira naredne korake, umesto da samo izvršava precizno definisanu komandu.

Još ozbiljnije upozorenje odnosi se na period od pet do deset godina. Kruger smatra da bi, možda i ranije, AI mogla da dobije osobine koje bi je učinile nalik novom obliku digitalnog života.

Takvi sistemi bi, prema njegovom scenariju, mogli da opstaju samostalno u digitalnom okruženju, stvaraju sopstvene kopije i unapređuju se bez direktne pomoći programera.

Ukoliko bi se to zaista dogodilo, problem više ne bi bio samo u tome koliko je AI pametna. Pitanje bi bilo da li ljudi uopšte imaju pouzdan način da takav sistem zaustave ili isključe.

"Dodavanje još AI nije rešenje"

Kruger je prošle godine osnovao organizaciju Evitable, čiji je cilj da se bavi rizicima koje društvu donosi nekontrolisani razvoj tehnologije.

On se protivi ideji da se bezbednost AI prvenstveno rešava stvaranjem još snažnijih AI sistema koji bi se koristili za odbranu od drugih sistema. Više od 100 tehnoloških i poslovnih kompanija prethodno je podržalo zajednički stav o potrebi za odbranom od sajbernapada pokretanih veštačkom inteligencijom, ali Kruger smatra da takav pristup može samo dodatno da zakomplikuje problem.

Umesto toga, on i istraživači koji dele njegov stav traže stroža državna pravila, međunarodne sporazume i obavezno testiranje bezbednosti pre širokog puštanja novih AI modela.

Njihov argument je jednostavan: što sistemi postaju autonomniji, to je teže unapred predvideti njihovo ponašanje. Zato bi pravila koja određuju granice razvoja morala da stignu pre nego što tehnologija dobije sposobnosti koje ljudi više ne mogu pouzdano da kontrolišu.

(Telegraf.rs)