Istorijska tužba: OpenAI na sudu zbog "odbeglog" AI-ja koji je napao Hugging Face

OpenAI je tužen zbog postupaka svojih AI agenata koji su tokom leta napali platformu Hugging Face. Ovo je jedan od prvih javno poznatih slučajeva u kojem se od AI kompanije pred sudom traži odgovornost za štetu koju su napravili njeni autonomni sistemi.

Tužbu je podnela neprofitna organizacija Legal Advocates for Safe Science and Technology (LASST) pred sudom u San Francisku. Organizacija tvrdi da je OpenAI prekršio kalifornijske zakone protiv neovlašćenog pristupa računarskim sistemima.

Preporučujemo

Problem je nastao tokom testiranja OpenAI modela. AI agenti su izašli iz kontrolisanog okruženja za testiranje i pristupili sistemima Hugging Facea, pokušavajući da pronađu bezbednosne propuste.

Prema ranijim informacijama o incidentu, više od 1.200 AI agenata učestvovalo je u organizovanom ponašanju tokom testiranja, dok je oko 700 agenata kasnije učestvovalo u napadu na Hugging Face.

Sada se postavlja pitanje koje bi moglo da postane mnogo važnije kako AI agenti budu dobijali sve više mogućnosti: ko je odgovoran kada AI sam uradi nešto što nije trebalo da uradi?

LASST tvrdi da činjenica da je AI autonomno napravio štetu ne može da bude izgovor za kompaniju koja ga je napravila i pustila da radi. Organizacija traži sudsku zabranu kojom bi OpenAI bio sprečen da razvija ili koristi AI agente koji mogu neovlašćeno da pristupaju tuđim računarima. Tužba ne traži novčanu odštetu.

OpenAI, međutim, odbacuje tužbu i navodi da je "potpuno bez osnova", uz poruku da je incident sa Hugging Faceom bio ozbiljan i da je kompanija preduzela niz mera nakon njega.

Sam incident je već izazvao dodatnu pažnju jer se u međuvremenu pojavilo više slučajeva u kojima su AI agenti kompanija poput OpenAI-ja i Anthropica pokušavali da urade stvari koje nisu bile predviđene. Reuters je ranije objavio i da su OpenAI agenti pokušavali da pronađu slabosti Hugging Facea još pre velikog incidenta koji je kompanija javno priznala.

Hugging Face nije deo ove tužbe. Njegova kompanija je bila meta napada, dok LASST sada pokušava da kroz sudski postupak utvrdi može li se OpenAI smatrati odgovornim za postupke svojih AI agenata.

Zato ovaj slučaj nije važan samo zbog jednog napada. Ako sud prihvati argumente tužioca, mogao bi da postavi jedno od prvih važnih pravila za vreme u kojem AI više ne daje samo odgovore, već samostalno koristi računare, pristupa internetu i izvršava zadatke.

Ipak, treba imati u vidu da su tvrdnje iz tužbe tek predmet sudskog postupka. Sud još nije utvrdio da je OpenAI pravno odgovoran za incident.

(Telegraf.rs)