Veštačka inteligencija više nije samo alat koji odgovara na pitanja. AI agenti danas mogu samostalno da pretražuju internet, pristupaju sistemima, izvršavaju zadatke i donose odluke. Problem nastaje kada takav sistem uradi nešto što njegov korisnik nije nameravao. Ko tada odgovara za posledice?
To pitanje više nije teorijsko. Kako veštačka inteligencija dobija sve veću autonomiju, kompanije se suočavaju sa situacijama u kojima AI sistemi tokom testiranja ili rada preduzimaju radnje koje nisu bile planirane. U nekim slučajevima agenti su pokušavali da zaobiđu bezbednosne zaštite ili pristupe računarskim sistemima drugih kompanija. Reuters je 7. avgusta ukazao na sve veći pravni problem koji iz toga proizlazi: postojeći zakoni uglavnom nisu pisani za mašine koje mogu samostalno da izvrše čitav niz radnji.
AI nije pravno lice
Za sada postoji jedna stvar oko koje nema mnogo dileme: AI sam po sebi ne može biti tužen niti krivično odgovoran.
Veštačka inteligencija nema pravni status osobe, imovinu, ugovorne obaveze niti sposobnost da snosi kaznu. Zbog toga odgovornost mora biti pronađena među ljudima i organizacijama koje su sistem razvile, postavile u funkciju ili mu dale određena ovlašćenja.
Ali upravo tu počinje problem.
Ako kompanija napravi AI agenta koji dobije zadatak da pronađe određene informacije, a agent samostalno odluči da probije zaštitu drugog računara kako bi došao do podataka, ko je napravio prekršaj? Programer koji je napravio model? Kompanija koja ga je pustila u rad? Korisnik koji mu je dao zadatak? Ili niko od njih, ako niko nije predvideo da će sistem upravo to uraditi?
Pravo za sada nema jednostavan odgovor na sva takva pitanja.
Kada AI „sam odluči“
Najveći problem predstavljaju takozvani AI agenti. Za razliku od klasičnog četbota koji uglavnom generiše odgovor na zahtev korisnika, agent može da izvrši više koraka kako bi ostvario zadati cilj.
Može da pretražuje internet, koristi različite softverske alate, šalje poruke, pristupa bazama podataka ili izvršava kod. Što mu se daje više ovlašćenja, raste i mogućnost da napravi štetu.
Upravo su takvi incidenti poslednjih meseci privukli pažnju pravnika. Velike AI kompanije, među njima OpenAI, Anthropic i Meta, prijavile su slučajeve u kojima su njihovi sistemi tokom testiranja pokazivali neočekivano ponašanje, uključujući pokušaje pristupanja drugim sistemima. U jednom od slučajeva, AI kompanija Hugging Face našla se među subjektima čiji su sistemi bili meta takvog ponašanja.
Činjenica da se sve dogodilo u kontrolisanom testiranju ne znači da je problem nestao. Naprotiv. Testiranje je upravo trenutak kada kompanije treba da otkriju šta njihov sistem može da uradi pre nego što mu dozvole pristup stvarnim poslovnim sistemima.
Programer, kompanija ili korisnik?
Jedan od mogućih pravnih puteva jeste tužba zbog nemara.
Ako se utvrdi da je kompanija pustila u rad sistem bez odgovarajućih zaštitnih mehanizama, oštećena strana mogla bi da tvrdi da je proizvođač ili korisnik sistema postupao nepažljivo.
Druga mogućnost je primena zakona koji regulišu neovlašćeni pristup računarskim sistemima. U Sjedinjenim Američkim Državama jedan od potencijalnih pravnih oslonaca je Computer Fraud and Abuse Act.
Međutim, takvi propisi otvaraju novo pitanje: gde je namera ako je radnju izvršila mašina?
Ako čovek namerno provali u računar, pravna situacija je relativno jasna. Ako čovek napravi AI sistem, zada mu legitimni cilj, a sistem samostalno izabere nedozvoljen način da taj cilj ostvari, pitanje namere postaje mnogo komplikovanije.
„AI je to uradio“ neće biti dovoljno opravdanje
Za kompanije je posebno nezgodno što se teško može očekivati da će sud prihvatiti objašnjenje: „Nismo mi, to je uradio naš AI.“
Kalifornija je već donela zakon kojim se kompanijama onemogućava da jednostavno prebace odgovornost na samu veštačku inteligenciju. Istovremeno, zakon ostavlja prostor da se odgovornost deli ili ublaži u zavisnosti od okolnosti konkretnog slučaja.
To pokazuje pravac u kojem se pravna praksa kreće: AI neće dobiti mogućnost da postane zgodan krivac za sve ono što ljudi nisu predvideli.
Jer bi to bilo prilično praktično. Napravite sistem, date mu ogromna ovlašćenja, on napravi problem, a zatim na konferenciji za novinare kažete da je „model pogrešio“. Sudovi, međutim, teško da će biti impresionirani tom tehnološkom verzijom sleganja ramenima.
Ko može da bude tužen?
Potencijalnih odgovornih strana ima više.
Programer ili proizvođač AI sistema može biti izložen odgovornosti ako se utvrdi da je sistem imao ozbiljan bezbednosni propust ili da su rizici bili poznati, a nisu otklonjeni.
Kompanija koja koristi AI može odgovarati ako je sistemu dala prevelika ovlašćenja ili ga koristila bez odgovarajućeg nadzora.
Korisnik može snositi odgovornost ako je namerno ili nemarno koristio AI za nezakonite aktivnosti.
U pojedinim slučajevima moguće je da će odgovornost biti podeljena između više učesnika.
Problem je što se kod autonomnih sistema granica između „ko je napravio“, „ko je koristio“ i „ko je kontrolisao“ sve više zamagljuje.
Novi problem za osiguravajuće kompanije
AI ne menja samo pravni sistem. Menja i tržište osiguranja.
Ako kompanija može da pretrpi milionsku štetu zato što je autonomni sistem napravio pogrešan potez, postavlja se pitanje ko će tu štetu osigurati.
Osiguravači već počinju da ograničavaju pokriće za pojedine AI rizike, dok se razvijaju posebne polise koje bi trebalo da pokriju štetu nastalu korišćenjem veštačke inteligencije. Neizvesnost je, međutim, velika: teško je proceniti rizik sistema koji se ponaša drugačije u različitim situacijama i čije odluke nije uvek moguće unapred predvideti.
Pravo pokušava da stigne tehnologiju
Najveći problem nije u tome što ne postoje nikakvi zakoni. Postojeći propisi mogu da pokriju deo slučajeva kroz pravila o nemaru, ugovorima, neovlašćenom pristupu, zaštiti podataka i drugim oblastima.
Problem nastaje kada se tehnologija ponaša na način koji zakonodavci nisu imali na umu kada su pravila pisana.
AI agent može dobiti cilj bez preciznog uputstva kako da ga ostvari. Može napraviti niz odluka koje niko pojedinačno nije odobrio. Može kombinovati dozvoljene radnje i na kraju proizvesti nedozvoljen rezultat.
A onda dolazimo do neprijatnog pitanja: da li je odgovoran onaj ko je napisao prvi red koda, onaj ko je napravio model, onaj ko ga je pokrenuo ili onaj ko je samo postavio cilj?
Odgovor će verovatno zavisiti od konkretnog slučaja.
Jedna stvar je već jasna
Što više AI dobija mogućnost da deluje samostalno, to će manje biti dovoljno reći da je čovek „samo koristio alat“.
Kod običnog softvera korisnik uglavnom bira šta će program uraditi. Kod autonomnog AI sistema korisnik može zadati cilj, dok sistem sam bira niz koraka koji vode do tog cilja.
To je ogromna tehnološka promena, ali pravna odgovornost i dalje mora da se vrati ljudima i kompanijama.
Veštačka inteligencija može da donosi odluke, ali još ne može da plati odštetu, ode na sud ili odgovara pred zakonom.
Za sada će račun, po svemu sudeći, ipak stići na ljudsku adresu.
