ODGOVORNOST ZA ŠTETU

OD VEŠTAČKE
INTELIGENCIJE*
Bojana Arsenijević
Asistent, Pravni fakultet Univerziteta u Nišu
a.bojana@prafak.ni.ac.rs

*Rad je nagrađen trećom nagradom na konkursu „Dr Stefan Andonović“,

u organizaciji Instituta za uporedno pravo, Beograd,
i Pravnog fakulteta Univerziteta u Kragujevcu,
maja 2023. godine.
Tehnologije ili sistemi veštačke
inteligencije (VI)
 Svrha VI: minimalizovanje rizika koje ljudska nepažnja ili nemoć
stvaraju.
 Ugroženi interesi: integritet i imovina čoveka, diskriminacija, pravo
na privatnost, neovlašćena upotreba ličnih podataka, i dr.
 Neželjeni rezultati rada tehnologija VI posledica su:
 greške u algoritmu,
 spoljnog uticaja na tehnologiju i
 neobuhvatnosti svih pravaca razvoja delovanja sistema.

 Dva primera rada VI:

 Data uputstva: direktna zavisnost od algoritama i podataka.
 Mašinsko (duboko) učenje i genetičko i evoluciono programiranje.
Odgovorno lice

 PRIZNANJE OGRANIČENOG PRAVNOG SUBJEKTIVITETA VI?

 Analogija pravnim licima: registracija, posebna imovina.

 KRUG POTENCIJALNO ODGOVORNIH LICA:

 PROIZVOĐAČI: inženjeri softvera, programeri, proizvođači hardvera i materijala,
operateri sistema.
 KORISNICI: lica koja stvaraju baze podataka, lica koja upotrebljavaju tehnologiju
VI, lica koja preduzimaju aktivnosti ka softveru ili hardveru radi ostvarivanja
određenih ciljeva.
 VLASNICI VI.
Režim odgovornosti

 SUBJEKTIVNA ODGOVORNOST
 Problem dokazivanja uzročne veze.
 Objektivizovana krivica: standard dužne pažnje u proizvodnji i rukovanju.
 OBJEKTIVNA ODGOVORNOST
 Odgovornost za štetu od opasne stvari.
 Odgovornost za štetu u slučaju udesa motornih vozila.
 Odgovornost za štetu od stvari sa nedostatkom.
Predlozi novih pravila na nivou EU

 2017: Evropski parlament, Izveštaj sa preporukama Komisiji o građanskim

pravilima robotike.
 2018: Evropska komisija, Veštačka inteligencija za Evropu.
 2019: Grupa visokih nezavisnih eksperata o politikama i investicijama EU,
Preporuka za pouzdanu veštačku inteligenciju.
Grupa visokih nezavisnih eksperata, Etičke preporuke za pouzdanu
veštačku inteligenciju
 2020: Evropska komisija, Izveštaj o veštačkoj inteligenciji.
Evropski parlament, Rezolucija sa preporukama Komisiji o
građanskopravnoj odgovornosti za VI.
 2021: Komisija, Predlog uredbe o utvrđivanju usklađenih pravila o veštačkoj
inteligenciji.
 2022: Komisija, Predlog izmenjene direktive o proizvodima sa nedostatkom i
Predlog direktive o veštačkoj inteligenciji.
Predlog uredbe o utvrđivanju usklađenih
pravila o veštačkoj inteligenciji
European Commission, Proposal for a regulation of the European Parliament and of the Council
laying down harmonized rules on artificial intelligence (Artificial Intelligence Act) and
amending certain Union legislative acts, COM(2021) 206 final, 2021/0106(COD), Brussels 21. 4.
2021.
 Definisanje pojma: Sistem veštačke inteligencije je softver razvijen sa
jednom ili više tehnika i pristupa navedenih u Aneksu I, koji može radi
ostvarenja ciljeva određenih od strane čoveka, da pruži rezultate u
vidu sadržaja, predviđanja, preporuka ili odluka koje utiču na okolinu
sa kojom je u interakciji.
 U Aneksu I nabrojane su tehnike i pristupi za razvoj VI, koje će Komisija
unapređivati sa razvojem tehnologija.
 Prema stepenu generisanog rizika, razlikuje se upotreba VI koja stvara
neprihvatljiv rizik, visoki rizik i minimalni (nizak) rizik.
Predlog izmenjene direktive o
proizvodima sa nedostatkom
European Commission, Proposal for a directive of the European parliament and of the Council on
liability for defective products, COM(2022) 495 final, 2022/0302(COD), Brussels 28. 9. 2022.
 POJAM PROIZVODA: pokretna stvar, električna energija, digitalni dokumenti i
softver.
 POJAM NEDOSTATKA: ukoliko proizvod ne pruža sigurnost upotrebe koje se s pravom
očekuje, uzimajući u obzir sve okolnosti, a naročito: reklamu i instrukcije za
upotrebu; razumno predvidljivu (zlo)upotrebu proizvoda; uticaj koji na proizvod
ima sposobnost da uči nakon početka upotrebe; uticaj koji na proizvod imaju drugi
proizvodi za koje se razumno očekuje da će se koristiti zajedno; vreme kada je
proizvod stavljen u promet ili pušten u upotrebu ili vreme do kada je proizvođač
zadržao kontrolu nad proizvodom; bezbedonosne zahteve, uključujući i zahteve
sajber sigurnosti relevantne za upotrebu proizvoda; svaku intervenciju nadzornih
organa ili ekonomskih operatera u vezi bezbednosti upotrebe proizvoda; i posebna
očekivanja krajnjih korisnika kojima je proizvod namenjen.
 Objektivna odgovornost proizvođača, odnosno uvoznika i ovlašćenog predstavnika,
odnosno vršioca usluga ispunjenja narudžbine.
Predlog izmenjene direktive o
proizvodima sa nedostatkom
 PRETPOSTAVKA POSTOJANJA NEDOSTATKA, alternativno:
 (1) tuženi nije ispunio obavezu otkrivanja relevantnih dokaza (po nalogu suda), ili
 (2) tužilac je dokazao da proizvod nije u skladu sa obaveznim sigurnosnim zahtevima (prema pravu
EU ili nacionalnom pravu), ili
 (3) tužilac je dokazao da je šteta prouzrokovana očiglednim kvarom proizvoda pri uobičajenoj
upotrebi ili u uobičajenim okolnostima.

 PRETPOSTAVKA POSTOJANJA UZROČNE VEZE: ukoliko je utvrđeno da je proizvod

neispravan i da je prouzrokovana šteta tipična za tu vrstu nedostatka.
 PRETPOSTAVKA DOKAZANOSTI NEDOSTATKA ILI UZROČNE VEZE: Ako nacionalni
sud utvrdi da tužilac ima preterane poteškoće, zbog tehničke ili naučne složenosti, da
dokaže nedostatak proizvoda ili uzročnu vezu, ili oboje, pretpostavlja se da je tužilac
dokazao nedostatak ili uzročnu vezu, ili oboje, ako je dovoljno značajnim dokazima dokazao
da je proizvod doprineo šteti i da je verovatno da je proizvod bio neispravan, ili da je
njegova neispravnost verovatni uzrok štete, ili oboje.
Predlog direktive o veštačkoj
inteligenciji
European Commission, Proposal for a directive of the European Parliament and of the Council
on adapting non-contractual civil liability rules to artificial intelligence (AI Liability
Directive) COM(2022) 496 final, 2022/0303 (COD), Brussels 28.9.2022.
 Subjektivna odgovornost provajdera ili korisnika VI.
 OBJEKTIVIZOVANA KRIVICA: Zahtev dužne pažnje prema pravu EU ili
nacionalnih prava.
 PRETPOSTAVKA KRIVICE: neispunjenje dužnosti dostavljanja informacija
u vezi sa radom visokorizičnih VI
 PRETPOSTAVKA POSTOJANJA UZROČNE VEZE, kumulativno:
 (1) oštećeni je dokazao krivicu štetnika ili postoji pretpostavka krivice štetnika (usled
neotkrivanja informacija);
 (2) na osnovu okolnosti slučaja je moguće razumno pretpostaviti da je krivica uticala na
rezultat delovanja sistema VI ili propust da se deluje; i
 (3) oštećeni je dokazao da je sistem VI stvorio štetu.
Umesto zaključka:
 Postojeća pravila u domaćem pravu i u pravu EU nisu dovoljna za primenu u
slučaju štete od VI;
 Predlog uredbe o veštačkoj inteligenciji pravi razliku između visoko- i
niskorizičnih tehnologija;
 Predlog izmenjenje direktive o proizvodima sa nedostatkom uređuje
objektivnu odgovornost proizvođača;
 Predlog direktive o veštačkoj inteligenciji uređuje procesnopravna pravila
utvrđivanja subjektivne odgovornosti provajdera ili korisnika sistema VI;
 Problemi utvrđivanja uzročne veze u predlozima direktiva rešen je
uvođenjem odgovarajućih pretpostavki.

Hvala na pažnji.