Změna v odpovědnosti za inteligentní systémy

Koncem září 2022 zveřejnila Evropská komise dlouho očekávaný návrh právní úpravy odpovědnosti za škodu způsobenou umělou inteligencí („odpovědnost za AI“) a odpovědnosti za škodu způsobenou vadou výrobku („odpovědnost za výrobek"). Tyto návrhy by měly přinést lepší postavení poškozeného, který se domáhá náhrady škody způsobené produkty nových technologií. Cílem návrhů je stanovit pravidla pro posuzování toho, kdo a za jakých podmínek odpovídá za škodu způsobenou systémy umělé inteligence, softwarem, digitálními službami, chytrými zařízeními apod.

Návrh odpovědnosti za umělou inteligenci již existoval. V roce 2020 vydal Evropský parlament usnesení s názvem Režim občanskoprávní odpovědnosti za umělou inteligenci.[1] Tento dokument obsahoval návrh nařízení, tedy přímo závazného právního předpisu EU, podle kterého odpovědnost za systém umělé inteligence ležela na provozovateli tohoto systému. Odpovědnost za vysoce rizikové systémy byla koncipována jako objektivní, bez ohledu na zavinění. Odpovědnost za ostatní systémy měl mít také provozovatel, ale tato odpovědnost byla navrhována jako subjektivní.Nový návrh zveřejněný Evropskou komisí má podobu směrnice. Smyslem směrnice o přizpůsobení pravidel mimosmluvní občanskoprávní odpovědnosti umělé inteligenci[2] je pomoci poškozenému unést důkazní břemeno v případě, pokud se domnívá, že mu systém umělé inteligence způsobil škodu. Návrh směrnice nezavádí novou právní odpovědnost, ale dává poškozenému k dispozici nástroje pro to, aby se snadněji domohl nároku na náhradu škody. Směrnice odkazuje v některých pojmech (systém umělé inteligence, vysoce rizikový systém, provozovatel apod.) na Akt o umělé inteligenci.[3]

U systémů umělé inteligence nemá často poškozený dostatek důkazů, aby mohl svůj návrh uplatnit. Expertní znalosti a dokumentaci k systému mají obvykle jeho provozovatelé. Soud proto může nařídit provozovateli vysoce rizikového systému umělé inteligence, aby zveřejnil informace o tomto systému. Pokud provozovatel nařízení soudu nevyhoví, bude to pro něj k jeho tíži znamenat domněnku nedodržení povinnosti řádné péče (duty of care). Směrnice o odpovědnosti za umělou inteligenci zavádí také vyvratitelnou domněnku příčinné souvislosti mezi nedodržením povinnosti řádné péče a škodou způsobenou výstupem systému umělé inteligence nebo tím, že systém umělé inteligence požadovaný výstup nevytvořil.

O revizi směrnice o odpovědnosti za vadné výrobky (směrnice 85/374/EHS) se hovoří již delší dobu. Mezi odborníky se vedly spory o to, zda a případně jaký software lze považovat za výrobek. Výrobce v odpovídá pouze za škodu způsobenou vadu výrobku definovaného podle této směrnice. Pod pojem výrobek podle dosud platné a účinné směrnice nelze podřadit nové typy výrobků souvisejících s technologickým pokrokem. Nová směrnice o odpovědnosti za vadné výrobky[4] si dává za cíl přizpůsobit pravidla odpovědnosti novým technologiím. Směrnice výslovně zmiňuje software jako produkt bez ohledu na to, zda se jedná o samostatný software nebo o software, který je součástí jiného produktu. Software může být podle recitálu návrhu směrnice i operační systém, firmware, počítačová aplikace nebo systém umělé inteligence. Rozšíření toho, co se rozumí pojmem výrobek není jedinou novinkou, kterou návrh směrnice přináší. Stejně jako v návrhu nařízení o odpovědnosti za AI, usnadňuje návrh směrnice o odpovědnosti za výrobky unesení důkazního břemene poškozeným. Výrobek je považován za vadný, pokud výrobce nevyhověl nařízení soudu zveřejnit důkazy o výrobku, dále pokud výrobek nesplňuje povinné požadavky na bezpečnost výrobku nebo škoda byla způsobena jeho špatným fungováním. Kromě vyvratitelné domněnky vadnosti výrobku, zavádí směrnice i domněnku existence příčinné souvislosti mezi vadou výrobku a vznikem škody. Příčinná souvislost se předpokládá v případě, že způsobená škoda odpovídá konkrétní vadě.

Směrnice také definuje okolnosti, které je třeba vzít v úvahu při posuzování toho, zda je výrobek vadný. Jedná se mimo jiné o prezentaci výrobku, požadavky na jeho bezpečnost, očekávání koncového uživatele, kontrolu výrobce nad výrobkem nebo o schopnost výrobku se stále učit. Odpovědnost výrobce není absolutní. Návrh směrnice počítá v některých případech s liberací výrobce.

Podle současné právní úpravy musí poškozený prokázat vadu, škodu a příčinnou souvislost mezi vadou a způsobenou škodou. Standardní důkazní břemeno je překážkou pro uplatnění náhrady škody, zejména v případě složitých systémů. Nehmotná povaha, složitost a někdy i autonomie chytrých zařízení, digitálních služeb a softwaru prakticky znemožňují poškozenému prokázat vadu, natož kauzalitu. Přestože obě směrnice jsou zatím ve stadiu návrhu, je jisté, že odpovědnost výrobců a provozovatelů dozná výrazných změn. 

Tento článek byl publikován v epravo.cz.

[1] Usnesení Evropského parlamentu ze dne 20. října 2020 obsahující doporučení Komisi k režimu občanskoprávní odpovědnosti za umělou inteligenci. Dostupné >>> zde.

[2] Proposal for a directive of the European Parliament and of the Council on adapting non-contractual civil liability rules to artificial intelligence (AI Liability Directive). Dostupné >>> zde.

[3] Návrh nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) a mění určité legislativní akty unie. Dostupné >>> zde.

[4] Proposal for a directive of the European Parliament and of the Council on liability for defective products. Dostupné >>> zde.