Blog

Zákony pro roboty

Žhavým tématem poslední doby je Průmysl 4.0 a s ním související rozvoj robotizace a umělé inteligence. Právní řády však prozatím nejsou připraveny adekvátně reagovat na probíhajaící technologický boom.

Evropská unie proto intenzivně pracuje na potřebné legislativě. V posledních letech vzniklo několik projektů a dokumentů, které by měly vést k vypracování příslušných právních pravidel. V únoru 2017 Evropský parlament přijal Usnesení obsahující doporučení týkající se občanskoprávních Pravidel robotiky. Dokument vyzývá Komisi k vypracování legislativního nástroje upravujícího vývoj a využití umělé inteligence a robotiky v horizontu příštích 10–15 let.Jednoduchá není již samotná snaha o definici inteligentního robota. Zatímco například jihokorejský zákon jej definuje jako mechanický přístroj, který vnímá své okolí, vyhodnocuje situace a samostatně se pohybuje, Pravidla robotiky navrhují za pomoci podobných faktorů definovat tzv. chytrého robota.

Podle průzkumu Evropské komise v roce 2015 robota využíval při práci či v domácnosti jeden ze sedmi Evropanů. Toto číslo má do budoucna dramaticky narůst. Pro rok 2025 je odhadován celosvětový ekonomický dopad ve výši 1,7 až 4,5 bilionů dolarů ročně.

Kdo bude odpovídat?
Jednou z hlavních otázek, které musí nová legislativa zodpovědět, je problém odpovědnosti za jednání inteligentního robota. Podle současného českého práva je možné považovat robota či software výhradně za věc. V případě škody způsobené těmito stroji či programy se tedy aplikují příslušná ustanovení občanského zákoníku o škodě způsobené použitou věcí či vadou výrobku.

U průmyslového využití robotů připadá v úvahu aplikace ustanovení o škodě způsobené provozní činností či dokonce provozem zvlášť nebezpečným. Pro autonomní vozidla mohou být použitelná ustanovení o škodě způsobené provozem dopravních prostředků.

Pravidla robotiky nastiňují na evropské úrovni dva možné přístupy a to princip absolutní odpovědnosti a určení odpovědné osoby na základě posouzení rizik. V každém případě má být zároveň vypracován systém povinného pojištění, podobný povinnému ručení, jak jej známe u vozidel.
 

Další klíčové otázky
Vedle odpovědnosti je třeba nalézt řešení etických otázek a dostatečné ochrany dat. V rámci Pravidel robotiky je navrhováno sepsání kodexu pravidel chování – tzv. Charty robotiky osob zainteresovaných v robotickém inženýrství či vytvoření Evropské agentury pro robotiku a umělou inteligenci. Ta by měla mimo jiné zaštítit povinnou registraci pokročilých robotů. Do nich by také měly být povinně integrovány vypínače umožňující okamžité uvedení mimo provoz.

Již při samotném vývoji inteligentních robotů je nezbytné myslet na ochranu osobních údajů. Nařízení GDPR účinné od 25. května 2018 obsahuje princip privacy by design překládaný jako ochrana údajů již od návrhu. Příslušný správce či zpracovatel osobních údajů musí být schopen prokázat, že přijali vhodná bezpečnostní opatření a pravidelně monitorují soulad s předpisy. Nařízení také zintenzivňuje povinnosti správce např. prokázat a mapovat zpracování osobních údajů – jednoduše řečeno musí být správce vždy schopen doložit, jaké osobní údaje jakým způsobem zpracovává, zda například dochází k profilování a jakým způsobem.

Otázkou budoucí regulace je i transparentnost vývoje umělé inteligence spočívající například ve zveřejňování použitých algoritmů. V této souvislosti je třeba zvážit veřejný zájem na uveřejnění takových informací spočívající v eliminaci možných rizik v porovnání s oprávněnými zájmy výrobců i rizikem případného zneužití.

Problémy s ochranou osobních údajů se objevují v praxi již nyní u jednodušších typů robotů. Například výrobní roboti mají integrovány kamerové systémy, které nahrávají i okolí včetně lidských pracovníků. Monitorování zaměstnanců je však českými předpisy poměrně striktně omezeno.

Další komplikace spočívá ve strojovém učení softwarů používaných například k rozpoznávání fotografií či cílení reklamy. U takto využívaných programů je velice složité následně říct, proč vyšel konkrétní výsledek či jak upravit nastavení tak, aby se výstup posouzení změnil. To je samozřejmě také problematické z pohledu ochrany osobních údajů. Dalším úskalím mohou být specifická práva spotřebitele, pokud jde například o automatizované rozhodování o poskytnutí úvěru. Odmítnutý klient totiž může trvat na sdělení konkrétního postupu jeho hodnocení. Zároveň se objevily i informace, že některé takové programy sklouzly při vyhodnocování dat k předpojatým, kupříkladu rasistickým závěrům.

Autonomní vozidla
Světové automobilky se shodně vyjadřují, že právě v autonomních vozidlech vidí budoucnost, a proto již intenzivně pracují na jejich vývoji.S vývojem, testováním a budoucím provozem plně autonomních vozidel se však pojí specifické komplikace. V první řadě je třeba předem řešit etické otázky spojené s chováním vozu v krizové situaci. Při zjišťování názoru veřejnosti bývají nejčastěji využívány takzvané tramvajové či tunelové dilema, kdy se stroj musí „rozhodnout“ mezi životem posádky a okolních osob.

Další zásadní otázkou je státní regulace, tedy do jaké míry má stát diktovat chování autonomních vozidel, jakým způsobem řešit informovanost posádky i okolních účastníků provozu či vůbec společný provoz autonomních a člověkem řízených vozidel. Ve vzdálenější budoucnosti nelze vyloučit ani zákaz lidského řízení s ohledem na očekávanou větší bezpečnost autonomního provozu.

Hned v sousedním Německu je aktuálně přijímána právní úprava zavádějící princip ochrany slabších. Mezi další pravidla, která nový zákon přináší, patří například povinnost řidiče být celou dobu provozu za volantem, zároveň ale umožňuje testovat vozidla, ve kterých budou řidiči moci sundat ruce z volantu a oči z vozovky. Vyžadováno je vybavení automobilu černou skřínkou. Řidič má odpovídat za incidenty nastalé během jeho dozoru, pokud však půjde o selhání systému, bude odpovědnost spočívat na výrobci. Zákon má být v horizontu dvou let zrevidován ve světle dalšího technologického vývoje.
  

Možné dopady
S velkými očekáváními se ale přirozeně pojí i značné obavy z tak rapidní proměny společnosti, a především dopadů na trh práce. Zatímco například z průzkumu britské KPMG z roku 2015 vyplývá, že jen užívání vozidel bez řidiče či vzájemně propojených vozů může kromě úspory na životech jen ve Velké Británii vytvořit 320 000 nových pracovních míst, jiní tento optimismus nesdílejí, a naopak se domnívají, že přicházející technologie mohou skutečně vést k rapidnímu nárůstu nezaměstnanosti.

Tyto obavy jistě nelze brát na lehkou váhu ani v prostředí českého trhu. Podle srovnávací analýzy OECD je v České republice ohroženo automatizací až 55 % pracovních pozic, přičemž 10 % z nich je ohroženo významně. Jde přitom o jedny z největších čísel v porovnání s ostatními státy. Na úrovni EU i ČR se i proto objevují prozatím převážně nekonkrétní návrhy na zvláštní zdanění robotické práce.

Odpovědí na případné negativní dopady však jistě není luddistické ničení strojů, ale spíše vhodně nastavené právní prostředí spolu s tlakem na podporu potřebného vzdělání a případné rekvalifikace.