Blog

Bude regulace umělé inteligence následovat GDPR?

Evropská unie vydala rámcový dokument týkající se etických aspektů umělé inteligence (AI), robotiky a souvisejících technologií. Přiklání se v něm k přísné regulaci.

Dokument, který v září vypracovala Výzkumná služba Evropského parlamentu, se zaměřuje na etické aspekty technologií AI. V návaznosti na předchozí studie z této oblasti řeší především potřebu a žádoucí míru regulace. A to jak horizontální otázku, tedy zda má jít striktně o celoevropské předpisy či zda mají být připuštěny národní odchylky, ale i hloubku a závaznost takové regulace.

Dokument identifikuje šest problematických oblastí: současný statický regulatorní rámec, chybějící definice AI, narůstající rozpory mezi exponenciálně rostoucím trhem AI a opožděně reagující regulací, roztříštěná národní právní úprava, náskok technologických gigantů vedoucí k ohrožení veřejných zájmů a konkurenceschopnosti menších podniků, a nezávazné iniciativy týkající se etiky AI. S etickými problémy je okrajově zmíněna i otázka právní osobnosti AI.

Dokument obsahuje podrobnou analýzu, ve které pomocí makroekonomických ukazatelů posuzuje předpokládané dopady jednotlivých regulačních přístupů. Dochází přitom k závěru, že ekonomicky nejvýhodnější je regulace s velkou mírou možných národních odchylek. Zároveň by měly výhody růst spolu s přísností takové regulace. Ideální je dle závěrů dynamická, do budoucna (ex ante) orientovaná regulace.

Očekávaný přínos celoevropské regulace je členěn do pěti oblastí: zvýšení společenského přijetí AI, zvýšení konkurenceschopnosti, zajištění celoevropských souborů dat, zajištění právní jistoty, zohlednění evropských hodnot.

Zajímavostí je, že v současné právní úpravě EU je termín AI obsažen pouze v sedmi obecně závazných předpisech. To nejspíše souvisí i se zmíněnou chybějící definicí AI, respektive jejich roztříštěností a rozdílným chápáním. Neoddiskutovatelná potřeba obecné definice ovšem stále dle mého názoru naráží buď svou těžkopádnost, jak je tomu třeba v případě definice AI, nebo technickou nepřenosnost, když například některé citované dokumenty zužující AI pouze na techniky strojového učení.

Dokument detailněji rozebírá problémy oborů, které s AI úzce souvisejí, díky čemuž se dají najít analogie, či se dokonce očekává, že na ně AI bude mít význačný přímý vliv. Jde o zemědělství, telekomunikace, dopravu a automobilový průmysl, stavebnictví, energetiku, finanční služby a zdravotnictví. Značný důraz se klade na ochranu osobních údajů a právní úpravu obsaženou v nařízení GDPR. V této souvislosti je několikrát zmíněno, že právo na ochranu soukromí se z pohledu práva EU stalo výslovným základním lidským právem a nikoliv jen právem odvozeným od jiných. Paralelu s GDPR hledá dokument i v polemice, zda jde o nástroj regulující výhradě ochranu osobních údajů, nebo zda je předpis třeba posuzovat v širším smyslu jako zakotvení etických principů aplikovatelných také v jiných otázkách. A konečně na GDPR se autoři odvolávají také v tvrzení, že regulace je jediná cesta EU k udržení konkurenceschopnosti. Tvrdí přitom, že GDPR v důsledku přineslo Unii ekonomickou výhodu, což je samozřejmě diskutabilní závěr.

Podobně sporné může být dělení lidských práv na ta již pevně ustanovená, jako má být například právo nebýt diskriminován, a práva teprve se rozvíjející, jako je právě právo na ochranu soukromí. Ač se dá přijmout statistika postojů veřejnosti, na jejímž základě autoři k tomuto dělení dospěli, domnívám se, že jde o příliš zjednodušující a striktní dělení. Ochranu soukromí jistě nelze označit za převratně nový koncept a naopak i úprava diskriminace se stále vyvíjí a v souvislosti s novými technologiemi včetně AI zcela jistě ještě vyvíjet bude.

Ačkoliv tedy závěry ekonomické analýzy vyznívají v jasný přínos případné evropské regulace, je otázkou, zda se papírová očekávání podaří naplnit. Například statistiky týkající se zaměstnanosti totiž kalkulují s lidmi ochotnými a zároveň kvalifikovanými pro výkon dané pracovní pozice, není ovšem jasné, zda – obzvláště bez souvisejících změn v oblasti vzdělávání – bude kvalifikovaných lidí skutečně dostatek. Také není jasné, do jaké míry je zohledněna potřeba rekvalifikace lidí, jejichž pracovní místa v souvislosti s AI pravděpodobně zaniknou.