Blog

Bílé knihy a (ne)žádoucí regulace umělé inteligence

Evropská komise v únoru představila svou Bílou knihu k umělé inteligenci (AI). Ta má být podkladem pro budoucí celoevropskou regulaci. Velké technologické společnosti, především z USA, jsou rozpolceny mezi přáním dostatečné a kvalitní regulace, která odstraní právní nejistotu, a obavou z přílišné přísnosti budoucí úpravy.

Bílá kniha k AI zdůrazňuje nárůst dat a jejich význam pro úspěšný vývoj AI. Také přichází s vlastní (v rámci dokumentů EU už několikátou) zjednodušenou definicí umělé inteligence. Tou rozumí soubor technologií, které kombinují data, algoritmy a výpočetní sílu.

Shodně jako dříve uniklý návrh, o kterém jsme na našem blogu psali, pracuje Bílá kniha s konceptem tzv. vysoce rizikových odvětví, mezi které zahrnuje zdravotnictví, státní správu nebo dopravu. Technologie rozpoznávání obličejů se nakonec zmiňuje jen v souvislosti s obecnou regulací nakládání s biometrickými údaji. Nenaplnily se tak některé obavy z jejího plošného zákazu. Přístup založený na posouzení míry rizika má být výchozí pro zamýšlenou právní úpravu AI. Ta by měla zohlednit například vyjasnění aplikace dosavadní legislativy (například ve vztahu k software), změny funkcionalit AI systémů během jejich životního cyklu, rozdělení odpovědnosti v distribučním řetězci nebo zohlednění nových rizik, která AI může přinést.

Další kroky, které mají následovat:

  • revize Koordinovaného plánu v oblasti umělé inteligence do konce roku 2020,
  • tvorba testovacích a excellence center,
  • podpora vzdělání,
  • vytvoření minimálně jednoho hubu pro digitální inovace na členský stát,
  • equity financování AI technologií,
  • partnerství veřejného a soukromého sektoru,
  • podpora implementace AI do veřejného sektoru,
  • revize Pokynů vydaných High-level Expert Group,
  • dobrovolné označování méně rizikových aplikací.

Komise zároveň vyzvala k otevřené veřejné konzultaci Bílé knihy k AI do května 2020.

Ačkoliv snad všechny dokumenty EU týkající se AI zmiňují snahu o vytvoření konkurenceschopného prostředí a dohnání technologického náskoku USA a některých asijských zemí, podle kritiků evropský přístup včetně Bílé knihy k AI dostatečně nezohledňuje například open source povahu AI a strojového učení.

Mimoevropská regulace a obavy „Big Tech“ společností

EU není se svou snahou regulovat AI jediná. Americká administrativa zveřejnila počátkem ledna memorandum obsahující 10 obecných principů, na jejichž základě by se měly připravovat nové předpisy týkající se AI. Důraz se klade hlavně na uměřenost regulace, která by měla směřovat spíš k odstraňování překážek, podpoře výzkumu a k nasazení AI.

Technologičtí giganti sídlící v USA tento přístup vítají. Žádoucí je pro ně právní úprava dostatečně určitá, ale zároveň co nejméně limitující jejich obchodní cíle. Proto v poslední době osobně intenzivně lobovali na půdě EU a zároveň přicházejí s vlastními „bílými knihami“. Například Facebook nedávno zveřejnil vlastní představu regulace digitálního obsahu. Dokument zahrnuje i úpravu využití AI ke sledování obsahu postů. S vlastními „seberegulačními“ dokumenty týkajícími se AI přišla už dříve většina „Big Tech“.