Nestane se evropská regulace umělé inteligence další byrokratickou pastí?
Svět ICT upoutává stále větší pozornost zákonodárců a regulačních orgánů. V EU je aktuálním tématem například umělá inteligence, která by už brzy měla být regulována nařízením, jehož podobu unijní zákonodárci v současnosti finalizují a které je známé pod názvem Akt o umělé inteligenci. Bude jeho přijetí znamenat příležitost, nebo naopak hrozbu pro další rozvoj technologií? Návrh evropského nařízení Akt o umělé inteligenci v sobě skrývá obě možnosti. Může se stát všestranně přínosným legislativním rámcem, který inspiruje celý svět, stejně jako byrokratickou pastí.
Praktickou realizaci většiny regulací doprovází administrativní zátěž a náklady související s přijímáním požadovaných opatření a pokud míra byrokracie a výskytu překážek překoná určitou mez, může dotčené subjekty odradit od dalšího působení v daném oboru nebo oblasti. V případě přeregulované aplikace moderních technologií vzniká riziko zaostávání, jež se přímo promítne do stavu a dalšího vývoje ekonomiky.
„Pro byznys je klíčové, aby pravidla pro regulaci umělé inteligence byla jasná, srozumitelná, snadno implementovatelná, aby poskytovala dostatečnou ochranu, zajišťovala transparentnost a zároveň nedusila využití technologií umělé inteligence a jejich inovace,“ říká Zuzana Kocmaníková, generální ředitelka IBM Central, a dodává: „Bez konzultací s byznysem, který tyto technologie vyvíjí a prakticky využívá, se takového stavu nedosáhne. Proto se velmi aktivně zapojujeme do vyjednávání o Aktu o umělé inteligenci, zejména prostřednictvím zaměstnavatelských svazů a obchodních asociací.“
Analytici společnosti IDC se rozhodli namodelovat možné dopady Aktu o umělé inteligenci na evropský trh softwaru s umělou inteligencí. Pod vedením Jacka Vernona, odborníka na otázky umělé inteligence, vytvořili předpověď, která pracuje se třemi scénáři: vyrovnaným, negativním a ideálním. Rozdíly mezi nimi pramení z pěti základních faktorů nestability a z jejich vzájemně se ovlivňujících vztahů.
Obr. 1: Modelové scénáře budoucího vývoje evropského trhu softwaru s umělou inteligencí. Zdroj: IDC 2022
Faktory nestability
Prvním a nejdůležitějším z faktorů nestability jsou regulatorní procesy. I přes poměrně detailní zpracování Aktu o umělé inteligenci jsou konkrétní postupy regulační činností Evropské rady pro umělou inteligenci příliš obecné a není z nich patrné, jak budou při posuzování reálných problémů fungovat. Současně v návrhu chybí také časové specifikace jednotlivých kroků. Ty jsou důležité mimo jiné proto, že firmy budou muset reportovat jakékoliv změny v chování vlastních programů, které ovlivňují fungování či mění výstupy celého systému. Může se tak stát, že při prudkém nárůstu používání umělé inteligence, což je varianta, s níž společnost IDC počítá, dojde k zahlcení Evropské rady pro umělou inteligenci a k následnému zpomalení schvalovacího procesu.
Druhým faktorem je schopnost Evropské unie rychle vypořádávat právní otázky a případné soudní spory. Pokud nezvládne rychle odstraňovat a objasňovat šedé zóny v aplikaci nové legislativy a aktivně tak zvyšovat kredibilitu systému vlastní regulace, může to negativně ovlivnit snahu firem o zavádění inovací. Některé mohou přesunout část svých aktivit do jiných částí světa nebo do systémů, jejichž vývoj a aplikace nebude muset schvalovací řízení podstupovat.
Právě reakce dodavatelů dávají obsah třetímu faktoru. Jak se trh adaptuje a jaká bude jeho reakce na konkrétní regulatorní požadavky? Z dat společnosti IDC vyplývá, že se výdaje na umělou inteligenci budou v globálním měřítku v následujících letech výrazně zvyšovat. Pokud ale v některém světovém regionu dodavatelé narazí na komplikovanou, případně chaoticky aplikovanou právní úpravu, mohou své působení v něm přehodnotit. Jestliže důsledky přijetí Aktu o umělé inteligenci nabydou podoby negativního scénáře, může evropský trh softwaru s umělou inteligencí růst výrazně pomaleji než v jiných regionech.
Poslední faktor nestability souvisí s náklady na regulaci. V nejhorším zvažovaném scénáři se proces schvalování stane pomalým, neefektivním a nákladným. Vysoká byrokratická zátěž svými důsledky oslabí konkurenceschopnost malých a středních dodavatelů, kteří nedisponují dostatečnou administrativní kapacitou pro jeho efektivní zvládnutí.
„Odvrácenou stranou regulace je jednak to, jak přísná a rigidní její pravidla budou, a jak byrokraticky náročné bude pro firmy jejich vykazování,“ doplňuje Dalibor Kačmář, ředitel pro technologické standardy ve společnosti Microsoft Česká republika. „Příliš přísná regulace nebo neúměrná byrokratická zátěž spojená s využíváním technologií umělé inteligence může mít za následek zpomalení vývoje. Naše společnost je v průběhu tvorby nařízení Akt o umělé inteligenci aktivní. Poskytujeme na lokální i regionální úrovni dlouholeté zkušenosti z praxe a průběžně text chystaného nařízení komentujeme.“
Obr. 2: Variantní nastavení faktorů nestability. Zdroj: IDC 2022
Dopady na trh evropského softwaru s umělou inteligencí
Přiložený graf ilustruje aktuální odhady působení tří scénářů dopadu Aktu o umělé inteligenci na růst evropského trhu softwaru s umělou inteligencí v letech 2022 až 2028. Kvůli postupnému zavádění regulace analytici IDC letos neočekávají velké výkyvy. Výjimku tvoří scénář ideálního přechodu, ve kterém by k lehkému poklesu trhu došlo. Evropská unie by v jeho rámci rychle vykomunikovala změny a parametry nové právní úpravy a dodavatelé by na to okamžitě zareagovali a alokovali prostředky na přípravu řízení.
„Každá regulace musí být pečlivě vyladěná tak, aby nezpomalovala tempo inovací v oboru, ať už v základním výzkumu, tak v praktických aplikacích,“ doplňuje k otázce reakce trhu Petr Baudiš, zakladatel a technologický ředitel společnosti Rossum. „Myslím, že dopad algoritmů a umělé inteligence na společnost je významný, obrovsky pozitivní, zároveň ale v případě individuálních dopadů – a zejména automatizovaných rozhodnutí dopadajících na jednotlivé osoby – musí provozovatelé umělé inteligence nést společenskou zodpovědnost.“
Rok 2023 se stane rozhodujícím. Nejhorší scénář by znamenal propad o více než 17procentních bodů růstu obratu evropského trhu softwaru s umělou inteligencí oproti původní předpovědi.
Obr. 3: Vliv scénářů dopadu Aktu o umělé inteligenci na evropský trh softwaru s umělou inteligencí. Zdroj: IDC 2022
Legislativní úprava využití umělé inteligence ale dodavatelům nepřináší jen administrativní zátěž, což dokládá komentář Jana Romportla, ředitele centra umělé inteligence O2 Czech Republic: „Důležité pro nás je, že Akt o umělé inteligenci přinese rovnější konkurenční podmínky. Už nebudeme mít horší konkurenční pozici jenom proto, že se dobrovolně snažíme na etické a bezpečnostní věci spojené s umělou inteligencí dbát, zatímco leckterá konkurence trochu řeže zatáčky.“
Perspektivy s otazníkem
„Pokud legislativním procesem projde nařízení v podobě, která nebude odpovídat představám a potřebám dodavatelů a jejich zákazníků, můžeme čekat odliv investic, know-how a tržeb do jiných regionů,“ říká Ondřej Plachý, analytik společnosti IDC pro oblast umělé inteligence.
| 2020 | 2021 | 2022 | 2023 | 2024 | 2025 | |
| Výdaje na služby, infrastrukturu a software (miliony dolarů) | 9 681 | 12 604 | 16 124 | 20 614 | 26 520 | 34 165 |
| Podíl na globálních výdajích (%) | 13,7 | 13,9 | 14,0 | 14,3 | 14,7 | 15,1 |
Tab. 1: Evropské výdaje na řešení umělé inteligence v letech 2020 až 2025. Údaje nezahrnují Velkou Británii, Norsko, Švýcarsko a Rusko. Hodnoty z let 2021 až 2025 jsou predikované. Jde o služby, infrastrukturu a software, které podporují systémy, jejichž primární funkce využívají umělou inteligenci. Zdroj: IDC 2022
