S jakými riziky si bude muset poradit umělá inteligence nasazená v autonomních autech
AI řešení využívaná v samořiditelných vozidlech musí vyřešit tři základní problémy – množství vyhodnocovaných dat a zvláštních událostí, binární systémové rozhodování a zranitelnost softwarových algoritmů.
Autonomní automobily jsou ideálním místem aplikace pro nasazení umělé inteligence, a to hned z několika dobrých důvodů. Tím hlavním může být fakt, že se zatím jedná o jednu z mála oblastí AI implementací, u které je naprosto zřetelný její ekonomický potenciál.
Vždyť za posledních pět let investovali nejen výrobci aut, ale i různé technologické firmy, a dokonce i některé start-upy, přes padesát miliard dolarů do vývoje autonomních vozidel a souvisejících technologií. Navíc téměř sedmdesát procent z této částky přišlo od firem, které nejsou součástí automotive průmyslu. Z chystaného koláče si chce evidentně ukousnout každý.
Kolik bude stát autonomní vozidlo?
Pořizovací cena samořiditelného auta bude s největší pravděpodobností jednou z hlavních překážek při jeho nákupu. Americký trh, který v případě vývoje autonomních vozidel slouží jako ideální benchmark, uvádí průměrnou cenu nového vozu ve výši třicet tisíc dolarů (zhruba šest set tisíc korun). Už první testovaná generace Google autonomního vozu v roce 2017 nesla vybavení v hodnotě dvě stě tisíc dolarů (tedy přes 1,2 milionu korun).
Nejdražší součástkou byl takzvaný LIDAR (Light Detection And Ranging) ‒ zařízení pro dálkové měření vzdálenosti na základě výpočtu doby šíření pulzu laserového paprsku odraženého od snímaného objektu. Jeden takový LIDAR, který nabízí výrobce Velodyne v podobě rotujícího radaru na střeše vozidla, mohl vyjít i na osmdesát tisíc dolarů (kolem sto šedesáti tisíc korun).
Vysoká cena ale přitahuje konkurenty a letos v létě představila společnost Luminar vlastní model LIDARu, který váží necelý jeden kilogram, je velký jako plechovka od limonády a stojí pouhých pět set dolarů. I po odečtení nákladů na laserový radar je ale hodnota autonomního vozu ve srovnání s průměrnou cenou nového automobilu pořizovaného ve Spojených státech nejméně dvojnásobná.
Jak se změní veřejná i osobní doprava
Nasazení samořiditelných automobilů bude provázeno i naprostou změnou paradigmatu, ať už z pohledu veřejné, nebo soukromé dopravy. V ulicích měst už tak díky sdílené ekonomice nebudou jezdit soukromí taxikáři a na dálnicích už se nesetkáte se šňůrami řidičů nákladních vozidel. Nově nastavená pravidla umožní, že řidiči už nebudou vlastnit automobily, ale budou si je pouze půjčovat a vzájemně je také sdílet. Zájemci o svezení bude stačit zvednout telefon, zavolat a počkat si, až přijede nejbližší volný vůz.
Pomocí autonomních vozidel budou probíhat veškeré rozvozy, ať už se jedná o vaši večerní pizzu nebo zásilku náhradních dílů do vaší firmy. Celkově by mělo ubýt dopravních nehod a na silnicích se sníží provoz. Podle některých odhadů tvoří až třetinu městského provozu řidiči, kteří hledají místo k zaparkování. Všechny tyto jízdy by měly díky vzájemnému sdílení vozidel pochopitelně odpadnout.
Silniční provoz je také ideálním zadáním pro AI metody, protože z hlediska inteligence se jedná o poměrně „jednoduchý problém“. Jde o značně repetitivní činnost, která nabízí velké množství tréninkových dat pro další učení systému. Stačí nainstalovat kamery nebo jiné senzory do fungujících aut a shromažďovat data z milionů ujetých kilometrů. Během řízení se totiž nezapojují příliš složité myšlenkové procesy. Většina lidí řídí automaticky bez zapojení vyšších pater mozku a vědomého myšlení.
Je optimismus na místě?
Elon Musk se evidentně mýlil, když v roce 2015 prorokoval nástup autonomních aut během následujících tří let. Praktické nasazení vysněných prototypů znamenalo určité vystřízlivění, během kterého se objevilo množství vážných, ale naštěstí stále ještě řešitelných problémů.
Uživatelé i příznivci autonomního provozu sice dokázali nasbírat spoustu tréninkových dat, ale více jak 99,999 procent z nich je zcela nezajímavých. Jízdu po dálnici zvládaly autonomní systémy již na konci osmdesátých let. Když jede automobil po dálnici, většina dat z kamery a dalších senzorů zobrazuje jeho rovnou jízdu. Není problém naučit stroj tomuto způsobu jízdy, ale výsledek není ničím zajímavý.
Zajímavá je ta jedna tisícina procenta, na které se něco děje a která bývá označována pojmem vzácné události, tedy „rare events“. Ty ale mohou být ve výsledku často kritické, například když do silnice vběhne zvíře či člověk, objeví se neznámá překážka nebo jiný účastník dopravního provozu ve svém autě vybočí z pruhu.
Hlavním problémem při sběru informací pak zůstává právě otázka, jak potřebná data získat a ověřit, že už jich mám dostatečné množství. Je pro vývoj autonomního vozidla potřeba objíždět do nekonečna všechny silnice v České republice? A jak následně umělou inteligenci optimalizovat, aby si dokázala poradit i se zmíněnými výjimečnými událostmi?
Tento problém bývá v odborné komunitě označován jako „data imbalance“ nebo také „long tail“ problém. Základním paradigmatem je nutnost použité AI řešení přesvědčit, aby se během učení zvláštními událostmi vůbec zabývalo, protože tyto události bývají často mnohem méně obvyklé než šum. Dá se říci, že v tréninkových datech je 0,1 procenta šumu. Jedná se o různé poruchy senzorů nebo okamžiky, kdy na chvíli vypadne GPS. Systém většinou tuto 0,1 procenta zahodí. Ale vzácných událostí je pouze 0,001 procenta a mohlo by se snadno stát, že by se jich zbavil také, pokud si jejich výskyt patřičně neohlídá.
Binární rozhodování
Další problém umělé inteligence spočívá v nedostatečném odhadu jejích vlastních schopností. Jinými slovy, AI nedokáže správně odhadovat nejistotu svého rozhodnutí. Když řidič spatří v dálce u krajnice nějaký stín, pomyslí si „možná, že tam jde člověk“. Statistik by svůj odhad možná upřesnil na větu „je třicetiprocentní šance, že po krajnici jde člověk“.
Ale umělá inteligence zatím žádného podobného odhadu není schopna. Její rozhodnutí běží v linii 0/1, což znamená, že v podobné situaci umí AI pouze říci „na krajnici je člověk“ nebo „na krajnici není člověk“.
Tím je také dána obrovská limitace celého systému, který v rámci zmíněného příkladu buď situaci vyhodnotí jako „ano, po krajnici jde člověk“ a následně zabrzdí, ale v sedmdesáti procentech případů bude brzdit naprosto zbytečně. Nebo se rozhodne, že „ne, po krajnici nejde člověk“, ale tím pádem je poměrně vysoká, konkrétně třicetiprocentní šance, že zmíněného chodce přejede…
Kdyby ale dokázala umělá inteligence namísto odpovědí 0 nebo 1 dávat odpovědi ve formě možné pravděpodobnosti, dokázalo by se řízené auto chovat jako zkušený řidič. Tedy když systém usoudí, že existuje malá, ale nenulová šance, že po krajnici jde člověk, pro jistotu zpomalí, dokud nedojede blíž a nebude si na sto procent jistý. Přesně tímto problémem se aktuálně zabývá náš vědecký tým na univerzitě v Oxfordu.
Jak snížit zranitelnost AI algoritmů?
Posledním z třetice zásadních problémů, které trápí všechny tvůrce AI řešení, a ne pouze autonomní vozidla, je snadná zranitelnost těchto algoritmů prostřednictvím tzv. „adversarial attacks“. Hlavní potíž spočívá v tom, že používané AI algoritmy jsou velmi snadno cíleně manipulovatelné.
Potenciální útočník může využít i obyčejný papír, na který vytiskne některý ze speciálních obrazců, nebo dokonce pouze zmíněný šum, ukáže ho čidlům autonomního auta a vozidlo si bude naprosto jisté, že onen papír je třeba auto nebo pes. Jedná se také o ideální způsob, jak autonomní vůz zastavit, nebo dokonce ukrást. Jiný druh útoku může způsobit, že se použitá umělá inteligence zaměří na nakreslený obrazec a úplně přestane detekovat chodce.
Podobně koncipovaných útoků lze vymyslet velké množství a týkají se všech oblastí, které využívají umělou inteligenci, jako je třeba bankovnictví. Jejich prevenci se budeme věnovat v některém z příštích článků.
Foto: www.nightowls-dataset.org, cs.wikipedia.org
Ing. Lukáš Neumann, Ph.D.
Autor článku je softwarový inženýr a výzkumník na University of Oxford. Jeho výzkum podpořil Google a jím vyvinutý algoritmus na rozpoznávání textu koupila pro svá chytrá zařízení firma Samsung. Nedávno získal prestižní ocenění Česká hlava. V současnosti působí na Oxfordské univerzitě, kde se věnuje výzkumu autonomních vozů, a zároveň působí jako expert na umělou inteligenci využívanou třeba produktem REDQUE, který automaticky zpracovává firemní dokumenty.
