Prvý smrteľný stret autonómneho vozidla a človeka.
Byla zrovna polovina března letošního roku a v arizonském městě Tempe probíhalo, stejně jako každý den už zhruba dva roky, testování autonomního vozidla Volvo, na němž se podílí společnost Uber. V autě sedí řidič, který cestu kontroluje, ale samotné auto neřídí – vozidlo ovládá umělá inteligence.
Jenže osudové ráno 18. 3. 2018 změnilo život nejen kontrolorce jízdy, která nehodě mohla jen přihlížet, ale hlavně 49leté ženě, která na místě zemřela. A životem to pohnulo nejspíš také celému segmentu autonomních vozidel.
Důležitou věcí, pokud chce lidstvo každodenně používat umělou inteligenci jako součást svého běžného života, je, aby byly správně chápány a interpretovány její rozhodnutí. Technologie jsou zatím v raných fázích svého rozvoje, a tak se všechno teprve učíme (a nutno podotknout, že pomaleji, než rychle se samoučící UI), a protože všechny činy mají nějaké důsledky, ale i důvody – a těch může být hned několik – je potřeba podobně jako u lidí vyšetřovat všechny možné varianty.
5G, Instagram či Tesla. Toto boli najzásadnejšie technológie druhej dekády
26. januára 2021 o 12:34
Vyšetřování probíhalo intenzivně dva měsíce, my o jeho průběhu informovali a slibovali jsme i další pokračování. Nyní to vypadá, že jsme se dočkali od Národního úřadu pro bezpečnost v dopravě dalšího předběžného vyšetřovacího verdiktu.
Self-Driving Uber ‘Saw’ Pedestrian but Did Not Brake Before Fatal Crash, Investigators Say #fcTIME #fcData https://t.co/VV71w26BRL May 24, 2018 at 04:15PM by Tom Krisher / AP
— fonecable.com (@fonecable) May 25, 2018
(DETROIT) — The autonomous Uber SUV that struck and killed an Arizona pedestrian in March spotted the … pic.twitter.com/akSv9AD65m
Šest sekund před nárazem rozpoznávací systém chodce zachytil, ale podle posledních zjištění ho neidentifikoval jako člověka, nýbrž nejdříve jako neznámý objekt, poté jako vozidlo a následně jako kolo, a v 63kilometrové rychlosti do ženy narazil.
Tempe Police Vehicular Crimes Unit is actively investigating
— Tempe Police (@TempePolice) 21. března 2018
the details of this incident that occurred on March 18th. We will provide updated information regarding the investigation once it is available. pic.twitter.com/2dVP72TziQ
Bicykl žena opravdu vedla, když přecházela přes cestu a umělá inteligence měla možnost zabrzdit 1,3 sekundy před samotným střetem, ale automatický bezpečnostní systém nouzového brzděnínebyl aktivní. Bývá totiž v běžném provozu vypínán – to aby na komunikacích nedocházelo ke zmatkům a auto nebrzdilo nepředvídatelně kvůli nějakým systémovým nuancím.
Kvůli tomu ale rozpoznávací systém ani neupozornil kontrolorku, aby s automobilem před nárazem něco udělala. Jak je vidět na záběrech, snažila se ještě něco dělat, ale už bylo pozdě. Před nehodou prý nekontrolovala svůj osobní telefon, ale pracovní iPad, na kterém je rozhraní vozidla.
Vyšetřovatelé samozřejmě vyhodnocují i možný podíl sražené ženy na této nehodě. Silnici přecházela ve tmavém oblečení a pitva jí v krvi odhalila stopy metamfetaminu a marihuany. Podle vyšetřovací zprávy nehodě nešlo zabránit.
„Veškeré aspekty samořídícího systému fungovaly v době havárie normálně. Nevykazoval žádné chyby nebo diagnostické výkazy,“ říká NTSB ve své zprávě. Příští rok by měla být připravena finální zpráva, která všechny zjištěné okolnosti vyhodnotí.
