Kdo přežije při bouračce? Samořídicí auta se umí rozhodnout stejně jako lidé

Přejet maminku s kočárkem, nebo dva doktory přecházející na červenou? Podobné rébusy budoucí řidiči v autoškole nedostanou, ale když za volant autonomního auta usedne umělá inteligence, musí znát odpověď. Donedávna převládal názor, že stroje lidské morálce naučit nemůžeme. Německý výzkum ale dokázal opak. Jenže chceme, aby se auta bez řidičů rozhodovala v kritických situacích jako lidé?

Většina nedávných studií se shoduje v tom, že autonomní vozy se stanou lepšími řidiči než lidé. Výsledky analýzy poradenské společnosti McKinsey & Company dokonce uvádí, že by počítače za volantem mohly snížit počet úmrtí na silnicích o 90 %. To se může zdát jako závratné číslo, ale stroje přece jenom nevytrhne ze soustředění ani růžová žirafa šoférující náklaďák a nikdy se před jízdou neposilňují alkoholem.

Navzdory lepším výsledkům umělé inteligence v hypotetické autoškole mnozí autonomní auta zavrhovali. Předpokládali, že vozy bez řidičů si nikdy neporadí s morálními dilematy, která nastávají při nehodách. Výzkum německých vědců tvrdí, že se pletli.

Lidskou morálku na silnici vtěsnáte do vzorce

Na univerzitě v německém Osnabrücku požádal tým neurologa Leona Sütfelda dobrovolníky, aby se ponořili do virtuální reality. Simulovali jízdu předměstím během mlhavého dne. Na silnici s omezenou viditelností se lidé střetávali v jeden moment s více překážkami naráz (lidé, zvířata a neživé objekty) a vybírali, kterou auto bez řidiče zachrání a kterou srazí.

Sesbíraná data posloužila k vytvoření relativně jednoduchého algoritmu, který dokázal s menšími odchylkami správně predikovat, jak se lidé v daných situacích rozhodnou. Umělá inteligence tak vlastně odkoukala z dat lidskou morálku.

Větší šance na přežití dává algoritmus dětem než dospělým a ze čtyř zařazených zvířat psům. V testu lidé častěji sráželi virtuální medvědy, kozy a divoká prasata. Tento poznatek sice vyvolává spíš pobavení, ale zároveň ukazuje na další potenciál simulací.

Vyzkoušejte si zabíjení na silnici v zájmu vědy

Rádi byste se podobného výzkumu zúčastnili? Alternativu nabízí online dotazník Moral Machine z dílny studentů MIT.

V anglickém jazyce se proklikáte 13 scénáři, kde si vybíráte, jestli auto bez řidiče „sejme“ na přechodu třeba tlouštíka či atleta, skupinu bezdomovců nebo zlodějů apod. Na konci zjistíte, jak moc se váš morální kompas liší od většiny.

Bitva etických principů: Je záchrana dětí prioritou?

Německé Ministerstvo dopravy před pár měsíci vydalo 20 etických zásad pro autonomní vozidla. Dvacítka přikázání z pera ministerstva má poskytovat doporučení výrobcům aut.

Pravidla třeba zakazují zohledňovat věk, pohlaví či jiné znaky fyzického či duševního zdraví při rozhodování, kdo nehodu zaplatí životem. Menší šanci na záchranu dávají i dítěti, které vběhne do vozovky jako neřízená střela při chytání míče, protože porušilo pravidla dopravního provozu. Zásady se tedy neshodují s volbami účastníků experimentu, kteří se rozhodovali ve prospěch dětí.

Peter König
Teď víme, že je možné naprogramovat lidské etické rozhodování do strojů. Jenže to společnost staví před další dvojité dilema. Za prvé, chceme, aby morální zásady patřily do pokynů pro chování strojů? Za druhé, pokud ano, mají stroje jednat jako lidé?

Až vpustíme autonomní vozy na silnice, které etické principy jim zakódujeme do ovládacího softwaru? Může mít Škodovka jiný morální kompas než Renault či Tesla? Výzkum německých vědců přinesl více otázek než odpovědí.