Morální dilema autonomních aut spočívá v tom, která nevyhnutelná nehoda způsobí co nejmenší škody

Ráno, kdy vás do práce odveze auto bez volantu, bude brzy nejspíš všední. Displej v palubce ukáže playlist, cappuccino už vás nespálí a vy budete jen tak koutkem oka sledovat, jak se vůz sám proplétá kolonou. Nikdo neřeší, kudy jet, ani jak ostře brzdit – software to zvládá lépe než člověk.

Jenže co když se na silnici objeví nečekaná překážka a fyzika dovolí vyhnout se jen za cenu něčí újmy? Kdo pak rozhodne, koho vůz obětuje a koho ochrání? Řidič už ne, ten totiž jen sedí. Dilema přebírá algoritmus, a právě ten budí vášnivé debaty.

Morálka na čtyřech kolech

Běžně se mluví o moderní verzi tramvajového dilema. Zatímco původní filozofické cvičení staví člověka před volbu mezi skupinami lidí na kolejích, vývojáři autonomních aut musejí svůj kód promítnout do reálného provozu. Německá etická komise už v roce 2017 vytyčila zásadu: systémy mají v maximální možné míře předcházet krizím a nesmějí rozlišovat podle věku, pohlaví či kondice – život člověka je vždy nad majetkem a nelze spočítat hodnotu oběti.

Tramvajové dilema offline: proč ho mnozí neuznávají

Inženýři z Volvo Autonomous Solutions tvrdí, že popsané dilema nenastane, pokud auto předvídá, drží odstup a je připraveno zabrzdit dávno před situací „buď–anebo“. Raději tedy investují do prevence než do kontroverzních etických vah.

Jak na to jdou automobilky

Mercedes-Benz: řidič na prvním místě

Už v roce 2016 vyvolal Mercedes rozruch prohlášením, že pokud hrozí smrtelná kolize a lze s jistotou zachránit aspoň jednoho člověka, vůz upřednostní pasažéry. Automobilka později doplnila, že hodnotu života neporovnává, jen minimalizuje riziko pro ty uvnitř – mimo jiné proto, že právně odpovídá za bezpečnost posádky.

Volvo: raději se do pasti nedostat

Švédové odmítají programovat do aut kdo přežije. Jejich strategie hlídá jízdní prostor tak, aby ke kolizím zkrátka nedošlo. Pokud už je náraz nevyhnutelný, software se řídí obecnou zásadou: co nejmenší škoda pro všechny zúčastněné, bez diskriminace.

Waymo: data místo slov

Americký provozovatel robotaxi publikuje rozsáhlé statistiky. Podle vlastního panelu vykazuje jeho řídicí software o 88 % méně vážných nehod a o 93 % méně úrazů chodců než průměrní řidiči ve stejných městech. Waymo proto tvrdí, že nejlepší etická volba je prostě bourat výrazně méně.

Toyota: spolupráce člověka a stroje

Japonská značka vyvíjí koncept Guardian – hlídač, který nechává řízení na člověku, ale v krizové chvíli zasáhne a vybere manévr s nejmenší újmou. Filozofií je posílit schopnosti řidiče, nikoli je definitivně nahradit.

Co říkají zákony a regulace

Evropa

Čerstvý AI Act řadí systémy v automobilech mezi vysoce rizikové technologie. Od roku 2027 budou muset výrobci prokazovat robustní řízení rizik, transparentnost a dohled, jinak hrozí milionové sankce. Unie tak na etické algoritmy neukládá konkrétní vzorec, ale požaduje, aby automobilka zodpověděla, jak rizika řeší.

Globální rámec UNECE

Pravidlo R157 stanovuje technické limity pro systémy ALKS na dálnicích: do 60 km/h, bez chodců v jízdním prostoru a s povinnými manévry minimalizujícími riziko při přebírání řízení. I tady je důraz na prevenci – auto má zastavit, pokud řidič nereaguje.

Spojené státy

NHTSA zatím sází na dobrovolné pokyny a postupné uvolňování testů. Letos představilo rozšířený rámec AV TEST a nová pravidla hlášení incidentů, ale konkrétní etický algoritmus zůstává na výrobcích.

Kam dál?

Debatu o morálce strojů určují tři linie: prevence před dilematy, transparentnost rozhodovacích pravidel a regulační tlak na bezpečnost. Žádný kód zatím nezaručí spravedlnost ve všech scénářích, ale každá generace softwaru posouvá pravděpodobnost tragédie níž. A tak se možná jednou o tramvajovém dilema budeme přít už jen v učebnicích filozofie a v kavárnách, ne v reálném provozu.

Zdroje:  wgbh.org, europarl.europa.eu, nhtsa.gov, Youtube, Research Gate