Ustalanie ram etycznych dla pojazdów autonomicznych
Przez Mark Patrick, Mouser Electronics.
Kompas moralny opracowany na podstawie globalnej ankiety obejmującej 2,3 mln osób
Co zawiera ten cykl artykułów?
- Jak technologie jazdy autonomicznej zmieniają krajobraz motoryzacji
- Przełamywanie wyobrażeń i wdrażanie technologii pojazdów samosterujących
- Autonomiczność pojazdów: kluczowe poziomy
- Technologie czujników w pojazdach autonomicznych
- Dostarczanie danych krytycznych czasowo dla pojazdów autonomicznych przez systemy V2V i V2I
- Ustalanie ram etycznych dla pojazdów autonomicznych
Prowadzenie samochodu może być monotonne. Czasami po prostu wsiadamy do auta i jedziemy, szacując, kiedy dotrzemy na miejsce. Lecz bez względu na to, jak rutynowa będzie nasza podróż, przez cały czas musimy zachowywać czujność i uwagę, aby uniknąć potencjalnych wypadków, zwłaszcza w niesprzyjających warunkach pogodowych i w ruchliwych obszarach miejskich. Korzystamy z naszych doświadczeń, gromadzonych przez lata, aby ocenić, co może doprowadzić do wypadku, na jakie sytuacje należy uważać i jakie działania należy szybko podjąć.
Jak już wspominaliśmy w tej serii artykułów, technologie czujników dostarczają niezbędnych danych, dzięki którym systemy w pojazdach autonomicznych mogą tworzyć w czasie rzeczywistym wirtualną mapę otoczenia. Mapę tę dodatkowo wzbogacają informacje zebrane z komunikacji V2V i V2I. Wyposażone w te niezbędne źródła informacji, uczone maszynowo autonomiczne sieci neuronowe mogą bezpiecznie nawigować po drodze, nieustannie uważając na potencjalne zagrożenia i reagując na nie.
Samochód autonomiczny jest z natury bardziej dokładny i niezawodny niż człowiek, który może się rozproszyć lub dokonać błędnej oceny. Jednak wciąż zdarzają się sytuacje, w których może dojść do wypadku z ofiarami śmiertelnymi. W przypadku pojazdów autonomicznych podejmowanie decyzji związanych z życiem lub śmiercią wiąże się z wyzwaniami moralnymi i etycznymi.
Przez ewolucję w kierunku w pełni autonomicznych pojazdów na naszych drogach cała branża motoryzacyjna – od konsumentów, ustawodawców i ubezpieczycieli po producentów pojazdów – staje przed dylematami etycznymi i moralnymi, z którymi będą musiały sobie poradzić systemy autonomiczne. Przed nami trudne decyzje, mające duże szanse na ekspozycję w światowej prasie, która już teraz wyczekuje okazji do publikowania informacji o wypadkach z udziałem pojazdów autonomicznych.
Niestety samochody samojezdne spowodowały już kilka wypadków śmiertelnych, ponieważ algorytmy wykrywania nie przewidziały potencjalnego zagrożenia lub nie wykryły, że inny pojazd przejeżdżał niebezpiecznie blisko przed nimi. Mimo zaawansowanych technik symulacyjnych i intensywnych testów, jakim poddawane są te systemy, zawsze istnieje prawdopodobieństwo wystąpienia jakiegoś losowego, nieprzewidywalnego scenariusza.
Obraz ruchu w mieście
Etyka decydowania o życiu lub śmierci
Decyzje, które podejmujemy w sytuacjach, gdy nie da się uniknąć śmiertelnego wypadku, są niezwykle złożone. Nieraz w podejmowaniu decyzji, która zapada w ułamku sekundy, kierujemy się bardziej instynktem niż dogłębną analizą sytuacji. Jak ludzie mogą decydować, czy zjechać z drogi, aby nie potrącić pieszego, a zamiast tego narazić na niebezpieczeństwo wiele istnień ludzkich, uderzając w stoliki przed kawiarnią – a co dopiero samochód samojezdny? Czy system autonomiczny byłby zaprogramowany tak, aby rozpoznać, ile osób znajduje się na przykład w autobusie lub w kawiarni? Stosunek do działań, które człowiek mógłby podjąć, różni się także w zależności od regionu, jak pokazał artykuł w magazynie „Nature” na temat dylematu kompasu moralnego – patrz ilustracja 1.
Zadaniem tego projektu badawczego, przeprowadzonego przez międzynarodowy zespół, było zbadanie i opracowanie zestawu globalnych, społecznie akceptowalnych zasad dla pojazdów autonomicznych w sytuacjach natury moralnej i etycznej. Regionalne różnice w podejściu, o ile zostaną uzgodnione na poziomie krajowym, mogą zostać uwzględnione poprzez precyzyjne dostrojenie parametrów sieci neuronowej.
Komisja Europejska pracuje nad dopuszczeniem w pełni autonomicznych pojazdów na wyznaczonych odcinkach europejskich dróg. Rozporządzenie w sprawie bezpieczeństwa ogólnego pojazdów z lipca 2022 roku określa minimalny ustawowy pakiet zaawansowanych systemów wspomagania kierowcy (ADAS), wymaganych we wszystkich pojazdach poruszających się po drogach, oraz wymagań technicznych dla pojazdów w pełni autonomicznych poziomów 4 i 5 (patrz wpis 3: „Autonomiczność pojazdów: kluczowe poziomy”).
W Unii Europejskiej postęp w rozwiązywaniu drażliwych kwestii etycznych jest podzielony, a państwa członkowskie czasami decydują się na samodzielne działania. Przykładem są Niemcy, które w 2017 roku wprowadziły etyczny kodeks postępowania dla pojazdów autonomicznych. Stawianie na pierwszym miejscu życia i zdrowia ludzi, a nie zwierząt czy mienia, staje się kluczowym zadaniem algorytmów uczenia maszynowego w obliczu nieuniknionego wypadku. Rząd Wielkiej Brytanii nie podjął jeszcze debaty na temat kwestii etycznych, choć przedstawił wytyczne dotyczące przeprowadzania testów pojazdów autonomicznych na drogach publicznych w ramach ustalonych kryteriów.
Kogo winić?
Innym interesującym wyzwaniem jest określenie odpowiedzialności za wypadek. W przypadku ludzi firmy ubezpieczeniowe, dysponując wnioskami o odszkodowanie od kierowców biorących udział w wypadku oraz raportami służb ratowniczych, zazwyczaj zgadzają się co do tego, kto spowodował wypadek. W pojazdach w pełni autonomicznych (poziomy 4 i 5 wg SAE) nie ma kierowcy ani żadnego sposobu na interwencję ze strony pasażerów. W takich przypadkach ustalenie przyczyn wypadku może dotyczyć producenta samochodu, twórcy algorytmów, producenta czujników, ewentualnie kierowcy innego pojazdu.
Potencjalną szarą strefę może stwarzać poziom 3, który przewiduje, że kierowca musi przejąć kontrolę nad pojazdem, jeśli systemy autonomiczne uznają to za konieczne. Oczywiście wyznaczony kierowca może mieć niewiele czasu na reakcję lub podjęcie jakichkolwiek działań, aby zapobiec wypadkowi.
Być może jedną z przewag badania wypadku z udziałem pojazdu autonomicznego będzie dostęp do zapisów danych z „czarnej skrzynki” pojazdu. W Kalifornii istnieje prawny obowiązek dostarczania przez autonomiczne pojazdy testowe pełnego zestawu danych systemowych z 30 sekund poprzedzających zderzenie. Wciąż nie wiadomo jednak, czy wymóg ten stanie się normą dla każdego sprzedanego pojazdu autonomicznego na świecie.
Bez względu na wiele wyzwań, zarówno technicznych, jak i moralnych, zadaniem pojazdów autonomicznych jest zwiększenie bezpieczeństwa na drogach dla wszystkich użytkowników, zmniejszenie zatorów w ruchu i ograniczenie zanieczyszczeń. Wprowadzenie społecznie akceptowalnych ram moralnych jest tylko kwestią czasu.
www.mouser.com
