Zaprogramować etykę: Historia dylematu wagonika i jego wpływ na współczesną technologię

W świecie etyki i filozofii moralnej istnieją eksperymenty myślowe, które na stałe zapisały się w historii ludzkiej myśli. Jednym z najbardziej fascynujących i jednocześnie niepokojących jest dylemat wagonika, który od ponad pół wieku prowokuje dyskusje i zmusza do głębokiej refleksji nad naturą ludzkich wyborów moralnych.

Historia i podstawowe założenia

Wszystko zaczęło się w 1967 roku, gdy brytyjska filozofka Philippa Foot przedstawiła światu pozornie prosty scenariusz: rozpędzony wagonik zmierza w stronę pięciu osób przywiązanych do torów. Obserwator znajduje się przy dźwigni, która może przekierować pojazd na inny tor, gdzie znajduje się jedna przywiązana osoba. Czy należy podjąć działanie i aktywnie przyczynić się do śmierci jednej osoby, aby uratować pięć innych?

Ewolucja dylematu

Ten fundamentalny dylemat szybko ewoluował, gdy w latach 70. XX wieku Judith Jarvis Thomson wprowadziła jego bardziej osobistą wersję.¹ W jej wariancie obserwator stoi na kładce nad torami, a obok niego znajduje się osoba o znacznej posturze. Zepchnięcie tej osoby na tory zatrzymałoby wagonik i uratowało pięć istnień. Choć matematycznie równanie pozostaje takie samo – jedno życie za pięć – reakcje ludzi na te dwa scenariusze znacząco się różnią.

Badania neurologiczne

Badania neurologiczne przeprowadzone przez zespół Joshuy Greene’a znacząco poszerzyły nasze rozumienie procesu podejmowania decyzji moralnych.² W eksperymencie wykorzystano funkcjonalny rezonans magnetyczny (fMRI) do obserwacji aktywności mózgu 45 uczestników podczas rozwiązywania dylematów moralnych. Kluczowym odkryciem było to, że różne warianty dylematów moralnych aktywują odmienne obszary mózgu.

Podczas gdy w klasycznym dylemacie wagonika uczestnik musi zdecydować o przestawieniu zwrotnicy, by skierować rozpędzony wagon na tor, gdzie zginie jedna osoba zamiast pięciu, w dylemacie kładki sytuacja jest bardziej osobista. Uczestnik znajduje się na kładce nad torami wraz z osobą o znacznej posturze. Jedynym sposobem na uratowanie pięciu osób przed nadjeżdżającym wagonem jest zepchnięcie tej osoby na tory – jej ciało zatrzyma wagon, ale ona sama zginie. W obu przypadkach matematyczny bilans jest taki sam – poświęcenie jednej osoby ratuje pięć innych. Jednak badania pokazują, że podczas gdy większość osób akceptuje przestawienie zwrotnicy w pierwszym dylemacie, znacznie mniej jest skłonnych do fizycznego zepchnięcia człowieka w drugim przypadku.

Podczas rozwiązywania dylematów osobistych (jak dylemat kładki) obserwowano zwiększoną aktywność w przyśrodkowej korze przedczołowej (BA 9/10) oraz tylnej części zakrętu obręczy (BA 31) – obszarach tradycyjnie związanych z przetwarzaniem emocji i oceną społeczną. Natomiast w przypadku dylematów bezosobowych (jak dylemat wagonika) większą aktywność wykazywała grzbietowo-boczna kora przedczołowa (BA 46), region odpowiedzialny za racjonalne myślenie i planowanie.

Zaobserwowano również zaangażowanie zakrętu kątowego (BA 39) i płata ciemieniowego (BA 7/40), obszarów odpowiedzialnych za integrację informacji zmysłowych i podejmowanie decyzji.

Sugeruje to, że uczestnicy badania musieli świadomie przezwyciężyć swoją intuicyjną, emocjonalną odpowiedź. Wyniki te pokazują, że nasze decyzje moralne nie są wyłącznie rezultatem chłodnej kalkulacji, ale powstają w złożonej interakcji między systemami emocjonalnymi i racjonalnymi w naszym mózgu. Ma to istotne implikacje dla projektowania systemów sztucznej inteligencji – sugeruje, że efektywne podejmowanie decyzji moralnych może wymagać uwzględnienia zarówno komponentu racjonalnego, jak i pewnego odpowiednika ludzkich emocji.

Globalne badanie preferencji moralnych

Przełomowe odkrycia w globalnym kontekście etyki decyzyjnej przyniosły wyniki projektu „Moral Machine”, prowadzonego w 2018 roku przez MIT Media Lab. Pod kierownictwem Edmonda Awada zebrano imponującą liczbę ponad 40 milionów decyzji od 2,3 miliona respondentów z 233 krajów, co umożliwiło bezprecedensową analizę kulturowych różnic w podejmowaniu decyzji moralnych.³

Badanie ujawniło trzy fundamentalne, uniwersalne preferencje moralne: priorytet ochrony większej liczby żyć, szczególną troskę o młodych ludzi oraz preferowanie ratowania osób przestrzegających prawa. Statystyki pokazują wyraźne tendencje – 76% respondentów z krajów zachodnich preferowało ratowanie młodszych osób, 81% wybierało ratowanie większej liczby osób, a 50% respondentów preferowało ratowanie pieszych przestrzegających przepisów. ⁴ Wyniki pokazały, że globalnie preferujemy ratowanie ludzi zamiast zwierząt, większych grup zamiast mniejszych oraz młodych zamiast starszych. Najchętniej ratowalibyśmy dzieci i kobiety w ciąży, najmniej chętnie – przestępców i zwierzęta.

Szczegółowa analiza danych pozwoliła na wyodrębnienie trzech głównych „klastrów moralnych”: zachodniego (Europa i Ameryka Północna), wschodniego (kraje Dalekiego Wschodu i islamskie) oraz południowego (Ameryka Łacińska). Każdy z tych klastrów charakteryzował się odmiennymi preferencjami etycznymi, co najlepiej widać na przykładzie klastra południowego, który wykazywał znacznie silniejszą preferencję dla ratowania kobiet w porównaniu do pozostałych regionów.

Na decyzje moralne istotny wpływ miały również czynniki ekonomiczne i kulturowe. Kraje o kulturze indywidualistycznej częściej opowiadały się za ratowaniem większej liczby osób. Kraje zamożniejsze wykazywały mniejszą tolerancję wobec pieszych łamiących przepisy, podczas gdy w krajach o większych nierównościach społecznych silniej preferowano ratowanie osób o wyższym statusie społecznym.

Wyniki badania jednoznacznie wskazują, że mimo istnienia pewnych uniwersalnych wartości moralnych, sposób podejmowania trudnych decyzji etycznych jest głęboko zakorzeniony w kontekście kulturowym. Ma to kluczowe znaczenie dla rozwoju sztucznej inteligencji, szczególnie w kontekście programowania autonomicznych pojazdów, które będą musiały podejmować podobne decyzje moralne w czasie rzeczywistym.

Współczesne zastosowania

Współcześnie dylemat wagonika zyskał nowe, praktyczne znaczenie w kontekście rozwoju technologii. Projektanci autonomicznych pojazdów muszą zmierzyć się z podobnymi wyborami moralnymi – czy samochód powinien chronić swoich pasażerów za wszelką cenę, czy może poświęcić ich, aby uratować większą liczbę pieszych? Te pytania nie są już tylko teoretycznymi rozważaniami, ale realnymi problemami inżynieryjnymi i etycznymi.

Badanie przeprowadzone przez zespół Bonnefona i opublikowane w Science w 2016 roku wykazało interesujący paradoks w ludzkim myśleniu. Ankietowani w większości (76%) zgadzali się, że autonomiczne pojazdy powinny być zaprogramowane do poświęcenia pasażera w sytuacji, gdy może to uratować większą liczbę osób. Jednak jednocześnie ci sami respondenci (tylko 23%) deklarowali znacznie mniejszą chęć zakupu lub korzystania z takiego pojazdu, który mógłby priorytetyzować życie innych nad ich własnym.⁵

Mercedes-Benz jako pierwszy producent samochodów oficjalnie zajął stanowisko w tej kwestii, deklarując w 2016 roku, że ich autonomiczne pojazdy będą priorytetyzować bezpieczeństwo pasażerów⁶. Ta decyzja wywołała intensywną debatę etyczną w branży motoryzacyjnej i wśród ekspertów ds. bezpieczeństwa drogowego.

Niemieckie Federalne Ministerstwo Transportu i Infrastruktury Cyfrowej podjęło w 2017 roku pionierski krok w dziedzinie regulacji etycznych aspektów motoryzacji autonomicznej⁷. Powołana przez ministerstwo Komisja ds. Etyki Zautomatyzowanego i Połączonego Ruchu Drogowego, pod przewodnictwem byłego sędziego Federalnego Trybunału Konstytucyjnego Udo Di Fabia, opracowała pierwszy na świecie kompleksowy zestaw wytycznych etycznych dla pojazdów autonomicznych.

Fundamentalną zasadą przyjętą w niemieckich wytycznych jest bezwzględny priorytet ochrony życia ludzkiego. Dokument jednoznacznie stwierdza, że systemy autonomiczne muszą być zaprogramowane tak, by w pierwszej kolejności zapobiegać wypadkom i chronić życie ludzkie, przedkładając te wartości nad wszelkie inne względy użytkowe czy ekonomiczne. Co szczególnie istotne, wytyczne wprowadzają rewolucyjną zasadę zakazującą różnicowania potencjalnych ofiar wypadków na podstawie jakichkolwiek cech osobowych, takich jak wiek, płeć, pochodzenie społeczne czy status ekonomiczny. Kolejnym kluczowym aspektem niemieckich regulacji jest wymóg pełnej przejrzystości i odpowiedzialności. Każda decyzja podjęta przez system autonomiczny musi być możliwa do prześledzenia, a odpowiedzialność za ewentualne szkody musi być jasno określona.

Producenci pojazdów są zobowiązani do szczegółowego dokumentowania procesów decyzyjnych swoich systemów i przechowywania tych danych w sposób bezpieczny. Wprowadzono także wymóg informowania użytkowników o możliwościach i ograniczeniach systemów autonomicznych.Niemieckie wytyczne stały się globalnym standardem i punktem odniesienia dla innych krajów oraz producentów samochodów.

Największe niemieckie koncerny motoryzacyjne – Mercedes-Benz, BMW i Volkswagen – dostosowały swoje programy rozwoju pojazdów autonomicznych do tych wymagań. Komisja Europejska również bazowała na niemieckich rozwiązaniach przy tworzeniu ogólnoeuropejskich regulacji w tym zakresie. To pokazuje, jak pojedyncza inicjatywa regulacyjna może wpłynąć na kształtowanie globalnych standardów etycznych w rozwoju nowych technologii.

Etyczny dylemat pojazdów autonomicznych

Film „The ethical dilemma of self-driving cars” autorstwa Patricka Lina przedstawia w przystępny sposób kluczowe aspekty tego problemu:

Przyszłość i wyzwania etyczne: AI, neuroetyka i znaczenie dla współczesnego świata

Dylemat wagonika, od momentu jego sformułowania przez Philippę Foot w 1967 roku, przeszedł znaczącą transformację – od teoretycznego eksperymentu myślowego do praktycznego narzędzia badania moralności. Badania neurologiczne i psychologiczne ujawniły, że nasze reakcje na ten dylemat są głęboko zakorzenione w ewolucyjnej historii naszego gatunku, co widać w różnicach między reakcjami na bezpośrednie działanie (zepchnięcie osoby z kładki) a abstrakcyjną decyzję (pociągnięcie za dźwignię).

Współczesne zastosowania dylematu wagonika, szczególnie w kontekście rozwoju sztucznej inteligencji i pojazdów autonomicznych, stawiają przed nami nowe pytania: Jak zaprogramować systemy AI, aby podejmowały etyczne decyzje? Czy powinny kierować się czystą kalkulacją utylitarną, czy uwzględniać bardziej złożone aspekty moralne? Globalne badania, takie jak projekt „Moral Machine” MIT, pokazują, że odpowiedzi na te pytania różnią się znacząco w zależności od kontekstu kulturowego.

Paradoksalnie, największa wartość tego dylematu nie leży w znalezieniu jednoznacznych odpowiedzi, ale w pytaniach, które prowokuje i dyskusjach, które inicjuje. W świecie coraz bardziej zależnym od automatycznych systemów decyzyjnych, zrozumienie mechanizmów stojących za naszymi wyborami moralnymi staje się nie tylko fascynującym przedmiotem badań, ale praktyczną koniecznością. Dylemat wagonika pozostaje więc nie tylko eksperymentem myślowym, ale także kluczowym narzędziem w projektowaniu etycznych systemów przyszłości.

Źródła:

1. Thomson, J.J. (1976). Killing, Letting Die, and the Trolley Problem. The Monist, 59(2), 204-217. Dostęp przez JSTOR: https://www.jstor.org/stable/27902416 [dostęp: 2024-01-08] ↩︎
2. Greene, J.D., et al. (2001). An fMRI Investigation of Emotional Engagement in Moral Judgment. Science. Dostęp: https://science.sciencemag.org/content/293/5537/2105 [dostęp: 2024-01-08] ↩︎
3. https://www.moralmachine.net/ [dostęp: 2024-01-08] ↩︎
4. https://dspace.mit.edu/bitstream/handle/1721.1/125065/Moral%20Machine%20Paper.pdf [dostęp: 2024-01-08] ↩︎
5. Bonnefon, J.F., Shariff, A., & Rahwan, I. (2016). „The social dilemma of autonomous vehicles”
   https://science.sciencemag.org/content/352/6293/1573 ↩︎
6. Maxfield, K. (2016). Mercedes-Benz’s Self-Driving Cars Would Choose Passenger Lives Over Bystanders. Car and Driver. Dostęp: https://www.caranddriver.com/news/a15344706/mercedes-benzs-self-driving-cars-would-choose-passenger-lives-over-bystanders/ [dostęp: 2024-01-08] ↩︎
7. Federal Ministry of Transport and Digital Infrastructure. (2017). Ethics Commission: Automated and Connected Driving. Dostęp: https://www.bmvi.de/SharedDocs/EN/publications/report-ethics-commission-automated-and-connected-driving.pdf [dostęp: 2024-01-08] ↩︎