Die Weichenstellung der Maschine: Das Trolley-Problem und die Ethik autonomer Fahrzeuge

Der Aufhänger: Ein Gedankenexperiment steigt ins Auto

Über fünfzig Jahre lang war es ein Spielzeug für Philosophieseminare. Eine außer Kontrolle geratene Straßenbahn rast auf fünf Menschen zu, die auf den Gleisen festgebunden sind. Du stehst an einer Weiche. Legst du den Hebel um, rollt die Bahn auf ein Nebengleis – dort ist nur ein einziger Mensch angebunden. Fünf Tote oder einer? Ziehst du den Hebel?

Dieses Szenario, das Trolley-Problem, wurde 1967 von der britischen Philosophin Philippa Foot ersonnen und später von Judith Jarvis Thomson zu einer ganzen Familie von Varianten ausgebaut. Jahrzehntelang war es genau das, was es zu sein schien: ein Gedankenexperiment. Ein bewusst künstliches Konstrukt, entworfen, um unsere moralischen Intuitionen zu testen – ein Reagenzglas für Ethik, nicht ein Bauplan für die Wirklichkeit. Niemand steht je wirklich an dieser Weiche.

Und dann, um das Jahr 2015 herum, geschah etwas Bemerkenswertes. Das Trolley-Problem stieg aus dem Seminarraum aus und ins Auto ein. Denn zum ersten Mal in der Geschichte baute die Menschheit Maschinen, die in Sekundenbruchteilen eigenständig über Leben und Tod entscheiden könnten: selbstfahrende Autos. Ein autonomes Fahrzeug, das mit blockierter Bremse auf eine Gruppe Fußgänger zurast, könnte im Prinzip so programmiert sein, dass es ausweicht – und dabei seinen eigenen Insassen tötet. Oder eben nicht. Zum ersten Mal muss jemand die Antwort auf das Trolley-Problem im Voraus in Programmcode gießen, kühl, am Schreibtisch, lange bevor die Situation eintritt.

Damit verwandelte sich eine abstrakte philosophische Fingerübung in eine drängende Ingenieurs-, Rechts- und Gesellschaftsfrage. Wer soll leben, wer soll sterben, wenn ein Unfall unvermeidlich ist? Und viel wichtiger noch: Wer entscheidet das? Der Programmierer? Der Autohersteller? Der Gesetzgeber? Die Mehrheit der Bevölkerung? Der Fahrzeugbesitzer, der schließlich dafür bezahlt hat?

Dieser Artikel nimmt dich mit auf die ganze Strecke dieser Debatte: von der philosophischen Herkunft des Trolley-Problems über zwei bahnbrechende empirische Studien – die soziale Dilemma-Falle und das gewaltige Moral-Machine-Experiment mit seinen vierzig Millionen moralischen Urteilen – bis hin zur deutschen Ethik-Kommission, die eine überraschend klare, aber auch umstrittene Antwort gab. Am Ende steht eine Einsicht, die weit über Autos hinausreicht: Sie betrifft jede Maschine, der wir moralische Entscheidungen anvertrauen.

Teil 1: Das philosophische Fundament

Foots Weiche und Thomsons Brücke

Als Philippa Foot 1967 das Trolley-Problem formulierte, ging es ihr gar nicht um Straßenbahnen. Sie wollte ein moralisches Rätsel beleuchten: Warum erscheint es uns erlaubt, in manchen Fällen einen Menschen zu opfern, um fünf zu retten – in anderen aber zutiefst falsch? Um das zu schärfen, stellte Judith Jarvis Thomson dem Weichen-Fall eine berüchtigte Variante gegenüber, den Brückenfall (footbridge): Wieder rast die Bahn auf fünf Menschen zu. Diesmal stehst du auf einer Brücke über den Gleisen, neben dir ein sehr korpulenter Fremder. Wenn du ihn hinunterstößt, bremst sein Körper die Bahn und rettet die fünf. Rein rechnerisch ist es dieselbe Bilanz – ein Toter, fünf Gerettete. Und doch empfinden die allermeisten Menschen: Den Hebel umzulegen ist vertretbar, den Fremden zu stoßen ist Mord.

Diese Asymmetrie ist der eigentliche Schatz des Trolley-Problems. Sie zeigt, dass unsere Moral nicht rein rechnerisch funktioniert. Ein reiner Utilitarist würde in beiden Fällen gleich entscheiden: Rette die größere Zahl, koste es, was es wolle – die Konsequenzen zählen, nichts sonst. Ein Anhänger der deontologischen (pflichtenethischen) Tradition Kants hingegen sieht einen kategorialen Unterschied: Einen Menschen aktiv als bloßes Mittel zu benutzen – ihn als Bremsklotz zu missbrauchen – verletzt seine Würde auf eine Weise, die kein noch so gutes Ergebnis aufwiegen kann. Der Mensch ist Zweck an sich, niemals bloßes Werkzeug.

Zwischen diesen beiden Polen – dem Rechnen mit Ergebnissen und dem Beharren auf unverletzlichen Prinzipien – spannt sich das gesamte Feld der normativen Ethik auf. Das Trolley-Problem ist deshalb so mächtig, weil es diese Spannung in einem einzigen, grausam einfachen Bild einfängt.

Warum das Gedankenexperiment plötzlich real wurde

Der entscheidende Punkt für unser Thema ist der Unterschied zwischen einem Menschen an der Weiche und einer Maschine. Der Mensch entscheidet im Moment, unter Schock, mit unvollständiger Information, aus dem Bauch heraus. Wir verurteilen ihn selten hart, wie immer er handelt – die Situation ist übermenschlich. Eine Maschine aber entscheidet nicht im Moment. Ihre „Entscheidung" wurde Monate zuvor von Ingenieuren festgelegt, in Ruhe, mit vollem Bewusstsein der Tragweite, getestet, dokumentiert, wiederholt tausendfach ausgerollt. Das verwandelt eine tragische Augenblicksreaktion in eine vorsätzliche Politik.

Genau das macht die Maschinen-Ethik so unheimlich. Wir zwingen uns selbst, im Voraus und explizit zu beantworten, was Menschen bisher dem Zufall und dem Instinkt überlassen durften. Es gibt kein Wegschauen mehr. Der Code muss etwas tun, und was immer er tut, ist eine bewusste moralische Setzung.

Teil 2: Die soziale Dilemma-Falle

Was Menschen wollen – und was sie kaufen würden

Die erste große empirische Untersuchung dieser Frage stammt von den Verhaltensforschern Jean-François Bonnefon, Azim Shariff und Iyad Rahwan. Ihre Studie „The Social Dilemma of Autonomous Vehicles" erschien 2016 in der Fachzeitschrift Science und legte einen Nerv frei, den kaum jemand erwartet hatte.

Die Forscher befragten in mehreren Online-Experimenten tausende Menschen zu genau jenen Unfallszenarien. Das Ergebnis zerfiel in zwei sich widersprechende Hälften. Auf der einen Seite: Wenn man die Menschen abstrakt fragte, wie ein autonomes Auto handeln sollte, antwortete die große Mehrheit utilitaristisch. Ein Auto solle die Gesamtzahl der Opfer minimieren – notfalls also den eigenen Insassen opfern, um mehrere Fußgänger zu retten. Das erscheint moralisch nobel und vernünftig.

Auf der anderen Seite aber stand eine unbequeme zweite Frage: Welches Auto würdest du selbst kaufen? Und hier kippte die Haltung ins Gegenteil. Dieselben Menschen bevorzugten für sich selbst ein Auto, das seine Insassen um jeden Preis schützt – also sie selbst und ihre Familie. Der Utilitarismus sollte gelten, aber bitte für die anderen.

Der Mechanismus des Dilemmas

Damit ist das klassische Muster eines sozialen Dilemmas perfekt: Was für alle zusammen am besten wäre (utilitaristische Autos, die insgesamt die wenigsten Toten verursachen), kollidiert mit dem, was für den Einzelnen rational ist (ein Auto, das mich schützt). Es ähnelt dem Trittbrettfahrerproblem oder der Allmende-Tragödie: Jeder profitiert, wenn die anderen sich opferbereit verhalten, doch niemand will selbst das Opfer sein.

Bonnefon und Kollegen zogen daraus eine geradezu paradoxe politische Schlussfolgerung. Die Befragten lehnten es nämlich zusätzlich ab, dass der Staat utilitaristische Programmierung vorschreibt – und sie gaben an, ein solches vorgeschriebenes Auto noch seltener kaufen zu wollen. Die Pointe: Würde ein Gesetzgeber utilitaristische Algorithmen erzwingen, könnte das die Verbreitung selbstfahrender Autos verzögern, weil niemand sie kaufen will. Und da autonome Fahrzeuge insgesamt vermutlich sehr viel sicherer sind als menschliche Fahrer, würde eine solche Regulierung unter dem Strich mehr Menschenleben kosten als sie rettet – durch verhinderte oder verschleppte Adoption der sichereren Technik. Die moralisch „sauberste" Regel könnte real die tödlichste sein.

Das ist eine tiefe Lektion: In der Maschinen-Ethik lässt sich das Gute nicht isoliert verordnen. Jede Regel hat Rückwirkungen auf das Verhalten der Menschen, und diese Rückwirkungen können die ursprüngliche moralische Absicht in ihr Gegenteil verkehren.

Teil 3: Das Moral-Machine-Experiment

Die größte Umfrage zur Moral, die je durchgeführt wurde

Wenn die Menschen so uneins sind – lässt sich wenigstens herausfinden, welche Regeln die Weltbevölkerung insgesamt bevorzugt? Genau das versuchte das ehrgeizigste Projekt dieser Debatte: das Moral-Machine-Experiment, geleitet von Edmond Awad, Iyad Rahwan und Kollegen am MIT Media Lab, veröffentlicht 2018 in Nature.

Die Idee war so einfach wie genial. Die Forscher bauten eine spielerische Website, auf der jeder Besucher Unfallszenarien vorgelegt bekam. Ein autonomes Auto mit versagenden Bremsen; man musste entscheiden, wen es verschonen soll. Fünf ältere Fußgänger oder zwei junge Insassen? Eine schwangere Frau oder zwei Ärzte? Einen Hund und drei Kinder oder fünf Erwachsene? Bei rot über die Ampel gehende Fußgänger oder regelkonform Wartende? Die Seite verbreitete sich viral um den Globus.

Das Ergebnis sprengte alle Dimensionen bisheriger Moralforschung: rund 40 Millionen einzelne Entscheidungen von Millionen Menschen in 233 Ländern und Territorien, in zehn Sprachen. Es war, mit gewaltigem Abstand, die größte empirische Studie zur menschlichen Moral, die je durchgeführt wurde.

Die drei stärksten globalen Präferenzen

Über alle Kulturen hinweg kristallisierten sich drei besonders starke, nahezu universelle Präferenzen heraus. Erstens: Menschen vor Tieren verschonen. Zweitens: mehr Leben vor weniger verschonen – die schlichte Zahl zählt also doch. Drittens: jüngere Menschen vor älteren verschonen; ein Kind wurde weit häufiger gerettet als ein Greis.

Darüber hinaus zeigten sich schwächere, aber deutliche Tendenzen: Menschen mit höherem sozialen Status wurden eher verschont als solche mit niedrigem; körperlich Fitte eher als Übergewichtige; regelkonform Querende eher als bei Rot Gehende; und leicht überwiegend Frauen eher als Männer. Die folgende Tabelle fasst die stärksten Muster zusammen.

Man beachte, wie unbehaglich diese Liste zu lesen ist. Manche Präferenzen – Menschen vor Tieren, viele vor wenigen – wirken vertretbar. Andere – die Fitten vor den Dicken, die Reichen vor den Armen, die Jungen vor den Alten – wären als offizielle Regel eines Autoherstellers ein Skandal. Das ist einer der Gründe, warum die bloße Mehrheitsmeinung eine gefährliche Grundlage für Ethik ist. Doch dazu gleich mehr.

Drei moralische Welten

Der vielleicht faszinierendste Befund war nicht die globale Durchschnittsmeinung, sondern ihre Zerklüftung. Als die Forscher die Länder nach der Ähnlichkeit ihrer moralischen Profile gruppierten, fielen sie in drei große Cluster, die grob geografisch-kulturell verliefen.

Der westliche Cluster umfasst weitgehend die protestantisch, katholisch und orthodox geprägten Länder Europas und Nordamerikas. Der östliche Cluster vereint stark von konfuzianischen und islamischen Traditionen geprägte Länder, darunter Japan, Taiwan, Indonesien, Saudi-Arabien. Der südliche Cluster umfasst Lateinamerika sowie Länder mit starkem französischem kulturellem Einfluss.

Und diese Cluster unterschieden sich systematisch. Im östlichen Cluster war die Bevorzugung der Jungen vor den Alten deutlich schwächer – eine Präferenz, die man plausibel mit dem höheren Respekt vor dem Alter in konfuzianisch geprägten Gesellschaften verbindet. Der südliche Cluster zeigte eine besonders starke Neigung, Frauen und Menschen mit höherem Status zu verschonen. Der westliche Cluster wiederum neigte eher zur Untätigkeit – dem Auto nicht aktiv das Steuer in eine andere Richtung zu reißen –, während die anderen Cluster eher aktives Eingreifen befürworteten.

Statistisch ließen sich diese Unterschiede mit tiefen kulturellen und institutionellen Merkmalen korrelieren: Individualistische Gesellschaften (im Sinne der Kulturpsychologie) neigten stärker dazu, mehr Leben um jeden Preis zu retten – ein Ausdruck des gleichen Werts jedes Individuums. In Ländern mit stärkerer wirtschaftlicher Ungleichheit wurde der soziale Status stärker gewichtet; in Ländern mit robusteren staatlichen Institutionen und Rechtsstaatlichkeit wurden regelkonforme Fußgänger deutlich stärker bevorzugt als Regelbrecher. Die Moral, so scheint es, trägt den Fingerabdruck der Gesellschaft, die sie hervorbringt.

Teil 4: Warum die Maschine nicht die Umfrage befolgen sollte

Die Grenzen des Experiments

So beeindruckend das Moral-Machine-Experiment ist – man muss vorsichtig sein, was es eigentlich zeigt und was nicht. Die Kritik daran ist substanziell und wichtig.

Erstens sind die Szenarien unrealistisch idealisiert. In den Vignetten steht mit absoluter Gewissheit fest, wer sterben wird und wer überlebt, und die Identität und Eigenschaften aller Beteiligten (Alter, Fitness, Status) sind dem Auto bekannt. In der Wirklichkeit weiß ein Fahrzeug nichts davon. Es sieht keine „Ärztin" und keinen „Obdachlosen", keine „schwangere Frau"; es sieht unsichere Wahrscheinlichkeitswolken aus Sensordaten. Reale Unfallentscheidungen sind keine sicheren Todesurteile, sondern Risikoverteilungen unter massiver Unsicherheit.

Zweitens war die Stichprobe selbstselektiert – überwiegend junge, technikaffine, männliche Internetnutzer, die freiwillig ein virales Online-Spiel spielten. Das ist kein repräsentatives Abbild der Menschheit.

Drittens, und philosophisch am wichtigsten: Das Experiment misst, was Menschen bevorzugen – es ist rein deskriptiv. Doch aus dem, was Menschen faktisch für richtig halten, folgt nicht, was tatsächlich richtig ist. Diese Kluft nannte David Hume das Sein-Sollen-Problem (die is-ought-Lücke): Aus einer Beschreibung dessen, was ist (die Mehrheit bevorzugt X), lässt sich niemals logisch zwingend ableiten, was sein soll. Eine Moral per Volksabstimmung wäre ein Kategorienfehler.

Das Verbot, Leben gegeneinander aufzurechnen

Und tatsächlich behaupteten die Autoren des Moral-Machine-Experiments dies selbst nie. Sie verstanden ihre Arbeit ausdrücklich als Bestandsaufnahme der öffentlichen Erwartungen – als Input für eine gesellschaftliche Debatte, nicht als deren Ergebnis. Denn viele der gemessenen Präferenzen sind, sobald man sie zur expliziten Regel machen würde, moralisch inakzeptabel. Ein Auto, das programmiert wäre, gezielt den Dicken statt den Dünnen, den Armen statt den Reichen, den Alten statt den Jungen zu töten, würde eine Diskriminierung nach Personenmerkmalen institutionalisieren, die jede rechtsstaatliche Verfassung verbietet. Der Gleichheitsgrundsatz – die gleiche Würde jedes Menschen – ist genau nicht mehrheitsfähig verhandelbar.

Damit stoßen wir auf die zentrale Spannung dieses gesamten Feldes: Die empirische Frage („Was wollen die Menschen?") und die normative Frage („Was ist richtig?") dürfen nicht verwechselt werden. Die Maschine sollte nicht die Umfrage ausführen.

Teil 5: Die deutsche Antwort – 20 Regeln

Die Ethik-Kommission von 2017

Während amerikanische Forscher die Weltmoral vermaßen, ging Deutschland einen anderen Weg. 2016 berief das damalige Bundesverkehrsministerium eine Ethik-Kommission für automatisiertes und vernetztes Fahren ein, geleitet vom ehemaligen Bundesverfassungsrichter Udo Di Fabio. 2017 legte sie ihren Bericht mit 20 ethischen Regeln vor – der weltweit ersten staatlich beauftragten ethischen Leitlinie für autonomes Fahren. Sie wurde zur Grundlage der späteren gesetzlichen Regelung und mündete schließlich in das deutsche Gesetz zum autonomen Fahren von 2021.

Die Kommission gab eine bemerkenswert klare Antwort, die dem crowdgesourcten Meinungsbild in entscheidenden Punkten direkt widerspricht. Die wichtigsten Grundsätze lassen sich so zusammenfassen.

Der Schutz menschlichen Lebens hat oberste Priorität – vor Sach- und Tierschäden. Wenn ein Unfall unvermeidlich ist, muss die Technik im Zweifel Sachschaden in Kauf nehmen, um Menschen zu schützen.

Entscheidend aber ist Regel 9: Bei unausweichlichen Unfallsituationen ist jede Qualifizierung von Menschen nach persönlichen Merkmalen – Alter, Geschlecht, körperliche oder geistige Konstitution – strikt untersagt. Genau die Merkmale, die das Moral-Machine-Experiment als Präferenzen der Menschheit ermittelte, erklärt die deutsche Ethik hier für verboten. Kein Auto darf so programmiert werden, dass es das Kind vor dem Greis, den Fitten vor dem Kranken bevorzugt. Die gleiche Würde jedes Menschen ist nicht verrechenbar.

Ebenso verboten ist die Aufrechnung von Opfern gegeneinander: Es ist unzulässig, eine unbeteiligte Person aktiv zu opfern, um andere zu retten – der Brückenfall der Straße. Eine allgemeine Programmierung darauf, die Zahl der Personenschäden zu verringern, kann hingegen geboten sein, solange sie nicht mit der gezielten Auswahl bestimmter Opfer verbunden ist. Der Unterschied ist subtil, aber grundlegend deontologisch: Die Zahl der Verletzten allgemein zu minimieren ist erlaubt; einen konkreten Menschen als Mittel zu benutzen, ist es nicht.

Die Kluft zwischen Umfrage und Prinzip

Die deutsche Position markiert damit die schärfste denkbare Absage an eine Moral per Mehrheit. Wo das Moral-Machine-Experiment fragt „Wen würdest du opfern?", antwortet die Ethik-Kommission: „Diese Frage darf die Maschine gar nicht erst stellen." Die Würde des Menschen (Artikel 1 des Grundgesetzes) ist der feste Punkt, hinter den keine noch so populäre Präferenz zurückreichen darf.

Man erkennt hier die deontologische Tradition Kants in Reinform, gegossen in Verwaltungssprache: Der Mensch darf nie bloß als Mittel behandelt, seine Würde nie gegen ein Kalkül aufgewogen werden. Die deutsche Kommission traf eine bewusste Entscheidung gegen den Utilitarismus der Zahlenabwägung im Einzelfall und für ein unbedingtes Diskriminierungsverbot.

Ob das in jeder denkbaren Extremsituation praktisch durchhaltbar ist, bleibt umstritten. Kritiker wenden ein, dass die Regeln in echten Grenzfällen widersprüchlich werden können und dass sie das eigentliche Problem – die Verteilung von Risiko – nur teilweise adressieren. Aber als Grundsatzentscheidung ist die Botschaft unmissverständlich.

Teil 6: Vom Trolley-Problem zur Ethik des Risikos

Warum die falsche Frage die Debatte prägte

Es gibt eine wachsende Fraktion von Forschern, die argumentiert, dass die gesamte Trolley-Fixierung ein Irrweg ist – ein für die Medien attraktives, aber praktisch irreführendes Bild. Ein Team um Maximilian Geisslinger und Markus Lienkamp an der TU München hat vorgeschlagen, von der Ethik des Dilemmas zur Ethik des Risikos überzugehen.

Ihr Argument: Der reine Trolley-Fall – zwei klar definierte Gruppen, sicherer Tod auf beiden Seiten, keine dritte Option – tritt in der Realität praktisch nie auf. Er ist so selten, dass es fast absurd ist, die gesamte Ethik des autonomen Fahrens daran aufzuhängen. Was ein autonomes Auto ständig tut, ist etwas anderes: Es verteilt fortlaufend Risiko. Wie viel Sicherheitsabstand hält es zum Radfahrer? Wie schnell fährt es an der Schule vorbei? Wie stark gewichtet es das kleine Restrisiko für die eigenen Insassen gegen das Risiko für andere Verkehrsteilnehmer?

Die eigentliche ethische Arbeit liegt also nicht im spektakulären Todesdilemma, sondern in der unspektakulären, permanenten Risikoverteilung – in Millionen alltäglicher Mikroentscheidungen, lange bevor es überhaupt zu einer Notlage kommt. Ein gut konstruiertes System löst das Trolley-Problem nicht, indem es entscheidet, wen es tötet, sondern indem es durch vorausschauende Risikominimierung dafür sorgt, dass die Trolley-Situation gar nicht erst entsteht.

Verantwortung und Transparenz

Damit rücken andere Werte in den Vordergrund: Wie wird das Risiko fair verteilt? Ist die Verteilung transparent und nachvollziehbar? Wer trägt die Verantwortung, wenn dennoch etwas schiefgeht – Hersteller, Halter, Programmierer, Aufsichtsbehörde? Diese Fragen sind weniger dramatisch als „Kind oder Greis?", aber sie sind die, auf die es in der Praxis wirklich ankommt. Sie verbinden die Ethik autonomer Fahrzeuge unmittelbar mit den großen regulatorischen Rahmenwerken, die derzeit entstehen – etwa den Anforderungen an Hochrisiko-KI-Systeme im europäischen Recht.

Erkenntnis zum Mitnehmen

Die eigentliche Lehre der Debatte um autonome Fahrzeuge ist eine über uns selbst, nicht über Autos. Sobald wir eine Maschine bauen, die im Voraus programmiert handelt, zwingt sie uns, unsere Werte zu explizieren – aufzuschreiben, was wir sonst dem Instinkt, dem Zufall und dem Vergessen überlassen. Und in diesem Moment der Explikation zeigt sich, wie uneins, wie widersprüchlich und wie kulturell geprägt unsere Moral tatsächlich ist. Der Mensch verlangt utilitaristische Autos für die anderen und selbstschützende für sich; er bevorzugt den Jungen, den Fitten, den Reichen, wenn man ihn anonym fragt – und verbietet genau das, wenn er als Gesetzgeber seine Prinzipien niederschreibt.

Für die Praxis lassen sich drei belastbare Grundsätze festhalten. Erstens: Trenne Deskriptives von Normativem. Was Menschen bevorzugen (die 40 Millionen Urteile), ist wertvoller Input, aber niemals selbst die Antwort auf die Frage, was richtig ist. Zweitens: Verlege die Ethik nach vorn. Die entscheidende moralische Arbeit steckt nicht im seltenen Todesdilemma, sondern in der alltäglichen, transparenten und fairen Verteilung von Risiko – im Design, lange vor dem Unfall. Drittens: Halte die Würde unverrechenbar. Der stärkste Schutz gegen eine diskriminierende Maschine ist das Prinzip, dass bestimmte Merkmale – Alter, Geschlecht, Status – für die Maschine schlicht unsichtbar bleiben müssen.

Diese Prinzipien gelten weit über das Auto hinaus. Jedes KI-System, das über Kredite, medizinische Prioritäten, Bewährung oder Bewerbungen mitentscheidet, steht vor derselben Grundfrage: Wessen Werte werden einprogrammiert, wer legitimiert sie, und wie verhindern wir, dass die Mehrheitsmeinung die Würde der Minderheit überstimmt? Das autonome Auto ist nur der erste, greifbarste Fall einer Frage, die uns bei jeder ernsthaften Maschine begleiten wird.

Reflexionsfrage zum Schluss

Stell dir vor, du dürftest die eine Grundregel festlegen, nach der alle autonomen Autos weltweit im unvermeidlichen Notfall handeln: absoluter Insassenschutz, strikte Zahlminimierung, oder unbedingtes Diskriminierungsverbot ohne Aufrechnung. Welche Regel würdest du wählen – und wärst du bereit, in einem Auto zu sitzen, das nach genau dieser Regel notfalls dich opfert, um dem Prinzip treu zu bleiben?

Querverweise im Vault

• Die Pyramide des Risikos: Wie der EU AI Act künstliche Intelligenz bändigt – und warum das die ganze Welt betrifft – der regulatorische Rahmen, in dem risikoreiche KI-Systeme (auch im Verkehr) künftig zu bewerten sind.
• Die zwei Kisten: Newcombs Paradox und der Streit um rationale Entscheidungen – die Wurzeln der Entscheidungstheorie und der Konflikt zwischen konkurrierenden Rationalitätsbegriffen.
• Das chinesische Zimmer: Searle und die Frage, ob Maschinen verstehen können – ob eine Maschine, die moralisch handelt, auch moralisch versteht.
• Was Mary nicht wusste: Das Wissensargument und das Rätsel des Bewusstseins – die Frage nach Erleben und subjektivem Wert, die jeder Maschinenethik zugrunde liegt.
• Der Geist in der Maschine: Wie man ein neuronales Netz von innen liest – wie man überhaupt nachvollziehen kann, nach welchen „Werten" ein neuronales Netz tatsächlich entscheidet.

Quellen

• Bonnefon, J.-F., Shariff, A., & Rahwan, I. (2016): The social dilemma of autonomous vehicles. Science 352(6293), 1573–1576. https://www.science.org/doi/10.1126/science.aaf2654
• Awad, E., Dsouza, S., Kim, R., Schulz, J., Henrich, J., Shariff, A., Bonnefon, J.-F., & Rahwan, I. (2018): The Moral Machine experiment. Nature 563, 59–64. https://www.nature.com/articles/s41586-018-0637-6
• MIT Open Access Fassung des Moral-Machine-Aufsatzes. https://dspace.mit.edu/bitstreams/750c4524-46a2-4013-916a-c8131d726b56/download
• Ethik-Kommission Automatisiertes und Vernetztes Fahren (2017), Bundesministerium für Verkehr und digitale Infrastruktur; Zusammenfassung u. a. beim World Economic Forum: https://www.weforum.org/agenda/2017/08/germany-has-developed-a-set-of-ethical-guidelines-for-self-driving-cars
• Weber, N. u. a. (2021): How to Regulate Moral Dilemmas Involving Self-Driving Cars: The 2021 German Act on Autonomous Driving, the Trolley Problem, and the Search for a Role Model. German Law Journal. https://www.cambridge.org/core/journals/german-law-journal/article/how-to-regulate-moral-dilemmas-involving-selfdriving-cars-the-2021-german-act-on-autonomous-driving-the-trolley-problem-and-the-search-for-a-role-model/A57B334A189F72B16A65150EE38B0008
• Geisslinger, M., Poszler, F., Lienkamp, M. u. a.: Autonomous Driving Ethics: from Trolley Problem to Ethics of Risk. https://www.semanticscholar.org/paper/eb8c53fbe9a339c96d418dd465878d4681af2f38

Hinweis zu wissenschaftlicher Absicherung: Die referierten empirischen Befunde (Bonnefon et al. 2016; Awad et al. 2018) sind peer-reviewt und vielfach zitiert. Die kulturellen Korrelationen sind Assoziationen, keine kausalen Nachweise. Wo dieser Artikel über die Studienbefunde hinaus wertet – etwa in der Beurteilung, dass eine Moral per Mehrheit ein Kategorienfehler ist –, handelt es sich um eine begründete philosophische Position, nicht um ein empirisches Faktum.

← All articles