Unauflösbares Dilemma
Ein selbstfahrendes Auto gerät in eine Gefahrensituation mit zwei Möglichkeiten: Fährt es geradeaus weiter, wird es Fußgänger töten; weicht es aus, wird es gegen ein Hindernis prallen und Mitfahrer werden sterben. Diese und weitere Situationen testete das renommierte Massachusetts Institute of Technology (MIT) weltweit: Der Betrachter soll entscheiden, welche Möglichkeit für ihn „akzeptabler“ sei.
„Trolley-Problem“
Der MIT-Test basiert auf moralpsychologischen Gedankenexperimenten wie dem „Trolley- Problem“ („Weichensteller-Problem“): Ein Güterzug droht auf einen Personenzug bzw. Menschen auf dem Bahngleis aufzufahren. Die Testperson kann eine Weiche umstellen, damit der Güterzug auf ein Nebengleis fährt – dort würde er aber Gleisarbeiter töten. Wie Menschen sich in dieser Extremsituation verhalten und welche Rolle Instinkte sowie philosophische Überlegungen spielen, beleuchtet die umfassende Dokumentation „The Greater Good - Mind Field S2 (Ep 1)“:
Blitzschnelle Entscheidungen
Solche Experimente zeigen, dass viele getestete Personen überfordert sind: Sie würden ihr Fahrzeug im entscheidenden Moment weder in die eine noch in die andere Richtung steuern – sondern gar nicht reagieren. Derartiges menschliches Versagen in Extremsituationen wird in unserer Gesellschaft eher akzeptiert als Computerentscheidungen. Wenn Testpersonen in Sekundenbruchteilen doch eine Entscheidung fällen, dann instinktiv. Laut bisherigen Forschungen werden Kinder eher geschützt als Erwachsene, Menschen vor Tieren und Tiere vor Objekten.
Algorithmus als Grundlage
Was aber passiert, wenn der Fahrer kein Mensch, sondern ein Roboter ist, etwa ein selbstfahrendes Auto? Die blitzschnell arbeitenden Prozessoren geben dem Bordcomputer genügend Zeit für eine Entscheidung. Die Grundlage dafür muss vorher in der Programmierung, im Algorithmus, angelegt sein – von Menschen. Wie soll in einer solchen Situation entschieden werden? Wer trägt die Verantwortung? Iyad Rahwan, ein am MIT Media Lab tätiger Computational Social Scientist, geht diesen Fragen im Rahmen seines „TED Talks“ „What moral decisions should driverless cars make?“ nach.
Richtlinien
40.000 Verkehrsunfälle werden in Österreich pro Jahr von Menschen verursacht. In Deutschland wurde kürzlich eine eigene Ethik-Kommission für automatisiertes und vernetztes Fahren eingesetzt. Diese soll klären, wie sich selbstfahrende Fahrzeuge verhalten sollen, wenn sie in einen Unfall verwickelt werden. Davon werden Richtlinien für Programmierer und ein Gesetzesentwurf abgeleitet. Letzterer soll die Verantwortlichkeiten zwischen Mensch und Computer formulieren und Rechtssicherheit für Verkehrsteilnehmer, Autohersteller und Versicherungen schaffen. Erste Fragen sind beantwortet, etwa: Der Computer soll lieber einen Sachschaden als einen Personenschaden riskieren. Er darf Personen nicht klassifizieren, etwa nach Größe, Alter oder Rang. Doch die Gretchenfrage bleibt weiter offen – nicht nur beim autonomen Fahren: Darf das Leben vieler gegen das Leben einiger aufgerechnet werden?
Menschenleben nicht abwägbar
„Eine ethisch vertretbare Entscheidung ist hier nicht vorstellbar, Menschenleben dürfen niemals gegeneinander abgewogen werden“, erklärt Kommissionssprecher Prof. Armin Grunwald. Als eine technische Lösung könnte man eine Vielzahl an Entscheidungsfaktoren eingeben, um daraus Wahrscheinlichkeiten zu errechnen, wie ein Mensch entscheiden würde. Parallel wird aber auch diskutiert, dass bei Extremsituationen im computergesteuerten Fahrzeug ein Zufallsgenerator entscheiden soll – wenn in unserer Gesellschaft ohnehin keine Entscheidung volle Akzeptanz finden würde. Zudem gibt es Pläne, eine Kombination aus selbstfahrenden Autos und nicht im Auto stationierten Menschen, die mehrere autonome Fahrzeuge steuern, zu testen.
