istock/chombosan
Erstellt am 22.03.2018

Künstliche Intelligenz: Entscheidungen über Leben und Tod

Immer mehr intelligente Geräte erleichtern uns das tägliche Leben. Was aber, wenn plötzlich Algorithmen entscheiden müssen, wer bei einem Unfall leben und wer sterben wird?

Unauflösbares Dilemma

Ein selbstfahrendes Auto gerät in eine Gefahrensituation mit zwei Möglichkeiten: Fährt es geradeaus weiter, wird es Fußgänger töten; weicht es aus, wird es gegen ein Hindernis prallen und Mitfahrer werden sterben. Diese und weitere Situationen testete das renommierte Massachusetts Institute of Technology (MIT) weltweit: Der Betrachter soll entscheiden, welche Möglichkeit für ihn „akzeptabler“ sei.

„Trolley-Problem“

Der MIT-Test basiert auf moralpsychologischen Gedankenexperimenten wie dem „Trolley- Problem“ („Weichensteller-Problem“): Ein Güterzug droht auf einen Personenzug bzw. Menschen auf dem Bahngleis aufzufahren. Die Testperson kann eine Weiche umstellen, damit der Güterzug auf ein Nebengleis fährt – dort würde er aber Gleisarbeiter töten. Wie Menschen sich in dieser Extremsituation verhalten und welche Rolle Instinkte sowie philosophische Überlegungen spielen, beleuchtet die umfassende Dokumentation „The Greater Good - Mind Field S2 (Ep 1)“:

Blitzschnelle Entscheidungen

Solche Experimente zeigen, dass viele getestete Personen überfordert sind: Sie würden ihr Fahrzeug im entscheidenden Moment weder in die eine noch in die andere Richtung steuern – sondern gar nicht reagieren. Derartiges menschliches Versagen in Extremsituationen wird in unserer Gesellschaft eher akzeptiert als Computerentscheidungen. Wenn Testpersonen in Sekundenbruchteilen doch eine Entscheidung fällen, dann instinktiv. Laut bisherigen Forschungen werden Kinder eher geschützt als Erwachsene, Menschen vor Tieren und Tiere vor Objekten.

Algorithmus als Grundlage 

Was aber passiert, wenn der Fahrer kein Mensch, sondern ein Roboter ist, etwa ein selbstfahrendes Auto? Die blitzschnell arbeitenden Prozessoren geben dem Bordcomputer genügend Zeit für eine Entscheidung. Die Grundlage dafür muss vorher in der Programmierung, im Algorithmus, angelegt sein – von Menschen. Wie soll in einer solchen Situation entschieden werden? Wer trägt die Verantwortung? Iyad Rahwan, ein am MIT Media Lab tätiger Computational Social Scientist, geht diesen Fragen im Rahmen seines „TED Talks“ „What moral decisions should driverless cars make?“ nach.

Richtlinien

40.000 Verkehrsunfälle werden in Österreich pro Jahr von Menschen verursacht. In Deutschland wurde kürzlich eine eigene Ethik-Kommission für automatisiertes und vernetztes Fahren eingesetzt. Diese soll klären, wie sich selbstfahrende Fahrzeuge verhalten sollen, wenn sie in einen Unfall verwickelt werden. Davon werden Richtlinien für Programmierer und ein Gesetzesentwurf abgeleitet. Letzterer soll die Verantwortlichkeiten zwischen Mensch und Computer formulieren und Rechtssicherheit für Verkehrsteilnehmer, Autohersteller und Versicherungen schaffen. Erste Fragen sind beantwortet, etwa: Der Computer soll lieber einen Sachschaden als einen Personenschaden riskieren. Er darf Personen nicht klassifizieren, etwa nach Größe, Alter oder Rang. Doch die Gretchenfrage bleibt weiter offen – nicht nur beim autonomen Fahren: Darf das Leben vieler gegen das Leben einiger aufgerechnet werden?

Menschenleben nicht abwägbar

„Eine ethisch vertretbare Entscheidung ist hier nicht vorstellbar, Menschenleben dürfen niemals gegeneinander abgewogen werden“, erklärt Kommissionssprecher Prof. Armin Grunwald. Als eine technische Lösung könnte man eine Vielzahl an Entscheidungsfaktoren eingeben, um daraus Wahrscheinlichkeiten zu errechnen, wie ein Mensch entscheiden würde. Parallel wird aber auch diskutiert, dass bei Extremsituationen im computergesteuerten Fahrzeug ein Zufallsgenerator entscheiden soll – wenn in unserer Gesellschaft ohnehin keine Entscheidung volle Akzeptanz finden würde. Zudem gibt es Pläne, eine Kombination aus selbstfahrenden Autos und nicht im Auto stationierten Menschen, die mehrere autonome Fahrzeuge steuern, zu testen.


Das könnte Sie auch interessieren:

Erstellt am 03.06.2024

Unternehmen gründen

Der Weg in die Selbstständigkeit kann insbesondere anfangs überwältigend erscheinen. Deshalb erklären wir in unserem Beitrag, auf was es gerade zu Beginn ankommt – denn gute Vorbereitung ist das A und O.

Erstellt am 29.03.2024

Disruptive Technologien

Bahnbrechende Innovationen prägen unser Leben seit jeher und haben nachhaltige Veränderungen zur Folge. Erfahren Sie mehr über solch disruptive Technologien, was sie genau sind und welchen Einfluss sie auf bestehende und zukünftige Märkte haben.

Erstellt am 23.02.2024

EU KI Verordnung erklärt

Die EU KI Verordnung regelt das Inverkehrbringen, die Entwicklung und den Einsatz von KI-Systemen in der Europäischen Union. Wir haben das Wichtigste zusammengefasst und informieren über die Risikostufen, Chancen, Bedenken und den aktuellen Stand.