TUM – Technische Universität München Menü
Die Fahrerin eines autonom fahrenden Autos nimmt die Hände vom Lenkrad
Wann hat die Fahrerin die Kontrolle, wann die Technik? Christoph Lütge fordert eine eindeutige Verantwortung. (Bild: chombosan / istockphoto.com)
  • Forschung

Weltweit erstes ethisches Regelwerk für automatisiertes Fahren„Programmierer dürfen nicht über den Tod eines Menschen entscheiden“

Was und wie dürfen Autos entscheiden, wenn sie künftig autonom fahren? Eine Ethik-Kommission hat im Auftrag der Bundesregierung Leitlinien erarbeitet. Prof. Christoph Lütge, Wirtschaftsethiker an der Technischen Universität München (TUM) und Mitglied der Kommission, erklärt, wann die Technik nicht zwischen Kindern und Erwachsenen unterscheiden darf und warum niemand gezwungen werden sollte, die Kontrolle an sein Auto abzugeben.

Bundesverkehrsminister Alexander Dobrindt betont, dass der Bericht der Kommission das weltweit erste ethische Regelwerk zum automatisierten Fahren sei. 14 Philosophen, Verfassungsrechtler, Theologen, Ingenieure und Verbraucherschützer haben zehn Monate lang debattiert und autonome Autos selbst getestet. Einer von ihnen ist Christoph Lütge, Professor für Wirtschaftsethik an der TUM.

Professor Lütge, nehmen wir eine Situation an, in der eine Kollision mit Menschen nicht zu vermeiden ist. Es gibt aber die Alternative, ein Kind zu treffen oder einen alten Menschen. Wie soll ein autonom fahrendes Auto entscheiden?

Es darf keine Qualifizierung nach persönlichen Merkmalen geben, egal ob nach Alter, körperlicher Verfassung oder Geschlecht. Die Menschenwürde ist absolut. Deshalb dürfen Fahrzeuge nicht in dem Sinne programmiert werden: Im Zweifel trifft es den Mann mit dem Rollator.

Obwohl die meisten Fahrerinnen und Fahrer wohl diese Entscheidung treffen würden?

Hier entscheidet eben nicht ein sittlich urteilsfähiger Mensch ein individuelles Dilemma. Stattdessen geht es um die Frage, wie ein System für in der Zukunft liegende Situationen programmiert werden kann. Stellen Sie sich folgenden Fall vor: ein schmaler Weg, rechts Fels, links Abgrund, vorn taucht ein Kind auf, rechtzeitig bremsen ist nicht möglich. Soll das Auto in das Kind fahren oder in den Abgrund? Die Programmierer dürfen nicht die Entscheidung treffen, den Fahrer zu opfern. Es bleibt nur, so gut wie möglich zu bremsen.

„Neutrale Instanz könnte Technologien prüfen“


Die Zahl der wahrscheinlichen Opfer darf das System aber erfassen und danach handeln?

Diese Frage war in der Kommission umstritten, aber wir sind zu dem Schluss gekommen, dass es vertretbar sein kann, die Zahl von Personenschäden zu mindern.

Widerspricht das nicht der Rechtsprechung des Bundesverfassungsgerichts? Das Gericht hat entschieden, dass ein von Terroristen gekapertes Flugzeug nicht abgeschossen werden darf, selbst wenn es ein Ziel mit deutlich mehr Menschen ansteuert.

Es gibt einen entscheidenden ethischen Unterschied: Niemand darf über den Tod eines Individuums entscheiden. Im Flugzeug sitzen Menschen, die wir konkret benennen können. Beim automatisierten Fahren geht es um eine sogenannte allgemeine Programmierung, die den Schaden reduziert, ohne dass wir die Opfer vorher kennen oder klassifizieren.

Im Übrigen steht die reine Zahl nicht absolut, sondern es sollte die Schwere der Schäden berücksichtigt werden. Wenn es in einer Entweder-Oder-Situation möglich ist, mehrere Menschen lediglich zu touchieren, sollte nicht ein einzelner anderer Mensch tödlich erfasst werden.

Was ist mit den tausenden Szenarien, die irgendwo zwischen diesen Extremen liegen? Der eine Hersteller wird eine Abwägung treffen, der nächste eine andere.

Ich halte es für sinnvoll, dass eine neutrale Instanz einen Szenarien-Katalog mit allgemeingültigen Vorgaben führt. Diese Einrichtung könnte auch die Technologien prüfen, bevor die Hersteller sie auf den Markt bringen.

„Verlauf jeder Fahrt in Blackbox dokumentieren“

Ist es überhaupt ethisch vertretbar, die Verantwortung vom Menschen auf die Technik zu übertragen?

Die Verantwortung wird nicht auf die Technik an sich übertragen, sondern auf die Hersteller und Betreiber dieser Technik. Eine unserer Forderungen lautet, dass eindeutig geregelt sein muss, wann der Fahrer und wann die Technik die Kontrolle hat und wer entsprechend haftbar ist. Es darf auch nicht sein, dass das System, aus welchen Gründen auch immer, die Verantwortung abrupt an den Fahrer abschiebt. Da die Zuständigkeit während der Fahrt wechseln kann, sollte der Verlauf jeder Fahrt in einer Blackbox dokumentiert werden. Für diese Fragen sollten internationale Standards entwickelt werden.

Und wenn ich die Verantwortung gar nicht abgeben will?

Techniker haben der Kommission zwar gesagt: Wenn der Mensch eingreift, wird der Verkehr unsicherer. Aber es gehört zu unserem Grundverständnis des Menschen, dass er nicht gezwungen werden darf, sich der Technik auszuliefern. Das bedeutet letztlich, dass es möglich sein muss, die automatisierte Steuerung abzuschalten.

Noch ist ja oft der Mensch überlegen.

Es ist nur dann ethisch vertretbar, automatisierte Fahrzeuge zuzulassen, wenn sie im Vergleich zum Menschen weniger Schäden verursachen. Wir gehen davon aus, dass dies in naher Zukunft möglich sein wird – und zwar in einem Ausmaß, dass eine wesentliche ethische Verbesserung im Verkehr erreicht werden kann. Dazu wollen wir mit unseren Leitlinien beitragen.

Christoph Lütge:

Prof. Christoph Lütge ist seit 2010 erster Inhaber des Peter Löscher-Stiftungslehrstuhls für Wirtschaftsethik an der TUM. Vergangenes Jahr wurde er Gründungsmitglied der TUM School of Governance, die die Wechselwirkungen von Technologie und Politik erforscht und lehrt. Der studierte Philosoph und Wirtschaftsinformatiker untersucht ethisches Handeln unter den ökonomischen und sozialen Rahmenbedingungen der Globalisierung. Einer seiner Schwerpunkte ist die Technikethik. Lütge wurde kürzlich in den Vorstand der International Society of Business, Economics, and Ethics (ISBEE) gewählt.

Mehr Informationen:

Kontakt:

Prof. Dr. Christoph Lütge
Technische Universität München
Peter Löscher-Stiftungslehrstuhl für Wirtschaftsethik
Tel.: +49 89 289 25130
luetge(at)tum.de

Corporate Communications Center

Technische Universität München Klaus Becker
klaus.becker(at)tum.de

Weitere Artikel zum Thema auf www.tum.de:

Studentin liest ein Werk von Immanuel Kant

Technikstudierende im Philosophieseminar

Seit dem Wintersemester können die Studierenden der TUM Veranstaltungen an der Hochschule für Philosophie München (HFPH) besuchen. Warum sich Technik und Philosophie zu dieser ungewöhnlichen Partnerschaft entschlossen...

Studentin liest ein Werk von Immanuel Kant

Technik trifft Philosophie

Die Technische Universität München (TUM) und die Hochschule für Philosophie München (HFPH) intensivieren ihre Zusammenarbeit in der Lehre. Bereits im laufenden Semester besuchen die ersten Studierenden der TUM...

Das Forschungsflugzeug der TUM landet vollautomatisch ohne Unterstützung von bodengebundenen Systemen.

„Augen“ für den Autopiloten

Für kommerzielle Verkehrsflugzeuge ist die automatische Landung seit langem Alltag. Die großen Flughäfen besitzen die nötige Infrastruktur, um eine sichere Navigation der Flugzeuge zu gewährleisten. Bei kleinen Flughäfen...

Autonom Fahrende Fahrzeuge auf Brücken

Beirat des TUM-Instituts für Ethik in der KI berufen

Prof. Wolfgang A. Herrmann, Präsident der Technischen Universität München (TUM), hat den Wissenschaftlichen Beirat für das Institut für Ethik in der Künstlichen Intelligenz (IEAI) berufen. Er besteht aus sechs unabhängigen...

Der humanoide Roboter Roboy 2.0.

Ein Roboter mit Muskeln und Sehnen

Eine Sondersendung von SAT.1 BAYERN zeigt den aktuellen Stand der Forschung im Bereich der Künstlichen Intelligenz. Der Roboter Roboy der Technischen Universität München (TUM) wird dem Menschen immer ähnlicher. Künstliche...

Der DevBot.

Künstliche Intelligenz lenkt elektrisches Rennauto

Wie gut kann Künstliche Intelligenz ein Rennauto fahren? Forscher der Technischen Universität München haben sich dieser Herausforderung bei der Formula E in Berlin gestellt. Ihre selbst entwickelte Software steuerte das...

ein Teil des Fakultätsteams mit TUM-Präsident Herrmann und Abgeordneten des Landtags.

Das Technische ist politisch

Die Technische Universität München (TUM) hat eine politikwissenschaftliche Fakultät gegründet: Die TUM School of Governance wird die Politik in der technisierten Gesellschaft erforschen und lehren. Damit setzt die TUM einen...

Visio.M fährt ferngesteuert - Bild: Andreas Heddergott / TUM

Autonome Fahrzeuge auf dem Campus Garching

Ginge es nach dem „German Innovation Lab“ (GIL), könnte der Garchinger Campus der Technischen Universität München (TUM) in den nächsten Jahren eines der ersten öffentlichen Testfelder für autonom fahrende Autos in...

Intelligente Fahrzeuge im Stadtverkehr der Zukunft.

Intelligente Fahrzeuge im Stadtverkehr der Zukunft

Head-up-Display in der Windschutzscheibe, vernetzte Simulationswelten, das taktische Verhalten von Radfahrern und grüne Welle für Lkw: Diese und weitere Technologien präsentiert die Technische Universität München (TUM) bei...

Visio.M fährt ferngesteuert auf dem Vorplatz der Fakultät für Maschinenwesen. Foto: Andreas Heddergott / TUM

Der unsichtbare Fahrer

Wenn der bestellte Mietwagen scheinbar von selbst vor die Tür fährt, dann ist das Auto nicht unbedingt autonom unterwegs. Der Fahrer sitzt wahrscheinlich eher in der Mietwagenzentrale und lenkt den Wagen per Fernsteuerung....