ein Beitrag von Xaver Werhahn

Technischer Fortschritt im Bereich Computerleistung und Hardware steht kurz davor, eine Zeitenwende im Alltag der Gesellschaft einzuleiten. Es werden Möglichkeiten erdacht, Menschen von Notwendigkeiten zu befreien, den Komfort zu steigern und die Sicherheit zu verbessern. Dabei handelt es sich teilweise um mondäne Dinge, aber auch um gesellschaftlich brisante wie selbstfahrende Autos oder autonome Kriegsroboter. Die immer weiter fortschreitenden Entwicklungen von neuen und besseren Technologien besitzen das Potenzial das Leben einzelner Individuen aber auch Gesellschaften der Welt maßgeblich zu verändern. Dieses Potenzial kann, soll verwirklicht werden, aber über die Art und Weise besteht keine Einigkeit, da Lebensbereiche betroffen sind, die bisher notwendigerweise ausschließlich von Menschen geregelt wurden. Werden nur in diese Bereiche Roboter eingeführt, erhalten sie Kompetenzen, die die Maschine potenziell über Leben und Tod der Menschen entscheiden lassen, deren Leben sie verbessern sollen. Die Frage, wie diese Kompetenzen ausgestaltet werden könnten, soll in diesem Essay näher erörtert werden. Konkret geht es darum, wie der Umgang selbstfahrender Autos mit Dilemma-Situationen geregelt werden soll. Wenn die Entscheidungshoheit von Mensch auf Maschine übergehen soll, brauchen die Maschinen klare Verhaltensregeln, um das Wohl der Menschen auch in solchen Situationen zu gewährleisten. Mit der Aufstellung von dieser Art von Verhaltensregeln beschäftigen sich derzeit viele verschiedene Ethiker*innen. Drei Positionen haben sich dabei bisher durchgesetzt: 

1. Konsequentialistisch (Nutzen- bzw. Kostenhierarchie)
   1. Deontologisch (Pflichten / Verbote)
      1. Hybrid (Pflichten / Verbote, die bei Bedarf durch Kostenhierarchie ersetzt werden können)

Die Konsequentialistische Position schreibt Zuständen Kosten zu und versucht, allgemein gesprochen, die Kosten so gering wie möglich zu halten. Ob in Dilemma Situationen die Priorität auf dem Wohl der Fahrerin oder dem der übrigen Verkehrsteilnehmer*innen liegt, ist abhängig von der konkreten Ausgestaltung (J. Christian Gerdes, Sarah M. Thornton 2015: 91-92). Im Gegensatz dazu schlägt die deontologische Position vor, gewisse Regeln einzuführen, die immer gelten wie z.B.: „the vehicle should avoid collisions regardless of how abrupt the required steering might be“ (J. Christian Gerdes, Sarah M. Thornton 2015: 94). Die dritte Position ist eine Kombination aus den beiden Vorherigen. In Situationen in denen es keine andere Wahl gibt, als gegen eine der immer geltenden Regeln zu verstoßen bietet die Hybrid-Position die Möglichkeit, die Regel durch Kosten zu ersetzen (J. Christian Gerdes, Sarah M. Thornton 2015: 95). Das würde bei der oben genannten Regel zur Folge haben, dass eine Kollision nicht mehr unter allen Umständen vermieden wird, sondern dass der Kollision eine gewisse Menge an Kosten zugeteilt wird, die vermieden werden sollte. Das Problem, dem sich die verschiedenen Positionen stellen, ist, dass in Dilemma Situationen eine Entscheidung für das Wohl der Fahrerin oder für das Allgemeinwohl getroffen werden muss. Diese Entscheidung könnte in Zukunft von den selbstfahrenden Autos getroffen werden. Ich werde in diesem Aufsatz die These vertreten, dass der Entzug der Handlungsmöglichkeit für Menschen in Dilemma Situationen eine Verletzung der Menschenwürde darstellt. Das bedeutet, dass die Implementierung einer der drei genannten Positionen in selbstfahrende Autos weiterhin vorgenommen werden kann, aber dass es dabei für den Menschen immer die Möglichkeit geben muss, selber wieder die Kontrolle über das Fahrzeug an sich zu nehmen. Für die Erörterung meiner These werde ich mich hauptsächlich an dem Buch „Autonomes Fahren : technische, rechtliche und gesellschaftliche Aspekte“ und dem Bericht der Ethikkommission „Automatisiertes und vernetztes Fahren“ aus dem Jahr 2017 orientieren. Während das erste Werk sich der Thematik eher von einem theoretischen Standpunkt nähert, wird im Zweiten mehr Wert auf die rechtlichen Aspekte von selbstfahrenden Autos und den damit einhergehenden Konsequenzen (wie z.B. Datensammlung) gelegt. Im weiteren Vorgehen wird erst ein Blick auf die derzeitige Lage geworfen. Darauf folgt eine knappe Erläuterung der oben bereits erwähnten ethischen Positionen. Weiterhin werden mehrere Dilemma Situationen miteinander verglichen und Bezug auf das Urteil des Bundesverfassungsgerichts zum Luftsicherheitsgesetz genommen. So soll die These, dass der Entzug der Handlungsmöglichkeit für Menschen in Dilemma Situationen eine Verletzung der Menschenwürde darstellt, dann zum Ende der Argumentation eine, wie ich hoffe, zufriedenstellende Begründung erhalten. 

Die kurz bevorstehende Zeitenwende ist bereits erwähnt worden. Auf einmal gelangen Möglichkeiten in Reichweite, die bis vor kurzem noch für Science-Fiction galten. Die teilweise vorherrschende Euphorie über diese Entwicklung und den Fortschritt den sie verspricht, wird allerdings durch die Belange unserer Lebensrealität getrübt. Die Tatsache, dass manche Autos mittlerweile ohne menschliche Eingriffe von Punkt A zu Punkt B zu gelangen können, reicht noch lange nicht aus, um solche Autos in Massenproduktion an die Leute zu bringen. Das liegt daran, dass die Fahrzeuge sich nicht in Isolation, sondern in einer von Menschen bevölkerten Umgebung befinden. Damit Autos in so einer Umgebung nicht einen Unfall nach dem anderen auslösen, müssen sie z.B. mit den örtlich vorherrschenden Verkehrsregeln vertraut sein. Sie müssen in der Lage sein, Gefahr einzuschätzen und entsprechend zu reagieren. Für all das wird eine sehr große Menge an Daten benötigt, die live aufgenommen und verarbeitet werden müssen. Das bedeutet, dass die jeweils aktuelle Umgebung des Autos konstant aufgenommen und verarbeitet wird. Selbst das kann aber noch nicht ausreichend sein, um dem Auto genügend Daten zur Verfügung zu stellen, wenn ein Unfall direkt bevorsteht. Da würde ein vernetztes System aushelfen, wo alle verfügbaren Autodaten gesammelt und geteilt werden, um so auch in sekundenbruchteilen die möglichen Unfallfolgen vorherzusehen. Die Sammlung von Daten der Fahrer*innen ist bereits äußerst sensibel. Es ließen sich auf diese Weise präzise Bewegungsprofile erstellen. Wird dies noch kombiniert mit einer konstanten Aufnahme und Verarbeitung der Umgebung, rückt der Albtraum des totalitären Überwachungsstaats, der alles sieht und kontrolliert, gefährlich nah. „Ob in Zukunft eine dem Bahn- und Luftverkehr entsprechende vollständige Vernetzung und zentrale Steuerung sämtlicher Kraftfahrzeuge im Kontext einer digitalen Verkehrsinfrastruktur möglich und sinnvoll sein wird, lässt sich heute nicht abschätzen. Eine vollständige Vernetzung und zentrale Steuerung sämtlicher Fahrzeuge im Kontext einer digitalen Verkehrsinfrastruktur ist ethisch bedenklich, wenn und soweit sie Risiken einer totalen Überwachung der Verkehrsteilnehmer und der Manipulation der Fahrzeugsteuerung nicht sicher auszuschließen vermag“ (Ethikkommission Bericht Juni 2017).

Mit diesen und anderen Problemen der Implementierung solch neuer Technologien beschäftigt sich die Ethikkommission. Beim Thema Daten empfiehlt sie: „Erlaubte Geschäftsmodelle, die sich die durch automatisiertes und vernetztes Fahren entstehenden, für die Fahrzeugsteuerung erheblichen oder unerheblichen Daten zunutze machen, finden ihre Grenze in der Autonomie und Datenhoheit der Verkehrsteilnehmer“ (Ethikkommission Bericht Juni 2017). Sollten all die Probleme, die mit der Implementierung zusammenhängen, tatsächlich zufriedenstellend gelöst werden, ist allerdings der Umgang mit Dilemma Situationen weiterhin ein, wenn nicht sogar der, ausschlaggebender Faktor. Hier spricht die Ethikkommission dem Schutz des menschlichen Lebens zwar die höchste Priorität zu, aber gleichzeitig gibt sie zu, dass „Echte dilemmatische Entscheidungen […] nicht eindeutig normierbar und auch nicht ethisch zweifelsfrei programmierbar“ sind (Ethikkommission Bericht Juni 2017).

Als Beispiel für so ein Dilemma soll folgende Situation gelten: man selbst befindet sich in einem selbstfahrenden Auto und es gibt keine andere Möglichkeit als entweder eine Gruppe von Kindern zu überfahren oder den Kindern auszuweichen und dann selber mitsamt Auto von einer Klippe in den Tod zu stürzen. Es lassen sich aber auch Situationen erdenken, in denen nicht direkt das Leben anderer auf dem Spiel steht. Angenommen man selbst befindet sich in einem selbstfahrenden Auto, das sich entscheiden muss von einer Klippe zu fahren oder einen Tanklaster von der Straße zu drängen. Der Tanklaster würde nun das lokale Kraftwerk in Brand setzen und so für einen weitreichenden Stromausfall sorgen, der z.B. in Krankenhäusern etliche Tode zur Folge hätte. Das Problem das all diesen Dilemma Situationen gemein ist, ist der Konflikt zwischen dem individuellen Wohl der einzelnen Person und dem Allgemeinwohl der Gesellschaft. 

Die bereits kurz angerissenen ethischen Positionen würden hier zu unterschiedlichen Ergebnissen führen. Die konsequentialistische Position teilt allen Objekten der Umgebung Kosten zu. Je höher die Kosten eines Objekts, desto wichtiger ist dieses Objekt. Je nachdem, wie die Kostenfunktion gestaltet wird, erhält das Auto der fahrenden Person höhere Kosten als die Umgebung oder geringere. An diesen Kosten orientiert sich das Auto und folgt dem Pfad, der laut Berechnung die geringsten Kosten verursacht. Vermutlich würde die Programmierung des Fahrzeugs dem Wohl der Fahrerin höhere Kosten als der Umgebung zurechnen, so dass die Fahrerin im Zweifel überlebt. Die deontologische Position erhebt wiederum Regeln, die absoluten Geltungsanspruch haben, wie z.B. „es soll unter allen Umständen eine Kollision vermieden werden“. Diese Position würde dazu führen, dass das Auto mitsamt der Fahrerin von der Klippe fahren würde, ohne dass die Fahrerin die Möglichkeit hätte Einfluss auf diesen Prozess zu nehmen. Da dies zwar als gesellschaftlich wünschenswert gelten mag, aber möglicherweise nicht durchsetzungsfähig ist, hat sich noch eine dritte Position entwickelt, die die deontologische mit der konsequentialistischen Position zu kombinieren sucht. Diese dritte „Hybrid“-Position ist dafür gedacht, dass in Fällen, in denen die deontologische Verhaltensweise das Fahrzeug handlungsunfähig macht, wieder Handlungsspielraum erschlossen wird indem die Regel durch besonders hohe Kosten ersetzt wird. Die Regel kann das Fahrzeug nicht brechen, aber die Kosten kann es theoretisch in Kauf nehmen, wenn keine bessere Alternative erscheint (J. Christian Gerdes, Sarah M. Thornton 2015: 95). In allen Fällen liegt jedoch die letzte Entscheidung über das Leben der Fahrerin und der Kinder noch beim Auto bzw. in der Programmierung.

Man könnte meinen, dass die Gesetzgeber hier gar keine richtige Entscheidung finden könnten, allerdings wurde vor gut zehn Jahren ein Urteil vom Bundesverfassungsgericht getroffen, das auch in diesem Fall in gewisser Hinsicht richtungsweisend sein kann. Damals ging es um die Frage, ob Abschüsse von Verkehrsflugzeugen mit dem Gesetz vereinbar wären. Auch hier handelt es sich also um eine Abwägung zwischen dem Wohl der Einzelnen (Flugzeuginsassen) und dem Allgemeinwohl (direkte oder indirekte Todesopfer). Das Bundesverfassungsgericht beschloss, dass „die Abschussermächtigung gegen das Grundrecht auf Leben (Art. 2 Abs. 2 Satz 1 GG) und die Garantie der Menschenwürde (Art. 1 Abs. 1 GG) [verstoße]“ (Website Bundesverfassungsgericht). 

Dies unterstreicht erneut die aufgestellte These, dass der Entzug der Handlungsmöglichkeiten der Fahrer*innen eines Autos eine Verletzung der Menschenwürde darstellt. Zwar kommt es in den Dilemma Situationen, auf die im Zusammenhang mit selbstfahrenden Fahrzeugen Bezug genommen wurde, nicht zu einem Gewaltakt oder einem gezielten Angriff auf die Gesellschaft. Es kommt aber zu einer Objektivierung der Fahrer*innen von Personen zum Objekt gesellschaftlichen Handelns. Wert und Erhalt ihrer Leben wäre dann nicht mehr ein Zweck in sich, sondern würden in die „Hände“ des Autos gelegt, das sie als bloße Objekte einer Rechnung betrachtet. Auch die Ethikkommission kommt zu einer ähnlichen Einschätzung in Bezug auf die Entscheidungshoheit in Dilemma Situationen: „Letztendlich würde also im Extremfall der Programmierer oder die Maschine die „richtigen“ ethischen Entscheidungen über das Ableben des einzelnen Menschen treffen können. Konsequent weitergedacht, wäre der Mensch in existentiellen Lebenssituationen nicht mehr selbst-, sondern vielmehr fremdbestimmt. Diese Konsequenz ist in vielerlei Hinsicht problematisch. Einerseits besteht hier die Gefahr eines starken Paternalismus des Staates, bei dem eine „richtige“ ethische Handlungsweise vorgegeben wird (sofern dieser die Programmierung vorgibt), andererseits würde dies dem Wertebild des Humanismus, in dem das Individuum im Zentrum der Betrachtungsweise steht, widersprechen. Eine solche Entwicklung ist daher kritisch zu betrachten“ (Bericht 2017). Ich sehe damit die unbedingte Notwendigkeit die Entscheidungshoheit in jedem Fall beim Menschen zu lassen als hinreichend begründet an. Egal wie düster die Konsequenzen für eine Gesellschaft auch sein mögen, niemand ist verpflichtet ihr oder sein eigenes Leben dafür zu opfern. Dieses Opfer in Form von Programmierung zu erzwingen entspricht einer tiefen Verletzung der Menschenwürde und ist unter allen Umständen zu verhindern. Das bedeutet aber nicht, dass deswegen keine selbstfahrenden Autos in die Gesellschaft eingeführt werden dürften. Nur soll, dem Grundgedanken einer Demokratie entsprechend, jede*r ihre oder seine eigenen Belange selber regeln können.

Wäre ich in der Situation den Gesetzgebern eine Handlungsempfehlung bezüglich Selbstfahrender Fahrzeuge in Dilemma Situationen zu geben, so würde ich auf der Möglichkeit bestehen, selber die Kontrolle über das Fahrzeug übernehmen zu können. Es handelt sich um eine technologische Möglichkeit, die auf eine nicht ausreichend vorbereitete Lebenswelt trifft. Eine Implementierung dieser technischen Möglichkeiten wird aber vermutlich trotzdem erfolgen. Das darf aber nicht dazu führen, dass der einzelne Mensch im Konfliktfall dem Allgemeinwohl untergeordnet wird. Auch die Ethikkommission sowie das Bundesverfassungsgericht kommen zu diesem Schluss. Die erwähnten ethischen Positionen bilden eine gute Grundlage für die Implementierung von Richtlinien in selbstfahrende Fahrzeuge, aber nur solange der Mensch in jedem Fall die Entscheidungshoheit behält.

Literaturverzeichnis:

• Bericht Ethikkommission Juni 2017: „Automatisiertes und vernetztes Fahren“
• J. Christian Gerdes, Sarah M. Thornton 2015: „Autonomes Fahren : technische, rechtliche und gesellschaftliche Aspekte“

Zum Referenten:

Xaver Werhahn, geboren 1989 in Bremen, studiert Philosophie, Politikwissenschaft und Geschichte an der Universität Regensburg.  Individualität, Autonomie und fortschreitende Algorithmisierung der Lebenswelten stehen im Fokus seiner Forschung.

ein Essay von Xaver Werhahn

Roboter üben schon lange eine große Faszination auf die Menschen aus. Seit geraumer Zeit machen sich Menschen Gedanken über die Chancen und Risiken, die einher gehen mit der Thematik der Roboter. Ob in düster gemalten Dystopien der Zukunft, Universitäten, großen Wirtschaftsunternehmen oder direkt im eigenen Heim: überall halten Roboter Einzug in die Lebenswelt der Menschen und beeinflussen diese maßgeblich. Der Reichweite der Einsatzbereiche von Robotern scheint keine Grenze gesetzt zu sein. Es scheint als wenn sie viele Aufgaben, die von Menschen verrichtet werden, besser erledigen könnten. Wenn wir davon ausgehen müssen, dass sich in den nächsten Jahrzehnten Roboter immer weiterverbreiten werden, erscheinen die dystopischen Zukunftsversionen in denen Menschen von Maschinen als Sklaven gehalten oder nahezu ausgerottet werden auf einmal sehr viel drängender. Aber was ist wirklich dran an diesen Vorstellungen? Sind Roboter kurz davor sich die Menschheit untertan zu machen? Im Moment beschränken sich solche Szenarien noch auf Science-Fiction und das wird vermutlich auch noch für gewisse Zeit so bleiben. Dennoch werden Roboter immer raffinierter und vielseitiger einsetzbar. Wenn die U-Bahn in London oder Tokio fährt, sitzt kein Mensch mehr am Steuer. Das gleiche geschieht, wenn im Flugzeug der Autopilot eingeschaltet wird. Bald werden vermutlich sogar unsere Autos nicht mehr von uns gesteuert werden müssen, sondern sie fahren von alleine.

Nun drängt sich die Frage nach der Kontrolle bzw. der Verantwortlichkeit auf. Denn was passiert, wenn sich ein selbstfahrendes Auto entscheiden müsste zwischen dem Tod seiner Insassen und dem Tod von Unbeteiligten? Befürworter der Eigenständigkeit von Robotern halten ihre Wahrnehmungsfähigkeit und die Fähigkeit mit ihrer Umwelt in Interaktion zu treten für ausreichend, um Roboter in der Kategorie der intelligenten Wesen einzuordnen (Keil 1998: 108-109). Das hätte zur Folge, dass Roboter durchaus zur Verantwortung gezogen werden könnten für ihre Taten. Gegner dieser Position bestreiten, dass ein Roboter freie Entscheidungen treffen kann. Dafür wäre Willensfreiheit nötig, aber alle „Faktoren, die es […] unmöglich machen, begründet seinen Willen zu bilden, tangieren die Willensfreiheit“ _und davon gäbe es beim Roboter genug (Keil 2013: 5). Auch diese Position wird in Frage gestellt, da manche behaupten, dass die Willensfreiheit nicht der ausschlaggebende Faktor sei. Es gehe vielmehr darum, wie autonom und ethisch sensibel ein Roboter ist. Bei voller Ausprägung dieser beiden Eigenschaften, werden Roboter als „trustworthy moral agents“ _bezeichnet (Colin Allen, Wendell Wallach 2010: 26). Die Frage ist also, ob Roboter in der Lage sind moralisch zu handeln oder nicht. Ich werde die Position vertreten, dass Roboter nicht moralisch handeln können, da sie nichts weiter als besonders vielseitige Maschinen sind und insofern gar keine Handlung vorliegt. Um dies darzulegen versuche ich über die Begriffe von Verantwortung und Absicht zu zeigen, dass die Selbstständigkeit und die Möglichkeit aus einer Reihe von Alternativen zu wählen uns an die Illusion eines autonomen Akteurs glauben lassen, der eigenständige Entscheidungen fällen kann. Das ist allerdings ein Trugschluss, denn Roboter treffen keine Entscheidungen, sondern führen lediglich die Entscheidungen aus, die Menschen bei ihrer Konstruktion getroffen haben. 

Roboter entscheiden sich nicht dafür Autos zusammen zu setzen, sondern sie werden von Menschen so konstruiert und programmiert, dass sie genau das tun. Anhänger Frankfurts könnten hier einwenden, dass, nur weil sie keine Alternative haben, sie nicht trotzdem genau das tun wollen. Genau da liegt der Knackpunkt, denn Roboter wollen nicht. Genauso wenig wie der Toaster toasten, der Mixer mixen und der Taschenrechner rechnen will, will ein Roboter Autos zusammensetzen. Beim Toaster, Mixer und Taschenrechner würden die meisten mir vermutlich zustimmen. Beim Roboter würden mir aber vermutlich auch einige widersprechen. Woran liegt das? Wo liegt der Unterschied zwischen Roboter und Toaster? Weder der Toaster noch der Roboter können sich fortpflanzen. Weder der 2 Toaster noch der Roboter können eine andere Aufgabe erfüllen als die für die sie gebaut wurden. Weder Toaster noch Roboter können sich entscheiden welche Aufgabe sie erfüllen und welche nicht. 

Wir schreiben dem Toaster keine böse Absicht zu, wenn das Toast verbrennt, weil der Mensch für die Hitzeeinstellung selber verantwortlich ist. Schreiben wir dem Roboter böse Absicht zu, wenn er wie vorgesehen funktioniert und dabei jemand zu Schaden kommt? Dem Saubermach-Roboter schreiben wir wohl keine böse Absicht zu, wenn er uns beim Gehen aus dem Gleichgewicht bringt, weil er genau in dem Moment seine Putzroutine durchführt. Was wäre, wenn der Saubermach-Roboter nun Sensoren und Programmierung besitzt, die ihn solche Situationen erkennen und vermeiden lassen? Was wäre, wenn der Saubermach-Roboter trotzdem dem Menschen in die Quere kommt und ihn zu Fall bringt? Nun scheint der Fall anders zu sein als zuvor. Der Roboter hat die Vorgabe dem Menschen nicht in die Quere zu kommen und dennoch passierte genau das. Ist die Ursache dafür die Entscheidung des Roboters, seine Vorgaben zu missachten, oder liegt einfach ein Fehler im System der Maschine vor? Auch hier würden mir vermutlich die meisten zustimmen, wenn ich sage, dass ein Fehler im System die wahrscheinlichere von den zwei genannten Optionen ist. 

Aber was ist, wenn dem Roboter vorgegeben wird, niemals seiner Umgebung zu schaden? Eines Tages kommt es zufällig zu einer Situation in der sich so viele Personen in direkter Nähe des Saubermach-Roboters aufhalten, die ihn nicht beachten und gleichzeitig alle dem Roboter in den Weg treten, dass dem Roboter nichts übrigbleibt als einer Person zu schaden. Diese Person landet mit einem gebrochenen Bein im Krankenhaus und verlangt nun eine Entschädigung. Ich bin mir sicher, dass auch in diesem Fall keine vernünftige Person auf die Idee kommen würde, ernsthaft den Roboter für die Geschehnisse verantwortlich zu machen. Denn es handelt sich um eine simple Ursache-Wirkung Beziehung. Die Ursache, dass der Roboter auf dem Boden in Bewegung war, hat bewirkt, dass ein Mensch zu Schaden kam. 

Wären Ursache und Wirkung die ausschlaggebenden Kriterien für eine Handlung hätten wir allerdings ein Problem. Denn dann wären auf einmal das Umkreisen der Sonne oder das Fallen von Tropfen allesamt Handlungen. Das ist per se noch nicht unlogisch, würde aber die Begriffe Handlung und Verantwortung entwerten bzw. ad absurdum führen, da nun alles was passiert eine Handlung wäre. Nicht mehr die Person, die unachtsam eine glimmende Zigarette auf den Boden wirft wäre für das entstehende Feuer verantwortlich, sondern die Zigarette selber oder aber die allererste Ursache, die es gab. Würde ich nun fragen, wer oder was gehandelt hat, würde ich schlussendlich bis zum Urknall kommen und ab dann warten müssen, dass im Bereich der Physik deutliche Fortschritte gemacht werden. 

Eine Handlung scheint also nicht durch Ursache und Wirkung definiert zu sein, sondern durch die Absicht. Die Erde hat keine Absicht, wenn sie sich um die Sonne dreht. Der Wassertropfen hat keine Absicht, wenn er zu Boden fällt. Der Toaster hat keine Absicht, wenn er Weißbrot kross macht. Warum schreiben wir dann dem Roboter eine Absicht zu? Ich denke es liegt daran, dass der Eindruck entsteht, Roboter würden Entscheidungen treffen. Allerdings trifft nicht der Roboter die Entscheidungen, sondern die Menschen, die ihn konstruiert haben trafen die Entscheidungen im Voraus. Würde allein die Möglichkeit zwischen verschiedenen Alternativen zu wählen, ohne dass jemand während des „Wahlmoments“ _Einfluss auf diesen Prozess nimmt, schon eine hinreichende Bedingung für autonomes Handeln sein – _und damit aus einer Maschine einen Akteur machen – _könnte ich jederzeit einen „Killerroboter“ auf die Menschen loslassen und wäre nicht verantwortlich. 

Die vom Menschen scheinbar unabhängige Funktionstüchtigkeit sowie die Möglichkeit aus verschiedenen Alternativen zu wählen suggerieren die Existenz eines autonomen Akteurs, der selber Entscheidungen treffen kann, wie es ihm beliebt. Das führt dazu, dass dem Roboter auf einmal Absicht und (moralische) Handlungsfähigkeit zugerechnet wird, obwohl nichts anderes passiert als bei einem 3 

Thermostat, das auf die Umgebungstemperatur reagiert. Ich denke die Wenigsten würden einem Thermostat, das die Temperatur ihrem Sollwert angleicht, irgendeine Absicht unterstellen. Zumindest halte ich es für sehr unwahrscheinlich, dass ein vernunftbegabter Mensch das Thermostat dafür zur Verantwortung ziehen würde, seinem Zweck zu entsprechen. 

Roboter sind weiterhin Maschinen, die ihrer Konstruktion entsprechend funktionieren und keine Absichten irgendeiner Art besitzen. Damit sind Roboter nicht in der Lage irgendwelche Handlungen geschweige denn moralische Handlungen auszuführen. 

Die Thematik von Robotern ist mittlerweile in so vielen Bereichen der Lebenswelt angekommen, dass selbst der Laie davon gehört bzw. selber Zugang dazu hat. Roboter nehmen schon heute maßgeblichen Einfluss auf das Leben vieler Menschen. Teilweise hat das eine positive Konnotation, wenn man darüber nachdenkt, dass Menschen nun weniger schwere Arbeiten verrichten müssen. Teilweise hat es aber auch eine deutlich negative Konnotation, weil viele Menschen ihre Arbeit verlieren und möglicherweise sogar ruiniert werden. Dieser Prozess wird sich vermutlich trotzdem weiter fortsetzen, da die Möglichkeiten und Annehmlichkeiten, die den Menschen dadurch entstehen zu verlockend sind. Deswegen sollte in diesem Essay der Frage nachgegangen werden, ob Roboter moralisch handeln können. Denn wenn die Menschen immer mehr und immer wichtigere Bereiche ihres Lebens in die Hände von Robotern geben, scheint es wünschenswert, dass die Roboter auch achtsam damit umgehen.

Ich habe auf den letzten Seiten die Meinung vertreten, dass wir Roboter nicht verantwortlich machen können, da sie keine autonomen Akteure, sondern Maschinen sind. Begründet habe ich diese Position damit, dass Menschen fälschlicherweise Roboter personifizieren, weil sie scheinbar frei Entscheidungen treffen. Die scheinbare Möglichkeit Entscheidungen zu treffen in Kombination mit der scheinbaren Selbstständigkeit verleiten zu dem Fehlschluss, dass Roboter autonome Akteure mit Handlungsfähigkeit wären. Handlungen sind aber mehr als eine Beziehung zwischen Ursache und Wirkung sondern erfordern Absicht. Allein die Auswahlmöglichkeit aus verschiedenen Alternativen macht keine absichtliche Entscheidung aus, sondern stellt lediglich den Einsatzbereich dar, den die Konstrukteure der Maschine einräumen. Deswegen sind Roboter nicht in der Lage moralisch zu handeln, da sie keine handlungsfähigen Akteure sind. 

Literaturverzeichnis: 

-Geert Keil „Was Roboter nicht können“ in: Der Mensch in der Perspektive der Kognitionswissenschaften, Kognitionswissenschaften, Frankfurt am Main 1998. 

– Geert Keil: „Willensfreiheit“, Berlin 2013. 

– Wendell Wallach, Colin Allen: „Moral Machines“, Oxford 2010. 

Zum Referenten:

Xaver Werhahn, geboren 1989 in Bremen, studiert Philosophie, Politikwissenschaft und Geschichte an der Universität Regensburg.  Individualität, Autonomie und fortschreitende Algorithmisierung der Lebenswelten stehen im Fokus seiner Forschung.

von Dr. Margarete von Trifft

Was macht ein Erlebnis in einer künstlich erstellten Umgebung zu dem was es ist? Wir sprechen viel vom Erleben. Erlebnisreisen, Erlebnispfade, Erlebnisarchitektur, Erlebnisküche, Erlebnisbad, Erlebnisgeschenk, Erlebnispädagogik… Es scheint, als sei das Erleben eine seltene Beschaffenheit geworden. Es wird in artifiziellen Umgebungen reproduziert, in der Hoffnung, Erleben zu thematisieren.

Sicherlich ist es teils der Virtualität der heutigen Lebensweise geschuldet. Auch wenn der Mensch sich im Alltagsleben durch Wirklichkeiten bewegt, so darf gefragt werden, ob die Aufmerksamkeit diesem oder einem anderen Umfeld gewidmet wird. Diese Wirklichkeit wird durch eine parallele Informationsquelle begleitet. Mobile Medien lassen einen zweiten tragbaren Realitätsraum zu. Er wird nah am Körper getragen und nicht aus den Augen gelassen. Bei Ruhe und scheinbarer Impulslosigkeit, bietet diese Wirklichkeit Reize. In vielen Fällen beschäftigt sich der Mensch dann mit Lesen, Bilder schauen, liken, spielen, Film schauen, Schnappschüsse irgendwo hoch laden, etwas kommentieren, kurz mit Ablenkung von dem Hier und Jetzt. Der Fokus ist in eine Parallelrealität gerichtet und verhindert das Zusammenkommen mit Zufälligkeiten. Eine Abschottung für das Unerwartete.

Ist das der Grund für die fortscheitende Erlebniskultur? Und wenn Erlebnis, dann von was? Erlebnisse, die alltäglich sind, wie Einkaufen, Aufstehen, Spazieren gehen, Gewitter erleben oder Geschenke öffnen? Oder sind Erlebnisse gemeint, die selten hautnah gemacht werden wie Autounfall, Aufenthalt im Gefängnis, Leben in einem Kriegsgebiet, Leben als Homosexueller, Verfolgung, Hunger, Isolation….? Oder ein Beleben von Vergangenem? Wie war es mit Dinosauriern, wie als Jane Austen oder Schafhirt im 15. Jahrhundert? Kann ein schwieriger Sachverhalt in künstlichen und inszenierten Umgebungen zu einem Erlebnis werden?

In der Studioproduktion Event Media an der Hochschule der Medien in Stuttgart wurde das Thema Zwangsstörungen und daraus resultierende Folgekrankheiten behandelt. Es sind unsichtbare Behinderungen, ohne Gips, Krücken, Pflaster, Nähte, Operationen und an der Oberfläche sichtbaren Indizien. Da wird nicht gehustet, es gibt keine Ausschläge oder laufende Nasen. Leidende unterscheiden sich äußerlich nicht von den Gesunden. Dennoch: Leidende mit unsichtbaren Krankheiten werden durch Gedanken, Handlungen und Zwängen abgelenkt und irritiert. Stressmomente arten zu chronischen Krankheiten wie z.B. Migräne, Gürtelrose, Schüttelfrost usw. aus.

Die Studioproduktion Event Media beschränkt sich auf zwei Präzedenzen. Zwangshandlung und Migräne. Zwangshandlungen wie das Abzählen von Autos am Morgen, Hände waschen, Kleidung im Schrank in DinA4 auszulegen, Elemente im rechten Winkel ordnen, Reihenfolgen einhalten ohne Grund, Abläufe schematisieren. Das allein mag nicht hinderlich im Alltag sein, aber wenn der Zwang Ängste, Unsicherheiten und Verwirrung auslöst, dann gewinnt er die Oberhand, drängt Normalität zurück. Dinge werden immer wieder auf ihre Richtigkeit kontrolliert, nachrücken, nach justieren, es lässt den Leidenden nicht los, verhindert ein Fortschreiten. Das Selbstverständliche wird zum Ausnahmezustand. Es führt zu Druck, Stress, Empfinden des Gejagtseins und zu Folgeerkrankungen wie z.B. Migräne.

Migräne will niemand erleben. Der Kopf scheint zu platzen. Die Augen werden durch helle weiße Blitze vom Sehen abgehalten, die Balance funktioniert nicht, plötzlich steht ein Türrahmen im Weg und es reicht nicht um auszuweichen, Tassen fallen aus der Hand, manchmal kommt es zu kurzen Erblindungserscheinungen. Das Hörvermögen wird über beansprucht, alles dröhnt in zehnfacher Lautstärke. Die Ohren, die Augen, selbst das Kauen oder gar Atmen bedeutet erhebliche Schmerzen. Keine Bewegung, keine Impulse, nichts funktioniert, Stillstand, ein kleiner Tod. Es helfen Triptane, Tabletten, oder / und eine isolierte dunkle Zelle weit ab vom Leben.

Wie kann eine solche Krankheit in einem Erlebnisraum vermittelt werden? Wie kann der unbedarfte Zuschauer sich einer solchen Situation nähern?

In der Produktion „insights – Monster im Kopf“ wird ein Versuch unternommen, die sakrale Einheit des Menschen beim Auseinanderbrechen, nachvollziehbar zu machen. Ein verwirrendes  Raumgefüge ist die Grundlage dieser Installation. Dabei beginnt alles so einfach und überschaubar, ja harmlos. Ein geordneter Raum wird betreten. Viel gibt es nicht zu begreifen, ein Schlüsselboard, ein Tassen-, ein Schubladenschrank. An der Seite Kleidung- und Schuhsäcke, sehr aufgeräumt, sauber, geordnet. Eine Stimme kommt von irgendwo her, es ist die Stimme des Inneren, eine Stimme als introspektives Selbstgespräch. Oder gilt die Stimme auch dem Besucher? Muss gehört und verstanden werden was gesagt wird? Wer wird gemeint? Wer wird angesprochen? Vielleicht ist sie ein wenig zu schrill, denn so weit sind die Besucher im Eintauchen noch nicht voran gekommen. Wäre eine leisere Stimme mit Nachdruck als Beginn wirkungsvoller?

„Ist der Schlüssel in der richtigen Reihenfolge?“ Kennen wir die Reihenfolge? Ist sie wichtig, warum sollte etwas in dieser Art von Belang sein? Der Besucher wird von der inneren Stimme angeleitet, sich einer fremden Perfektion,  einer unbedingten Notwendigkeit, einer nicht erkennbaren Ordnung anzugleichen. Das fällt schwer, denn die verlangte Ordnung ist unverständlich. Hier läuft etwas schief. Je uneinsichtiger die Umgebung wird, desto mehr begreift der Rezipient, dass eine Unterordnung notwendig ist. Wer die Stimme nicht als seine eigene begreift, bleibt stecken, kommt nicht weiter.  Dann gelingt der Schritt zur nächsten Station nicht.

Ein Regal. Dort gilt es erst eine, dann drei Tassen in die exakte Reihenfolge, Positionierung zu setzen. Nicht hochnehmen, nicht wegstellen, nur drehen. Jetzt ist die Stimme zur eigenen geworden. Sie weist keine Befremdlichkeit auf. Ein Verschmelzen findet statt.

„Öffne die nächste Station“. Ein Schubladenschrank. Alle drei Laden werden hintereinander geöffnet und geschlossen. Die Dinge sind wunderbar geordnet an ihrem vorgesehen Platz. Ausgerichtet zur vertikalen Schubladenseite und im rechten Winkel zu anderen Objekten.

Es gibt nur diese eine Ordnung. Wenn Etwas durcheinander kommt, dann geht nichts mehr. Der Besucher will der inneren Stimme entfliehen, handelt wie aufgetragen.  Erst dann verlässt er das Zimmer, oder die Wohnung. Es wird hell, er tritt heraus auf Straße. Eine normale Szene. Die Wohnstraße mit parkenden Autos, vereinzelten Bäumen und einem vorbei fahrenden Transporter. Aber nichts ist normal. Blitze ziehen durch das Bild. Bildebenen verzerren sich, werden kurzfristig unsichtbar. So hell das Licht, es schmerzt, es ist gleißend. Sieht so Migräne aus? Dies ist kein Ort zum Verweilen, der Besucher sucht einen Ausgang, durchschreitet eine Tür und befindet sich im Raum der Ordnung (so bezeichnet von der Autorin). Gerade noch befreit und schon wieder gefangen.

Die Perspektive hat sich geändert. Alles geht von vorne los. Die Störung, die innere Stimme zwingt die Gäste, die Handlung zu wiederholen, zu kontrollieren, ob beim ersten Durchgang alles richtig war. Alles zu öffnen und zu schließen. Es wird dringlicher, sogar drohend und verzweifelt. Der Schlüssel als Metapher, ist er da, findet er den ihm angestammten Platz, hat er eine Funktion, kann er etwas öffnen? Der Tassenschrank? Die Schubladen, das Schubladendenken. 

Erneut befreit sich der Besucher, und wird auf die Straße gespült. Dort werden die Blitze, die Auslassungen, die Veränderungen im Sichtfeld intensiver und gefährlicher. Eine fremde Innerlichkeit taucht aus den Tiefen hervor, wird an die Oberfläche geschwemmt. Und diese Oberfläche ist fremd. Abweichungen und Unsicherheiten verändern das Bild. Der Besucher betritt ein verwirrendes Spiel von fast gleichen Räumen und Situationen, verliert sich in Details. Auf subtile Art wird der Rezipient in die Welt eines zwangsgestörten Geistes beordert. Unsichtbare Krankheiten finden einen erlebbaren Raum. Die Monster im Kopf schreien an der Oberfläche nach Aufmerksamkeit, überschatten alles andere. Eine gelungene Installation: „insights – Monster im Kopf“.

Und wer die Fotografien betrachtet hier im blog, begreift während des Lesens, dass diese Abbildungen das Erlebnis nicht wiedergeben. Bei dieser Installation geht es darum, die Dinge zu fühlen, eigenständig zu handeln, dabei zu sein. Anwesende werden angeleitet, wie betroffene Kranke zu verfahren. 

Ein hoher Grad an Interaktivität bestimmt das Entschlüsseln. Objekte werden berührt, gezogen, gedreht, geschoben, geöffnet und verschlossen. Die innere Stimme ist gleichermaßen Erzählung wie auch Feedback. Die Beleuchtung setzt das Stimmungsbild, Führungslichter helfen beim Verstehen und dienen als Wegeleitsystem. Effektlichter, Farben, Sprache, Geräuschteppiche verdichten. Gäste werden zu Durchreisenden eines unbekannten Phänomens. Sie tauchen in eine andere Wirklichkeit ein und schließen den Besuch unversehrt ab. 

Die Gäste bewegen sich schrittweise aus ihrer Welt in eine andere, ein Gefühl und Erleben wird nicht aufgezwängt, sondern angeboten. Dieser Offerte geben die Anwesenden gerne nach. Und ganz zum Schluss werden die Eingeladenen in den Regieraum geleitet. Hier wird der Grad der Vernetzung und Verschaltung präsentiert. Die technischen Medien stellen sich als differenziertes Spiel von Monitoren, Schaltern, Kabeln, Impulsen und Controllern dar. Ein eigenes Gehirn, so scheint es, ist dieser Bereich und der Gast begreift die artifiziell hergestellte Erlebnisumgebung, hier ist die Kontrollzentrale. 

Leider wird der Semesterabschluss auf der MediaNight an nur einem Tag der Öffentlichkeit präsentiert. Danach werden die Türen geschlossen und der Rückbau beginnt. So auch bei dieser Produktion, die vielleicht eindrücklichste und aufwändigste von allen. Denn die Medien in ihrer interaktiven Vernetzung im begehbaren architektonischen Raum verlassen die Leinwand. Der Betrachter schreitet durch diese Inszenierung und bestimmt sein Erlebnistempo. Manche verweilen länger, andere wiederum nicht. Diese von den Studierenden angebotene Narration will verstanden werden. Das Thema betrifft jeden, es ist allgegenwärtig, aber tabuisiert. Abweichungen des Normalen in der Psyche zu beschreiben und zu beleben, bedeutet mit Wissen und Sensibilität vorzugehen. Die Besucher wollen nicht bedrängt, erschreckt oder verstört werden, sie wollen verstehen und dafür braucht es den Wunsch und die Offenheit anwesend zu sein. Wer als Gestalter brachial vorgeht, wird das Gegenteil erzeugen. Hier jedoch funktioniert alles. Eine wahrhaft gelungene Komposition und Inszenierung.

Eine Rezension hilft das Erlebnis nahe zu bringen, aber die tatsächliche Inszenierung wird in Worten nicht erreicht. Vielleicht unterstützt die Verschriftlichung eines Ereignisses das Niveau der Arbeiten zu beschreiben und ein Kommen zur nächsten Medianight zu unterstützen. Lohnenswert wurde der Aufenthalt an dieser Veranstaltung empfunden und überstrahlt mit ihrer Qualität die ein oder andere künstlerische Aktivität, die in Galerien, Pop Up Stores oder Zwischennutzungen gezeigt werden.

Margarete von Trifft

Zur Autorin:

Dr. Margarete von Trifft studierte Soziologie und Kunstgeschichte, später freie Kunst. Sie promovierte in den Bildwissenschaften. Es ging um die Virtualität der bildlichen Ausdrucksformen, des flüchtigen Bildes. Dr. Margarete von Trifft lebt sowohl in Baltimore, als auch in Berlin. Professor Ursula Drees lud sie ein, auf der MediaNight der Hochschule der Medien den Erlebnisraum „insights-Monster im Kopf“ der Studioproduktion EventMedia für den MediaArtBlog plusinsight zu beschreiben und zu kommentieren.