Janina Loh’s research while affiliated with Institute of Science and Technology Austria and other places

Trans- und Posthumanismus sind zwei heterogene Strömungen, die Diskurse aus der Philosophie, den Sozial- und Kulturwissenschaften, den Neurowissenschaften, der Informatik, der Robotik und KI-Forschung vereinen. Technik im Allgemeinen und Maschinen im Besonderen spielen in ihnen eine bedeutende Rolle: Ordnen Transhumanist*innen Maschinen vorrangig als Werkzeuge und technologische Assistenten der Transformation des Menschen unter, glorifiziert der technologische Posthumanismus die Technik in Form einer artifiziellen Superintelligenz. Im kritischen Posthumanismus hingegen werden Maschinen neutral als artifizielles Gegenüber betrachtet.

Die Roboterethik ist eine Teilbereichsethik der Maschinenethik, in der man zwei Forschungsbereiche unterscheidet. Im einen wird diskutiert, inwiefern Roboter als moral patients zu verstehen sind, also passiv als Träger moralischer Rechte, bzw. inwiefern ihnen ein moralischer Wert zukommt. Im anderen Feld geht es um die Frage, inwiefern Roboter moral agents, also aktiv Träger moralischer Pflichten bzw. moralische Handlungssubjekte, sein können. Die beiden Arbeitsbereiche sind nicht exklusiv, sondern ergänzen einander.

Die Roboterethik stellt innerhalb des sogenannten westlichen Kulturraums eine verhältnismäßig junge Bereichsethik dar, eine Teilbereichsethik der Maschinenethik, um ganz genau zu sein (Allen 2006; Anderson/Anderson 2011; Bendel 2019; Edgar 2003; Misselhorn 2018; Moor 2006; Rath/Krotz/Karmasin 2019). Denn alle Roboter sind Maschinen, aber nicht umgekehrt alle Maschinen auch Roboter. Diese Einordnung der Roboterethik als (Teil-)Bereichsethik ruht auf einem Verständnis von Ethik als einer zunächst für Menschen spezifischen Kategorie des Handelns.

Der rasante Fortschritt in Robotik und KI-Forschung stellt uns vor die Aufgabe einer Transformation traditionell nur dem Menschen vorbehaltener Kompetenzen – Vernunft, Autonomie, Urteilskraft, um nur einige zu nennen – auf artifizielle Systeme. Der Beitrag widmet sich dazu zunächst dem Phänomen der Verantwortung. Dann wird die philosophische Disziplin der Roboterethik erläutert und abschließend wird die Rolle der Verantwortung in den beiden Arbeitsfeldern der Roboterethik – Roboter als moral agents und Roboter als moral patients – am Beispiel autonomer Fahrassistenzsysteme diskutiert. Artifizielle Systeme sind bislang und in absehbarer Zukunft nicht als Verantwortungsakteure zu identifizieren, insofern die zur Verantwortungszuschreibung nötigen Kompetenzen (Kommunikations- und Handlungsfähigkeit, sowie Urteilskraft) nur in einem schwach funktionalen oder gar nur in einem operationalen Sinne äquivalent simuliert werden können.

Since the beginning of the so-called second wave feminism (in the middle of the 20th century), there has been a growing awareness of the urgency of a critical reflection on technics and science within feminist discourse. However, feminist thinkers have not consistently interpreted technics and science as emancipative and liberating for people who identify as women. At the same time, many early feminists criticized the structures of dominance, marginalization, and oppression inherent in numerous technologies as well as the technoscientific social structures. This is because technological development is mostly embedded in social, political, and economic systems that are patriarchally hierarchized.

Rapid progress in robotics and AI potentially pose huge challenges regarding several roles that used to be traditionally reserved for human agents: Human core competences such as autonomy, agency, and responsibility might one day apply to artificial systems as well. I will give an overview on the philosophical discipline of robot ethics via the phenomenon of responsibility as a crucial human competence. In a first step I will ask for the traditional understanding of the term “responsibility and formulate a minimal definition that exclusively includes the necessary etymological elements as the ‘lowest common denominator’ of the responsibility concept: Responsibility as the ability to answer is a normative concept that rests on the assumption that the responsible subject in question is equipped with a specific psycho-motivational constitution. In a second step I will outline my understanding of the discipline of robot ethics, in order to ask in a third step how to ascribe responsibility in man-machine-interaction. For these purposes I will elaborate on my concept of responsibility networks.

Trans- und Posthumanismus sind zwei heterogene Strömungen, die Diskurse aus der Philosophie, den Sozial- und Kulturwissenschaften, den Neurowissenschaften, der Informatik, der Robotik und KI-Forschung vereinen. Technik im Allgemeinen und Maschinen im Besonderen spielen in ihnen eine bedeutende Rolle: Ordnen Transhumanist*innen Maschinen vorrangig als Werkzeuge und technologische Assistenten der Transformation des Menschen unter, glorifiziert der technologische Posthumanismus die Technik in Form einer artifiziellen Superintelligenz. Im kritischen Posthumanismus hingegen werden Maschinen neutral als artifizielles Gegenüber betrachtet.

Dass die Verantwortung ein relationales Konzept darstellt, ist bekannt und kann mittlerweile sicherlich zum etablierten Kern des Verantwortungsdiskurses und der Verantwortungsforschung gerechnet werden. Doch um welche Relata es sich dabei konkret handelt und in welcher Weise sie strukturell miteinander verknüpft sind, hängt von der jeweils zugrunde liegenden Definition des Verantwortungsbegriffs ab. Diese jedoch wird nicht immer, wenn von Verantwortung die Rede ist, explizit genannt, sondern liegt dem Gesagten zumeist nur implizit zugrunde. Daher variieren die Relationselemente der Verantwortung in Anzahl, Art und Status zum Teil beträchtlich. Im Folgenden nehme ich die innerhalb des Verantwortungsdiskurses bekanntesten Anwärter_innen auf Relata in den Blick und untersuche ihre strukturellen Verknüpfungen innerhalb des Verantwortungskonzepts.