Ein feministischer Blick auf künstliche Intelligenz

FZG – Freiburger Zeitschrift für GeschlechterStudien 1-2021: Siri, warum kannst Du nicht wütend werden? Strategien der Spekulation als Instrument feministischer Praxis

Siri, warum kannst Du nicht wütend werden? Strategien der Spekulation als Instrument feministischer Praxis

Natalie Sontopski

FZG – Freiburger Zeitschrift für GeschlechterStudien, Heft 2021, S. 79-94

 

Zusammenfassung: Die Diskussion rund um digitale Technologien, insbesondere die um künstliche Intelligenz, ist von Spekulation geprägt, da noch niemand sagen kann, wie nachhaltig sie unsere Gesell­schaft transformieren werden. Was jedoch fehlt ist ein feministischer Blickwinkel auf die Strategien der Spekulation. Das in diesem Artikel umrissene Forschungsprogramm möchte anhand der empirischen Installation MiauMiau eine spekulativ-feministische Methode als kritisches Instrument vorstellen, um Limitierungen aktueller Diskurs-Strategien über technologische Potenziale und soziale Ungleichheit zu analysieren. Dadurch kann dazu beigetragen werden, zukünftig Spekulation als Methode feministischer Kritik zu nutzen.

Schlagwörter: Technofeminismus; Spekulation; Künstliche Intelligenz; Technologie; Designsozio­logie.

 

Siri, why can’t you get angry? Strategies of Speculation as an Instrument of Feminist Practice

Abstract: Speculation shapes the discourses about digital technologies, notably the debate about artifi­cial intelligence, since nobody can predict how AI will transform our society in the long term. However, what is missing in this discourse is a feminist perspective on strategies of speculation. The approach described in this article aims to introduce a speculative-feminist method as a critical instrument to analyse the limits of current discourse strategies about technological potentials and social inequality. Finally, the article aims to contribute towards the establishment of speculation as a practice-based approach for use in feminist critique.

Keywords: technofeminism; speculation; Artificial Intelligence; technology; design sociology.

 

Siri, warum bist Du weiblich?

Siri, Alexa, Cortana – die letzten Jahren haben einen Boom an intelligenten Sprachassistent*innen gesehen, die Unterstützung im Alltag versprechen. Es existieren auch Systeme, die für wesentlich komplexere Prozesse eingesetzt werden: So trat IBMs künstliche Intelligenz (KI) Watson in der TV Quizshow „Jeopardy“ gegen menschliche Mitspieler*innen an, während die KI Einstein für das Unternehmen Salesforce komplexe Datenanalysen erstellt. Gilt etwa auch für KI: Frauen assistieren, Männer machen? Wird die Abwertung weiblicher Eigenschaften sowie die Objektivifizierung von Frauen bei künstlicher Intelligenz reproduziert? (vgl. Vlahos 2019: 130f).

Diese Frage war der Ausgangspunkt für MiauMiau: Ein Prototyp für eine fiktive feministische Sprachassistenz, mit der Nutzer*innen interagieren konn­ten. MiauMiau nutzt dafür spekulatives Design, um die Beziehung zwischen Gestaltung und Stereotypen zu beleuchten. Das Projekt war jedoch nicht nur eine künstlerische Arbeit, sondern gleichzeitig auch ein Experiment, um her­auszufinden: Lassen sich Strategien der Spekulation in feministische Forschung zu KI einbinden?

Die Diskussion rund um KI ist von Spekulation geprägt, da niemand sagen kann, wie nachhaltig sie unsere Gesellschaft transformieren wird. Allerdings werden Produkte wie Siri in unseren Alltag integriert, ohne dass hinterfragt wird, warum bei ihnen Weiblichkeit mit Assistenz, Care-Arbeit und Kommu­nikation assoziiert wird (vgl. Sternberg 2018). Die weiblichen Voice-Interfaces von Siri & Co. spiegeln ein traditionelles Rollenverständnis wieder, bei dem ver­meintlich ‚natürliche‘ Verbindungen von geschlechtsspezifischen Eigenschaften mit bestimmten Aktivitäten dafür gesorgt haben, dass Frauen vergleichsweise öfter mit low-level jobs assoziiert werden als Männer (vgl. Bergermann 2018: 341f).

Kritische Forschung zu KI wie die von Ruha Benjamin (2019) oder Neda Atanasoski und Kalindi Vora (2019) verdeutlicht, dass eine technofeministische Untersuchung überfällig ist, um die Schnittstellen von KI mit Gender-Macht-Strukturen vor dem Hintergrund von Gegenwarts- und Zukunftsspekulation zu untersuchen.

Dieser Artikel beginnt mit der Frage, wie sich Kritik an der genderspezifi­schen Entwicklung von KI darstellen lässt. Dazu sollen zunächst verschiedene Strategien der Spekulation vorgestellt und diskutiert werden. Im Anschluss daran soll anhand von MiauMiau beispielhaft gezeigt werden, wie spekulativ-feministische Forschung in die Praxis überführt werden kann. Dieser Artikel möchte damit einen akademischen Diskurs über spekulative Forschung zu Geschlecht und KI innerhalb der deutschen Forschungslandschaft anstoßen und ein Beitrag zur Etablierung praxisbasierter spekulativer Methoden zu diesem Thema leisten.

Lassen sich Geschlecht und KI trennen?

Technologien wie KI können als mit Kategorien verbundene Aktivitäten cha­rakterisiert werden, durch die Individuen unterteilen und definieren: Alter, Bil­dung, Beruf – und Geschlecht (vgl. Lerman 2003: 3). Die Kategorie Geschlecht bietet jedoch nicht nur die Möglichkeit, Individuen und Artefakte in Kategorien zu sortieren, sondern auch die, ihnen Macht in bestimmten Kategorien zuzu­schreiben (vgl. ebd.: 5). Durch eine Ordnung des Denk- und Sagbaren wird gere­gelt, was als (un)weiblich kategorisiert wird. Der Diskurs reguliert demnach durch die Kategorisierung in ‚weibliche‘ Attribute Zugänge und Machtpositionen (vgl. Foucault 1977). Feministische Perspektiven aus Soziologie und Science and Technology Studies (STS) setzen hier an, um die komplexen Mechanismen von Macht und Ideologie innerhalb des Diskurses nuanciert zu analysieren und zu untersuchen, wie die hierarchisch gegenderte soziale Ordnung etabliert wird (vgl. Cockburn 1988; Leigh-Star 1990; Paulitz 2012; Ernst-Horwarth 2014; Faulkner 2014).

Feministische Perspektiven auf Technologie

Mit der Etablierung des Computers in Arbeitswelt und Gesellschaft sowie neuen digitalen Technologien begann sich ab den 1990er Jahren eine Beschäftigung mit KI aus feministischer Perspektive zu entwickeln (vgl. Adam 1998). Ebenfalls in den 1990er Jahren erlebte der Cyberfeminismus seinen Höhepunkt, wie sich in den Arbeiten von Donna Haraway, Judith Butler oder Sadie Plant wider­spiegelt (vgl. Haraway 1985; Butler 1990; Plant 1998). Judy Wajcman lieferte 2004 darauf aufbauend eine Analyse der technologischen Gender-Politik: Sie argumentiert, dass technowissenschaftliche Fortschritte die Beziehung von Frau und Maschine radikal transformiert haben, aber weniger die Technologie selbst als vielmehr feministische Politik dazu beigetragen habe. Ausgehend von einem materialistischen Ansatz stellt sie fest, dass Frauen in den Sphären des Einflusses fehlen, einem Schlüsselelement der Gender-Macht-Beziehungen (vgl. Wajcman 2004: 41). Das erkläre, warum selbst die visionärsten Futuris­ten in ihren Zukunftsszenarien Haushaltsführung und Care-Arbeit unverändert sehen. Die techno-utopischen Strategien des space-age scheinen lediglich für einen technological fix bestimmt, nicht für einen sozialen Wandel hin zu einer gleichberechtigten Geschlechterpolitik (vgl. ebd.: 118). Statt also technologische Innovation zur Priorität von Technologie zu erklären, sollten Technologien als Werkzeuge für politische Organisation und Gründung neuer feministischer Gemeinschaften re-interpretiert werden: „The promise of technofeminism, then, is twofold. It offers a different way of understanding the nature of agency and change in a post-industrial world, as well as the means of making a difference.“ (ebd.: 130)

Die Entzauberung künstlicher Intelligenz

Eine zunehmenden Beschäftigung der feministischen Techniksoziologie und STS mit KI führte in den letzten Jahren zu einer Debatte über Geschlecht und KI, bei dem drei Forschungsschwerpunkte in den Fokus rückten: Erstens Sex und KI (vgl. Devlin 2018; Gersen 2019; Nyholm 2017; vgl. Atanasoski/Vora 2019; Benjamin 2019; Bergermann 2018; Bolukbasi et al: 2016; Buolamwini/Gebru: 2018; D‘Ignazio/Klein 2019), worunter die Übernahme von Diskriminierungen aus Datensätzen in Softwareprogramme verstanden wird und zweitens Dar­stellung und Design von KI (vgl. Buchmüller 2014; Cave/Dihal 2020; Strenger/Kennedy 2020), wobei sich die Schwerpunkte überlappen können. Insbesondere durch Werke wie „Gender Shades“ (Buolamwini/Gebru 2018) oder „Race after Technology“ (Benjamin 2019) wurde die Debatte über Reproduktion diskrimi­nierender Strukturen und Stereotype innerhalb von KI angestoßen. Damit wird der weit verbreitete Mythos, dass technologischer Fortschritt immer positiv für die Gesellschaft sei, entzaubert und ein in KI inhärenter Bias offengelegt.

Bislang finden sich jedoch nur wenige Forschungsprojekte in diesem Feld, wel­che die akademische Debatte in die Praxis überführen. Das wohl prominenteste Beispiel für solch ein Unterfangen ist die Arbeit von Charlotte Webb und Josie Young. Deren Projekt „Feminist Internet“, ein aktivistisches Kollektiv, das an der Schnittstelle von Kunst, Technologie und Gesellschaft arbeitet, macht mit Aktionen wie „f‘xa“, einem feministischen Chatbot, auf die Verwobenheit von Technologie und Geschlecht aufmerksam. Das „Feminist Internet“ verlässt den Raum der Theorie für einen praxisbasierten und spekulativen Ansatz feminis­tischen Aktivismus und eröffnet dadurch neue Forschungsmethoden.

Im Folgenden soll deswegen untersucht werden, wie Spekulation als Metho­de feministischer Kritik eingesetzt werden kann, um ähnliche interdisziplinär-aktivistische Projekte in der soziologischen Forschung anzustoßen.

* * *

Sie möchten gerne weiterlesen? Dieser Beitrag ist in dem Heft 2021 der FZG – Freiburger Zeitschrift für GeschlechterStudien erschienen.

© Unsplash 2021, Foto: Ivan Bandura