Warum Feministische KI Smart Glasses so niemals bauen würde

Eine Frau kommt aus dem Schwimmbecken, legt sich tropfnass auf ihr Handtuch und schließt zufrieden die Augen. Ein alltäglicher Moment, sichtbar für alle und trotzdem privat. Ein paar Liegen weiter sitzt jemand mit einer Sonnenbrille und scheint in einer Zeitschrift zu lesen.

Was die Frau auf ihrem Handtuch nicht sieht: Im Bügel der Sonnenbrille sitzen Kamera und Mikrofon, und sie wird gefilmt. Sie wurde nicht gefragt, sie merkt es nicht einmal, und sie wird nie erfahren, wer dieses Video später sehen kann.

Es wird bereits daran gearbeitet, dass die brillentragende Person das Gesicht der Gefilmten in Echtzeit mit den zugehörigen Namen verknüpfen kann, mit der Adresse der Gefilmten, ihrem Social-Media-Account, ihrer Arbeitsstelle. Noch ist der Datenabgleich Zukunftsmusik, das heimliche Filmen aber passiert längst, überall, jeden Tag.

Rechtlich ist das eine Grauzone: Heimliche Aufnahmen im öffentlichen Raum sind bisher kaum erfasst, strafbar ist oft erst die Verbreitung. Die einzige Schutzvorkehrung gegen das heimliche Filmen ist ein kleines Lämpchen an der Kamera, das anzeigen soll, wann aufgenommen wird.

Man kann es leicht übersehen, auch wenn es leuchtet. Abkleben lässt es sich nicht. Dann filmt die Kamera nicht mehr. Man kann es aber für wenig Geld aufbohren und entfernen lassen. Die Kamera merkt dann nicht, dass nicht mehr angezeigt wird, wenn sie aufnimmt. Was einmal aufgenommen ist, kann nicht nur ungefragt im Netz landen, es kann auch zum Deepfake werden.

Nachdem längst tausende Brillen verkauft und unzählige unfreiwillige Aufnahmen im Umlauf sind, fordern Datenschützer*innen, die NGO HateAid und eine Petition des Zentrums für Digitalrechte und Demokratie das Verbot der „Spanner-Brillen“.

Die Brille hat keinen Defekt. Sie tut genau, wofür sie gebaut wurde und genau das ist das Problem. Im Zentrum stehen das Sammeln von Daten und der Komfort der Träger*innen; an die Peripherie verlagert werden Sicherheit, Datenschutz und das Recht am eigenen Bild.

Mit einer feministischen Perspektive auf Technikdesign, behaupte ich, wäre diese Technologie nie in der aktuellen Form auf den Markt gekommen. Nicht, weil feministische KI neuen Technologien generell kritisch gegenüberstünde, im Gegenteil: So, wie ich sie verstehe, befürwortet sie neue Technologien grundsätzlich und schätzt ihr enormes Potenzial. Aber sie hätte zuerst danach gefragt, wer von einer neuen Technologie profitiert und wer dafür welchen Preis zahlt.

Diese Fragen sind auch der Kern des Feminist AI Framework (FAIF), das ich entwickelt habe und um das es in meinem Buch Code und Care. Mit Feministischer KI die Welt gerechter gestalten geht. Das Buch ist das Ergebnis von über zehn Jahren Forschung zwischen Gender Studies, Natur- und Technikwissenschaften. Es zeigt, wie KI aussieht, wenn nicht Konzerne und eine bestimmte Nutzer*innengruppe im Zentrum stehen, sondern alle, die von einer Technologie auf die eine oder andere Weise betroffen sind.

Wie eine intelligente Brille unter dieser Maßgabe aussehen könnte, dazu komme ich am Ende. Zuerst zu dem, was unter der schönen Oberfläche der KI verborgen liegt.

 

Warum ethische KI nicht reicht

Die Debatte um faire und ethische KI hat Fahrt aufgenommen: Bias-Audits, ethische Leitlinien, der EU AI Act. Doch die meisten Ansätze bleiben an der Oberfläche. Sie fragen, wie bestehende Systeme fairer werden, nicht, ob die Art, wie wir sie bauen, überhaupt zukunftsfähig ist. Sie akzeptieren die Grundlogik, die sie reformieren wollen.

Genau hier setzt eine feministische Analyse an. Feministische Forschung hat seit jeher das Unsichtbare sichtbar gemacht: dass der Kapitalismus auf unbezahlter Reproduktionsarbeit beruht, die niemand als Arbeit anerkannte; dass wissenschaftliche „Objektivität“ einen Standort hat, und der war historisch männlich, weiß, westlich. Sie hat gelernt, hinter Fassaden zu blicken.

Diese Kompetenz brauchen wir jetzt für KI. Denn KI funktioniert nach demselben Muster: sichtbare Innovation, unsichtbare Ausbeutung.

 

Die versteckten Kosten der KI

Code und Care macht drei Ebenen sichtbar, die in den meisten Debatten fehlen.

• Erstens die Datenarbeit. Damit ein Chatbot höflich antwortet, sichten Menschen im Globalen Süden für häufig weniger als zwei Dollar die Stunde die dunkelsten Inhalte des Internets: Gewalt, Missbrauch, Folter. Viele von ihnen tragen psychische Schäden davon. Eine Krankenversicherung haben sie oft nicht. Ohne diese Arbeit gäbe es kein ChatGPT, kein Gemini, kein Claude. In den Firmengeschichten kommt sie nicht vor.
• Zweitens die materielle Basis. KI arbeitet nicht in einer immateriellen „Cloud“, sie läuft auf physischen Rechnern, die einfach nur woanders sind als ihre Nutzer*innen. Der Stromverbrauch von Rechenzentren übersteigt den Gesamtverbrauch ganzer Länder, und für die Kühlung wird Wasser in Regionen verbraucht, in denen es ohnehin knapp ist. Der Kobalt für die Chips kommt aus dem Kongo; gewonnen wird er nur allzu oft unter menschenunwürdigen und ausbeuterischen Arbeitsbedingungen.
• Drittens die epistemische Verengung. Die Trainingsdaten stammen überwiegend aus dem englischsprachigen, westlichen Raum. Andere Wissenssysteme, indigene Ontologien, mündliche Traditionen, verkörpertes Erfahrungswissen, werden dadurch zum Nebengeräusch. Eine Technologie, die unser Denken formt, macht eine einzige Weltsicht zum Standard. Das ist keine technische Nebenwirkung, das ist epistemische Politik.

 

Was Feministische KI anders macht

Was ich mit Code und Care zur Debatte um gerechtere KI beitrage, ist die Verbindung zweier Traditionen, die selten zusammenarbeiten: machtkritische Soziologie und ontologische Ethnologie. Als Soziologin frage ich, wer die Systeme baut, wer profitiert, wer zahlt. Als Ethnologin frage ich weiter: Welche Weltbilder liegen ihnen zugrunde? Was bedeutet es, dass wir eine Technologie bauen, die die westliche Trennung von Mensch und Natur, Geist und Körper unhinterfragt fortschreibt?

Daraus ist das Feminist AI Framework (FAIF) entstanden, das ich 2025 in einem international  stark rezipierten Aufsatz vorgestellt habe. Es verbindet intersektionale Gender Studies, kritischen Posthumanismus, mehr als Menschliche Anthropologie, Neuen Materialismus, dekoloniale Theorie, indigene Ontologien und Körperphänomenologie – in einem Werkzeug.

Jede dieser Perspektiven stellt für sich eigene Fragen an ein KI-System. Und es taugt nicht nur zur Kritik, sondern auch zur Gestaltung: Es zeigt, wie Systeme aussähen, die ökologische Kosten mitrechnen und verschiedene Wissenssysteme respektieren.

 

Warum Feministische KI eine demokratische Frage ist

Wir stehen an einem Scheideweg. Die Entscheidungen der nächsten Jahre legen fest, welche digitale Zukunft wir bekommen. In den USA werden Diversitätskriterien per Dekret abgeschafft, in Europa steht der AI Act unter Druck, und Konzerne, deren Wert das BIP ganzer Staaten übersteigt, prägen unsere Infrastruktur.

Da ist eine feministische Perspektive kein Nischenansatz, sondern die Voraussetzung, um zu verstehen, was auf dem Spiel steht. Denn bei KI geht es nie nur um Technik: es geht auch um Care-Arbeit, die neu verteilt wird, um Körper, die anders adressiert, um Wissen, das entwertet oder aufgewertet wird, um ökologische Kosten, die jemand tragen muss.

Wer das nicht mitdenkt, überlässt die Gestaltung unserer Zukunft einer sehr kleinen, sehr homogenen Gruppe. Das ist keine feministische Forderung mehr, das ist eine demokratische Notwendigkeit.

Code und Care ist ohne technische Vorkenntnisse lesbar. Es erklärt, was ein neuronales Netz tut, ohne dass man ein Informatikstudium benötigte, um das zu verstehen, und macht Theorien wie Karen Barads agentiellen Schnitt oder Donna Haraways situiertes Wissen greifbar.

Vor allem liefert es Werkzeuge: Sie lernen, KI-Systemen die richtigen Fragen zu stellen, was feministisches Prompten ist, wo Sie im Alltag intervenieren können und welche Regulierungsdebatten gerade zählen. Das Buch richtet sich an alle, die diese Technologie täglich nutzen und verstehen wollen, was sie mit uns macht.

 

Care by Design: der andere Entwurf

Kommen wir zurück zur KI-Brille. Der Fehler liegt nicht darin, dass es sie gibt, sondern wie sie entworfen wurde und für wen. Der Datenschutz kennt dafür längst ein Prinzip: Privacy by Design, Schutz von Anfang an in die Technik gebaut, nicht nachträglich draufgesetzt. Bei diesen Brillen geschah das Gegenteil. Erst das Produkt, dann der Schaden, dann das nachgereichte Update, das immer noch manipuliert werden kann.

In Code und Care gehe ich mit FAIF einen Schritt weiter: Privacy by Design fragt „Wie schützen wir die Daten der Träger*innen?“. Es denkt von den Nutzer*innen der Geräte aus. Das ist eine sehr wichtige Perspektive, und eine feministische KI würde sie nie abschaffen. Code und Care fragt aber zusätzlich aus der Perspektive des schwächsten Gegenübers: Wer landet ungefragt im Bild? Wer trägt das Risiko?

Nicht die aktiven Nutzer*innen allein stehen also im Zentrum, sondern auch die nicht einwilligenden Personen vor der Kamera. Ein so entworfenes Produkt würde ohne Wissen der Gefilmten gar nicht erst aufzeichnen, ließe den Ton nicht heimlich mitlaufen, würde die potentiell Gefilmten immer darüber informieren und die Aufzeichnung soweit sichtbar machen, dass wirklich alle es mitbekommen und nur bei aktivem Zustimmen der gefilmten Personen überhaupt filmen können. Das Datenmaterial würde nie ungefragt zum Konzernrohstoff werden.

Feministische KI ist keine Absage an Technik. Sie ist die Frage, wessen Bedürfnissen sie dient. Den Unterschied zur Technologie, die heimlich filmt, macht die Frage, die am Anfang steht.

Wir haben die Wahl. KI kann Ungleichheiten verstärken, ökologische Krisen beschleunigen und die Vielfalt des Wissens einebnen oder Sorgearbeit für Menschen und den Planeten anerkennen, ihre Kosten mitrechnen und verschiedene Weltzugänge zulassen. Wie KI aussieht, ist keine Frage des technisch Machbaren, sondern des politisch Gewollten. Wir entscheiden, welche Zukunft gebaut wird – noch.

Code und Care ist die Einladung, diese Entscheidung nicht denen zu überlassen, die vom Wegsehen profitieren.