In der aktuellen Debatte um Künstliche Intelligenz (KI), die wohl so lebhaft wie noch nie geführt wird, ist der Leitspruch des Silicon Valley, «Move fast and break things», deutlich zu spüren. Statt zu hinterfragen, ob die Erschaffung einer starken KI, also einer KI, die menschenähnliche Generalintelligenz besitzt, erstrebenswert ist, wird KI als Problemlöserin unserer Zeit ganz im neoliberalen Duktus «Innovation wird uns retten» verkauft. Die Diskussion über KI wird dabei vor allem von ihrer naturwissenschaftlich-technischen Entstehung dominiert. Dieser liegen jedoch tiefe philosophische und methodische Implikationen zu Grunde. KI erscheint als Schöpfung technologischer Vernunft, gestaltet nach den Prinzipien von Berechenbarkeit und Funktionalität, die aus den streng objektiven Kriterien der Naturwissenschaften hervorgehen. Diese vermeintliche Objektivität ist jedoch nicht frei von ideologischen Einfärbungen – im Gegenteil. Indem die naturwissenschaftliche Methodik unkritisch auf komplexe soziale und moralische Fragestellungen der KI angewandt wird, droht Ignoranz gegenüber der ethischen Dimension.1 Die Reduktion der KI auf naturwissenschaftliche Modelle birgt die Gefahr, dass ihre gesellschaftlichen, ethischen und individuellen Auswirkungen nicht ausreichend reflektiert werden. Eine solche Herangehensweise ignoriert, dass KI das Ergebnis derjenigen Machtstrukturen ist, in der sie sich entwickelt. Denn Technologie ist ein Ausdruck des Systems, in dem sie erschaffen wird, der Kultur, der Werte und der Interessen, die hinter ihrem Vorantreiben stehen. Die Vorstellung, dass Technologie neutral sei, erweist sich als eine gefährliche Fiktion. Stattdessen ist KI also ein Ausdruck der vorherrschenden Ideologien und Machtverhältnisse, die durch sie perpetuiert und verstärkt werden können. Diese Technologien werden nicht in einem Vakuum entwickelt.2 Daher muss eine ideologiekritische Untersuchung von KI berücksichtigen, wie diese Technologien entwickelt, implementiert und genutzt werden, um zu verstehen, wessen Interessen sie dienen und welche gesellschaftlichen Strukturen sie möglicherweise reproduzieren. Dies fordert eine kritische Reflexion über die «Neutralität» der KI und eine Auseinandersetzung mit den latenten Wertvorstellungen, die in ihren Algorithmen kodiert sind.
Warum die Entwicklung von KI ideologisch motiviert ist
Aus marxistischer Sicht ist die Beleuchtung von Ideologie im Kontext von KI spannend, insbesondere die der «Californian Ideology», womit der Glaube daran gemeint ist, dass sich zahlreiche Probleme technologisch und unternehmerisch profitabel lösen ließen.3 Diese betrachtet KI nicht nur als technologische Errungenschaft, sondern als unaufhaltsame Macht, deren Erscheinen unausweichlich ist. Diese Haltung ignoriert bewusst kritische Fragen nach den gesellschaftlichen, ökologischen und ethischen Konsequenzen dieser Technologien zu ihrem eigenen Vorteil.
Marx verstand Ideologie als ein Werkzeug der herrschenden Klassen, um ihre Kontrolle über die unterdrückten Klassen zu festigen und zu erweitern, indem ihre Weltanschauungen als allgemeingültige Normen etabliert werden. Ideologien seien Instrumente, die ein falsches Bewusstsein erzeugen und die wahren Machtverhältnisse verschleiern. Im Kontext von KI wird diese Dynamik besonders in eben jener «Californian Ideologye» deutlich, die technologische Fortschritte als Heilsbringer für alle gesellschaftlichen Probleme preist. Diese Sichtweise propagiert, dass technologischer Fortschritt in Form von KI zwangsläufig zu einer besseren Zukunft führen würde, ohne die damit verbundenen sozialen Disparitäten und ethischen Dilemmata zu thematisieren. Sie kombiniert Techno-Utopismus mit einem starken Glauben an den neoliberalen Markt als effektivsten Weg zur Verteilung technologischer Innovationen. Diese Ideologie unterstützt den Glauben, dass technologischer Fortschritt unendliches Wachstum ermöglichen könne, selbst in einer Welt mit begrenzten Ressourcen – ein gefährlicher Trugschluss, der die ökologische Realität ignoriert. Der unerschütterliche Glaube an Innovation und Fortschritt lässt wenig Raum für kritische Reflexion oder das Hinterfragen der sozioökonomischen Rahmenbedingungen, die durch diese Technologien geschaffen oder verschärft werden.
Der Optimismus, der die «Californian Ideology» durchdringt, offenbart eine tiefgreifende Ignoranz gegenüber den möglichen negativen Auswirkungen der KI, wie etwa die Verstärkung von Ungleichheit, Überwachung und Kontrolle, sowie die Verschiebung von Arbeitsmarktstrukturen. Paradoxerweise wird gerade in einer solchen Ideologie anerkannt, dass die Alternativen zu technologischer Innovation – wie etwa das Verharren in traditionellen industriellen Methoden – katastrophale Folgen hätten. Sie verkennt jedoch, dass KI selbst, ohne angemessene regulatorische und ethische Überlegungen, ähnlich verheerende Konsequenzen für die Gesellschaft haben könnte und stellt sie zudem als alternativlose Retterin dar.
Indem KI als jüngster Träger der Hoffnungen für technologischen und gesellschaftlichen Fortschritt gefeiert wird, manifestiert sich die Ideologie als treibende Kraft hinter der ungebremsten Entwicklung und Implementierung von KI-Technologien. Es wird dabei übersehen, dass KI nicht lediglich ein neutraler, technischer Fortschritt ist, sondern ein Produkt menschlicher Wertvorstellungen, politischer Entscheidungen und wirtschaftlicher Interessen, das die Lebensrealität vieler Menschen direkt beeinflusst.
Feministische Technikkritik
Eine feministische Perspektive auf KI ergänzt diese Betrachtung durch die Erkenntnis, dass Technik niemals geschlechtsneutral ist. Feministische Technikforschung hat gezeigt, dass Technologieentwicklung und -anwendung tief in patriarchalen Strukturen verankert sind. Diese Strukturen manifestieren sich in der Art und Weise, wie Technologien konzipiert, gestaltet und eingesetzt werden, was zu einer systematischen Benachteiligung von Frauen führt. Feministische Technikkritik zielt darauf ab, die patriarchalen Implikationen von Technologie aufzudecken und zu hinterfragen, wie technologische Entwicklungen geschlechtergerechter gestaltet werden können. Technische Kompetenz ist zu einem integralen Bestandteil männlicher Identität geworden und kulturell männlich geprägt.4 Technik ist die «patriarchale Verdinglichung der sozialen Strukturen in ihrem Entstehungsbereich»5. Diese «Vergeschlechtlichung» der Technik zeigt sich nicht nur in der Unterrepräsentation von Frauen in technischen Berufen, sondern auch in den Nutzungs- und Wirkungsweisen der Technologien selbst. KI-Systeme, die auf bestehenden Datensätzen und Algorithmen basieren, tragen häufig unbewusst zur Reproduktion von Geschlechterstereotypen und -ungleichheiten bei, indem sie Verzerrungen und Vorurteile in ihren Entscheidungen und Handlungen perpetuieren. Eine feministische Kritik der KI fordert daher eine bewusste Gestaltung und Regulierung dieser Technologien, um sicherzustellen, dass sie nicht nur den Interessen und Werten einer patriarchalen Gesellschaft dienen, sondern auch zu Gleichberechtigung beitragen können.
Implikationen für die Wissenschaft
In der heutigen Diskussion um Künstliche Intelligenz ist es unerlässlich, die tief verwurzelten ideologischen und gesellschaftlichen Einflüsse, die ihre Entwicklung prägen, kritisch zu hinterfragen. Sowohl marxistische als auch feministische Perspektiven verdeutlichen, dass KI nicht neutral ist, sondern bestehende Machtverhältnisse und soziale Ungleichheiten reproduziert. Eine ideologiekritische soziotechnische KI-Forschung ist daher notwendig, um die politischen, wirtschaftlichen und kulturellen Implikationen von KI zu verstehen und zu steuern. Eine solche Forschung würde vor allem die Machtstrukturen und Werte, die die Entwicklung von KI beeinflussen, analysieren und sich der Frage widmen, ob wir in unserem aktuellen kapitalistischen und patriarchalen System die Forschung an KI überhaupt befürworten können.
Nur durch eine umfassende, interdisziplinäre Betrachtung können wir sicherstellen, dass KI-Technologien in dem gesellschaftlichen Rahmen, in dem sie entstehen, betrachtet, verstanden und hinterfragt werden. Mehr noch, eine soziotechnische Forschung an KI ist notwendig, um bei jedem Schritt der Entwicklung zu hinterfragen, ob wir noch verantworten können, die Forschung weiter voranzutreiben und eine Antwort auf die Frage zu finden. Kritische Wissenschaft ist in allen Bereichen unerlässlich, aber gerade in Bezug auf KI von unschätzbarer Bedeutung, wenn wir verhindern wollen, dass eine mächtige Technologie, die das herrschende System reproduziert, ungehindert weiterentwickelt wird.
1 Vgl. Klaus Kornwachs: Positionen der Technikphilosophie. Philosophisches Handbuch Künstliche Intelligenz. Wiesbaden 2020, S. 1-44.
2 Vgl. ebd.
3 Vgl. Simon Lindgren: Critical theory of AI. New Jersex 2023.
4 Vgl. Angelika Saupe: Vergeschlechtlichte Technik–über Geschichte und Struktur der feministischen Technikkritik. 2003. Online verfügbar unter https://www.gender.hu-berlin.de/de/publikationen/gender-bulletin-broschueren/bulletin-texte/texte-25/bulletin-texte-25/texte25pkt2.pdf (20.6.2024).
5 Baureithel, Ulrike: Rezension in: metis. Zeitschrift für historische Frauenforschung und feministische Praxis, Bd. „Technik“ 1/95, Pfaffenweiler 1995, S. 111-115.