Aktueller Call

Call for Papers für PROKLA 217 (Heft 4, Dezember 2024)

Mythos der Maschine? Künstliche Intelligenz und Gesellschaftskritik

Frist für Exposés: 6. Mai 2024

Schwerpunktredaktion: Martin Beckmann, Heiner Heiland, Sarrah Kassem, Mariana Schütt, Sandra Sieron, Felix Syrovatka

Künstliche Intelligenz (KI) steht gegenwärtig im Mittelpunkt zahlreicher Debatten. Das ist insbesondere der Fall bei der Entwicklung sogenannter generativer Künstlicher Intelligenz und deren stark datengetriebenen Anwendungen und -modellen, wozu beispielsweise GPT-3 und DALL-E (OpenAI), LaMDA (Google) und Tongyi Qianwen (Alibaba) gehören. Diese sind – anders als »traditionelle« Anwendungen maschinellen Lernens – in der Lage, aus Trainingsdaten neue Ergebnisse in Form von Texten, Bildern, Audio- und Videodateien zu erstellen. Die Ergebnisse sind nicht länger Teil des ursprünglich verwendeten Datensatzes, sondern weisen nur noch ihm ähnliche Merkmale auf.

In der Folge wird KI sowohl als Hochrisikotechnologie als auch als Heilsbringer diskutiert. Der britische Premier Rishi Sunak mahnte im November 2023, dass KI zu einem Risiko in der Größenordnung eines Atomkriegs werden könne. Und selbst der Tech-Milliardär Elon Musk bezeichnete Künstliche Intelligenz als »die zerstörerischste Kraft der Geschichte« und forderte gemeinsam mit anderen im Frühjahr letzten Jahres einen sechsmonatigen Entwicklungsstopp – ein »KI-Moratorium« –, damit eine regelbasierte Risikofolgenabschätzung für »leistungsstarke KI« erfolgen könne. Demgegenüber stehen mit der KI verbundene Hoffnungen auf Innovationen und Produktivkraftsprünge. Während beispielsweise in der Pharmaindustrie KI zur Erstellung von Proteinsequenzen genutzt wird, berechnet McKinsey den Mehrwert KI-getriebenen Wirtschaftens auf bis zu 4,4 Billionen Dollar – bei Berücksichtigung nur eines Teils der Ökonomie und potenzieller Anwendungsgebiete. Diese ambivalenten Debatten sind sinnbildlich für den gegenwärtigen gesellschaftlichen Umgang mit Technologien. Es gibt zwar ein aufkeimendes öffentliches Unbehagen gegenüber möglichen und manifesten negativen Auswirkungen von KI-Systemen und KI-basierten Entscheidungen, gleichzeitig wird am Mythos der autonomen, entfesselten Maschine festgehalten. Die Auswirkungen und Entwicklungen sind mannigfaltig und reichen von der (politischen) Ökonomie, über Organisationsstrukturen und Arbeitsprozesse bis hin zur alltäglichen Lebensführung.

Geopolitisch, militärstrategisch und politökonomisch wird KI-Technologien bereits seit einigen Jahren eine hohe Relevanz zugeschrieben, was sich in zahlreichen staatlichen KI-Strategien, gezielter staatlicher Förderung des Aufbaus von KI-Kapazitäten und industriepolitischen Maßnahmen sowie großen Mengen von Risikokapitalinvestitionen zeigt. Die chinesische Regierung hat zum Ziel erklärt, den Vorsprung der Vereinigten Staaten aufzuholen und bis 2030 die weltweite KI-Führerschaft zu übernehmen. Die Europäische Union, die in diesem vermeintlich unabwendbaren »Technologiewettlauf« in Hinblick auf den Aufbau von KI-Kapazitäten als zurückgefallen gilt, hat jüngst mit dem »AI-Act« eine erste umfassendere Gesetzgebung erlassen, die eine Risikoklassifizierung von KI-Systemen vornimmt und neue Standardisierungsprozesse und Marktkonsolidierungen anstößt.

Aus dem Blick geraten dabei die global sehr ungleich verteilten Produktionskapazitäten und Arbeitsverhältnisse, unter denen sich diese rasante Technologieentwicklung und KI-Implementierung vollzieht. So verfügen vor allem »Big Tech«-Unternehmen wie Alphabet (Google), Microsoft, Meta, Tencent, Baidu oder Alibaba über konzerneigene Forschungs- und Entwicklungsabteilungen, die nötigen KI-Netzwerkinfrastrukturen und eigene Datenzentren. Über expansive Akquisitionsstrategien sind sie in der Lage, KI-Patente, entsprechende Produktions- und Logistikkapazitäten auszubauen, passende Fachkräfte anzuwerben und so ihren Vorsprung in der KI-Entwicklung in Form eines nahezu geschlossenen »KI-Ökosystems«, dem geeignete Zuliefer-, Partner- und Kundenfirmen angehören, für ihr eigenes Geschäftsmodell zu nutzen.

Darüber hinaus ist KI nicht länger eine abstrakte Zukunftstechnologie, sondern erlangt zunehmende Bedeutung in zahlreichen Arbeitsprozessen: von der Entscheidung über die Zuwendungen von Sozialleistungen, die Durchführung von Beratungen, die Organisation von Produktionsprozessen und Lieferketten bis hin zur Erstellung von Schichtplänen. Damit einher gehen Automatisierungs- und Rationalisierungspotenziale und zugleich führt eine gesteigerte digitale und algorithmische Kontrolle von Arbeitsprozessen dazu, die autonomen Handlungsspielräume von Beschäftigten zu reduzieren, was auch für etablierte Mitbestimmungsstrukturen eine neue Herausforderung darstellt.

Zugleich, so scheint es, verstärkt sich mit zunehmender Verbreitung generativer KI-Technologien allerdings auch das gesellschaftliche Missbrauchs- und Schadenspotenzial in neuem Maßstab. Bereits heute gibt es zahlreiche Beispiele für Diskriminierung durch den Einsatz von KI-Systemen und maschinellem Lernen – auf dem Arbeitsmarkt oder im Leistungsbezug, wenn etwa als »objektiv« geltende automatisierte Entscheidungsprozesse Frauen, rassifizierte und migrantisierte Menschen aufgrund von reproduzierten Stereotypen und Vorurteilen benachteiligen oder wenn der Einsatz von KI-basierten Systemen in der Leistungsbewertung und Arbeitsprozessplanung und -steuerung betriebliche Herrschaft verschärft.

In dieser umkämpften Ausgangslage wollen wir in der PROKLA 217 auch der Frage nachgehen, inwiefern die mit »Künstlicher Intelligenz« verknüpften technologischen Versprechen und Bedrohungsszenarien, die mit der Veröffentlichung von ChatGPT erneut entfacht sind, tatsächlich einen fassbaren Paradigmenwechsel darstellen oder ob der Mythos bereits abkühlt. Was sind die Hintergründe Künstlicher Intelligenz, was sind ihre realen Effekte und was ihre potenziellen Entwicklungen?

In diesem Sinne wünschen wir uns Beiträge zu folgenden Themen:

  • Paradigmenwechsel oder Hype: Wie haben sich KI und die Diskurse um sie von den ersten Debatten in den 1970er-Jahren bis heute entwickelt? Wie gestaltet sich die tatsächliche technologische Eingriffstiefe von generativen KI-Technologien, lässt sich hier ein qualitativer Paradigmenwechsel, bedingt durch technologischen Wandel, feststellen oder handelt es sich um einen neuen »Hype«, eine neue Rolle von Datenzugang und Verarbeitung?
  • Mensch-Maschine: Verändern sich Mensch-Maschine-Verhältnisse durch KI? Welchen Blick nimmt die feministische und intersektionale Technikforschung auf KI ein? Welche Rolle spielen Agency/Handlungsfähigkeit etc.?
  • Demokratie und Politik: Welche Auswirkungen hat KI auf politische Entscheidungsprozesse und demokratische Strukturen? Wie wird KI im politischen Diskurs thematisiert?
  • Arbeit: Wie wirkt sich KI auf die Koordination und Kontrolle sowie die Automatisierung von Arbeit aus? Wie positionieren sich Gewerkschaften und welche Strategien wählen sie? Wie gehen Organe der Mitbestimmung mit KI um und werden Arbeitskämpfe davon beeinflusst?
  • Globale Ungleichheiten: Welche regionalen Unterschiede sind mit KI-Produktion, -Kapazitäten und -Nutzung verbunden? Welche Rolle spielt dabei der Globale Süden? Wie hängt KI mit (de-)kolonialen Strukturen zusammen, werden diese reproduziert oder entwickeln sich neue? Wirkt KI als Monopolisierungstreiber?
  • Ökologie: Welche ökologischen Kosten gehen mit KI einher? Wer kommt dafür auf und entstehen Kämpfe, z.B. um neue Rechenzentren? Aber auch, welche neuen Möglichkeiten gehen mit KI für Dekarbonisierung und »grüne« industrielle Transformationen einher?
  • Regulation: Welche Formen der Regulation von KI existieren oder werden diskutiert? Welche Verteilungs- und Deutungskämpfe gehen damit einher?
  • Politische Ökonomie: Was sind die zentralen Akteure und wie werden sie finanziert? Herrschen private oder staatliche KI-Strukturen vor und was bedeutet dies? Führt KI zu neuen Schwerpunktverlagerungen (z.B. China vs. USA)? Welche neuen digitalen Geschäftsmodelle sowie Wertschöpfungs- und Lieferketten entstehen durch KI und welche Auswirkungen haben sie? Führt KI zu sektoralen Verschiebungen und neuen Strategien von Unternehmen?
  • Alternativen: Inwiefern kann KI emanzipatorisch genutzt werden (Gegenmacht, Design Justice etc.)? Gibt KI neue Möglichkeiten für gesellschaftlich-ökonomische Planung, alternative Zukunftsentwürfe und Utopien?

Die Redaktion lädt zur Einsendung von aussagekräftigen Exposés von 1-2 Seiten bis zum 6.5.2024 ein. Die fertigen Artikel sollen bis zum 19.8.2024 vorliegen und einen Umfang von 45.000 Zeichen (inkl. Leerzeichen, Fußnoten und Literaturverzeichnis) nicht überschreiten; politische pointierte Einsprüche haben 15.000 bis 25.000 Zeichen. Siehe auch die Hinweise für PROKLA-Autor*innen unter https://www.prokla.de/index.php/PROKLA/Hinweise. Zusendung bitte an: redaktion [at] prokla.de