KI erleichtert unseren Alltag, reproduziert aber oft rassistische Stereotype und gesellschaftliche Machtstrukturen. Wie können wir dem aktiv entgegenwirken? Katherine Arp beleuchtet die Notwendigkeit diversitätssensiblen Promptens in der politischen Bildung und gibt konkrete Tipps.
Einleitung
Wir prompten inzwischen fast alle. Wir freuen uns über die Arbeitserleichterung und die bunten Bilder, die wir mit Künstlicher Intelligenz (KI) erzeugen können. Allerdings ist (generative) KI nicht vorurteilsfrei. Diskriminierende Bilder, rassistische Stereotype und Schönheitsnormen werden durch sie verbreitet und sogar verstärkt (CastilloHermosilla, M. et al., 2024). Woran liegt das? Wie können wir verantwortungsvoll mit KI umgehen und diversitätssensibel prompten? Denn: Wie diversitätssensibel und inklusiv die Texte, Bilder und Ergebnisse sind, die KI uns liefert, liegt auch an uns.
Was ist diversitätssensibles Prompten?
Prompten ist die Handlungsanweisung an das KI-Tool, also der Text, den Nutzende eingeben, um Bilder, Texte, Vorschläge oder Informationen zu erhalten. Man kann eine KI-Anwendung höflich bitten, ihr Genres oder Vorlagen an die Hand geben oder sie erst einmal frei generieren lassen. Man kann mit einem umfangreichen, detaillierten Prompt versuchen, direkt alles Relevante abzudecken, oder auch in verschiedenen Schritten prompten, also mehrmals auf die gelieferten Ergebnisse eingehen. Diversitätssensibel bedeutet, Diskriminierung zu erkennen, ihr entgegenzuwirken und der Diversität in der Gesellschaft gerecht zu werden.
Diversitätssensibles Prompten bezieht sich vor allem auf zwei Ebenen:
1. Die Strukturen, in denen KI-Anwendungen agieren
Wie funktionieren die Algorithmen der KI überhaupt? Mit welchen Daten werden sie trainiert und wie wählen sie Bilder oder Fakten aus? Welche globalen Strukturen und Interessen stehen dahinter?
2. Die eigene Verantwortung
KI reproduziert, was wir hineingeben. Wen denke ich in meinem Prompt mit? Wen bilde ich ab? Für wen generiere ich diese Inhalte? Welche Bias/Vorurteile bringe ich in den Prozess ein? Wie reflektiere ich die Ergebnisse der KI und was melde ich ihr zurück?
Warum brauchen wir überhaupt diversitätssensibles Prompten?
KI-Systeme werden mit Daten trainiert. Die verfügbare Datengrundlage im Internet weist jedoch enorme Bias (Verzerrungen, Vorurteile) auf und spiegelt die ungleiche Verteilung von Macht und Chancen in unserer Gesellschaft wider. KI-Anwendungen können in Einstellungsprozessen oder in der Sicherheitspolitik Chancen verwehren, bilden häufig Behinderungen nicht ab, schlagen vor, Frauen schlechter zu bezahlen, und verorten Schwarze Menschen nicht in prestigeträchtigen Positionen – KI wirkt bei diesen Beispielen diskriminierend (siehe auch Antidiskriminierungsstelle des Bundes, 2025; HateAid, 2023; Münch, 2025).
Ein Algorithmus rechnet lediglich mit statistischen Wahrscheinlichkeiten. Das bedeutet, dass von generativer KI am häufigsten bereits bekannte und am weitesten verbreitete Bildsprache und Textarten produziert werden. Gerade Perspektiven von Minderheiten oder diskriminierten Gruppen finden infolgedessen deutlich weniger Eingang in das, was KI-Anwendungen uns ausgeben. Damit werden Normierungen verstärkt und Ausschlüsse hergestellt.
Katharine Mosene (Politikwissenschaftlerin am Alexander von Humboldt Institut für Internet und Gesellschaft sowie am Leibniz-Institut für Medienforschung │ Hans-Bredow-Institut) sagt dazu:
Generative KI-Systeme operieren auf der Grundlage statistischer Wahrscheinlichkeiten: Sie berechnen, welche Abbildung mit größter Wahrscheinlichkeit gesucht wird oder welches Wort als Nächstes kommt. In der Folge reproduzieren sie bevorzugt jene Bild- und Sprachmuster, die in den Trainingsdaten besonders häufig und dominant vertreten sind. Dies führt dazu, dass insbesondere bereits etablierte, hegemoniale Darstellungsweisen verstärkt werden, während Perspektiven marginalisierter oder diskriminierter Gruppen systematisch unterrepräsentiert bleiben. KI-Anwendungen tragen damit zur Stabilisierung bestehender Normen bei und wirken an der (Re-)Produktion sozialer Ausschlüsse mit. KI-Systeme entstehen nicht im luftleeren Raum, sondern sind in globale Macht- und Produktionsverhältnisse eingebettet. Sie werden maßgeblich im Globalen Norden entwickelt, in einer von großen Technologieunternehmen dominierten Industrie, deren Perspektiven historisch und gegenwärtig stark von weißen, männlich geprägten Akteursgruppen bestimmt sind. Diese strukturellen Bedingungen prägen nicht nur die Datengrundlagen, sondern auch die epistemischen und normativen Setzungen, die in KI-Systeme eingeschrieben sind, und tragen so zur Reproduktion hegemonialer Wissensordnungen bei. [1]
Praxistipps für diversitätssensibles Prompten von Hannah Lutat
Durch reflektiertes Prompten können wir zum Beispiel Bilder realistischer, Angebote und Texte vorurteilsfreier gestalten. Hier die wichtigsten Tipps zum diversitätssensiblen Prompten von Hannah Lutat (Referentin und Trainerin für Rassismuskritik und Empowerment, Digitale Ethik und Critical AI) [2]:
„1. Vor dem Prompten reflektieren: Wen denke ich automatisch mit? Wen lasse ich unbewusst weg? Welche Norm setze ich als selbstverständlich? Kann ich Diversität explizit mitformulieren?
2. Diversität bewusst formulieren: Beschreibe Vielfalt über konkrete Dimensionen (zum Beispiel unterschiedliche Altersgruppen, Körperlichkeit, Geschlechteridentitäten, neurodiverse Ausprägungen) ohne Unterdrückungsmechanismen, dominante Normvorstellungen oder dabei zu stereotypisieren oder zu rassifizieren.
3. Keine Klischees oder Zuschreibungen: Bitte explizit um Darstellungen ohne stereotype Rollenbilder oder vereinfachende Generalisierungen.
4. Tokenismus vermeiden: Keine symbolische „Eine Person pro Gruppe“-Diversität; stattdessen realistische, vielfältige Zusammensetzungen.
5. Selbstbezeichnungen respektieren: Verwende empowernde Formulierungen wie etwa „Menschen mit …“, „Personen, die sich identifizieren als …“ statt festschreibender Labels.
6. Barrierefreiheit mitdenken: Frage nach inklusiven Formaten (Alt-Text, Plain-Text-Version, hohe Lesbarkeit, Screenreader-Kompatibilität) und inklusiven Darstellungen sichtbarer Hilfsmittel (zum Beispiel Rollstuhl, Hörgerät).
7. Neutrale, inklusive Sprache: Nutze geschlechtergerechte, nicht ausschließende und wertfreie Begriffe („Menschen“ oder „Personen“ statt „Frauen und Männer“).
8. Reflexive Sicherheitsfrage: Füge am Ende hinzu: „Falls unsicher: Bitte Diversitätsbedenken benennen und alternative, diskriminierungskritische Optionen vorschlagen.“ Frage das Modell auch „Bei Unklarheiten und Unsicherheiten bitte Nachfragen an mich stellen“.
9. Das Ergebnis der KI sollte korrigiert und angepasst werden.“
Diversitätssensibles Prompten in der politischen Bildung
Künstliche Intelligenz ist ein großes Thema, das zurzeit in vielen Bildungsbereichen Einzug hält, im Alltag jedoch längst angekommen ist. Die Landeszentrale für politische Bildung Niedersachsen legt in ihren Angeboten Wert darauf, dass diese möglichst praxisnah sind und konkrete Handlungsvorschläge beinhalten. Daher eignet sich das Thema Prompten in der Auseinandersetzung mit KI so gut als Ansatzpunkt für die Vermittlung politischer Medienkompetenz.
In der Beschäftigung mit der Macht der Techkonzerne und den Funktionsweisen von KI können Ohnmachtsgefühle entstehen. Hier geht es auch darum, ihnen Handlungsfähigkeit entgegenzusetzen. Außerdem lassen sich dabei bereits viele weiterführende Fragen stellen: Wie funktionieren KI-Systeme? Warum erfinden KI-Anwendungen so viel? Wie steht es um den Datenschutz? Welche Interessen haben die Techkonzerne? Wie demokratisch sind die Strukturen in der Entwicklung von KI? Wie werden wir der diversen Realität, in der wir leben, gerecht und können Diskriminierung entgegenwirken? Und da jeder einzelne Prompt im Hintergrund Energie kostet, können wir auch den Ressourcenverbrauch der KI-Nutzung in den Blick nehmen.
Wir benötigen Austauschräume darüber. Die schnelle Entwicklung von KI stellt alte Fragen mit neuer Dringlichkeit und erfordert eine kritische wie empowernde Auseinandersetzung damit. Reflektiert zu prompten und genau zu formulieren, was wir wollen, ist ein erster Schritt.
Weiterlesen können Sie auf politische-medienkompetenz.de, zum Beispiel den Artikel von Katharina Mosene zum Thema KI und Intersektionalität.
Fußnoten
[1] Zitat für diesen Artikel von Katharina Mosene per E-Mail an Katherine Arp.
[2] Zusammengestellt aus Workshopmaterialien „Diversitätssensibel Prompten“ von Hannah Lutat.
Literatur
Antidiskriminierungsstelle des Bundes (02. September 2025). Pia Sombetzki zu Diskriminierung durch Künstliche Intelligenz (KI), wie man sie erkennt und wie man sich wehren kann [Zugriff am: 13.04.2026].
Castillo-Hermosilla, M. et al. (2024). KI-Normierte Schönheit. Von bestehenden Idealen zu neuen Normen: Die Wirkung von KI-basierten Schönheitsfiltern [Zugriff am: 13.04.2026].
HateAid (31. Juli 2023). Rassismus im Code: Wie KIs Vorurteile verstärken [Zugriff am: 13.04.2026].
Münch, M. (17. September 2025). Künstliche Intelligenz und Diskriminierung [Zugriff am: 13.04.2026].
© Bildnachweis: mit Midjourney generiertes Bild
Dieser Beitrag erschien ursprünglich in der Zeitschrift „Politik Unterrichten" der Deutschen Vereinigung für Politische Bildung e.V. (Landesverband Niedersachsen). Wir danken den Herausgeber*innen und der Autorin für die Erlaubnis, den Beitrag hier wiederzuveröffentlichen.
