Vorurteile, Diskriminierung und Ethik: Faire und kulturell ansprechende Nutzung

Gewinne:

• Erkennen, wann KI durch Trainingsdaten, Framing, Doppelmoral und Schmeichelei Voreingenommenheit hervorruft
• Fähigkeit, eine Kontrolle gegen Voreingenommenheit mit neutralen Fragen, Evidenz-Stereotyp-Diskriminierung und Reverse-Angle-Test zu etablieren
• Fähigkeit, stigmatisierende Sprache in eine beschreibende und respektvolle Sprache zu übersetzen, indem kulturelles Wissen als Aufmerksamkeitspunkt und nicht als endgültige Regel genutzt wird

Die Daseinsberechtigung der Sozialen Arbeit ist Gerechtigkeit und Menschenwürde; Im Mittelpunkt des Berufs steht die Verpflichtung, dass jeder Einzelne gleichwertig ist, Diskriminierung bekämpft wird und schutzbedürftige Gruppen geschützt werden. Künstliche Intelligenz birgt ein Risiko, das genau diesen Werten stillschweigend schaden kann: Voreingenommenheit. KI lernt aus historischen Daten; Wenn diese Daten Ungleichheiten, Stereotypen und Diskriminierung in der Gesellschaft umfassen, lernt die KI diese und gibt sie in einer fließenden, „objektiv“ aussehenden Sprache wieder. In den Händen eines Sozialarbeiters kann dies zu einer systematisch negativeren Bewertung einer Gruppe, einer Stereotypisierung einer Familie oder einem Missverständnis einer Kultur führen. In dieser Einheit lernen Sie, KI-Voreingenommenheit zu erkennen, dagegen vorzugehen und KI mit Fairness und kultureller Sensibilität einzusetzen.

Eine Tatsache von Anfang an: KI ist nicht neutral, sie erscheint neutral. Die gefährlichste Voreingenommenheit ist diejenige, die in selbstbewusster und professioneller Sprache präsentiert wird; weil es ohne Frage akzeptiert wird. Ihre Aufgabe als Sozialarbeiter ist es, diese unsichtbare Voreingenommenheit sichtbar zu machen und zu überwachen, ob die Ergebnisse im Widerspruch zu Ihren beruflichen Werten stehen.

Woher kommt der KI-Bias und wie sieht er aus?

• Verzerrung der Trainingsdaten. KI lernt aus Texten, die Ungleichheiten in der Gesellschaft widerspiegeln. Stereotype über bestimmte ethnische Gruppen, Arme, Behinderte, bestimmte Viertel oder Geschlechter können in die Ausgabe einfließen.
• Sprach- und Framing-Bias. KI kann eine Gruppe als passiv, „problematisch“ oder als „hilfebedürftiges Objekt“ einstufen; eine andere Gruppe als Subjekte. Das gleiche Verhalten kann von einer Gruppe als „kulturell“ und von einer anderen Gruppe als „problematisch“ interpretiert werden.
• Mangelnde Repräsentation. KI kann Gruppen, die in den Daten unterrepräsentiert sind (kleine Populationen, seltene Fälle), möglicherweise ungenau oder oberflächlich verstehen.
• Schmeichelei (Speichelei). Die KI tendiert dazu, Ihre implizite Ansicht zu bestätigen; Eine voreingenommene Frage bringt eine voreingenommene Bestätigung mit sich.

Diese Vorurteile sind in der Sozialarbeit besonders gefährlich, da die Ergebnisse direkt das Leben realer Menschen berühren – eine Beurteilung, ein Bericht, eine Überweisung.

Achtung: „Die KI hat das so bewertet“ ist ein Warnzeichen, keine Rechtfertigung. Wenn Sie Ergebnisse sehen, die eine Gruppe oder Einzelperson negativ darstellen, lautet die erste Frage: „Basiert sie auf Beweisen oder auf Stereotypen?“ sollte sein.

Schritt für Schritt: Auditing gegen Voreingenommenheit

1. Fragen Sie neutral. Stellen Sie Fragen, die weder etwas bedeuten noch dazu führen; Nicht „erklären Sie, warum diese Familie nachlässig ist“, sondern „was könnten diese Beobachtungen bedeuten, was sind die alternativen Erklärungen?“ fragen.
2. Unterscheiden Sie zwischen Evidenz und Stereotyp. Fragen Sie bei jeder negativen Aussage: Basiert sie auf den konkreten Beweisen, die mir vorliegen, oder basiert sie auf einer allgemeinen Annahme über eine Gruppe?
3. Testen Sie aus dem entgegengesetzten Winkel. Stellen Sie sich die gleiche Situation für eine andere Gruppe vor: „Wenn der Kunde einen anderen sozioökonomischen/ethnischen Hintergrund hätte, würde die KI ihn dann in derselben Sprache schreiben?“
4. Suchen Sie nach kultureller Sensibilität. Fragen Sie nach dem kulturellen Kontext eines Verhaltens; Betrachten Sie kulturelles Wissen jedoch als Möglichkeit und als Vorsichtsmaßnahme, nicht als absolute Regel (Stereotypen vermeiden).
5. Reinigen Sie die Prägezunge. Übersetzen Sie es in eine Sprache, die die Situation beschreibt, nicht die Person, und auch die Stärken erkennt.

drei Mini-Koffer

Fall 1 – Der umgekehrte Winkel zeigte eine Voreingenommenheit. Ein Experte ließ KI zwei ähnliche Fälle zusammenfassen; Der einzige Unterschied war der sozioökonomische Status der Familien. YZ schrieb für die Familie mit niedrigem Einkommen im Ton „hohes Risiko der Vernachlässigung“ und für die Familie mit hohem Einkommen im Ton „Eltern werden zum Verhalten gezwungen“. Der Experte erkannte diese Doppelmoral und destillierte beide Einschätzungen in eine evidenzbasierte, gleichwertige Sprache.

Fall 2 – Kulturelle Fehlinterpretation korrigiert. YZ bezeichnete die Situation eines Kindes, das in einer Großfamilie lebt, als „Grenzprobleme und ein gemischtes häusliches Umfeld“. Der Experte wusste, dass die Großfamilie im kulturellen Kontext der Familie eine starke Quelle der Unterstützung und des Schutzes darstellt. KI hatte eine kulturelle Kraft in ein Problem verwandelt. Die Rezension wurde korrigiert, um diesen Support als Ressource anzuerkennen.

Fall 3 – Leitfrage erzeugte Voreingenommenheit. „Schreiben Sie auf, warum dieser Vater nicht vertrauenswürdig ist“, forderte ein Praktikant die KI. Die KI hat einen Text erstellt, der den Vater ohne jegliche Beweise negativ darstellt (Schmeichelei). Der Vorgesetzte modifizierte die Frage: „Was sind die Beobachtungen über den Vater, was könnten seine Stärken und Schwächen sein?“ Die Ergebnisse sind ausgewogen und evidenzbasiert. Lektion: Eine voreingenommene Frage führt zu einer voreingenommenen Antwort.

Vier kopierbare Vorlagen

1) Fordern Sie eine neutrale, ausgewogene Bewertung an:

Wenn Sie die folgenden Beobachtungen zusammenfassen, präsentieren Sie sowohl mögliche Stärken als auch mögliche Bedenken auf AUSGEWOGENE Weise und NUR auf der Grundlage von Beweisen. Ziehen Sie keine Schlussfolgerungen auf der Grundlage von Stereotypen. Wenn sich ein Kommentar nicht auf Beobachtungen stützt, schreiben Sie „unzureichende Beweise“. Beobachtungen: [Beobachtungen einfügen]

2) Bias-Prüfung (Gegenwinkeltest):

Schauen Sie sich den Rezensionstext unten an. Gibt es Aussagen, die ein unbegründetes Stereotyp aufgrund des sozioökonomischen Status, der ethnischen Zugehörigkeit, der Religion, des Geschlechts, der Behinderung oder der Nachbarschaft des Klienten vermitteln? Fragen Sie jeweils: „Wäre dies in derselben Sprache geschrieben, wenn der Kunde aus einer anderen Gruppe wäre?“ Problemsätze kennzeichnen.Text: [Text einfügen]

3) Kultureller Kontext (nicht stereotyp):

Geben Sie MÖGLICHKEITEN an, was das folgende Verhalten/die folgende Situation in verschiedenen kulturellen Kontexten bedeuten könnte. Geben Sie diese als zu berücksichtigende Punkte an, nicht als absolute Regeln; Betonen Sie, dass es in jeder Gemeinschaft individuelle Unterschiede gibt. Machen Sie keine Verallgemeinerungen über eine einzelne Gruppe. Situation: [Situation schreiben]

4) Prägende Zungenreinigung:

Suchen Sie im folgenden Text nach Adjektiven, die die Person verurteilen oder stigmatisieren (z. B. „nachlässig“, „unkooperativ“, „problematisch“). Ersetzen Sie für jeden die gleiche Tatsache durch eine Alternative, die beschreibend und respektvoll ist und die Stärken anerkennt. Neue Informationen hinzufügen.Text: [Text einfügen]

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwache Eingabeaufforderung:

Erklären Sie, warum diese Familie nicht in der Lage ist, Kinder großzuziehen.

Diese Frage setzt das Ergebnis von Anfang an voraus („ungenügend“). KI mit ihrem Hang zur Schmeichelei wird einen beweisfreien und voreingenommenen Text produzieren, der diese Annahme bestätigt. Wenn die Frage voreingenommen ist, wird auch die Antwort voreingenommen sein.

Kraftvolle Aufforderung:

Listen Sie auf der Grundlage der folgenden Beobachtungen sowohl die Stärken dieser Familie bei der Kindererziehung als auch die Problembereiche auf AUSGEWOGENE und rein evidenzbasierte Weise auf. Gehen Sie nicht von Anfang an vom Ergebnis aus; Wenn die Beweise nicht ausreichen, geben Sie dies an. Vermeiden Sie Stereotypen. Beobachtungen: [Beobachtungen einfügen]

Der Unterschied: Eine ausgewogene Frage, die nicht vom Ergebnis ausgeht und nach Beweisen fragt, verhindert von vornherein eine Verzerrung.

Arten von Voreingenommenheit und Gegenmaßnahmen

Art der Voreingenommenheit

Wie sieht es aus?

Gegenmaßnahme

Trainingsdaten

Gruppenstereotyp

Unterscheidung zwischen Beweisen und Mustern

Rahmen

Passive/negative Sprache

Ausgewogene, subjektzentrierte Sprache

Doppelmoral

Gleiches Verhalten, anderer Ton

Umkehrwinkeltest

kulturelle Blindheit

Kulturelle Macht zum Problem machen

Frage zum kulturellen Kontext

Schmeichelei

Bestätigen Sie die Implikation

Stellen Sie keine neutralen Fragen

mangelnde Repräsentation

Oberflächlich/Missverständnis

Bestätigung vor Ort/Experte

Häufige Fehler

• Voreingenommene Fragen stellen. Eine Frage, die eine Schlussfolgerung voraussetzt, führt zu einer voreingenommenen Antwort; neutrales Problem.
• Verlassen Sie sich auf eine sichere Sprache. Ein professioneller Ton macht die Voreingenommenheit nicht richtig; Schauen Sie sich die Beweise an.
• Kulturelles Wissen als maßgebliche Regel betrachten. Betrachten Sie es als einen Punkt der Möglichkeit und Aufmerksamkeit; Vermeiden Sie Stereotypen.
• Die Doppelmoral nicht bemerken. Testen Sie, wie das gleiche Verhalten in verschiedenen Gruppen geschrieben wird.
• Den Stempel als Beweismittel verwechseln. Es handelt sich um ein „fahrlässiges“ Urteil; Beschreiben Sie das Phänomen, beurteilen Sie nicht die Person.

Zusammenfassend

KI ist nicht neutral, sie erscheint neutral; Es reproduziert Ungleichheiten und Stereotypen in Bildungsdaten in fließender Sprache. In der Sozialen Arbeit kann dies zu unfairen Bewertungen realer Menschen führen. Erkennen Sie Voreingenommenheit (Trainingsdaten, Framing, Doppelmoral, kulturelle Blindheit, Schmeichelei), vergleichen Sie sie (neutrale Frage, Trennung von Beweisen und Mustern, Blickwinkelprüfung, kulturelle Sensibilität, Beseitigung von Stigmatisierung) und filtern Sie jede Ausgabe anhand der Werte des Berufsstandes wie Fairness und Ehre. Der letzte ethische Filter sind immer Sie.

Anwendungsaufgabe

Lassen Sie die KI den gleichen Satz fiktiver Beobachtungen mit zwei unterschiedlichen Gruppenprofilen (z. B. unterschiedlichem sozioökonomischen Status) zusammenfassen und mit dem „Reverse-Winkel-Test“ vergleichen, ob sich Töne/Sprache unterscheiden. Versuchen Sie dann eine neutrale Frage mit einer bewusst voreingenommenen Frage („Erklären Sie, warum sie unzureichend ist“) und untersuchen Sie die unterschiedlichen Ergebnisse. Wenden Sie abschließend die Vorlage „Wasserzeichen-Sprachreinigung“ auf einen Text an.

Checkliste

• [ ] Ich habe meine Fragen neutral formuliert, ohne vom Ergebnis auszugehen.
• [ ] Ich habe jede negative Aussage anhand der Evidenz-Stereotyp-Unterscheidung überprüft.
• [ ] Ich habe die Doppelmoral mit dem Umkehrwinkeltest überprüft.
• [ ] Ich habe kulturelles Wissen als Vorsichtsmaßnahme und nicht als absolute Regel herangezogen.
• [ ] Ich habe stigmatisierende Sprache durch beschreibende, respektvolle Sprache ersetzt.