Gewinne:
- Erkennen Sie anhand von Beispielen, wie kulturelle, geschlechtsspezifische und diagnostische Vorurteile in Modellen der künstlichen Intelligenz im Kontext der Psychologie Schaden anrichten
- Möglichkeit zur Implementierung einer Bias-Prüfung, die die Ausgabe für verschiedene Gruppen, Sprachen und Kulturen testet
- Fähigkeit, Aufforderungs- und Überprüfungstechniken zu entwickeln, die westlich zentrierte Normen und stigmatisierende Sprache korrigieren
Künstliche Intelligenz (KI) ist nicht neutral. Ein KI-Modell lernt aus einem riesigen Textberg im Internet, und die „Weltanschauung“ des Modells wird dadurch verzerrt, wessen Stimme es mehr und wessen Stimme weniger enthält. Diese Verzerrung wird Bias genannt. Voreingenommenheit ist in der Psychologie kein gewöhnlicher technischer Fehler; Es kann sich direkt auf die Beurteilung, Diagnose und Behandlung einer Person auswirken. Ein Symptom kann in einer Kultur als „normal“ und in einer anderen als „pathologisch“ interpretiert werden; Ein Verhalten kann bei einem Geschlecht als „Durchsetzungsvermögen“ und bei dem anderen als „Aggression“ beschrieben werden. KI kann diese historischen Vorurteile lernen und reproduzieren. In dieser Einheit lernen Sie, Voreingenommenheit in der KI im Kontext der Psychologie zu erkennen und die Ergebnisse für verschiedene Gruppen, Sprachen und Kulturen zu prüfen.
Woher kommen Vorurteile und wie schaden sie?
Es gibt drei Hauptquellen für KI-Voreingenommenheit:
- Ungleichgewicht der Trainingsdaten. Modelle werden überwiegend mit Texten einer bestimmten Sprache, Kultur und Zeit trainiert. Der Großteil der psychologischen Literatur stammt aus westlichen, gebildeten, industrialisierten Gesellschaften; Daher spiegelt die Annahme der KI vom „normalen Menschen“ diese enge Stichprobe wider.
- Einbeziehung historischer Vorurteile. Auch Texte, die in der Vergangenheit bestimmte Gruppen pathologisierten und stigmatisierten, fließen in die Daten ein; Das Modell lernt diese Muster.
- Mangelnde Repräsentation. Das Modell verfügt entweder über unzureichende oder stereotype Informationen über unterrepräsentierte Gruppen (unterschiedliche ethnische Zugehörigkeit, Sprache, sexuelle Orientierung, Behinderung).
Der Schaden ist greifbar: KI kann ein Symptom in einer Gruppe als schwerwiegender und in einer anderen als milder bewerten; kann einen kulturellen Ausdruck (Trauerritual, religiöse Erfahrung) fälschlicherweise als Symptom betrachten; Es kann zu stigmatisierender, klischeehafter Sprache kommen.
Achtung: Auch wenn ein Ergebnis der KI „objektive Wissenschaft“ zu sein scheint, kann es die Vorurteile enthalten, die es gelernt hat. Insbesondere wenn es um unterschiedliche Kulturen, Geschlechter, sexuelle Orientierungen und sozioökonomische Gruppen geht, betrachten wir jedes Ergebnis als „Ist das für alle Gruppen fair?“ Filtern Sie mit der Frage.
Spezifische Arten von Voreingenommenheit für die Psychologie
Art der Voreingenommenheit
Ansicht in der Psychologie
Risiko
kulturelle Voreingenommenheit
Westliche Normen als universell betrachten
Verwechseln Sie kulturellen Ausdruck nicht mit Pathologie
Geschlechtervoreingenommenheit
Je nach Geschlecht wird das gleiche Verhalten unterschiedlich interpretiert
diagnostische Ungleichheit
diagnostische Voreingenommenheit
Darstellung bestimmter Gruppen als „anfällig“ für bestimmte Diagnosen
Über-/Unterdiagnose
Sprachvoreingenommenheit
„Kompetenter“ in der dominanten Sprache, oberflächlicher in der anderen
Ungleiche Bewertung
Stempeln
Sprache, die die Person mit ihrer Diagnose identifiziert
entwürdigender Rahmen
Schritt für Schritt: Bias-Kontrolle
- Sie können die Ausgabe in „Für wen wurde es geschrieben?“ ändern. Frage. Wer ist das Standardthema? Er ist im Allgemeinen ein gebildeter, westlicher, „durchschnittlicher“ Typ.
- Testen Sie mit verschiedenen Gruppen. Wiederholen Sie dieselbe Aufforderung in verschiedenen Kultur-, Geschlechts- und Alterskontexten. Ändern sich die Kommentare?
- Scannen Sie die stigmatische Zunge. Korrekte Formulierung, die die Person mit ihrer Diagnose identifiziert („Person mit Schizophrenie“ statt „schizophren“).
- Fügen Sie kulturellen Kontext hinzu. Teilen Sie der KI den kulturellen/sprachlichen Kontext des Klienten mit und „betrachten Sie Ausdrücke, die in diesem Kontext möglicherweise normal sind, nicht als Pathologie.“
- Experten- und Community-Augen. Wenn Sie sich bei einem kulturellen Thema unsicher sind, wenden Sie sich an einen Kollegen, der sich mit dieser Kultur auskennt.
- Lass die Leute entscheiden. Nicht einmal die Voreingenommenheitsprüfung wird der KI überlassen; Das endgültige Urteil der Gerechtigkeit liegt bei Ihnen.
Tipp: Eine praktische Methode, um zu testen, ob eine Ausgabe verzerrt ist: Ändern Sie ein einzelnes Attribut (Geschlecht, Kultur, Alter) in der Eingabeaufforderung und stellen Sie dieselbe Frage erneut. Ändert sich mit dieser Änderung die Interpretation „unfair“, liegt eine Voreingenommenheit vor.
drei Mini-Koffer
Fall 1 – Pathologisierung des kulturellen Ausdrucks. Ein Fachmann teilt der KI mit, dass ein Klient aus einer anderen Kultur während des Trauerprozesses „mit dem Verstorbenen spricht“. KI stellt dies als „möglicherweise ein psychotisches Symptom“ dar. Dies ist jedoch ein üblicher und normaler Ausdruck von Trauer in der Kultur dieses Klienten. Der Experte lehnt den Output der KI ab, weil er den kulturellen Kontext kennt. Jemand, der den Kontext nicht kennt, könnte eine schwerwiegende Fehleinschätzung machen.
Fall 2 – Geschlechtsbias-Test. Ein Ermittler gibt der KI zweimal die gleiche Fallzusammenfassung; es verändert lediglich das Geschlecht der Person. In der „weiblichen“ Version betont die KI „emotionale Instabilität“, während sie in der „männlichen“ Version das gleiche Verhalten als „Stressreaktion“ darstellt. Dies zeigt deutlich die geschlechtsspezifische Voreingenommenheit des Modells. Der Forscher dokumentiert diesen Unterschied und nutzt die Ergebnisse mit diesem Bewusstsein.
Fall 3 – Korrektur stigmatisierender Sprache. KI sei eine „kranke Grenzlinie“, heißt es in einem Berichtsentwurf. Darin sieht der Facharzt eine stigmatisierende Sprache, die den Menschen mit seiner Diagnose identifiziert und in eine den Menschen in den Mittelpunkt stellende Sprache übersetzt, etwa „ein Individuum mit einem definierten Borderline-Persönlichkeitsmuster“. Eine kleine Änderung in der Sprache macht einen großen Unterschied und schützt die Würde des Klienten.
Kopierbare Eingabeaufforderungen und Vorlagen
Überprüfen Sie den folgenden Text auf Voreingenommenheit: Markieren Sie Aussagen, die auf kulturelle, geschlechtsspezifische, sexuelle Orientierung, Alter oder sozioökonomische Voreingenommenheit hinweisen. Zeigen Sie auch die Annahmen auf, die westliche Normen als universell betrachten. Schlagen Sie jeweils eine gerechtere Alternative vor.Text: [text]
Helfen Sie mir, die folgende Situation einzuschätzen, aber der kulturelle Kontext des Klienten ist [Kultur/Sprache]. In diesem Zusammenhang die Darstellung von Ausdrücken, die NORMAL sein könnten, als Pathologie; Wenn Sie sich über einen kulturellen Punkt nicht sicher sind, sagen Sie: „Das kann kulturell unterschiedlich sein, wenden Sie sich an einen Experten.“ Status: [anonymer Status]
Übersetzen Sie die stigmatisierenden Ausdrücke in diesem Text, die die Person mit ihrer Diagnose identifizieren (z. B. „schizophren“, „ein Grenzgänger“), in eine Sprache, die die Person in den Mittelpunkt stellt und ihre Würde wahrt. Ändern Sie nicht den Inhalt, sondern humanisieren Sie einfach die Sprache. Text: [Text]
Ich werde die folgende Fallzusammenfassung zweimal auswerten: einmal das Subjekt [Merkmal A], das andere [Merkmal B]. Gibt es einen unfairen Unterschied zwischen den beiden Bewertungen und wenn ja, ist dieser auf Voreingenommenheit zurückzuführen? Compare.Abstract: [anonyme Zusammenfassung]
Schwache Eingabeaufforderung / Starke Eingabeaufforderung
Schwache Eingabeaufforderung: „Ist das Verhalten dieses Kunden normal oder abnormal?“
Bei dieser Eingabeaufforderung wird nicht gefragt, für wen „normal“ gedacht ist; KI geht von einer westlich orientierten, unkultivierten „Normalität“ aus und kann den kulturellen Ausdruck pathologisieren.
Starke Aufforderung: „Dieser Klient befindet sich in einem [kulturellen/sprachlichen Kontext]. Erklären Sie, ob dieses Verhalten ein normaler Ausdruck in diesem kulturellen Kontext oder ein Zeichen ist, das Aufmerksamkeit erfordert, und besprechen Sie beides getrennt. Treffen Sie kein endgültiges Urteil; erinnern Sie mich daran, einen Experten zu konsultieren, der den kulturellen Kontext kennt.“
Diese Aufforderung stellt den Kontext in den Mittelpunkt, verhindert kulturelle Fehlinterpretationen und überlässt die Entscheidung dem Experten.
Häufige Fehler
- KI-Ergebnisse werden mit „objektiv“ verwechselt. Vergessen, dass das Modell voreingenommen ist, und das Ergebnis als wissenschaftliche Tatsache akzeptieren.
- Die westliche Norm als universell betrachten. Definition von „normal“ entsprechend einer einzelnen Kultur und Pathologisierung verschiedener Ausdrücke.
- Stigmatisierende Sprache nicht bemerken. Die Sprache, die die Person mit ihrer Diagnose identifiziert, wird als „Fachsprache“ verwechselt.
- Keine Prüfung auf Voreingenommenheit. Versuchen Sie nicht, dieselbe Eingabeaufforderung mit verschiedenen Gruppen auszuprobieren und die Konsistenz zu prüfen.
- Treffen Sie Entscheidungen allein in einer Kultur, die Sie nicht kennen. Ein Urteil fällen, ohne einen Kollegen zu konsultieren, der diese Kultur kennt.
Zusammenfassend
KI ist voreingenommen, weil sie aus den Texten einer voreingenommenen Welt lernt; In der Psychologie führt diese Voreingenommenheit zu spürbarem Schaden in Form von Kultur, Geschlecht, Diagnose, Sprache und Stigmatisierung. Vergleichen Sie jede Ausgabe mit der Frage „Ist das fair für alle Gruppen?“ belasten Sie es; Testen Sie dieselbe Eingabeaufforderung mit verschiedenen Gruppen. Fügen Sie Ihrer Eingabeaufforderung einen kulturellen Kontext hinzu. stigmatisierende Sprache in personenzentrierte Sprache umwandeln; Suchen Sie Experten-/Community-Blick auf eine Kultur, mit der Sie nicht vertraut sind. Das Urteil über Gerechtigkeit, einschließlich der Kontrolle von Voreingenommenheit, geht vom Menschen aus.
Anwendungsaufgabe
Erstellen Sie eine Fallzusammenfassung (anonym). Gib es der KI zweimal; Ändern Sie nur ein Merkmal (Geschlecht, Kultur oder Alter). Legen Sie die beiden Ausdrucke nebeneinander und prüfen Sie, ob unfaire Unterschiede vorliegen. Lassen Sie die KI außerdem stigmatisierende Formulierungen in einem Berichtsabsatz in personenzentrierte Sprache übersetzen und beachten Sie den Unterschied.
Checkliste
- [ ] Ändern Sie die Ausgabe in „Ist das fair für alle Gruppen?“ Ich habe die Frage gestellt.
- [ ] Ich habe die gleiche Eingabeaufforderung mit verschiedenen Gruppen/Kulturen getestet.
- [ ] Ich habe der Eingabeaufforderung den kulturellen Kontext hinzugefügt; Ich habe den kulturellen Ausdruck nicht pathologisiert.
- [ ] Ich habe die stigmatisierende Sprache in eine personenzentrierte Sprache umgewandelt.
- [ ] Ich habe den Rat eines Experten/Kollegen zu einem kulturellen Thema eingeholt, mit dem ich nicht vertraut war.
- [ ] Ich habe die endgültige Entscheidung über Fairness meinem eigenen Urteil überlassen, nicht der KI.