Vorurteil und Gerechtigkeit

Gewinne:

• Versteht, dass Daten die Hauptquelle für KI-Voreingenommenheit sind
• Erkennt die Risiken, die Voreingenommenheit am Arbeitsplatz mit sich bringen kann
• Setzt Maßnahmen um, die ergriffen werden können, um Vorurteile abzubauen

KI erscheint als neutrale, objektive Maschine; aber die Wahrheit ist viel komplexer. KI-Systeme lernen menschliche Vorurteile in den Daten, auf denen sie trainiert werden, und verstärken und reproduzieren diese manchmal. Vorurteile sind die Tendenz eines Systems, bestimmte Personen oder Gruppen systematisch zu bevorzugen oder auszuschließen. In dieser Einheit gehen wir der Frage nach, woher Vorurteile kommen, welche konkreten Risiken sie am Arbeitsplatz mit sich bringen und was man dagegen tun kann. Dabei geht es nicht nur um „Ethik“; Es handelt sich um eine praktische Geschäftsangelegenheit, die bei unsachgemäßer Handhabung rechtliche, kommerzielle und Reputationsrisiken birgt.

Woher kommen Vorurteile?

Die Informationen eines Sprachmodells stammen aus den riesigen Texten, die Menschen produzieren. Diese Texte enthalten das gesamte Wissen über die menschliche Gesellschaft sowie alle ihre Stereotypen, Ungleichgewichte und historischen Ungleichheiten. Das Modell unterscheidet nicht zwischen „guten“ und „schlechten“ Mustern; Es lernt, was in den Daten enthalten ist.

Beispiel: Wurden in früheren Texten bestimmte Berufe überwiegend mit einem Geschlecht assoziiert (z. B. „Krankenschwester“ mit weiblich, „Ingenieur“ mit männlich), lernt das Modell diese Assoziation. Sie neigt möglicherweise dazu, ein männliches Pronomen zu wählen, wenn sie den Satz vervollständigt: „Ein Ingenieur kam ins Büro, er …“ Das Modell ist nicht böswillig; es spiegelt lediglich das Ungleichgewicht in den Daten wider.

Die Verzerrung ist also hauptsächlich darauf zurückzuführen, dass es sich um einen Spiegel der Daten handelt und nicht um einen bewussten Programmierfehler. Das Problem als „Jemand hat schlechten Code geschrieben“ zu erklären, ist irreführend. Das Problem besteht darin, dass sich das Ungleichgewicht in der Welt auf die Daten und von dort auf das Modell auswirkt.

Greifbare Risiken am Arbeitsplatz

Bereich

Gefahr der Voreingenommenheit

möglicher Schaden

Rekrutierung

Erfahren Sie den Trend in historischen Daten und eliminieren Sie bestimmte Gruppen

Rechtsfall, Fähigkeitsverlust

Kundenkommunikation

Stereotype oder ausschließende Sprache

Reputationsverlust, Kundenflucht

Kredit/Risiko

Die Ungleichheiten der Vergangenheit aufrechterhalten

Diskriminierung, Sanktionen

Leistungsbewertung

Verzerrung der Daten in die Entscheidung einfließen lassen

Unfaire Beförderung/Bonus

Inhalt/Marketing

Machen Sie eine bestimmte Gruppe unsichtbar

Markenschaden

Drei Mini-Hüllen

Fall 1 – Die Anzeige schränkte die Sprache ein. Ein Unternehmen begann, Stellenausschreibungen mit KI zu drucken. Nach einiger Zeit fiel auf, dass die Anzeigen mit Ausdrücken wie „jung und dynamisch“, „aggressive Zielgruppe“ ein bestimmtes Profil ansprachen und so die Vielfalt der Bewerbungen reduzierten. Das Team hat einen Schritt hinzugefügt, der jeden Beitrag auf „inklusive Sprache“ überprüft; Die Vielfalt der Bewerber hat innerhalb weniger Monate deutlich zugenommen.

Fall 2 – Versteckte Voreingenommenheit in der Zusammenfassung. Ein Manager ließ die KI 30 Mitarbeiter-Feedbacks zusammenfassen. Die Zusammenfassung schien die negativen Kommentare auf ein bestimmtes Team zu konzentrieren; wohingegen in den Rohdaten die Situation ausgeglichen war. Das Modell hat mehrere starke Aussagen übertrieben. Als der Manager zurückkam und die Rohdaten überprüfte, vermied er es, eine falsche Vorstellung zu machen.

Fall 3 – Das Inklusionsmandat hat funktioniert. Ein Marketingteam standardisierte die Anweisung im Kampagnentext, um „eine umfassende, nicht spezifische Geschlechter-/Alters-/Gruppensprache zu verwenden und Ihre Annahmen am Ende aufzulisten“. Formelhafte Ausdrücke in den produzierten Texten sind merklich zurückgegangen; Das Team musste nicht jede Ausgabe immer wieder manuell korrigieren.

Warum ist Voreingenommenheit schwer zu erkennen?

Das Heimtückischste an Vorurteilen ist, dass sie oft unsichtbar sind. Die Ausgabe sieht reibungslos, professionell und vernünftig aus. Die darin enthaltene Tendenz wird erst deutlich, wenn man genau hinschaut oder ihre Auswirkungen auf verschiedene Gruppen misst. Es ist irreführend, anhand eines einzelnen Beispiels zu sagen: „Hier liegt keine Voreingenommenheit vor“. Voreingenommenheit manifestiert sich oft nicht in einzelnen Beispielen, sondern in der allgemeinen Tendenz des Systems.

Achtung: Die Annahme „Ich bin neutral, also ist auch das Werkzeug, das ich verwende, neutral“ ist gefährlich. Die Neutralität des Tools hängt von den Trainingsdaten und deren Überprüfung ab, nicht von Ihrer Absicht.

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwache Aufforderung: Beschreiben Sie den idealen Kandidaten für diese Position.

Ergebnis: Das Modell stützt sich möglicherweise auf Stereotypen und stellt ein bestimmtes Profil als „ideal“ dar.

Starke Aufforderung: Listen Sie nur messbare Kompetenzen für diese Position auf, die für die Stelle wirklich relevant sind. Benutzen Sie keine Merkmale, die nicht mit der Stelle in Zusammenhang stehen, wie Geschlecht, Alter, Familienstand, Heimatort. Schreiben Sie abschließend unter der Überschrift „Annahmen, die ich vermeide“ auf, was Sie ausgelassen haben.

Ergebnis: Die Bewertung beschränkt sich auf berufsbezogene Kriterien, irrelevante Merkmale werden ausgeschlossen.

Vorlagen zur Reduzierung von Verzerrungen

Überprüfen Sie den Text unten auf eine umfassende Sprache. Kennzeichnen Sie Aussagen, die Geschlecht, Alter, ethnische Zugehörigkeit, Behinderung oder eine bestimmte Gruppe implizieren, und schlagen Sie jeweils eine neutrale Alternative vor.Text: [hier einfügen]

Führen Sie diese Bewertung nur anhand dieser objektiven Kriterien durch: [Kriterien]. Berücksichtigen Sie keine anderen Informationen als diese Kriterien (Name, Geschlecht, Alter).

Listen Sie am Ende unter einer separaten Überschrift auf, welche Annahmen Sie in dem von Ihnen erstellten Text getroffen haben. So kann ich versteckte Vorurteile erkennen.

Bewerten Sie diesen Inhalt aus der Sicht von drei verschiedenen Lesergruppen und markieren Sie alle Aussagen, die eine von ihnen beleidigen/beleidigen könnten. Inhalt: [hier einfügen]

Häufige Fehler

Häufige Fehler

• Unter der Annahme einer „neutralen“ KI-Ausgabe. Auch wenn die Ausgabe neutral erscheint, kann es sein, dass sie eine gewisse Verzerrung in den Daten aufweist. Aktive Aufsicht ist erforderlich.
• Schauen Sie sich ein Beispiel an und sagen Sie: „Es gibt keine Voreingenommenheit.“ Vorurteile verbergen sich in der allgemeinen Tendenz des Systems.
• Überlassen Sie die Entscheidungsfindung mit großer Tragweite der unbeaufsichtigten KI. Menschliche Autorität ist bei Entscheidungen wie Einstellung, Beförderung und Kreditwürdigkeit von entscheidender Bedeutung.
• Vergessen, Inklusivität einzufordern. Wenn Sie dies nicht explizit in der Eingabeaufforderung anfordern, wird das Modell auf die Standardmuster zurückgesetzt.
• Es bedeutet „Die Maschine hat es gesagt.“ Derjenige, der die Entscheidung trifft, trägt auch die Verantwortung für die Folgen.

Gerechtigkeit liegt in der Verantwortung jedes Einzelnen

Der Kampf gegen Vorurteile ist nicht nur die Aufgabe des technischen Teams. Jeder Mitarbeiter, der KI-Ergebnisse nutzt, hat die Verantwortung zu hinterfragen, ob diese Ergebnisse fair sind. „Die Maschine hat es mir gesagt“ ist keine Entschuldigung; Derjenige, der die Entscheidung trifft, trägt auch die Verantwortung für die Folgen.

Zusammenfassend

• Die Hauptursache für KI-Voreingenommenheit ist nicht Böswilligkeit, sondern bestehende Ungleichgewichte und Stereotypen in den Trainingsdaten.
• Vorurteil; Es schafft ein echtes Rechts- und Reputationsrisiko in Bereichen wie Personalbeschaffung, Kundenkommunikation, Finanzen und Bewertung.
• Voreingenommenheit ist oft unsichtbar und in die Gesamtstruktur des Systems eingebettet. Die Betrachtung eines einzelnen Beispiels ist irreführend.
• Zur Reduzierung: Seien Sie aufmerksam, beschränken Sie Entscheidungen auf berufsbezogene Kriterien, fordern Sie ausdrücklich Inklusion, legen Sie bei Entscheidungen mit großer Auswirkung die menschliche Kontrolle fest.
• „Die Maschine hat es mir gesagt“ ist keine Entschuldigung; Für Fairness ist jeder verantwortlich, der den Output nutzt.

Anwendungsaufgabe

Sagen Sie der KI: „Beschreiben Sie einen idealen [jeden Beruf] Arbeitnehmer“ und markieren Sie, welche (vielleicht unnötigen) Annahmen in der Ausgabe getroffen wurden. Wiederholen Sie den Vorgang dann mit der obigen Vorlage „Berufsbezogene Kriterien“ und vergleichen Sie die beiden Ergebnisse auf Fairness.

Checkliste

• [ ] Ich verstehe, dass die Hauptquelle der Verzerrung Trainingsdaten sind.
• [ ] Ich kann die konkreten Risiken benennen, die Voreingenommenheit am Arbeitsplatz mit sich bringen kann.
• [ ] Ich weiß, dass Voreingenommenheit oft unsichtbar ist und dass die Betrachtung eines einzelnen Beispiels irreführend ist.
• [ ] Ich kann in der Aufforderung eindeutig nach Inklusivität und berufsbezogenen Kriterien fragen.
• [ ] Ich brauche die menschliche Aufsicht über Entscheidungen mit großer Auswirkung.