MLOps Foundation, Ethik, Datenschutz und verantwortungsvolle Analyse

Gewinne:

• Fähigkeit, MLOps-Phasen (Veröffentlichung, Bereitstellung, Überwachung, Umschulung, Rollback) und Modellabweichungen zu verstehen und eine überwachte Bereitstellung zu planen
• Fähigkeit, die Grundsätze der Modellgerechtigkeit, Transparenz und Rechenschaftspflicht anzuwenden und zwischen statistischer Genauigkeit und ethischer Akzeptanz zu unterscheiden
• Fähigkeit, personenbezogene Daten gemäß den KVKK/DSGVO-Grundsätzen zu schützen und die endgültige Verantwortung bei Entscheidungen mit großer Tragweite einem Menschen zu übertragen

Ein Model zu trainieren und einen Highscore zu erzielen, ist nicht das Ende, sondern die Mitte. Der wahre Wert ergibt sich, wenn das Modell in Produktion geht und zuverlässig funktioniert, über einen längeren Zeitraum hinweg ohne Verschlechterung überwacht wird und der gesamte Prozess innerhalb ethischer und rechtlicher Grenzen durchgeführt wird. Diese Abschlusseinheit vereint drei Themen: MLOps (die Disziplin des Go-Live, Überwachens und Pflegens von Modellen), Ethik (Fairness, Transparenz, Schadensfreiheit) und Privatsphäre (Schutz personenbezogener Daten). KI erstellt in diesen Bereichen Code, Checklisten und Blaupausen; Aber der Mensch entscheidet darüber, ob ein Modell live geht, wer davon betroffen ist und welche Daten verwendet werden können. Bei diesen Entscheidungen handelt es sich nicht um technische Entscheidungen, sondern um Verantwortungsentscheidungen.

MLOps: Das Modell lebt wie ein Produkt

MLOps (Machine Learning Operations – die Praxis des Ausführens, Überwachens und Aktualisierens von Modellen für maschinelles Lernen in der Produktion) ist die Anpassung von DevOps in der Softwareentwicklung an die Datenwissenschaft. Die Grundidee: Ein Modell ist keine Datei, die einmal trainiert und dann vergessen wird, sondern ein lebendiges Produkt, das ständige Wartung erfordert. Hauptetappen:

1. Versionierung: Code (Git), Daten und Modell werden gemeinsam versioniert; Es wird erfasst, welches Modell mit welchen Daten und Code hergestellt wurde.

2. Bereitstellung: Das Modell wird als API oder Batch-Job live geschaltet. Normalerweise wird es zuerst einem kleinen Publikum präsentiert (Schatten-/Kanarienvogelverteilung).

3. Überwachung: Die Leistung des Modells und der Eingabedaten werden ständig überwacht.

4. Neutraining: Wenn die Leistung sinkt, wird das Modell mit aktualisierten Daten neu trainiert.

Musterverschiebung: stille Verzerrung

Die größte Gefahr in der Produktion ist die Modelldrift (Modelldrift/Datendrift). Die Welt verändert sich; Die Bedingungen, unter denen Sie Ihr Modell trainiert haben (Kundenverhalten, Preise, Saison, Gesetzgebung), ändern sich im Laufe der Zeit und das Modell beginnt zu veralten. Beispielsweise ist ein vor der Pandemie trainiertes Nachfragemodell während der Pandemie völlig falsch. Drift tritt in zwei Formen auf: Datendrift (die Verteilung der Eingabedatenänderungen) und Konzeptdrift (die Beziehung zwischen Eingabe- und Zieländerungen). Der Weg, diese zu erfassen, ist die Überwachung: Verfolgen Sie ständig die Eingabeverteilung, die Vorhersageverteilung und (wenn möglich) die Leistung im Vergleich zum tatsächlichen Ergebnis.

Achtung: Ein in Produktion genommenes Modell wird sich von selbst verschlechtern; Es geht nicht um das „Ob“, sondern um das „Wann“. Die Bereitstellung von Modellen ohne Einrichtung einer Überwachung ist wie das Fahren eines Autos, ohne jemals den Motor zu steuern. Eines Tages sitzt es einfach still da und man merkt es nicht.

MLOps-Element

Zweck

Wenn es vernachlässigt wird

Versionierung

Wissen, was produziert wird

Nicht reproduzierbar, nicht nachverfolgbar

Überwachung

Den Ausrutscher früh sehen

Das Modell bricht lautlos zusammen

Umschulung

Bleiben Sie auf dem Laufenden

Vorhersagen werden alt

Rollback

Rückkehr zum schlechten Modell

Fehlerhaftes Modell bleibt aktiv

Dokumentation

Transparenz, Umsatz

Informationen bleiben bei einer Person hängen

Ethik: Modellentscheidungen betreffen Menschen

Datenmodelle werden zunehmend bei Entscheidungen eingesetzt, die sich auf das Leben von Menschen auswirken: Kredit, Einstellung, Versicherung, Justiz. Mit dieser Macht geht Verantwortung einher. Große ethische Risiken:

Voreingenommenheit und Diskriminierung: Das Modell kann lernen und Ungerechtigkeiten in historischen Daten aufrechterhalten. Wenn einer bestimmten Gruppe in der Vergangenheit weniger Anerkennung zuteil wurde, geht das Modell davon aus, dass dies eine „Regel“ ist und automatisiert die Diskriminierung. Aus diesem Grund ist eine Fairnessanalyse – also die Überprüfung, ob das Modell für verschiedene Gruppen (Geschlecht, Alter, Region) ähnlich funktioniert – unerlässlich.

Transparenz und Erklärbarkeit: Sie sollten erklären können, warum ein Model eine Person abgelehnt hat. „Die Black Box hat es gesagt“ ist ethisch und oft auch rechtlich inakzeptabel. Deshalb sind Erklärbarkeitstools (Merkmalsbedeutung, SHAP-Werte) wertvoll.

Rechenschaftspflicht: Wer ist verantwortlich, wenn das Model eine falsche Entscheidung trifft? Die Antwort ist immer eine Person/Institution, nicht ein Modell. Die menschliche Aufsicht (Human-in-the-Loop – ein Mensch, der die endgültige Entscheidung genehmigt) sollte bei Entscheidungen mit großer Auswirkung erhalten bleiben.

Achtung: Ein Modell kann statistisch „korrekt“, aber ethisch inakzeptabel sein. Ein hochpräzises Modell, das eine Gruppe systematisch benachteiligt, ist kein gutes Modell. Ehrlichkeit ist kein Ersatz für Gerechtigkeit.

Datenschutz: Persönliche Daten werden sorgfältig geschützt

Der Rohstoff der Datenwissenschaft sind häufig personenbezogene Daten, und diese Daten sind gesetzlich geschützt: KVKK in der Türkei, DSGVO in Europa. Die Grundprinzipien sind: Zweckbindung (Daten werden nicht für andere Zwecke als den Zweck verwendet, für den sie erfasst wurden), Datenminimierung (es werden nicht mehr Daten erfasst/aufbewahrt als nötig), Anonymisierung (identifizierende Informationen werden entfernt) und Sicherheit (Daten werden verschlüsselt aufbewahrt und der Zugriff ist eingeschränkt). Wichtige Regel bei der Arbeit mit KI-Tools: Fügen Sie niemals echte personenbezogene Daten in ein öffentliches KI-Tool ein. Meistens reichen für die Analyse ein Diagramm und eine anonyme/synthetische Stichprobe aus.

Ein zusätzlicher Schwerpunkt im Zusammenhang mit der Informationssicherheit: Verwenden Sie datenwissenschaftliche Tools und Techniken nur für Daten und Systeme, für die Sie die Autorität haben, für defensive und legitime Analysezwecke. Der unbefugte Zugriff auf die Daten anderer Personen, die Neuidentifizierung von Personen (Identitätsgewinnung aus anonymen Daten) oder die unbefugte Profilerstellung sind sowohl illegal als auch unethisch.

drei Mini-Koffer

Fall 1 – Unverfolgter Einsturz. Ein E-Commerce-Unternehmen hat sein Empfehlungsmodell eingeführt und kein Tracking eingerichtet. Nach 4 Monaten hat sich der Produktkatalog stark verändert; Das Modell empfahl weiterhin veraltete Produkte und die Conversion-Rate sank stillschweigend um 30 %. Monatelang bemerkte niemand etwas. Lektion: Bereitstellung ohne Überwachung führt zur Blindheit.

Fall 2 – Versteckte Diskriminierung. Ein Einstellungsscreening-Modell ermittelte in historischen Daten ein Ungleichgewicht zwischen den Geschlechtern und unterschätzte weibliche Kandidaten systematisch. Es wurde nicht bemerkt, weil es keine Fairnessanalyse gab; Dies wurde bei einer Prüfung aufgedeckt und das Institut war einem ernsthaften Reputations-/Rechtsrisiko ausgesetzt. Lektion: Gruppenbasierte Fairnesskontrolle ist in High-Impact-Modellen unerlässlich.

Fall 3 – Verletzung der Vertraulichkeit. Ein Analyst lud eine Datei mit echten Kunden-E-Mails und der Kaufhistorie in ein öffentliches KI-Tool und sagte: „Segmente zusammenfassen“. Personenbezogene Daten haben die Einrichtung verlassen; Der KVKK-Prozess hat begonnen. Der richtige Weg bestand darin, Identitätsfelder zu entfernen und nur anonyme Eigenschaften freizugeben. Lektion: Echte personenbezogene Daten gelangen nicht in das offene Tool.

Vier kopierbare Vorlagen

1) Checkliste vor der Bereitstellung:

Ihre Rolle: MLOps-Berater. Listen Sie die Dinge auf, die ich überprüfen muss, bevor ich ein Modell in Produktion bringe: Versionierung, Überwachungsmetriken, Rollback-Plan, Leistungsschwellenwert, Datenabweichungswarnung, verantwortliche Person. Fügen Sie für jedes Element eine einsätzige Erklärung hinzu, „warum es wichtig ist“. Ich werde entscheiden.

2) Design der Modellverschiebungsverfolgung:

Schlagen Sie einen Driftüberwachungsplan für ein Klassifizierungsmodell in der Produktion vor: (1) Welche Eingabeverteilungen sollte ich überwachen, (2) Welcher Alarm für die Vorhersageverteilung, (3) Wie wird die Leistung verglichen, wenn das tatsächliche Ergebnis eintrifft, (4) Bei welchem Schwellenwert soll eine Neuschulung ausgelöst werden? Stellen Sie außerdem ein Codegerüst bereit.

3) Fairnesskontrolle:

Schreiben Sie Code, der die Leistung meines Modells für verschiedene Gruppen (z. B. Altersgruppe, Region) vergleicht: Erinnerung/Präzision und positive Entscheidungsrate für jede Gruppe. Warnen Sie, wenn es einen signifikanten Unterschied zwischen den Gruppen gibt. Kausale/politische Interpretationen vornehmen; Zeigen Sie mir einfach die Unterschiede und ich werde über die Entscheidung nachdenken.

4) Datenschutz-Vorabprüfung:

Bevor Sie Daten an ein KI-Tool weitergeben, prüfen Sie: Sind in der folgenden Spaltenliste persönliche Daten/Identitätsdaten (Name, E-Mail, ID, Telefon, Adresse, IP) enthalten? Wenn ja, listen Sie auf, welche entfernt oder anonymisiert werden sollten. Spalten: [Liste]. Zweck: Nur anonymes Schema teilen.

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwache Eingabeaufforderung:

Mein Modell ist fertig, gehen Sie live.

Die Bereitstellung ist kein einzelner Schritt; Ohne Überwachung, Rollback, Fairness und Datenschutzkontrolle live zu gehen, ist eine stille Einladung zur Katastrophe.

Kraftvolle Aufforderung:

Ihre Rolle: Verantwortlicher MLOps-Berater. Mein Modell wurde trainiert, ich möchte eine vollständige Vorbereitung, bevor es live geht. Generieren Sie: (1) Checkliste vor der Bereitstellung, (2) Driftüberwachungsplan, (3) gruppenbasierter Fairness-Prüfcode, (4) Datenschutzprüfung (sind personenbezogene Daten vorhanden). Schlagen Sie außerdem vor, wie die menschliche Einwilligung bei Entscheidungen mit großer Tragweite geschützt werden kann. Die endgültigen Entscheidungen liegen bei mir.

Hierbei werden Vertrieb, Überwachung, Fairness und Datenschutz als ein einziger verantwortungsvoller Prozess behandelt.

Häufige Fehler

• Bereitstellen eines Modells ohne Einrichten der Überwachung. Das Modell verrutscht und verzerrt sich lautlos; Es kann Monate dauern, bis man es merkt.
• Umgehung der Gerechtigkeitskontrolle. Ein High-Fidelity-Modell kann eine Gruppe systematisch benachteiligen.
• Eine ungeklärte Black-Box-Entscheidung treffen. Entscheidungen mit großer Auswirkung müssen erklärbar sein; „Das Modell hat es gesagt“ reicht nicht aus.
• Geben Sie echte persönliche Daten an das offene KI-Tool weiter. Verstoß gegen KVKK/DSGVO; Das Diagramm und das anonyme Beispiel reichen aus.
• Die Entscheidung an das Modell delegieren. Die Verantwortung liegt immer beim Menschen; Es wird eine wirkungsvolle menschliche Überwachung aufrechterhalten.

Tipp: Bevor Sie mit jedem Modell live gehen, stellen Sie eine Frage laut: „Wenn dieses Modell morgen stillschweigend kaputt geht oder eine Gruppe zu Unrecht bestraft, wie kann ich es dann bemerken und zurücksetzen?“ Wenn Sie auf diese Frage keine eindeutige Antwort haben, ist das Modell noch nicht serienreif.

Zusammenfassend

Der Job eines Models endet nicht mit einer hohen Punktzahl, sondern mit der zuverlässigen und verantwortungsvollen Arbeit in der Produktion. MLOps ist die Disziplin des Go-Live, der Überwachung auf Abweichung, des Neutrainings und des Rollbacks des Modells; Eine Bereitstellung ohne Nachverfolgung ist ein stiller Zusammenbruch. Ethik erfordert Fairness, Transparenz und Rechenschaftspflicht des Modells; Statistische Genauigkeit ist kein Ersatz für ethische Akzeptanz. Datenschutz bedeutet, personenbezogene Daten gemäß den KVKK/DSGVO-Grundsätzen zu schützen und echte Daten von offenen Tools fernzuhalten. Alle diese Entscheidungen sind keine technischen, sondern Verantwortungsentscheidungen und liegen immer in der Hand eines Menschen.

Anwendungsaufgabe

Stellen Sie sich das so vor, als würden Sie ein von Ihnen erstelltes (oder hypothetisches) Modell in Produktion bringen und vier Listen ausfüllen: (1) Checkliste vor der Bereitstellung, (2) Driftmetriken, die Sie verfolgen werden, (3) gruppenbasierter Fairness-Kontrollplan, (4) Datenschutzkontrolle. Schreiben Sie dann eine konkrete Antwort auf die Frage „Wie merke ich, dass es morgen lautlos kaputt geht und bekomme es zurück?“

Checkliste

• [ ] Stelle ich das Modell mit einer Überwachung (Schlupfwarnung) und einem Rollback-Plan bereit?
• [ ] Habe ich die Fairness-/Leistungslücke für verschiedene Gruppen überprüft?
• [ ] Habe ich den Menschen bei wichtigen Entscheidungen auf dem Laufenden gehalten?
• [ ] Habe ich personenbezogene Daten mit den KVKK/DSGVO-Grundsätzen geschützt und sie von offenen Tools ferngehalten?
• [ ] Habe ich die letztendliche Verantwortung einem Menschen übertragen, nicht dem Modell?

Modulprüfung

1. Ein Datenwissenschaftler fragt die künstliche Intelligenz: „Wie genau ist Random Forest auf diesen Daten?“ ohne das Modell überhaupt zu trainieren, und fügt die Antwort „89 %“ direkt in die Präsentation ein. Was ist der grundlegende Fehler in diesem Ansatz?

• A) Warten auf Metriken, ohne Daten und Modelle an künstliche Intelligenz weiterzugeben; Ignorieren, dass die Zahl, die es erzeugt, gefälscht ist und dass die wahre Metrik nur durch Training und Tests ermittelt werden kann ✔
• B) Es muss eine logistische Regression anstelle einer zufälligen Gesamtstruktur verwendet werden
• C) Die Genauigkeit muss immer über 90 % liegen.
• D) Es ist strengstens verboten, Metriken in die Präsentation einzubeziehen

Erläuterung: Künstliche Intelligenz kann keine Metrik erstellen, ohne auf das Modell und die Daten zuzugreifen; Die von ihm angegebene Zahl ist eine (erfundene) Halluzination. Die Metrik wird durch die eigene Berechnung des Datenwissenschaftlers erst ermittelt, nachdem das Modell tatsächlich trainiert und getestet wurde. Eine nicht verifizierte Ausgabe ist wie ein nicht signierter Bericht.

2. Die Spalte „Grund für die Kontoschließung“ wird bei der Erfassung von Daten für eine Abwanderungsprognose einbezogen. Diese Spalte wird erst gefüllt, nachdem der Kunde gegangen ist. Das Modell liefert im Testsatz 97 %, funktioniert aber nicht in der Produktion. Was ist der Name und die Ursache dieser Erkrankung?

• A) Überlernen; Das Modell ist zu komplex
• B) Datenleck; ✔ Verwendung von Informationen, die zum Zeitpunkt der Vorhersage nicht verfügbar sind, aber das Ergebnis des Ziels sind, als Merkmal
• C) Unzureichendes Lernen; Das Modell ist zu einfach
• D) Auswahlverzerrung; kleine Stichprobengröße

Erläuterung: Dies ist ein klassisches Datenleck: Der „Abschlussgrund“ ist ein Ergebnis des Ziels und zum Zeitpunkt der Vorhersage noch leer. Das Modell schafft es mit diesem Zukunftswissen, es sieht auf dem Testsatz gut aus, stürzt aber in der Produktion ab, weil diese Spalte leer ist. Für jede Spalte sollte die Frage gestellt werden: „Habe ich es zum Zeitpunkt der Vorhersage?“

3. Ein Analyst ergänzt fehlende Werte in der Umsatzspalte mit dem Mittelwert; aber die vermissten Personen gehören tatsächlich zum einkommensschwachen Segment, das nie ein Einkommen angegeben hat (systematisches Vermissen). Warum ist diese Füllung falsch?

• A) Der Mittelwert ist immer größer als der Median und daher falsch
• B) Fehlende Werte sollten niemals ergänzt, sondern immer gelöscht werden
• C) Das Füllen der systematischen Lücke mit dem Mittelwert verzerrt die Daten, indem diese Gruppe künstlich dargestellt wird. Das Befüllen erfolgte ohne die Frage „Warum ist es leer?“ ✔
• D) Die Berechnung des Durchschnitts führt zu einem Leistungsproblem, da sie zu langsam ist

Erläuterung: Die Ursache des Mangels bestimmt die Lösung. Wenn das systematische Fehlen (auf eine bestimmte Gruppe konzentrierte Lücke) mit dem Durchschnitt gefüllt wird, wird diese Gruppe künstlich zum „Durchschnittseinkommen“ und die Daten werden verzerrt. Vor dem Ausfüllen sollte die Frage gestellt werden, warum es leer ist. Systematische/signifikante fehlende Mittelwerte sollten nicht ausgefüllt werden.

4. Ein Team stellt eine Korrelation von 0,78 zwischen „Werbeausgaben“ und „Verkäufen“ fest und verdoppelt das Budget. Der eigentliche Auslöser für beides sind jedoch saisonale Kampagnen. Welches statistische Prinzip erklärt diesen Fehler?

• A) Korrelation ist keine Kausalität; Eine versteckte dritte Variable kann sich auf beide Variablen auswirken ✔
• B) Da die Korrelation mit 0,78 zu gering ist, sollte der Zusammenhang ignoriert werden
• C) Korrelation beweist immer die Ursache, das Team hat es richtig gemacht
• D) Der Zusammenhang zwischen Werbung und Umsatz kann nicht mathematisch berechnet werden.

Erläuterung: Korrelation ist keine Kausalität. Die beiden Variablen können zusammenwirken, da eine verborgene dritte Variable (hier saisonale Kampagnen) beide beeinflusst. Die Schlussfolgerung, dass das eine das andere verursacht, kann nur durch Experimente und Feldkenntnisse festgestellt werden; Die Anzahl der Korrelationen allein ist kein Beweis für eine Kausalität.

5. Ein Betrugserkennungsmodell zeigt eine Genauigkeit von 99,2 % und das Team feiert; Allerdings beträgt die Rate gefälschter Transaktionen in den Daten nur 0,8 % und die Rückrufquote des Modells liegt bei 6 %. Was zeigt diese Tabelle?

• A) Das Modell ist perfekt, da die Genauigkeit über 99 % liegt
• B) Bei unausgeglichenen Daten ist die Genauigkeit irreführend. Das Modell übersieht fast alle Fälschungen (geringe Erinnerung), die entsprechende Metrik sollte angeschaut werden ✔
• C) Es gibt kein Problem, da die Rückrufrate des Modells hoch ist
• D) Es bestand keine Notwendigkeit, ein Modell zu bauen, da die Fälschungsrate gering war

Erläuterung: „Genauigkeit“ ist bei unausgeglichenen Daten irreführend. Wenn das Modell fast jede Transaktion als „sauber“ bezeichnet, erreicht es eine hohe Genauigkeit, da es nur sehr wenige Fälschungen gibt, aber es erkennt keine Fälschungen, was sein Hauptzweck ist (Recall 6 %). Daher liegt der Fokus bei unausgeglichenen Problemen nicht auf der Genauigkeit, sondern auf der Verwirrungsmatrix und den für den Zweck der Aufgabe geeigneten Metriken, wie z. B. Erinnerung/Präzision.

6. In einem Bedarfsprognoseprojekt werden zeitabhängige Daten zufällig in Schulungen/Tests aufgeteilt. Das Modell liefert eine Genauigkeit von 93 %, stürzt jedoch in der Produktion ab. Was sollte der richtige Divisionsansatz sein?

• A) Erweiterung des Testsatzes, z.B. Aufteilung 50 %/50 %
• B) Verwendung eines komplexeren Modells
• C) Entfernen Sie die Partition vollständig und trainieren Sie mit allen Daten
• D) Chronologische Aufteilung: Training mit der alten Periode und Testen mit der neuen Periode, wodurch verhindert wird, dass das Modell die Zukunft sieht ✔

Erläuterung: Wenn in Zeitreihendaten eine zufällige Division erfolgt, sieht das Modell die Zukunft und sagt im Training die Vergangenheit voraus; Es ist ein Leck und führt zu einem Erfolg, den es in Wirklichkeit nicht gibt. Der richtige Ansatz ist die chronologische Aufteilung: Training mit der alten Periode und Testen mit der neuen Periode, Nachahmung der realen Situation in der Produktion (Vorhersage von der Vergangenheit in die Zukunft).

7. Aus welchen Daten sollen Skalierungsparameter (StandardScaler) im Feature Engineering berechnet werden und wie sollen diese angewendet werden?

• A) Es sollte aus allen Daten (Training + Tests zusammen) berechnet werden, damit es genauer ist
• B) Er sollte für jede Zeile separat aus dem eigenen Wert dieser Zeile berechnet werden
• C) Sollte nur aus Testdaten berechnet werden
• D) Es sollte nur aus den Trainingsdaten berechnet werden, dann sollten die gleichen Parameter auf die Testdaten angewendet werden; sonst läuft es aus ✔

Erläuterung: Die Parameter aller Transformationen (Mittelwert, Standardabweichung usw.) wie Skalierung, Kodierung und Auffüllung sollten nur aus den Trainingsdaten gelernt werden, dann sollte das Gleiche auf die Testdaten angewendet werden. Die Berücksichtigung von Testdaten führt auch dazu, dass Testinformationen das Training beeinträchtigen, d. h. zu Lecks führen, und dass das Modell besser aussieht, als es ist. Die Verwendung von Pipeline stellt dies sicher.

8. Ein Modell liefert eine Genauigkeit von 98 % für den Trainingssatz und eine Genauigkeit von 72 % für den Testsatz. Worauf weist dieses Symptom hin und was ist zu tun?

• A) Unzureichendes Lernen; Das Modell sollte komplexer gestaltet werden
• B) Datenleck; Der Testsatz muss geändert werden
• C) Überanpassung; Das Modell sollte vereinfacht werden, Regularisierung und Kreuzvalidierung sollten angewendet werden ✔
• D) Eine normale Situation; Der Bildungswert ist ohnehin immer höher, Vorkehrungen sind unnötig

Erläuterung: Eine sehr hohe Punktzahl beim Training und eine deutlich niedrige Punktzahl beim Testen ist ein klassisches Symptom einer Überanpassung: Das Modell hat sich eher das Rauschen der Trainingsdaten als das tatsächliche Muster gemerkt. Zu den Lösungen gehören die Vereinfachung des Modells, mehr Daten, Regularisierung und die Überprüfung des Zustands durch Kreuzvalidierung. Wenn man sich ausschließlich auf den Bildungswert verlässt, verbirgt sich diese Gefahr.

9. In einer Managementpräsentation beginnt die Y-Achse eines Balkendiagramms, in dem der Umsatz von 1.000 auf 1.020 steigt, bei 980, um den Anstieg enorm erscheinen zu lassen. Die tatsächliche Steigerung beträgt 2 %. Warum ist das eine ethische Frage?

• A) Eine abgeschnittene Y-Achse übertreibt optisch einen kleinen Unterschied und führt den Betrachter in die Irre; Der Fairness halber sollte die Achse in den Vergleichsbalken bei 0 beginnen ✔
• B) Balkendiagramme können niemals für Verkaufsdaten verwendet werden
• C) Es gibt kein Problem; Es ist immer gut, das Diagramm eindrucksvoll aussehen zu lassen
• D) Die Y-Achse sollte immer beim größten Wert der Daten beginnen

Erläuterung: In Balkendiagrammen zu Vergleichszwecken sollte die Y-Achse im Allgemeinen bei 0 beginnen. Wenn man die Achse schneidet und bei 980 beginnt, wirkt ein kleiner Unterschied von 2 % optisch riesig und führt den Betrachter in die Irre. Die ethische Verantwortung des Datenexperten besteht darin, ehrliche Diagramme zu erstellen, die die Daten weder über- noch unterschätzen.

10. Ein Analyst ermittelt dreimal den Gesamtumsatz, nachdem er die Bestellungen mit der Produkttabelle verknüpft hat. Die Anzahl der Leitungen stieg von 240.000 auf 690.000. Was hätte getan werden müssen, um diesen stillen Fehler zu verhindern?

• A) Teilen Sie den Gesamtumsatz durch 3
• B) Verwenden Sie immer separate Abfragen anstelle von JOIN
• C) Die Produkttabelle vollständig löschen
• D) Überprüfen der Anzahl der Zeilen nach dem Zusammenführen/JOIN und Überprüfen, ob sie über den richtigen Schlüssel verbunden sind; Replikation frühzeitig erkennen ✔

Erläuterung: Wenn es in der Produkttabelle mehrere Zeilen für jedes Produkt (z. B. verschiedene Farben) gibt, wird durch JOIN über den falschen Schlüssel jede Bestellung dupliziert und die Gesamtsummen erhöht. Der Code läuft fehlerfrei, aber das Ergebnis ist falsch. Um dies zu vermeiden, überprüfen Sie die Anzahl der Zeilen nach jedem Zusammenführen/JOIN und führen Sie die Zusammenführung mit dem richtigen Schlüssel durch.

11. Ein Einstellungsscreening-Modell erkennt in historischen Daten das Ungleichgewicht zwischen den Geschlechtern und bewertet weibliche Kandidaten systematisch unterbewertet, aber seine Genauigkeit ist insgesamt hoch. Was bedeutet das?

• A) Es gibt kein Problem, da das Modell eine hohe Genauigkeit aufweist
• B) Statistische Genauigkeit ist kein Ersatz für ethische Akzeptanz; Das Modell hat von früherer Diskriminierung erfahren, eine gruppenbasierte Fairnessprüfung ist erforderlich ✔
• C) Eine weitere Erhöhung der Genauigkeit des Modells löst das Problem
• D) Fairness liegt außerhalb des Bereichs der Datenwissenschaft

Erläuterung: Auch wenn ein Modell statistisch korrekt ist, kann es ethisch inakzeptabel sein. Das Modell lernt die Ungerechtigkeit in früheren Daten und automatisiert die Diskriminierung. Hohe Integrität ist kein Ersatz für Gerechtigkeit; In High-Impact-Modellen ist die Fairnesskontrolle, die den Leistungs-/Entscheidungsunterschied für verschiedene Gruppen misst, von wesentlicher Bedeutung und die letztendliche Verantwortung liegt beim Menschen.

12. Ein Mitarbeiter lädt eine Datei mit echten Kunden-E-Mails und der Kaufhistorie in ein öffentliches KI-Tool hoch und sagt „Segmente zusammenfassen“. Warum ist das ein schwerwiegender Fehler und was ist der richtige Weg?

• A) Es gibt kein Problem; KI-Tools speichern niemals Daten
• B) Der Fehler besteht darin, dass die Datei zu groß ist; hätte reduziert werden sollen
• C) Die Bereitstellung echter personenbezogener Daten an ein offenes Tool stellt einen Verstoß gegen KVKK/DSGVO dar; Identitätsfelder sollten entfernt und nur anonyme Schemata/Eigenschaften gemeinsam genutzt werden ✔
• D) CSV hätte statt nur Excel verwendet werden sollen

Erläuterung: Wenn echte personenbezogene Daten (wie E-Mail, Name usw.) an ein öffentlich zugängliches Tool für künstliche Intelligenz weitergegeben werden, liegt eine Datenschutzverletzung im Sinne von KVKK / DSGVO vor; Daten verlassen die Organisation. Meistens reichen für die Analyse ein Diagramm und eine anonyme/synthetische Stichprobe aus. Der richtige Weg besteht darin, Identitätsfelder zu entfernen und nur anonyme Eigenschaften freizugeben.

13. Ein Empfehlungsmodell wird in Produktion genommen, aber die Nachverfolgung ist nicht etabliert. Wenn sich der Produktkatalog nach 4 Monaten ändert, empfiehlt das Modell weiterhin alte Produkte und die Conversion-Rate sinkt stillschweigend um 30 %. Wie heißt dieses Phänomen?

• A) Überlernen; Das Modell merkt sich den Trainingssatz
• B) Modelldrift; Wenn sich die Welt verändert, wird das Modell stillschweigend und unbemerkt obsolet, weil keine Überwachung etabliert ist ✔
• C) Auswahlverzerrung; Stichprobenverzerrung
• D) Verstoß gegen die Datenminimierung

Erläuterung: Dies ist Modelldrift (Modell-/Datendrift): Wenn sich die Welt ändert (Katalog, Verhalten, Jahreszeit), ändern sich die Bedingungen, unter denen das Modell trainiert wurde, und das Modell bricht stillschweigend zusammen. Ein in Produktion genommenes Modell verschlechtert sich von selbst; Es ist eine Frage des „wann“. Eine Bereitstellung ohne Überwachung (Nachverfolgung von Eingaben und Leistung) macht es unmöglich, eine Verschlechterung zu erkennen.

14. Ein Modell, das in einer einzelnen Trainings-/Testaufteilung eine Genauigkeit von 88 % erreicht, weist fünffache Kreuzvalidierungswerte von 88 %, 71 %, 83 %, 64 %, 79 % auf. Was bedeutet das und warum ist eine Kreuzvalidierung wichtig?

• A) Das Modell ist stabil; 88 % sind echte Leistung
• B) Eine Kreuzvalidierung ist nicht erforderlich. Ein Fach reicht aus
• C) Eine große Volatilität der Ergebnisse weist darauf hin, dass das Modell instabil ist. Die Kreuzvalidierung basiert auf der Leistung auf dem Durchschnitt und der Verteilung mehrerer Klassen, nicht auf einer einzigen glücklichen Klasse ✔
• D) Am besten melden Sie die höchste Punktzahl (88 %).

Erläuterung: Ein einzelnes Fach kann Glück oder Unglück bringen; 88 % waren nur das Ergebnis dieser einfachen Aufteilung. Bei der Kreuzvalidierung werden die Daten mehrfach aufgeteilt, wobei die Leistung auf dem Mittelwert (hier ~77 %) basiert und die Volatilität der Ergebnisse angezeigt wird. Eine hohe Volatilität deutet hier darauf hin, dass das Modell instabil ist; Sich auf ein einzelnes Fach zu verlassen, ist irreführend.