End-to-End-Integration, MLOps und Ingenieurverantwortung

Gewinne:

• Fähigkeit, ein KI-gestütztes Automobilprojekt vom Konzept bis zur Produktion zu entwerfen und es mit einem Überwachungszyklus zu warten
• Fähigkeit zur Bewertung des Modellversionsmanagements, der Datendrift und des Umschulungsbedarfs
• Fähigkeit, KI sicher zu skalieren und gleichzeitig die Verantwortlichkeit, Rückverfolgbarkeit und Dokumentation während des gesamten Projekts aufrechtzuerhalten

In der letzten Einheit dieses Moduls führen wir alle Teile zusammen. Wir haben gesehen, wie künstliche Intelligenz in einzelnen Einheiten eingesetzt wird, vom Design bis zur Produktion, vom Testen bis zur Lieferkette. Aber in einem realen Projekt handelt es sich dabei nicht um isolierte Schritte, sondern um einen Lebenszyklus: Daten werden gesammelt, das Modell erstellt, in Produktion genommen, überwacht und wenn es in die Jahre gekommen ist, wird es erneuert. Die Disziplin zur Aufrechterhaltung dieses Zyklus wird MLOps (Machine Learning Operations) genannt. Diese Einheit umfasst die Einrichtung, Aufrechterhaltung und Aufrechterhaltung der Verantwortung für ein KI-gestütztes Automobilprojekt vom Ende bis zum Ende.

Lebenszyklus eines KI-Projekts

Ein typischer End-to-End-Ablauf im Automobilkontext:

1. Problem- und Wertedefinition: Welches Geschäftsproblem lösen wir? Wie wird der Erfolg gemessen? Ist das eine sicherheitskritische Funktion?
2. Datenerfassung und -kennzeichnung: Quellen (CAN, Prüfung, Produktion, Telematik), Qualität, Vertraulichkeit.
3. Modellentwicklung: Attribut, Modell, Verifizierung (Leckagekontrolle, Einheitenkonsistenz).
4. Verifizierung und Sicherheitsbewertung: Unabhängige Tests, sofern ISO 26262/SOTIF erforderlich.
5. Bereitstellung: Bereitstellung des Modells auf der Appliance, online oder in der Cloud.
6. Überwachung: Leistung, Datendrift, Alarmgenauigkeit.
7. Umschulung: Aktualisierung des Modells, wenn es veraltet ist.
8. Dokumentation und Rückverfolgbarkeit: Aufzeichnung aller Schritte; wer, wann, warum.

Dieser Zyklus endet nicht ein für alle Mal; rotiert ständig. Im Automobilbereich ist es gefährlich, ein Modell „einzustellen und zu vergessen“.

Tipp: Zu Beginn des Projekts: „Wer überwacht dieses Modell, sobald es im Feld ist, mit welcher Metrik und wie oft?“ Wenn Sie die Frage nicht beantworten können, ist das Modell noch nicht serienreif.

Modellversionsverwaltung und Rückverfolgbarkeit

Rückverfolgbarkeit ist im Automobilbereich kein Luxus, sondern oft eine gesetzliche Verpflichtung. Wenn ein Problem auftritt, sollten Sie in der Lage sein, die Frage zu beantworten: „Welche Modellversion, mit welchen Daten wurde trainiert, wer hat es genehmigt?“ Gute Praktiken:

• Modellversionierung: Nummer, Trainingsdaten und Datum jedes Modells werden aufgezeichnet.
• Datenversionierung: Die Daten, auf denen trainiert wurde, werden eingefroren.
• Entscheidungsprotokoll: Die Genehmigung wurde von wem und mit welchen Nachweisen erteilt.
• Rollback-Plan: Sollte sich das neue Modell als schlecht erweisen, können Sie zum alten zurückkehren.

Artikel

Warum ist es notwendig?

Risiko bei Fehlen

Modellversion

Welche Version ist im Einsatz?

Das Problem lässt sich nicht nachvollziehen

Datenversion

Womit wurde er trainiert?

nicht reproduzierbar

Genehmigungsprotokoll

Wer ist verantwortlich?

kann nicht zur Verantwortung gezogen werden

rückgängig machen

Rückkehr von einer schlechten Version

Lange Ausfallzeiten im Feld

Datendrift und Modellverfall

Ein Modell ist eine Momentaufnahme der Welt, in der es trainiert wird. Doch die Welt verändert sich: Ein neuer Teilelieferant bringt eine andere Sensortoleranz mit, ein neues Fahrzeugmodell kommt auf den Markt, die Jahreszeiten ändern sich, die Fahrgewohnheiten ändern sich. Die Leistung des Modells nimmt stillschweigend ab, wenn sich die Verteilung der Eingabedaten von der Trainingszeit entfernt. Diese Datendrift und der daraus resultierende Leistungsabfall wird als Modellverfall bezeichnet.

Die Gefahr besteht darin, dass dieser Rückgang stillschweigend geschieht: Das Modell bricht nicht zusammen, macht keine Fehler, es wird nur immer mehr falsch. Deshalb:

• Überwachen Sie die Eingabeverteilung (Drift-Erkennung).
• Überwachen Sie Leistungskennzahlen mit echten Ergebnissen (waren die Alarme korrekt?).
• Lösen Sie eine erneute Schulung aus, wenn der Schwellenwert überschritten wird.

Achtung: Die Annahme, dass „ein einmal trainiertes Modell immer die gleiche Leistung erbringt“, ist im Automobilbereich falsch und riskant. Ein Modell, das ohne Driftüberwachung in Produktion geht, kann unwissentlich unzuverlässig werden.

Durchgängiges Beispielszenario: Flotte mit vorausschauender Wartung

Machen wir es konkret. Sie installieren ein Turboausfall-Frühwarnsystem für eine Frachtflotte:

1. Wert: Ausfallzeiten und Abschleppkosten reduzieren; Erfolg = tatsächlich erfasstes Fehler-/Fehlalarm-Gleichgewicht.
2. Daten: CAN-Signale von 40 Fahrzeugen, historische Fehleraufzeichnungen; Die VIN ist anonymisiert.
3. Modell: Anomalie + RUL; Verhinderung von Zeitreihenlecks; Der Unsicherheitsbereich wird dargestellt.
4. Verifizierung: Backtesting vergangener Fehler; Die Kosten für Fehlalarme wurden abgewogen.
5. Produktion: Tagespartitur in der Cloud; Panel an den Techniker.
6. Überwachung: Driftkontrolle bei Hinzufügung eines neuen Fahrzeugmodells; Alarmgenauigkeit wöchentlich.
7. Umschulung: Vierteljährliches Update mit neuem Fahrzeugtyp und neuen Fehlerbeispielen.
8. Dokumentation: Modellversion, Datenversion, registrierter Zertifizierungsingenieur.

Kein Schritt in diesem Ablauf sagt „KI hat entschieden, erledigt“; Für jede Phase ist eine Person verantwortlich.

Mini-Fallstudien

Fall 1 – Stiller Verfall. Ein Qualitätskontrollmodell funktioniert ein Jahr lang gut, dann steigt die Leckrate langsam an. Grundursache: Als der Lieferant wechselte, veränderte sich die Oberflächentextur des Teils leicht (Drift), und das Modell begann zu denken, dass dies „normal“ sei. Die Driftüberwachung wird eingerichtet und das Modell neu trainiert. Ergebnis: Ohne Überwachung wäre die Schwachstelle monatelang unbemerkt geblieben.

Fall 2 – Rückverfolgbarkeit gesichert. Aus dem Feld kommt eine Fehlalarmbeschwerde. Anhand des Entscheidungsprotokolls findet das Team heraus, welche Modellversion mit welchen Daten funktioniert; Es erkennt, dass das Problem von der Schwellenwerteinstellung in einer bestimmten Version herrührt, und setzt diese Version zurück. Ergebnis: Wenn keine Version und kein Entscheidungsdatensatz vorhanden waren, konnte das Problem nicht zurückverfolgt werden.

Fall 3 – Umschulung der Disziplin. Wenn ein neues Elektromodell in die Flotte aufgenommen wird, löst das bestehende Modell der vorausschauenden Wartung bei diesem Fahrzeug (einem Antriebsstrang, den es noch nie gesehen hat) viele Fehlalarme aus. Vor der Inbetriebnahme des neuen Modells erfasst das Team die Driftwarnung und erweitert das Modell um neue Fahrzeugdaten. Ergebnis: Durch die Driftüberwachung wurde die mit dem neuen Produkt einhergehende Verschlechterung frühzeitig erkannt.

Eingabeaufforderungsvorlagen

Vorlage 1 – Projektplanentwurf:

Rolle: KI-Projektleiter (Automotive).Aufgabe: Helfen Sie mir, ein KI-gestütztes Projekt durchgängig zu planen.Kontext: Vorausschauende Wartung; Flotte von 40 Fahrzeugen; VIN ist anonym. Einschränkung: Betrachten Sie die Schritte Wertdefinition, Daten, Modell, Verifizierung, Produktion, Überwachung, Umschulung und Dokumentation separat; Geben Sie an, wer für jeden Schritt verantwortlich ist.Ausgabe: Schritt | Ausgabe | verantwortlich | Risikotabelle.

Vorlage 2 – Überwachungsplan:

Rolle: Sie sind ein MLOps-Ingenieur. Aufgabe: Empfehlen Sie einen Überwachungsplan für ein im Einsatz befindliches Modell. Kontext: Die Inputverteilung kann sich im Laufe der Zeit ändern (neuer Lieferant, neues Werkzeug); Leistung kann anhand realer Ergebnisse gemessen werden.Ausgabe: Zu verfolgende Metrik | Schwelle | Aktion, die ausgelöst werden soll.

Vorlage 3 – Driftbewertung:

Rolle: Datenwissenschaftler. Aufgabe: Erklären Sie, wie Sie Datendrift erkennen und wann ein erneutes Training erforderlich ist. Kontext: Modell der visuellen Inspektion einer Produktionslinie; Es kann zu einem Lieferantenwechsel kommen. Ausgabe: Signal | Messung | Umschulungsauslöser.

Vorlage 4 – Checkliste zur Rückverfolgbarkeit:

Rolle: Sie sind ein Qualitäts-/Compliance-Auditor. Aufgabe: Erstellen Sie eine Rückverfolgbarkeits-Checkliste für ein Modell. Kontext: Automobil; Wenn ein Problem auftritt, sollte die Frage „Welche Version, welche Daten, wer hat es genehmigt“ beantwortet werden.Ausgabe: Artikel | warum ist es notwendig | So speichern Sie das Diagramm.

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwache Eingabeaufforderung:

Nehmen Sie das Modell in Produktion.

Kein Tracking, keine Versionierung, keine Verantwortlichkeit und keine Rollbacks; Stiller Verfall und unauffindbare Probleme sind unvermeidlich.

Kraftvolle Aufforderung:

Rolle: Sie sind ein MLOps- und Automotive-Qualitätsberater. Aufgabe: Erstellen Sie die Checkliste, die ich benötige, um ein Modell verantwortungsvoll in Produktion zu bringen. Kontext: Predictive Maintenance Flotte; Im Laufe der Zeit kommen neue Fahrzeugtypen hinzu; VIN anonym.Einschränkung: Einschließlich Überwachung, Abweichungserkennung, Versions-/Datenprotokollierung, Bestätigung und Rollback-Plan; Geben Sie an, wer für jeden Punkt verantwortlich ist; Vorschlag „einstellen und vergessen“. Ausgabe: Bühne | Notwendigkeit | verantwortlich | Risikotabelle.

Häufige Fehler

• „Einstellen und vergessen“-Ansatz. Ohne Überwachung zerfällt das Modell leise.
• Keine Versions-/Datenaufzeichnungen aufbewahren. Das Problem kann nicht zurückverfolgt oder reproduziert werden.
• Kein Rollback-Plan. Wenn die Wiederherstellung nach einer fehlerhaften Version lange dauert, kommt es zu einem langen Ausfall im Feld.
• Ich warte nicht auf Drift. Neuer Lieferant/Werkzeug/Saison stört das Modell; Überwachung ist unerlässlich.
• Die Verantwortung bleibt unklar. Die Antwort auf die Frage „Wer ist verantwortlich?“ sollte bei jedem Schritt klar sein.

Zusammenfassend

• Ein KI-gestütztes Automobilprojekt ist kein Einzelfall, sondern ein fortlaufender Lebenszyklus (MLOps).
• Modell- und Datenversionierung, Entscheidungsprotokollierung und Rollback-Planung sind für die Rückverfolgbarkeit unerlässlich.
• Datendrift widerlegt stillschweigend das Modell; Input und Leistung sollten überwacht und bei Bedarf umgeschult werden.
• Im End-to-End-Beispiel ist für jeden Schritt ein Mensch verantwortlich. Es gibt kein „KI hat entschieden, es ist vorbei“.
• „Einstellen und vergessen“ ist im Automobilbereich riskant; Überwachung, Dokumentation und Verantwortlichkeit werden während des gesamten Projekts aufrechterhalten.

Anwendungsaufgabe

Kombinieren Sie das, was Sie in diesem Modul gelernt haben, in einem einzigen Projekt (z. B. visuelle Inspektion einer Produktionslinie oder vorausschauende Wartung). (1) Entwerfen Sie einen End-to-End-Projektplan mit Vorlage 1; Notieren Sie für jeden Schritt die verantwortliche Person. (2) Definieren Sie einen Überwachungsplan und Abweichungsauslöser mit Vorlage 2. (3) Bereiten Sie eine Rückverfolgbarkeits-Checkliste mit Vorlage 4 vor. (4) Fassen Sie in einem Absatz zusammen, wie Sie die drei Ankerdisziplinen vom Beginn des Moduls an auf dieses Projekt angewendet haben.

Checkliste

• [ ] Ich habe das Projekt als End-to-End-Lebenszyklus geplant.
• [ ] Ich habe den Entscheidungsdatensatz mit Modell- und Datenversionierung definiert.
• [ ] Ich habe einen Überwachungsplan und Abweichungsauslöser festgelegt.
• [ ] Ich habe einen Rollback-Plan vorbereitet.
• [ ] Ich habe geklärt, wer für jeden Schritt verantwortlich ist.
• [ ] Ich habe die drei Ankervalidierungsdisziplinen und die menschliche sicherheitskritische Validierung beibehalten.

Modulprüfung

1. Welche Rolle spielt die KI-Ausgabe bei einer sicherheitskritischen Entscheidung im Automobilbereich (z. B. Überprüfung der Bremssoftware)?

• A) Beschleunigt die Analyse, aber die endgültige Genehmigung und Verantwortung liegt beim zuständigen Ingenieur ✔
• B) Wenn genügend Daten vorhanden sind, können sie ohne Genehmigung des Ingenieurs in Produktion genommen werden
• C) KI kann zu keinem Zeitpunkt in kritischen Systemen wie Bremsen eingesetzt werden
• D) Wenn die Modellgenauigkeit 99 % übersteigt, ist eine menschliche Überprüfung nicht erforderlich

Beschreibung: Künstliche Intelligenz beschleunigt die Analyse, generiert Kandidatenlösungen und Zusammenfassungen; Die sicherheitskritische Entscheidung und die endgültige Genehmigung liegen jedoch in der Verantwortung des zuständigen Ingenieurs. KI ist kein Ersatz für die Validierung durch Ingenieure.

2. Welche drei unabhängigen Prüfungen werden verwendet, um die Ausgabe einer KI in den drei Ankervalidierungsdisziplinen zu testen?

• A) Länge, Sprache und Format der Eingabeaufforderung
• B) Nachweis der Größenordnung, technische Angemessenheit und unabhängige Tests/Messungen ✔
• C) Größe des Modells, Trainingszeit und Anzahl der GPUs
• D) Marke, Preis und Lieferzeit des Lieferanten

Beschreibung: Drei Anker; Größenordnung (Order Check), technische Plausibilität (Physik/Erfahrung) und Kreuzvalidierung mit unabhängigen Test-/Messnachweisen. Diese drei schaffen Vertrauen in Beweise, nicht Vertrauen in KI.

3. Was ist die kritischste Überprüfung für die Ausgabe eines „Ersatzmodells“, das die CFD- oder FEA-Simulation beschleunigt?

• A) Das Ersatzmodell ist immer genauer als der reale Löser
• B) Es reicht aus, den Putz nur ästhetisch ansprechend aussehen zu lassen
• C) Vergleich mit der Referenzlösung und Akzeptanz der Unzuverlässigkeit bei Bewegung außerhalb des Trainingsraums ✔
• D) Es besteht keine Notwendigkeit, die Netzwerkunabhängigkeit zu berücksichtigen, wenn ein einzelner Lauf konvergiert

Beschreibung: Das Ersatzmodell erzeugt schnelle Vorhersagen anstelle des echten Lösers; Außerhalb des Designraums, in dem es trainiert wurde, ist es jedoch unzuverlässig. Die Ausgabe sollte überprüft werden, indem der Extrapolationsbereich mit einer Referenz-High-Fidelity-Simulation und physikalischen Randbedingungen markiert wird.

4. Wie lautet der korrekte Ausdruck für Level 2 (Teilautomatisierung) in den SAE-Automatisierungsstufen?

• A) Das Fahrzeug kann unter allen Bedingungen ohne Fahrer fahren
• B) Das System übernimmt keine Fahraufgaben, sondern gibt lediglich Warnungen aus
• C) Es ist in Ordnung, wenn er nicht auf dem Fahrersitz sitzt
• D) Das System unterstützt Lenkung und Geschwindigkeit, der Fahrer behält jedoch die ständige Aufsicht und Verantwortung ✔

Beschreibung: In Level 2 unterstützt das System Lenkung und Geschwindigkeit/Distanz gleichzeitig, der Fahrer behält jedoch die ständige Aufsicht und ist jederzeit zur Übernahme bereit; Die Verantwortung liegt beim Fahrer. Ab Level 3 übernimmt das System unter bestimmten Bedingungen die Fahraufgaben.

5. Warum ist die „Fluchtrate“ eine entscheidende Kennzahl bei der visuellen Fehlererkennung in der Produktionslinie?

• A) Die Genehmigung des defekten Teils und dessen Versand ins Feld birgt ein Sicherheits- und Rückrufrisiko ✔
• B) Es ist nur deshalb wichtig, weil es die Liniengeschwindigkeit verlangsamt
• C) Die Leckrate gilt nur für Lackfehler
• D) Die Leckrate misst die Trainingszeit des Modells

Beschreibung: Unzulässig; Ein fehlerhaftes Teil gilt als perfekt und passiert die Linie (falsch negativ). Bei einem Kfz-Sicherheitsteil ist eine Undichtigkeit weitaus kostspieliger als eine falsche Zurückweisung, da sie zu Ausfällen oder Rückrufen vor Ort führen kann; Der Schwellenwert wird entsprechend angepasst.

6. Was ist die genaueste Anwendung der Schätzung der „verbleibenden Nutzungsdauer“ (RUL) bei der vorausschauenden Wartung?

• A) RUL wird nur für Motoröl berechnet
• B) Es sollte mit einem Unsicherheitsbereich dargestellt und entsprechend dem Wartungsfenster und der Sicherheitsmarge ✔ interpretiert werden
• C) Es sollte als einzelner, präziser Tageswert angenommen werden und bis zu diesem Tag sollten keine Kontrollen durchgeführt werden.
• D) Sensoren können ausgeschaltet werden, wenn RUL hoch ist

Beschreibung: RUL ist die geschätzte verbleibende Betriebszeit einer Komponente bis zum Ausfall; Es sollte mit dem Unsicherheitsbereich dargestellt und entsprechend dem Wartungsplan und der Sicherheitsmarge interpretiert werden. Anstatt sich blind auf eine Einzelpunktschätzung zu verlassen, werden das Konfidenzintervall und die Kosten für Fehlalarme berücksichtigt.

7. Was sollte ein Ingenieur tun, wenn die KI bei der Testdatenanalyse eine Anomalie in der Aufzeichnung eines Straßentests erkennt?

• A) Wenn Sie die Anomalie sehen, sollte der Test automatisch als nicht erfolgreich betrachtet werden.
• B) KI sollte sich die Daten überhaupt nicht ansehen, wenn sie sie nicht markiert hat
• C) Überprüfen Sie die Anomalie anhand von Rohdaten, Messunsicherheit und Wiederholbarkeit ✔
• D) Anomalien löschen und den Bericht löschen

Erläuterung: Die Anomalie, die die KI anzeigt, ist ein Hinweis, keine Schlussfolgerung. Der Ingenieur muss die Messunsicherheit, die Möglichkeit eines Sensorausfalls und die Wiederholbarkeit prüfen und die Anomalie anhand von Rohdaten und Akzeptanzkriterien verifizieren. Eine automatische Annahme oder Ablehnung ist nicht angebracht.

8. Welcher Nachweis ist für eine von KI vorgeschlagene Materialänderung in einer Leichtbaustudie zwingend erforderlich?

• A) Es muss nur leichter sein
• B) Eine einzelne Zeile in der Materialdatenbank kann als Beweismittel herangezogen werden
• C) Das Crashverhalten spielt bei Leichtbaumaterialien keine Rolle
• D) Mechanische, Ermüdungs-, Crash-, Herstellbarkeits- und Kostenanforderungen sollten gemeinsam getestet werden ✔

Anmerkung: Materialempfehlungen können nicht allein aufgrund des Dichte-/Festigkeitsverhältnisses akzeptiert werden; Mechanische Eigenschaften, Ermüdung, Crashverhalten, Herstellbarkeit, Korrosion, Kosten und Sicherheitsanforderungen müssen gemeinsam überprüft und durch physikalische Tests bestätigt werden.

9. Warum erfordert das „Single-Source-Risiko“ in der Automobillieferkette besondere Aufmerksamkeit bei KI-Empfehlungen?

• A) Eine Störung bei einem einzelnen Lieferanten kann die gesamte Produktion stoppen; Zweite Quelle und Puffer sollten ausgewertet werden ✔
• B) Eine einzige Quelle ist immer die sicherste Option
• C) Eine Risikoanalyse ist nicht erforderlich, wenn die KI dies vorschlägt
• D) Das Single-Source-Risiko gilt nur für den Reifen

Erläuterung: Wenn ein Teil von einem einzigen Lieferanten stammt, stoppt die Produktion, wenn es ein Problem mit diesem Lieferanten gibt. KI kann eine einzige Quelle zur Kostenoptimierung empfehlen; Der Ingenieur/Planer muss dies mit Sekundärressourcen, Bestandspuffern und Szenarioanalysen abgleichen. Die Kosten sind nicht das einzige Kriterium.

10. Was bedeutet „Datenleck“ bei der Durchführung einer Telemetrieanalyse mit Python und warum ist es gefährlich?

• A) Daten werden von der Festplatte verloren und gelöscht
• B) Das Modell erkennt im Training Informationen, die zum Zeitpunkt der Vorhersage noch nicht bekannt sind. Bläht den Punktestand auf, kollabiert auf dem Spielfeld ✔
• C) Mischen grafischer Farben
• D) Kommt nur in Bilddaten vor

Beschreibung: Datenleck; Dies ist der Fall, wenn das Modell im Training Informationen erkennt, die zum Zeitpunkt der Vorhersage nicht tatsächlich bekannt sind (z. B. zukünftiger Wert oder zielbezogenes Attribut). Dadurch wird die Testpunktzahl künstlich erhöht, die Feldleistung wird jedoch beeinträchtigt. Die Unterscheidung zwischen Vergangenheit und Zukunft muss in der Zeitreihe sorgfältig eingehalten werden.

11. Was bestimmt die ASIL-Klassifizierung im Kontext der funktionalen Sicherheit nach ISO 26262?

• A) Höchstgeschwindigkeit des Fahrzeugs
• B) Größe des Trainingsdatensatzes des Modells
• C) ✔ Das erforderliche Sicherheitsniveau entsprechend der Schwere, Exposition und Beherrschbarkeit der Gefahr.
• D) Bonität des Lieferanten

Beschreibung: ASIL (Automotive Safety Integrity Level) bestimmt den Grad der Sicherheitsvorkehrungen (von A bis D, D ist der höchste), den eine Gefahr erfordert, basierend auf der Bewertung von Schweregrad, Exposition und Kontrollierbarkeit. Ein hoher ASIL erfordert eine strengere Entwicklung, Verifizierung und Dokumentation.

12. Inwiefern unterscheidet sich ISO 21448 (SOTIF) von der klassischen funktionalen Sicherheit (ISO 26262)?

• A) Behandelt nur Hardwarefehler
• B) Reguliert nur die Softwarelizenzierung
• C) SOTIF ist der alte Name von ISO 26262
• D) Behandelt Risiken, die sich aus unzureichender Funktionalität und unerkannten Szenarien ergeben, auch wenn kein Fehler vorliegt ✔

Beschreibung: Während sich ISO 26262 mit Risiken befasst, die durch Fehlfunktionen/Hardware-Software-Fehler entstehen, befasst sich SOTIF (Safety of the Intended Functionality) mit Risiken, die durch unzureichende Erkennung, unerkannte Szenarien und Funktionsgrenzen entstehen, selbst wenn das System überhaupt keine Fehlfunktion aufweist; ist bei der KI-basierten Erkennung besonders kritisch.

13. Was ist der beste Ansatz im Hinblick auf den Datenschutz bei der Arbeit mit Fahrer- und Fahrzeugtelemetriedaten?

• A) Einhaltung der KVKK/DSGVO mit Anonymisierung, Datenminimierung und Zweckbindung ✔
• B) Senden aller Rohdaten zusammen mit der Fahrgestellnummer an das öffentliche Modell
• C) Datenschutz gilt nur für Marketingdaten
• D) Standortdaten gelten niemals als personenbezogene Daten

Beschreibung: Daten wie Standort, Fahrverhalten und Fahrgestellnummer (VIN) können eine Person identifizieren. Der korrekteste Ansatz; Anonymisierung/Pseudonymisierung von Daten, Erhebung nur des Notwendigen (Datenminimierung), Zweckbindung und Einhaltung der KVKK/DSGVO. Das Senden einer Roh-FIN oder eines Standorts an Tools von Drittanbietern ist riskant.

14. Warum ist es notwendig, die „Datendrift“ in einem in Produktion genommenen KI-Modell zu überwachen?

• A) Sobald das Modell trainiert ist, liefert es auf unbestimmte Zeit die gleiche Leistung.
• B) Die Leistung nimmt stillschweigend ab, wenn sich die Eingabeverteilung im Laufe der Zeit ändert. Umschulung muss ausgelöst werden ✔
• C) Drift ist lediglich eine physische Vibration der Hardware
• D) Eine Überwachung ist nicht erforderlich, da sich das Modell automatisch aktualisiert

Erläuterung: Die reale Welt ändert sich (neuer Teilelieferant, Saison, neues Fahrzeugmodell); Die Modellleistung nimmt stillschweigend ab, wenn sich die Eingabeverteilung von der Trainingszeit entfernt. Die Neuschulung wird durch Driftüberwachung und Leistungsmetriken ausgelöst. Der Ansatz „einstellen und vergessen“ ist im Automobilbereich riskant.