Einheit 8 / 11

Qualitätskontrolle (QA), Bewertungsmetriken und LQA

Gewinne:

  • Fähigkeit, zwischen automatischer QA- und linguistischer LQA-Ebene zu unterscheiden und beide in der richtigen Reihenfolge anzuwenden
  • Fähigkeit, die Übersetzung objektiv nach Kategorie und Gewichtung (kritisch/schwerwiegend/geringfügig) mit einem Fehlerrahmen wie MQM zu bewerten
  • In der Lage zu sein, die endgültige Entscheidung zu treffen, wenn KI als Prüfer eingesetzt wird, im Wissen um deren Blindheit gegenüber der eigenen Übersetzung, das Fehlerrisiko und die Grenzen automatisierter Metriken

Sobald Sie sagen, dass eine Übersetzung „fertig“ ist, ist das die halbe Arbeit; Die andere Hälfte besteht darin, zu beweisen, dass die Übersetzung tatsächlich zuverlässig ist. In dieser Einheit lernen Sie systematische Methoden zur Messung der Übersetzungsqualität kennen: automatisierte QA-Prüfungen, menschenbasierte LQA-Fehler-Frameworks, Qualitätsmetriken und den Einsatz von KI als „Inspektor“ – und ihre Grenzen. Ziel ist es, sich von der Subjektivität des „Ich finde es gut“ zu lösen und zum Experten zu werden, der Qualität definiert, misst und nachweist.

Zwei Arten der Qualitätskontrolle: automatisch und sprachlich

QA (Qualitätssicherung) funktioniert bei der Übersetzung auf zwei Ebenen:

Automatisierte Qualitätssicherung: Stilfehler, die CAT-Tools und -Skripte erkennen – nicht übereinstimmende Zahlen, fehlendes/überschüssiges Leerzeichen, inkonsistenter Begriff, nicht übersetztes Segment, fehlerhafter Platzhalter/Tag, doppeltes Leerzeichen, Satzzeichen. Diese werden maschinell schnell und vollständig gescannt; Es entgeht dem menschlichen Auge, aber das Fahrzeug fängt es ein.

LQA (Linguistische Qualitätssicherung): Dies ist die Ebene, auf der ein menschlicher Bewerter Bedeutung, Terminologie, Stil, Grammatik und lokale Angemessenheit prüft. Automatisierte Qualitätssicherung „Stimmt die Nummer überein?“ schaut sich die Frage an; LQA „Ist die Bedeutung korrekt, ist der Ton angemessen, ist er kulturell angemessen?“ Er betrachtet die Frage. Die beiden ergänzen sich; Das eine ersetzt das andere nicht.

Tipp: Führen Sie immer zuerst die automatische Qualitätssicherung durch; Durch die Bereinigung formaler Fehler kann sich der menschliche Bewerter echten sprachlichen Problemen widmen. Ein Rezensent, der sich mit dem Zahlenfehler beschäftigt, wird den Tonfehler übersehen.

Fehlerrahmen: MQM und DQF

Standardfehlertypologien werden verwendet, um Qualität messbar zu machen und nicht „gut/schlecht“. Am gebräuchlichsten ist MQM (Multidimensional Quality Metrics): Es ordnet jeden Fehler einer Kategorie (Genauigkeit, Geläufigkeit, Terminologie, Stil, Lokalität, Format) und einer Gewichtung (kritisch, schwerwiegend, geringfügig) zu. Ein weiteres Framework ist DQF (Dynamic Quality Framework) und wird zusammen mit MQM erwähnt.

Warum ist es wichtig? Denn mit diesem Framework können Sie einer Übersetzung eine Fehlerbewertung zuweisen, verschiedene Übersetzer/Engines objektiv vergleichen und fragen: „Kann dieser Text geliefert werden?“ Sie beantworten die Frage mit einem numerischen Schwellenwert. Beispiel: Kritischer Fehler = 10 Punkte, Hauptfehler = 5, Nebenfehler = 1; Text unterhalb eines bestimmten Schwellenwerts wird pro bestimmtem Wort bestanden.

Kritischer Fehler: Fehler, der die Bedeutung umkehrt, ein Sicherheits-/Rechtsrisiko schafft, der Marke schadet (falsche Dosierung, „nicht verantwortlich“ statt „verantwortlich“). Major: störend, aber harmlos. Moll: auffällig, aber nicht von der Bedeutung ablenkend (Moll-Stil/Interpunktion).

Der Einsatz von KI als Controller – und seine Grenzen

KI ist schnell und hilfreich bei der Überprüfung einer Übersetzung anhand des Fehlerrahmens: Sie können sagen: „Markieren Sie Korrektheits-, Terminologie- und Sprachfehler in dieser Übersetzung mit MQM-Kategorien“. Es reduziert Ihre blinden Flecken und gibt Ihnen ein schnelles „zweites Auge“.

Es gibt jedoch drei kritische Grenzen: (1) KI kann bei der Überprüfung der von ihr erstellten Übersetzung blind sein – sie kann denselben Fehler machen und ihn bestätigen; Vergleichen Sie es mit einem anderen Modell oder kehren Sie zur Quelle zurück. (2) KI kann auch halluzinatorische „Fehler“ erfinden – einen Fehler melden, der nicht existiert; Bestätigen Sie jede Warnung. (3) Die KI erfasst möglicherweise nicht vollständig die reale Schwere eines kritischen Fehlers (ein Dosisfehler kann fatal sein); Die Gewichtung erfolgt durch den Sachverständigen. KI beschleunigt also die Qualitätssicherung, aber die endgültige Qualitätsentscheidung und Liefergenehmigung liegt beim Menschen.

Achtung: Zu sagen „KI hat die Qualitätssicherung bestanden, sie ist sauber“ ist ein falsches Selbstvertrauen. Die KI-Prüfung ist kein Ersatz für die menschliche LQA und den Vergleich mit der Quelle; Es handelt sich um eine Vorprüfungsschicht, die sie auf den neuesten Stand bringt.

drei Mini-Koffer

Fall 1 – Die automatisierte Qualitätssicherung hat 40 Zahlenfehler gefunden. Bei der Übersetzung eines Finanzberichts stellte die automatische Qualitätssicherung 40 Zahlen-/Formatkonflikte zwischen Quelle und Ziel fest (Tausendertrennzeichen, Dezimalzahl, Währung). Das menschliche Auge würde die meisten davon übersehen; Fahrzeug in Sekunden aufgelistet.

Fall 2 – MQM-Score führte zur Engine-Auswahl. Ein MQM-Büro bewertete die Leistung zweier verschiedener MT-Engines mit 2.000 Wörtern: Engine A mit 12 Fehlerpunkten, Engine B mit 31. Die objektive Messung schloss die Debatte darüber, was besser ist, mit einer Punktzahl ab; Das Büro machte Motor A zum Standard und plante sein Budget nach der Überarbeitung entsprechend.

Fall 3 – Die KI-Prüfung hat ihren eigenen Fehler übersehen. Ein Übersetzer ließ die Übersetzung des LLM von demselben LLM betreuen; Das Model sagte „kein Problem“, ein Terminologiefehler, den sie selbst gemacht hatte. Der Fehler wurde entdeckt, als der Übersetzer einen Vergleich mit einem anderen Modell und einer anderen Quelle durchführte. Das Team übernahm die Regel, dass „dasselbe Modell sich nicht selbst kontrollieren sollte“.

Vier kopierbare Vorlagen

1) MQM-basierte Fehlerprüfung:

Ihre Rolle: LQA-Gutachter. Vergleichen Sie die Quelle und die Übersetzung unten. Geben Sie jeden Fehler, den Sie finden, im folgenden Format an: [Kategorie: Genauigkeit/Terminologie/Flüssigkeit/Stil/Format][Gewichtung: kritisch/schwer/geringfügig] [Ort] [Kommentar] [Korrektur]. Markieren Sie die Warnung, bei der Sie sich nicht sicher sind, als „Bestätigung erforderlich“; errorfabrication.Quelle: [...] | Übersetzung: [...]

2) Kritische Fehlerprüfung (hohes Risiko):

Suchen Sie NUR in der folgenden Übersetzung nach kritischen Fehlern: Bedeutungsumkehr, Zahlen-/Dosis-/Datumsfehler, Verlust der Negation, Ersetzung einer gesetzlichen Verpflichtung, Sicherheitswarnfehler. Ignorieren Sie kleinere Stylingprobleme. Geben Sie für jedes kritische Ergebnis die Quelle an. Quelle: [...] | Übersetzung: [...]

3) Automatische QS-Zusatzkontrolle:

Listen Sie die formalen Inkonsistenzen in den folgenden Quelle-Ziel-Paaren auf: Zahlenkonflikt, fehlender/zusätzlicher Platzhalter oder Tag, inkonsistenter Begriff, nicht übersetztes Segment, Einheits-/Währungsunterschied. Geben Sie einfach die Probleme mit ihrem Standort an. Paare: [...]

4) Unabhängiges zweites Auge (Gegenprobe):

Bewerten Sie diese Übersetzung OHNE VORURTEIL; Gehen Sie nicht davon aus, dass Sie es geschrieben haben. Geben Sie der Quelle eine Qualitätsbewertung (1–5) für Wiedergabetreue, Terminologie und Natürlichkeit und listen Sie die drei größten Probleme auf. Die Entscheidung liegt bei mir. Quelle: [...] | Übersetzung: [...]

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwach: „Ist diese Übersetzung gut?“ (Keine Kriterien; die KI gibt eine nutzlose Antwort wie „im Allgemeinen gut“ zurück.)

Stark: „Überprüfen Sie diese Übersetzung anhand der Quelle. Kennzeichnen Sie jeden Fehler mit der Kategorie (Genauigkeit/Terminologie/Flüssigkeit) und dem Schweregrad (kritisch/schwerwiegend/geringfügig). Konzentrieren Sie sich besonders auf Fehler in der Anzahl, Verneinung und Terminologie. Erfinden Sie keine Fehler; markieren Sie „Bestätigung erforderlich“, wenn Sie sich nicht sicher sind.“

Unterschied: Eine starke Eingabeaufforderung gibt einen Fehlerrahmen und einen Fokus an. Das Ergebnis ist ein vergleichbarer und umsetzbarer Qualitätsbericht.

Tabelle der Qualitätsschichten

Schicht

was fängt

Wer/was macht

Automatische Qualitätssicherung

Anzahl, Bezeichnung, Konsistenz

Werkzeug/Skript

KI-Steuerung

Mögliche Bedeutungs-/Terminologiefehler

LLM (mit Bestätigung)

Menschliche LQA

Bedeutung, Ton, Kultur, Gewicht

Gutachter

MQM/DQF-Score

Objektiver Fehlerwert

Mensch mit Rahmen

Lieferbestätigung

letztendliche Verantwortung

kompetenter Übersetzer

Häufige Fehler

  • Überspringen Sie die automatische Qualitätssicherung und beginnen Sie direkt mit dem Lesen. Stilfehler lenken die Aufmerksamkeit ab.
  • KI-Inspektion durch menschliche LQA ersetzen. KI führt Vorprüfungen durch, stimmt nicht zu.
  • Lassen Sie das gleiche Modell seine eigene Übersetzung überprüfen. Blinder Fleck; Gegenprüfung erforderlich.
  • Fehler nicht gewichten. Kritisch und unbedeutend als dasselbe zu betrachten, stört die Priorität.
  • Von der KI erfundene „Fehler“ korrigieren, ohne sie zu bestätigen. Sie können den richtigen Satz verzerren.

Automatische Metriken: BLEU, COMET und Grenzwerte

Auch bei der Qualitätsmessung gibt es eine Welt automatisierter Metriken. BLEU (Bilingual Evaluation Understudy) vergleicht eine maschinelle Übersetzung mit einer menschlichen Referenzübersetzung und gibt basierend auf der Wortüberlappung eine Punktzahl von 0-100; Es war lange Zeit der Standard für den Vergleich von MT-Systemen. Eine neuere Metrik, COMET, basiert auf neuronalen Netzwerken und erfasst semantische Ähnlichkeiten besser als BLEU. Diese Metriken sind wertvoll für den schnellen und automatischen Vergleich zweier Engines anhand von Big Data.

Aber ihre Grenzen sind klar: Metriken wie BLEU betrachten Wortüberschneidungen, ohne wirklich die Bedeutung zu verstehen. Eine Übersetzung, die von der Referenz abweicht, aber korrekt ist, kann eine niedrige Punktzahl erhalten; Eine Übersetzung, die der Referenz ähnelt, aber fehlerhaft ist, kann eine hohe Punktzahl erhalten. Ein kritischer Negativitätsfehler ist ein einzelnes Wort und hat daher kaum Auswirkungen auf die Metrik, ist aber tatsächlich katastrophal. Aus diesem Grund messen automatisierte Metriken Trends auf Systemebene und entscheiden nicht über die Zustellbarkeit eines einzelnen Textes. Ob eine Übersetzung an den Kunden geht, entscheiden MQM-basierte menschliche Bewertungen und Expertenurteile, nicht eine automatische Bewertung. Verwenden Sie Kennzahlen als Kompass, nicht als Richter.

Zusammenfassend

Übersetzungsqualität ist kein subjektives Gefühl, sondern etwas Messbares. Die automatische Qualitätssicherung sucht gründlich nach formalen Fehlern. Die menschliche LQA bewertet Bedeutung, Ton und Kultur; Fehlerrahmen wie MQM quantifizieren die Qualität nach Kategorie und Gewicht und ermöglichen so einen objektiven Vergleich. KI ist ein mächtiges zweites Auge, das diese Kontrolle beschleunigt, aber sie kann gegenüber ihrer eigenen Übersetzung blind sein, Fehler machen und die Bedeutung der realen Welt nicht vollständig erfassen; Daher obliegt die endgültige Qualitätsentscheidung, Gewichtung und Lieferfreigabe dem kompetenten Übersetzer.

Anwendungsaufgabe

Erhalten Sie eine maschinelle Übersetzungsausgabe. Listen Sie formale Fehler zunächst mit der „automatischen QA-Zusatzprüfung“ auf, dann listen Sie sprachliche Fehler nach Kategorie und Gewicht mit der „MQM-basierten Fehlerprüfung“ auf. Ich bewerte jeden Fehler (kritisch 10, schwerwiegend 5, geringfügig 1) mit einem Schwellenwert pro Wort und frage: „Kann er übermittelt werden?“ Beantworten Sie die Frage. Bestätigen Sie abschließend mit der Quelle, wie viele der von der KI gemeldeten Fehler real sind und wie viele erfunden sind.

Checkliste

  • [ ] Ich habe eine automatische Qualitätssicherung durchgeführt und alle formalen Fehler bereinigt.
  • [ ] Ich habe sprachliche Fehler mit einem Kästchen markiert (Kategorie + Gewichtung).
  • [ ] Ich habe kritische Fehler in einer separaten, priorisierten Runde gescannt.
  • [ ] Ich habe die KI-Steuerung beschafft und sie bei Bedarf mit einem anderen Modell abgeglichen.
  • [ ] Ich habe die Lieferentscheidung auf der Grundlage des numerischen Schwellenwerts und meines eigenen Expertenurteils getroffen.