Unità 8 / 11

Kontroll tal-Kwalità (QA), Metriċi ta' Evalwazzjoni u LQA

Qligħ:

  • Kapaċità li tiddistingwi bejn saffi awtomatiċi tal-QA u tal-LQA lingwistiċi u tapplika t-tnejn fl-ordni korretta
  • Kapaċità li tevalwa b'mod oġġettiv it-traduzzjoni skont il-kategorija u l-piż (kritika/maġġuri/minuri) b'qafas ta' żball bħal MQM
  • Li tkun kapaċi tieħu d-deċiżjoni finali meta tuża l-AI bħala awditur, tkun taf l-għama tagħha għat-traduzzjoni tagħha stess, ir-riskju li tagħmel żbalji, u l-limiti tal-metriċi awtomatizzati

Il-mument li tgħid li traduzzjoni tkun "lesta", dak huwa nofs ix-xogħol; In-nofs l-ieħor huwa biex jipprova li dik it-traduzzjoni hija fil-fatt affidabbli. F'din l-unità, int se titgħallem modi sistematiċi biex tkejjel il-kwalità tat-traduzzjoni: kontrolli awtomatizzati tal-QA, oqfsa ta 'żbalji LQA bbażati fuq il-bniedem, metriċi ta' kwalità, u kif tuża l-AI bħala "spettur" - u l-limiti tagħha. L-għan huwa li titbiegħed mis-suġġettività ta’ “Naħseb li tajjeb” u ssir espert li jiddefinixxi, ikejjel u jipprova l-kwalità.

Żewġ tipi ta 'kontroll tal-kwalità: awtomatiku u lingwistiku

QA (Assigurazzjoni tal-Kwalità) taħdem f'żewġ saffi fit-traduzzjoni:

QA awtomatizzat: Żbalji stilistiċi li jaqbdu l-għodod u l-iskripts tal-CAT — nuqqas ta’ tqabbil tan-numri, spazju nieqes/eċċess, terminu inkonsistenti, segment mhux tradott, placeholder/tikketta ħażina, spazju doppju, punteġġjatura. Dawn huma skennjati malajr u kompletament bil-magna; Taħrab mill-għajn tal-bniedem, iżda l-vettura taqbadha.

LQA (Assigurazzjoni tal-Kwalità Lingwistika): Dan huwa s-saff fejn evalwatur uman jeżamina t-tifsira, it-terminoloġija, l-istil, il-grammatika u l-adegwatezza lokali. QA awtomatizzat "in-numru jaqbel?" iħares lejn il-mistoqsija; LQA "it-tifsira hija korretta, it-ton huwa xieraq, huwa kulturalment xieraq?" Huwa jħares lejn il-mistoqsija. It-tnejn jikkumplimentaw lil xulxin; Wieħed ma jissostitwixxix lill-ieħor.

Tip: Dejjem mexxi Auto QA l-ewwel; It-tindif tal-iżbalji formali jippermetti lill-evalwatur uman jiddedika attenzjoni għal problemi lingwistiċi reali. Reviżur li jolqot bl-iżball tan-numru se jitlef l-iżball tat-ton.

Frejms ta 'żball: MQM u DQF

Tipoloġiji ta’ żball standard jintużaw biex il-kwalità tkun tista’ titkejjel aktar milli “tajba/ħażina”. L-aktar komuni huwa MQM (Multidimensional Quality Metrics): jassenja kull żball għal kategorija (eżattezza, ħeffa, terminoloġija, stil, lokalità, format) u piż (kritiku, maġġuri, minuri). Qafas ieħor huwa DQF (Dynamic Quality Framework) u jissemma flimkien mal-MQM.

Għaliex huwa importanti? Minħabba li b'dan il-qafas, tista' tagħti punteġġ ta' żball lil traduzzjoni, tqabbel oġġettivament tradutturi/magni differenti u tistaqsi "jista' jitwassal dan it-test?" Twieġeb il-mistoqsija b'limitu numeriku. Pereżempju: żball kritiku = 10 punti, maġġuri = 5, minuri = 1; test taħt ċertu limitu jgħaddi għal kull kelma.

Żball kritiku: żball li jaqleb it-tifsira, joħloq riskju għas-sigurtà/legali, jagħmel ħsara lill-marka (doża ħażina, "mhux responsabbli" minflok "responsabbli"). Maġġuri: tfixkel iżda ma jagħmilx ħsara. Minuri: notevoli iżda ma jnaqqasx mit-tifsira (stil minuri/punteġġjatura).

L-użu tal-AI bħala kontrollur - u l-limiti tagħha

L-AI hija veloċi u ta’ għajnuna biex tiċċekkja traduzzjoni mal-qafas tal-iżbalji: tista’ tgħid “immarka l-korrettezza, it-terminoloġija, l-iżbalji tal-ħeffa f’din it-traduzzjoni b’kategoriji MQM”. Inaqqas il-blind spots tiegħek u jagħtik "it-tieni għajn" ta' malajr.

Iżda hemm tliet limiti kritiċi: (1) AI tista' tkun għama meta tiċċekkja t-traduzzjoni li tipproduċi — kemm tagħmel kif ukoll tikkonferma l-istess żball; kontroċċekkja ma' mudell differenti jew terġa' lura għas-sors. (2) AI tista 'wkoll tagħmel "żbalji" alluċinattivi — tirrapporta żball li ma jeżistix; Ikkonferma kull twissija. (3) l-AI tista' ma tifhimx bis-sħiħ is-severità fid-dinja reali ta' żball kritiku (żball fid-doża jista' jkun fatali); L-espert jagħmel l-ippeżar. Allura l-AI tħaffef il-QA, iżda d-deċiżjoni finali tal-kwalità u l-approvazzjoni tal-kunsinna huma tal-bniedem.

Attenzjoni: Li tgħid "AI għaddiet mill-QA, hija nadifa" huwa sens falz ta 'kunfidenza. L-awditjar tal-AI mhuwiex sostitut għal LQA uman u tqabbil mas-sors; huwa saff ta 'qabel l-iskrinjar li jġibhom sa veloċità.

tliet każijiet żgħar

Każ 1 — QA awtomatizzat sabet 40 żball tan-numri. Fi traduzzjoni ta' rapport finanzjarju, QA awtomatizzat qabad 40 nuqqas ta' qbil bejn numru/format bejn is-sors u l-mira (separatur ta' elf, deċimali, munita). L-għajn tal-bniedem titlef ħafna minn dawn; vettura elenkata f'sekondi.

Każ 2 — punteġġ MQM wassal għall-għażla tal-magna. Uffiċju wieħed MQM-rated l-output ta 'żewġ magni MT differenti f'2,000 kelma: Magna A 12-il punt ta' żball, Magna B 31. Kejl oġġettiv issetilja d-dibattitu "li huwa aħjar" b'punteġġ; Il-Bureau għamel il-Magna A l-istandard u ppjana l-baġit ta' wara r-reviżjoni tiegħu kif xieraq.

Każ 3 — Il-verifika tal-AI tilfet l-iżball tagħha stess. Traduttur kellu t-traduzzjoni tal-LLM sorveljata mill-istess LLM; Il-mudella qalet "l-ebda problema", żball fit-terminoloġija li għamlet hi stess. L-iżball ġie żvelat meta t-traduttur iċċekkja ma 'mudell u sors differenti; It-tim adotta r-regola li "l-istess mudell m'għandux jikkontrolla lilu nnifsu".

Erba' mudelli li jistgħu jiġu kkupjati

1) Iċċekkjar tal-iżbalji bbażat fuq MQM:

Ir-rwol tiegħek: assessur LQA. Qabbel is-sors u t-traduzzjoni hawn taħt. Ipprovdi kull żball li ssib fil-format li ġej: [kategorija: preċiżjoni/terminoloġija/ħeffa/stil/format][piż: kritiku/maġġuri/minuri] [lokazzjoni] [kumment] [korrezzjoni]. Immarka t-twissija li m'intix ċert biha bħala "konferma meħtieġa"; errorfabrication.Sors: [...] | Traduzzjoni: [...]

2) Skennjar ta' żball kritiku (riskju għoli):

Fittex żbalji kritiċi BISS fit-traduzzjoni hawn taħt: tifsira ta' inverżjoni, żball ta' numru/doża/data, telf ta' ċaħda, sostituzzjoni ta' obbligu legali, żball ta' twissija ta' sigurtà. Injora kwistjonijiet minuri ta 'grafika. Iċċita s-sors għal kull sejba kritika.Sors: [...] | Traduzzjoni: [...]

3) Kontroll supplimentari awtomatiku tal-QA:

Elenka l-inkonsistenzi formali fil-pari sors-mira li ġejjin: nuqqas ta’ qbil tan-numri, placeholder jew tag nieqes/extra, terminu inkonsistenti, segment mhux tradott, differenza ta’ unità/munita. Agħti biss il-problemi bil-lokalità tagħhom. Pari: [...]

4) It-tieni għajn indipendenti (kontroverifika):

Evalwa din it-traduzzjoni MINGĦAJR PREĠUDDIZZJU; Tassumux li ktibtu. Agħti lis-sors klassifikazzjoni tal-kwalità (1-5) għall-fedeltà, it-terminoloġija u n-naturalezza, u elenka l-aqwa 3 problemi. Niddeċiedi jien. Sors: [...] | Traduzzjoni: [...]

Pront dgħajjef / Pront qawwi

Dgħajjef: "Din it-traduzzjoni hija tajba?" (L-ebda kriterji; l-AI tagħti tweġiba inutli bħal "ġeneralment tajba.")

Qawwija: "Iċċekkja din it-traduzzjoni kontra s-sors. Ittikkettja kull żball bil-kategorija (eżattezza/terminoloġija/ħeffa) u s-severità (kritika/maġġuri/minuri). Iffoka speċjalment fuq żbalji ta' numru, negazzjoni u terminoloġija. Tiffabbrikax żbalji; immarka 'konferma meħtieġa' jekk m'intix ċert."

Differenza: pront qawwi jagħti qafas ta 'żball u fokus; L-output huwa rapport ta' kwalità komparabbli u azzjonabbli.

Tabella saffi ta 'kwalità

saff

dak li jaqbad

Min/x'jagħmel

Auto QA

Numru, tikketta, konsistenza

Għodda/kitba

Kontroll AI

Żbalji possibbli ta' tifsira/terminoloġija

LLM (bil-konferma)

LQA tal-Bniedem

Tifsira, ton, kultura, piż

evalwatur espert

punteġġ MQM/DQF

Punteġġ ta' żball oġġettiv

bniedem bil-qafas

Konferma tal-kunsinna

responsabbiltà aħħarija

traduttur kompetenti

Żbalji komuni

  • Taqbeż il-QA awtomatizzat u tidħol direttament fil-qari. Żbalji stilistiċi jtellfu l-attenzjoni.
  • Tissostitwixxi l-ispezzjoni AI b'LQA uman. AI pre-screens, ma japprovax.
  • Wara li l-istess mudell jiċċekkja t-traduzzjoni tiegħu stess. Blind spot; cross checking meħtieġ.
  • Mhux żbalji tal-piż. Li tara kritika u minuri bħala l-istess tfixkel il-prijorità.
  • Tikkoreġi "żbalji" magħmula mill-AI mingħajr ma tikkonfermahom. Tista' tgħawweġ is-sentenza korretta.

Metriċi awtomatiċi: BLEU, COMET u limiti

Hemm ukoll dinja ta 'metriċi awtomatizzati fil-kejl tal-kwalità. BLEU (Bilingual Evaluation Understudy) iqabbel traduzzjoni awtomatika ma’ traduzzjoni ta’ referenza umana u tagħti punteġġ ta’ 0-100 ibbażat fuq il-kliem li jikkoinċidu; Kien l-istandard għat-tqabbil tas-sistemi MT għal żmien twil. Metrika aktar ġdida, COMET, hija bbażata fuq netwerk newrali u taqbad ix-xebh semantiku aħjar minn BLEU. Dawn il-metriċi huma ta 'valur biex jitqabblu malajr u awtomatikament żewġ magni fuq big data.

Iżda l-limiti tagħha huma ċari: Metriċi bħal BLEU iħarsu lejn il-koinċidenza tal-kliem, mhux verament jifhmu t-tifsira. Traduzzjoni li hija differenti mir-referenza iżda li hija preċiża tista' tirċievi punteġġ baxx; Traduzzjoni li hija simili għar-referenza iżda mhux korretta tista' tirċievi punteġġ għoli. Żball kritiku ta 'negattività huwa kelma waħda u għalhekk ftit għandu impatt fuq il-metrika, iżda huwa fil-fatt katastrofiku. Huwa għalhekk li l-metriċi awtomatizzati jkejlu t-tendenzi fil-livell tas-sistema, mhux jiddeċiedu kemm jista' jitwassal test individwali. Evalwazzjoni umana bbażata fuq MQM u ġudizzju espert jiddeċiedu jekk traduzzjoni tmurx għand il-klijent, mhux punteġġ awtomatiku. Uża metriċi bħala boxxla, mhux imħallef.

Fil-qosor

Il-kwalità tat-traduzzjoni mhix sensazzjoni suġġettiva, hija xi ħaġa li tista' titkejjel. QA awtomatiku jiskenja bir-reqqa għal żbalji formali; LQA tal-bniedem jevalwa t-tifsira, it-ton u l-kultura; Oqfsa ta 'żbalji bħal MQM jikkwantifikaw il-kwalità skond il-kategorija u l-piż, li jippermettu tqabbil oġġettiv. AI hija t-tieni għajn qawwija li taċċellera dan il-kontroll, iżda tista 'tkun għamja għat-traduzzjoni tagħha stess, tagħmel żbalji, u tonqos milli tifhem bis-sħiħ il-piż tad-dinja reali; Għalhekk, id-deċiżjoni finali tal-kwalità, l-ippeżar u l-approvazzjoni tal-kunsinna jappartjenu lit-traduttur kompetenti.

Kompitu ta' applikazzjoni

Ikseb output ta' traduzzjoni awtomatika. Elenka l-iżbalji formali l-ewwel b'"verifika supplimentari awtomatika tal-QA", imbagħad elenka l-iżbalji lingwistiċi skont il-kategorija u l-piż b'"verifika tal-iżbalji bbażata fuq MQM". Nirvaluta kull żball (kritiku 10, maġġuri 5, minuri 1) b'limitu għal kull kelma u nistaqsi "jista' jitwassal?" Wieġeb il-mistoqsija. Fl-aħħarnett, ikkonferma mas-sors kemm mill-iżbalji mmarkati mill-AI huma reali u kemm huma fabbrikati.

lista ta' kontroll

  • [ ] Ħadejt QA awtomatiku u naddaf kwalunkwe żball formali.
  • [ ] Immarkat żbalji lingwistiċi b'kaxxa (kategorija + piż).
  • [ ] Skennjt żbalji kritiċi f'rawnd separat u prijoritizzat.
  • [ ] Ikseb il-kontroll AI u kont kontroċċekkjat ma' mudell differenti jekk meħtieġ.
  • [ ] Jien ħadt id-deċiżjoni tal-kunsinna abbażi tal-limitu numeriku u l-ġudizzju espert tiegħi stess.