Unità 10 / 11

Mudell ta' Inċertezza, Validazzjoni u Kalibrazzjoni

Qligħ:

  • Kapaċità li titkejjel u tirrapporta l-inċertezza b'ensemble, analiżi tas-sensittività, cross-validation u testijiet blind
  • Kapaċità li tipprevjeni t-tnixxija tad-dejta billi tisseparaha fuq bażi ta 'bir/qasam u tiżgura li l-eżattezza rrappurtata tirrifletti ġeneralizzazzjoni vera.
  • Kapaċità li tikkalibra l-punteġġ tal-fiduċja tal-intelliġenza artifiċjali bid-dijagramma tal-affidabbiltà u tapplika d-dixxiplina li ma tużax punteġġ mhux ikkalibrat bħala probabbiltà

Hemm tema rikorrenti f'kull unità ta 'dan il-modulu: m'hemm l-ebda "tweġibiet żgur" fil-ġeofiżika, mudelli biss limitati mill-inċertezza. Din l-unità ddawwar dik it-tema f’dixxiplina. L-inċertezza tal-mudell hija l-eżistenza ta 'mudelli ta' taħt il-wiċċ differenti li jistgħu jispjegaw l-istess data u kull mudell iġorr intervall ta 'kunfidenza. Il-validazzjoni hija ttestjar b'evidenza indipendenti jekk mudell jew output AI huwiex fil-fatt validu. Il-kalibrazzjoni hija biex tiżgura li l-valuri ta’ kunfidenza/probabbiltà mogħtija minn mudell jaqblu mar-riżultati attwali. F'din l-unità, se neżaminaw kif l-intelliġenza artifiċjali (AI) tista' kemm tkejjel kif ukoll taħbi l-inċertezza; u se naraw għaliex qafas solidu ta 'verifika-kalibrazzjoni jagħmel l-AI affidabbli.

Sorsi ta' inċertezza

L-inċertezza ġeofiżika ġejja minn diversi saffi:

  • Inċertezza tad-dejta: Ħsejjes tal-kejl, kopertura limitata, żball ta 'kalibrazzjoni.
  • Inċertezza tal-mudell (polisemija): Twaħħil ta' aktar minn struttura waħda ta' taħt il-wiċċ mal-istess data.
  • Inċertezza tal-metodu/parametru: L-għażliet tal-ipproċessar, tal-inverżjoni u tar-regolarizzazzjoni jibdlu r-riżultat.
  • Inċertezza speċifika għall-AI: Il-kapaċità tal-mudell li jibqa' kunfidenti iżda jfalli meta jiċċaqlaq barra mid-distribuzzjoni tat-taħriġ (shift tad-distribuzzjoni).

Ix-xogħol ta’ ġeofiżiku tajjeb mhuwiex li jelimina din l-inċertezza, iżda li jkejjel, jikkomunika u jdejjaqha. L-AI tista' tagħmel dan faċli (jiġġenera xenarji multipli) iżda tista' wkoll faċilment taħbih billi tipproduċi tweġiba kunfidenti waħda.

Modi kif titkejjel l-inċertezza

Ftit għodod prattiċi:

  1. Ensemble: ġirjiet multipli b'bidu, parametri, jew mudelli differenti; It-tixrid tar-riżultati jagħti inċertezza.
  2. Analiżi tas-sensittività: Tibdel input (parametru, subsett ta 'data) u tara kemm jinbidel ir-riżultat.
  3. Cross-validation: Diviżjoni tad-dejta f'biċċiet, taħriġ b'parti waħda u ttestjar bl-oħra; Jkejjel il-qawwa tal-ġeneralizzazzjoni.
  4. Blind test: Ittestjar tal-mudell b'bir/għalqa indipendenti li qatt ma ra fit-taħriġ.
  5. Produzzjoni probabilistika: Tipprovdi r-riżultat bħala intervall ta 'distribuzzjoni/kunfidenza, mhux valur wieħed.
Tip: Meta l-AI tagħti riżultat, dejjem staqsi: "X'u kemm għandi bżonn nimxi fl-input biex nibdel dan ir-riżultat?" Jekk ir-riżultat jinqaleb b'bidla żgħira fil-parametru, dak ir-riżultat huwa fraġli u l-inċertezza hija għolja.

Kalibrazzjoni: il-punteġġ ta' kunfidenza jgħodd?

Mudelli AI ħafna drabi jagħtu kunfidenza/probabbiltà (“tort ta’ 90 %”). Iżda dan in-numru huwa qarrieqi jekk ma jkunx ikkalibrat: il-mudell fil-fatt huwa tajjeb f'60% tal-każijiet li jgħid li huma "90%". Il-kalibrazzjoni hija li tallinja dan in-numru mar-rata tar-riżultat attwali. Fil-prattika, titfassal dijagramma tal-affidabbiltà: mudell ikkalibrat tajjeb huwa verament 90% tajjeb meta jgħid "90%". Fil-ġeofiżika, huwa essenzjali li tikkalibra l-punteġġ ta 'kunfidenza tal-AI b'dejta indipendenti qabel ma tagħmilha l-bażi għal deċiżjoni.

Attenzjoni: Preċiżjoni għolja mhix l-istess bħal kalibrazzjoni tajba. Mudell jista' jkun ġeneralment preċiż iżda kunfidenti żżejjed; L-importanti fid-deċiżjonijiet kritiċi hija li tkun tassew affidabbli meta tgħid "95%". Tittrattax punteġġ ta' kunfidenza mhux kalibrat bħala probabbiltà.

Regoli tad-deheb ta' verifika

Għal verifika robusta: (1) Indipendenza — id-dejta tat-test m'għandha tinterferixxi xejn mal-proċess tat-taħriġ/irfinar (tnixxija tad-dejta — tgħolli r-riżultat). (2) Blind test — qasam/bir li l-mudell ma jarax. (3) Konsistenza fiżika — ir-riżultat m'għandux jikkontradixxi l-fiżika u l-ġeoloġija. (4) Riproduċibbiltà — l-istess riżultat bl-istess input, u jista 'jiġi prodott minn xi ħadd ieħor. (5) Dokumentazzjoni — rekord ta' liema data, liema parametru, liema verżjoni tal-mudell intużat.

tliet każijiet żgħar

Każ 1 — Fallizz ta' tnixxija tad-dejta. Tim wieħed irrapporta li l-klassifikatur tal-faċies ta preċiżjoni ta '94%. L-investigazzjoni wriet li kampjuni ġirien mill-istess bir kienu involuti kemm fit-taħriġ kif ukoll fl-ittestjar (tnixxija tad-dejta). Meta mqassma mill-bir, l-eżattezza niżlet għal 71% - dik kienet il-ġeneralizzazzjoni vera. It-tnixxija għamel il-mudell jidher aħjar milli fil-fatt kien.

Każ 2 — Mudell ta' kunfidenza żżejjed. Detector ta 'ħsara waħda ta "fiduċja ta' 95%" fis-sinjali tiegħu. Id-dijagramma tal-affidabbiltà wriet li l-marki "95%" kienu attwalment 70% preċiżi. Ladarba l-mudell ġie kkalibrat, il-punteġġi ta 'fiduċja saru realistiċi u l-kummentaturi aġġustaw b'mod korrett kemm se jafdaw kull sinjal.

Każ 3 — Inverżjoni fraġli. Mudell tal-gravità deher konvinċenti ħafna. L-analiżi tas-sensittività wriet li l-istruttura ewlenija sparixxa meta l-piż tar-regolarizzazzjoni nbidel b'20%: l-istruttura ma kinitx ġejja mid-dejta, iżda mill-għażla tal-parametru. It-tim indika l-istruttura bħala "kunfidenza baxxa" u talab dejta addizzjonali.

Erba' mudelli li jistgħu jiġu kkupjati

1) Pjan tal-kejl tal-inċertezza:

Ir-rwol tiegħek: konsulent dwar l-inċertezza ġeofiżika. Għandi riżultat [inverżjoni / klassifikazzjoni / tbassir]. Liema metodi (ensemble, sensittività, cross-validation, blindtest) napplika biex inkejjel l-inċertezza u f'liema ordni? Spjega x’jgħidli kull wieħed u kif nirrapporta r-riżultat.

2) Kontroll tal-kalibrazzjoni:

Il-mudell AI tiegħi jagħti punteġġ ta' kunfidenza/probabbiltà. Kif nittestja jekk dan il-punteġġ huwiex ikkalibrat? Kif nibni dijagramma tal-affidabbiltà, nirrikonoxxi "kunfidenza żejda" jew "kawtela żejda" u tallinja l-punteġġ mar-rata attwali tar-riżultat?

3) Verifika tat-tnixxija tad-dejta:

Ħarrejt klassifikatur ġeofiżiku. Kif insib u nipprevjeni r-riskju ta' tnixxija tad-dejta (l-istess bir/kampjuni tal-post li jidħlu kemm fit-taħriġ kif ukoll fl-ittestjar)? Kif nistabbilixxi separazzjoni mill-bir/għalqa? Kif inkun naf jekk l-eżattezza rrappurtata tirriflettix ġeneralizzazzjoni vera?

4) Ittestjar tal-fraġilità tar-riżultat:

Għandi riżultat ta 'inverżjoni/mudell. Irrid nifhem kemm hu fraġli dan ir-riżultat. Billi tbiddel liema parametri u kemm tinbidel l-istruttura ewlenija? Kif niddistingwi jekk l-istruttura tiġix minn data jew parametri/premessa? Agħti protokoll ta' sensittività.

Pront dgħajjef / Pront qawwi

Pront dgħajjef:

Ara jekk il-mudell tiegħi għandux preċiżjoni għolja.

Numru wieħed tal-verità; it-tnixxija jaħbi kalibrazzjoni u ġeneralizzazzjoni, li tagħti fiduċja falza.

Pront qawwi:

Ir-rwol tiegħek: espert tal-validazzjoni tal-mudell. Input: [klassifikatur jiġġenera N tajjeb, punteġġi ta' kunfidenza]. Kompitu: (1) tipproponi allokazzjoni bbażata tajjeb kontra t-tnixxija tad-dejta; (2) tinstalla l-ittestjar tal-bir blind; (3) tikkalibra l-punteġġ ta 'kunfidenza bid-dijagramma tal-affidabbiltà; (4) ittestja kemm ir-riżultat huwa sensittiv għall-parametru. Tnaqqis għal numru wieħed tal-verità; Irrapporta ġeneralizzazzjoni, kalibrazzjoni u fraġilità separatament.

It-tnixxija, l-ittestjar blind, it-talba għall-kalibrazzjoni u s-sensittività jagħmlu l-verifika onesta.

Għodod ta' inċertezza

vettura

X'tkejjel?

Riskju ewlieni

output

ensemble

Propagazzjoni tal-mudell

Spiża tal-kont

Medda/distribuzzjoni

Sensittività

Effett tal-parametru

Input mitluf

Fraġilità

cross validation

ġeneralizzazzjoni

tnixxija tad-data

preċiżjoni realistika

test blind

suċċess indipendenti

Sett tat-test insuffiċjenti

fiduċja

Kalibrazzjoni

fiduċja fir-realtà

kunfidenza żejda

probabbiltà allinjati

Żbalji komuni

  • Mhux innota t-tnixxija tad-dejta. Tgħolli t-tjieba; Separati minn bir/għalqa.
  • Uża l-punteġġ ta 'kunfidenza mingħajr ma tikkalibrah. "90%" fil-fatt ma jistax ikun 90%.
  • Li sserraħ fuq in-numru uniku tal-verità. Il-ġeneralizzazzjoni u l-kalibrazzjoni huma żewġ affarijiet differenti.
  • Mhux qed jittestja l-vulnerabbiltà. L-istruttura mitlufa mill-parametru mhix informazzjoni reali.
  • Mhux tirrapporta inċertezza. Il-preżentazzjoni tar-riżultat mingħajr intervall ta 'kunfidenza hija qarrieqa.

Fil-qosor

L-inċertezza hija l-fatt ineradicable tal-ġeofiżika; ix-xogħol huwa li tkejjelha, tikkomunikaha, u tnaqqasha. L-AI tiffaċilita dan b'ensemble, sensittività u produzzjoni probabilistika, iżda tista 'wkoll jaħbiha bi tweġiba kunfidenti waħda. Qafas solidu; il-prevenzjoni tat-tnixxija tad-dejta, il-kejl tal-ġeneralizzazzjoni b'testijiet blind, il-kalibrazzjoni tal-punteġġ ta 'kunfidenza, u l-ittestjar tal-fraġilità tar-riżultat. Il-fiduċja mhux kalibrata, il-verità mhux verifikata, u l-inċertezza moħbija huma t-tliet illużjonijiet l-aktar perikolużi. Ġeofiżika affidabbli hija ġeofiżika li turi onestament l-inċertezza tagħha.

Kompitu ta' applikazzjoni

Agħżel riżultat ġeofiżiku AI (klassifikazzjoni, inverżjoni jew tbassir). Ippjana l-passi tal-ittestjar tal-ensemble/sensittività/blind bil-mudell "Pjan ta' kejl tal-inċertezza". Imbagħad ittestja d-distinzjoni tat-test tal-ferrovija tiegħek bil-mudell "Verifika tat-tnixxija tad-dejta". Jekk il-mudell jagħti punteġġ ta' kunfidenza, evalwa jekk il-punteġġ huwiex realistiku bil-mudell "Kontroll tal-kalibrazzjoni" u ikteb ir-riżultat tiegħek b'intervall ta' kunfidenza.

lista ta' kontroll

  • [ ] Kejjejt l-inċertezza b'ensemble/sensittività.
  • [ ] Prevenejt it-tnixxija tad-dejta billi nisseparatha fuq bażi ta' bir/qasam.
  • [ ] Ittestjajt il-ġeneralizzazzjoni b'test blind.
  • [ ] Ikkalibrajt il-punteġġ ta' kunfidenza u ċċekkjejt ir-realiżmu tiegħu.
  • [ ] Irrapportajt ir-riżultat b'intervall ta' kunfidenza, mhux b'valur wieħed.