Birlik 10 / 11

Modelning noaniqligi, tasdiqlash va kalibrlash

Daromadlar:

  • Ansambl, sezgirlik tahlili, o'zaro tekshirish va ko'r-ko'rona test yordamida noaniqlikni o'lchash va hisobot berish qobiliyati
  • Quduq/dala asosida ajratish yo'li bilan ma'lumotlarning sizib chiqishini oldini olish va hisobotning aniqligi haqiqiy umumlashtirishni aks ettirishini ta'minlash qobiliyati.
  • Sun'iy intellektning ishonchli ballini ishonchlilik diagrammasi bilan kalibrlash va kalibrlanmagan ballni ehtimollik sifatida ishlatmaslik intizomini qo'llash qobiliyati

Ushbu modulning har bir bo'limida takrorlanadigan mavzu mavjud: geofizikada "ishonchli javoblar" yo'q, faqat noaniqlik bilan cheklangan modellar. Bu birlik ushbu mavzuni intizomga aylantiradi. Model noaniqligi - bu bir xil ma'lumotlarni tushuntira oladigan va har bir model ishonch oralig'iga ega bo'lgan turli xil er osti modellarining mavjudligi. Tasdiqlash - bu model yoki AI chiqishi haqiqatan ham haqiqiyligini mustaqil dalillar bilan sinovdan o'tkazish. Kalibrlash - bu model tomonidan berilgan ishonch / ehtimollik qiymatlari haqiqiy natijalarga mos kelishini ta'minlash. Ushbu bo'limda biz sun'iy intellekt (AI) noaniqlikni qanday o'lchashi va yashirishi mumkinligini ko'rib chiqamiz; va biz tekshirish-kalibrlashning mustahkam asosi AIni nima uchun ishonchli qilishini bilib olamiz.

Noaniqlik manbalari

Geofizik noaniqlik bir necha qatlamlardan kelib chiqadi:

  • Ma'lumotlarning noaniqligi: o'lchov shovqini, cheklangan qamrov, kalibrlash xatosi.
  • Model noaniqligi (polisemiya): bir xil ma'lumotlarga bir nechta er osti inshootlarini moslashtirish.
  • Usul/parametr noaniqligi: Qayta ishlash, inversiya va tartibga solish tanlovlari natijani o'zgartiradi.
  • Sun'iy intellektga xos noaniqlik: modelning o'ziga ishonchni saqlab qolish qobiliyati, lekin u o'quv taqsimotidan tashqariga chiqqanda muvaffaqiyatsizlikka uchraydi (tarqatish siljishi).

Yaxshi geofizikning ishi bu noaniqlikni bartaraf etish emas, balki uni o'lchash, muloqot qilish va toraytirishdir. AI buni osonlashtirishi mumkin (bir nechta stsenariylarni yaratish), lekin bitta ishonchli javob ishlab chiqarish orqali uni osongina yashirishi mumkin.

Noaniqlikni o'lchash usullari

Bir nechta amaliy vositalar:

  1. Ansambl: turli boshlanishlar, parametrlar yoki modellar bilan bir nechta yugurish; Natijalarning tarqalishi noaniqlikni keltirib chiqaradi.
  2. Sezuvchanlik tahlili: kirishni o'zgartirish (parametr, ma'lumotlar to'plami) va natija qanchalik o'zgarishini ko'rish.
  3. O'zaro tekshirish: ma'lumotlarni qismlarga bo'lish, bir qism bilan mashq qilish va boshqa qism bilan sinovdan o'tkazish; Umumlashtirish quvvatini o'lchaydi.
  4. Ko'r-ko'rona test: Modelni mashg'ulotlarda hech qachon ko'rmagan mustaqil quduq/maydon bilan sinab ko'rish.
  5. Ehtimoliy chiqish: Natijani bitta qiymat emas, balki taqsimlash/ishonch oralig'i sifatida taqdim etish.
Maslahat: AI natija berganda, har doim so'rang: "Ushbu natijani o'zgartirish uchun kiritishda nima va qancha harakat qilishim kerak?" Agar natija kichik parametr o'zgarishi bilan teskari bo'lsa, bu natija zaif va noaniqlik yuqori bo'ladi.

Kalibrlash: ishonch darajasi to'g'rimi?

AI modellari ko'pincha ishonch / ehtimollik ("90% xato") beradi. Ammo bu raqam kalibrlanmagan bo'lsa, chalg'itadi: model aslida "90%" deb aytilgan holatlarning 60 foizida to'g'ri. Kalibrlash bu raqamni haqiqiy natija tezligiga moslashtirishdir. Amalda, ishonchlilik diagrammasi chiziladi: yaxshi kalibrlangan model "90%" deganda haqiqatan ham 90% to'g'ri bo'ladi. Geofizikada, qaror qabul qilish uchun asos bo'lishdan oldin, AI ishonch ballini mustaqil ma'lumotlar bilan kalibrlash juda muhimdir.

Diqqat: Yuqori aniqlik yaxshi kalibrlash bilan bir xil emas. Model odatda to'g'ri bo'lishi mumkin, ammo o'ziga ishongan; Tanqidiy qarorlar qabul qilishda muhim narsa shundaki, u "95%" deb aytilganda haqiqatan ham ishonchli bo'ladi. Kalibrovka qilinmagan ishonch balliga ehtimollik sifatida qaramang.

Tekshirishning oltin qoidalari

Kuchli tekshirish uchun: (1) Mustaqillik - test ma'lumotlari o'qitish/sozlash jarayoniga umuman xalaqit bermasligi kerak (ma'lumotlarning sizib chiqishi - natijani oshiradi). (2) Ko'r sinov - model ko'rmaydigan maydon/quduq. (3) Jismoniy izchillik - natija fizika va geologiyaga zid kelmasligi kerak. (4) Qayta ishlab chiqarish - bir xil kirish bilan bir xil natija va boshqa birov tomonidan ishlab chiqarilishi mumkin. (5) Hujjatlar - qaysi ma'lumotlar, qaysi parametr, qaysi model versiyasi ishlatilganligi qayd etiladi.

uchta mini holat

1-holat - Ma'lumotlarning sizib chiqishi xatosi. Jamoalardan biri facies klassifikatori 94% aniqlik berganini xabar qildi. Tekshiruv shuni ko'rsatdiki, bitta quduqdan qo'shni namunalar ham o'qitish, ham sinov (ma'lumotlarning sizib chiqishi) uchun ishtirok etgan. Quduqlar bo'yicha bo'linganda, aniqlik 71% ga tushdi - bu haqiqiy umumlashma edi. Oqish modelni avvalgisidan yaxshiroq ko'rsatdi.

2-holat - O'ziga o'ziga ishongan model. Bitta nosozlik detektori o'z belgilariga "95% ishonch" berdi. Ishonchlilik diagrammasi "95%" belgilari aslida 70% aniqligini ko'rsatdi. Model kalibrlangandan so'ng, ishonch ballari real bo'ldi va sharhlovchilar har bir belgiga qanchalik ishonishlarini to'g'ri o'rnatdilar.

3-holat - Mo'rt inversiya. Gravitatsion model juda ishonchli ko'rinardi. Sezuvchanlik tahlili shuni ko'rsatdiki, tartibga solish og'irligi 20% ga o'zgarganda asosiy tuzilma yo'qolgan: struktura ma'lumotlardan emas, balki parametr tanlashdan kelib chiqqan. Jamoa tuzilmani "past ishonch" deb belgiladi va qo'shimcha ma'lumotlarni talab qildi.

To'rt nusxa ko'chirish shablonlari

1) Noaniqlikni o'lchash rejasi:

Sizning rolingiz: geofizik noaniqlik bo'yicha maslahatchi. Menda [inversiya / tasnif / bashorat] natijasi bor. Noaniqlikni o'lchash uchun qanday usullarni (ansambl, sezgirlik, o'zaro tekshirish, ko'r-ko'rona) qo'llayman va qanday tartibda? Har biri menga nima deyishini va natijani qanday xabar qilishni tushuntiring.

2) kalibrlash tekshiruvi:

Mening AI modelim ishonch/ehtimollik ballini beradi. Ushbu ball sozlangan yoki yo'qligini qanday tekshirishim mumkin? Ishonchlilik diagrammasini qanday tuzaman, "ortiqcha ishonch" yoki "o'ta ehtiyotkorlik" ni tan olaman va ballni haqiqiy natija darajasiga moslashtiraman?

3) Ma'lumotlar sizib chiqishi auditi:

Men geofizik tasniflagichni tayyorladim. Ma'lumotlarning sizib chiqishi xavfini qanday topishim va oldini olishim mumkin (bir xil quduq/dala namunalari mashg'ulotlarga ham, sinovlarga ham kiradi)? Quduq/maydon bo'yicha ajratishni qanday o'rnatishim mumkin? Xabarning aniqligi haqiqiy umumlashtirishni aks ettiradimi yoki yo'qligini qanday bilsam bo'ladi?

4) Natijalarning mo'rtligini tekshirish:

Menda inversiya/model natijasi bor. Men bu natija qanchalik nozik ekanligini tushunmoqchiman. Qaysi parametrlarni o'zgartirish orqali asosiy tuzilma qanchalik o'zgaradi? Tuzilish ma'lumotlardan yoki parametrlardan/binodan kelib chiqqanligini qanday ajratish mumkin? Sezuvchanlik protokolini bering.

Zaif taklif / Kuchli taklif

Zaif taklif:

Mening modelimning aniqligi yuqori yoki yo'qligini ko'ring.

Yagona haqiqat raqami; oqish kalibrlash va umumlashtirishni yashiradi, noto'g'ri ishonch beradi.

Kuchli so'rov:

Sizning rolingiz: modelni tekshirish bo'yicha mutaxassis. Kirish: [klassifikator N quduqni hosil qiladi, ishonch ballari]. Vazifa: (1) ma'lumotlar sizib chiqishiga qarshi yaxshi asoslangan taqsimlashni taklif qilish; (2) ko'r quduq sinovini o'rnatish; (3) ishonchlilik diagrammasi bilan ishonch ballini kalibrlash; (4) natijaning parametrga qanchalik sezgirligini sinab ko'ring. Bitta haqiqat raqamiga qisqartirish; Umumlashtirish, kalibrlash va mo'rtlik haqida alohida xabar bering.

Oqish, ko'r-ko'rona sinov, kalibrlash va sezgirlik so'rovi tekshirishni halol qiladi.

Noaniqlik vositalari

avtomobil

U nimani o'lchaydi?

Asosiy xavf

chiqish

ansambl

Modelning tarqalishi

Hisob qiymati

Diapazon/tarqatish

Sezuvchanlik

Parametr effekti

O'tkazib yuborilgan kiritish

Mo'rtlik

o'zaro tasdiqlash

umumlashtirish

ma'lumotlar sizib chiqishi

real aniqlik

ko'r sinov

mustaqil muvaffaqiyat

Sinov toʻplami yetarli emas

ishonch

Kalibrlash

haqiqatga ishonish

haddan tashqari ishonch

tenglashtirilgan ehtimollik

Umumiy xatolar

  • Ma'lumotlarning sizib chiqishini sezmaslik. U solihlikni oshiradi; Quduq/maydon bilan ajrating.
  • Ishonch ballini kalibrlashsiz ishlatish. "90%" aslida 90% bo'lmasligi mumkin.
  • Yagona haqiqat raqamiga tayanish. Umumlashtirish va kalibrlash ikki xil narsadir.
  • Zaiflikni sinovdan o'tkazmaslik. Parametr tomonidan yo'qolgan struktura haqiqiy ma'lumot emas.
  • Noaniqlik haqida xabar bermaslik. Natijani ishonch oralig'isiz taqdim etish noto'g'ri.

Xulosa

Noaniqlik - bu geofizikaning yo'q qilib bo'lmaydigan haqiqati; ish uni o'lchash, muloqot qilish va uni qisqartirishdir. AI buni ansambl, sezgirlik va ehtimollik natijasi bilan osonlashtiradi, lekin uni bitta ishonchli javob bilan yashirishi mumkin. Qattiq ramka; ma'lumotlarning sizib chiqishini oldini olish, ko'r-ko'rona test bilan umumlashtirishni o'lchash, ishonch ballini kalibrlash va natijaning zaifligini tekshirish. Sozlanmagan ishonch, tasdiqlanmagan haqiqat va yashirin noaniqlik uchta eng xavfli illyuziyadir. Ishonchli geofizika o'zining noaniqligini halollik bilan ko'rsatadigan geofizikadir.

Ilova vazifasi

AI geofizik natijasini tanlang (tasniflash, inversiya yoki bashorat qilish). Ansambl/sezuvchanlik/ko‘r-ko‘rona sinov bosqichlarini “Noaniqlikni o‘lchash rejasi” shabloni bilan rejalashtiring. Keyin "Ma'lumotlar sizib chiqishi auditi" shablonini ishlatib, poezd-test farqingizni sinab ko'ring. Agar model ishonch ballini bergan bo'lsa, "Kalibrlash tekshiruvi" shablonidan foydalanib, ballning haqiqiy yoki yo'qligini baholang va natijangizni ishonch oralig'i bilan yozing.

nazorat ro'yxati

  • [ ] Men noaniqlikni ansambl/sezuvchanlik bilan o‘lchadim.
  • [ ] Quduq/dala asosida ajratish orqali maʼlumotlar sizib chiqishining oldini oldim.
  • [ ] Men umumlashtirishni ko'r test bilan sinab ko'rdim.
  • [ ] Ishonch ballini sozladim va uning realligini tekshirdim.
  • [ ] Natijani bitta qiymat bilan emas, balki ishonch oralig'i bilan xabar qildim.