Üksus 8 / 12

Hallutsinatsioonid, usaldusväärsus ja tõenditel põhinev kinnitamine

Kasu:

  • Võimalus meditsiinilise tehisintellekti väljundis ära tunda hallutsinatsiooni tüüpe (väljamõeldud allikas, vale doos, kujuteldav uuring)
  • Võimalus siduda iga kliiniline väide kehtivate juhiste ja esmase allikaga mitmekihilise kontrolliga
  • Võime juhtida mudeli ebakindlust, seda, et usaldusavaldus ei tõenda õigsust ja veaohtu, mis tundub kindel

Tehisintellekti (AI) suurim oht ​​meditsiinis ei seisne selles, et ta teeb vigu, vaid see, et ta teeb vigu suure enesekindlusega. Keelemudelid toodavad teksti, mis on ladus ja veenev; Lause kõlab sama enesekindlalt, olenemata sellest, kas see on tõene või vale. Seda nimetatakse "hallutsinatsiooniks": kui mudel toodab teavet, mida tegelikult ei eksisteeri (väljamõeldud allikas, vale doos, väljamõeldud uuring, olematu juhtmaterjal), nagu see oleks tõeline. Teistes piirkondades on hallutsinatsioonid häire; See on meditsiinis ohutusprobleem. Selles üksuses õpite tundma hallutsinatsioonitüüpe, mitmekihilist valideerimist ja juhtima mudeli ebakindlust. Põhiprintsiip: usaldusavaldus ei ole tõend tõest; Kõiki kliinilisi väiteid ei saa kasutada ilma esmase allika ja kehtivate juhistega sidumata.

Mis põhjustab hallutsinatsioone?

AI on süsteem, mis ennustab "järgmise kõige tõenäolisema sõna"; see ei loe reaalsuse andmebaasist. Isegi kui ta ei tea vastust küsimusele, annab ta usutava vastuse, mis on "sarnane" tekstidega, mille kohta ta on koolitatud. Sellepärast oskab ta anda olematu artikli täisvormitud tsitaadiga, vale doosi selge numbriga, aegunud soovituse täpse keelekasutusega. Modell kipub lünka täitma, mitte ütlema "ma ei tea". Lisaks on treeninguandmed fikseeritud kuupäeval; Ta ei pruugi sellest ajast muutunud juhistest teadlik olla.

Vihje: küsige tehisintellektilt "kas olete kindel?" küsimine ei ole usaldusväärne test; Modell võib kergesti öelda "jah, ma olen kindel" või vastupidi, jääda õigest vastusest kõrvale. Tõeline test on otsida väidet sõltumatust esmasest allikast.

Meditsiiniliste hallutsinatsioonide tüübid

Žanr

näide

Oht

väljamõeldud allikas

Olematu artikkel/DOI

Vale tõendite ahel

Vale annus/ühik

Vale mg või ühik

Otsene kahju patsiendile

Väljamõeldud töö/tulemus

Mitte-RCT "tõendid"

Vale kliiniline otsus

Aegunud soovitus

Vana juhendartikkel

vananenud ravi

vale omistamine

Tõeline artikkel, vale järeldus

moonutatud teave

liigne üldistamine

Jäta erand vahele

Vale rakendamine

Mitmekihiline autentimine

Ainus kaitse hallutsinatsioonide vastu on süstemaatiline kontrollimine. Viis kihti:

  1. Minge allika juurde. Avage ja kinnitage iga annus, kriteerium ja soovitus kehtivast juhisest, pakendi infolehest või esmasest artiklist.
  2. Ristkontroll. Kas kaks sõltumatut usaldusväärset allikat räägivad sama asja?
  3. Aktuaalsus. Mis kuupäevale teave kuulub? Kas see on sellest ajast muutunud?
  4. Kliiniline järjepidevus. Kas väide sobib patsiendi tegelikkuse ja üldise kliinilise loogikaga?
  5. Asjatundlik silm. Iga kahtluse või kriitilise punkti korral konsulteerige vastava haruga.

kolm minikarpi

Juhtum 1 – vale annus, mis tundub ohutu. Arst küsib AI-lt harva kasutatava ravimi annuse kohta. AI annab väga selge numbri. Arst vaatab prospekti; tegelik annus on kolmandik sellest, mida AI ütleb. AI täpne toon ei näidanud täpsust; Kinnitus hoidis ära saatusliku vea.

Juhtum 2 – fantoomtöö. AI viitab ravi toetamiseks 2020. aastal avaldatud 1200 patsiendi mitmekeskuselisele RCT-le. Arst otsib seda uuringut; Sellist uuringut pole. AI oli välja mõelnud numbreid ja üksikasju, et muuta oma väide usaldusväärseks.

Juhtum 3 – aegunud soovitus. Tehisintellekt soovitab vana ravimit, mida enam haiguse ravis esimesena ei soovitata. Arst vaatab kehtivat juhendit; Lähenemisviis on muutunud, esikohale on tulnud uus agent. AI teadmised külmutati eelmisel ajastul; Praegune juhend parandab otsust.

Samm-sammult: nõude kinnitamine

  1. Vähendage nõuet ühe lauseni. Nagu "X ravimit soovitatakse Y annuses."
  2. Määrake ressursi tüüp. Annus, kriteerium või tõendid?
  3. Avatud esmane allikas. Prospekt, käsiraamat, PubMed.
  4. Kontrollige kahe allikaga.
  5. Kinnitage ajakohasus.
  6. Kui see ei sobi, lükake see tagasi; Kahtluse korral konsulteerige spetsialistiga.

Neli kopeeritavat malli

Ülesanne: loetlege allolevas tehisintellekti väljundis eraldi ridadel KÕIK kontrollitavad väited (annus, diagnostilised kriteeriumid, allikas, numbriline tulemus, soovituslik soovitus). Lisage igaühe jaoks veerg "millisest esmasest allikast tuleks kinnitada". Enesekontroll; väljastab ainult kontrollitavad punktid. Väljund: [...]

Ülesanne: Loetlege, millised tingimused peavad olema täidetud, et järgmine väide oleks TÕENE ja millistel asjaoludel võib see olla VÄÄR. Et ma näeksin, kus ma pean kinnitama. Nõue: [...]

Ülesanne: Märkige järgmises tekstis arvulised või absoluutsed väited, mis on tehtud ilma allikale viitamata (nt "80% efektiivne", "500 mg päevas"). Märgistage igaüks "allikata – nõutav on kinnitus". Tekst: [...]

Ülesanne: paluge mul hinnata selle kliinilise soovituse HETKEST riski: millisel juhisel see võiks põhineda, millal seda viimati uuendati, kas selles valdkonnas on viimastel aastatel võimalik muutusi? Ärge koostage juhendi teksti; genereerida kontrollküsimusi. Soovitus: [...]

Nõrk viip / Tugev viip

Nõrk: "Kas see on tõsi?" (AI ütleb kergesti "jah.")

Tugev: "Loetlege alloleval tehisintellekti väljatrüki iga doosi, allika ja juhissoovitus eraldi real ja kirjutage, millisest esmasest allikast (paketi infoleht/juhend/PubMed) peaksin iga kohta kinnitama. Märkige allikateta või lõplikena näivad väited kui "vajalik kinnitamine". Kontrollige ennast; koostage lihtsalt kontroll-loend."

Võimsas viipas asetate AI-le rolli, mis ei "kinnita", vaid pigem "muudab enda väljundit auditeeritavaks".

Levinud vead

  • Enesekindla tooni eksimine täpsusega. Usaldusavaldus ei ole tõend.
  • "Oled sa kindel?" Testimine koos. Mudel libiseb kergesti mõlemas suunas.
  • Olles rahul ühe allikaga. Ristkontroll on kohustuslik.
  • Värskenduse vahelejätmine. Mudeliteave on fikseeritud kuupäeval.
  • Kriitilisel hetkel eksperdiga konsulteerimata. Küsitavate otsuste puhul tuleks küsida teist arvamust.

Automatiseerimise eelarvamus: oma lõks

Hallutsinatsioon on modelli viga; Kuid on ka inimlik viga: automatiseerimise eelarvamus. See on inimese kalduvus aktsepteerida vastust õigena ilma küsitlemata, kui masin vastuse annab. Lihtsalt sellepärast, et kalkulaator on töökindel, harjume sellega ära; Keelemudelit usaldame tahes-tahtmata samamoodi. Keelemudel pole aga täpne nagu kalkulaator; on tõenäoline ja ekslik.

Automatiseerimise kallutatus on eriti ohtlik väsinuna, ajasurve all ja rutiinsete ülesannete täitmisel. Krambi lõpus on lihtne AI-väljundist, mis tundub sujuv ja sujuv, loobuda kui "see on niikuinii tõsi". Vastumürk on muuta kontrollimine harjumuseks ja süsteemiks: siduda see kirjaliku sisseregistreerimise sammuga, mitte otsese tähelepanuga. "Ma olen väsinud, aga nii on kontrollnimekirjas kirjas" on parim kaitse automatiseerimise kallutatuse vastu.

Ettevaatust: Suurim oht ​​ei seisne selles, et AI teeb vigu; See tähendab, et nõustute selle veaga, kahtlemata selles, kui olete väsinud. Ühendage kontrollimine kirjaliku süsteemiga, mitte isikliku kaalutlusega.

Kokkuvõttes

Hallutsinatsioonid on meditsiinis kõige tõsisem tehisintellekti risk: mudel toodab valet ja tõde sama enesekindla tooniga. Väljamõeldud allikas, vale annus, fiktiivne uuring ja aegunud soovitus on kõige levinumad tüübid. Ainus kaitse on mitmekihiline kinnitamine: testige iga väidet esmase allika ja kehtivate juhiste suhtes, ristkontroll ja valuuta testimine; Kriitilistes punktides konsulteerige eksperdiga. Ärge kunagi võtke usaldusavaldust tõe tõendina.

Rakenduse ülesanne

Esitage tehisintellektile sihilikult keeruline kliiniline küsimus (haruldane annus või praegune ravi). Kontrollige iga annust, allikat ja soovitust, mille ta esmase allikaga annab. Kui paljud väited osutusid tõeks ja kui paljud olid valed või väljamõeldud? Sobitage tabel, millist tüüpi hallutsinatsioonid vead langevad, ja pange tähele, kuidas enesekindel toon võib teid eksitada.

kontrollnimekiri

  • [ ] Vähendasin iga nõude ühe lauseni.
  • [ ] Olen kinnitanud esmase allika annuse/kriteeriumi/allika/soovituse.
  • [ ] Kontrollisin kahe sõltumatu allikaga.
  • [ ] Olen kontrollinud, et teave on ajakohane.
  • [ ] Testisin väidet kliinilise järjepidevusega.
  • [ ] Küsitavas/kriitilises punktis konsulteerisin eksperdiga.
  • [ ] Ma ei pidanud enesekindlat tooni täpsuse tõendiks.