Kasu:
- Võimalus meditsiinilise tehisintellekti väljundis ära tunda hallutsinatsiooni tüüpe (väljamõeldud allikas, vale doos, kujuteldav uuring)
- Võimalus siduda iga kliiniline väide kehtivate juhiste ja esmase allikaga mitmekihilise kontrolliga
- Võime juhtida mudeli ebakindlust, seda, et usaldusavaldus ei tõenda õigsust ja veaohtu, mis tundub kindel
Tehisintellekti (AI) suurim oht meditsiinis ei seisne selles, et ta teeb vigu, vaid see, et ta teeb vigu suure enesekindlusega. Keelemudelid toodavad teksti, mis on ladus ja veenev; Lause kõlab sama enesekindlalt, olenemata sellest, kas see on tõene või vale. Seda nimetatakse "hallutsinatsiooniks": kui mudel toodab teavet, mida tegelikult ei eksisteeri (väljamõeldud allikas, vale doos, väljamõeldud uuring, olematu juhtmaterjal), nagu see oleks tõeline. Teistes piirkondades on hallutsinatsioonid häire; See on meditsiinis ohutusprobleem. Selles üksuses õpite tundma hallutsinatsioonitüüpe, mitmekihilist valideerimist ja juhtima mudeli ebakindlust. Põhiprintsiip: usaldusavaldus ei ole tõend tõest; Kõiki kliinilisi väiteid ei saa kasutada ilma esmase allika ja kehtivate juhistega sidumata.
Mis põhjustab hallutsinatsioone?
AI on süsteem, mis ennustab "järgmise kõige tõenäolisema sõna"; see ei loe reaalsuse andmebaasist. Isegi kui ta ei tea vastust küsimusele, annab ta usutava vastuse, mis on "sarnane" tekstidega, mille kohta ta on koolitatud. Sellepärast oskab ta anda olematu artikli täisvormitud tsitaadiga, vale doosi selge numbriga, aegunud soovituse täpse keelekasutusega. Modell kipub lünka täitma, mitte ütlema "ma ei tea". Lisaks on treeninguandmed fikseeritud kuupäeval; Ta ei pruugi sellest ajast muutunud juhistest teadlik olla.
Vihje: küsige tehisintellektilt "kas olete kindel?" küsimine ei ole usaldusväärne test; Modell võib kergesti öelda "jah, ma olen kindel" või vastupidi, jääda õigest vastusest kõrvale. Tõeline test on otsida väidet sõltumatust esmasest allikast.
Meditsiiniliste hallutsinatsioonide tüübid
Žanr
näide
Oht
väljamõeldud allikas
Olematu artikkel/DOI
Vale tõendite ahel
Vale annus/ühik
Vale mg või ühik
Otsene kahju patsiendile
Väljamõeldud töö/tulemus
Mitte-RCT "tõendid"
Vale kliiniline otsus
Aegunud soovitus
Vana juhendartikkel
vananenud ravi
vale omistamine
Tõeline artikkel, vale järeldus
moonutatud teave
liigne üldistamine
Jäta erand vahele
Vale rakendamine
Mitmekihiline autentimine
Ainus kaitse hallutsinatsioonide vastu on süstemaatiline kontrollimine. Viis kihti:
- Minge allika juurde. Avage ja kinnitage iga annus, kriteerium ja soovitus kehtivast juhisest, pakendi infolehest või esmasest artiklist.
- Ristkontroll. Kas kaks sõltumatut usaldusväärset allikat räägivad sama asja?
- Aktuaalsus. Mis kuupäevale teave kuulub? Kas see on sellest ajast muutunud?
- Kliiniline järjepidevus. Kas väide sobib patsiendi tegelikkuse ja üldise kliinilise loogikaga?
- Asjatundlik silm. Iga kahtluse või kriitilise punkti korral konsulteerige vastava haruga.
kolm minikarpi
Juhtum 1 – vale annus, mis tundub ohutu. Arst küsib AI-lt harva kasutatava ravimi annuse kohta. AI annab väga selge numbri. Arst vaatab prospekti; tegelik annus on kolmandik sellest, mida AI ütleb. AI täpne toon ei näidanud täpsust; Kinnitus hoidis ära saatusliku vea.
Juhtum 2 – fantoomtöö. AI viitab ravi toetamiseks 2020. aastal avaldatud 1200 patsiendi mitmekeskuselisele RCT-le. Arst otsib seda uuringut; Sellist uuringut pole. AI oli välja mõelnud numbreid ja üksikasju, et muuta oma väide usaldusväärseks.
Juhtum 3 – aegunud soovitus. Tehisintellekt soovitab vana ravimit, mida enam haiguse ravis esimesena ei soovitata. Arst vaatab kehtivat juhendit; Lähenemisviis on muutunud, esikohale on tulnud uus agent. AI teadmised külmutati eelmisel ajastul; Praegune juhend parandab otsust.
Samm-sammult: nõude kinnitamine
- Vähendage nõuet ühe lauseni. Nagu "X ravimit soovitatakse Y annuses."
- Määrake ressursi tüüp. Annus, kriteerium või tõendid?
- Avatud esmane allikas. Prospekt, käsiraamat, PubMed.
- Kontrollige kahe allikaga.
- Kinnitage ajakohasus.
- Kui see ei sobi, lükake see tagasi; Kahtluse korral konsulteerige spetsialistiga.
Neli kopeeritavat malli
Ülesanne: loetlege allolevas tehisintellekti väljundis eraldi ridadel KÕIK kontrollitavad väited (annus, diagnostilised kriteeriumid, allikas, numbriline tulemus, soovituslik soovitus). Lisage igaühe jaoks veerg "millisest esmasest allikast tuleks kinnitada". Enesekontroll; väljastab ainult kontrollitavad punktid. Väljund: [...]
Ülesanne: Loetlege, millised tingimused peavad olema täidetud, et järgmine väide oleks TÕENE ja millistel asjaoludel võib see olla VÄÄR. Et ma näeksin, kus ma pean kinnitama. Nõue: [...]
Ülesanne: Märkige järgmises tekstis arvulised või absoluutsed väited, mis on tehtud ilma allikale viitamata (nt "80% efektiivne", "500 mg päevas"). Märgistage igaüks "allikata – nõutav on kinnitus". Tekst: [...]
Ülesanne: paluge mul hinnata selle kliinilise soovituse HETKEST riski: millisel juhisel see võiks põhineda, millal seda viimati uuendati, kas selles valdkonnas on viimastel aastatel võimalik muutusi? Ärge koostage juhendi teksti; genereerida kontrollküsimusi. Soovitus: [...]
Nõrk viip / Tugev viip
Nõrk: "Kas see on tõsi?" (AI ütleb kergesti "jah.")
Tugev: "Loetlege alloleval tehisintellekti väljatrüki iga doosi, allika ja juhissoovitus eraldi real ja kirjutage, millisest esmasest allikast (paketi infoleht/juhend/PubMed) peaksin iga kohta kinnitama. Märkige allikateta või lõplikena näivad väited kui "vajalik kinnitamine". Kontrollige ennast; koostage lihtsalt kontroll-loend."
Võimsas viipas asetate AI-le rolli, mis ei "kinnita", vaid pigem "muudab enda väljundit auditeeritavaks".
Levinud vead
- Enesekindla tooni eksimine täpsusega. Usaldusavaldus ei ole tõend.
- "Oled sa kindel?" Testimine koos. Mudel libiseb kergesti mõlemas suunas.
- Olles rahul ühe allikaga. Ristkontroll on kohustuslik.
- Värskenduse vahelejätmine. Mudeliteave on fikseeritud kuupäeval.
- Kriitilisel hetkel eksperdiga konsulteerimata. Küsitavate otsuste puhul tuleks küsida teist arvamust.
Automatiseerimise eelarvamus: oma lõks
Hallutsinatsioon on modelli viga; Kuid on ka inimlik viga: automatiseerimise eelarvamus. See on inimese kalduvus aktsepteerida vastust õigena ilma küsitlemata, kui masin vastuse annab. Lihtsalt sellepärast, et kalkulaator on töökindel, harjume sellega ära; Keelemudelit usaldame tahes-tahtmata samamoodi. Keelemudel pole aga täpne nagu kalkulaator; on tõenäoline ja ekslik.
Automatiseerimise kallutatus on eriti ohtlik väsinuna, ajasurve all ja rutiinsete ülesannete täitmisel. Krambi lõpus on lihtne AI-väljundist, mis tundub sujuv ja sujuv, loobuda kui "see on niikuinii tõsi". Vastumürk on muuta kontrollimine harjumuseks ja süsteemiks: siduda see kirjaliku sisseregistreerimise sammuga, mitte otsese tähelepanuga. "Ma olen väsinud, aga nii on kontrollnimekirjas kirjas" on parim kaitse automatiseerimise kallutatuse vastu.
Ettevaatust: Suurim oht ei seisne selles, et AI teeb vigu; See tähendab, et nõustute selle veaga, kahtlemata selles, kui olete väsinud. Ühendage kontrollimine kirjaliku süsteemiga, mitte isikliku kaalutlusega.
Kokkuvõttes
Hallutsinatsioonid on meditsiinis kõige tõsisem tehisintellekti risk: mudel toodab valet ja tõde sama enesekindla tooniga. Väljamõeldud allikas, vale annus, fiktiivne uuring ja aegunud soovitus on kõige levinumad tüübid. Ainus kaitse on mitmekihiline kinnitamine: testige iga väidet esmase allika ja kehtivate juhiste suhtes, ristkontroll ja valuuta testimine; Kriitilistes punktides konsulteerige eksperdiga. Ärge kunagi võtke usaldusavaldust tõe tõendina.
Rakenduse ülesanne
Esitage tehisintellektile sihilikult keeruline kliiniline küsimus (haruldane annus või praegune ravi). Kontrollige iga annust, allikat ja soovitust, mille ta esmase allikaga annab. Kui paljud väited osutusid tõeks ja kui paljud olid valed või väljamõeldud? Sobitage tabel, millist tüüpi hallutsinatsioonid vead langevad, ja pange tähele, kuidas enesekindel toon võib teid eksitada.
kontrollnimekiri
- [ ] Vähendasin iga nõude ühe lauseni.
- [ ] Olen kinnitanud esmase allika annuse/kriteeriumi/allika/soovituse.
- [ ] Kontrollisin kahe sõltumatu allikaga.
- [ ] Olen kontrollinud, et teave on ajakohane.
- [ ] Testisin väidet kliinilise järjepidevusega.
- [ ] Küsitavas/kriitilises punktis konsulteerisin eksperdiga.
- [ ] Ma ei pidanud enesekindlat tooni täpsuse tõendiks.