Hallucination, Dogara, da Tabbatar da Tabbataccen Shaida

Riba:

• Ability don gane nau'ikan hallucination (tushen ƙirƙira, kashi mara kyau, binciken hasashen) a cikin fitarwar AI na likita
• Ability don haɗa kowane da'awar asibiti zuwa jagora na yanzu da tushen farko tare da tabbatarwa da yawa
• Ikon gudanar da rashin tabbas na ƙirar, cewa bayanin amincewa ba shaida ba ce ta daidai, da kuma haɗarin kuskure wanda ya zama tabbatacce.

Babban haɗari na basirar wucin gadi (AI) a cikin magani ba wai yana yin kuskure ba, amma yana yin kuskure tare da kwarin gwiwa. Samfuran harshe suna samar da rubutu mai dacewa da lallashi; Jumla tana sauti iri ɗaya tabbatacce ko gaskiya ne ko ƙarya. Ana kiran wannan "hallucination": lokacin da samfurin ya samar da bayanin da ba a haƙiƙa ba (tushen ƙirƙira, kashi mara kyau, binciken tunani, kayan jagora maras wanzu) kamar gaske. A wasu wuraren kuma, hallucination cuta ce; Batun aminci ne a cikin magani. A cikin wannan rukunin za ku koyi gane nau'ikan hasashe, ingantattun matakai da yawa, da sarrafa rashin tabbas na ƙira. Ka'ida ta asali: Maganar amincewa ba shaida ce ta gaskiya ba; Ba kowane da'awar asibiti ba za a iya amfani da shi ba tare da haɗawa zuwa tushen farko da jagora na yanzu ba.

Me ke haifar da hallucinations?

AI shine tsarin da ke annabta "kalmar da ta fi dacewa ta gaba"; ba ya karantawa daga bayanan gaskiya. Ko da bai san amsar tambaya ba, sai ya ba da amsa mai ma’ana wacce “ta yi kama da nassosin da aka horar da shi a kansu. Shi ya sa zai iya ba da labarin da ba ya wanzu tare da cikakken ƙayyadaddun ƙididdiga, adadin da ba daidai ba tare da madaidaicin lamba, tsohuwar shawara tare da madaidaicin harshe. Samfurin yana ƙoƙarin cikawa maimakon ya ce "Ban sani ba." Bugu da ƙari, bayanan horon suna daskarewa a kwanan wata; Wataƙila shi/ta ba su san ƙa'idodin da suka canza ba tun lokacin.

Alama: Tambayi AI "ka tabbata?" tambaya ba abin dogaro ba ne; Samfurin na iya sauƙin faɗi "eh, na tabbata" ko, akasin haka, a karkaɗe shi daga madaidaicin amsar. Ainihin gwajin shine a nemo da'awar a cikin tushe na farko mai zaman kansa.

Nau'ukan hallucinations na likita

Salon

misali

Hatsari

tushen tushen

Labarin da ba ya wanzu/DOI

Sarkar shaidar karya

Matsakaicin kuskure/raka'a

MG ko naúrar kuskure

Lalacewar mara lafiya kai tsaye

Hasashen aiki/sakamako

Wadanda ba RCT "shaida"

Ba daidai ba yanke shawara na asibiti

Shawarar da ta ƙare

Tsohon jagora labarin

m magani

rashin fahimta

Labari na gaske, ƙarewar kuskure

gurbatattun bayanai

overgeneralization

Tsallake banda

Yin kuskure

Tabbatar da Multi-Layer Tantancewar

Iyakar abin da zai kare kariya daga hallucination shine tabbatarwa na tsari. Yadudduka biyar:

1. Ku gangara zuwa tushen. Buɗe kuma tabbatar da kowane kashi, ma'auni da shawarwarin daga jagorar yanzu, saka fakiti ko labarin farko.
2. Tsallake dubawa. Shin majiyoyi masu zaman kansu guda biyu suna faɗin abu ɗaya?
3. Topicality. Wane kwanan wata ne bayanin yake? Shin ya canza tun lokacin?
4. Daidaituwar asibiti. Shin da'awar ta dace da gaskiyar majiyyaci da mahangar asibiti gabaɗaya?
5. Idon gwanaye. Tuntuɓi reshen da ya dace a kowane shakku ko mahimmanci.

uku mini lokuta

Shari'a 1 - Ba daidai ba kashi da alama lafiya. Likita ya tambayi AI game da adadin maganin da ba kasafai ake amfani da shi ba. AI yana ba da lamba bayyananne. Likitan ya dubi mai yiwuwa; ainihin adadin shine kashi uku na abin da AI ke faɗi. Madaidaicin sautin AI bai nuna daidaito ba; Tabbatarwa ya hana mummunan kuskure.

Case 2 - Aikin Fatalwa. AI ta ambaci "1,200-masu haƙuri RCT da yawa da aka buga a cikin 2020" don tallafawa jiyya. Likitan yana neman wannan binciken; Babu irin wannan karatun. AI ta ƙirƙira lambobi da cikakkun bayanai don tabbatar da da'awar ta.

Case 3 - Shawarar da ba ta daɗe ba. AI yana ba da shawarar tsohon magani wanda ba a fara ba da shawarar farko a cikin maganin cuta. Likitan ya dubi jagorar yanzu; Hanyar ta canza, sabon wakili ya zo na farko. Ilimin AI ya daskare a zamanin baya; Jagoran halin yanzu yana gyara yanke shawara.

Mataki-mataki: tabbatar da da'awa

1. Rage da'awar zuwa jumla ɗaya. Kamar "An ba da shawarar maganin X a cikin adadin Y."
2. Ƙayyade nau'in albarkatu. Dose, ma'auni ko shaida?
3. Bude tushen farko. Prospectus, manual, PubMed.
4. Tsallake dubawa tare da tushe guda biyu.
5. Tabbatar da zamani.
6. Idan bai dace ba, ki yarda da shi; Idan kuna shakka, tuntuɓi gwani.

Samfura huɗu masu kwafi

Aiki: Lissafin KOWANE da'awar da za a iya tabbatarwa (kashi, ma'aunin bincike, tushe, sakamakon lamba, shawarwarin jagora) a cikin fitowar AI da ke ƙasa akan layi daban-daban. Ƙara ginshiƙi "daga wane tushe na farko ya kamata a tabbatar" ga kowane. Tabbatar da kai; fitar da wuraren da za a bincika kawai. Fitowa: [...]

Aiki: Jera waɗanne sharuɗɗan dole ne a cika don da'awar na gaba ta zama GASKIYA kuma a cikin wane yanayi zai iya zama KARYA. Don in ga inda nake buƙatar tabbatarwa. Da'awar: [...]

Aiki: A cikin rubutu mai zuwa, yi alamar lambobi ko cikakkun bayanan da aka yi ba tare da ambaton tushen ba (misali "80% tasiri", "500 MG kowace rana"). Yi wa kowannensu lakabi da "ba a samo tushe ba - ana buƙatar tabbatarwa". Rubutu: [...]

Aiki: Tambaye ni in tantance haɗarin YANZU na wannan shawarwarin asibiti: wane jagora zai iya dogara da shi, yaushe aka sabunta shi, shin akwai yiwuwar canje-canje a wannan yanki a cikin 'yan shekarun nan? Kada ku sanya rubutun jagora; samar da tambayoyin sarrafawa.Shawarwari: [...]

Rauni mai ƙarfi / Ƙarfi mai ƙarfi

Rauni: "Wannan gaskiya ne?" (AI a sauƙaƙe yana cewa "eh.")

Ƙarfafa: "Jeri kowane nau'i, tushe, da shawarwarin jagora a cikin bugu na AI da ke ƙasa akan layi daban kuma rubuta daga wane tushe na farko (fakitin sakawa / jagora / PubMed) ya kamata in tabbatar da kowannensu. Alama maganganun da suka bayyana ba su da tushe ko tabbatacce kamar 'tabbacin da ake bukata'. Tabbatar da kanka; kawai samar da jerin abubuwan dubawa."

A cikin hanzari mai ƙarfi, kun sanya AI a cikin rawar da ba ta "tabbata" amma a maimakon haka "yana sanya nasa fitarwa."

Kuskuren gama gari

• Yin kuskuren sautin ƙarfin hali don daidaito. Bayanin amincewa ba shaida ba ne.
• "Ka tabbata?" Gwaji tare da. Samfurin yana zamewa cikin sauƙi a bangarorin biyu.
• Samun gamsuwa da tushe guda ɗaya. Tsallake-tsalle wajibi ne.
• Tsallake sabuntawa. Bayanin samfurin yana daskarewa a kwanan wata.
• Ba tuntuɓar ƙwararru ba a wani muhimmin batu. Ya kamata a nemi ra'ayi na biyu a cikin yanke shawara masu shakku.

Son zuciya ta atomatik: tarkon kansa

Hallucination shine kuskuren samfurin; Amma akwai kuma kuskuren ɗan adam: son zuciya ta atomatik. Wannan ita ce dabi'ar dan adam ta yarda da amsar daidai ba tare da tambaya ba lokacin da na'ura ta ba da amsa. Domin kawai na’urar lissafi abin dogaro ne, mun saba da shi; Mun sanya amana iri ɗaya cikin ƙirar harshe ba da gangan ba. Duk da haka, ƙirar harshe ba daidai ba kamar ƙididdiga; mai yiwuwa ne kuma mai kuskure.

Rashin son kai ta atomatik yana da haɗari musamman idan gaji, ƙarƙashin matsin lokaci, da kuma cikin ayyuka na yau da kullun. A ƙarshen kamawa, yana da sauƙi a watsar da fitarwar AI wanda ke da alama santsi da santsi kamar "gaskiya ne ta wata hanya." Maganin maganin shine sanya tabbatarwa ya zama al'ada da tsari: ɗaure shi zuwa matakin rajista a rubuce, ba ga hankalin mutum nan take ba. "Na gaji, amma abin da lissafin ke faɗi ke nan" shine mafi kyawun kariya daga son zuciya ta atomatik.

Tsanaki: Babban haɗari ba shine AI zai yi kuskure ba; Yana nufin ka karɓi wannan kuskuren ba tare da tambayarsa ba lokacin da ka gaji. Haɗa tabbatarwa zuwa tsarin rubutu, ba ga la'akari na mutum ba.

a takaice

Hallucination shine mafi girman haɗari na AI a cikin magani: samfurin yana haifar da ƙarya da gaskiya a cikin sautin amincewa. Tushen ƙirƙira, ƙayyadaddun ƙayyadaddun ƙayyadaddun ƙayyadaddun ƙayyadaddun ƙayyadaddun ƙayyadaddun ƙayyadaddun ƙayyadaddun ƙaya, binciken ƙage, da tsaffin shawarwarin sune nau'ikan gama gari. Iyakar tsaro shine tabbatarwa da yawa: gwada kowane da'awar akan tushen farko da jagora na yanzu, bincika giciye da gwaji don kuɗi; Tuntuɓi ƙwararren a wurare masu mahimmanci. Kar a taɓa ɗaukar bayanin amincewa a matsayin shaidar gaskiya.

Aikin aikace-aikace

Tambayi AI tambayar asibiti mai ƙalubalen da gangan (mafi ƙarancin kashi ko magani na yanzu). Tabbatar da kowane kashi, tushe, da shawarwarin da ya bayar tare da tushen farko. Da'awar nawa ne suka zama gaskiya kuma nawa ne karya ko ƙirƙira? Daidaita tebur zuwa wane nau'in hasashe kurakurai suka faɗo kuma lura da yadda sautin ƙarfin hali zai iya ɓatar da ku.

jerin abubuwan dubawa

• [ ] Na rage kowace da'awar zuwa jumla guda.
• [ ] Na tabbatar da kashi / ma'auni / tushe / shawarwarin daga tushen farko.
• [ ] Na bincika tare da tushe guda biyu masu zaman kansu.
• [ ] Na tabbatar da cewa bayanin na zamani ne.
• [ ] Na gwada da'awar tare da daidaito na asibiti.
• [ ] Na tuntubi wani kwararre kan abin tambaya/mahimmin batu.
• [ ] Ban yi la'akari da ingantaccen sautin a matsayin shaidar daidaito ba.