Awọn anfani:
- Agbara lati ṣe idanimọ awọn iru hallucination (orisun ti a ṣe, iwọn lilo ti ko tọ, ikẹkọ arosọ) ni iṣelọpọ AI iṣoogun
- Agbara lati ṣe asopọ ibeere ile-iwosan kọọkan si itọsọna lọwọlọwọ ati orisun akọkọ pẹlu ijẹrisi ọpọ-siwa
- Agbara lati ṣakoso aidaniloju awoṣe, pe alaye igbẹkẹle kii ṣe ẹri ti atunse, ati ewu aṣiṣe ti o dabi pe o daju.
Ewu ti o tobi julọ ti itetisi atọwọda (AI) ni oogun kii ṣe pe o ṣe awọn aṣiṣe, ṣugbọn pe o ṣe awọn aṣiṣe pẹlu igboya nla. Awọn awoṣe ede gbejade ọrọ ti o ni irọrun ati ti o ni idaniloju; Gbolohun kan dun ohun orin igboya kanna boya o jẹ otitọ tabi eke. Eyi ni a npe ni "hallucination": nigbati awoṣe ba gbe alaye jade ti ko si ni otitọ (orisun ti a ṣe, iwọn lilo ti ko tọ, iwadi ero inu, ohun elo itọnisọna ti ko si) bi ẹnipe o jẹ gidi. Ni awọn agbegbe miiran, hallucination jẹ rudurudu; O jẹ ọrọ aabo ni oogun. Ninu ẹyọ yii iwọ yoo kọ ẹkọ lati ṣe idanimọ awọn iru hallucination, afọwọsi ọpọlọpọ-Layer, ati ṣakoso aidaniloju awoṣe. Ilana ipilẹ: Gbólóhùn ti igbẹkẹle kii ṣe ẹri ti otitọ; Kii ṣe gbogbo ẹtọ ile-iwosan le ṣee lo laisi asopọ si orisun akọkọ ati itọsọna lọwọlọwọ.
Kini o fa hallucinations?
AI jẹ eto ti o sọ asọtẹlẹ “ọrọ ti o ṣeeṣe ti o tẹle”; o ko ni ka lati kan otito database. Kódà bí kò bá mọ ìdáhùn sí ìbéèrè kan, ó mú ìdáhùn tó bọ́gbọ́n mu jáde tí “ijọra” sí àwọn ẹsẹ Ìwé Mímọ́ tí a ti dá lẹ́kọ̀ọ́ lé lórí. Ti o ni idi ti o le fun ni nkan ti ko si tẹlẹ pẹlu itọka ti o ni kikun, iwọn lilo ti ko tọ pẹlu nọmba ti o han, iṣeduro ti igba atijọ pẹlu ede to peye. Awọn awoṣe duro lati kun ni ofo kuku ju sọ "Emi ko mọ." Ni afikun, data ikẹkọ ti wa ni didi ni ọjọ kan; Oun / o le ma mọ awọn itọnisọna ti o yipada lati igba naa.
Akiyesi: Beere lọwọ AI "Ṣe o da ọ loju?" béèrè kii ṣe idanwo ti o gbẹkẹle; Awoṣe naa le sọ ni irọrun “bẹẹni, Mo ni idaniloju” tabi, ni idakeji, jẹ yiyi lati idahun to pe. Idanwo gidi ni lati wa ẹtọ ni orisun akọkọ ti ominira.
Orisi ti egbogi hallucinations
Oriṣi
apẹẹrẹ
Ewu
orisun ti a ṣe
Nkan ti kii ṣe tẹlẹ / DOI
Eke pq ti eri
Iwọn ti ko tọ / ẹyọkan
miligiramu ti ko tọ tabi ẹyọkan
Ipalara alaisan taara
Ise oju inu/ esi
Ti kii ṣe RCT "Ẹri"
Ipinnu isẹgun ti ko tọ
Atilẹyin ti igba atijọ
Atijọ guide article
igba atijọ itọju
misattribution
Nkan gidi, ipari ti ko tọ
daru alaye
overgeneralization
Rekọja iyasoto
Lilo ilokulo
Olona-Layer ìfàṣẹsí
Aabo kanṣoṣo lodi si hallucination jẹ ijẹrisi eleto. Awọn ipele marun:
- Lọ si isalẹ si orisun. Ṣii ati jẹrisi iwọn lilo kọọkan, ami iyasọtọ ati iṣeduro lati itọsọna lọwọlọwọ, ifibọ package tabi nkan akọkọ.
- Agbelebu ayẹwo. Njẹ awọn orisun igbẹkẹle olominira meji sọ ohun kanna bi?
- Oro koko. Ọjọ wo ni alaye naa jẹ? Njẹ o ti yipada lati igba naa?
- Isẹgun aitasera. Njẹ ẹtọ naa baamu pẹlu otitọ alaisan ati ọgbọn isẹgun gbogbogbo bi?
- Oju ojogbon. Kan si ẹka ti o yẹ ni eyikeyi iyemeji tabi aaye pataki.
mẹta mini igba
Ọran 1 - Iwọn ti ko tọ ti o dabi ailewu. Onisegun kan beere lọwọ AI nipa iwọn lilo oogun ti a ko lo. AI fun nọmba ti o han gbangba. Onisegun n wo ifojusọna; iwọn lilo gangan jẹ idamẹta ti ohun ti AI sọ. Ohun orin pipe ti AI ko ṣe afihan deede; Ijẹrisi naa ṣe idiwọ aṣiṣe apaniyan.
Case 2 - Phantom iṣẹ. AI tọka si “1,200-alaisan multicenter RCT ti a tẹjade ni ọdun 2020” lati ṣe atilẹyin itọju kan. Onisegun n wa iwadi yii; Ko si iru iwadi. AI ti ṣe awọn nọmba ati awọn alaye lati jẹ ki ẹtọ rẹ jẹ igbẹkẹle.
Ọran 3 - Atilẹyin iṣeduro. AI ṣe iṣeduro oogun atijọ ti a ko ṣe iṣeduro ni akọkọ ni itọju arun kan. Onisegun n wo itọnisọna lọwọlọwọ; Ọna naa ti yipada, aṣoju tuntun ti wa ni akọkọ. Imọ AI ti di aotoju ni akoko iṣaaju; Itọsọna lọwọlọwọ ṣe atunṣe ipinnu naa.
Igbesẹ nipa igbese: ijẹrisi ẹtọ kan
- Din ẹtọ si gbolohun kan. Bii "Oògùn X ni a ṣe iṣeduro ni iwọn lilo Y."
- Mọ iru awọn oluşewadi. Iwọn, ami-ẹri tabi ẹri?
- Ṣii orisun akọkọ. Prospectus, Afowoyi, PubMed.
- Agbelebu ṣayẹwo pẹlu awọn orisun meji.
- Jẹrisi imudojuiwọn.
- Ti ko ba baamu, kọ ọ; Ti o ba ni iyemeji, kan si alamọja kan.
Mẹrin daakọ awọn awoṣe
Iṣẹ-ṣiṣe: Ṣe atokọ GBOGBO ẹtọ ẹtọ (iwọn lilo, awọn ilana iwadii, orisun, abajade nọmba, iṣeduro itọnisọna) ninu iṣelọpọ AI ni isalẹ lori awọn laini lọtọ. Ṣafikun “lati inu orisun akọkọ ti o yẹ ki o jẹrisi” iwe fun ọkọọkan. Ijẹrisi ti ara ẹni; nikan jade awọn ojuami lati wa ni ẹnikeji. Abajade: [...]
Iṣẹ-ṣiṣe: Ṣe atokọ awọn ipo wo ni o gbọdọ pade fun ẹtọ atẹle lati jẹ ODODO ati labẹ awọn ipo wo o le jẹ IRO. Ki emi ki o le ri ibi ti mo ti nilo lati jẹrisi. Ipe: [...]
Iṣẹ-ṣiṣe: Ninu ọrọ atẹle, samisi nọmba tabi awọn alaye pipe ti a ṣe laisi itọkasi orisun (fun apẹẹrẹ "80% ti o munadoko", "500 mg fun ọjọ kan"). Aami kọọkan pẹlu "unsourced - ìmúdájú beere". Ọrọ: [...]
Iṣẹ-ṣiṣe: Beere lọwọ mi lati ṣe ayẹwo ewu ti o wa lọwọlọwọ ti iṣeduro iwosan yii: itọnisọna wo ni o le da lori, nigbawo ni imudojuiwọn kẹhin, ṣe eyikeyi awọn iyipada ti o wa ni agbegbe yii ni awọn ọdun aipẹ? Maṣe ṣe agbekalẹ ọrọ itọnisọna; ṣe ipilẹṣẹ awọn ibeere iṣakoso.Imọran: [...]
Ailagbara kiakia / Alagbara kiakia
Alailagbara: "Ṣe otitọ ni eyi?" (AI ni irọrun sọ “bẹẹni.”)
Alagbara: "Akojọ iwọn lilo kọọkan, orisun, ati iṣeduro itọnisọna ni titẹ AI ti o wa ni isalẹ lori ila ti o yatọ ki o si kọ lati inu eyi ti orisun akọkọ (fi sii apoti / itọnisọna / PubMed) Mo yẹ ki o jẹrisi fun ọkọọkan. Samisi awọn gbolohun ọrọ ti o han ti ko ni orisun tabi ti o ṣe pataki bi 'ẹri ti o nilo'. Ṣe idaniloju ararẹ; kan gbejade akojọ ayẹwo kan. "
Ni kiakia ti o lagbara, o fi AI sinu ipa ti ko "fidi mulẹ" ṣugbọn kuku "jẹ ki o jẹ ki o ṣe ayẹwo ti ara rẹ."
Awọn aṣiṣe ti o wọpọ
- Asise ohun orin igboya fun išedede. Gbólóhùn ti igbekele ni ko eri.
- "Ṣe o da ọ loju?" Idanwo pẹlu. Awọn awoṣe rọra ni irọrun ni awọn itọnisọna mejeeji.
- Ni itẹlọrun pẹlu orisun kan. Ṣiṣayẹwo-agbelebu jẹ dandan.
- Foju imudojuiwọn naa. Alaye awoṣe ti wa ni aotoju ni ọjọ kan.
- Ko kan iwé ni a lominu ni ojuami. A keji ero yẹ ki o wa ni ibeere ni hohuhohu ipinnu.
Iyatọ adaṣe: pakute ti ara ẹni
Awọn hallucination ni awọn awoṣe ká aṣiṣe; Ṣugbọn aṣiṣe eniyan tun wa: aiṣedeede adaṣe. Eyi ni ifarahan eniyan lati gba idahun bi o ti tọ laisi bibeere nigbati ẹrọ ba funni ni idahun. O kan nitori pe oniṣiro jẹ igbẹkẹle, a di aṣa si rẹ; A ṣe aimọkan ni igbẹkẹle kanna si awoṣe ede. Sibẹsibẹ, awoṣe ede ko ṣe deede bi ẹrọ iṣiro; jẹ iṣeeṣe ati fallible.
Iyatọ adaṣe jẹ eewu paapaa nigbati o rẹwẹsi, labẹ titẹ akoko, ati ni awọn iṣẹ ṣiṣe deede. Ni opin ijagba, o rọrun lati yọkuro iṣẹjade AI ti o dabi dan ati didan bi “o jẹ otitọ lonakona.” Ipagun ni lati jẹ ki iṣeduro jẹ iwa ati eto kan: dimọ si igbesẹ ayẹwo kikọ, kii ṣe si akiyesi eniyan lẹsẹkẹsẹ. “O rẹ mi, ṣugbọn iyẹn ni ohun ti atokọ ayẹwo naa sọ” ni aabo ti o dara julọ lodi si aiṣedeede adaṣe.
Išọra: Ewu ti o tobi julọ kii ṣe pe AI yoo ṣe awọn aṣiṣe; O tumọ si pe o gba aṣiṣe yẹn laisi bibeere rẹ nigbati o rẹ rẹ. Ijẹrisi asopọ si eto kikọ, kii ṣe si ero ti ara ẹni.
Ni soki
Hallucination jẹ ewu to ṣe pataki julọ ti AI ni oogun: awoṣe ṣe agbejade eke ati otitọ ni ohun orin igboya kanna. Orisun ti a ṣelọpọ, iwọn lilo ti ko tọ, iwadii itanjẹ, ati iṣeduro ti igba atijọ jẹ awọn oriṣi ti o wọpọ julọ. Idabobo nikan ni ijẹrisi olona-pupọ: ṣe idanwo ibeere kọọkan lodi si orisun akọkọ ati itọsọna lọwọlọwọ, iṣayẹwo-agbelebu ati idanwo fun owo; Kan si alagbawo amoye ni awọn aaye pataki. Maṣe gba alaye idaniloju kan bi ẹri otitọ.
Ohun elo iṣẹ-ṣiṣe
Beere lọwọ AI ibeere ile-iwosan ti o mọọmọ nija (iwọn lilo to ṣọwọn tabi itọju lọwọlọwọ). Ṣayẹwo gbogbo iwọn lilo, orisun, ati iṣeduro ti o ṣe pẹlu orisun akọkọ. Bawo ni ọpọlọpọ awọn ẹtọ ti jade lati jẹ otitọ ati melo ni o jẹ eke tabi ti a ṣe? Baramu tabili si iru ipalọlọ ti awọn aṣiṣe ṣubu sinu ati ṣe akiyesi bii ohun orin igboya ṣe le ṣi ọ lọna.
akojọ ayẹwo
- [] Mo ti din kọọkan ẹtọ to kan nikan gbolohun.
- [] Mo ti jẹrisi iwọn lilo/awọn ami-ami/orisun/iṣeduro lati orisun akọkọ.
- [] Mo ṣe ayẹwo-ṣayẹwo pẹlu awọn orisun ominira meji.
- [] Mo ti rii daju pe alaye ti wa ni imudojuiwọn.
- [] Mo ṣe idanwo ẹtọ naa pẹlu aitasera ile-iwosan.
- [] Mo ti kan si alagbawo ohun iwé lori awọn hohuhohu / lominu ni ojuami.
- [] Emi ko ṣe akiyesi ohun orin igboya bi ẹri ti deede.