Mga nadagdag:
- Upang matukoy kung bakit ang responsibilidad ng diagnosis at paggamot ay hindi mailipat sa artificial intelligence at ang legal na posisyon ng doktor
- Kakayahang gumamit ng artificial intelligence alinsunod sa may kaalamang pahintulot, transparency at propesyonal na mga tuntunin sa etika
- Kakayahang mag-apply kung paano isara ang isang klinikal na desisyon na suportado ng AI na may gabay, pagsusuri at pag-apruba ng karampatang manggagamot
Kapag ang isang pasyente ay nasaktan, ang unang tanong ay: sino ang may pananagutan? Kung gumawa ng diagnostic na rekomendasyon ang artificial intelligence (AI) at naging mali ang desisyon, responsable ba ang AI? Ang sagot ay malinaw: Hindi. Ang pananagutang medikal ay laging nasa karampatang manggagamot na gumagawa ng desisyon. Ang AI ay parang isang kasangkapan; tulad ng stethoscope o kagamitan sa laboratoryo. Tungkulin ng doktor na bigyang-kahulugan ang output ng device, tanggapin o tanggihan ito, at gawin ang pangwakas na desisyon. Sa unit na ito matututunan mo ang legal na batayan ng pananagutan, mga prinsipyo ng propesyonal na etika, transparency at may kaalamang pahintulot, at kung paano maayos na isara ang isang desisyon na tinulungan ng AI.
Bakit nasa doktor ang responsibilidad?
Nakabatay ang medisina sa isang "tungkulin ng pangangalaga": obligado ang manggagamot na gamitin ang pangangalaga na kinakailangan ng mahusay na kasanayang medikal. Ang kanyang paggamit ng sasakyan ay hindi nagpapagaan sa kanya ng obligasyong ito; Sa kabaligtaran, ang paggamit ng tool nang tama ay bahagi din ng pangangalaga. Ang bulag na pagsunod sa mungkahi ng AI o hindi pagpansin sa isang kapaki-pakinabang na babala ay maaaring parehong paglabag sa pangangalaga. Dapat suriin ng manggagamot ang output ng AI gamit ang kanyang klinikal na paghuhusga.
Sa legal, ang AI ay hindi isang "paksa ng batas"; hindi maaaring idemanda, hindi nagbabayad ng kabayaran, at hindi maaaring parusahan. Ang pananagutan ng produkto ng tagagawa ay isang hiwalay na isyu, ngunit ang responsibilidad para sa medikal na relasyon at desisyon sa pasyente ay nakasalalay sa manggagamot. "Iyan ang sinabi ng AI" ay hindi isang pagtatanggol; Sa kabaligtaran, ang pag-asa sa isang hindi na-verify na output ng AI ay maaaring magpalala ng pananagutan.
Babala: Ang anumang desisyong ginawa batay sa output ng AI ay sariling desisyon ng manggagamot. Ang pagsunod sa isang hindi napapatunayang rekomendasyon ay ginagawang legal at etikal na mananagot ang manggagamot. Hindi posibleng ilipat ang responsibilidad sa sasakyan.
Propesyonal na etika at AI
Apat na pangunahing prinsipyo ng medikal na etika ang gumagabay sa paggamit ng AI:
- Benepisyo: Gumamit ng AI upang mapabuti ang pangangalaga para sa kapakinabangan ng pasyente.
- Nonmaleficence: Pamahalaan ang panganib ng pinsala mula sa hindi na-verify na output; Kapag may pagdududa, piliin ang ligtas na landas.
- Autonomy: Igalang ang karapatan ng pasyente sa desisyon; Ipaalam, kumuha ng pahintulot.
- Pagkamakatarungan: Siguraduhin na ang pagkiling ng AI ay hindi makapipinsala sa ilang partikular na grupo.
Ang mga prinsipyong ito ay naglilipat ng AI mula sa pagiging isang "tool ng bilis" patungo sa pagiging "bahagi ng responsableng klinikal na kasanayan."
Transparency at may kaalamang pahintulot
Ang informed consent ay ang pag-unawa at pagtanggap ng pasyente sa pamamaraang isasagawa sa kanya. Kaya dapat bang malaman ng pasyente na ang isang AI ay nag-aambag sa kanilang desisyon? Ang prinsipyo ng transparency ay nangangailangan ng doktor na matapat na sabihin na siya ay gumagamit ng AI bilang isang tulong at na ang huling desisyon ay sa kanya. Mali na itago ang paggamit ng AI at ganap na ipatungkol ang desisyon sa AI. Tamang saloobin: "Gumagamit ako ng napapanahong mga mapagkukunan at tulong kapag gumagawa ng aking desisyon, ngunit sinusuri at inirerekomenda ko ang diagnosis at paggamot."
Hint: Isang pasyente ang nagtanong, "Nagdesisyon ba ang AI?" Ang tapat at nakakapanatag na sagot ay: "Ang AI ay isang kasangkapan upang matulungan ako; ang pangwakas na pagsusuri at desisyon ay pag-aari ko. Nasuri ko ang iyong sitwasyon." Pinapanatili nito ang parehong transparency at tiwala.
Hakbang-hakbang: I-off ang pagpapasya na pinapagana ng AI
- Gamitin ang AI bilang katulong. Mungkahi, paalala, draft.
- Suriin gamit ang klinikal na paghuhusga. Ang rekomendasyon ba ay tumutugma sa katotohanan ng pasyente?
- Kumpirmahin sa gabay at pinagmulan. Ang desisyon ay dapat batay sa ebidensya.
- Kumunsulta sa isang eksperto kung kinakailangan. Ito ay nasa isang kritikal at hindi tiyak na estado.
- Itala ang desisyon at ang pangangatwiran nito. Idokumento ang kontribusyon at pagpapatunay ng AI.
- Maging transparent; Kumuha ng pahintulot kung kinakailangan.
tatlong mini case
Kaso 1 — Limitasyon ng pananagutan. Ang isang manggagamot ay nangangasiwa ng paggamot na inirerekomenda ng AI nang hindi ito bini-verify, at ang pasyente ay napinsala. Ang "iminungkahing AI" na pagtatanggol ay hindi tinatanggap sa pagsusuri; Natukoy na hindi tinupad ng manggagamot ang kanyang obligasyon sa pagpapatunay. Aralin: Ang output ng AI ay sariling desisyon ng manggagamot.
Kaso 2 — Tamang transparency. Ang isang pasyente ay nagtataka kung paano ginawa ang kanyang diagnosis. Ipinaliwanag ng doktor na gumagamit siya ng AI bilang isang assistant tool, ngunit siya mismo ang nagsasagawa ng pagsusuri, pagsusuri at pagsusuri. Ang pasyente ay nakakaramdam ng tiwala; Ang may-alam na pahintulot ay itinatag sa isang malusog na paraan.
Case 3 — Hindi papansinin ang kapaki-pakinabang na babala. Ipinapaalala sa amin ng AI ang isang hindi napapansing pakikipag-ugnayan sa droga. Kinukumpirma ito ng doktor at ginagawang ligtas ang paggamot. Dito, ang pagsunod sa babala ng sasakyan ay nagiging bahagi ng pangangalaga para sa kapakinabangan ng pasyente.
Talaan ng kalinawan ng responsibilidad
Katayuan
sino ang may pananagutan
Bakit
Ipinatupad ang rekomendasyon ng AI nang walang pag-verify
manggagamot
Tungkulin ng pangangalaga at pagpapatunay
Binalewala ang babala ng AI at naganap ang pinsala
manggagamot
Sa pamamagitan ng klinikal na paghatol
Na-verify ang output ng AI at ginawa ang tamang desisyon
Manggagamot (positibo)
Ang desisyon ay pag-aari ng doktor
Teknikal na pagkakamali ng sasakyan (hiwalay na pananagutan sa produkto)
Manufacturer (bahagyang)
Nasa kamay pa rin ng doktor ang desisyong medikal
Apat na maaaring kopyahin na mga template
Gawain: I-convert ang sumusunod na klinikal na desisyon na pinapagana ng AI sa isang RATIONALE note para sa pagtatala: anong rekomendasyon ang kinuha, paano ito na-verify (guideline/examiner/expert), na gumawa ng pangwakas na desisyon. Idagdag ang pariralang "Ang responsibilidad ay nakasalalay sa manggagamot". Desisyon: [...]
Gawain: Sumulat ng isang maikling teksto sa isang pasyente na nagpapaliwanag sa isang malinaw at nakakatiyak na paraan na gumamit ako ng isang tool upang tumulong sa kanyang desisyon. Bigyang-diin na ang huling desisyon ay akin; huwag magulo sa mga teknikal na detalye.Konteksto: [...]
Gawain: Ibahin ang sumusunod na desisyon sa isang checklist na may apat na prinsipyo ng medikal na etika (beneficence, nonmaleficence, autonomy, justice). Bumuo ng control question para sa bawat patakaran. Desisyon: [...]
Gawain: Sa prosesong ito na pinapagana ng AI, markahan kung aling mga punto ang kailangan ng INFORMED CONSENT at transparency at bumuo ng tanong kung ano ang dapat sabihin sa pasyente para sa bawat isa. Proseso: [...]
Mahinang prompt / Malakas na prompt
Mahina: "Ginawa ng AI ang diagnosis na ito, dapat ko bang ilapat ito?"
Güçlü: "Para masuri ko ang diagnosis na ito na iminungkahi ng AI: sa aling pagsusuri/pagsusuri ko dapat kumpirmahin ito, aling kasalukuyang patnubay ang dapat kong tingnan, aling red flag ang dapat kong ibukod? Ako ang gagawa ng desisyon; gumawa ng draft na kumpirmasyon at rekord ng pagbibigay-katwiran para dito at idagdag ang pariralang 'responsibility lies with the physician'."
Sa malakas na prompt, ang AI ay hindi ang gumagawa ng desisyon; Ito ay isang katulong na nagdodokumento at nagpapatibay sa desisyon ng manggagamot.
Mga karaniwang pagkakamali
- Sinusubukang ilipat ang responsibilidad sa AI. Ang "sabi ng AI" ay hindi isang pagtatanggol.
- Nag-aaplay nang walang pag-verify. Magkakaroon ng paglabag sa tungkulin ng pangangalaga.
- Hindi pinapansin ang nakakatulong na babala. Maaari rin itong isang paglabag sa pangangalaga.
- Itinatago ang paggamit ng AI. Ito ay labag sa prinsipyo ng transparency.
- Hindi naitala ang desisyon at katwiran. Kinakailangan ang naa-audit na bakas.
Batas sa medikal na kagamitan at naaprubahang paggamit
Ang ilang AI tool para sa mga klinikal na layunin (hal. software na nakakakita ng mga natuklasan sa mga larawan, tumutulong sa diagnosis) ay legal na itinuturing na mga medikal na device at dapat na nakapasa sa nauugnay na pag-apruba ng regulasyon. Ang isang pangkalahatang layunin na modelo ng chat ay hindi naaprubahan bilang isang medikal na aparato; Ito ay pinakamahusay na tulong sa klinikal na pagsusuri, hindi isang "opisyal na tool". Ang pagkakaibang ito ay mahalaga: ang isang aprubadong kagamitang medikal ay napatunayan at may label para sa isang partikular na nilalayon na paggamit (indikasyon); Ang paggamit nito sa labas ng label ay lumilikha ng karagdagang pananagutan.
Sa pagsasagawa, ang mga tanong na dapat itanong ng manggagamot ay: Ang aparato ba na ginagamit ko ay isang medikal na aparato na naaprubahan para sa klinikal na paggamit o isang pangkalahatang layunin na modelo? Kung naaprubahan, tumutugma ba ang layunin na ginagamit ko ito sa may label na layunin? Ang kalinawan na ito ay ang batayan para sa parehong ligtas na paggamit at isang posibleng legal na pagsusuri. Ang paggamit ng isang pangkalahatang layunin na modelo bilang isang diagnostic tool at paglalapat nito nang hindi pinapatunayan ang resulta ay ang pinaka-mahina na posisyon.
Babala: Ang modelo ng pangkalahatang layunin ng dila ay hindi isang inaprubahang medikal na aparato. Ang paggamit nito bilang isang klinikal na diagnostic tool at paglalapat nito nang hindi pinapatunayan ang output nito ay hindi maipagtatanggol sa parehong pang-regulasyon at pananagutan.
Sa buod
Ang pananagutang medikal ay palaging nakasalalay sa karampatang manggagamot na gumagawa ng desisyon; Ang AI ay isang tool, hindi isang paksa ng batas. Ang "sabi ng AI" ay hindi isang pagtatanggol, ngunit isang paglala kung kinakailangan. Gumamit ng AI sa paraang naaayon sa apat na prinsipyo ng medikal na etika, nang malinaw, at may paggalang sa may-kaalamang pahintulot; bigyang-katwiran ang bawat desisyon nang may klinikal na paghatol, patnubay, at opinyon ng eksperto kung kinakailangan; Itala ang pagbibigay-katwiran at pagpapatunay. Kapag nagtanong ang pasyente "Nagdesisyon ba ang AI?" Sagutin ang tanong nang tapat at may katiyakan.
Gawain ng aplikasyon
Isaalang-alang ang isang kamakailang klinikal na desisyon kung saan mo ginamit ang AI. Dokumento na may template ng justification record sa itaas: anong rekomendasyon ang kinuha, paano ito napatunayan, sino ang gumawa ng desisyon? Suriin ang parehong desisyon na may apat na etikal na prinsipyo. Isulat din kung paano mo malinaw na ipapaliwanag ang iyong paggamit ng AI sa pasyente.
checklist
- [ ] Ginamit ko ang AI bilang isang assistant tool, hindi bilang isang gumagawa ng desisyon.
- [ ] Nabigyang-katwiran ko ang rekomendasyon sa pamamagitan ng klinikal na paghuhusga at patnubay.
- [ ] Kumonsulta ako sa isang eksperto kung kinakailangan.
- [ ] Sinuri ko ang desisyon laban sa apat na etikal na prinsipyo.
- [ ] Ako ay transparent; Kumuha ako ng pahintulot kung kinakailangan.
- [ ] Itinala ko ang desisyon, katwiran, at katwiran.
- [ ] Naidokumento ko na ang responsibilidad ay nasa manggagamot.