Sissejuhatus tehisintellekti farmaatsias: piirid, valideerimine, vastutus ja eetika

Kasu:

• Oskus teha vahet, kus tehisintellekt säästab reaalaega apteegi töövoos ja kus ohutuskriitiline vastutus peaks jääma vastavalt riskitasemele pädevale apteekrile ja arstile
• Võimalus rakendada mitmekihilist verifitseerimisdistsipliini, mis testib iga tehisintellekti väljundit ajakohase tooteteabe (SPC/KT), kohaldatavate õigusaktide ja sõltumatute ekspertide kontrolliga.
• Võimalus omandada harjumus valida konteksti anonüümseks muutmise, privaatsuse (KVKK) ja eetika seisukohast ohutuid tööriistu, et kaitsta patsiendi isiku- ja terviseandmeid.

Apteek on usalduskutse, mis näeb retsepti taga patsienti ja tarnib talle ravimi ohutult, täpselt ja ratsionaalselt. Selle usalduse allikas on see, et apteeker lähtub iga otsuse tegemisel teadmistest ja vastutusest. Tehisintellekt (lühidalt AI; tarkvara, mis õpib andmetest mustreid ja toodab teksti, tabeleid ja soovitusi) siseneb sellesse ametisse väga võimsa abilisena: interaktsiooni skaneerimine, patsienditeabe teksti kirjutamine, teatise koostamine, seadusandliku teksti kokkuvõte. Kuid tehisintellekt ei ole apteeker; Ta ei võta vastutust, ei kanna diplomit ega seisa seaduslikult patsiendi vastu. Selles üksuses saate teada, kus tehisintellekti apteegiäris kasutada, kus seista ja kuidas iga väljundit kontrollida. Eesmärk on teha sinust professionaal, kes kontrollib tehisintellekti, mitte ei sõltu sellest.

Mida saab tehisintellekt apteegis teha ja mida mitte?

Tehisintellekti tõeline jõud on luua keelt, mustreid ja jooniseid. Patsiendi nõustamistekst, kõrvalmõjudest (kõrvalmõjudest) teatamise raamistik, ratsionaalne ravimikasutus (RAH; ravimi kasutamise põhimõte koos õige ravimiga, õige annus, õige kestus) brošüür, varude analüüsi tabel ja kirjanduse kokkuvõte ilmuvad sekunditega. Nendes ülesannetes säästab tehisintellekt tunde ja leevendab vaimset koormust.

Mida tehisintellekt ei suuda, on otsus, mis nõuab kliinilist vastutust. Patsiendi annuse kohandamine neerufunktsiooni alusel, kas kahe ravimi koostoime on selle patsiendi jaoks kliiniliselt oluline, ravimi ohutus rasedatel, kas retsepti tuleks kinnitada; Midagi sellest ei saa kindlaks teha loogikaga "nii see tavaliselt juhtub". AI hallutsineerib, sest ta õpib Internetis ja raamatutes leiduvatest tekstidest: see tähendab, et see võib moodustada vale doosi, interaktsiooni või allika, mis näib tõene, kuid on vale. Apteekides pole seda tüüpi viga lihtsalt kirjaviga; Vale annus tähendab tõsiseid kõrvaltoimeid või isegi kahju patsiendile.

Tähelepanu: AI väljund on mustand, mitte eksperdiarvamus. Ilma pädeva apteekri ja arsti nõusolekuta ei saa teha ohutuse seisukohalt olulisi otsuseid ravimite, annuste ja ravi osas. Otsus diagnoosida ja ravida kuulub inimesele; AI ei asenda seda nõusolekut.

Kolm piirkonda vastavalt riskitasemele

Kõige praktilisem viis tehisintellekti ohutuks kasutamiseks on jagada iga ülesanne riskitaseme alusel kolmeks tsooniks. See eristus annab kiire ja täpse vastuse küsimusele "kas tehisintellekt peaks seda tegema?"

Piirkond

Näidisülesanded

Tehisintellekti roll

Kinnitamise tase

Roheline (madal risk)

Blogi mustand, riiuli silt, koosoleku märkus, e-kiri, üldteabe tekst

tasuta tootmine

Kiire ülevaade

Kollane (keskmise riskiga)

Patsiendiinfo tekst, seadusandlik kokkuvõte, varude analüüs, kirjanduse kokkuvõte, teatise kavand

Eelnõu + ettepanek

Ekspertkontroll + SmPC/allika kinnitus

Punane (turvalisuse seisukohalt kriitiline)

Annuse määramine, koostoime otsus, retsepti heakskiitmine, erirühma (rase/laps/puudulikkus) hindamine

Ainult eelekraan/kontrollloend

Nõusolek pädevalt apteekrilt ja vajadusel arstilt on kohustuslik.

Olge rohelises tsoonis kiire. Kasutage kollases tsoonis tehisintellekti, kuid kontrollige kõiki meditsiinilisi väiteid ja allikaid. Punases tsoonis ei ole AI-l kunagi viimast sõna; See on lihtsalt abivahend, mis kiirendab eksperdi tööd.

Mitmekihiline kontrollimise distsipliin

Kontrollimist ei saa edasi lükata, mõeldes "ma vaatan hiljem"; on osa töövoost. Tugev valideerimine apteegis koosneb viiest kihist:

1. Tagasi allika juurde. Kui tehisintellekt on andnud annuse, koostoime või seisundi, avage ja kinnitage see kehtiva tooteinfo (SmPC: Summary Product Information; ametlik ravimiteave arstile. KT: Kasutusjuhend; patsiendile) või kehtivate juhiste/õigusaktide põhjal.
2. Sõltumatu konto. Arvutage annus või kontsentratsioon (mg/kg, ml, %) ümber käsitsi või valideeritud meetodi abil.
3. Katse patsiendi kontekstiga. Võrrelge väidet selle tegeliku patsiendi vanuse, kehakaalu, neeru-/maksafunktsiooni, raseduse ja muude ravimitega.
4. Asjatundlik silm. Kui otsus on kliiniline ja esineb kõhklusi, konsulteerige arstiga; Lõpliku heakskiidu annab pädev apteeker.
5. Jäta oma jälg. Salvestage, milline väljund valideeriti ja kuidas; Las see tuleb hiljem üle kontrollida.

Vihje: "AI ütles" ei ole õigustus. Apteegi otsuse põhjenduseks on alati kehtiv ravimi omaduste kokkuvõte/PI, kehtiv juhend/õigusakt, sõltumatu arvutus või pädeva eksperdi kinnitus. AI aitab teil neid põhjendusi ette valmistada, mitte ei asenda neid.

Privaatsus, KVKK ja eetika

Terviseandmed on kõige tundlikum isikuandmete liik; Need kuuluvad õigusaktides kõrgeima kaitse alla kui "erilaadsed isikuandmed". patsiendi nimi, TR ID number, diagnoos, kasutatud ravimid; Kõik see on konfidentsiaalne. Enne nende andmete pilvepõhisele AI-tööriistale andmist esitage kolm küsimust: kas need andmed on tõesti vajalikud? Kas seda saab anonüümseks muuta? Kas minu kasutatav tööriist kasutab treeningutel andmeid?

Eetiline mõõde sellega ei lõpe. Tehisintellekt ei saa patsienti otseselt diagnoosida, ravi soovitada ega arsti asendada. Isegi käsimüügiravimite (OTC) puhul on vastutustundetu AI väljund patsiendile üle kanda ilma seda apteekri filtrit läbimata. Kasutage AI-d sisemise tööriistana; Ärge kunagi jätke mööda teie ja patsiendi vahelisest professionaalsest otsusest.

kolm minikarpi

Juhtum 1 – valideerimisel ilmneb viga. Apteeker konsulteeris AI-ga, et kiiresti kontrollida 18 kg kaaluva lapse annust; AI soovitas ekslikult koguannuseks 15 mg/kg asemel 150 mg. Apteeker pidas väljatrükki mustandiks ja tegi iseseisva arvutuse: 18 × 15 = 270 mg/päevas. Ta nägi erinevust, kinnitas selle ravimi omaduste kokkuvõttes ja määras õige annuse. Ilma kontrollimiseta oleks laps saanud ligikaudu poole annusest; Pime usaldus AI vastu tekitaks vea.

Juhtum 2 – konfidentsiaalsuse kaitse. Apteeker kavatses tehisintellektilt keerulise juhtumi kohta küsides patsiendi nime ja isikukoodi kirja panna. Tänu oma anonüümseks muutmise harjumusele asendas ta need kliiniliste vastetega, nagu "65-aastane mees, krooniline neeruhaigus". Väljundi kvaliteet ei langenud kordagi, kuid patsiendi privaatsed andmed ei läinud ühtegi pilve. Konfidentsiaalsus oli kaitstud, ilma et see kahjustaks tulemuste kvaliteeti.

3. juhtum – kiiruseületamine rohelises tsoonis. Seesama apteek kirjutaks personalile külmaketi kohaletoimetamise korra. See missioon oli madala riskiga (roheline tsoon); Apteeker võttis tehisintellektist mustandi ja kohandas selle reaalse vooluga, vähendades tunnitöö poolele tunnile. Kuna ta teadis õiget tsoneeringut, kiirendas ta siin, samas kui kliinilise otsuse korral ta aeglustas ja kontrollis.

Samm-sammult: tehisintellekti ohutu juurutamine ülesandesse

1. Asetage ülesanne piirkonda. Roheline, kollane või punane?
2. Konteksti anonüümseks muutmine. Kustutage pärisnimi, ID, ID ja isiklik teave.
3. Esitage selge ülevaade. Kirjutage selgelt üles patsiendi omadused (vanus, kaal, funktsioon), eesmärk ja vorming.
4. Kaaluge väljundit mustandiks. Ärge kunagi kasutage seda nagu lõpptoodet.
5. Rakendage kinnituskihte. Allikas, konto, patsiendi kontekst, ekspert, jälg.
6. Pange kirja otsus ja selle põhjendus.

Neli kopeeritavat malli

Roll: olete apteegi assistent (EI tee kliinilisi otsuseid).Ülesanne: koostage [ülesande] jaoks MANDAND.Kontekst: patsiendi vanus [...], kaal [...], neerude/maksa seisund [...],muud ravimid [...]. (Puudub tegelik identifitseerimisteave.) Reegel: silt "SmPC/ALLIKA KINNITUS VAJALIK" iga annuse/koostoime/seisundi kohta, milles te pole kindel. Vorming: täppides koos põhjendusega.

Ülesanne: LOETELGE allolevas tekstis meditsiinilised väited, annuste väärtused ja regulatiivsed viited. Lisage iga jaoks märkus "allikas tuleb kinnitada". Ärge kinnitage seda ise, vaid märkige see.Tekst: [...]

Ülesanne: Klassifitseerige see tehisintellekti väljund apteekri pilgu läbi riskitaseme järgi. Iga üksuse kohta: roheline / kollane / punane ja põhjendage ühe lausega. Kirjutage punastesse üksustesse "vajalik kvalifitseeritud apteekri/arsti kinnitus". Väljund: [...]

Ülesanne: muutke allolev patsiendi/retsepti tekst anonüümseks. Asenda pärisnimi, ID, aadress, telefon ja identifikaator [TAGET]-ga; säilitavad kliinilise tähenduse.Tekst: [...]

Nõrk viip / Tugev viip

Nõrk: "Millist ravimit peaksin sellele patsiendile andma?"

Güçlü: "65-aastasel patsiendil, kelle kreatiniini kliirens on hinnanguliselt 40 ml/min ja kes kasutab varfariini ja metformiini, loetlege arsti poolt välja kirjutatud uue antibiootikumi võimalikud koostoimed ja vajadus annuse kohandamise kohta eelsõeluuringuna. Märkige, et iga kirje peab olema kinnitatud ravimi omaduste kokkuvõttest. Ärge tehke otsust, vaid lihtsalt eemaldage punktid, mida kontrollida."

Võimsas viipas on selgelt antud patsiendi kontekst, arv, piirang ja piirang; Selge on see, kus tehisintellekt jääb seisma ja otsus jääb apteekrile.

Levinud vead

• Tehisintellekti väljundi eksitamine ekspertarvamusega. AI loob piirjooni, mitte kliinilisi otsuseid.
• Turvakriitiliste otsuste tegemise delegeerimine tehisintellektile. Annustamine, koostoime ja retseptide kinnitamine ei jäeta kunagi tehisintellekti hooleks.
• Teabe kasutamine ilma ravimi omaduste kokkuvõtet/allikat kinnitamata. Iga annus, koostoime ja seisund peab olema kinnitatud ametlikust allikast.
• Patsiendi andmete otse laadimine. Unarusse ei tohiks jätta anonüümsust ja ohutut tööriista valikut.
• Ei märka hallutsinatsioone. Kuigi tehisintellekt võib tunduda enesekindel, võib see olla vale; Kindel väide ei ole tõe tõend.

Kokkuvõttes

AI on apteegis tõeline kiirendi, kuid see ei asenda apteekrit. Jaga ülesanded roheliseks, kollaseks ja punaseks tsooniks; Olge kiire rohelisega, kinnitage kollast, ärge kunagi andke tehisintellektile viimast sõna punase osas. Pidage iga väljundit mustandiks ja viige see läbi viiekihilise kontrolli. Võtke patsiendi konfidentsiaalsust ja KVKK-d tõsiselt. Vastutus jääb alati pädevale apteekrile ja arstile; AI ei jaga seda vastutust.

Rakenduse ülesanne

Valige oma igapäevasest praktikast kolm ülesannet (nt patsienditeabe tekst, regulatiivne kokkuvõte, patsiendi annuse kontrollimine). Klassifitseerige igaüks roheliseks/kollaseks/punaseks. Kirjutage üles, milliseid kinnituskihte te kollase ja punase ülesande jaoks rakendate ning kelle heakskiitu on punase ülesande jaoks vaja. Samuti otsige üles ja märkige oma kasutatava tehisintellekti tööriista privaatsuspoliitikasse, kas see kasutab patsiendiandmeid õppetöös.

kontrollnimekiri

• [ ] Asetasin ülesande riskitsooni.
• [ ] Tegin konteksti anonüümseks (nimi, ID, diagnoos selge).
• [ ] Esitasin selge, patsiendi konteksti arvestava lühiülevaate.
• [ ] Käsitlesin väljundit kui mustandit.
• [ ] Olen kinnitanud annuse/koostoime/tingimused kehtivast ravimi omaduste kokkuvõttest/viitest.
• [ ] Ohutuskriitilise otsuse jätsin pädeva apteekri/arsti teha.
• [ ] Salvestasin kinnitusjälje.