Ieguvumi:
- Being able to distinguish where artificial intelligence saves real time in the pharmacy workflow and where the safety-critical responsibility should remain with the competent pharmacist and physician, according to the risk level
- Ability to implement a multi-layered verification discipline that tests each AI output against up-to-date product information (SPC/KT), applicable legislation and independent expert control
- Ability to acquire the habit of choosing safe tools in terms of anonymization of context, privacy (KVKK) and ethics to protect patient personal and health data.
Pharmacy is a profession of trust that sees the patient behind a prescription and delivers the medicine to him/her in a safe, accurate and rational manner. Šīs uzticības avots ir tas, ka farmaceits katru lēmumu pieņem uz zināšanām un atbildību. Artificial intelligence (AI for short; software that learns patterns from data and produces text, tables and suggestions) enters this profession as a very powerful assistant: scanning an interaction, writing a patient information text, drafting a notification, summarizing a legislative text. Bet AI nav farmaceits; Viņš ne uzņemas atbildību, ne nēsā diplomu, ne arī juridiski nostājas pret pacientu. Šajā nodaļā jūs uzzināsiet, kur aptieku biznesā izmantot mākslīgo intelektu, kur nostāties un kā pārbaudīt katru izlaidi. Mērķis ir padarīt jūs par profesionāli, kas kontrolē mākslīgo intelektu, nevis no tā atkarīgu.
Ko mākslīgais intelekts var un ko nevar darīt farmācijā?
Mākslīgā intelekta patiesais spēks ir radīt valodu, modeļus un rasējumus. A patient counseling text, an adverse effect (side effect) reporting framework, a rational drug use (RAH; principle of using the drug with the right drug, the right dose, for the right duration) brochure, a stock analysis table, and a literature summary appear in seconds. Veicot šos uzdevumus, mākslīgais intelekts ietaupa stundas un atvieglo garīgo slodzi.
Tas, ko mākslīgais intelekts nevar izdarīt, ir lēmums, kas prasa klīnisku atbildību. Adjusting a patient's dose based on renal function, whether the interaction of two drugs is clinically significant for that patient, the safety of a drug in a pregnant woman, whether a prescription should be approved; Neko no tā nevar noteikt pēc loģikas "tā tas parasti notiek". AI hallucinates because it learns from texts on the internet and in books: that is, it can make up a false dose, interaction, or source that appears real but is false. Farmācijā šāda veida kļūda nav tikai drukas kļūda; Nepareiza deva nozīmē nopietnu nevēlamu ietekmi vai pat kaitējumu pacientam.
Uzmanību: AI izvade ir melnraksts, nevis eksperta atzinums. No safety-critical decisions regarding medication, dosage and treatment can be made without the approval of a competent pharmacist and physician. Lēmums diagnosticēt un ārstēt ir cilvēka ziņā; AI neaizstāj šo piekrišanu.
Trīs reģioni atbilstoši riska līmenim
Vispraktiskākais veids, kā droši izmantot mākslīgo intelektu, ir sadalīt katru uzdevumu trīs zonās, pamatojoties uz riska līmeni. Šī atšķirība sniedz ātru un precīzu atbildi uz jautājumu "vai mākslīgajam intelektam tas jādara?"
Reģions
Uzdevumu paraugi
Mākslīgā intelekta loma
Verifikācijas līmenis
Zaļš (zems risks)
Emuāra melnraksts, plaukta etiķete, sapulces piezīme, e-pasts, vispārīgas informācijas teksts
bezmaksas ražošana
Ātra apskate
Dzeltens (vidējs risks)
Pacientu informācijas teksts, likumdošanas kopsavilkums, krājumu analīze, literatūras kopsavilkums, paziņojuma projekts
Projekts + priekšlikums
Ekspertu kontrole + SmPC/avota apstiprinājums
Sarkans (drošībai svarīgs)
Devas noteikšana, lēmums par mijiedarbību, receptes apstiprināšana, īpašas grupas (grūtniece/bērns/nepietiekamība) novērtējums
Tikai pirms ekrāna/kontrolsaraksta
Kompetenta farmaceita un, ja nepieciešams, ārsta apstiprinājums ir obligāts.
Esiet ātrs zaļajā zonā. Izmantojiet mākslīgo intelektu dzeltenajā zonā, taču pārbaudiet faktus par katru medicīnisko apgalvojumu un avotu. Sarkanajā zonā mākslīgajam intelektam nekad nav gala vārda; Tas ir tikai palīglīdzeklis, kas paātrina eksperta darbu.
Daudzslāņu verifikācijas disciplīna
Pārbaude nav kaut kas tāds, kas jāatliek, domājot "vēlāk pārbaudīšu"; ir daļa no darbplūsmas. Spēcīga validācija aptiekā sastāv no pieciem slāņiem:
- Atgriezties pie avota. If the AI has given a dose, interaction or condition, open and confirm it from the current product information (SmPC: Summary Product Information; official drug information for the physician. KT: Instructions for Use; for the patient) or the applicable guidance/legislation.
- Neatkarīgs konts. Pārrēķiniet devu vai koncentrāciju (mg/kg, ml, %) manuāli vai izmantojot apstiprinātu metodi.
- Tests ar pacienta kontekstu. Salīdziniet apgalvojumu ar šī faktiskā pacienta vecumu, svaru, nieru/aknu darbību, grūtniecību un citām zālēm.
- Eksperta acs. Ja lēmums ir klīnisks un rodas vilcināšanās, konsultējieties ar ārstu; Galīgais apstiprinājums ir kompetentam farmaceitam.
- Atstājiet savu zīmi. Ierakstiet, kura produkcija tika apstiprināta un kā; Ļaujiet to pārbaudīt vēlāk.
Padoms: “AI teica” nav attaisnojums. The justification for a pharmacy decision is always the current SmPC/PI, current guidance/legislation, independent calculation or competent expert approval. AI palīdz sagatavot šos pamatojumus, nevis tos aizstāj.
Privātums, KVKK un ētika
Veselības dati ir sensitīvākais personas datu veids; Tie ir pakļauti visaugstākajai aizsardzībai kā "īpaša rakstura personas dati" tiesību aktos. pacienta vārds, uzvārds, TR ID numurs, diagnoze, lietotie medikamenti; Tas viss ir konfidenciāli. Pirms nodot šos datus mākoņa AI rīkam, uzdodiet trīs jautājumus: vai šie dati tiešām ir nepieciešami? Vai to var anonimizēt? Vai rīks, ko izmantoju, izmanto datus apmācībā?
Ar to ētiskā dimensija nebeidzas. Mākslīgais intelekts nevar tieši noteikt pacienta diagnozi, ieteikt ārstēšanu vai aizstāt ārstu. Even for over-the-counter (OTC) products, it is irresponsible to transfer the AI output to the patient without passing it through the pharmacist filter. Izmantojiet AI kā iekšējo rīku; Nekad neapejiet profesionālo spriedumu starp jums un pacientu.
trīs mini futrāļi
1. gadījums — validācijā tiek konstatēta kļūda. Farmaceits konsultējās ar AI, lai ātri pārbaudītu devu 18 kg smagam bērnam; AI kļūdaini ieteica kopējo devu 150 mg, nevis 15 mg/kg. Farmaceits izdruku uzskatīja par melnrakstu un veica neatkarīgu aprēķinu: 18 × 15 = 270 mg/dienā. Viņš redzēja atšķirību, apstiprināja to zāļu aprakstā un piemēroja pareizo devu. Bez pārbaudes disciplīnas bērns būtu saņēmis aptuveni pusi devas; Akla uzticēšanās AI radītu kļūdu.
2. gadījums — konfidencialitātes aizsardzība. Farmaceits grasījās pierakstīt pacienta vārdu un ID numuru, jautājot mākslīgajam intelektam par sarežģītu gadījumu. Pateicoties savam anonimizācijas ieradumam, viņš tos aizstāja ar klīniskiem ekvivalentiem, piemēram, “65 gadus vecs vīrietis, hroniska nieru slimība”. Izvades kvalitāte nekad nepazeminājās, bet pacienta privātie dati nenonāca nevienā mākonī. Konfidencialitāte tika aizsargāta, neapdraudot rezultātu kvalitāti.
3. gadījums — ātruma pārsniegšana zaļajā zonā. Tā pati aptieka darbiniekiem izrakstītu aukstuma ķēdes piegādes kārtību. Šī misija bija zema riska (zaļā zona); Farmaceite no mākslīgā intelekta paņēma melnrakstu un pielāgoja to reālajai plūsmai, samazinot stundas darbu līdz pusstundai. Tā kā viņš zināja pareizo zonējumu, viņš šeit paātrinājās, turpretim klīniskā lēmumā viņš palēninās un pārbauda.
Soli pa solim: droša AI ieviešana uzdevumā
- Novietojiet uzdevumu reģionā. Zaļa, dzeltena vai sarkana?
- Anonimizēt kontekstu. Notīriet īsto vārdu, ID, ID un personisko informāciju.
- Sniedziet skaidru īsu izklāstu. Skaidri uzrakstiet pacienta īpašības (vecums, svars, funkcija), mērķi un formātu.
- Apsveriet izvadi kā melnrakstu. Nekad neizmantojiet to kā galaproduktu.
- Lietojiet verifikācijas slāņus. Avots, konts, pacienta konteksts, eksperts, izsekošana.
- Pierakstiet lēmumu un tā pamatojumu.
Četras kopējamas veidnes
Role: You are a pharmacy assistant (NOT making clinical decisions).Task: Produce a DRAFT for [task].Context: Patient age [...], weight [...], kidney/liver status [...],other medications [...]. (NO real identification information.)Rule: Label "SmPC/SOURCE CONFIRMATION REQUIRED" for each dose/interaction/condition you are unsure of.Format: In bullet points, with justification.
Uzdevums: SARAKSTS medicīnisko apgalvojumu, devu vērtību un normatīvo aktu atsauces zemāk esošajā tekstā. Katrai no tām pievienojiet piezīmi "avots ir jāpārbauda". Nepārbaudiet to pats, vienkārši atzīmējiet to.Teksts: [...]
Uzdevums: Klasificējiet šo mākslīgā intelekta produkciju atbilstoši riska līmenim farmaceita skatījumā. Katram vienumam: zaļš / dzeltens / sarkans un sniedziet vienu teikuma pamatojumu. Sarkanajos vienībās ierakstiet "nepieciešams kvalificēta farmaceita/ārsta apstiprinājums". Izvade: [...]
Uzdevums: anonimizēt pacienta/recepšu tekstu zemāk. Aizstāt īsto vārdu, ID, adresi, tālruni un identifikatoru ar [TAGET]; saglabā klīnisko nozīmi.Teksts: [...]
Vāja uzvedne / spēcīga uzvedne
Vājš: "Kādas zāles man dot šim pacientam?"
Güçlü: "For a 65-year-old patient with an estimated creatinine clearance of 40 mL/min, using warfarin and metformin, list the possible interactions of a new antibiotic prescribed by the physician and the need for dose adjustment as a pre-screening. State that each item must be confirmed from the SmPC. Do not make a decision; just remove the points to be checked."
Spēcīgajā uzvednē ir skaidri norādīts pacienta konteksts, skaits, ierobežojums un ierobežojums; Ir skaidrs, kur mākslīgais intelekts stāvēs un lēmums atstāts farmaceita ziņā.
Biežas kļūdas
- Mākslīgā intelekta izvades jaukšana ar eksperta atzinumu. AI rada kontūras, nevis klīniskus lēmumus.
- Drošībai svarīgu lēmumu pieņemšanas deleģēšana mākslīgajam intelektam. Devas, mijiedarbība un recepšu apstiprināšana nekad netiek atstāta mākslīgā intelekta ziņā.
- Informācijas izmantošana, neapstiprinot SmPC/avotu. Katra deva, mijiedarbība un stāvoklis ir jāapstiprina no oficiālā avota.
- Pacienta datu tieša ielāde. Nevajadzētu atstāt novārtā anonimizāciju un drošu rīku izvēli.
- Nepamanot halucinācijas. Lai gan AI var šķist pārliecināts, tas var būt nepareizi; Drošs apgalvojums nav patiesības pierādījums.
Rezumējot
AI ir īsts paātrinātājs farmācijā, taču tas neaizstāj farmaceitu. Sadaliet uzdevumus zaļajā, dzeltenajā un sarkanajā zonā; Ātri izvēlieties zaļo krāsu, apstipriniet dzelteno krāsu, nekad nedodiet AI galīgo vārdu par sarkano. Apsveriet katru izvadi kā melnrakstu un nododiet tai piecu slāņu verifikācijai. Uztveriet pacienta konfidencialitāti un KVKK nopietni. Atbildība vienmēr ir kompetentam farmaceitam un ārstam; AI neuzņemas šo atbildību.
Lietojumprogrammas uzdevums
Izvēlieties trīs uzdevumus no savas ikdienas prakses (piemēram, pacienta informācijas teksts, normatīvo aktu kopsavilkums, pacienta devas pārbaude). Klasificējiet katru kā zaļu/dzeltenu/sarkanu. Pierakstiet, kādi verifikācijas slāņi tiks piemēroti dzeltenajiem un sarkanajiem uzdevumiem un kuru apstiprinājums ir nepieciešams sarkanajam uzdevumam. Tāpat atrodiet un atzīmējiet izmantotā mākslīgā intelekta rīka privātuma politikā, vai tas izmanto pacientu datus izglītībā.
kontrolsaraksts
- [ ] Es ievietoju uzdevumu riska zonā.
- [ ] Es anonimizēju kontekstu (vārds, ID, diagnoze skaidrs).
- [ ] Es sniedzu skaidru, pacientam kontekstuālu īsu izklāstu.
- [ ] Izvadi apstrādāju kā melnrakstu.
- [ ] Esmu apstiprinājis devu/mijiedarbību/nosacījumus no pašreizējā zāļu apraksta/atsauces.
- [ ] Drošības ziņā būtisko lēmumu es atstāju kompetenta farmaceita/ārsta ziņā.
- [ ] Es saglabāju verifikācijas pēdas.