Įvadas į dirbtinį intelektą farmacijoje: ribos, patvirtinimas, atsakomybė ir etika

Pelnas:

• Gebėjimas atskirti, kur dirbtinis intelektas sutaupo realų laiką vaistinės darbo eigoje, o kur saugumo požiūriu kritinė atsakomybė turėtų tekti kompetentingam vaistininkui ir gydytojui, atsižvelgiant į rizikos lygį
• Gebėjimas įgyvendinti daugiasluoksnę patikros discipliną, kuri tikrina kiekvieną AI išvestį pagal naujausią produkto informaciją (SPC/KT), taikomus teisės aktus ir nepriklausomų ekspertų kontrolę.
• Gebėjimas įgyti įprotį rinktis saugias priemones konteksto anonimiškumo, privatumo (KVKK) ir etikos požiūriu, siekiant apsaugoti paciento asmens ir sveikatos duomenis.

Farmacija yra pasitikėjimo profesija, kuri mato pacientą už recepto ir saugiai, tiksliai ir racionaliai pristato vaistą. Šio pasitikėjimo šaltinis yra tai, kad vaistininkas kiekvieną sprendimą grindžia žiniomis ir atsakomybe. Dirbtinis intelektas (sutrumpintai AI; programinė įranga, kuri mokosi modelių iš duomenų ir kuria tekstą, lenteles ir pasiūlymus) įeina į šią profesiją kaip labai galingas asistentas: nuskaito sąveiką, rašo paciento informacinį tekstą, rengia pranešimą, apibendrina teisės akto tekstą. Tačiau AI nėra vaistininkas; Nei prisiima atsakomybės, nei diplomo nešiojasi, nei teisiškai stoja prieš pacientą. Šiame skyriuje sužinosite, kur naudoti dirbtinį intelektą vaistinių versle, kur stovėti ir kaip patikrinti kiekvieną išvestį. Tikslas yra padaryti jus profesionalu, kuris valdo dirbtinį intelektą, o ne nuo jo priklauso.

Ką dirbtinis intelektas gali ir ko negali padaryti vaistinėje?

Tikroji dirbtinio intelekto galia yra sukurti kalbą, modelius ir brėžinius. Per kelias sekundes pasirodo paciento konsultavimo tekstas, pranešimo apie nepageidaujamą poveikį (šalutinį poveikį) sistema, racionalus narkotikų vartojimas (RAH; vaisto vartojimo su tinkamu vaistu principas, tinkama dozė, tinkamą trukmę) brošiūra, atsargų analizės lentelė ir literatūros santrauka. Atliekant šias užduotis dirbtinis intelektas sutaupo valandų ir palengvina protinį krūvį.

Tai, ko dirbtinis intelektas negali padaryti, yra sprendimas, reikalaujantis klinikinės atsakomybės. Paciento dozės koregavimas pagal inkstų funkciją, ar dviejų vaistų sąveika tam pacientui kliniškai reikšminga, vaisto saugumas nėščiai moteriai, ar reikia patvirtinti receptą; Nieko to negali nustatyti logika „dažniausiai taip atsitinka“. Dirbtinis intelektas haliucinuoja, nes mokosi iš tekstų internete ir knygose: tai yra, jis gali sukurti klaidingą dozę, sąveiką ar šaltinį, kuris atrodo tikras, bet yra klaidingas. Farmacijoje tokio tipo klaidos nėra tik rašybos klaida; Netinkama dozė reiškia rimtą neigiamą poveikį ar net žalą pacientui.

Dėmesio: AI išvestis yra juodraštis, o ne ekspertų nuomonė. Be kompetentingo vaistininko ir gydytojo patvirtinimo negalima priimti jokių saugai svarbių sprendimų dėl vaistų, dozavimo ir gydymo. Sprendimas diagnozuoti ir gydyti priklauso žmogui; AI nepakeičia šio sutikimo.

Trys regionai pagal rizikos lygį

Praktiškiausias būdas saugiai panaudoti dirbtinį intelektą yra padalinti kiekvieną užduotį į tris zonas pagal rizikos lygį. Šis skirtumas suteikia greitą ir tikslų atsakymą į klausimą "ar dirbtinis intelektas turėtų tai daryti?"

Regionas

Užduočių pavyzdžiai

Dirbtinio intelekto vaidmuo

Patvirtinimo lygis

Žalia (maža rizika)

Tinklaraščio juodraštis, lentynos etiketė, susitikimo užrašas, el. laiškas, bendrosios informacijos tekstas

nemokama gamyba

Greita apžvalga

Geltona (vidutinė rizika)

Informacijos apie pacientus tekstas, teisės aktų santrauka, atsargų analizė, literatūros santrauka, pranešimo projektas

Projektas + pasiūlymas

Ekspertų kontrolė + SmPC / šaltinio patvirtinimas

Raudona (saugumui labai svarbi)

Dozės nustatymas, sprendimas dėl sąveikos, recepto patvirtinimas, specialios grupės (nėščia/vaikas/nepakankama) įvertinimas

Tik prieš ekraną / kontrolinis sąrašas

Privalomas kompetentingo vaistininko ir, jei reikia, gydytojo patvirtinimas.

Būkite greiti žaliojoje zonoje. Naudokite AI geltonojoje zonoje, tačiau patikrinkite kiekvieną medicininį teiginį ir šaltinį. Raudonojoje zonoje AI niekada neturi galutinio žodžio; Tai tik pagalbinė priemonė, kuri pagreitina specialisto darbą.

Daugiasluoksnė tikrinimo disciplina

Tikrinimas nėra kažkas, ko reikia atidėti galvojant „patikrinsiu vėliau“; yra darbo eigos dalis. Tvirtas patvirtinimas vaistinėje susideda iš penkių sluoksnių:

1. Grįžkite į šaltinį. Jei dirbtinis intelektas nurodė dozę, sąveiką ar būklę, atidarykite ir patvirtinkite tai pagal dabartinę produkto informaciją (SmPC: Summary Product Information; oficiali informacija apie vaistą gydytojui. KT: Naudojimo instrukcijos; pacientui) arba taikomuose nurodymuose / teisės aktuose.
2. Nepriklausoma sąskaita. Perskaičiuokite dozę arba koncentraciją (mg/kg, ml, %) rankiniu būdu arba naudodami patvirtintą metodą.
3. Bandymas su paciento kontekstu. Palyginkite teiginį su šio faktinio paciento amžiumi, svoriu, inkstų / kepenų funkcija, nėštumu ir kitais vaistais.
4. Eksperto akis. Jei sprendimas yra klinikinis ir yra dvejonių, kreipkitės į gydytoją; Galutinį patvirtinimą turi kompetentingas vaistininkas.
5. Palikite savo pėdsaką. Įrašykite, kuri produkcija buvo patvirtinta ir kaip; Leiskite tai patikrinti vėliau.

Užuomina: „AI pasakė“ nėra pateisinimas. Vaistinės sprendimas visada grindžiamas galiojančiu PCS / PI, galiojančiomis rekomendacijomis / teisės aktais, nepriklausomu skaičiavimu arba kompetentingo eksperto patvirtinimu. AI padeda jums parengti šiuos pagrindimus, bet jų nepakeičia.

Privatumas, KVKK ir etika

Sveikatos duomenys yra jautriausia asmens duomenų rūšis; Teisės aktuose jiems taikoma aukščiausia apsauga kaip „ypatingo pobūdžio asmens duomenims“. Paciento vardas, pavardė, TR ID numeris, diagnozė, vartojami vaistai; Visa tai yra konfidencialu. Prieš pateikdami šiuos duomenis debesies pagrindu veikiančiam AI įrankiui, užduokite tris klausimus: ar šie duomenys tikrai reikalingi? Ar galima anonimizuoti? Ar mano naudojamas įrankis naudoja duomenis treniruotėse?

Etinis aspektas tuo nesibaigia. Dirbtinis intelektas negali tiesiogiai diagnozuoti paciento, rekomenduoti gydymo ar pakeisti gydytojo. Net ir nereceptinių (OTC) produktų atveju neatsakinga AI išvestį perduoti pacientui nepraleidus jos pro vaistininko filtrą. Naudokite AI kaip vidinį įrankį; Niekada neapeikite profesinio sprendimo tarp jūsų ir paciento.

trys mini dėklai

1 atvejis – tikrinant įvyksta klaida. Vaistininkas konsultavosi su AI, kad greitai patikrintų dozę 18 kg sveriančiam vaikui; AI klaidingai pasiūlė bendrą 150 mg dozę, o ne 15 mg/kg. Vaistininkas spaudinį laikė juodraščiu ir atliko nepriklausomą skaičiavimą: 18 × 15 = 270 mg per parą. Jis pamatė skirtumą, patvirtino jį PCS ir pritaikė tinkamą dozę. Be patikrinimo drausmės vaikas būtų gavęs maždaug pusę dozės; Aklas pasitikėjimas AI sukeltų klaidą.

2 atvejis – konfidencialumo apsauga. Vaistininkas ketino užsirašyti paciento vardą ir pavardę bei asmens kodą, klausdamas dirbtinio intelekto apie sudėtingą atvejį. Dėl savo įpročio anonimizuoti, jis juos pakeitė klinikiniais atitikmenimis, tokiais kaip „65 metų vyras, lėtinė inkstų liga“. Išvesties kokybė niekada nesumažėjo, tačiau privatūs paciento duomenys nepateko į jokį debesį. Konfidencialumas buvo apsaugotas nepakenkiant rezultatų kokybei.

3 atvejis – greičio viršijimas žaliojoje zonoje. Ta pati vaistinė personalui surašytų šaldymo grandinės pristatymo tvarką. Ši misija buvo mažos rizikos (žalioji zona); Vaistininkė paėmė juodraštį iš dirbtinio intelekto ir pritaikė jį realiam srautui, valandinį darbą sumažindama iki pusvalandžio. Kadangi jis žinojo teisingą zonavimą, jis paspartino čia, o klinikiniu sprendimu jis sulėtino ir patikrino.

Žingsnis po žingsnio: saugus dirbtinio intelekto įvedimas į užduotį

1. Padėkite užduotį regione. Žalia, geltona ar raudona?
2. Anonimizuoti kontekstą. Išvalykite tikrąjį vardą, pavardę, ID, ID ir asmeninę informaciją.
3. Pateikite aiškią santrauką. Aiškiai užrašykite paciento charakteristikas (amžių, svorį, funkciją), tikslą ir formatą.
4. Apsvarstykite išvestį juodraštį. Niekada nenaudokite jo kaip galutinio produkto.
5. Taikykite patvirtinimo sluoksnius. Šaltinis, paskyra, paciento kontekstas, ekspertas, pėdsakas.
6. Įrašykite sprendimą ir jo motyvus.

Keturi kopijuojami šablonai

Vaidmuo: esate vaistinės padėjėjas (NEpriimant klinikinių sprendimų).Užduotis: Padarykite [užduoties] JURAŽĄ. Kontekstas: paciento amžius [...], svoris [...], inkstų / kepenų būklė [...], kiti vaistai [...]. (NĖRA tikros identifikavimo informacijos.) Taisyklė: kiekvienai dozei/sąveikai/būklei, dėl kurios nesate tikri, pažymėkite "SmPC/ŠALTINIO PATVIRTINIMAS". Formatas: ženkleliais, su pagrindimu.

Užduotis: toliau pateiktame tekste SĄRAŠYTI medicininius teiginius, dozavimo vertes ir reglamentavimo nuorodas. Prie kiekvieno pridėkite pastabą „šaltinis turi būti patikrintas“. Nepatikrinkite patys, tiesiog pažymėkite. Tekstas: [...]

Užduotis: klasifikuokite šią dirbtinio intelekto produkciją pagal rizikos lygį vaistininko akimis. Kiekvienam elementui: žalia / geltona / raudona ir pateikite vieną sakinį pagrindimą. Raudonuose langeliuose parašykite „Reikalingas kvalifikuoto vaistininko / gydytojo patvirtinimas“. Išvestis: [...]

Užduotis: anonimizuoti toliau pateiktą paciento / recepto tekstą. Pakeiskite tikrąjį vardą, ID, adresą, telefoną ir identifikatorių [TAGET]; išlaikyti klinikinę reikšmę.Tekstas: [...]

Silpnas raginimas / Stiprus raginimas

Silpnas: "Kokį vaistą turėčiau duoti šiam pacientui?"

Güçlü: "65 metų pacientui, kurio apskaičiuotas kreatinino klirensas yra 40 ml/min., vartojant varfariną ir metforminą, išvardykite galimas gydytojo paskirto naujo antibiotiko sąveikas ir būtinybę koreguoti dozę kaip išankstinį patikrinimą. Nurodykite, kad kiekvienas punktas turi būti patvirtintas preparato charakteristikų santraukoje. Nepriimkite sprendimo, tiesiog pašalinkite taškus, kuriuos reikia patikrinti."

Galingame raginime aiškiai nurodomas paciento kontekstas, skaičius, apribojimas ir riba; Aišku, kur stovės dirbtinis intelektas, o sprendimas paliekamas vaistininkui.

Dažnos klaidos

• Dirbtinio intelekto produkcijos klaidinimas siekiant ekspertų nuomonės. AI kuria kontūrus, o ne klinikinius sprendimus.
• Saugumui svarbių sprendimų priėmimo delegavimas dirbtiniam intelektui. Dozė, sąveika ir recepto patvirtinimas niekada nepaliekami dirbtiniam intelektui.
• Informacijos naudojimas nepatvirtinus SmPC / šaltinio. Kiekviena dozė, sąveika ir būklė turi būti patvirtinta iš oficialaus šaltinio.
• Tiesiogiai įkeliami paciento duomenys. Negalima pamiršti anonimiškumo ir saugaus įrankių pasirinkimo.
• Nepastebėti haliucinacijų. Nors AI gali atrodyti pasitikintis savimi, jis gali būti klaidingas; Tikras teiginys nėra tiesos įrodymas.

Apibendrinant

AI yra tikras greitintuvas farmacijoje, tačiau jis nepakeičia vaistininko. Padalinkite užduotis į žalią, geltoną ir raudoną zonas; Greitai naudokite žalią, patvirtinkite geltoną, niekada nesakykite AI galutinio žodžio dėl raudonos spalvos. Apsvarstykite kiekvieną išvestį kaip juodraštį ir atlikite penkių sluoksnių patikrinimą. Į paciento konfidencialumą ir KVKK žiūrėkite rimtai. Atsakomybė visada tenka kompetentingam vaistininkui ir gydytojui; AI neprisiima šios atsakomybės.

Taikymo užduotis

Pasirinkite tris užduotis iš savo kasdienės praktikos (pvz., paciento informacinis tekstas, reglamentų santrauka, paciento dozės tikrinimas). Suskirstykite kiekvieną į žalią / geltoną / raudoną. Užsirašykite, kokius patvirtinimo sluoksnius taikysite atliekant geltonos ir raudonos spalvos užduotis ir kieno patvirtinimas reikalingas atliekant raudoną užduotį. Taip pat suraskite ir savo naudojamo dirbtinio intelekto įrankio privatumo politikoje pažymėkite, ar jis naudoja pacientų duomenis švietime.

kontrolinis sąrašas

• [ ] Užduotį patalpinau į rizikos zoną.
• [ ] Kontekstą anonimizuojau (vardas, ID, diagnozė aiški).
• [ ] Pateikiau aiškų, paciento kontekstą pagrįstą santrauką.
• [ ] Išvestį traktavau kaip juodraštį.
• [ ] Patvirtinau dozę / sąveiką / sąlygas iš dabartinės PCS / nuorodos.
• [ ] Saugumo požiūriu kritinį sprendimą palikau kompetentingam vaistininkui / gydytojui.
• [ ] Išsaugojau patvirtinimo pėdsaką.