Einführung in die künstliche Intelligenz in der Pharmazie: Grenzen, Validierung, Verantwortung und Ethik

Gewinne:

• Unterscheiden können, wo künstliche Intelligenz im Apotheken-Workflow Echtzeit spart und wo je nach Risikostufe die sicherheitskritische Verantwortung beim zuständigen Apotheker und Arzt verbleiben sollte
• Fähigkeit zur Implementierung einer mehrschichtigen Verifizierungsdisziplin, die jede KI-Ausgabe anhand aktueller Produktinformationen (SPC/KT), geltender Gesetzgebung und unabhängiger Expertenkontrolle testet
• Fähigkeit, sich die Gewohnheit anzueignen, sichere Tools im Hinblick auf Kontextanonymisierung, Privatsphäre (KVKK) und Ethik zu wählen, um persönliche Patienten- und Gesundheitsdaten zu schützen.

Die Apotheke ist ein Vertrauensberuf, der den Patienten hinter einem Rezept sieht und ihm das Medikament auf sichere, genaue und rationale Weise liefert. Die Quelle dieses Vertrauens liegt darin, dass der Apotheker jede Entscheidung auf Wissen und Verantwortung gründet. Künstliche Intelligenz (kurz: KI; Software, die Muster aus Daten lernt und Texte, Tabellen und Vorschläge erstellt) kommt als sehr leistungsfähiger Assistent in diesen Beruf: Scannen einer Interaktion, Verfassen eines Patienteninformationstextes, Verfassen einer Benachrichtigung, Zusammenfassen eines Gesetzestextes. Aber KI ist kein Apotheker; Er übernimmt weder Verantwortung, noch trägt er ein Diplom, noch stellt er sich rechtlich gegen den Patienten. In dieser Einheit erfahren Sie, wo Sie künstliche Intelligenz im Apothekengeschäft einsetzen, wo Sie stehen und wie Sie die einzelnen Ergebnisse überprüfen. Ziel ist es, Sie zu einem Profi zu machen, der künstliche Intelligenz beherrscht und nicht von ihr abhängig ist.

Was kann künstliche Intelligenz in der Pharmazie leisten und was nicht?

Die wahre Kraft der künstlichen Intelligenz besteht darin, Sprache, Muster und Blaupausen zu produzieren. Ein Patientenberatungstext, ein Melderahmen für unerwünschte Wirkungen (Nebenwirkungen), eine Broschüre zum rationalen Drogenkonsum (RAH; Prinzip der Verwendung des Arzneimittels mit dem richtigen Arzneimittel, der richtigen Dosis und für die richtige Dauer), eine Bestandsanalysetabelle und eine Literaturzusammenfassung erscheinen in Sekundenschnelle. Bei diesen Aufgaben spart Ihnen künstliche Intelligenz Stunden und entlastet Sie mental.

Was künstliche Intelligenz nicht kann, ist die Entscheidung, die klinische Verantwortung erfordert. Anpassung der Dosis eines Patienten basierend auf der Nierenfunktion, ob die Wechselwirkung zweier Medikamente für diesen Patienten klinisch bedeutsam ist, der Sicherheit eines Medikaments bei einer schwangeren Frau, ob ein Rezept genehmigt werden sollte; Nichts davon kann mit der Logik „so passiert es normalerweise“ bestimmt werden. KI halluziniert, weil sie aus Texten im Internet und in Büchern lernt: Das heißt, sie kann eine falsche Dosis, Interaktion oder Quelle erfinden, die real erscheint, aber falsch ist. In der Pharmazie handelt es sich bei dieser Art von Fehler nicht nur um einen Tippfehler; Eine falsche Dosierung bedeutet schwerwiegende Nebenwirkungen oder sogar eine Schädigung des Patienten.

Achtung: Bei der KI-Ausgabe handelt es sich um einen Entwurf, nicht um eine Expertenmeinung. Ohne die Zustimmung eines kompetenten Apothekers und Arztes können keine sicherheitskritischen Entscheidungen bezüglich Medikamenten, Dosierung und Behandlung getroffen werden. Die Entscheidung zur Diagnose und Behandlung liegt beim Menschen; KI ersetzt diese Einwilligung nicht.

Drei Regionen je nach Risikostufe

Der praktischste Weg, künstliche Intelligenz sicher einzusetzen, besteht darin, jede Aufgabe je nach Risikostufe in drei Zonen zu unterteilen. Diese Unterscheidung liefert eine schnelle und genaue Antwort auf die Frage „Sollte künstliche Intelligenz dies tun?“

Region

Beispielaufgaben

Die Rolle der künstlichen Intelligenz

Verifizierungsebene

Grün (geringes Risiko)

Blog-Entwurf, Regaletikett, Besprechungsnotiz, E-Mail, allgemeiner Informationstext

freie Produktion

Kurze Rezension

Gelb (mittleres Risiko)

Patienteninformationstext, Gesetzeszusammenfassung, Bestandsanalyse, Literaturzusammenfassung, Benachrichtigungsentwurf

Entwurf + Vorschlag

Expertenkontrolle + SmPC/Quellenbestätigung

Rot (sicherheitskritisch)

Dosisbestimmung, Wechselwirkungsentscheidung, Verschreibungsgenehmigung, Bewertung spezieller Gruppen (Schwangere/Kind/Insuffizienz).

Nur Voruntersuchung/Checkliste

Die Zustimmung eines kompetenten Apothekers und ggf. eines Arztes ist zwingend erforderlich.

Seien Sie schnell im grünen Bereich. Setzen Sie KI im gelben Bereich ein, aber prüfen Sie jede medizinische Behauptung und Quelle auf Fakten. Im roten Bereich hat die KI nie das letzte Wort; Es handelt sich lediglich um ein Hilfsmittel, das die Arbeit des Sachverständigen beschleunigt.

Mehrschichtige Verifizierungsdisziplin

Die Verifizierung sollte nicht aufgeschoben werden, weil man denkt: „Das schaue ich mir später mal an“; ist Teil des Workflows. Eine robuste Validierung in der Pharmazie besteht aus fünf Ebenen:

1. Kehren Sie zur Quelle zurück. Wenn die KI eine Dosis, Wechselwirkung oder einen Zustand angegeben hat, öffnen und bestätigen Sie diese anhand der aktuellen Produktinformation (SmPC: Summary Product Information; offizielle Arzneimittelinformation für den Arzt. KT: Gebrauchsanweisung; für den Patienten) oder der geltenden Leitlinie/Gesetzgebung.
2. Unabhängiges Konto. Berechnen Sie eine Dosis oder Konzentration (mg/kg, ml, %) manuell oder mithilfe einer validierten Methode neu.
3. Testen Sie im Patientenkontext. Vergleichen Sie die Angaben mit dem tatsächlichen Alter, Gewicht, der Nieren-/Leberfunktion, der Schwangerschaft und anderen Medikamenten des Patienten.
4. Expertenauge. Wenn die Entscheidung klinisch getroffen wird und Sie zögern, konsultieren Sie einen Arzt. Die endgültige Genehmigung liegt beim zuständigen Apotheker.
5. Hinterlassen Sie Ihre Spuren. Notieren Sie, welche Ausgabe validiert wurde und wie; Lassen Sie es später überprüfen.

Hinweis: „Die KI sagte“ ist keine Rechtfertigung. Als Begründung für eine Apothekenentscheidung dienen immer die aktuelle Fachinformation/PI, die aktuelle Leitlinie/Gesetzgebung, eine unabhängige Berechnung oder eine kompetente Expertengenehmigung. KI hilft Ihnen bei der Vorbereitung dieser Begründungen, sie ersetzt sie nicht.

Datenschutz, KVKK und Ethik

Gesundheitsdaten sind die sensibelste Art personenbezogener Daten; Als „personenbezogene Daten besonderer Art“ genießen sie in der Gesetzgebung den höchsten Schutz. Name des Patienten, TR-ID-Nummer, Diagnose, verwendete Medikamente; Dies alles unterliegt der Schweigepflicht. Bevor Sie diese Daten an ein cloudbasiertes KI-Tool weitergeben, stellen Sie drei Fragen: Sind diese Daten wirklich notwendig? Kann es anonymisiert werden? Verwendet das von mir verwendete Tool Daten im Training?

Die ethische Dimension endet hier nicht. Künstliche Intelligenz kann einen Patienten nicht direkt diagnostizieren, eine Behandlung empfehlen oder einen Arzt ersetzen. Selbst bei rezeptfreien Produkten (OTC) ist es unverantwortlich, die KI-Ausgaben an den Patienten weiterzugeben, ohne sie durch den Apothekerfilter zu leiten. Nutzen Sie KI als internes Werkzeug; Lassen Sie niemals das professionelle Urteil zwischen Ihnen und dem Patienten außer Acht.

drei Mini-Koffer

Fall 1 – Bei der Validierung wird ein Fehler festgestellt. Ein Apotheker konsultierte AI, um schnell die Dosis für ein 18 kg schweres Kind zu überprüfen; Die KI schlug fälschlicherweise eine Gesamtdosis von 150 mg statt 15 mg/kg vor. Der Apotheker betrachtete den Ausdruck als Entwurf und machte eine unabhängige Berechnung: 18 × 15 = 270 mg/Tag. Er sah den Unterschied, bestätigte ihn anhand der Fachinformation und wendete die richtige Dosis an. Ohne die Disziplin der Überprüfung hätte das Kind etwa die Hälfte der Dosis erhalten; Blindes Vertrauen in die KI würde einen Fehler bewirken.

Fall 2 – Schutz der Vertraulichkeit. Ein Apotheker war gerade dabei, den Namen und die ID-Nummer des Patienten aufzuschreiben, während er die künstliche Intelligenz zu einem komplexen Fall befragte. Dank seiner eigenen Anonymisierungsgewohnheit ersetzte er diese durch klinische Äquivalente wie „65 Jahre alt, männlich, chronische Nierenerkrankung“. Die Qualität der Ausgabe nahm nie ab, aber die privaten Daten des Patienten gingen nicht in eine Cloud. Die Vertraulichkeit wurde gewahrt, ohne die Qualität der Ergebnisse zu beeinträchtigen.

Fall 3 – Geschwindigkeitsüberschreitung im grünen Bereich. Dieselbe Apotheke würde ein Kühlkettenlieferverfahren für das Personal erstellen. Diese Mission war risikoarm (grüne Zone); Der Apotheker nahm einen Entwurf der künstlichen Intelligenz und passte ihn an den realen Ablauf an, wodurch die Stundenarbeit auf eine halbe Stunde reduziert wurde. Da er die richtige Zoneneinteilung kannte, beschleunigte er hier, wohingegen er bei einer klinischen Entscheidung langsamer fahren und überprüfen würde.

Schritt für Schritt: KI sicher in eine Aufgabe einführen

1. Platzieren Sie die Aufgabe in der Region. Grün, gelb oder rot?
2. Kontext anonymisieren. Klarer richtiger Name, Ausweis, Ausweis und persönliche Daten.
3. Geben Sie ein klares Briefing. Schreiben Sie die Merkmale des Patienten (Alter, Gewicht, Funktion), Ziel und Format klar auf.
4. Betrachten Sie die Ausgabe als Entwurf. Verwenden Sie es niemals wie das Endprodukt.
5. Wenden Sie Überprüfungsebenen an. Quelle, Bericht, Patientenkontext, Experte, Spur.
6. Notieren Sie die Entscheidung und ihre Begründung.

Vier kopierbare Vorlagen

Rolle: Sie sind ein Apothekenassistent (treffen KEINE klinischen Entscheidungen). Aufgabe: Erstellen Sie einen ENTWURF für [Aufgabe]. Kontext: Alter des Patienten [...], Gewicht [...], Nieren-/Leberstatus [...], andere Medikamente [...]. (KEINE echten Identifikationsinformationen.)Regel: Beschriften Sie jede Dosis/Wechselwirkung/Bedingung, bei der Sie sich nicht sicher sind, mit „SmPC/QUELLENBESTÄTIGUNG ERFORDERLICH“. Format: In Aufzählungspunkten, mit Begründung.

Aufgabe: Listen Sie medizinische Angaben, Dosierungswerte und behördliche Hinweise im folgenden Text auf. Fügen Sie jeweils den Hinweis „Quelle muss überprüft werden“ hinzu. Überprüfen Sie es nicht selbst, markieren Sie es einfach.Text: [...]

Aufgabe: Klassifizieren Sie diese Ergebnisse der künstlichen Intelligenz nach dem Risikoniveau aus der Sicht eines Apothekers. Für jedes Element: grün / gelb / rot und geben Sie eine einzelne Satzbegründung an. Schreiben Sie in die roten Felder „Genehmigung eines qualifizierten Apothekers/Arzts erforderlich“. Ausgabe: [...]

Aufgabe: Anonymisieren Sie den Patienten-/Rezepttext unten. Ersetzen Sie echten Namen, Ausweis, Adresse, Telefonnummer und Kennung durch [TAGET]; klinische Bedeutung behalten.Text: [...]

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwach: „Welches Medikament soll ich diesem Patienten geben?“

Güçlü: „Listen Sie für einen 65-jährigen Patienten mit einer geschätzten Kreatinin-Clearance von 40 ml/min, der Warfarin und Metformin verwendet, die möglichen Wechselwirkungen eines vom Arzt verschriebenen neuen Antibiotikums und die Notwendigkeit einer Dosisanpassung als Voruntersuchung auf. Geben Sie an, dass jeder Punkt anhand der Fachinformation bestätigt werden muss. Treffen Sie keine Entscheidung; entfernen Sie einfach die zu überprüfenden Punkte.“

In der aussagekräftigen Eingabeaufforderung werden der Kontext, die Anzahl, die Einschränkung und die Grenze des Patienten klar angegeben. Es ist klar, wo die Künstliche Intelligenz stehen wird und die Entscheidung bleibt dem Apotheker überlassen.

Häufige Fehler

• Die Ergebnisse künstlicher Intelligenz werden mit Expertenmeinungen verwechselt. KI erstellt Umrisse, keine klinischen Entscheidungen.
• Sicherheitskritische Entscheidungsfindung an künstliche Intelligenz delegieren. Dosierung, Wechselwirkung und Verschreibungsgenehmigung werden niemals der künstlichen Intelligenz überlassen.
• Verwendung von Informationen ohne Bestätigung der Fachinformation/Quelle. Jede Dosierung, Wechselwirkung und jeder Zustand muss von der offiziellen Quelle bestätigt werden.
• Patientendaten direkt laden. Anonymisierung und sichere Toolauswahl sollten nicht vernachlässigt werden.
• Die Halluzination nicht bemerken. Auch wenn die KI zuversichtlich erscheint, kann sie auch falsch liegen. Eine sichere Aussage ist kein Wahrheitsbeweis.

Zusammenfassend

KI ist ein echter Beschleuniger in der Pharmazie, ersetzt aber keinen Apotheker. Teilen Sie Aufgaben in grüne, gelbe und rote Zonen ein; Seien Sie schnell bei Grün, bestätigen Sie bei Gelb, geben Sie bei Rot niemals der KI das letzte Wort. Betrachten Sie jede Ausgabe als Entwurf und durchlaufen Sie eine fünfstufige Überprüfung. Nehmen Sie die Patientenvertraulichkeit und KVKK ernst. Die Verantwortung liegt stets beim zuständigen Apotheker und Arzt; KI trägt diese Verantwortung nicht.

Anwendungsaufgabe

Wählen Sie drei Aufgaben aus Ihrer eigenen täglichen Praxis (z. B. Patienteninformationstext, Zusammenfassung der Vorschriften, Überprüfung der Patientendosis). Jeweils als grün/gelb/rot klassifizieren. Schreiben Sie auf, welche Verifizierungsebenen Sie für die gelben und roten Aufgaben anwenden und wessen Genehmigung für die rote Aufgabe erforderlich ist. Suchen und vermerken Sie außerdem in der Datenschutzerklärung eines von Ihnen verwendeten Tools für künstliche Intelligenz, ob es Patientendaten in der Ausbildung verwendet.

Checkliste

• [ ] Ich habe die Aufgabe in die Risikozone gelegt.
• [ ] Ich habe den Kontext anonymisiert (Name, ID, Diagnose klar).
• [ ] Ich habe eine klare, geduldige und kontextbezogene Beschreibung gegeben.
• [ ] Ich habe die Ausgabe als Entwurf behandelt.
• [ ] Ich habe die Dosis/Wechselwirkung/Bedingungen anhand der aktuellen Fachinformation/Referenz bestätigt.
• [ ] Die sicherheitskritische Entscheidung habe ich dem zuständigen Apotheker/Arzt überlassen.
• [ ] Ich habe den Verifizierungs-Trace gespeichert.