Zulassung durch Ärzte und Fachärzte: Sicherheitskritische Entscheidungen und Grenzen — Künstliche Intelligenz in der Pflege

Gewinne:

Fähigkeit zu definieren, warum Diagnose-, Behandlungs- und Medikamentenentscheidungen nicht an künstliche Intelligenz delegiert werden können und welche Rolle eine kompetente ärztliche Genehmigung spielt
Möglichkeit, künstliche Intelligenz in diesem Bereich nur als Vorprüfung, Checkliste und Kommunikationsinstrument innerhalb sicherer Grenzen einzusetzen
Fähigkeit zur Umsetzung einer sicherheitskritischen KI-Empfehlung mit behördlichem Protokoll, klinischer Bewertung und kompetenter Genehmigung

Eine der wichtigsten beruflichen Fähigkeiten einer Pflegekraft besteht darin, zu wissen, ob eine Entscheidung in ihre Zuständigkeit oder in die des Arztes/Facharztes fällt. Diese Grenze ist nicht nur eine Bürokratie, sie ist die Grundlage der Patientensicherheit. Im Zeitalter der künstlichen Intelligenz wird diese Grenze noch wichtiger: Künstliche Intelligenz spricht so flüssig und souverän, dass man in die Falle tappen kann, sie sei ein Experte. In dieser Einheit erfahren Sie, warum sicherheitskritische Entscheidungen nicht an künstliche Intelligenz delegiert werden können, welche Rolle die Zustimmung eines kompetenten Arztes/Experten spielt und wie Sie künstliche Intelligenz in diesem Bereich innerhalb sicherer Grenzen einsetzen können. Unveränderlicher Grundsatz: Diagnose, Behandlung, Medikation und sicherheitskritische klinische Entscheidungen erfordern die Zustimmung eines kompetenten Arztes/Facharztes; Die KI-Ausgabe ersetzt diese Genehmigung nicht.

Was ist eine sicherheitskritische Entscheidung?

Eine sicherheitskritische Entscheidung ist eine Entscheidung, die, wenn sie falsch ist, dem Patienten schwere, irreversible Schäden zufügen oder sein Leben gefährden könnte. Im pflegerischen Kontext liegen diese typischerweise im Zuständigkeitsbereich des Arztes: Diagnose stellen, Behandlung beginnen oder ändern, Medikamente und Dosierung verordnen, Entscheidung über eine Operation, Entscheidung über die Entlassung. Auch die Pflegekraft hat ihre eigenen sicherheitskritischen Überlegungen: Sie erkennt, dass es einem Patienten schlechter geht, erkennt eine Situation, die ein sofortiges Eingreifen erfordert. Diese Entscheidungen basieren auf Daten, aber das letzte Wort haben die Menschen.

Künstliche Intelligenz kann bei keiner dieser Entscheidungen das letzte Wort haben. Der Grund ist einfach: Künstliche Intelligenz sieht den Patienten nicht, übernimmt keine Verantwortung, ist nicht rechenschaftspflichtig und kann halluzinieren. Eine Diagnose, Dosierung oder Entscheidung der KI zu überlassen bedeutet, die Verantwortung auf eine Partei zu übertragen, die keine Verantwortung übernehmen kann – dies ist sowohl ethisch als auch rechtlich inakzeptabel.

Achtung: Egal wie überzeugend die künstliche Intelligenz eine Entscheidung erklärt, das bedeutet nicht, dass sie richtig oder verbindlich ist. Geläufigkeit ist kein Fachwissen. Jede sicherheitskritische Entscheidung wird mit der Beurteilung und Zustimmung eines kompetenten Arztes/Experten abgeschlossen.

Die sichere Rolle der künstlichen Intelligenz

KI ist nicht vollständig aus dem sicherheitskritischen Bereich ausgeschlossen; aber seine Rolle ist streng begrenzt. Sichere Rollen sind:

Vorabscannen: Erinnern an die Punkte, die in einer Informationsmenge berücksichtigt werden müssen.
Checkliste: Schritte sichtbar machen, die übersprungen werden können.
Kommunikationsinstrument: Organisation der Berichterstattung an den Arzt und der Patientenkommunikation.
Informationsorganisation: Verstreute Daten in verständliche Form bringen.

Keine dieser Rollen trifft Entscheidungen; Sie alle bereiten die Entscheidung des Menschen vor und erleichtern sie. Die Gefahr besteht darin, diese unterstützende Rolle in eine „Entscheidungs“-Rolle umzuwandeln.

drei Mini-Koffer

Fall 1 – Korrekte Grenze. Eine Krankenschwester bittet die KI, einen SBAR-Bericht für einen sich verschlechternden Patienten zu erstellen, und ruft dann den Arzt an. Der Arzt trifft die Behandlungsentscheidung. Künstliche Intelligenz hat die Kommunikation beschleunigt; Die Entscheidung blieb beim Arzt. Der Rand wurde korrekt gezeichnet.

Fall 2 – Gefährlicher Umsatz. Eine Krankenschwester fragt die künstliche Intelligenz: „Welche Diagnose und welche Behandlung bei diesen Symptomen?“ und versucht, den Vorschlag umzusetzen, ohne einen Arzt zu konsultieren. Die Oberschwester greift ein: Diagnose und Behandlung sind Sache des Arztes. Lektion: Der Vorschlag der KI ersetzt keine Bestellung.

Fall 3 – Bestätigen Sie den Abschluss. Eine Krankenschwester bemerkt eine mögliche Arzneimittelwechselwirkung, die die KI vorab untersucht. Er bringt dies dem Apotheker und Arzt nicht als „Entscheidung“, sondern als „Frage“ vor. Experten bewerten und treffen die Entscheidung. Künstliche Intelligenz erregte Aufmerksamkeit, Menschen trafen die Entscheidung und der Prozess schloss mit kompetenter Zustimmung ab.

Schritt für Schritt: Deaktivieren Sie eine sicherheitskritische KI-Empfehlung

Betrachten Sie den Vorschlag als Frage, nicht als Entscheidung. „KI hat dies gemeldet“ ist ein Anfang.
Bestimmen Sie Ihren Zuständigkeitsbereich. Liegt diese Entscheidung bei der Krankenschwester oder beim Arzt/Facharzt?
Testen Sie mit Quelle und Protokoll. Entspricht die Empfehlung dem aktuellen Wissensstand?
Bringen Sie es zu einem kompetenten Spezialisten. Lassen Sie es vom Arzt/Apotheker/Experten beurteilen.
Notieren Sie die Entscheidung und ihre Begründung. Mit kompetenter Genehmigung abschließen.
Belassen Sie die KI nur in einer vorbereitenden Rolle.

Vier kopierbare Vorlagen

Aufgabe: Markieren Sie eine PRE-SCAN-Liste möglicher Risiken, die bei den folgenden (anonymen) Befunden berücksichtigt werden müssen. Eine Diagnose stellen, eine Behandlung empfehlen; Versehen Sie jeden Punkt mit dem Vermerk „Muss zur ärztlichen Beurteilung überwiesen werden“. Erkenntnisse: [...]

Aufgabe: Organisieren Sie die Informationen, die ich dem Arzt für diese Patientensituation übermitteln muss, im SBAR-Format. Entscheidungen oder Befehle treffen; Bereiten Sie einfach die Kommunikation vor. Situation: [...]

Aufgabe: Erinnern Sie mich an eine Checkliste mit Sicherheitsschritten, die während dieses Medikations-/Entscheidungsprozesses möglicherweise übersehen werden. Die Entscheidung liegt bei mir und dem zuständigen Sachverständigen; Du erinnerst mich nur an die Schritte. Prozess: [...]

Aufgabe: Klassifizieren Sie den folgenden Vorschlag der künstlichen Intelligenz aus der Sicht einer Pflegekraft: Liegt diese Entscheidung in der Kompetenz der Pflegekraft, bedarf sie der Zustimmung des Arztes/Facharztes? Geben Sie für jeden Punkt den Zuständigkeitsbereich und den Grund an, warum er genehmigt werden muss. Vorschlag: [...]

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwach: „Welche Behandlung soll ich bei diesem Patienten beginnen?“

Güçlü: „Markieren Sie die Aufmerksamkeitspunkte, die ich dem Arzt mitteilen muss, in den folgenden anonymen Befunden als Voruntersuchungsliste und versehen Sie jeden mit dem Vermerk ‚Beurteilung durch den Arzt erforderlich‘. Stellen Sie keine Diagnose, empfehlen Sie keine Behandlung. Mein Ziel ist es, mich auf das Gespräch mit dem Arzt vorzubereiten; der Arzt wird die Entscheidung treffen.“

In der leistungsstarken Eingabeaufforderung bleibt die künstliche Intelligenz in der vorbereitenden Rolle; Die Entscheidung liegt eindeutig beim Arzt.

Häufige Fehler

Sprachgewandtheit mit Fachwissen verwechseln. Der selbstbewusste Ton der KI ist weder Autorität noch Genauigkeit.
Ersetzen des Vorschlags in der Bestellung. Diagnose, Behandlung und Dosierung liegen in der Verantwortung des Arztes.
Verwirrende Gerichtsbarkeit. Zu wissen, welche Entscheidung wem zusteht, bedeutet Patientensicherheit.
Den Bestätigungsschritt überspringen. Sicherheitskritische Entscheidung schließt mit kompetenter Bestätigung ab.
Verlagerung der unterstützenden Rolle in die Entscheidungsrolle. Eine Voruntersuchung ist keine Entscheidung.

Eigenes Mandat der Krankenschwester: Interessenvertretung

Der Grundsatz der kompetenten Einwilligung macht die Pflegekraft nicht zu einem passiven Praktiker. Im Gegenteil, die stärkste berufliche Rolle der Pflegekraft besteht darin, sich für den Patienten einzusetzen: Sie hält inne, hinterfragt und gegebenenfalls Einspruch, wenn eine Anordnung oder Entscheidung dem Patienten wahrscheinlich schaden könnte. Wenn beispielsweise eine Dosis ungewöhnlich hoch erscheint, verabreicht die Krankenschwester sie nicht blind, weil ihr gesagt wird, sie solle „dies verabreichen“. Er fragt den Arzt und bittet um Bestätigung. Dies liegt sowohl in der Autorität als auch in der Verantwortung der Pflegekraft. KI kann diese Interessenvertretung unterstützen: Sie kann die Pflegekraft vorab prüfen und auf Aspekte einer Anordnung aufmerksam machen, die ungewöhnlich erscheinen. Aber die Krankenschwester zeigt die Entscheidung und den Mut, Fragen zu stellen.

Hier spielt KI eine interessante Doppelrolle: Einerseits kann sie die Pflegekraft an ein Risiko erinnern, das sie möglicherweise übersieht, andererseits sollte sie jedoch nicht die eigene klinische Intuition der Pflegekraft ersetzen. Der gesündeste Ausgleich besteht darin, KI als zweites Auge zu nutzen, das Ihre Intuition bestätigt oder in Frage stellt, das letzte Wort jedoch Ihrem eigenen Urteilsvermögen und der Zustimmung eines kompetenten Experten überlässt.

Automatisierungs-Bias-Falle

Unter Automatisierungsbias versteht man die Tendenz von Menschen, der Ausgabe einer Maschine oder Software mehr zu vertrauen als ihrem eigenen Urteilsvermögen. Im Gesundheitswesen ist dies gefährlich: Eine Krankenschwester könnte versucht sein, einer KI-Empfehlung zu folgen, die auf dem Bildschirm angezeigt wird, auch wenn ihre eigene Beobachtung ihr etwas anderes sagt. Das Gegenmittel zu dieser Falle besteht darin, KI als „Assistent“ und nicht als „Autorität“ zu positionieren. Wenn KI etwas vorschlägt, muss man reflexartig fragen: „Nun, passt das zu diesem Patienten, widerspricht es dem, was ich sehe?“ Wenn Ihre eigene klinische Beobachtung im Widerspruch zur KI steht, verlassen Sie sich standardmäßig auf Ihre Beobachtung und bewerten Sie die Situation mit dem kompetenten Experten. Nur weil eine Maschine zuversichtlich ist, heißt das nicht, dass Sie nicht Recht haben. Dieser bewusste Zweifel ist die wichtigste berufliche Gewohnheit für den sicheren Einsatz von KI.

Tipp: Um schnell festzustellen, ob eine Entscheidung „sicherheitskritisch“ ist, fragen Sie sich: „Würde der Patient irreversiblen Schaden erleiden, wenn dies falsch wäre?“ Lautet die Antwort „Ja“ oder „Vielleicht“, liegt die Entscheidung im roten Bereich und bedarf der Zustimmung eines kompetenten Experten; KI ist da nur vorbereitend. Diese einfache Frage ist ein schneller und zuverlässiger Kompass für die tägliche Praxis. Ein zweiter Kompass lautet: „Wenn ich diese Entscheidung verteidigen müsste, was wäre meine Rechtfertigung?“ Wenn Ihre einzige Rechtfertigung „Die KI hat dies vorgeschlagen“ lautet, hören Sie auf. Ihre Begründung sollte immer ein institutionelles Protokoll, eine Anordnung, Beweise oder eine klinische Bewertung sein. Diese beiden Fragen sind die praktischste Möglichkeit, die Grenze richtig zu zeichnen.

Zusammenfassend

Sicherheitskritische Entscheidungen – Diagnose, Behandlung, Medikation, Entlassung, Beurteilung des Verfalls – führen, wenn sie falsch sind, zu irreversiblen Schäden und erfordern die Zustimmung eines kompetenten Arztes/Spezialisten. Künstliche Intelligenz kann bei diesen Entscheidungen nicht das letzte Wort haben, weil sie den Patienten nicht sieht, keine Verantwortung übernimmt und möglicherweise halluziniert. Die sichere Rolle der KI ist Vorprüfung, Checkliste, Kommunikation und Informationsorganisation. Die Umwandlung der Hilfsrolle in eine Entscheidungsrolle ist der gefährlichste Fehler; Jeder sicherheitskritische Vorschlag wird mit kompetenter Genehmigung abgeschlossen.

Anwendungsaufgabe

Wählen Sie ein Beispiel für eine sicherheitskritische Entscheidung aus Ihrer eigenen Praxis (z. B. Änderung der Medikamentendosis, Beurteilung der Verschlechterung). Entwerfen Sie einen Ablauf, bei dem Sie KI nur in einer vorbereitenden Rolle in diesem Prozess einsetzen: bei welchem Schritt Vorprüfung, bei welchem Schritt Kommunikation, bei welchem Schritt kompetente Genehmigung. Schreiben Sie in einem Absatz, warum die künstliche Intelligenz die Entscheidung nicht treffen kann und wer die Genehmigung hat.

Checkliste

[ ] Ich habe die Zuständigkeit der Entscheidung festgestellt.
[ ] Ich habe den Vorschlag zur künstlichen Intelligenz als Frage und nicht als Entscheidung verstanden.
[ ] Ich habe den Vorschlag mit der Quelle und dem Protokoll getestet.
[ ] Ich habe die sicherheitsrelevante Entscheidung einem kompetenten Arzt/Facharzt mitgeteilt.
[ ] Ich habe die KI nur in einer vorbereitenden Rolle belassen.
[ ] Ich habe die Entscheidung und ihre Begründung protokolliert.
[ ] Ich bin nicht in die Falle getappt, Sprachgewandtheit mit Fachwissen zu verwechseln.