Einführung in die künstliche Intelligenz in der Psychologie: Grenzen, Verantwortung und Ethik

Gewinne:

• In der Lage sein zu unterscheiden, wo künstliche Intelligenz in der Arbeit im Bereich der psychischen Gesundheit Echtzeit spart und wo die klinische Verantwortung und die Diagnose-/Entscheidungsbefugnis je nach Risikograd beim menschlichen Experten verbleiben sollten
• Fähigkeit, eine mehrschichtige Validierungsdisziplin anzuwenden, die jede KI-Ausgabe anhand von Beweisen, Quellen und klinischer Beurteilung testet
• Künstliche Intelligenz ist kein Therapeut, Diagnostiker oder Supervisor; In der Lage sein, einen klaren Rahmen zu verinnerlichen, dass Menschen und Notfalleingriffe im Krisen-/Risikofall von wesentlicher Bedeutung sind.

Die Psychologie versucht, den Schmerz, die Geschichte und die innere Welt eines Menschen zu verstehen; Es ist ein Beruf, der auf Vertrauen, Beziehungen und Verantwortung basiert. Einige Teile dieser Arbeit (Text schreiben, Quellen scannen, Tabellen bearbeiten, Materialien vorbereiten) können schnell automatisiert werden. Manche Teile können niemals auf eine Maschine übertragen werden, da sie das Leben eines Menschen berühren. Künstliche Intelligenz (kurz: KI; Software, die Muster aus großen Textmengen lernt und neue Texte, Zusammenfassungen oder Code generiert) ist in diesem Beruf ein leistungsstarkes Hilfsmittel: Stundenlange Literaturrecherche einzugrenzen, einen Bericht zu verfassen, eine psychoedukative Broschüre zu vereinfachen. Aber KI ist kein Therapeut; Er kennt den Klienten nicht, übernimmt keine Verantwortung, steht ihm in Krisenzeiten nicht zur Seite und zieht ihn weder ethisch noch rechtlich zur Verantwortung.

Unser Ziel in diesem Modul ist es, Sie zu einem Experten für psychische Gesundheit zu machen, der die KI überwacht, und nicht zu einem Praktiker, der von KI abhängig ist. In dieser ersten Einheit erfahren Sie, wo Sie KI in der Psychologie einsetzen können, wo Sie unbedingt aufhören sollten und wie Sie die einzelnen Ergebnisse validieren.

Was KI in der Psychologie leisten kann und was nicht

Die wahre Kraft der KI besteht darin, Sprache, Muster und Umrisse zu generieren. Das Gerüst einer Sitzungsnotiz, die Landkarte einer Literaturzusammenfassung, eine abgespeckte Version eines psychoedukativen Textes, die Gliederung eines Forschungsfragebogens, die höfliche Sprache einer Termin-E-Mail; All dies geschieht in Sekundenschnelle. Bei diesen Aufgaben spart Ihnen KI Zeit und reduziert die mentale Belastung.

Was KI nicht kann, ist eine Entscheidungsfindung, die klinisches Urteilsvermögen erfordert. Eine Diagnose stellen, ein Risiko einschätzen, einen Behandlungsplan auswählen, lesen, ob es einem Klienten „besser oder schlechter geht“; Nichts davon lässt sich mit der Logik „so passiert es normalerweise“ bewerkstelligen. KI halluziniert, weil sie aus Texten im Internet lernt: Eine Quelle, die real erscheint, aber nicht existiert, kann eine falsche Statistik oder ein erfundenes Skalenelement erzeugen. In der Psychologie ist diese Art von Fehler nicht nur ein Tippfehler; Es bedeutet einen fehlgeleiteten Klienten, einen schädlichen Eingriff oder einen ethischen Verstoß.

Achtung: Bei der KI-Ausgabe handelt es sich um einen Entwurf, nicht um eine klinische Meinung. Sicherheitskritische Fragen wie Diagnose, Risikobewertung und Behandlungsentscheidungen werden mit dem Urteilsvermögen und der Verantwortung eines kompetenten Experten (Psychologe, Psychiater) getroffen. KI ersetzt diese Argumentation nicht.

Drei Regionen je nach Risikostufe

Der praktischste Weg, KI sicher einzusetzen, besteht darin, jede Aufgabe je nach Risikostufe in drei Zonen zu unterteilen. Diese Unterscheidung läuft auf die Frage hinaus: „Sollte KI dies tun?“ Beantwortet Fragen schnell und genau.

Region

Beispielaufgaben

Die Rolle der KI

Verifizierungsebene

Grün (geringes Risiko)

Anonyme psychoedukative Textvereinfachung, Termin-E-Mail, Literaturtitelsuche, Präsentationsskizze

freie Produktion

Kurze Rezension

Gelb (mittleres Risiko)

Entwurf einer Sitzungsnotiz, sprachliche Erläuterung zur Skaleninterpretation, Forschungsanalyseplan, thematischer Codevorschlag

Entwurf + Vorschlag

Expertenprüfung + Quellen-/Datenbestätigung

Rot (sicherheitskritisch)

Diagnose, Einschätzung des Suizid-/Krisenrisikos, Behandlungs-/Medikamentenentscheidung, forensisches Gutachten

Nur Erinnerung/Checkliste

Kompetentes fachmännisches Urteil und Verantwortungsbewusstsein sind zwingend erforderlich

Seien Sie schnell im grünen Bereich. Verwenden Sie KI im gelben Bereich, überprüfen Sie jedoch alle Informationen, Zahlen und Quellen. Im roten Bereich hat die KI nie das letzte Wort; Es handelt sich höchstens um eine Erinnerung, die dem Experten ein Kontrollelement in den Sinn bringt.

drei Mini-Koffer

Fall 1 – Zeitsparende Nutzung. Ein Schulpsychologe wird für eine Gruppe von 40 Eltern eine Informationsbroschüre mit dem Titel „Prüfungsangst bei Jugendlichen“ erstellen. Bei handschriftlichem Schreiben würde es etwa 3 Stunden dauern. Indem er die KI einen anonymen Entwurf schreiben lässt, evidenzbasierte Inhalte selbst überprüft und Quellen überprüft, stellt er die Broschüre in 45 Minuten fertig. Ungefähr 75 % Zeitersparnis, und er ist für den endgültigen Inhalt verantwortlich.

Fall 2 – Wo es aufhören sollte. Ein Spezialist gibt AI die 3-Sitzungsnotizen eines Klienten und fragt: „Hat diese Person eine Borderline-Persönlichkeitsstörung?“ er fragt. „Die Symptome sind konsistent“, sagt die KI selbstbewusst. Allerdings hat die KI den Klienten nicht gesehen, kennt die Vorgeschichte nicht und kann die Differenzialdiagnosen nicht abwägen. Wenn der Facharzt diese Ergebnisse als Diagnose verwendet, begeht er oder sie einen schwerwiegenden Fehler; Der Output kann höchstens eine Erinnerung in Form von „Bewerten Sie diese Bereiche im Vorstellungsgespräch weiter“ sein.

Fall 3 – Die Kosten einer Halluzination. Ein Forscher fordert 10 Quellen von AI für die Einleitung seiner Dissertation an. KI erzeugt 10 Zitate; Formal sehen sie alle perfekt aus. Als der Forscher nachschaut, stellt er fest, dass 4 von ihnen nicht tatsächlich existieren und 2 von ihnen dem echten Artikel das falsche Jahr/den falschen Autor zuordnen. Das bedeutet, dass 60 % der Zitate falsch sind. Hätte er es nicht überprüft, hätte er gefälschte Quellen in seine These aufgenommen.

Mehrschichtige Verifizierungsdisziplin

Die Verifizierung darf nicht mit dem Gedanken „Das schaue ich mir später an“ aufgeschoben werden, sie ist Teil des Arbeitsablaufs. Eine solide Verifizierung besteht aus fünf Schichten:

1. Zurück zu den Beweisen. Wenn die KI einen Befund, eine Bewertung oder eine Empfehlung abgegeben hat, überprüfen Sie diese anhand der Primärquelle (peer-reviewter Artikel, offizieller Leitfaden, Waagenhandbuch).
2. Testen Sie mit klinischem Urteilsvermögen. Ist das Ergebnis für diesen Kunden, diesen Kontext und diese Kultur wirklich von Bedeutung? Wiegen Sie es mit Ihrem eigenen Expertenauge.
3. Vergleichen Sie mit mehreren Daten. Verlassen Sie sich nicht auf einen einzelnen Satz, eine einzelne Bewertung oder ein einzelnes Symptom; Lassen Sie die Geschichte, Beobachtung und Messung zusammen sprechen.
4. Ethik- und Datenschutzfilter. Schadet dieser Output dem Klienten, stigmatisiert er ihn, verletzt er die Vertraulichkeit?
5. Hinterlassen Sie Ihre Spuren. Notieren Sie, welche Ausgabe validiert wurde und wie; Lassen Sie es später überprüfen.

Hinweis: „KI sagte“ ist keine Rechtfertigung. Die Begründung für eine klinische oder forschungsbezogene Entscheidung ist immer Evidenz, Messung, professioneller Standard oder kompetentes Expertenurteil. KI hilft Ihnen bei der Erstellung dieser Begründungen, sie ersetzt sie nicht.

Kopierbare Eingabeaufforderungen und Vorlagen

Die folgenden Vorlagen sorgen dafür, dass die KI eine sichere Rolle spielt. Füllen Sie die eckigen Klammern mit Ihrem eigenen (anonymisierten) Kontext aus.

Rolle: Sie sind ein Redaktionsassistent und unterstützen einen Psychologiestudenten. Sie stellen keine Diagnose, nehmen keine Risikobewertung vor und treffen keine Behandlungsentscheidung. Ihre Aufgabe besteht lediglich darin, den Text zu verfassen und Ihre Gedanken mitzuteilen. Im Zweifelsfall schreiben Sie „Expertenüberprüfung“.Aufgabe: [Aufgabe].Einschränkungen: Anonyme Daten; keine stigmatisierende Sprache; Wenn eine Quellenangabe vorliegt, kreuzen Sie „Bestätigung erforderlich“ an.

Überprüfen Sie den folgenden Entwurf unter drei Aspekten und geben Sie jeweils Punkt für Punkt Feedback: 1) Sätze, die klinisch falsche oder übertriebene Behauptungen enthalten, 2) Behauptungen ohne Quelle, obwohl sie eine Quelle erfordern, 3) stigmatisierende oder wertende Sprache. Wenn Sie sich Ihrer eigenen Richtigkeit nicht sicher sind, schreiben Sie „nicht überprüft“. Text: [Text]

Platzieren Sie die folgende Aufgabe im Risikobereich (grün/gelb/rot) und schreiben Sie die Begründung in einem Satz. Listen Sie dann die für diese Zone geeigneten Überprüfungsschritte auf. Aufgabe: [Stellenbeschreibung]

Welche Aussagen in diesem Text enthalten eine Tatsache/statistische Behauptung? Listen Sie jedes in einer separaten Zeile als „zu verifizierender Anspruch“ auf; Ich werde anhand der Primärquelle nachsehen. Text: [Text]

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwache Aufforderung: „Wie lautet die Diagnose dieses Klienten aufgrund seiner Symptome?“

Diese Aufforderung fordert die KI dazu auf, eine Aufgabe auszuführen, die sie nicht ausführen kann (Diagnose), schützt die Kundendaten nicht und führt zu einer sicheren, aber ungenauen Ausgabe.

Aussagekräftige Aufforderung: „Nachfolgend finden Sie eine anonymisierte Zusammenfassung des Interviews. Stellen Sie KEINE Diagnose. Schlagen Sie stattdessen als Checkliste die Bereiche vor, die ich im klinischen Interview weiter bewerten sollte, und die Fragen, die ich stellen sollte. Markieren Sie, wo Sie sich nicht sicher sind.“

Diese Aufforderung ordnet der KI die richtige Rolle zu (Erinnerung), schützt die Daten und überlässt die Verantwortung dem Experten.

Häufige Fehler

• Den Entwurf mit einer klinischen Meinung verwechseln. Die fließende und sichere Sprache der KI ist kein Beweis für Genauigkeit; Der überzeugendste Satz kann der falschste Satz sein.
• Übergabe der roten Zone an AI. Wenn KI die Diagnose, das Risiko und die Behandlungsentscheidungen abfragt, wird versucht, die Verantwortung auf eine Software zu verlagern; Dies ist sowohl ein ethischer als auch ein rechtlicher Fehler.
• Verifizierung überspringen. Zu sagen: „Ich werde es mir trotzdem ansehen“ oder nicht, ist die häufigste Ursache für Halluzinationen, die sich in den Bericht einschleichen.
• Kundendaten einfügen, ohne sie zu schützen. Die Angabe realer Namen und Details an die KI stellt einen Verstoß gegen die Privatsphäre dar (siehe Einheit 2).
• KI als Supervisor einsetzen. KI führt Fallproben durch, aber die tatsächliche Kontrolle, Rechenschaftspflicht und ethische Aufsicht obliegt dem menschlichen Vorgesetzten.

Zusammenfassend

In der Psychologie ist KI ein mächtiges Hilfsmittel, das Sprache und Umrisse generiert, aber sie ist kein Therapeut, Diagnostiker oder Supervisor. Teilen Sie jede Aufgabe in eine grüne/gelbe/rote Risikozone ein; Im roten Bereich (Diagnose, Krise, Behandlung) liegen das klinische Urteil und die Verantwortung immer beim menschlichen Experten. Durchsuchen Sie jedes Ergebnis anhand von Beweisschichten, klinischer Beurteilung, mehreren Daten, ethischen Filtern und Rückverfolgbarkeit. „KI sagte“ ist niemals eine Rechtfertigung.

Anwendungsaufgabe

Schreiben Sie 6 typische Aufgaben aus Ihrer eigenen Praxis (oder einer vorgestellten Praxis): z.B. Termin-E-Mail, Entwurf einer Sitzungsnotiz, diagnostische Frage, Krisenbeurteilung, Literaturrecherche, psychoedukatives Handout. Platzieren Sie jeden in der grünen/gelben/roten Zone und schreiben Sie für jeden eine aus einem Satz bestehende Validierungsregel. Das Endergebnis ist Ihre eigene „KI-Risikokarte“.

Checkliste

• [ ] Ich habe die Aufgabe im grünen/gelben/roten Bereich platziert.
• [ ] Ich habe keine Entscheidungen im roten Bereich der KI überlassen.
• [ ] Ich habe die Kundendaten anonymisiert.
• [ ] Ich habe die „Diagnose-/Risikobewertung“-Grenze eindeutig auf KI festgelegt.
• [ ] Ich habe die Ausgabe durch fünf Validierungsebenen geleitet.
• [ ] Ich habe akzeptiert, dass ich für den endgültigen Inhalt verantwortlich bin und habe meine Spuren hinterlassen.