Unterstützung bei der Risikobewertung und Sicherheitsplanung: Die sensibelste Grenze

Gewinne:

• Fähigkeit, die Checkliste für Risiko- und Schutzfaktoren sowie das Sicherheitsplangerüst mit künstlicher Intelligenz zu erstellen und zu arbeiten, ohne Bereiche zu überspringen
• Verstehen Sie, dass Entscheidungen über Risikostufe/-bewertung und Sicherheit nur von Experten, Teams, Aufsicht und rechtlichen Prozessen getroffen werden und dass künstliche Intelligenz keine Entscheidungen treffen kann.
• Wir erkennen, dass künstliche Intelligenz benachteiligten Gruppen systematische Voreingenommenheit zuschreiben kann, und wenden die Disziplin an, ihre Ergebnisse niemals als Entscheidung zu nutzen und die sensibelsten Daten nur in einem sicheren System zu verarbeiten

Die wichtigste Aufgabe der Sozialen Arbeit ist die Risikobewertung – Urteile, die sich direkt auf die Lebenssicherheit auswirken, z. B. ob ein Kind vernachlässigt oder misshandelt wird, ob eine Person wahrscheinlich sich selbst oder jemand anderen Schaden zufügt, ob eine ältere Person in Sicherheit ist oder wie gefährdet ein Opfer von Gewalt ist. Die erste und gewagteste Regel dieser Einheit lautet: Risikoentscheidungen können, können und sollten nicht der KI zuzuordnen sein. Entscheidung über die Sicherheit einer Person; Es erfordert professionelle Autorität, klinisches Urteilsvermögen, die Meinung eines multidisziplinären Teams, Aufsicht und rechtliche Verantwortung. KI ist hier nur ein Vorbereitungs- und Erinnerungstool: Sie erinnert Sie daran, welche Risiko- und Schutzfaktoren Sie überprüfen müssen, organisiert Ihre Notizen und entwirft einen Sicherheitsplan. Es gibt keine Bewertung, es sagt nicht „Das Risiko ist gering/hoch“, es trifft keine Entscheidung.

Warum betonen wir das so hart? Denn im Risikobereich sind die Kosten eines KI-Fehlers irreversibel. Wenn die KI ein Risiko als „gering“ einstuft, bleibt ein Kind ungeschützt; Wenn ein Risiko unnötig „hoch“ erscheint, könnte dies dazu führen, dass eine Familie ungerecht getrennt wird. Darüber hinaus weist KI Verzerrungen in Trainingsdaten auf: Algorithmen, die bestimmten sozioökonomischen Gruppen, Ethnien oder Stadtteilen systematisch ein höheres Risiko zuschreiben, wurden auf der ganzen Welt dokumentiert. Selbst wenn es sich bei der Ausgabe der KI um eine Eingabe handelt, kann sie Ihr unabhängiges Urteilsvermögen niemals außer Kraft setzen.

Die legitime Rolle der KI: Erinnerung und Regulierung

Es gibt drei Orte, an denen Sie KI bei Risiko sicher einsetzen können:

1. Faktor-Erinnerung. Die Risikofaktoren (z. B. Gewalt in der Vorgeschichte, Substanzkonsum, soziale Isolation, frühere Einweisungen) und Schutzfaktoren (z. B. ein unterstützender Erwachsener, regelmäßiger Schulbesuch, ein starkes soziales Netzwerk), die bei einer Risikobewertung berücksichtigt werden sollten, sind lang; Mithilfe von KI können Sie vermeiden, Bereiche zu übersehen, indem Sie eine Checkliste abrufen, die zu dem von Ihrer Organisation verwendeten Framework passt.

2. Bearbeiten von Notizen. Es übersetzt Ihre Beobachtungen und Kundenaussagen in einen organisierten, sachlichen Text – so können Sie Ihr Urteil auf klare Daten stützen.

3. Entwurf eines Sicherheitsplans. Ein Sicherheitsplan (ein konkreter Plan, der festlegt, was das Opfer im Gefahrenfall tun wird, wen es kontaktiert und wohin es sich begibt) hat eine bestimmte Struktur. Die KI kann einen Grundgerüstentwurf erstellen, der mit dem Kunden ausgefüllt wird; Aber Sie und der Kunde ergänzen den Inhalt des Plans entsprechend der Realität.

Achtung: Fragen Sie die KI niemals: „Wie hoch ist in diesem Fall das Risikoniveau?“ oder „Ist das Kind zu Hause sicher?“ Frag nicht. Benutzen Sie die Ausgabe NICHT als Entscheidung, auch wenn Sie danach fragen. Diese Fragen werden nur vom autorisierten Experten, Team und Aufsicht über das offizielle Risikotool des Instituts beantwortet.

Schritt für Schritt: KI richtig im Risikoprozess positionieren

1. Sicherheit geht vor. Wenn eine unmittelbare und ernsthafte Gefahr besteht (Lebenssicherheit), ist es notwendig, das Notfallverfahren der Einrichtung anzuwenden, nicht sich mit KI zu befassen. KI sollte keine Dringlichkeit verzögern.
2. Desidentifizieren. Risikobewertungen sind die sensibelsten Daten; Informationen zur Identifizierung des Kunden werden nicht in das offene Tool eingegeben, sondern nur das sichere Institutionstool verwendet.
3. Erinnern Sie mich an die Faktorenliste. Fordern Sie eine dem institutionellen Rahmen entsprechende Risiko- und Schutzfaktor-Checkliste an.
4. Bilden Sie Ihr eigenes Urteil. Sie wägen die Faktoren ab, bewerten sie mit dem Team und beraten sich mit dem Vorgesetzten. Sie möchten nicht, dass die KI „auswertet“.
5. Vervollständigen Sie den Sicherheitsplan mit dem Kunden. Das Entwurfsskelett könnte von der KI stammen; Der Inhalt wird mit dem tatsächlichen Netzwerk, den Ressourcen und den Präferenzen des Kunden gefüllt.

drei Mini-Koffer

Fall 1 – Fehlender Schutzfaktor. Ein Experte konzentrierte sich auf Risikofaktoren in einem Fall häuslicher Gewalt. In der Faktor-Checkliste, um die er AI gebeten hatte, fragte er im Abschnitt „Schutzfaktoren“ nach dem sicheren Support-Netzwerk des Kunden am Arbeitsplatz – ein Bereich, den der Experte übersehen hatte. Dieses Netzwerk wurde zum realistischsten Teil des Sicherheitsplans. Die Entscheidung lag wiederum beim Sachverständigen; AI erinnerte lediglich an die Frage.

Fall 2 – Falscher Wert wurde nicht als vertrauenswürdig eingestuft. Eine Behörde sah, wie ein KI-Tool einen Fall als „geringes Risiko“ einstufte. Die Beobachtung des Sachverständigen und die Aussage des Auftraggebers deuteten jedoch auf eine ernsthafte Gefahr hin. Das Team lehnte die KI-Kennzeichnung ab und leitete aufgrund eigener Einschätzung Schutzmaßnahmen ein. Später wurde bestätigt, dass die Gefahr real war. Lektion: Der KI-Score ist keine Entscheidung; Das menschliche Urteil hat Vorrang.

Fall 3 – Voreingenommenheit erkannt. In einem Prozess wurde derselbe Fall zweimal an die KI übergeben; Der einzige Unterschied bestand in der Nachbarschaft, in der der Kunde lebte. Die KI erzeugte systematisch eine höhere „Risikosprache“ für die bekanntermaßen benachteiligte Nachbarschaft. Dies zeigte eine Voreingenommenheit in den Trainingsdaten der KI und bestärkte die Politik der Behörde, bei Risikoentscheidungen keine KI einzusetzen.

Vier kopierbare Vorlagen

1) Risiko-/Schutzfaktor-Erinnerung:

Ihre Rolle: Assistent des Sozialarbeiters. Erstellen Sie eine Checkliste mit Risikofaktoren und Schutzfaktoren, deren Berücksichtigung bei einer Risikobewertung in [häuslichen Gewalt]-Fällen empfohlen wird. Präsentieren Sie dies als Liste mit ERINNERUNGEN; KEINE Ergebnisse, Entscheidungen oder „Risikostufen“ erstellen. Beurteilung und Entscheidung obliegen dem Sachverständigen.

2) Grundgerüst des Sicherheitsplanentwurfs:

Ihre Rolle: Redakteur. Bereiten Sie einen leeren Entwurf eines Sicherheitsplans vor, der mit einem Opfer häuslicher Gewalt auszufüllen ist: Warnschilder, sichere Orte, Kontaktpersonen und Institutionen, wichtige Dokumente, Plan für Kinder, digitale Sicherheit. Ausfüllen des Inhalts; Lassen Sie unter jeder Überschrift Leerzeichen, die Sie gemeinsam mit dem Kunden ausfüllen können.

3) Bearbeiten einer Risikonotiz (ohne eine Entscheidung zu treffen):

Übersetzen Sie die folgenden Beobachtungs- und Aussagenotizen in einen sachlichen, organisierten Text. Beschriften Sie Beobachtung und Klientenaussage getrennt. Das Risikoniveau angeben, eine Entscheidung treffen, einen Kommentar hinzufügen. Bearbeiten Sie nur den Inhalt der Notiz und markieren Sie fehlende/unklare Bereiche. Hinweis: [Deidentifizierte Notiz einfügen]

4) Voreingenommene Selbstkontrolle:

Gibt es im untenstehenden Risikohinweisentwurf eine Aussage, die eine unbewiesene Voreingenommenheit aufgrund des sozioökonomischen Status, der ethnischen Zugehörigkeit, der Nachbarschaft oder eines ähnlichen Merkmals des Klienten zum Ausdruck bringt? Markieren Sie jeden Satz, der auf Stereotypen und nicht auf Beweisen basiert. Ändern Sie den Text nicht, warnen Sie nur. Hinweis: [Notiz einfügen]

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwache Eingabeaufforderung:

Lesen Sie diesen Fall und entscheiden Sie, ob es für das Kind sicher ist, zu Hause zu bleiben, und wie hoch das Risiko ist.

Dabei wird die wichtigste Entscheidung über ein Menschenleben an eine Software ausgelagert. Es ist unethisch, widerspricht der beruflichen Verantwortung und überträgt die Voreingenommenheit der KI direkt auf das Schicksal eines Kindes.

Kraftvolle Aufforderung:

Ihre Rolle: Mahnassistent. Bevor Sie den anonymisierten Hinweis unten lesen, erstellen Sie eine Checkliste mit Risiko- und Schutzfaktoren, die bei der Beurteilung von Fällen von [Vernachlässigung von Kindern] überprüft werden sollen. HERSTELLUNG einer Entscheidung, eines Punktestands oder eines Risikoniveaus. Ich werde die Bewertung mit meinem Team vornehmen; Du erinnerst mich nur daran, welche Bereiche ich nicht überspringen sollte.

Der Unterschied: Wenn man „Welche Fragen sollte ich nicht vergessen“ sagt, anstatt nach Entscheidungen zu fragen, bleibt die KI an der sicheren und ethischen Grenze.

Rollengrenzen im Risikobereich

Suche

Kann KI das schaffen?

Wer macht das?

Erinnerung an die Faktor-Checkliste

Ja

KI (Erinnerung)

Notizen sachlich bearbeiten

Ja

KI + Expertengenehmigung

Leeres Skelett des Sicherheitsplans

Ja

KI; Inhalt Kunde+Experte

Bestimmung des Risikoniveaus/Scores

Nein

Experte + Team + Aufsicht

„Ist es sicher?“ Entscheidung

Nein

Kompetenter Experte, rechtlicher Prozess

Schutzmaßnahmen einleiten

Nein

Institution, zuständige Behörde

Häufige Fehler

• KI nach Risikobewertung/Risikoentscheidung fragen. Der gefährlichste Fehler; Die Entscheidung erfordert fachliche Autorität und rechtliche Verantwortung.
• Dem AI-Label vertrauen. Eine Schlussfolgerung mit „geringem Risiko“ wird Ihre gegenteilige Beobachtung niemals entkräften.
• Vorurteile ignorieren. KI kann benachteiligten Gruppen ein systematisch hohes Risiko zuschreiben; Selbstbeherrschung ist unerlässlich.
• Verzögerung der Dringlichkeit. Wenn Lebenssicherheit besteht, zuerst Notfallverfahren; Der Umgang mit KI kann nicht warten.
• Übergabe der sensibelsten Daten an das geöffnete Tool. Risikohinweise werden nur im sicheren Institutstool verarbeitet.

Zusammenfassend

Die Gefährdungsbeurteilung ist die größte Verantwortung der Sozialen Arbeit, und die Entscheidung liegt ganz bei der Person – dem Fachmann, dem Team, der Aufsicht, der rechtlichen Autorität. Hier ist KI lediglich ein Werkzeug zum Erinnern (Risiko-/Schutzfaktorliste), Organisieren (Sachvermerk) und Erstellen (Sicherheitsplangerüst); Es punktet nicht, es trifft keine Entscheidungen. Denken Sie daran, dass KI voreingenommen ist, nutzen Sie ihre Ergebnisse niemals als Entscheidung und verarbeiten Sie die sensibelsten Daten nur im sicheren System.

Anwendungsaufgabe

Wählen Sie einen fiktiven Falltyp. Besorgen Sie sich eine Checkliste mit einer „Risiko-/Schutzfaktor-Erinnerung“-Vorlage und stellen Sie sicher, dass die KI keine „Risikostufen“ erzeugt. Dann holen Sie sich mit der Vorlage „Sicherheitsplan-Gliederung“ ein leeres Plangerüst. Die KI bewusst fragen: „Wie hoch ist das Risiko?“ und schreiben Sie in einem Satz, warum Sie die Ausgabe NICHT als Entscheidung verwenden sollten.

Checkliste

• [ ] Ich habe die KI nur um eine Faktorerinnerung gebeten, nicht um eine Entscheidung/Punktzahl.
• [ ] Die sensibelsten Daten habe ich nur im sicheren Enterprise-Tool verarbeitet.
• [ ] Ich hatte vor, gemeinsam mit dem Kunden den Inhalt des Sicherheitsplans auszufüllen.
• [ ] Ich habe die KI-Ausgabe auf Verzerrungen überprüft.
• [ ] Ich habe bestätigt, dass die endgültige Risikoentscheidung beim Team, der Aufsicht und dem ordnungsgemäßen Verfahren liegt.