Κέρδη:
- Δυνατότητα προετοιμασίας της λίστας ελέγχου κινδύνου και των προστατευτικών παραγόντων και του σκελετού σχεδίου ασφαλείας με τεχνητή νοημοσύνη και εργασία χωρίς να παρακάμψετε περιοχές
- Κατανοήστε ότι οι αποφάσεις για το επίπεδο κινδύνου/ βαθμολογία και την ασφάλεια λαμβάνονται μόνο από ειδικούς, ομάδες, εποπτεία και νομικές διαδικασίες και ότι η τεχνητή νοημοσύνη δεν μπορεί να παράγει αποφάσεις.
- Βλέποντας ότι η τεχνητή νοημοσύνη μπορεί να αποδώσει συστηματική μεροληψία σε μειονεκτούσες ομάδες και εφαρμογή της πειθαρχίας της μη χρήσης της παραγωγής της ως απόφασης και επεξεργασίας των πιο ευαίσθητων δεδομένων μόνο σε ένα ασφαλές σύστημα
Η πιο σοβαρή ευθύνη της κοινωνικής εργασίας είναι η αξιολόγηση κινδύνου - κρίσεις που αφορούν άμεσα την ασφάλεια της ζωής, όπως εάν ένα παιδί παραμελείται ή κακοποιείται, εάν ένα άτομο είναι πιθανό να βλάψει τον εαυτό του ή κάποιον άλλο, εάν ένας ηλικιωμένος είναι ασφαλής ή πόσο κινδυνεύει ένα θύμα βίας. Ο πρώτος και πιο τολμηρός κανόνας αυτής της ενότητας είναι ο εξής: Η λήψη αποφάσεων σχετικά με τον κίνδυνο δεν ανήκει, δεν μπορεί και δεν πρέπει να ανήκει στην τεχνητή νοημοσύνη. Απόφαση για την ασφάλεια ενός ατόμου. Απαιτεί επαγγελματική εξουσία, κλινική κρίση, γνώμη διεπιστημονικής ομάδας, επίβλεψη και νομική ευθύνη. Η τεχνητή νοημοσύνη είναι απλώς ένα εργαλείο προετοιμασίας και υπενθύμισης εδώ: σας υπενθυμίζει ποιους παράγοντες κινδύνου και προστατευτικούς παράγοντες πρέπει να ελέγξετε, οργανώνει τις σημειώσεις σας, περιγράφει ένα σχέδιο ασφάλειας. Δεν δίνει βαθμολογία, δεν λέει «το ρίσκο είναι χαμηλό/υψηλό», δεν παίρνει απόφαση.
Γιατί το τονίζουμε τόσο σκληρά; Επειδή στην αρένα του κινδύνου, το κόστος ενός λάθους τεχνητής νοημοσύνης είναι μη αναστρέψιμο. Η αξιολόγηση του κινδύνου της τεχνητής νοημοσύνης ως "χαμηλού" αφήνει ένα παιδί απροστάτευτο. Κάνοντας έναν κίνδυνο να φαίνεται άσκοπα «υψηλός» θα μπορούσε να οδηγήσει σε άδικο χωρισμό μιας οικογένειας. Επιπλέον, η τεχνητή νοημοσύνη φέρει προκαταλήψεις στα δεδομένα εκπαίδευσης: αλγόριθμοι που αποδίδουν συστηματικά υψηλότερο κίνδυνο σε ορισμένες κοινωνικοοικονομικές ομάδες, εθνότητες ή γειτονιές έχουν τεκμηριωθεί σε όλο τον κόσμο. Έτσι, ακόμα κι αν η έξοδος του AI είναι είσοδος, δεν μπορεί ποτέ να παρακάμψει την ανεξάρτητη κρίση σας.
Ο θεμιτός ρόλος της τεχνητής νοημοσύνης: υπενθύμιση και ρύθμιση
Υπάρχουν τρία μέρη όπου μπορείτε να χρησιμοποιήσετε με ασφάλεια την τεχνητή νοημοσύνη σε κίνδυνο:
1. Υπενθύμιση παράγοντα. Οι παράγοντες κινδύνου (π.χ. ιστορικό βίας, χρήση ουσιών, κοινωνική απομόνωση, προηγούμενες εισαγωγές) και προστατευτικοί παράγοντες (π.χ. υποστηρικτικός ενήλικας, τακτική φοίτηση στο σχολείο, ισχυρό κοινωνικό δίκτυο) που πρέπει να λαμβάνονται υπόψη στην αξιολόγηση κινδύνου είναι μεγάλοι. Η τεχνητή νοημοσύνη σάς βοηθά να αποφύγετε να χάσετε οποιονδήποτε τομέα ανακαλώντας μια λίστα ελέγχου που ταιριάζει στο πλαίσιο που χρησιμοποιεί ο οργανισμός σας.
2. Επεξεργασία σημειώσεων. Μεταφράζει τις παρατηρήσεις σας και τις δηλώσεις πελατών σε ένα οργανωμένο, τεκμηριωμένο κείμενο — ώστε να μπορείτε να βασίσετε την κρίση σας σε σαφή δεδομένα.
3. Σχέδιο σχεδίου ασφαλείας. Ένα σχέδιο ασφαλείας (ένα συγκεκριμένο σχέδιο που καθορίζει τι θα κάνει το θύμα σε περίπτωση κινδύνου, με ποιον θα επικοινωνήσει, πού θα πάει) έχει μια συγκεκριμένη δομή. Η τεχνητή νοημοσύνη μπορεί να δημιουργήσει ένα σχέδιο σκελετού που θα συμπληρωθεί με τον πελάτη. Αλλά εσείς και ο πελάτης συμπληρώνετε το περιεχόμενο του σχεδίου σύμφωνα με την πραγματικότητα.
Προσοχή: Ποτέ μην ρωτήσετε το AI "ποιο είναι το επίπεδο κινδύνου σε αυτήν την περίπτωση;" ή "είναι το παιδί ασφαλές στο σπίτι;" Μη ρωτάς. ΜΗΝ χρησιμοποιείτε την έξοδο ως απόφαση, ακόμα κι αν το ζητήσετε. Αυτές οι ερωτήσεις απαντώνται μόνο από τον εξουσιοδοτημένο εμπειρογνώμονα, την ομάδα και την εποπτεία μέσω του επίσημου εργαλείου κινδύνου του ιδρύματος.
Βήμα προς βήμα: τοποθέτηση της τεχνητής νοημοσύνης σωστά στη διαδικασία κινδύνου
- Η ασφάλεια πρώτα. Εάν υπάρχει άμεσος και σοβαρός κίνδυνος (ασφάλεια ζωής), είναι απαραίτητο να λειτουργήσει η διαδικασία έκτακτης ανάγκης του ιδρύματος και όχι να ασχοληθεί με AI. Η τεχνητή νοημοσύνη δεν θα πρέπει να καθυστερεί κανένα επείγον.
- Αποταυτοποιήστε. Οι αξιολογήσεις κινδύνου είναι τα πιο ευαίσθητα δεδομένα. Οι πληροφορίες που ταυτοποιούν τον πελάτη δεν εισάγονται στο ανοιχτό εργαλείο, χρησιμοποιείται μόνο το εργαλείο ασφαλούς ιδρύματος.
- Θυμίστε μου τη λίστα παραγόντων. Ζητήστε μια λίστα ελέγχου κινδύνου και προστατευτικών παραγόντων κατάλληλη για το θεσμικό πλαίσιο.
- Κάντε τη δική σας κρίση. Ζυγίζετε τους παράγοντες, αξιολογείτε με την ομάδα και συμβουλεύεστε τον επόπτη. Δεν θέλετε το AI να «αξιολογήσει».
- Ολοκληρώστε το σχέδιο ασφάλειας με τον πελάτη. Ο σκελετός του βυθίσματος μπορεί να προέρχεται από το AI. Το περιεχόμενο συμπληρώνεται με το πραγματικό δίκτυο, τους πόρους και τις προτιμήσεις του πελάτη.
τρεις μίνι θήκες
Περίπτωση 1 — Έλλειψη προστατευτικού παράγοντα. Ένας ειδικός επικεντρώθηκε στους παράγοντες κινδύνου σε μια υπόθεση ενδοοικογενειακής βίας. Η λίστα ελέγχου παραγόντων που ζήτησε από την τεχνητή νοημοσύνη τον ρώτησε σχετικά με το ασφαλές δίκτυο υποστήριξης του πελάτη στην εργασία στην ενότητα "προστατευτικοί παράγοντες" - μια περιοχή που ο ειδικός είχε χάσει. Αυτό το δίκτυο έγινε το πιο ρεαλιστικό μέρος του σχεδίου ασφαλείας. Η απόφαση εναπόκειτο και πάλι στον εμπειρογνώμονα. Το AI απλώς υπενθύμισε την ερώτηση.
Περίπτωση 2 — Η λανθασμένη βαθμολογία δεν ήταν αξιόπιστη. Μια υπηρεσία είδε ένα δοκιμαστικό εργαλείο τεχνητής νοημοσύνης να χαρακτηρίζει μια υπόθεση ως «χαμηλού κινδύνου». Ωστόσο, η παρατήρηση του πραγματογνώμονα και η δήλωση του πελάτη έδειχναν σοβαρό κίνδυνο. Η ομάδα απέρριψε την ετικέτα AI και ξεκίνησε προστατευτική δράση με βάση τη δική της αξιολόγηση. Αργότερα επιβεβαιώθηκε ότι ο κίνδυνος ήταν υπαρκτός. Μάθημα: Η βαθμολογία AI δεν είναι απόφαση. προέχει η ανθρώπινη κρίση.
Περίπτωση 3 — Η μεροληψία συλλαμβάνεται. Σε μια δίκη, η ίδια υπόθεση δόθηκε στο AI δύο φορές. Η μόνη διαφορά ήταν η γειτονιά που έμενε ο πελάτης. Η τεχνητή νοημοσύνη παρήγαγε συστηματικά υψηλότερη «γλώσσα κινδύνου» για τη γειτονιά που είναι γνωστό ότι βρίσκεται σε μειονεκτική θέση. Αυτό έδειξε μεροληψία στα δεδομένα εκπαίδευσης της τεχνητής νοημοσύνης και ενίσχυσε την πολιτική του οργανισμού να μην χρησιμοποιεί τεχνητή νοημοσύνη στη λήψη αποφάσεων για κινδύνους.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Υπενθύμιση κινδύνου/προστατευτικού παράγοντα:
Ο ρόλος σας: βοηθός του επόπτη κοινωνικής εργασίας. Ετοιμάστε μια λίστα ελέγχου παραγόντων κινδύνου και προστατευτικών παραγόντων που συνιστάται να επανεξεταστούν σε μια αξιολόγηση κινδύνου σε περιπτώσεις [οικογενειακής βίας]. Παρουσιάστε αυτό ως λίστα ΥΠΕΝΘΥΜΙΣΕΩΝ. ΜΗΝ παράγετε βαθμολογίες, αποφάσεις ή «επίπεδα κινδύνου». Η αξιολόγηση και η απόφαση ανήκουν στον εμπειρογνώμονα.
2) Σκελετός σχεδίου σχεδίου ασφαλείας:
Ο ρόλος σας: συντάκτης. Ετοιμάστε ένα ΚΕΝΟ περίγραμμα ενός σχεδίου ασφάλειας που θα συμπληρώσετε με ένα θύμα ενδοοικογενειακής βίας: προειδοποιητικές πινακίδες, ασφαλή μέρη, άτομα και ιδρύματα με τα οποία μπορείτε να επικοινωνήσετε, σημαντικά έγγραφα, σχέδιο για παιδιά, ψηφιακή ασφάλεια. Συμπλήρωση του περιεχομένου. Αφήστε κενά κενά κάτω από κάθε επικεφαλίδα για συμπλήρωση με τον πελάτη.
3) Επεξεργασία σημείωσης κινδύνου (χωρίς λήψη απόφασης):
Μεταφράστε τις ακόλουθες παρατηρήσεις και σημειώσεις δηλώσεων σε ένα πραγματικό, οργανωμένο κείμενο. Παρατήρηση ετικέτας και δήλωση πελάτη ξεχωριστά. ΔΗΛΩΣΗ του επιπέδου κινδύνου, Λήψη απόφασης, ΠΡΟΣΘΗΚΗ σχολίου. Επεξεργαστείτε μόνο ό,τι υπάρχει στη σημείωση και σημειώστε περιοχές που λείπουν/ασαφείς. Σημείωση: [επικολλήστε τη σημείωση που δεν αναγνωρίστηκε]
4) Μεροληπτικός αυτοέλεγχος:
Στο προσχέδιο σημείωσης κινδύνου παρακάτω, υπάρχει μια δήλωση που μεταφέρει αναπόδεικτη προκατάληψη λόγω της κοινωνικοοικονομικής κατάστασης, της εθνικότητας, της γειτονιάς ή παρόμοιου χαρακτηριστικού του πελάτη; Σημειώστε κάθε πρόταση που βασίζεται σε στερεότυπα και όχι σε στοιχεία. Μην αλλάξετε το κείμενο, απλώς προειδοποιήστε. Σημείωση: [επικόλληση σημείωσης]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Διαβάστε αυτήν την περίπτωση και αποφασίστε εάν είναι ασφαλές για το παιδί να μείνει στο σπίτι και ποιο είναι το επίπεδο κινδύνου.
Αυτό είναι η εξωτερική ανάθεση της πιο βαριάς απόφασης για μια ανθρώπινη ζωή σε ένα λογισμικό. Είναι ανήθικο, αντίθετο με την επαγγελματική ευθύνη και μεταφέρει την προκατάληψη της τεχνητής νοημοσύνης απευθείας στη μοίρα ενός παιδιού.
Ισχυρή προτροπή:
Ο ρόλος σας: βοηθός υπενθύμισης. Πριν διαβάσετε τη σημείωση που δεν έχει ταυτοποιηθεί παρακάτω, ετοιμάστε μια λίστα ελέγχου με παράγοντες κινδύνου και προστατευτικούς παράγοντες που θα εξετάσετε κατά την αξιολόγηση περιπτώσεων [παιδικής παραμέλησης]. ΠΑΡΑΓΩΓΗ απόφασης, βαθμολογίας ή επιπέδου κινδύνου. Θα κάνω την αξιολόγηση με την ομάδα μου. Απλώς μου θυμίζεις ποιες περιοχές δεν πρέπει να παραλείψω.
Η διαφορά: το να λες «ποιες ερωτήσεις δεν πρέπει να ξεχάσω» αντί να ζητάω αποφάσεις, διατηρεί την τεχνητή νοημοσύνη στα ασφαλή και ηθικά σύνορα.
Όρια ρόλων στον τομέα του κινδύνου
Αναζήτηση
Μπορεί το AI να το κάνει;
Ποιος κάνει;
Υπενθύμιση λίστας ελέγχου παραγόντων
Ναι
AI (υπενθύμιση)
Επεξεργασία σημειώσεων τεκμηριωμένη
Ναι
AI + έγκριση ειδικού
Κενός σκελετός σχεδίου ασφαλείας
Ναι
AI; πελάτης + ειδικός περιεχομένου
Προσδιορισμός επιπέδου κινδύνου/βαθμολόγησης
όχι
Εμπειρογνώμονας + ομάδα + επίβλεψη
"Είναι ασφαλές;" απόφαση
όχι
Αρμόδιος εμπειρογνώμονας, νομική διαδικασία
Λήψη προστατευτικών μέτρων
όχι
Ίδρυμα, αρμόδια αρχή
Συνήθη λάθη
- Ζητώντας από την AI βαθμολογία/απόφαση κινδύνου. Το πιο επικίνδυνο λάθος. Η απόφαση απαιτεί επαγγελματική εξουσία και νομική ευθύνη.
- Εμπιστεύεστε την ετικέτα AI. Ένα συμπέρασμα "χαμηλού κινδύνου" δεν θα ακυρώσει ποτέ την παρατήρησή σας για το αντίθετο.
- Αγνοώντας την προκατάληψη. Η τεχνητή νοημοσύνη μπορεί να αποδίδει συστηματικό υψηλό κίνδυνο σε μειονεκτούσες ομάδες. ο αυτοέλεγχος είναι απαραίτητος.
- Καθυστέρηση του επείγοντος. Εάν υπάρχει ασφάλεια ζωής, πρώτα διαδικασία έκτακτης ανάγκης. Η ενασχόληση με την τεχνητή νοημοσύνη δεν μπορεί να περιμένει.
- Δίνοντας τα πιο ευαίσθητα δεδομένα στο ανοιχτό εργαλείο. Οι σημειώσεις κινδύνου υποβάλλονται σε επεξεργασία μόνο στο εργαλείο ασφαλούς ιδρύματος.
Συνοπτικά
Η αξιολόγηση κινδύνου είναι η βαρύτερη ευθύνη της κοινωνικής εργασίας και η απόφαση βαρύνει αποκλειστικά το άτομο — τον επαγγελματία, την ομάδα, την επίβλεψη, τη νομική αρχή. Εδώ, η τεχνητή νοημοσύνη είναι απλώς ένα εργαλείο για υπενθύμιση (λίστα κινδύνου/προστατευτικών παραγόντων), οργάνωση (σημείωση πραγματικών στοιχείων) και σύνταξη (σκελετός σχεδίου ασφαλείας). Δεν σκοράρει, δεν παίρνει αποφάσεις. Να θυμάστε ότι η τεχνητή νοημοσύνη φέρει μεροληψία, μην χρησιμοποιείτε ποτέ την έξοδο της ως απόφαση και επεξεργάζεστε τα πιο ευαίσθητα δεδομένα μόνο στο ασφαλές σύστημα.
Εργασία εφαρμογής
Επιλέξτε έναν φανταστικό τύπο υπόθεσης. Λάβετε μια λίστα ελέγχου με ένα πρότυπο «υπενθύμισης κινδύνου/προστατευτικού παράγοντα» και επαληθεύστε ότι το AI δεν παράγει «επίπεδα κινδύνου». Στη συνέχεια, πιάστε έναν κενό σκελετό σχεδίου με το πρότυπο "σκελετός περιγράμματος σχεδίου ασφαλείας". Ρωτώντας συνειδητά την AI "ποιο είναι το επίπεδο κινδύνου;" και γράψτε με μια πρόταση γιατί ΔΕΝ πρέπει να χρησιμοποιείτε την έξοδο ως απόφαση.
λίστα ελέγχου
- [ ] Ζήτησα από την τεχνητή νοημοσύνη μόνο μια υπενθύμιση παράγοντα, όχι μια απόφαση/βαθμολογία.
- [ ] Επεξεργάστηκα τα πιο ευαίσθητα δεδομένα μόνο στο ασφαλές εταιρικό εργαλείο.
- [ ] Σχεδίαζα να συμπληρώσω τα περιεχόμενα του σχεδίου ασφαλείας μαζί με τον πελάτη.
- [ ] Έλεγξα την έξοδο AI για προκατάληψη.
- [ ] Επιβεβαίωσα ότι η τελική απόφαση κινδύνου ανήκει στην ομάδα, την επίβλεψη και τη δέουσα διαδικασία.