Κέρδη:
- Να είστε σε θέση να διακρίνετε πού εξοικονομεί χρόνο η τεχνητή νοημοσύνη στη ροή εργασιών κοινωνικής εργασίας (σύνοψη, επεξεργασία, απλοποίηση, προσχέδιο) και πού η κλινική κρίση, ο κίνδυνος και οι αποφάσεις αναπαράστασης αφήνονται στον άνθρωπο, ανάλογα με το επίπεδο κινδύνου.
- Δυνατότητα εφαρμογής μιας πειθαρχίας που επαληθεύει κάθε έξοδο μέσω των βημάτων της σύνδεσής της με πραγματικά στοιχεία, της επιβεβαίωσης εξωτερικών πληροφοριών με τρέχουσες επίσημες πηγές και του φιλτραρίσματος μέσω προκατάληψης.
- Για να κατανοήσουμε γιατί το απόρρητο των πελατών, η διάκριση μεταξύ ανώνυμου και κόσμου δεδομένων πελάτη και η ευθύνη του KVKK θα πρέπει να ληφθούν υπόψη από την αρχή στην κοινωνική εργασία.
Βρίσκεστε το πρωί σε ένα κέντρο κοινωνικής υπηρεσίας. Τρεις νέες αιτήσεις έφτασαν χθες: μια γυναίκα που έπεσε θύμα βίας και τα δύο της παιδιά, ένας ηλικιωμένος που χρήζει φροντίδας και ένας έφηβος που κινδυνεύει να εγκαταλείψει το σχολείο. Υπάρχουν τέσσερις εκθέσεις κοινωνικής έρευνας στο γραφείο σας, μια γνώμη που ζητήθηκε από το δικαστήριο, αρχεία υποθέσεων που πρέπει να συμπληρωθούν και προετοιμασίες για μια επίσκεψη στο σπίτι με μια οικογένεια σήμερα το απόγευμα. Η κοινωνική εργασία (το επάγγελμα και η πειθαρχία που πραγματοποιείται για τη βελτίωση της κοινωνικής λειτουργικότητας των ατόμων, των οικογενειών και των κοινοτήτων, για τη διασφάλιση της πρόσβασής τους στα δικαιώματα και την ευημερία και για την προστασία των ευάλωτων ομάδων) είναι ένας τομέας που είναι εγγενώς εντατικός σε έγγραφα, με πίεση χρόνου, αγγίζει την ανθρώπινη ζωή και έχει υψηλή ευθύνη. Η τεχνητή νοημοσύνη (AI - λογισμικό που μπορεί να εξάγει μοτίβα από ιστορικά δεδομένα και να παράγει ή να ταξινομεί κείμενο, περιλήψεις, μεταφράσεις και προσχέδια) σάς δίνει μια ανάσα σε αυτό το φόρτο εγγράφου και την πίεση χρόνου. Αλλά η αρχή αυτής της ενότητας είναι ξεκάθαρη: η τεχνητή νοημοσύνη είναι ένας βοηθός, συνοψιστής και γεννήτρια περιγραμμάτων. Είστε ο αρμόδιος εμπειρογνώμονας που λαμβάνει την αξιολόγηση, τον κίνδυνο και την τελική απόφαση για τον πελάτη.
Σε αυτή την πρώτη ενότητα θα επικεντρωθούμε στην πειθαρχία, όχι στο εργαλείο. Θα μάθετε πού η τεχνητή νοημοσύνη εξοικονομεί πραγματικό χρόνο στη ροή εργασιών κοινωνικής εργασίας, πού είναι επικίνδυνη, πώς να επαληθεύετε κάθε έξοδο, πώς να προστατεύετε το απόρρητο και τα προσωπικά δεδομένα των πελατών και πώς να παραμένετε σε εγρήγορση για προκατάληψη. Χωρίς να τεθεί αυτό το θεμέλιο, οι επόμενες ενότητες παραμένουν στον αέρα — επειδή στην κοινωνική εργασία, ένα μη επαληθευμένο αποτέλεσμα δεν είναι απλώς μια ψευδής πρόταση. Είναι ένα λάθος που θα μπορούσε να οδηγήσει σε εσφαλμένη εκτίμηση ενός παιδιού, σε παράβλεψη κινδύνου, σε άδικο στιγματισμό μιας οικογένειας ή σε διαρροή ευαίσθητων πληροφοριών.
Πού είναι χρήσιμη η τεχνητή νοημοσύνη στη ροή εργασιών κοινωνικής εργασίας;
Ας χωρίσουμε τις θέσεις εργασίας κοινωνικής εργασίας σε δύο μεγάλες ομάδες. Το πρώτο σύμπλεγμα: εργασίες με ένταση εγγράφων, επαναλαμβανόμενες, εξαγώγιμες με μοτίβο και εργασίες βασισμένες στη γλώσσα. Μετάφραση διάσπαρτων σημειώσεων μετά από συνέντευξη σε οργανωμένο αρχείο υπόθεσης, χρονολογική περίληψη μεγάλου αρχείου, πρώτος σκελετός αναφοράς κοινωνικής έρευνας, απλοποίηση λίστας βοήθειας/υπηρεσιών για να ταιριάζει στη γλώσσα του πελάτη, σχέδιο παραπομπής, μετάφραση απλού κειμένου πληροφοριών για πολύγλωσσο πελάτη, πρώτο πλαίσιο ανάλυσης αναγκών προγράμματος. Σε αυτές τις δουλειές, η τεχνητή νοημοσύνη μειώνει τις ώρες σε λεπτά και δεν κουράζεται.
Δεύτερη ομάδα: εργασίες που απαιτούν κρίση, κλινική αξιολόγηση, κρίση κινδύνου και ευθύνη. Εάν ένα παιδί είναι ασφαλές στο σπίτι, το επίπεδο κινδύνου ενός ατόμου να αυτοτραυματιστεί, εάν μια οικογένεια χρειάζεται προστατευτικά μέτρα, τη γνώμη με την οποία θα υποβληθεί μια αναφορά στο δικαστήριο, εάν μια υπηρεσία είναι πραγματικά κατάλληλη για τον πελάτη. Αυτές οι αποφάσεις απαιτούν επαγγελματική ικανότητα, κλινική κρίση, γνώση του πλαισίου, ηθική ευθύνη και συχνά διεπιστημονική γνώμη της ομάδας. Εδώ, η τεχνητή νοημοσύνη πολλαπλασιάζει τις επιλογές, δημιουργεί προσχέδια, σας υπενθυμίζει τι παραβλέφθηκε — αλλά η τελική αξιολόγηση και η υπογραφή είναι δική σας.
Ας διευκρινίσουμε τη διάκριση με μια φράση: Η τεχνητή νοημοσύνη είναι ισχυρή στις ερωτήσεις "τι υπάρχει σε αυτό το αρχείο και πώς μοιάζει το πρώτο προσχέδιο". Η απόφαση είναι δική σας όταν πρόκειται για ερωτήσεις όπως "Ποια είναι η πραγματική κατάσταση για αυτό το άτομο και μπορώ να το υπερασπιστώ για λογαριασμό του επαγγέλματός μου;"
Συμβουλή: Προτού αναθέσετε μια εργασία σε μια τεχνητή νοημοσύνη, ρωτήστε: "Ποιος πλήττεται εάν αυτό το αποτέλεσμα είναι λάθος;" Εάν η απάντηση είναι "λίγα λεπτά ανακατασκευής", αναθέστε άνετα. Εάν η απάντηση είναι "λάθος αξιολόγηση πελάτη, αποφυγή κινδύνου ή πληροφορίες που έχουν διαρρεύσει", αφήστε το AI να παράγει το προσχέδιο και εσείς λάβετε την απόφαση και την επαλήθευση.
Απόρρητο: απαράβατη αρχή
Η καρδιά της κοινωνικής εργασίας είναι η εμπιστοσύνη και η εμπιστοσύνη βασίζεται στην εμπιστευτικότητα. Ένας πελάτης σας λέει τις πιο ιδιωτικές, πιο εύθραυστες πληροφορίες του -βία, φτώχεια, κατάσταση υγείας, οικογενειακά μυστικά- βασιζόμενος στο επαγγελματικό απόρρητο. Όταν αυτές οι πληροφορίες πέφτουν σε λάθος χέρια, απειλούν τη ζωή, την ασφάλεια και την αξιοπρέπεια ενός ατόμου. Ο βασικός κανόνας εδώ: Δεν θα εισαχθούν προσωπικά δεδομένα που προσδιορίζουν τον πελάτη (όνομα, διεύθυνση, TR ID, υγεία, οικογενειακά στοιχεία κ.λπ.) σε ένα δημόσιο εργαλείο τεχνητής νοημοσύνης που δεν έχει εγκρίνει το ίδρυμά σας. Το κείμενο που πληκτρολογείτε σε μια δημόσια υπηρεσία AI υποβάλλεται σε επεξεργασία στους διακομιστές αυτής της υπηρεσίας. Δεν μπορείτε να ελέγξετε ποιος το βλέπει, πού αποθηκεύεται και αν χρησιμοποιείται για την εκπαίδευση του μοντέλου. Στην Τουρκία, αυτό αποτελεί επίσης νομική ευθύνη βάσει του KVKK (Νόμος για την Προστασία Δεδομένων Προσωπικού Χαρακτήρα - ο νόμος που ρυθμίζει την επεξεργασία δεδομένων προσωπικού χαρακτήρα).
Επομένως, η χρήση της τεχνητής νοημοσύνης στην κοινωνική εργασία λειτουργεί σε δύο διαφορετικούς κόσμους: Γενικά εργαλεία μπορούν να χρησιμοποιηθούν για τον αποπροσδιορισμένο/γενικό κόσμο (ανώνυμα ή φανταστικά παραδείγματα που δεν ταυτοποιούν τον πελάτη, ερωτήσεις γενικής γνώσης). Για τον κόσμο των δεδομένων πελατών, χρησιμοποιούνται μόνο εσωτερικά, ασφαλή, εγκεκριμένα συστήματα που δεν διαρρέουν δεδομένα. Η σύγχυση των δύο είναι το πιο επικίνδυνο λάθος αυτής της ενότητας.
Προσοχή: "Το είπε η AI" δεν αποτελεί δικαιολογία και δεν έχει καμία ισχύ σε μια δικογραφία. Εάν υπάρχει εσφαλμένη εκτίμηση, κατασκευασμένες πληροφορίες ή δεδομένα που έχουν διαρρεύσει, η ευθύνη δεν ανήκει στην τεχνητή νοημοσύνη, αλλά στον ειδικό που χρησιμοποιεί αυτό το αποτέλεσμα χωρίς να το επαληθεύσει ή εισάγει αυτά τα δεδομένα στο εργαλείο.
Πειθαρχία επαλήθευσης: τρία βήματα
Η τεχνητή νοημοσύνη παράγει ρευστά και με αυτοπεποίθηση. Αυτό δεν σημαίνει ότι είναι αλήθεια. Η τεχνητή νοημοσύνη περιστασιακά παράγει παραισθήσεις — δηλαδή, παρουσιάζει ως αληθινό ένα νομοσχέδιο που δεν υπάρχει, μια υπηρεσία που δεν υπάρχει, ένα επινοημένο στατιστικό στοιχείο ή μια δήλωση που ο πελάτης δεν είπε ποτέ. Σε μια έκθεση κοινωνικής έρευνας ή ένα μνημόνιο κινδύνου, αυτό είναι καταστροφικό. Εφαρμόστε ένα αντανακλαστικό τριών βημάτων σε κάθε έξοδο:
- Σύνδεσμος με πηγή/αποδεικτικά στοιχεία. Κάθε δήλωση που κάνει το AI για τον πελάτη πρέπει να βασίζεται στην πραγματική σημείωση ή συνομιλία που δώσατε. «Σε ποια συνομιλία, από ποιανού στόματα, με ποια παρατήρηση δόθηκε αυτή η πληροφορία;». παρακαλώ. Το AI δεν πρέπει να προσθέσει τίποτα που δεν είπε ο πελάτης.
- Επιβεβαίωση με ανεξάρτητη πηγή. Επαληθεύστε εξωτερικές πληροφορίες όπως νόμος, δικαιώματα, υπηρεσία, διεύθυνση προώθησης κ.λπ. από την τρέχουσα επίσημη πηγή. Μια απαίτηση εφαρμογής ή ένας αριθμός τηλεφώνου που παρέχεται από την τεχνητή νοημοσύνη μπορεί να είναι ξεπερασμένος ή πλαστός.
- Περάστε το από το φίλτρο της ερμηνείας και της προκατάληψης. Είναι η έξοδος μεροληπτική έναντι μιας ομάδας; Υπάρχει γλώσσα που στιγματίζει και κατηγορεί τον πελάτη; Αγνοεί τα δυνατά σημεία; Η επαγγελματική σας κρίση είναι το τελικό φίλτρο.
τρεις μίνι θήκες
Περίπτωση 1 — Εξοικονόμηση χρόνου τεκμηρίωσης. Ένας κοινωνικός λειτουργός πραγματοποίησε 14 συνεντεύξεις σε μια εβδομάδα και κράτησε ελεύθερες σημειώσεις για κάθε μία. Η επεξεργασία με τη βοήθεια AI μείωσε τον συνολικό χρόνο μετάφρασης αυτών των σημειώσεων σε δομημένα αρχεία περιπτώσεων από περίπου 4 ώρες σε 1 ώρα. Αλλά κάθε ηχογράφηση διαβάστηκε από τον ειδικό και επαληθεύτηκε συγκρίνοντάς την με την πραγματική συνέντευξη. Δύο προτάσεις που «ερμήνευσε» το AI διαγράφηκαν.
Περίπτωση 2 — Η επαλήθευση έπιασε μια ψευδαίσθηση. Ένας εμπειρογνώμονας έκανε στην AI μια ερώτηση για τα δικαιώματα. Ο YZ είπε, "Υπάρχει ελάχιστη απαίτηση διαμονής 24 μηνών για αυτή τη βοήθεια." Όταν ο εμπειρογνώμονας εξέτασε την επίσημη νομοθεσία, δεν υπήρχε τέτοια απαίτηση. Το AI είχε αναμείξει δύο παρόμοια βοηθήματα και είχε δημιουργήσει μια προϋπόθεση που δεν υπήρχε. Το βήμα απόδοσης εμπόδισε τον πελάτη να αποτραπεί άδικα.
Περίπτωση 3 — Επιστροφή από παραβίαση απορρήτου. Για να είναι γρήγορος, ένας νέος επαγγελματίας ήθελε να επικολλήσει όλες τις πληροφορίες μιας υπόθεσης παιδικής προστασίας (συμπεριλαμβανομένου του ονόματος, της διεύθυνσης, του σχολείου του παιδιού) σε ένα δημόσιο εργαλείο AI και να εκτυπώσει μια αναφορά. Ο ανώτερος εμπειρογνώμονας συνειδητοποίησε: αυτά ήταν ευαίσθητα προσωπικά δεδομένα εντός του πεδίου εφαρμογής του KVKK και ήταν εκτός. Το περιστατικό αντιμετωπίστηκε ως παραβίαση δεδομένων. η εργασία επαναλήφθηκε με τα διαπιστευτήρια να έχουν αφαιρεθεί και μόνο η εσωτερική ασφαλής μέθοδος.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Αξιολόγηση εργασιακής καταλληλότητας:
Ο ρόλος σας: ανώτερος κοινωνικός λειτουργός και επόπτης. Θα περιγράψω τη δουλειά παρακάτω. Πείτε μου (1) εάν πρόκειται για μια εργασία σύνοψης/επεξεργασίας/περιγραφής που μπορεί να ανατεθεί σε μια τεχνητή νοημοσύνη ή για εργασία που απαιτεί κλινική κρίση και κρίση κινδύνου, (2) το κόστος για τον πελάτη λόγω εσφαλμένης απόδοσης, (3) την επαλήθευση που πρέπει να κάνω πριν και μετά την ανάθεση. Εργασία: [εισάγετε εργασία εδώ]
2) Υποχρέωση επίκλησης αποδεικτικών στοιχείων:
Θα σας δώσω τις σημειώσεις μιας συνάντησης. Κατά την επεξεργασία της εγγραφής, χρησιμοποιήστε ΜΟΝΟ τις πληροφορίες στη σημείωση. Μην προσθέτετε τίποτα που δεν έχει πει ο πελάτης, μην κάνετε διάγνωση, μην σχολιάσετε. Επισημάνετε την παρατήρηση και την έκφραση του πελάτη ξεχωριστά. Επισημάνετε τις περιοχές που λείπουν ή είναι ασαφείς ως "χρειάζεται διευκρίνιση".
3) Προέλεγχος απορρήτου:
Αξιολογήστε το ακόλουθο κείμενο ΠΡΙΝ την επεξεργασία: θα μπορούσε αυτό το κείμενο να περιέχει προσωπικά δεδομένα που ταυτοποιούν τον πελάτη (όνομα, διεύθυνση, TR ID, υγεία, οικογενειακά στοιχεία); Αν ναι, ποιες ενότητες; Ως εκ τούτου, εάν δεν πρέπει να υποβληθεί σε επεξεργασία σε ένα δημόσιο εργαλείο, προειδοποιήστε με και απαριθμήστε τα πεδία που πρέπει να αποπροσδιορίσω. Κείμενο: [γράψτε κείμενο εδώ]
4) Έλεγχος μεροληψίας/γλώσσας:
Εξετάστε το ακόλουθο αρχείο περίπτωσης: Υπάρχει γλώσσα που στιγματίζει, κατηγορεί ή προκαταλαμβάνει τον πελάτη εναντίον μιας ομάδας; Αγνοεί τις δυνάμεις και τους πόρους; Προτείνετε γλώσσα που είναι πιο σεβαστή, εστιασμένη στα γεγονότα και αναγνωρίζει τα δυνατά σημεία. Μην αλλάξετε την εγγραφή, απλώς επισημάνετε τα προβλήματα γλώσσας.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Γράψτε μια αναφορά για αυτήν την οικογένεια και αποφασίστε εάν το παιδί είναι ασφαλές στο σπίτι.
Αυτή η προτροπή είναι άνευ περιεχομένου και επικίνδυνη: δεν είναι σαφές ποιες πληροφορίες, ποια παρατήρηση και η τεχνητή νοημοσύνη καλείται να λάβει μια απόφαση σχετικά με την ασφάλεια ενός παιδιού. Η τεχνητή νοημοσύνη προβλέπει, μπορεί να προκαταλάβει, μπορεί να αναπληρώσει — και αυτό περιλαμβάνει μια ανθρώπινη ζωή.
Ισχυρή προτροπή:
Ο ρόλος σας: βοηθός συντάκτη στον κοινωνικό λειτουργό. Πηγή: Σημειώσεις συνέντευξης και παρατήρησης με αφαιρεμένες πληροφορίες ταυτοποίησης, τις οποίες θα επικολλήσω παρακάτω. Εργασία: δημιουργήστε ένα προσχέδιο σκελετού μιας έκθεσης κοινωνικής έρευνας που βασίζεται μόνο στις πληροφορίες που ΠΡΑΓΜΑΤΙΚΑ περιέχονται σε αυτές τις σημειώσεις. Παρατήρηση ετικέτας, δήλωση πελάτη και πληροφορίες που λείπουν ξεχωριστά. Λήψη απόφασης κινδύνου ή ασφάλειας. Θα κάνω την αξιολόγηση. Σημειώστε την περιοχή για την οποία δεν είστε σίγουροι ως «πρέπει να διευκρινιστεί».
Η διαφορά είναι σαφής: η αποταυτοποίηση, ο περιορισμός "αληθινής διέλευσης", η επισήμανση και ο περιορισμός "απόφασης" καθιστούν την έξοδο ασφαλή και χρήσιμη.
Διάγραμμα σύγκρισης ρόλων/καθηκόντων
επιχείρηση
Ο ρόλος της AI
ο ρόλος του ανθρώπου
επαλήθευση
Επεξεργασία αρχείου υπόθεσης
Διαμόρφωση της σημείωσης
επιβεβαίωση, ακρίβεια
Σύγκριση με σημείωση
Περίληψη αρχείου
χρονολογικό περίγραμμα
Σημασία, σχόλιο
Σύνδεσμος στην πηγή
Πληροφορίες δικαιωμάτων/υπηρεσιών
πρώτο σχέδιο
Τρέχουσα επιβεβαίωση
επίσημη νομοθεσία
αξιολόγηση κινδύνου
Ερώτηση/υπενθύμιση πλαισίου
Κλινική κρίση, απόφαση
Ομάδα + επίβλεψη
Αναφορά
σκίτσο σκελετού
Περιεχόμενο, γνώμη, υπογραφή
Αντιστοίχιση αποδεικτικών στοιχείων-δήλωσης
Σχεδιασμός προγράμματος
Δημιουργία ιδεών/πλαισίων
επιλεξιμότητα, απόφαση
Πεδίο + επιβεβαίωση δεδομένων
Συνήθη λάθη
- Λάθος εξόδου AI για αξιολόγηση. Η έξοδος είναι πάντα ένα σχέδιο προς επαλήθευση. Δεν μπαίνει στο αρχείο χωρίς να συνδέεται με αποδεικτικά στοιχεία.
- Επικόλληση δεδομένων πελάτη στο ανοιχτό εργαλείο. Εάν διαρρεύσει, δεν μπορεί να αναιρεθεί και αποτελεί παραβίαση του KVKK. Είναι το πιο επικίνδυνο λάθος.
- Ζητώντας από το AI να λάβει μια απόφαση κινδύνου/ασφάλειας. Αυτές οι αποφάσεις απαιτούν επαγγελματική εξουσία και υπευθυνότητα. Το AI δεν μπορεί να πάρει αποφάσεις.
- Ένα αίτημα που δεν απαιτεί στοιχεία. Εάν δεν πείτε "Απλώς χρησιμοποιήστε ό,τι υπάρχει στη σημείωση", το AI μπορεί να προσθέσει αυτό που δεν είπε ο πελάτης.
- Δεν παρατηρώ στιγματιστική γλώσσα. Η γλώσσα του AI μπορεί να φέρει προκατάληψη. Η γλώσσα που σέβεται και θεωρεί τα δυνατά σημεία είναι υπό τον έλεγχό σας.
Συνοπτικά
Η τεχνητή νοημοσύνη είναι ένας ισχυρός βοηθός στην κοινωνική εργασία: οργανώνει την ακατάστατη σημείωση, συνοψίζει το αρχείο, δημιουργεί προσχέδια, απλοποιεί, μεταφράζει. Όμως η κλινική κρίση, η εκτίμηση κινδύνου, η αναπαράσταση και η τελική απόφαση ανήκουν στον άνθρωπο. Χρησιμοποιήστε τον διαχωρισμό δύο σετ (εργασία με ένταση εγγράφων έναντι αποφάσεων κρίσης/κινδύνου), επαλήθευση τριών βημάτων (σύνδεση με αποδεικτικά στοιχεία, ανεξάρτητη επιβεβαίωση, φίλτρο μεροληψίας), επίγνωση απορρήτου (ανώνυμος έναντι του κόσμου δεδομένων πελάτη) και επαγρύπνηση για μεροληψία ως τη ραχοκοκαλιά αυτής της ενότητας.
Εργασία εφαρμογής
Καταγράψτε 6 εργασίες από το δικό σας (ή φανταστικό) γραφείο. Ταξινομήστε το καθένα ως "Σύνοψη/επεξεργασία/σχέδιο με δυνατότητα ανάθεσης AI" ή "Κλινική κρίση/απόφαση κινδύνου". Για ένα από τα μεταβιβάσιμα (με ένα φανταστικό παράδειγμα που δεν ταυτοποιεί τον πελάτη), χρησιμοποιήστε το παραπάνω πρότυπο "Αξιολόγηση καταλληλότητας εργασίας" και λάβετε απάντηση από την τεχνητή νοημοσύνη. στη συνέχεια εφαρμόστε την επαλήθευση σε τρία βήματα και δοκιμάστε επίσης τον προέλεγχο απορρήτου.
λίστα ελέγχου
- [ ] Χώρισα την εργασία σε δύο ομάδες (έγγραφο έντασης / κρίση-κρίση κινδύνου).
- [ ] Εφάρμοσα επαλήθευση σε τρία βήματα (αποδεικτικά στοιχεία, ανεξάρτητη επιβεβαίωση, προκατάληψη).
- [ ] Βεβαιώθηκα ότι δεν παρείχα προσωπικά δεδομένα που ταυτοποιούν τον πελάτη στο ανοιχτό εργαλείο.
- [ ] Συνέδεσα κάθε δήλωση του AI για τον πελάτη με την πραγματική σημείωση.
- [ ] Έλεγξα για στιγματιστική/προκατειλημμένη γλώσσα στην έξοδο.