Ieguvumi:
- Spēja atšķirt, kur mākslīgais intelekts ietaupa laiku sociālā darba darbplūsmā (kopsavilkums, rediģēšana, vienkāršošana, melnraksts) un kur klīniskā sprieduma, riska un reprezentācijas lēmumi tiek atstāti cilvēka ziņā atkarībā no riska līmeņa.
- Spēja pielietot disciplīnu, kas pārbauda katru rezultātu, saistot to ar reāliem pierādījumiem, apstiprinot ārējo informāciju ar pašreizējiem oficiālajiem avotiem un filtrējot to, izmantojot neobjektivitāti.
- Lai saprastu, kāpēc jau no paša sākuma sociālajā darbā būtu jāņem vērā klientu privātums, atšķirība starp anonīmo un klientu datu pasauli un KVKK atbildība.
Jūs atrodaties sociālo pakalpojumu centra rītā. Vakar pienākuši trīs jauni pieteikumi: vardarbībā cietuša sieviete un viņas divi bērni, vecāka gadagājuma cilvēks, kuram nepieciešama aprūpe, un pusaudzis, kuram draud pamest mācības. Uz jūsu rakstāmgalda ir četri sociālās izmeklēšanas ziņojumi, tiesas pieprasīts atzinums, lietas protokoli, kas jāaizpilda, un gatavošanās mājas vizītei ar ģimeni šajā pēcpusdienā. Sociālais darbs (profesija un disciplīna, ko veic, lai uzlabotu indivīdu, ģimeņu un kopienu sociālo funkcionalitāti, nodrošinātu viņu piekļuvi tiesībām un labklājībai, kā arī aizsargātu neaizsargātās grupas) ir joma, kas pēc būtības ir dokumentietilpīga, laikietilpīga, skar cilvēka dzīvi un ir ar augstu atbildību. Mākslīgais intelekts (AI — programmatūra, kas var iegūt modeļus no vēsturiskiem datiem un izveidot vai klasificēt tekstu, kopsavilkumus, tulkojumus un melnrakstus) ļauj nedaudz atvilkt elpu šī dokumenta noslogojumā un laika spiedienā. Bet pats šī moduļa sākums ir skaidrs: AI ir palīgs, apkopotājs un kontūru ģenerators; Jūs esat kompetents eksperts, kurš pieņem novērtējumu, risku un galīgo lēmumu par klientu.
Šajā pirmajā nodaļā mēs koncentrēsimies uz disciplīnu, nevis instrumentu. Jūs uzzināsit, kur AI ir reāllaika taupītājs sociālā darba darbplūsmā, kur tas ir bīstami, kā pārbaudīt katru izvadi, kā aizsargāt klienta privātumu un personas datus un kā saglabāt modrību pret neobjektivitāti. Neliekot šo pamatu, gaisā paliek nākamās vienības — jo sociālajā darbā nepārbaudīta produkcija nav tikai nepatiess teikums; Tā ir kļūda, kas var novest pie tā, ka bērns tiek nepareizi novērtēts, var tikt nepamanīts, ģimene tiek negodīgi stigmatizēta vai tiek nopludināta sensitīva informācija.
Kur AI noder sociālā darba darbplūsmā?
Sadalīsim sociālā darba darbus divās lielās kopās. Pirmais klasteris: dokumentietilpīgi, atkārtoti, pēc šablona izvelkami un uz valodu balstīti uzdevumi. Izkaisītu piezīmju tulkošana pēc intervijas organizētā lietas ierakstā, gara faila hronoloģisks kopsavilkums, pirmais sociālās izmeklēšanas ziņojuma skelets, palīdzības/pakalpojumu saraksta vienkāršošana atbilstoši klienta valodai, ieteikuma vēstules projekts, vienkārša informatīva teksta tulkošana daudzvalodīgam klientam, pirmais programmas vajadzību analīzes ietvars. Šajos darbos AI samazina stundas līdz minūtēm un nenogurst.
Otrā grupa: uzdevumi, kuriem nepieciešams spriedums, klīniskais novērtējums, riska novērtējums un atbildība. Vai bērns ir drošībā mājās, kāds ir indivīda paškaitējuma riska līmenis, vai ģimenei nepieciešami aizsardzības pasākumi, kāds atzinums tiks sniegts tiesai, vai pakalpojums klientam patiešām ir atbilstošs. Šiem lēmumiem ir nepieciešama profesionāla kompetence, klīniskais vērtējums, konteksta zināšanas, ētiskā atbildība un bieži vien daudznozaru komandas viedoklis. Šeit AI pavairo opcijas, ģenerē melnrakstus, atgādina par to, kas tika aizmirsts, taču galīgais novērtējums un paraksts ir jūsu.
Noskaidrosim atšķirību vienā teikumā: AI ir spēcīgs uz jautājumiem "kas ir šajā failā un kā izskatās pirmais melnraksts"; Lēmums ir jūsu ziņā, ja runa ir par tādiem jautājumiem kā "Kāda ir šīs personas reālā situācija un vai es varu to aizstāvēt savas profesijas vārdā?"
Padoms. Pirms nododat darbu AI ārpakalpojumu sniedzējam, pajautājiet: “Kam tiek ievainots, ja šī izvade ir nepareiza?” Ja atbilde ir "dažas minūtes pārstrukturēšanas", deleģējiet to ērti. Ja atbilde ir "nepareizs klienta novērtējums, izvairīšanās no riska vai nopludināta informācija", ļaujiet AI sagatavot melnrakstu, un jūs pieņemat lēmumu un pārbaudi.
Privātums: neaizskarams princips
Sociālā darba sirds ir uzticēšanās, un uzticības pamatā ir konfidencialitāte. Klients izstāsta savu privātāko, trauslāko informāciju — vardarbību, nabadzību, veselības stāvokli, ģimenes noslēpumus —, paļaujoties uz profesionālo konfidencialitāti. Ja šī informācija nonāk nepareizās rokās, tā apdraud cilvēka dzīvību, drošību un cieņu. Pamatnoteikums šeit: nekādi personas dati, kas identificē klientu (vārds, adrese, TR ID, veselības, ģimenes informācija utt.), netiks ievadīti publiskajā AI rīkā, ko jūsu iestāde nav apstiprinājusi. Teksts, ko ievadāt publiskajā AI pakalpojumā, tiek apstrādāts šī pakalpojuma serveros; Jūs nevarat kontrolēt, kas to redz, kur tas tiek glabāts un vai tas tiek izmantots modeļa apmācībā. Tirkijā tā ir arī juridiska atbildība saskaņā ar KVKK (Personas datu aizsardzības likums — likums, kas regulē personas datu apstrādi).
Tāpēc mākslīgā intelekta izmantošana sociālajā darbā darbojas divās atsevišķās pasaulēs: Vispārējos rīkus var izmantot deidentificētajai/vispārējai pasaulei (anonīmi vai izdomāti piemēri, kas neidentificē klientu, vispārīgu zināšanu jautājumi); Klientu datu pasaulei tiek izmantotas tikai iekšējās, drošas, apstiprinātas sistēmas, kurās netiek nopludināti dati. Abu sajaukšana ir šī moduļa visbīstamākā kļūda.
Uzmanību: "AI teica tā" nav attaisnojums, un tam nav spēka lietas materiālos. Ja ir nepareizs spriedums, izdomāta informācija vai noplūduši dati, atbildība nav AI, bet gan ekspertam, kurš izmanto šo izvadi, nepārbaudot to, vai ievada šos datus rīkā.
Pārbaudes disciplīna: trīs soļi
AI ražo plūstoši un pārliecinoši; Tas nenozīmē, ka tā ir patiesība. AI laiku pa laikam rada halucinācijas — tas ir, tas parāda kā reālu tiesību aktu, kas neeksistē, pakalpojumu, kas neeksistē, izdomātu statistiku vai paziņojumu, ko klients nekad nav teicis. Sociālās izmeklēšanas ziņojumā vai riska memorandā tas ir postoši. Katrai izvadei izmantojiet trīspakāpju refleksu:
- Saite uz avotu/pierādījumiem. Katram AI apgalvojumam par klientu ir jābūt balstītam uz jūsu sniegto faktisko piezīmi vai sarunu. "Kādā sarunā, no kura mutes, ar kādu novērojumu šī informācija tika sniegta?" jautāt. AI nevajadzētu pievienot neko, ko klients nav teicis.
- Apstipriniet ar neatkarīgu avotu. Pārbaudiet ārējo informāciju, piemēram, likumu, tiesības, pakalpojumu, pārsūtīšanas adresi utt. no pašreizējā oficiālā avota. AI nodrošinātā lietojumprogrammas prasība vai tālruņa numurs var būt novecojis vai viltots.
- Izlaidiet to caur interpretācijas un aizspriedumu filtru. Vai rezultāts ir neobjektīvs pret grupu? Vai pastāv valoda, kas stigmatizē un vaino klientu? Vai tas ignorē stiprās puses? Jūsu profesionālais vērtējums ir pēdējais filtrs.
trīs mini futrāļi
1. gadījums — ietaupīts laiks dokumentācijai. Sociālais darbinieks nedēļas laikā veica 14 intervijas un katrai no tām saglabāja vaļīgas piezīmes. Rediģēšana ar mākslīgā intelekta palīdzību samazināja kopējo laiku šo piezīmju tulkošanai strukturētos gadījumu ierakstos no aptuveni 4 stundām līdz 1 stundai. Bet katru ierakstu nolasīja eksperts un pārbaudīja, salīdzinot to ar faktisko interviju; Divi teikumi, kurus AI "interpretēja", tika svītroti.
2. gadījums — pārbaudē radās halucinācijas. Eksperts uzdeva AI jautājumu par tiesībām; YZ teica: "Šai palīdzībai ir minimālā uzturēšanās prasība 24 mēneši." Kad eksperts aplūkoja oficiālos tiesību aktus, šādas prasības nebija; AI bija sajaucis divus līdzīgus palīglīdzekļus un radījis nosacījumu, kas neeksistēja. Attiecinājuma darbība neļāva klientam tikt negodīgi noraidītam.
3. gadījums — atgriešanās no privātuma pārkāpuma. Lai būtu ātri, jauns speciālists vēlējās ielīmēt visu informāciju par bērnu aizsardzības lietu (tostarp bērna vārdu, adresi, skolu) publiskā AI rīkā un izdrukāt ziņojumu. Vecākais eksperts saprata: tie ir sensitīvi personas dati, kas ietilpst KVKK darbības jomā, un tika izslēgti. Incidents tika traktēts kā datu aizsardzības pārkāpums; darbs tika pārtaisīts ar noņemtiem akreditācijas datiem un tikai iekšējai drošai metodei.
Četras kopējamas veidnes
1) Darba piemērotības novērtējums:
Jūsu loma: vecākais sociālais darbinieks un vadītājs. Tālāk es aprakstīšu darbu. Pastāstiet man (1) vai tas ir kopsavilkuma/rediģēšanas/ieklāšanas darbs, ko var deleģēt AI, vai arī tas, kam nepieciešams klīnisks vērtējums un riska novērtējums, (2) klienta izmaksas par nepareizu rezultātu, (3) pārbaude, kas man jāveic pirms un pēc deleģēšanas. Darbs: [ievietot darbu šeit]
2) Pienākums paļauties uz pierādījumiem:
Es jums iedošu sanāksmes piezīmes. Rediģējot ierakstu, izmantojiet TIKAI piezīmē norādīto informāciju. Nepievieno neko, ko klients nav teicis, nekonstatē diagnozi, nekomentē. Atsevišķi atzīmējiet novērojumu un klienta izteiksmi. Atzīmējiet trūkstošās vai neskaidrās vietas kā "nepieciešams precizējums".
3) Privātuma iepriekšēja pārbaude:
Izvērtējiet šādu tekstu PIRMS apstrādes: vai šajā tekstā var būt ietverti personas dati, kas identificē klientu (vārds, adrese, TR ID, veselības, ģimenes informācija)? Ja jā, tad kuras sadaļas? Ja tas nav jāapstrādā publiskā rīkā, brīdiniet mani un uzskaitiet laukus, kas man ir jāidentificē.Teksts: [rakstīt tekstu šeit]
4) Neobjektivitāte/valodas pārbaude:
Apsveriet šādu gadījumu ierakstu: Vai pastāv valoda, kas stigmatizē, vaino vai rada aizspriedumus pret klientu pret grupu? Vai tas ignorē stiprās puses un resursus? Iesakiet valodu, kas ir vairāk cieņpilna, vairāk vērsta uz faktiem un atzīst stiprās puses. Nemainiet ierakstu, vienkārši atzīmējiet valodas problēmas.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Uzrakstiet ziņojumu par šo ģimeni un izlemiet, vai bērns ir drošībā mājās.
Šī uzvedne ir bez konteksta un bīstama: nav skaidrs, kāda informācija, kāds novērojums un AI tiek lūgts pieņemt lēmumu par bērna drošību. AI prognozē, var novirzīt, var izlīdzēties — un tas ietver cilvēka dzīvību.
Spēcīga uzvedne:
Jūsu loma: sociālā darbinieka redaktora palīgs. Avots: Interviju un novērojumu piezīmes ar identifikācijas informāciju noņemtas, ko es ielīmēšu tālāk. Uzdevums: izveidot sociālās izmeklēšanas ziņojuma uzmetumu, pamatojoties tikai uz informāciju, kas FATIESĀ ir šajās piezīmēs; Atsevišķi atzīmējiet novērošanu, klienta paziņojumu un trūkstošo informāciju. riska vai drošības lēmuma pieņemšana; Es veicu novērtējumu. Atzīmējiet apgabalu, par kuru neesat pārliecināts, kā "jānoskaidro".
Atšķirība ir skaidra: identifikācijas atcelšana, "patiesās nodošanas" ierobežojums, marķēšana un "lēmuma" ierobežojums padara rezultātu drošu un noderīgu.
Lomu/uzdevumu salīdzināšanas diagramma
bizness
AI loma
vīrieša loma
verifikācija
Rediģēt lietas ierakstu
Konfigurējiet piezīmi
apstiprinājums, precizitāte
Salīdzinājums ar piezīmi
Faila kopsavilkums
hronoloģiskā kontūra
Svarīgums, komentārs
Saite uz avotu
Informācija par tiesībām/pakalpojumiem
pirmais melnraksts
Pašreizējais apstiprinājums
oficiālā likumdošana
riska novērtējums
Jautājuma/rāmja atgādinājums
Klīniskais spriedums, lēmums
Komanda + supervīzija
Ziņojums
skeleta skice
Saturs, viedoklis, paraksts
Pierādījumu un apgalvojumu saskaņošana
Programmas dizains
Ideju/ietvaru ģenerēšana
atbilstība, lēmums
Lauks + datu apstiprinājums
Biežas kļūdas
- Kļūdaina AI izvade novērtēšanai. Izvade vienmēr ir melnraksts, kas jāpārbauda; Tas netiek ievadīts failā, ja nav saistīts ar pierādījumiem.
- Klienta datu ielīmēšana atvērtajā rīkā. Ja tas ir noplūdis, to nevar atsaukt un tas ir KVKK pārkāpums; Tā ir visbīstamākā kļūda.
- Lūdzot AI pieņemt lēmumu par risku/drošību. Šie lēmumi prasa profesionālu autoritāti un atbildību; AI nevar pieņemt lēmumus.
- Pieprasījums, kuram nav nepieciešami pierādījumi. Ja jūs nesakāt: "Vienkārši izmantojiet to, kas ir piezīmē", AI var pievienot to, ko klients nav teicis.
- Nemanot stigmatizējošo valodu. AI valoda var būt neobjektīva; Valoda, kas ir cieņpilna un ņem vērā stiprās puses, ir jūsu kontrolē.
Rezumējot
AI ir spēcīgs palīgs sociālajā darbā: sakārto netīrās piezīmes, apkopo failu, veido melnrakstus, vienkāršo, tulko. Bet klīniskais vērtējums, riska novērtējums, pārstāvība un galīgais lēmums pieder cilvēkam. Šī moduļa pamatā ir divu komplektu nodalīšana (dokumentu ietilpīgs darbs pret spriedumu/riska lēmumiem), trīspakāpju verifikācija (saite uz pierādījumiem, neatkarīgs apstiprinājums, neobjektivitātes filtrs), privātuma apzināšanās (anonīmā un klienta datu pasaule) un modrība pret neobjektivitāti.
Lietojumprogrammas uzdevums
Uzskaitiet 6 uzdevumus no sava (vai iedomātā) galda. Klasificējiet katru kā “AI deleģējams kopsavilkums/rediģēt/projekts” vai “klīnisks spriedums/riska lēmums”. Vienam no nododamajiem (ar izdomātu piemēru, kas neidentificē klientu), izmantojiet iepriekš redzamo veidni “Piemērotības novērtējumam darbam” un saņemiet atbildi no AI; pēc tam izmantojiet trīspakāpju verifikāciju un izmēģiniet arī privātuma sākotnējo pārbaudi.
kontrolsaraksts
- [ ] Es sadalīju darbu divās grupās (dokumentu ietilpīgs / spriedums-riska spriedums).
- [ ] Es izmantoju trīspakāpju verifikāciju (pierādījumi, neatkarīgs apstiprinājums, neobjektivitāte).
- [ ] Es pārliecinājos, ka atvērtajam rīkam neesmu sniedzis personas datus, kas identificē klientu.
- [ ] Es saistīju katru AI paziņojumu par klientu ar faktisko piezīmi.
- [ ] Es pārbaudīju, vai izvadā nav stigmatizējošas/neobjektīvas valodas.