Pelnas:
- Gebėjimas atskirti, kur dirbtinis intelektas sutaupo laiko socialinio darbo eigoje (santrauka, redagavimas, supaprastinimas, juodraštis), o kur klinikinis sprendimas, rizika ir reprezentaciniai sprendimai paliekami žmogui, priklausomai nuo rizikos lygio.
- Gebėjimas taikyti discipliną, kuri patikrina kiekvieną išvestį susiejant ją su tikrais įrodymais, patvirtinant išorinę informaciją esamais oficialiais šaltiniais ir filtruojant ją per šališkumą.
- Norint suprasti, kodėl socialiniame darbe nuo pat pradžių reikia atsižvelgti į klientų privatumą, anoniminių ir klientų duomenų pasaulių skirtumą bei KVKK atsakomybę.
Ryte esate socialinių paslaugų centre. Vakar atkeliavo trys nauji prašymai: smurtą patyrusi moteris ir du jos vaikai, senyvo amžiaus žmogus, kuriam reikalinga priežiūra, ir paauglys, kuriam gresia mesti mokyklą. Ant jūsų stalo sėdi keturi socialinio tyrimo aktai, teismo prašoma išvada, bylos protokolai, kuriuos reikia užpildyti, ir pasiruošimas šią popietę vykti į namus su šeima. Socialinis darbas (profesija ir disciplina, vykdoma siekiant pagerinti asmenų, šeimų ir bendruomenių socialinį funkcionalumą, užtikrinti jų teises ir gerovę bei apsaugoti pažeidžiamas grupes) – tai sritis, kuri iš prigimties yra daug dokumentų reikalaujanti, reikalaujanti laiko, paliečianti žmogaus gyvenimą ir turinti didelę atsakomybę. Dirbtinis intelektas (AI – programinė įranga, galinti išgauti šablonus iš istorinių duomenų ir sudaryti arba klasifikuoti tekstą, santraukas, vertimus ir juodraščius) leidžia atsikvėpti šio dokumento apkrovoje ir laiko trūkyje. Tačiau pati šio modulio pradžia aiški: AI yra asistentas, apibendrintuvas ir kontūrų generatorius; Jūs esate kompetentingas ekspertas, kuris priima įvertinimą, riziką ir galutinį sprendimą dėl kliento.
Šiame pirmajame skyriuje daugiausia dėmesio skirsime disciplinai, o ne įrankiui. Sužinosite, kur AI taupo realų laiką socialinio darbo eigoje, kur tai pavojinga, kaip patikrinti kiekvieną išvestį, kaip apsaugoti kliento privatumą ir asmeninius duomenis ir kaip išlikti budriems dėl šališkumo. Nepaklojus šio pagrindo, ore lieka tolesni vienetai – nes socialiniame darbe nepatikrinta produkcija nėra tik klaidingas sakinys; Tai klaida, dėl kurios vaikas gali būti neteisingai įvertintas, gali būti nepastebėta rizika, nesąžiningai stigmatizuojama šeima arba nutekinama jautri informacija.
Kur AI praverčia socialinio darbo eigoje?
Socialinio darbo darbus padalinkime į dvi dideles grupes. Pirmoji grupė: daug dokumentų reikalaujančios, pasikartojančios, ištraukiamos šablono ir kalba pagrįstos užduotys. Išsklaidytų užrašų vertimas po interviu į organizuotą bylos įrašą, chronologinė ilgos bylos santrauka, pirmasis socialinio tyrimo ataskaitos skeletas, pagalbos/paslaugų sąrašo supaprastinimas, kad jis atitiktų kliento kalbą, kreipimosi laiško projektas, paprasto informacinio teksto vertimas daugiakalbiam klientui, pirmoji programos poreikių analizė. Šiuose darbuose AI sutrumpina valandas iki minučių ir nepavargsta.
Antroji grupė: užduotys, kurioms reikia sprendimo, klinikinio įvertinimo, rizikos vertinimo ir atsakomybės. Ar vaikui saugu namuose, koks yra asmens savęs žalojimo rizikos lygis, ar šeimai reikalingos apsaugos priemonės, kokia nuomonė bus pateikta teismui, ar paslauga tikrai tinka klientui. Šiems sprendimams priimti reikia profesinės kompetencijos, klinikinio sprendimo, konteksto žinių, etinės atsakomybės ir dažnai daugiadalykės komandos nuomonės. Čia AI padaugina parinktis, generuoja juodraščius, primena, kas buvo nepastebėta, tačiau galutinis įvertinimas ir parašas priklauso jums.
Paaiškinkime skirtumą vienu sakiniu: AI yra stiprus klausimo „kas yra šiame faile ir kaip atrodo pirmasis juodraštis“ klausimais; Sprendimas priklauso jums, kai kalbama apie tokius klausimus kaip „Kokia yra tikroji šio asmens padėtis ir ar galiu tai apginti savo profesijos vardu?
Patarimas: prieš pateikdami užduotį dirbtiniam intelektui, paklauskite: „Kas nukentės, jei ši išvestis neteisinga? Jei atsakymas yra „keleto minučių pertvarkymo“, patogiai deleguokite. Jei atsakymas yra „neteisingas kliento įvertinimas, rizikos vengimas ar nutekėjusi informacija“, leiskite dirbtiniam intelektui parengti projektą, o jūs priimate sprendimą ir patikrinimą.
Privatumas: neliečiamas principas
Socialinio darbo esmė yra pasitikėjimas, o pasitikėjimas grindžiamas konfidencialumu. Klientas, remdamasis profesiniu konfidencialumu, pasakoja jums savo asmeniškiausią, trapiausią informaciją – smurtą, skurdą, sveikatos būklę, šeimos paslaptis. Kai ši informacija patenka į netinkamas rankas, ji kelia grėsmę žmogaus gyvybei, saugumui ir orumui. Pagrindinė taisyklė čia: jokie asmens duomenys, identifikuojantys klientą (vardas, pavardė, adresas, TR ID, sveikatos, šeimos informacija ir kt.), nebus įvedami į viešą AI įrankį, kurio jūsų institucija nepatvirtino. Tekstas, kurį įvedėte į viešąją AI paslaugą, apdorojamas tos paslaugos serveriuose; Negalite kontroliuoti, kas jį mato, kur jis saugomas ir ar jis naudojamas treniruojant modelį. Turkijoje tai taip pat yra teisinė atsakomybė pagal KVKK (asmens duomenų apsaugos įstatymas – įstatymas, reglamentuojantis asmens duomenų tvarkymą).
Todėl AI naudojimas socialiniame darbe veikia dviejuose atskiruose pasauliuose: Bendrieji įrankiai gali būti naudojami deidentifikuotam/bendriniam pasauliui (anoniminiai ar išgalvoti pavyzdžiai, kurie neidentifikuoja kliento, bendrųjų žinių klausimai); Klientų duomenų pasauliui naudojamos tik vidinės, saugios, patvirtintos sistemos, kurios nepraleidžia duomenų. Šių dviejų supainiojimas yra pavojingiausia šio modulio klaida.
Atsargiai: „Taip pasakė AI“ nėra pateisinimas ir neturi jokios galios bylos medžiagoje. Jei yra neteisingas sprendimas, išgalvota informacija ar nutekėję duomenys, atsakomybė tenka ne dirbtiniam intelektui, o ekspertui, kuris naudoja tą išvestį jos nepatikrinęs arba įveda tuos duomenis į įrankį.
Tikrinimo disciplina: trys žingsniai
AI gamina sklandžiai ir užtikrintai; Tai nereiškia, kad tai tiesa. Dirbtinis intelektas kartais sukelia haliucinacijas – tai yra, jis pateikia kaip tikrą teisės aktą, kurio nėra, paslaugą, kuri neegzistuoja, išgalvotą statistiką arba pareiškimą, kurio klientas niekada nesakė. Socialinio tyrimo ataskaitoje arba rizikos memorandume tai yra pražūtinga. Kiekvienam išėjimui pritaikykite trijų žingsnių refleksą:
- Nuoroda į šaltinį/įrodymus. Kiekvienas AI teiginys apie klientą turi būti pagrįstas jūsų pateikta pastaba ar pokalbiu. – Kuriame pokalbyje, iš kieno lūpų, su kokiu stebėjimu ši informacija buvo pateikta? paklausti. AI neturėtų pridėti nieko, ko klientas nesakė.
- Patvirtinkite nepriklausomu šaltiniu. Patikrinkite išorinę informaciją, pvz., įstatymus, teises, paslaugą, persiuntimo adresą ir kt. iš dabartinio oficialaus šaltinio. AI pateiktas programos reikalavimas arba telefono numeris gali būti pasenęs arba netikras.
- Praleiskite jį per interpretacijos ir šališkumo filtrą. Ar produkcija yra šališka prieš grupę? Ar yra kalba, kuri stigmatizuoja ir kaltina klientą? Ar nepaisoma stiprybių? Jūsų profesinis sprendimas yra galutinis filtras.
trys mini dėklai
1 atvejis – sutaupė dokumentacijos laiką. Socialinis darbuotojas per savaitę atliko 14 interviu ir kiekvienam iš jų laikė palaidus užrašus. Redagavimas naudojant dirbtinį intelektą sumažino bendrą šių pastabų vertimo į struktūrinius bylos įrašus laiką nuo maždaug 4 valandų iki 1 valandos. Bet kiekvieną įrašą perskaitė ekspertas ir patikrino jį palygindamas su tikruoju interviu; Du sakiniai, kuriuos AI „išaiškino“, buvo ištrinti.
2 atvejis – patikrinimas užklupo haliucinaciją. Ekspertas uždavė AI klausimą dėl teisių; YZ sakė: „Šiai pagalbai reikalingas minimalus gyvenamosios vietos reikalavimas – 24 mėnesiai“. Kai ekspertas pažvelgė į oficialius teisės aktus, tokio reikalavimo nebuvo; AI sumaišė dvi panašias priemones ir padarė sąlygą, kurios nebuvo. Priskyrimo veiksmas neleido klientui būti nesąžiningai atstumtam.
3 atvejis – grįžimas po privatumo pažeidimo. Kad būtų greičiau, naujas specialistas norėjo įklijuoti visą vaiko teisių apsaugos bylos informaciją (įskaitant vaiko vardą, adresą, mokyklą) į viešą AI įrankį ir išspausdinti ataskaitą. Vyresnysis ekspertas suprato: tai yra slapti asmens duomenys, patenkantys į KVKK sritį, ir išėjo. Įvykis buvo traktuojamas kaip duomenų saugumo pažeidimas; darbas buvo atliktas iš naujo pašalinus kredencialus ir tik vidinį saugų metodą.
Keturi kopijuojami šablonai
1) Tinkamumo darbui įvertinimas:
Jūsų vaidmuo: vyresnysis socialinis darbuotojas ir vadovas. Toliau aprašysiu darbą. Pasakykite man (1) ar tai yra suvestinės / redagavimo / apibūdinimo darbas, kurį galima perduoti dirbtiniam intelektui, ar toks darbas, kuriam reikalingas klinikinis sprendimas ir rizikos vertinimas, 2) kliento išlaidas už neteisingą išvestį, 3) patikrinimą, kurį turiu atlikti prieš ir po perdavimo. Darbas: [įterpti darbą čia]
2) Pareiga remtis įrodymais:
Aš jums duosiu susitikimo užrašus. Redaguodami įrašą naudokite TIK pastaboje esančią informaciją. Nepridėkite nieko, ko klientas nesakė, nediagnozuokite, nekomentuokite. Atskirai pažymėkite pastebėjimą ir kliento išraišką. Trūkstamas arba neaiškias sritis pažymėkite kaip „reikia paaiškinimo“.
3) Išankstinis privatumo patikrinimas:
Įvertinkite šį tekstą PRIEŠ tvarkydami: ar šiame tekste gali būti klientą identifikuojančių asmens duomenų (vardas, adresas, TR ID, sveikatos, šeimos informacija)? Jei taip, kokie skyriai? Taigi, jei jis neturėtų būti apdorojamas viešuoju įrankiu, įspėkite mane ir nurodykite laukus, kuriuos turiu panaikinti. Tekstas: [rašykite tekstą čia]
4) Šališkumas / kalbos patikrinimas:
Apsvarstykite tokį atvejo įrašą: ar yra kalbos, kurios stigmatizuoja, kaltina ar prieštarauja klientui grupei? Ar jame nepaisoma stiprybių ir išteklių? Pasiūlykite kalbą, kuri būtų labiau pagarbi, orientuota į faktus ir atpažįsta stipriąsias puses. Nekeiskite įrašo, tiesiog pažymėkite kalbos problemas.
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Parašykite ataskaitą apie šią šeimą ir nuspręskite, ar vaikas saugus namuose.
Šis raginimas yra be konteksto ir pavojingas: neaišku, kokios informacijos, kokių stebėjimų ir AI prašoma priimti sprendimą dėl vaiko saugumo. AI numato, gali pakreipti, gali susitaikyti – ir tai susiję su žmogaus gyvybe.
Galingas raginimas:
Jūsų vaidmuo: socialinio darbuotojo redaktoriaus padėjėjas. Šaltinis: Interviu ir stebėjimo pastabos su identifikuojančia informacija pašalintos, kurią įklijuosiu žemiau. Užduotis: sukurti socialinio tyrimo ataskaitos juodraštį remiantis tik informacija, TIKRAI esančia šiuose užrašuose; Atskirai pažymėkite stebėjimą, kliento pareiškimą ir trūkstamą informaciją. PRIIMTI sprendimą dėl rizikos ar saugumo; Aš atliksiu vertinimą. Pažymėkite sritį, dėl kurios nesate tikri, kaip „reikia patikslinti“.
Skirtumas yra aiškus: identifikacijos panaikinimas, „tikros perdavimo“ apribojimas, ženklinimas ir „sprendimo“ apribojimas daro išvestį saugią ir naudingą.
Vaidmenų/užduočių palyginimo lentelė
verslui
AI vaidmuo
vyro vaidmuo
patikrinimas
Redaguoti bylos įrašą
Konfigūruokite užrašą
patvirtinimas, tikslumas
Palyginimas su pastaba
Failo santrauka
chronologinis kontūras
Svarba, komentaras
Nuoroda į šaltinį
Informacija apie teises / paslaugas
pirmasis juodraštis
Dabartinis patvirtinimas
oficialūs teisės aktai
rizikos vertinimas
Klausimo/kadro priminimas
Klinikinis sprendimas, sprendimas
Komanda + supervizija
Pranešimas
skeleto eskizas
Turinys, nuomonė, parašas
Įrodymų ir teiginių atitikimas
Programos dizainas
Idėjų / rėmų generavimas
tinkamumas, sprendimas
Lauko + duomenų patvirtinimas
Dažnos klaidos
- Klaidingas AI išvestis vertinimui. Išvestis visada yra juodraštis, kurį reikia patikrinti; Ji neįvedama į bylą nesusieta su įrodymais.
- Kliento duomenų įklijavimas į atvirą įrankį. Jei jis nutekėjo, jis negali būti atšauktas ir yra KVKK pažeidimas; Tai pati pavojingiausia klaida.
- Prašymas AI priimti rizikos / saugos sprendimą. Šie sprendimai reikalauja profesionalaus autoriteto ir atsakomybės; AI negali priimti sprendimų.
- Prašymas, kuriam nereikia įrodymų. Jei nepasakysite: „Tiesiog naudokite tai, kas nurodyta pastaboje“, AI gali pridėti tai, ko klientas nesakė.
- Nepastebi stigmatizuojančios kalbos. AI kalba gali būti šališka; Kalba, kuri yra pagarbi ir atsižvelgia į stipriąsias puses, yra jūsų valdoma.
Apibendrinant
AI yra galingas socialinio darbo asistentas: sutvarko netvarkingą užrašą, apibendrina failą, rengia juodraščius, supaprastina, verčia. Tačiau klinikinis sprendimas, rizikos įvertinimas, atstovavimas ir galutinis sprendimas priklauso žmogui. Šio modulio pagrindas yra dviejų rinkinių atskyrimas (daug dokumentų reikalaujantis darbas ir sprendimai dėl rizikos), trijų etapų patvirtinimas (nuoroda į įrodymus, nepriklausomas patvirtinimas, šališkumo filtras), privatumo suvokimas (anoniminis ir kliento duomenų pasaulis) ir įspėjimas dėl šališkumo.
Taikymo užduotis
Išvardykite 6 užduotis nuo savo (arba įsivaizduojamo) stalo. Klasifikuokite kiekvieną kaip „AI perduodama santrauka / redagavimas / juodraštis“ arba „klinikinis sprendimas / sprendimas dėl rizikos“. Vienam iš perkeliamų (su išgalvotu pavyzdžiu, kuris neidentifikuoja kliento), naudokite aukščiau pateiktą šabloną „Tinkamumo darbui įvertinimas“ ir gaukite atsakymą iš AI; tada pritaikykite patvirtinimą trimis veiksmais ir taip pat išbandykite išankstinį privatumo patikrinimą.
kontrolinis sąrašas
- [ ] Darbą suskirstiau į dvi grupes (daug dokumentų / nuosprendžio ir rizikos sprendimas).
- [ ] Taikiau trijų pakopų patikrinimą (įrodymai, nepriklausomas patvirtinimas, šališkumas).
- [ ] Įsitikinau, kad į atvirą įrankį nepateikiau klientą identifikuojančių asmens duomenų.
- [ ] Kiekvieną AI pateiktą teiginį apie klientą susiejau su tikruoju užrašu.
- [ ] Patikrinau, ar išvestyje nėra stigmatizuojančios / šališkos kalbos.