Kasu:
- Oskus eristada, kus tehisintellekt säästab aega sotsiaaltöö töövoos (kokkuvõte, toimetamine, lihtsustamine, mustand) ja kus kliiniline hinnang, riskid ja esindusotsused jäetakse inimese teha, olenevalt riskitasemest.
- Võimalus rakendada distsipliini, mis kontrollib iga väljundit, sidudes selle tõeliste tõenditega, kinnitades välisteabe praeguste ametlike allikatega ja filtreerides selle kallutatuse kaudu.
- Et mõista, miks tuleks sotsiaaltöös juba eos silmas pidada kliendi privaatsust, anonüümse ja kliendi andmemaailma eristamist ning KVKK vastutust.
Olete sotsiaalteenuste keskuse hommikul. Eile saabus kolm uut avaldust: vägivalla ohvriks langenud naine ja tema kaks last, hooldust vajav vanur ning koolist väljalangemise ohus teismeline. Teie laual on neli sotsiaaljuurdluse aruannet, kohtu nõutud arvamus, täitmist vajavad juhtumiprotokollid ja ettevalmistused täna pärastlõunaks perega kodukülastuseks. Sotsiaaltöö (elukutse ja distsipliin, mida tehakse üksikisikute, perede ja kogukondade sotsiaalse funktsionaalsuse parandamiseks, nende juurdepääsu tagamiseks õigustele ja heaolule ning haavatavate rühmade kaitsmiseks) on valdkond, mis on oma olemuselt dokumendimahukas, ajasurve, inimelu puudutav ja kõrge vastutustundega. Tehisintellekt (AI – tarkvara, mis suudab ajaloolistest andmetest mustreid eraldada ja teksti, kokkuvõtteid, tõlkeid ja mustandeid koostada või klassifitseerida) annab teile selle dokumendikoormuse ja ajasurve tõttu hingetõmbeaega. Kuid selle mooduli algus on selge: AI on assistent, kokkuvõte ja ülevaadete generaator; Sina oled pädev ekspert, kes teeb kliendi kohta hinnangu, riski ja lõpliku otsuse.
Selles esimeses üksuses keskendume distsipliinile, mitte tööriistale. Saate teada, kus tehisintellekt on sotsiaaltöö töövoo reaalajas säästja, kus see on ohtlik, kuidas kontrollida iga väljundit, kuidas kaitsta kliendi privaatsust ja isikuandmeid ning kuidas hoida valvsus eelarvamuste suhtes. Seda vundamenti ladutamata jäävad järgmised üksused õhku — sest sotsiaaltöös pole kontrollimata väljund pelgalt valelause; See on viga, mis võib kaasa tuua lapse väärhinnangu, riski tähelepanuta jätmise, perekonna ebaõiglase häbimärgistamise või tundliku teabe lekkimise.
Kus on AI sotsiaaltöö töövoos kasulik?
Jagame sotsiaaltöö töökohad kahte suurde klastrisse. Esimene klaster: dokumendimahukad, korduvad, mustritest eraldatavad ja keelepõhised ülesanded. Pärast intervjuud hajutatud märkmete tõlkimine organiseeritud juhtumikirjeks, pika faili kronoloogiline kokkuvõte, sotsiaaluuringu aruande esimene skelett, abivahendite/teenuste nimekirja lihtsustamine vastavalt kliendi keelele, saatekirja kavand, lihtsa infoteksti tõlkimine mitmekeelsele kliendile, programmi vajaduste analüüsi esimene raamistik. Nendel töödel vähendab tehisintellekt tundidest minutiteks ega väsi.
Teine klaster: ülesanded, mis nõuavad otsust, kliinilist hindamist, riski hindamist ja vastutust. Kas lapsel on kodus turvaline, inimese enesevigastamise riski tase, kas pere vajab kaitsemeetmeid, millise arvamusega kohtule avaldus esitatakse, kas teenus on kliendile tõesti sobiv. Need otsused nõuavad professionaalset pädevust, kliinilist hinnangut, konteksti tundmist, eetilist vastutust ja sageli multidistsiplinaarset meeskonna arvamust. Siin korrutab tehisintellekt valikuid, genereerib mustandeid, tuletab teile meelde, mis tähelepanuta jäi – kuid lõplik hinnang ja allkiri on teie.
Täpsustame vahet ühe lausega: AI on tugev küsimustes "mis on selles failis ja kuidas näeb välja esimene mustand"; Otsus on teie enda teha selliste küsimuste puhul nagu "Milline on selle inimese tegelik olukord ja kas ma saan seda oma ameti nimel kaitsta?"
Näpunäide. Enne töö tellimist tehisintellektile küsige: "Kes saab viga, kui see väljund on vale?" Kui vastus on "paar minutit ümbertöötamist", delegeerige mugavalt. Kui vastuseks on "kliendi vale hinnang, riskist kõrvalehoidmine või lekkinud teave", siis laske tehisintellektil mustand ja teie teete otsuse ja kontrolli.
Privaatsus: puutumatu põhimõte
Sotsiaaltöö tuum on usaldus ja usaldus põhineb konfidentsiaalsusel. Klient räägib teile oma kõige privaatsema ja haprama teabe – vägivalla, vaesuse, tervisliku seisundi, perekonnasaladused –, tuginedes ametialasele konfidentsiaalsusele. Kui see teave satub valedesse kätesse, ohustab see inimese elu, turvalisust ja väärikust. Siin on põhireegel: avalikku tehisintellekti tööriista, mida teie asutus pole heaks kiitnud, ei sisestata kliendi isikuandmeid (nimi, aadress, TR ID, tervislik seisund, perekonnaandmed jne). Avalikusse tehisintellekti teenusesse sisestatud teksti töödeldakse selle teenuse serverites; Te ei saa kontrollida, kes seda näeb, kus seda hoitakse ja kas seda mudeli treenimisel kasutatakse. Türkiye's on see ka KVKK (Isikuandmete kaitse seadus - isikuandmete töötlemist reguleeriv seadus) õiguslik vastutus.
Seetõttu toimib AI kasutamine sotsiaaltöös kahes eraldi maailmas: Üldisi tööriistu saab kasutada deidentifitseeritud/üldise maailma jaoks (anonüümsed või väljamõeldud näited, mis klienti ei tuvasta, üldteadmiste küsimused); Kliendiandmete maailmas kasutatakse ainult ettevõttesiseseid turvalisi ja heakskiidetud süsteeme, mis ei leki andmeid. Nende kahe segi ajamine on selle mooduli kõige ohtlikum viga.
Ettevaatust: "AI ütles nii" ei ole õigustus ja sellel pole kohtutoimikus mingit jõudu. Kui tegemist on väärhinnangu, väljamõeldud teabe või andmete lekkimisega, ei vastuta tehisintellektil, vaid eksperdil, kes kasutab seda väljundit ilma seda kontrollimata või sisestab need andmed tööriista.
Kontrollimise distsipliin: kolm sammu
AI toodab sujuvalt ja enesekindlalt; See ei tähenda, et see tõsi on. AI tekitab aeg-ajalt hallutsinatsioone – see tähendab, et see esitab tõelise õigusakti, mida pole olemas, teenust, mida pole olemas, väljamõeldud statistikat või avaldust, mida klient pole kunagi öelnud. Sotsiaalse uurimise aruandes või riskimemorandumis on see katastroofiline. Rakendage igale väljundile kolmeastmeline refleks:
- Link allikale/tõendile. Iga AI avaldus kliendi kohta peab põhinema teie tegelikul märkusel või vestlusel. "Millises vestluses, kelle suust, millise vaatlusega see info edastati?" küsi. AI ei tohiks lisada midagi, mida klient pole öelnud.
- Kinnitage sõltumatu allikaga. Kontrollige praegusest ametlikust allikast pärit välist teavet, nagu seadus, õigused, teenus, edastamisaadress jne. Tehisintellekti pakutav rakendusnõue või telefoninumber võib olla aegunud või võlts.
- Laske see läbi tõlgendamise ja eelarvamuste filtri. Kas väljund on grupi suhtes kallutatud? Kas on keelt, mis klienti häbimärgistab ja süüdistab? Kas see ignoreerib tugevaid külgi? Teie professionaalne hinnang on viimane filter.
kolm minikarpi
Juhtum 1 – dokumentatsioon säästab aega. Ühe nädala jooksul viis sotsiaaltöötaja läbi 14 intervjuud ja jättis igaühe kohta lahtised märkmed. AI-toega redigeerimine vähendas nende märkmete struktureeritud juhtumikirjeteks tõlkimise koguaega ligikaudu 4 tunnilt 1 tunnini. Kuid ekspert luges iga salvestise läbi ja kontrollis seda tegeliku intervjuuga võrreldes; Kaks lauset, mida AI "tõlgendas", kustutati.
Juhtum 2 – kontrollimisel tekkis hallutsinatsioon. Ekspert esitas tehisintellektile õiguste küsimuse; YZ ütles: "Selle abi saamiseks on elamise miinimumnõue 24 kuud." Kui ekspert vaatas ametlikke õigusakte, siis sellist nõuet ei olnud; AI oli seganud kaks sarnast abivahendit ja loonud tingimuse, mida ei eksisteerinud. Omistamise samm takistas kliendi ebaõiglaselt tagasilükkamist.
Juhtum 3 – naasmine privaatsuse rikkumisest. Kiireks soovis uus professionaal kleepida kogu lastekaitsejuhtumi teabe (sh lapse nimi, aadress, kool) avalikku tehisintellekti tööriista ja printida aruande. Vanemekspert sai aru: tegemist on delikaatsete isikuandmetega KVKK ulatuses ja oli väljas. Juhtumit käsitleti andmete rikkumisena; töö tehti uuesti volikirjad eemaldatud ja ainult ettevõttesisese turvalise meetodiga.
Neli kopeeritavat malli
1) Töökoha sobivuse hindamine:
Teie roll: vanemsotsiaaltöötaja ja juhendaja. Kirjeldan töökohta allpool. Öelge mulle, (1) kas see on kokkuvõtte-/redigeerimis-/ülevaateülesanne, mille saab delegeerida tehisintellektile, või selline töö, mis nõuab kliinilist hinnangut ja riskihinnangut, (2) vale väljundi kulu kliendile, (3) kontrollimine, mida pean tegema enne ja pärast delegeerimist. Töö: [sisesta töökoht siia]
2) Tõenditele tuginemise kohustus:
Ma annan teile koosoleku märkmed. Salvestise redigeerimisel kasutage AINULT märkuses olevat teavet. Ära lisa midagi, mida klient pole öelnud, ära pane diagnoosi, ära kommenteeri. Märgistage tähelepanek ja kliendi väljendus eraldi. Märkige puuduvad või ebaselged alad kui "vajab selgitust".
3) Privaatsuse eelkontroll:
Hinnake järgmist teksti ENNE töötlemist: kas see tekst võib sisaldada klienti tuvastavaid isikuandmeid (nimi, aadress, TR ID, tervis, perekonna andmed)? Kui jah, siis millised jaotised? Seega, kui seda ei tohiks avalikus tööriistas töödelda, hoiatage mind ja loetlege väljad, mida pean tuvastama.Tekst: [kirjutage tekst siia]
4) Kallutatus/keelekontroll:
Mõelge järgmisele juhtumile: Kas on keelekasutust, mis häbimärgistab, süüdistab või eelarvamusi avaldab klienti grupi suhtes? Kas see ignoreerib tugevaid külgi ja ressursse? Soovitage keelt, mis on lugupidavam, faktikesksem ja tugevusi tunnustav. Ärge muutke kirjet, vaid märgistage keeleprobleemid.
Nõrk viip / Tugev viip
Nõrk viip:
Kirjutage selle pere kohta aruanne ja otsustage, kas lapsel on kodus turvaline olla.
See viip on kontekstivaba ja ohtlik: pole selge, millist teavet, millist vaatlust ja tehisintellekti küsitakse, et teha otsus lapse turvalisuse kohta. Tehisintellekt ennustab, võib kallutada, tasa teha – ja see hõlmab inimelu.
Võimas viip:
Sinu roll: sotsiaaltöötaja toimetaja assistent. Allikas: Intervjuu ja vaatlusmärkmed koos identifitseeriva teabega eemaldatud, mille kleebin allpool. Ülesanne: luua sotsiaalse uurimise aruande mustand ainult nendes märkustes TEGELIKULT sisalduva teabe põhjal; Märgistage eraldi vaatlus, kliendi avaldus ja puuduv teave. Riski- või ohutusotsuse TEGEMINE; Teen hindamise. Märkige ala, milles te pole kindel, kui "vajab täpsustada".
Erinevus on selge: identifitseerimise tühistamine, tõelise läbimise piirang, sildistamine ja otsustuspiirang muudavad väljundi turvaliseks ja kasulikuks.
Rollide/ülesannete võrdlustabel
äri
AI roll
mehe roll
kontrollimine
Muutke juhtumikirjet
Seadistage märge
kinnitus, täpsus
Võrdlus märkusega
Faili kokkuvõte
kronoloogiline ülevaade
Tähtsus, kommentaar
Link allikale
Õiguste/teenuste teave
esimene mustand
Praegune kinnitus
ametlikud õigusaktid
riski hindamine
Küsimuse/raami meeldetuletus
Kliiniline hinnang, otsus
Meeskond + supervisioon
Teata
skeleti eskiis
Sisu, arvamus, allkiri
Tõendite ja väidete sobitamine
Programmi kujundamine
Idee/raamistiku genereerimine
sobivus, otsus
Väli + andmete kinnitus
Levinud vead
- AI väljundi eksitamine hindamiseks. Väljund on alati mustand, mida tuleb kontrollida; See ei sisene toimikusse ilma tõenditega sidumata.
- Kliendiandmete kleepimine avatud tööriista. Kui see lekib, ei saa seda tagasi võtta ja see on KVKK rikkumine; See on kõige ohtlikum viga.
- Paluge tehisintellektil teha riski-/ohutusotsus. Need otsused nõuavad professionaalset autoriteeti ja vastutust; AI ei saa teha otsuseid.
- Taotlus, mis ei nõua tõendeid. Kui te ei ütle: "Kasuta lihtsalt seda, mis on märkuses", võib AI lisada selle, mida klient ei öelnud.
- Ei märka häbimärgistavat keelt. Tehisintellekti keeles võib olla eelarvamusi; Keel, mis on lugupidav ja arvestab tugevaid külgi, on teie kontrolli all.
Kokkuvõttes
Tehisintellekt on võimas abiline sotsiaaltöös: korrastab sassis kirja, teeb failist kokkuvõtte, teeb mustandeid, lihtsustab, tõlgib. Kuid kliiniline hinnang, riski hindamine, esitus ja lõplik otsus kuuluvad inimesele. Selle mooduli selgrooks on kaheastmeline eraldamine (dokumentidemahukas töö vs otsustus-/riskiotsused), kolmeastmeline kinnitamine (link tõenditele, sõltumatu kinnitus, kallutatuse filter), privaatsusteadlikkus (anonüümne vs kliendiandmete maailm) ja valvsus eelarvamuste suhtes.
Rakenduse ülesanne
Loetlege 6 ülesannet enda (või kujuteldava) laualt. Klassifitseerige igaüks kui „AI-delegeeritav kokkuvõte/redigeeri/mustand” või „kliiniline hinnang/riskiotsus”. Ühe ülekantava (väljamõeldud näitega, mis ei tuvasta klienti) puhul kasutage ülaltoodud malli „Töökohale sobivuse hindamine“ ja saage tehisintellektilt vastus; seejärel rakendage kolmeastmelist kinnitamist ja proovige ka privaatsuse eelkontrolli.
kontrollnimekiri
- [ ] Jagasin töö kahte klastrisse (dokumendimahukas / hinnangu-riski otsus).
- [ ] Rakendasin kolmeastmelist kontrolli (tõendid, sõltumatu kinnitus, eelarvamus).
- [ ] Veendusin, et ei esitanud avatud tööriistale klienti tuvastavaid isikuandmeid.
- [ ] Sidusin kõik AI kliendi kohta tehtud avaldused tegeliku märkmega.
- [ ] Kontrollisin väljundis häbimärgistavat/kallutatud keelt.