Nyereség:
- Meg tudja különböztetni, hogy a mesterséges intelligencia hol takarít meg időt a szociális munkafolyamatban (összegzés, szerkesztés, egyszerűsítés, vázlat), és hol marad az emberre a klinikai megítélés, a kockázat és a reprezentáció döntése a kockázat mértékétől függően.
- Képes olyan diszciplínát alkalmazni, amely minden egyes kimenetet a valódi bizonyítékokhoz való kapcsolódás, a külső információk aktuális hivatalos forrásokkal való megerősítése és az elfogultságon alapuló szűrés lépéseivel ellenőrzi.
- Ahhoz, hogy megértsük, miért kell a szociális munkában a kezdetektől figyelembe venni az ügyfelek adatvédelmét, az anonim és a kliens adatvilágok megkülönböztetését, valamint a KVKK felelősségét.
Reggel egy szociális szolgáltató központban tartózkodik. Három új jelentkezés érkezett tegnap: egy erőszak áldozatává vált nő és két gyermeke, egy gondozásra szoruló idős személy, valamint egy iskolaelhagyás veszélyének kitett tinédzser. Négy szociális vizsgálati jelentés ül az asztalon, egy bíróság által kért vélemény, az ügyiratok, amelyeket ki kell tölteni, és készülnek a délutáni családlátogatásra. A szociális munka (az egyének, családok és közösségek társadalmi funkcionalitásának javítására, jogokhoz és jóléthez való hozzáférésük biztosítására, a kiszolgáltatott csoportok védelmére irányuló szakma és tudományág) eleve dokumentum-intenzív, időkényszeres, emberi életet érintő és nagy felelősséggel járó terület. A mesterséges intelligencia (AI – szoftver, amely képes mintákat kinyerni a történeti adatokból, és szövegeket, összefoglalókat, fordításokat és piszkozatokat készíteni vagy osztályozni) lélegzetvételnyi szünetet ad ebben a dokumentumterhelésben és az időkényszerben. De ennek a modulnak a legeleje egyértelmű: az AI egy asszisztens, összefoglaló és vázlatgenerátor; Ön a hozzáértő szakértő, aki meghozza az ügyféllel kapcsolatos értékelést, kockázatot és végső döntést.
Ebben az első részben a fegyelemre fogunk összpontosítani, nem az eszközre. Megtudhatja, hogy a mesterséges intelligencia hol takarít meg valós időt a szociális munkafolyamatban, hol veszélyes, hogyan ellenőrizheti az egyes kimeneteket, hogyan védheti meg az ügyfelek magánéletét és személyes adatait, és hogyan maradhat éber az elfogultságra. Ennek az alapnak a lefektetése nélkül a következő egységek a levegőben maradnak – mert a társadalmi munkában az ellenőrizetlen kimenet nem csupán egy hamis mondat; Ez egy olyan hiba, amely oda vezethet, hogy egy gyermeket rosszul ítélnek meg, egy kockázatot figyelmen kívül hagynak, egy családot méltánytalanul megbélyegeznek, vagy érzékeny információk kerülhetnek ki.
Hol jön jól az AI a szociális munka munkafolyamatában?
Osszuk két nagy klaszterre a szociális munkákat. Az első klaszter: dokumentum-intenzív, ismétlődő, mintázatból kivonható és nyelvi alapú feladatok. Interjú után elszórt feljegyzések lefordítása szervezett esetre, hosszú akta időrendi összefoglalása, szociális vizsgálati jelentés első váza, segély-/szolgáltatáslista egyszerűsítése a kliens nyelvéhez igazodva, ajánlólevél tervezete, egyszerű tájékoztató szöveg fordítása többnyelvű ügyfél számára, programszükséglet elemzés első keretrendszere. Ezekben a munkákban az AI az órákat percekre csökkenti, és nem fárad el.
Második klaszter: ítéletet, klinikai értékelést, kockázatértékelést és felelősséget igénylő feladatok. A gyermek biztonságban van-e otthon, az egyén önkárosító kockázatának mértéke, a családnak szüksége van-e védőintézkedésekre, milyen vélemény alapján tesznek feljelentést a bíróságon, valóban megfelelő-e egy szolgáltatás az ügyfél számára. Ezek a döntések szakmai hozzáértést, klinikai ítélőképességet, kontextusismeretet, etikai felelősséget és gyakran multidiszciplináris csapatvéleményt igényelnek. Itt az AI megsokszorozza a lehetőségeket, piszkozatokat generál, emlékeztet arra, amit figyelmen kívül hagytak – de a végső értékelés és aláírás a tiéd.
Tisztázzuk a különbséget egy mondatban: az AI erős a "mi van ebben a fájlban és hogyan néz ki az első vázlat" kérdésekben; A döntés a tiéd, ha olyan kérdésekről van szó, mint például: "Mi a valós helyzete ennek a személynek, és megvédhetem-e ezt a szakmám nevében?"
Tipp: Mielőtt kiszervezne egy munkát egy MI-nek, kérdezze meg: „Ki sérül meg, ha ez a kimenet rossz?” Ha a válasz "néhány perc refaktorálás", kényelmesen delegáljon. Ha a válasz "az ügyfél rossz értékelése, kockázat kijátszása vagy kiszivárgott információ", akkor hagyja, hogy az MI készítse el a tervezetet, és Ön hozza meg a döntést és az ellenőrzést.
Adatvédelem: sérthetetlen elv
A szociális munka szíve a bizalom, a bizalom pedig a titoktartáson alapul. A kliens szakmai titoktartásra támaszkodva mondja el Önnek legszemélyesebb, legsérülékenyebb információit – erőszakról, szegénységről, egészségi állapotról, családi titkokról. Ha ez az információ rossz kezekbe kerül, az egy személy életét, biztonságát és méltóságát veszélyezteti. Az alapvető szabály itt: Az ügyfelet azonosító személyes adatok (név, lakcím, TR-azonosító, egészségi állapot, családi adatok stb.) nem kerülnek be olyan nyilvános mesterségesintelligencia-eszközbe, amelyet intézménye nem hagyott jóvá. A nyilvános AI-szolgáltatásba beírt szöveget a rendszer a szolgáltatás szerverein dolgozza fel; Nem szabályozhatja, hogy ki látja, hol tárolja, és hogy felhasználják-e a modell betanítására. Türkiye-ben ez a KVKK (személyes adatok védelméről szóló törvény – a személyes adatok feldolgozását szabályozó törvény) értelmében jogi felelősséget is jelent.
Ezért az AI alkalmazása a szociális munkában két külön világban működik: Általános eszközök használhatók az azonosítatlan/általános világhoz (névtelen vagy kitalált példák, amelyek nem azonosítják a klienst, általános ismeretek kérdései); Az ügyféladatok világában csak házon belüli, biztonságos, jóváhagyott rendszereket használnak, amelyek nem szivárogtatnak ki adatokat. A kettő összekeverése a modul legveszélyesebb hibája.
Vigyázat: "Az AI azt mondta" nem indoklás, és nincs ereje az ügy irataiban. Ha téves megítélésről, koholt információkról vagy kiszivárgott adatokról van szó, a felelősség nem az MI-t illeti, hanem azt a szakértőt, aki a kimenetet ellenőrzés nélkül felhasználja, vagy beviszi az adatokat az eszközbe.
Ellenőrzési fegyelem: három lépés
A mesterséges intelligencia folyékonyan és magabiztosan termel; Ez nem azt jelenti, hogy igaz. A mesterséges intelligencia időnként hallucinációkat produkál – azaz valóságosnak mutat be egy nem létező jogszabályt, egy nem létező szolgáltatást, egy kitalált statisztikát vagy egy olyan nyilatkozatot, amelyet az ügyfél soha nem mondott. Egy társadalmi vizsgálati jelentésben vagy kockázati feljegyzésben ez katasztrofális. Alkalmazzon háromlépcsős reflexet minden kimenetre:
- Link a forráshoz/bizonyítékhoz. A mesterséges intelligencia minden kijelentését az ügyféllel kapcsolatban a tényleges megjegyzésen vagy beszélgetésen kell alapulnia. – Melyik beszélgetésben, kinek a szájából, milyen megfigyeléssel adták ezt az információt? kérdez. A mesterséges intelligencia ne adjon hozzá semmit, amit az ügyfél nem mondott.
- Erősítse meg független forrással. Ellenőrizze az aktuális hivatalos forrásból származó külső információkat, például törvényeket, jogokat, szolgáltatást, továbbítási címet stb. Előfordulhat, hogy az AI által megadott alkalmazási követelmények vagy telefonszámok elavultak vagy hamisak.
- Engedd át az értelmezés és az elfogultság szűrőjén. A kimenet elfogult egy csoporthoz képest? Van-e olyan nyelvezet, amely megbélyegzi és hibáztatja az ügyfelet? Figyelmen kívül hagyja az erősségeket? Az Ön szakmai megítélése a végső szűrő.
három mini tok
1. eset – A dokumentációval időt takarított meg. Egy szociális munkás egy hét alatt 14 interjút készített, és mindegyikhez laza kézjegyzeteket vezetett. A mesterséges intelligencia által támogatott szerkesztés körülbelül 4 óráról 1 órára csökkentette a feljegyzések strukturált esetrekordokká történő fordításának teljes idejét. De minden felvételt a szakértő elolvasott, és a tényleges interjúval összehasonlítva ellenőrizte; Az AI által "értelmezett" két mondatot törölték.
2. eset – Az ellenőrzés hallucinációt kapott. Egy szakértő feltett egy jogi kérdést az MI-nek; YZ azt mondta: "Ennél a segélynél 24 hónapos minimális tartózkodási feltétel." Amikor a szakértő megnézte a hivatalos jogszabályokat, nem volt ilyen előírás; A mesterséges intelligencia két hasonló segédeszközt kevert össze, és olyan feltételt hozott létre, amely nem létezett. A hozzárendelési lépés megakadályozta, hogy az ügyfelet igazságtalanul elutasítsák.
3. eset – Visszatérés az adatvédelmi jogsértésből. A gyorsaság kedvéért egy új szakember egy gyermekvédelmi eset összes adatát (beleértve a gyermek nevét, címét, iskoláját) be akarta illeszteni egy nyilvános mesterségesintelligencia-eszközbe, és jelentést nyomtatni. A vezető szakértő rájött: ez a KVKK hatálya alá tartozó érzékeny személyes adat, és kikerült. Az esetet adatvédelmi incidensként kezelték; a feladatot a hitelesítő adatok eltávolításával és csak a házon belüli biztonságos módszerrel végezték el.
Négy másolható sablon
1) Munkaköri alkalmasság felmérése:
Az Ön szerepköre: vezető szociális munkás és szupervizor.A munkakört az alábbiakban ismertetem. Mondja el, (1) ez egy összefoglaló/szerkesztési/vázlatos feladat-e, amely átruházható egy mesterséges intelligencia számára, vagy olyan, amely klinikai megítélést és kockázati megítélést igényel, (2) az ügyfél számára a hibás kimenet költségeit, (3) az ellenőrzést, amelyet el kell végeznem a delegálás előtt és után. Munka: [ide írja be a munkát]
2) Bizonyítékra támaszkodó kötelezettség:
Átadom a találkozó jegyzeteit. A felvétel szerkesztésekor CSAK a jegyzetben szereplő információkat használja. Ne adjon hozzá semmit, amit az ügyfél nem mondott, ne diagnosztizáljon, ne kommentáljon. Jelölje meg külön a megfigyelést és az ügyfél kifejezését. Jelölje meg a hiányzó vagy tisztázatlan területeket "tisztázásra szorul"ként.
3) Adatvédelmi előzetes ellenőrzés:
Értékelje a következő szöveget feldolgozás ELŐTT: tartalmazhat-e ez a szöveg az ügyfelet azonosító személyes adatokat (név, cím, TR azonosító, egészségi állapot, családi adatok)? Ha igen, mely szakaszok? Ennek megfelelően, ha nem szabad nyilvános eszközben feldolgozni, figyelmeztessen, és sorolja fel azokat a mezőket, amelyeket meg kell szüntetni. Szöveg: [írja ide a szöveget]
4) Elfogultság/nyelvi ellenőrzés:
Vegyük fontolóra a következő esetet: Van-e olyan nyelvezet, amely megbélyegzi, hibáztatja vagy előítéletesíti az ügyfelet egy csoporttal szemben? Figyelmen kívül hagyja az erősségeket és az erőforrásokat? Javasoljon olyan nyelvezetet, amely tiszteletteljesebb, tényközpontúbb és felismeri az erősségeket. Ne módosítsa a rekordot, csak jelezze a nyelvi problémákat.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Írjon jelentést erről a családról, és döntse el, hogy a gyermek biztonságban van-e otthon.
Ez a felszólítás kontextus nélküli és veszélyes: nem világos, hogy milyen információkat, milyen megfigyeléseket és az MI-t kérik a gyermek biztonságáról szóló döntés meghozatalára. A mesterséges intelligencia előrevetít, elfogulhat, pótolhat – és ez emberi életet is jelent.
Erőteljes felszólítás:
Az Ön szerepe: szerkesztő asszisztens szociális munkásnak. Forrás: Interjú- és megfigyelési megjegyzések, amelyekben eltávolították az azonosító információkat, amelyeket alább beillesztek. Feladat: készítsen vázlatvázlatot egy társadalmi vizsgálati jelentésről, csak az ezekben a jegyzetekben VALÓBAN szereplő információk alapján; Külön címkézze fel a megfigyelést, az ügyfél nyilatkozatát és a hiányzó információkat. kockázati vagy biztonsági döntés meghozatala; Megcsinálom az értékelést. Jelölje meg azt a területet, amelyben nem biztos, hogy "tisztázni kell".
A különbség egyértelmű: az azonosítás megszüntetése, a "true-passing" megkötés, a címkézés és a "döntés" megkötés biztonságossá és hasznossá teszi a kimenetet.
Szerep/feladat összehasonlító táblázat
üzlet
Az AI szerepe
férfi szerepe
ellenőrzése
Ügyirat szerkesztése
Konfigurálja a jegyzetet
megerősítés, pontosság
Összehasonlítás megjegyzéssel
Fájl összefoglaló
kronológiai vázlat
Fontosság, megjegyzés
Link a forráshoz
Jogok/szolgáltatás információk
első tervezet
Aktuális megerősítés
hivatalos jogszabály
kockázatértékelés
Kérdés/keret emlékeztető
Klinikai ítélet, döntés
Csapat + felügyelet
Jelentés
csontváz vázlat
Tartalom, vélemény, aláírás
Bizonyíték-állítás egyezés
Programtervezés
Ötlet/keret létrehozása
jogosultság, döntés
Mező + adatok megerősítése
Gyakori hibák
- Az AI kimenet összetévesztése az értékeléshez. A kimenet mindig egy piszkozat, amelyet ellenőrizni kell; Nem lép be az aktába anélkül, hogy bizonyítékokkal lenne összekapcsolva.
- Ügyféladatok beillesztése a nyitott eszközbe. Ha kiszivárog, nem lehet visszavonni, és a KVKK megsértése; Ez a legveszélyesebb hiba.
- Felkéri az AI-t, hogy hozzon kockázati/biztonsági döntést. Ezek a döntések szakmai tekintélyt és felelősséget igényelnek; Az AI nem tud döntéseket hozni.
- Olyan kérés, amelyhez nem kell bizonyíték. Ha nem azt mondja, hogy "Csak azt használja, ami a jegyzetben van", az AI hozzáadhatja azt, amit az ügyfél nem mondott.
- Nem veszi észre a megbélyegző nyelvezetet. Az AI nyelve elfogultságot hordozhat; A tiszteletteljes és az erősségeket figyelembe vevő nyelv az Ön ellenőrzése alatt áll.
Összefoglalva
A mesterséges intelligencia hatékony asszisztens a társadalmi munkában: rendszerezi a rendetlen jegyzeteket, összefoglalja a fájlt, piszkozatokat készít, egyszerűsít, fordít. De a klinikai megítélés, a kockázatértékelés, a képviselet és a végső döntés az emberé. A modul gerinceként kétszintű szétválasztást (dokumentumintenzív munka kontra döntés/kockázati döntések), háromlépcsős ellenőrzést (hivatkozás bizonyítékokhoz, független megerősítés, torzításszűrő), adatvédelmi tudatosságot (névtelen és ügyféladatvilág) és elfogultságra való éberséget hordoz.
Pályázati feladat
Sorolj fel 6 feladatot a saját (vagy képzeletbeli) asztalodról. Mindegyiket besorolhatja „AI által delegálható összefoglaló/szerkesztés/tervezet” vagy „klinikai megítélés/kockázati döntés” kategóriába. Az egyik átruházható (egy kitalált példával, amely nem azonosítja az ügyfelet) használja a fenti „Munkahelyességi értékelés” sablont, és kérjen választ az MI-től; majd alkalmazza a háromlépcsős azonosítást, és próbálja ki az adatvédelmi előzetes ellenőrzést is.
ellenőrző lista
- [ ] A munkát két klaszterre osztottam (dokumentumintenzív / ítélet-kockázati megítélés).
- [ ] Háromlépcsős ellenőrzést alkalmaztam (bizonyíték, független megerősítés, elfogultság).
- [ ] Gondoskodtam arról, hogy a nyílt eszköznek ne adjam meg az ügyfelet azonosító személyes adatokat.
- [ ] A mesterséges intelligencia által az ügyfélről tett minden nyilatkozatot összekapcsoltam a tényleges megjegyzéssel.
- [ ] Ellenőriztem, hogy nincs-e megbélyegző/elfogult nyelvezet a kimenetben.