zisky:
- Byť schopný rozlíšiť, kde umelá inteligencia šetrí čas v pracovnom toku sociálnej práce (zhrnutie, editácia, zjednodušenie, návrh) a kde je klinický úsudok, rozhodnutie o riziku a reprezentácii ponechané na človeka, v závislosti od úrovne rizika.
- Schopnosť uplatniť disciplínu, ktorá overí každý výstup prostredníctvom krokov jeho prepojenia so skutočnými dôkazmi, potvrdenia externých informácií aktuálnymi oficiálnymi zdrojmi a ich filtrovania cez zaujatosť.
- Aby sme pochopili, prečo súkromie klienta, rozdiel medzi anonymným a klientskym dátovým svetom a zodpovednosť KVKK treba v sociálnej práci brať do úvahy od samého začiatku.
Nachádzate sa ráno v centre sociálnych služieb. Včera prišli tri nové žiadosti: žena, ktorá sa stala obeťou násilia a jej dve deti, staršia osoba, ktorá potrebuje starostlivosť, a tínedžer, ktorému hrozí, že predčasne skončí školu. Na stole vám sedia štyri správy o sociálnom vyšetrovaní, posudok vyžiadaný súdom, záznamy o prípadoch, ktoré treba vyplniť, a prípravy na návštevu rodiny dnes popoludní. Sociálna práca (profesia a disciplína vykonávaná s cieľom zlepšiť sociálnu funkčnosť jednotlivcov, rodín a komunít, zabezpečiť ich prístup k právam a blahobytu a chrániť zraniteľné skupiny) je oblasťou, ktorá je vo svojej podstate náročná na dokumenty, časová tieseň, dotýka sa ľudského života a má vysokú zodpovednosť. Umelá inteligencia (AI – softvér, ktorý dokáže extrahovať vzory z historických údajov a vytvárať alebo klasifikovať text, súhrny, preklady a koncepty) vám dáva oddych v tomto zaťažení dokumentov a časovom tlaku. Ale samotný začiatok tohto modulu je jasný: AI je asistent, sumarizátor a generátor obrysov; Vy ste kompetentný odborník, ktorý robí hodnotenie, riziko a konečné rozhodnutie o klientovi.
V tejto prvej časti sa zameriame na disciplínu, nie na nástroj. Dozviete sa, kde je AI šetričom reálneho času v pracovnom postupe sociálnej práce, kde je to nebezpečné, ako overiť každý výstup, ako chrániť súkromie klientov a osobné údaje a ako si udržať pozornosť pred zaujatosťou. Bez položenia tohto základu zostávajú nasledujúce jednotky vo vzduchu – pretože v sociálnej práci neoverený výstup nie je len falošná veta; Je to chyba, ktorá môže viesť k nesprávnemu posúdeniu dieťaťa, k prehliadnutiu rizika, k nespravodlivej stigmatizácii rodiny alebo k úniku citlivých informácií.
Kde sa AI hodí v rámci pracovného postupu sociálnej práce?
Rozdeľme pracovné miesta sociálnej práce do dvoch veľkých zhlukov. Prvý klaster: úlohy náročné na dokumenty, opakujúce sa, extrahovateľné vzory a úlohy založené na jazyku. Preklad roztrúsených poznámok po rozhovore do organizovaného záznamu prípadu, chronologické zhrnutie dlhého spisu, prvá kostra správy o sociálnom vyšetrovaní, zjednodušenie zoznamu pomôcok/služieb podľa jazyka klienta, návrh odporúčacieho listu, preklad jednoduchého informačného textu pre viacjazyčného klienta, prvý rámec analýzy potrieb programu. V týchto prácach AI skráti hodiny na minúty a neunaví sa.
Druhá skupina: úlohy vyžadujúce posúdenie, klinické posúdenie, posúdenie rizika a zodpovednosť. Či je dieťa v bezpečí domova, miera rizika sebapoškodzovania jednotlivca, či rodina potrebuje ochranné opatrenia, stanovisko, s ktorým bude predložená správa súdu, či je služba pre klienta skutočne vhodná. Tieto rozhodnutia si vyžadujú odbornú spôsobilosť, klinický úsudok, znalosť kontextu, etickú zodpovednosť a často názor multidisciplinárneho tímu. Umelá inteligencia tu znásobuje možnosti, generuje koncepty, pripomína vám, čo ste prehliadli – ale konečné vyhodnotenie a podpis je na vás.
Objasnime rozdiel jednou vetou: AI je silná v otázkach „čo je v tomto súbore a ako vyzerá prvý návrh“; Rozhodnutie je na vás, pokiaľ ide o otázky typu „Aká je skutočná situácia tejto osoby a môžem ju obhájiť v mene svojej profesie?“
Tip: Pred zadaním úlohy AI sa opýtajte: „Kto sa zraní, ak je tento výstup nesprávny?“ Ak je odpoveď „niekoľko minút refaktoringu“, pohodlne delegujte. Ak je odpoveď „nesprávne hodnotenie klienta, vyhýbanie sa riziku alebo únik informácií“, nechajte AI vytvoriť návrh a vy urobte rozhodnutie a overenie.
Súkromie: nedotknuteľný princíp
Srdcom sociálnej práce je dôvera a dôvera je založená na dôvernosti. Klient vám povie svoje najsúkromnejšie a najkrehkejšie informácie – násilie, chudobu, zdravotný stav, rodinné tajomstvá – pričom sa spolieha na profesionálne tajomstvo. Keď sa tieto informácie dostanú do nesprávnych rúk, ohrozujú život, bezpečnosť a dôstojnosť človeka. Základné pravidlo tu: Do verejného nástroja AI, ktorý vaša inštitúcia neschválila, nebudú vložené žiadne osobné údaje, ktoré identifikujú klienta (meno, adresa, TR ID, zdravotný stav, informácie o rodine atď.). Text, ktorý zadáte do verejnej služby AI, sa spracuje na serveroch tejto služby; Nemôžete kontrolovať, kto ho vidí, kde je uložený a či sa používa pri trénovaní modelu. V Türkiye ide aj o právnu zodpovednosť podľa KVKK (zákon o ochrane osobných údajov – zákon, ktorý upravuje spracúvanie osobných údajov).
Využitie AI v sociálnej práci preto funguje v dvoch samostatných svetoch: Všeobecné nástroje možno použiť pre deidentifikovaný/generický svet (anonymné alebo fiktívne príklady, ktoré neidentifikujú klienta, všeobecné vedomostné otázky); Pre svet klientskych dát sa používajú iba interné, bezpečné, schválené systémy, z ktorých neunikajú dáta. Zámena týchto dvoch je najnebezpečnejšou chybou tohto modulu.
Upozornenie: „Umelá inteligencia to povedala“ nie je odôvodnením a nemá v spise žiadnu platnosť. Ak dôjde k nesprávnemu úsudku, vymysleným informáciám alebo úniku údajov, zodpovednosť nenesie AI, ale odborník, ktorý daný výstup použije bez toho, aby ho overil alebo vložil tieto údaje do nástroja.
Overovacia disciplína: tri kroky
AI produkuje plynule a s istotou; To neznamená, že je to pravda. AI príležitostne produkuje halucinácie – to znamená, že prezentuje ako skutočný právny predpis, ktorý neexistuje, službu, ktorá neexistuje, vymyslenú štatistiku alebo vyhlásenie, ktoré klient nikdy nepovedal. V správe o sociálnom vyšetrovaní alebo v memorande o riziku je to katastrofálne. Na každý výstup použite trojkrokový reflex:
- Odkaz na zdroj/dôkaz. Každé vyhlásenie AI o klientovi musí byť založené na skutočnej poznámke alebo konverzácii, ktorú ste poskytli. "V ktorom rozhovore, z koho úst, akým pozorovaním bola táto informácia podaná?" spýtaj sa. AI by nemala pridávať nič, čo klient nepovedal.
- Potvrďte nezávislým zdrojom. Overte si externé informácie, ako sú zákony, práva, služba, adresa na preposielanie atď., z aktuálneho oficiálneho zdroja. Požiadavka na aplikáciu alebo telefónne číslo poskytnuté AI môžu byť zastarané alebo falošné.
- Prejdite cez filter interpretácie a zaujatosti. Je výstup zaujatý voči skupine? Existuje jazyk, ktorý klienta stigmatizuje a obviňuje? Ignoruje silné stránky? Váš profesionálny úsudok je posledným filtrom.
tri mini prípady
Prípad 1 – Časová úspora dokumentácie. Sociálny pracovník vykonal 14 rozhovorov za týždeň a ku každému si písal voľné poznámky. Úpravy s pomocou AI skrátili celkový čas na preklad týchto poznámok do štruktúrovaných záznamov prípadov z približne 4 hodín na 1 hodinu. Ale každú nahrávku prečítal odborník a overil ju porovnaním so skutočným rozhovorom; Dve vety, ktoré AI „interpretovala“, boli vymazané.
Prípad 2 – Overovanie zachytilo halucináciu. Expert položil AI otázku o právach; YZ povedal: "Pre túto pomoc je minimálna požiadavka na pobyt 24 mesiacov." Keď sa odborník pozrel na oficiálnu legislatívu, takáto požiadavka tam nebola; AI zmiešala dve podobné pomôcky a vytvorila podmienku, ktorá neexistovala. Krok pripisovania zabránil tomu, aby bol klient nespravodlivo odmietnutý.
Prípad 3 – Návrat z porušenia súkromia. Aby to bolo rýchle, nový profesionál chcel vložiť všetky informácie o prípade ochrany dieťaťa (vrátane mena dieťaťa, adresy, školy) do verejného nástroja AI a vytlačiť správu. Senior expert si uvedomil: toto boli citlivé osobné údaje v rámci KVKK a boli mimo. Incident bol posúdený ako porušenie ochrany údajov; úloha bola prerobená s odstránenými povereniami a iba internou zabezpečenou metódou.
Štyri kopírovateľné šablóny
1) Posúdenie vhodnosti práce:
Vaša úloha: senior sociálny pracovník a supervízor. Nižšie popíšem prácu. Povedzte mi, (1) či ide o súhrnnú/úpravu/náčrt úlohy, ktoré možno delegovať na AI, alebo o prácu, ktorá si vyžaduje klinický úsudok a posúdenie rizika, (2) náklady klienta na nesprávny výstup, (3) overenie, ktoré musím vykonať pred a po delegovaní. Práca: [sem vložte prácu]
2) Povinnosť spoliehať sa na dôkazy:
Dám vám poznámky zo stretnutia. Pri úprave nahrávky použite LEN informácie v poznámke. Nepridávajte nič, čo klient nepovedal, nediagnostikujte, nekomentujte. Označte pozorovanie a výraz klienta oddelene. Chýbajúce alebo nejasné oblasti označte ako „potrebuje objasnenie“.
3) Predbežná kontrola súkromia:
Vyhodnoťte nasledujúci text PRED spracovaním: mohol by tento text obsahovať osobné údaje identifikujúce klienta (meno, adresa, TR ID, zdravotný stav, informácie o rodine)? Ak áno, ktoré sekcie? Preto, ak by to nemalo byť spracované vo verejnom nástroji, upozornite ma a uveďte polia, ktoré potrebujem zrušiť. Text: [napíšte text sem]
4) Kontrola zaujatosti/jazyka:
Zvážte nasledujúci záznam prípadu: Existuje jazyk, ktorý stigmatizuje, obviňuje alebo vyvoláva predsudky klienta voči skupine? Ignoruje silné stránky a zdroje? Navrhnite jazyk, ktorý je úctivejší, zameraný na fakty a uznáva silné stránky. Nemeňte záznam, len nahláste jazykové problémy.
Slabá výzva / Silná výzva
Slabá výzva:
Napíšte správu o tejto rodine a rozhodnite sa, či je dieťa doma v bezpečí.
Táto výzva je bez kontextu a nebezpečná: nie je jasné, aké informácie, aké pozorovanie a AI sa požaduje, aby rozhodla o bezpečnosti dieťaťa. AI predpovedá, môže skresľovať, môže kompenzovať – a to zahŕňa ľudský život.
Výkonná výzva:
Vaša úloha: asistent redaktora sociálneho pracovníka. Zdroj: Poznámky z rozhovoru a pozorovania s odstránenými identifikačnými údajmi, ktoré prilepím nižšie. Úloha: vytvoriť návrh kostry správy o sociálnom vyšetrovaní len na základe informácií SKUTOČNE obsiahnutých v týchto poznámkach; Označte pozorovanie, vyhlásenie klienta a chýbajúce informácie samostatne. PRIJÍMANIE rozhodnutia o riziku alebo bezpečnosti; Vyhodnotím ja. Označte oblasť, ktorou si nie ste istí, ako „treba objasniť“.
Rozdiel je jasný: de-identifikácia, obmedzenie "pravého odovzdávania", označovanie a obmedzenie "rozhodnutie" robia výstup bezpečným a užitočným.
Tabuľka porovnania rolí/úloh
podnikania
Úloha AI
mužská rola
overenie
Upravte záznam o prípade
Nakonfigurujte poznámku
potvrdenie, presnosť
Porovnanie s poznámkou
Súhrn súboru
chronologický prehľad
Dôležitosť, komentár
Odkaz na zdroj
Informácie o právach/službách
prvý návrh
Aktuálne potvrdenie
oficiálna legislatíva
hodnotenie rizika
Pripomenutie otázky/rámčeka
Klinický úsudok, rozhodnutie
Tím + dozor
Správa
náčrt kostry
Obsah, názor, podpis
Zhoda dôkaz-výkaz
Dizajn programu
Generovanie nápadu/rámca
spôsobilosť, rozhodnutie
Pole + potvrdenie údajov
Časté chyby
- Chybný výstup AI pre hodnotenie. Výstupom je vždy návrh na overenie; Nevstupuje do spisu bez toho, aby bol spojený s dôkazmi.
- Prilepenie údajov klienta do otvoreného nástroja. Ak dôjde k úniku, nemožno to vrátiť späť a ide o porušenie KVKK; Je to najnebezpečnejšia chyba.
- Požiadanie AI, aby urobilo rozhodnutie o riziku/bezpečnosti. Tieto rozhodnutia si vyžadujú odbornú autoritu a zodpovednosť; AI nemôže robiť rozhodnutia.
- Žiadosť, ktorá nevyžaduje dôkazy. Ak nepoviete: „Použi len to, čo je v poznámke“, AI môže pridať to, čo klient nepovedal.
- Nevšímať si stigmatizujúci jazyk. Jazyk AI môže byť zaujatý; Jazyk, ktorý je úctivý a zohľadňuje silné stránky, máte pod kontrolou.
V súhrne
Umelá inteligencia je výkonným pomocníkom v sociálnej práci: organizuje chaotické poznámky, sumarizuje súbor, vytvára návrhy, zjednodušuje, prekladá. Ale klinický úsudok, hodnotenie rizika, reprezentácia a konečné rozhodnutie patrí človeku. Základom tohto modulu je oddelenie dvoch sád (praca náročná na dokumenty verzus rozhodnutia/rozhodnutia o riziku), trojstupňové overenie (odkaz na dôkazy, nezávislé potvrdenie, filter skreslenia), povedomie o súkromí (anonymný vs. svet údajov o klientovi) a ostražitosť voči zaujatosti.
Aplikačná úloha
Vypíšte 6 úloh z vlastného (alebo imaginárneho) stola. Každý z nich klasifikujte ako „súhrn/úprava/návrh delegovateľný AI“ alebo „klinický posudok/rozhodnutie o riziku“. Pre jeden z prenosných (s fiktívnym príkladom, ktorý neidentifikuje klienta) použite vyššie uvedenú šablónu „Posúdenie vhodnosti zamestnania“ a získajte odpoveď od AI; potom použite overenie v troch krokoch a vyskúšajte aj predbežnú kontrolu ochrany osobných údajov.
kontrolný zoznam
- [ ] Prácu som rozdelil do dvoch skupín (náročné na dokumenty / posúdenie rizika).
- [ ] Použil som trojstupňové overenie (dôkazy, nezávislé potvrdenie, zaujatosť).
- [ ] Uistil som sa, že som otvorenému nástroju neposkytol osobné údaje identifikujúce klienta.
- [ ] Každý výrok, ktorý AI urobila o klientovi, som prepojil so skutočnou poznámkou.
- [ ] Skontroloval som, či vo výstupe nie sú stigmatizujúce/zaujaté výrazy.