zisky:
- Umět rozlišit, kde umělá inteligence šetří čas v pracovním toku sociální práce (souhrn, editace, zjednodušení, návrh) a kde jsou rozhodnutí o klinickém posouzení, riziku a reprezentaci ponechána na člověku v závislosti na míře rizika.
- Schopnost aplikovat disciplínu, která ověřuje každý výstup prostřednictvím kroků jeho propojení se skutečnými důkazy, potvrzení externích informací s aktuálními oficiálními zdroji a jejich filtrování přes zkreslení.
- Abychom pochopili, proč je třeba v sociální práci od samého počátku brát v úvahu soukromí klienta, rozdíl mezi anonymním a klientským datovým světem a odpovědnost KVKK.
Jste ráno v centru sociálních služeb. Včera dorazily tři nové žádosti: žena, která se stala obětí násilí, a její dvě děti, starší člověk, který potřebuje péči, a teenager, kterému hrozí předčasné ukončení školy. Na vašem stole sedí čtyři zprávy o sociálním šetření, posudek vyžádaný soudem, záznamy o případech, které je třeba vyplnit, a přípravy na návštěvu u rodiny dnes odpoledne. Sociální práce (profese a disciplína vykonávaná za účelem zlepšení sociální funkčnosti jednotlivců, rodin a komunit, zajištění jejich přístupu k právům a blahobytu a ochrany zranitelných skupin) je obor, který je ze své podstaty náročný na dokumenty, je časově náročný, dotýká se lidského života a nese vysokou odpovědnost. Umělá inteligence (AI - software, který dokáže extrahovat vzory z historických dat a vytvářet nebo klasifikovat text, shrnutí, překlady a koncepty) vám dává vydechnout v tomto zatížení dokumentů a časové tísni. Ale samotný začátek tohoto modulu je jasný: AI je asistent, sumarizátor a generátor obrysů; Jste kompetentním odborníkem, který provádí posouzení, riziko a konečné rozhodnutí o klientovi.
V této první jednotce se zaměříme na disciplínu, nikoli na nástroj. Dozvíte se, kde je umělá inteligence spořičem reálného času v pracovním postupu sociální práce, kde je nebezpečná, jak ověřovat jednotlivé výstupy, jak chránit soukromí a osobní data klientů a jak si udržet pozor na zkreslení. Bez položení tohoto základu zůstávají následující jednotky ve vzduchu – protože v sociální práci není neověřený výstup jen falešnou větou; Je to chyba, která může vést k nesprávnému posouzení dítěte, k přehlížení rizika, nespravedlivě stigmatizované rodině nebo úniku citlivých informací.
Kde se AI hodí v pracovním postupu sociální práce?
Rozdělme pracovní místa sociální práce do dvou velkých shluků. První shluk: úlohy náročné na dokumenty, opakující se úlohy, které lze extrahovat pomocí vzoru, a úlohy založené na jazyce. Překlad rozptýlených poznámek po rozhovoru do organizovaného záznamu případu, chronologické shrnutí dlouhého spisu, první kostra zprávy o sociálním šetření, zjednodušení seznamu pomůcek/služeb podle jazyka klienta, návrh doporučujícího dopisu, překlad jednoduchého informačního textu pro vícejazyčného klienta, první rámec analýzy potřeb programu. U těchto prací AI zkracuje hodiny na minuty a neunaví se.
Druhá skupina: úkoly vyžadující úsudek, klinické hodnocení, posouzení rizik a odpovědnost. Zda je dítě v bezpečí domova, míra individuálního rizika sebepoškozování, zda rodina potřebuje ochranná opatření, stanovisko, se kterým bude předložena zpráva soudu, zda je služba pro klienta skutečně vhodná. Tato rozhodnutí vyžadují odbornou způsobilost, klinický úsudek, znalost kontextu, etickou odpovědnost a často názor multidisciplinárního týmu. Umělá inteligence zde znásobuje možnosti, generuje koncepty, připomíná vám, co jste přehlédli – ale konečné hodnocení a podpis je na vás.
Ujasněme si rozdíl jednou větou: AI je silná v otázkách „co je v tomto souboru a jak vypadá první návrh“; Rozhodnutí je na vás, pokud jde o otázky typu "Jaká je skutečná situace této osoby a mohu ji obhájit jménem své profese?"
Tip: Než zadáte zakázku AI, zeptejte se: „Kdo se zraní, když je tento výstup špatný? Pokud je odpověď „několik minut refaktoringu“, delegujte pohodlně. Pokud je odpověď „špatné hodnocení klienta, vyhýbání se riziku nebo únik informací“, nechte AI vytvořit návrh a vy udělejte rozhodnutí a ověření.
Soukromí: nedotknutelný princip
Srdcem sociální práce je důvěra a důvěra je založena na důvěrnosti. Klient vám sdělí své nejsoukromější a nejkřehčí informace – násilí, chudobu, zdravotní stav, rodinná tajemství – a spoléhá se na profesionální důvěrnost. Když se tyto informace dostanou do nesprávných rukou, ohrožují život, bezpečnost a důstojnost člověka. Základní pravidlo zde: Do veřejného nástroje AI, který vaše instituce neschválila, nebudou zadány žádné osobní údaje, které identifikují klienta (jméno, adresa, TR ID, zdravotní stav, rodinné údaje atd.). Text, který zadáte do veřejné služby AI, je zpracován na serverech této služby; Nemůžete ovládat, kdo jej vidí, kde je uložen a zda se používá při trénování modelu. V Türkiye je to také právní odpovědnost podle KVKK (zákon o ochraně osobních údajů - zákon, který upravuje zpracování osobních údajů).
Využití AI v sociální práci proto funguje ve dvou samostatných světech: Obecné nástroje lze použít pro deidentifikovaný/generický svět (anonymní nebo fiktivní příklady, které neidentifikují klienta, otázky obecných znalostí); Pro svět klientských dat se používají pouze interní, zabezpečené a schválené systémy, které neunikají data. Záměna těchto dvou je nejnebezpečnější chybou tohoto modulu.
Upozornění: „Umělá inteligence to řekla“ není ospravedlnění a nemá žádnou platnost ve spisu případu. Pokud dojde k nesprávnému úsudku, vymyšleným informacím nebo únikům dat, odpovědnost nenese AI, ale odborník, který daný výstup použije, aniž by jej ověřil nebo vložil data do nástroje.
Ověřovací disciplína: tři kroky
AI produkuje plynule a sebevědomě; To neznamená, že je to pravda. Umělá inteligence příležitostně produkuje halucinace – to znamená, že prezentuje jako reálný právní předpis, který neexistuje, službu, která neexistuje, vymyšlenou statistiku nebo prohlášení, které klient nikdy neřekl. Ve zprávě o sociálním vyšetřování nebo v memorandu o riziku je to katastrofální. Na každý výstup použijte tříkrokový reflex:
- Odkaz na zdroj/důkazy. Každé prohlášení, které AI o klientovi udělá, musí být založeno na skutečné poznámce nebo konverzaci, kterou jste uvedli. "V jakém rozhovoru, z čích úst, jakým pozorováním byla tato informace podána?" požádat. AI by neměla přidávat nic, co klient neřekl.
- Potvrďte s nezávislým zdrojem. Ověřte externí informace, jako jsou zákony, práva, služba, adresa pro přeposílání atd. z aktuálního oficiálního zdroje. Požadavek aplikace nebo telefonní číslo poskytnuté AI mohou být zastaralé nebo falešné.
- Projděte to filtrem interpretace a zaujatosti. Je výstup zaujatý vůči skupině? Existuje jazyk, který klienta stigmatizuje a obviňuje? Ignoruje silné stránky? Váš odborný úsudek je posledním filtrem.
tři mini pouzdra
Případ 1 – Dokumentace ušetřila čas. Sociální pracovník provedl 14 rozhovorů během jednoho týdne a ke každému si vedl volné poznámky. Úpravy za pomoci umělé inteligence zkrátily celkovou dobu překládání těchto poznámek do strukturovaných záznamů případů z přibližně 4 hodin na 1 hodinu. Ale každou nahrávku přečetl odborník a ověřil ji porovnáním se skutečným rozhovorem; Dvě věty, které AI "interpretovala", byly odstraněny.
Případ 2 – Ověřování zachytilo halucinaci. Expert položil AI otázku týkající se práv; YZ řekl: "Pro tuto pomoc je vyžadován minimální pobyt 24 měsíců." Když se odborník podíval do oficiální legislativy, žádný takový požadavek tam nebyl; AI smíchala dvě podobné pomůcky a vytvořila podmínku, která neexistovala. Krok přiřazení zabránil tomu, aby byl klient nespravedlivě odmítnut.
Případ 3 – Návrat z porušení soukromí. Aby to bylo rychlé, nový profesionál chtěl vložit všechny informace o případu ochrany dětí (včetně jména dítěte, adresy, školy) do veřejného nástroje umělé inteligence a vytisknout zprávu. Senior expert si uvědomil: toto byly citlivé osobní údaje v rámci KVKK a byly mimo. Incident byl posuzován jako únik dat; úloha byla znovu provedena s odstraněnými přihlašovacími údaji a pouze interní zabezpečenou metodou.
Čtyři kopírovatelné šablony
1) Posouzení vhodnosti práce:
Vaše role: senior sociální pracovník a supervizor. Pracovní pozici popíšu níže. Řekněte mi, (1) zda se jedná o souhrnnou/editační/návrhovou práci, kterou lze delegovat na AI, nebo o takovou, která vyžaduje klinický úsudek a posouzení rizik, (2) náklady klienta na nesprávný výstup, (3) ověření, které musím provést před a po delegování. Práce: [zde vložte práci]
2) Povinnost spoléhat se na důkazy:
Dám vám poznámky ze schůzky. Při úpravě záznamu použijte POUZE informace v poznámce. Nepřidávejte nic, co klient neřekl, nediagnostikujte, nekomentujte. Označte pozorování a výraz klienta zvlášť. Označte chybějící nebo nejasné oblasti jako „potřebuje objasnění“.
3) Předběžná kontrola soukromí:
Zhodnoťte následující text PŘED zpracováním: mohl by tento text obsahovat osobní údaje identifikující klienta (jméno, adresa, TR ID, zdravotní stav, rodinné údaje)? Pokud ano, které sekce? Pokud by tedy nemělo být zpracováno ve veřejném nástroji, upozorněte mě a uveďte pole, která potřebuji de-identifikovat.Text: [sem napište text]
4) Kontrola zkreslení/jazyka:
Zvažte následující záznam případu: Existuje jazyk, který klienta stigmatizuje, obviňuje nebo předsudky vůči skupině? Ignoruje silné stránky a zdroje? Navrhněte jazyk, který je ohleduplnější, zaměřený na fakta a uznává silné stránky. Neměňte záznam, pouze označte jazykové problémy.
Slabá výzva / Silná výzva
Slabá výzva:
Napište zprávu o této rodině a rozhodněte, zda je dítě doma v bezpečí.
Tato výzva je bez kontextu a nebezpečná: není jasné, jaké informace, jaké pozorování a AI se požaduje, aby rozhodla o bezpečnosti dítěte. Umělá inteligence předvídá, může zkreslovat, může tvořit – a to zahrnuje lidský život.
Výkonná výzva:
Vaše role: asistent redaktora sociálního pracovníka. Zdroj: Poznámky k rozhovoru a pozorování s odstraněnými identifikačními údaji, které vložím níže. Úkol: vytvořit návrh kostry zprávy o sociálním šetření pouze na základě informací SKUTEČNĚ obsažených v těchto poznámkách; Označte pozorování, prohlášení klienta a chybějící informace samostatně. ROZHODNUTÍ o riziku nebo bezpečnosti; Vyhodnocení provedu. Označte oblast, kterou si nejste jisti, jako „potřeba objasnit“.
Rozdíl je jasný: de-identifikace, omezení „true-passing“, označení a omezení „rozhodnutí“ činí výstup bezpečným a užitečným.
Tabulka porovnání rolí/úkolů
podnikání
Role AI
mužská role
ověření
Upravit záznam případu
Nakonfigurujte poznámku
potvrzení, přesnost
Srovnání s poznámkou
Souhrn souboru
chronologický nástin
Důležitost, komentář
Odkaz na zdroj
Informace o právech/službách
první návrh
Aktuální potvrzení
oficiální legislativa
hodnocení rizik
Připomenutí otázky/rámečku
Klinický úsudek, rozhodnutí
Tým + dohled
Zpráva
náčrt kostry
Obsah, názor, podpis
Shoda důkaz-výpověď
Návrh programu
Generování nápadu/rámce
způsobilost, rozhodnutí
Pole + potvrzení údajů
Časté chyby
- Chybný výstup AI pro hodnocení. Výstupem je vždy návrh k ověření; Nevstupuje do spisu, aniž by byl spojen s důkazy.
- Vložení klientských dat do otevřeného nástroje. Pokud dojde k úniku, nelze jej vrátit zpět a je porušením KVKK; Je to nejnebezpečnější chyba.
- Požádat AI, aby učinila rozhodnutí o riziku/bezpečnosti. Tato rozhodnutí vyžadují odbornou autoritu a odpovědnost; AI nemůže dělat rozhodnutí.
- Žádost, která nevyžaduje důkazy. Pokud neřeknete „Jen použijte to, co je v poznámce“, AI může přidat to, co klient neřekl.
- Nevšímat si stigmatizujícího jazyka. Jazyk AI může být zkreslený; Jazyk, který je ohleduplný a zvažuje silné stránky, je pod vaší kontrolou.
V souhrnu
Umělá inteligence je mocným pomocníkem v sociální práci: organizuje neuspořádanou poznámku, shrnuje soubor, vytváří koncepty, zjednodušuje, překládá. Ale klinický úsudek, hodnocení rizik, reprezentace a konečné rozhodnutí patří člověku. Noste jako páteř tohoto modulu dvoustupňové oddělení (práce náročná na dokumenty vs. úsudek/rozhodnutí o riziku), třífázové ověření (odkaz na důkazy, nezávislé potvrzení, filtr zkreslení), povědomí o soukromí (anonymní vs. svět klientských dat) a ostražitost vůči zkreslení.
Aplikační úkol
Vypište 6 úkolů z vlastního (nebo imaginárního) stolu. Klasifikujte je jako „shrnutí/úprava/návrh delegovatelné AI“ nebo „klinické rozhodnutí/rozhodnutí o riziku“. Pro jeden z přenosných (s fiktivním příkladem, který neidentifikuje klienta) použijte výše uvedenou šablonu „Posouzení vhodnosti práce“ a získejte odpověď od AI; poté použijte třífázové ověření a vyzkoušejte také předběžnou kontrolu soukromí.
kontrolní seznam
- [ ] Práci jsem rozdělil do dvou skupin (intenzivní na dokumenty / úsudek-rozsudek rizika).
- [ ] Použil jsem třífázové ověření (důkazy, nezávislé potvrzení, zkreslení).
- [ ] Ujistil jsem se, že jsem otevřenému nástroji neposkytoval osobní údaje identifikující klienta.
- [ ] Každý výrok, který AI o klientovi učinila, jsem propojil se skutečnou poznámkou.
- [ ] Zkontroloval jsem stigmatizující/objektivní jazyk ve výstupu.