zisky:
- Schopnosť dôsledne vkladať AI v každej fáze od aplikácie po zatvorenie so šiestimi ľudskými overovacími bránami
- Schopnosť vytvoriť rámec podnikového riadenia so zoznamom schválených nástrojov, dátovou politikou, rolami, registráciou, školením a priebežnou kontrolou
- Schopnosť začleniť princípy ľudskej zodpovednosti, overovania, súkromia/KVKK, dodržiavania dôkazov, kontroly zaujatosti a orientácie na klienta do pracovného toku
V tomto module sme sa zaoberali tým, ako používať umelú inteligenciu a kde ju zastaviť v rôznych úlohách sociálnej práce – dokumentácia, hodnotenie, podpora rizika, odporúčanie, plán, správa, komunikácia, návrh programu. V tejto záverečnej časti poskladáme jednotlivé časti: AI bude sedieť od začiatku po koniec od aplikácie až po uzavretie prípadu, kde sa dvere overovania človekom v každej fáze zastavia, a vytvoríme rámec riadenia potrebný na to, aby to bolo v organizácii udržateľné. Cieľom je premeniť rozhádzané hroty na konzistentnú a opakovateľnú pracovnú disciplínu.
Princíp integrácie od začiatku: AI je akcelerátorom v každom kroku pracovného toku, nie rozhodovateľom v žiadnom kroku. V každej fáze sú ľudské dvere a nemôžete prejsť do ďalšej bez toho, aby ste neprešli cez jedny dvere. Táto vrstvená štruktúra zabraňuje tomu, aby jedna halucinácia, zaujatosť alebo chyba v súkromí prenikla do rozhodnutia, ktoré ovplyvňuje život klienta.
End-to-end tok a šesť ľudských brán
Pozrime sa na prípad cez jeho typické fázy a do každej fázy umiestnime overovaciu bránu:
1. Aplikácia / prvý kontakt — Dvere: Súkromie. Keď prídu prvé informácie, AI sa použije na prípravu pohovoru (príručka, rámec otázok). Dvere: Do otvoreného nástroja nevstupujú žiadne skutočné údaje o klientovi; Opýtajte sa na triedu, priraďte vozidlo.
2. Hodnotenie – Brána: Klinický úsudok. AI organizuje poznámky do biopsychosociálnych dimenzií a pripomína nedostatky a silné stránky. Dvere: Diagnostika a hodnotenie patrí odborníkovi; AI nevyhodnocuje.
3. Riziko – dvere: Autorita a tím. AI pripomína rizikové/ochranné faktory a vytvára kostru bezpečnostného plánu. Dvere: Rozhodnutie o riziku robí iba odborník, tím, dohľad a právny proces; AI neprodukuje skóre/rozhodnutia.
4. Plánovanie a poradenstvo — Dvere: Validácia a klient. AI vkladá ciele do SMART, generuje nápady na zdroje a návrhy listov. Dvere: Klient stanovuje ciele; Služba/adresa/stav je overená z oficiálneho zdroja.
5. Správa a komunikácia – dvere: dôkazy a zodpovednosť. AI štruktúruje správu, zjednodušuje a prekladá text. Dvere: Každý prípad závisí od dôkazov, posudok patrí znalcovi, preveruje sa kritická strata informácií a zaujatosť, podpis je v osobe.
6. Zatvorenie a odovzdanie — Brána: Presnosť. YZ sumarizuje súbor chronologicky. Dvere: Súhrn je založený len na zázname; Výsledky a poznatky overuje odborník.
Tip: Na zapamätanie dverí použite jedinú otázku: „Urobí v tomto kroku AI rozhodnutie alebo vytvorí náčrt? Ak je odpoveďou „rozhodnutie“, zastavte sa – tento krok patrí človeku. Ak je odpoveď „koncept“, pokračujte, ale bez overenia výstupu neprechádzajte na ďalší krok.
Corporate governance: individuálna disciplína nestačí
Dobré návyky odborníka sú cenné, ale krehké; Bezpečné a konzistentné používanie AI v organizácii si vyžaduje rámec riadenia. Kľúčovými komponentmi tohto rámca sú:
- Zoznam schválených vozidiel. Je napísané a jasné, ktorý nástroj sa na ktorú prácu použije a aké údaje je možné do ktorého nástroja zadať. „Každý by mal používať akýkoľvek nástroj, ktorý chce“ je bezpečnostná chyba.
- Politika klasifikácie údajov. Je definované, ktoré údaje sa budú spracovávať v otvorenom nástroji a ktoré iba v zabezpečenom systéme.
- Úloha a autorita. Je jasné, kto čo môže robiť a aké rozhodnutie závisí od toho, ktorý orgán (najmä rizikové rozhodnutia).
- Log a audit trail. Kde a ako sa AI používa, je možné monitorovať; Keď sa vyskytne problém, dá sa obzrieť späť.
- Vzdelávanie a informovanosť. Každý zamestnanec pozná princípy v tomto module; Nováčik je zaškolený.
- Neustála kontrola. Zmeny nástrojov, rizík a legislatívy; Rámec sa pravidelne aktualizuje. Raz napísaná a zabudnutá politika sa stáva zastaranou.
tri mini prípady
Prípad 1 – Dvere zachytili chybu na začiatku reťazca. V jednom prípade AI pridala postreh, ktorý klient vo fáze hodnotenia nespomenul. Pri bráne "klinického posúdenia" to znalec zachytil a vymazal. Ak by ho nechytili, toto vymyslené pozorovanie mohlo uniknúť do plánu, odtiaľ do správy a odtiaľ do rozhodnutia súdu. Vrstvená autentifikácia zastavila chybu v najskoršom bode.
Prípad 2 – Správa zabránila porušeniu. Jedna organizácia fungovala bez schváleného zoznamu nástrojov a politiky údajov; Každý používal svoje vlastné vozidlo. Audit odhalil, že viacerí zamestnanci zadávali skutočné údaje o klientoch do otvorených nástrojov. Organizácia vytvorila rámec riadenia: schválené nástroje, klasifikácia údajov, školenie a registrácia. V nasledujúcom období klesol počet priestupkov na nulu. Poučenie: individuálna dobrá vôľa nestačí bez inštitucionálnej štruktúry.
Prípad 3 – Priebežná kontrola priebežne aktualizovaná. Politika organizácie AI, napísaná pred rokom, bola zastaraná vzhľadom na nový typ nástroja a aktualizovanú legislatívu. Ročný prehľad to zachytil; Zásady boli aktualizované, školenie bolo obnovené. Rám zostal živým dokumentom, nie ozdobou police.
Štyri kopírovateľné šablóny
1) Kontrolný zoznam brány na overenie toku prípadov:
Vaša úloha: supervízor. Dostávam kontrolný zoznam overenia pre nasledujúci krok prípadu: čo môže AI navrhnúť v tomto kroku, ktoré rozhodnutie je nevyhnutne ľudské, aké kontroly súkromia a zaujatosti by sa mali vykonať, čo by som si mal overiť, kým prejdem na ďalší krok? Krok: [žiadosť / hodnotenie / riziko / plán / správa / ukončenie]
2) Potvrdená zhoda vozidla:
Pre každý zo zoznamov úloh nižšie špecifikujte typ nástroja AI, ktorý možno použiť (otvorený nástroj / iba zabezpečený podnikový systém / nie je k dispozícii žiadna AI) a zdôvodnenie. Označte každú úlohu obsahujúcu údaje klienta ako „iba zabezpečený systém“. Úlohy: [zoznam úloh]
3) Návrh podnikovej politiky AI:
Vaša úloha: editor podnikovej politiky. Navrhnite zodpovednú politiku používania AI pre agentúru sociálnych služieb; Zaoberajte sa nasledujúcimi témami: účel, schválené nástroje, klasifikácia údajov, roly a oprávnenia, súkromie/KVKK, limit rozhodovania o riziku, zaznamenávanie a audit, školenie, plán kontroly. Stanovte všeobecný rámec; Inštitúcia si sama vyplní údaje.
4) Samoregulácia (kontrola osobného použitia):
Vytvorte si vlastný kontrolný zoznam 10 otázok, aby som mohol skontrolovať svoje používanie AI ako sociálny pracovník: súkromie, overovanie, zaujatosť, vernosť dôkazov, limity rozhodovania a orientácia na klienta. Na každú otázku nech sa odpovie „áno/nie“.
Slabá výzva / Silná výzva
Slabá výzva:
Dám vám celý tento prípad; Vy vybavujete všetko od prihlášky až po správu, ja to na konci už len podpíšem.
Ide o outsourcing celého procesu – vrátane súkromia, klinického úsudku, hodnotenia rizika, dodržiavania dôkazov – na softvér. Jediný podpis na konci nás oslepuje pred všetkými chybami, výmyslami a zaujatosťami medzi tým.
Výkonná výzva:
Vaša rola: redaktor, ktorý mi pomáha na každom kroku. S prípadom budem postupovať krok za krokom (hodnotenie, plán, správa...). V každom kroku: pracujte iba s anonymnými/zabezpečenými údajmi, vytvorte koncept, nechajte ma rozhodnúť, nepridávajte to, čo nie je v poznámke, a pripomeňte mi, čo musím overiť, kým prejdem na ďalší krok. Začnime týmto krokom: [krok]
Rozdiel: stráženie dverí pri každom kroku a umiestnenie AI ako pomocníka krok za krokom zachováva bezpečnosť a zodpovednosť človeka pri zachovaní rýchlosti.
Stupeň-brána-zhrnutie zodpovednosti
Etapa
Príspevok AI
ľudská brána
kritická kontrola
Aplikácia
Príprava na pohovor
súkromia
Dátová trieda
Hodnotenie
Úprava veľkosti
klinický úsudok
Žiadna diagnóza, žiadne výmysly
Riziko
Pripomenutie faktora
Autorita + tím
Žiadne skóre/rozhodnutie
Plán/usmernenie
návrh + nápad
Validácia + klient
Potvrdenie zdroja, priorita klienta
Nahlásiť/kontaktovať
Štruktúra + zjednodušenie
Dôkazy + zodpovednosť
Názor odborníka, kontrola zaujatosti
Zatváranie
Chronologické zhrnutie
presnosť
na základe záznamov
Časté chyby
- Odovzdanie celého procesu AI a podpísanie jediného podpisu na konci. Chyby medzi nimi nie sú viditeľné; Na každom kroku by mali byť dvere.
- Prechod cez dvere bez overenia. Zhotovenie jedného štádia zdedí ďalšie; Každý výstup je overený.
- Ponechať riadenie na individuálnu disciplínu. Bez inštitucionálneho rámca sú dobré návyky krehké.
- Napíšte politiku raz a zabudnite na ňu. Zmena nástrojov a legislatívy; Je potrebná neustála kontrola.
- Nevedenie záznamov. Bez revízneho záznamu sa problém nedá obzrieť späť a nemožno ho brať na zodpovednosť.
V súhrne
V sociálnej práci je AI katalyzátorom na každom kroku, rozhodovateľom v žiadnom kroku, od aplikácie až po uzavretie prípadu. Umiestnite šesť ľudských brán (dôvernosť, klinický úsudok, autorita/tím, validácia/klient, dôkazy/zodpovednosť, integrita) do toku end-to-end; Neprechádzajte z jedných dverí k druhým bez toho, aby ste nimi neprešli. Aby to bolo udržateľné, je potrebné podnikové riadenie: zoznam schválených nástrojov, dátová politika, roly, registrácia, školenia a priebežná kontrola. Šesť hlavných princípov modulu – ľudská zodpovednosť, overovanie, súkromie/PDPA, záväzok voči dôkazom, kontrola zaujatosti a zameranie sa na klienta – by sa malo začleniť do každého pracovného postupu.
Aplikačná úloha
Mentálne zmapujte fiktívny prípad od aplikácie po uzavretie; Vytvorte kontrolný zoznam pre každú fázu so šablónou „brány na overenie toku prípadov“. Potom klasifikujte úlohy v tomto prípade ako otvorené vozidlo / zabezpečený systém / bez AI pomocou šablóny „overené priraďovanie vozidiel“. Nakoniec sa ohodnoťte vytvorením zoznamu 10 otázok na vlastné použitie AI pomocou šablóny „samoaudit“.
kontrolný zoznam
- [ ] Identifikoval som šesť ľudských brán v toku end-to-end.
- [ ] Na každom kroku "rozhodnutie alebo návrh?" Použil som otázku.
- [ ] Priradil som úlohy k správnemu typu vozidla (otvorené/bezpečné/žiadne).
- [ ] Poznám komponenty podnikového riadenia (nástroj, údaje, rola, registrácia, školenie, prehľad).
- [ ] Implementoval som šesť nosných princípov modulu do vlastného pracovného postupu.
Modulová skúška
1. Ktorá z nasledujúcich možností je pre umelú inteligenciu v sociálnej práci najpresnejšia?
- A) Umelá inteligencia môže rozhodnúť o úrovni rizika klienta a rozhodnutí o intervencii bez súhlasu človeka
- B) AI je nástroj na zhrnutie, usporiadanie, zjednodušenie a navrhovanie; Zodpovednosť za klinický úsudok, riziko a konečné rozhodnutie spočíva na odborníkovi ✔
- C) Umelá inteligencia je užitočná len na preklad textu a nemá nič spoločné s inými úlohami sociálnej práce
- D) Keďže umelá inteligencia je vždy nestrannejšia ako ľudia, hodnotenie treba nechať na ňu.
Popis: Umelá inteligencia; Je to asistent, ktorý organizuje poznámky, sumarizuje súbor, zjednodušuje text a vytvára návrhy. Zodpovednosť za klinický úsudok, posúdenie rizika, odborné stanovisko a konečné rozhodnutie spočíva na kompetentnom odborníkovi; Neoverený výstup môže viesť k nesprávnemu úsudku klienta, vyhýbaniu sa riziku alebo úniku citlivých údajov.
2. Aký je najsprávnejší pokyn, keď umelá inteligencia prevedie surové poznámky z rozhovoru na záznam prípadu?
- A) Žiadosť od umelej inteligencie o doplnenie chýbajúcich častí primeraným spôsobom tak, aby to vyzeralo profesionálne.
- B) Umožnenie AI pridať ďalšie pozorovania na obohatenie záznamu
- C) Požiadajte študenta, aby použil iba informácie skutočne uvedené v poznámke, označil chýbajúce položky ako „potrebuje objasnenie“ a nič nepridával ✔
- D) Vloženie priamo do súboru bez porovnania s notou, pokiaľ je výstup plynulý
Vysvetlenie: Najnebezpečnejšou tendenciou AI je vymýšľať si pozorovania, čísla alebo úvodzovky, ktoré nie sú v poznámke, aby sa záznam zdal byť „kompletný“. Správny prístup je povedať „len použite to, čo je v poznámke, označte chýbajúce, nič nepridávajte“. Medzery nie sú vyplnené, sú označené kvôli objasneniu.
3. Prečo je v zázname o prípade dôležité rozlišovanie medzi „faktom“ a „interpretáciou“?
- A) Fakt je konkrétne pozorovanie/vyhlásenie, zatiaľ čo interpretácia je odborný záver, ktorý si vyžaduje základ; Tieto dve položky by mali byť oddelené a komentár by mal byť označený ✔
- B) Rozlišovanie je zbytočné; skutočnosť a komentár možno zapísať rovnakým spôsobom do záznamu
- C) Dôležitý je len výklad; Je to možné aj vtedy, ak skutočnosti nie sú zaznamenané
- D) Keďže umelá inteligencia toto rozlíšenie dokonale rozlišuje, nie je potrebná ľudská kontrola.
Vysvetlenie: „Na pohovore trikrát plakal“ je fakt; „Bol v depresii“ je komentár, ktorý nemožno napísať bez klinického základu. Záznam dáva do popredia skutočnosť a zahŕňa výklad len s jasným označením a odôvodnením. AI dokáže tieto dve veci plynule miešať; Je povinnosťou človeka rozlišovať a vyhýbať sa stigmatizácii jazyka.
4. Akú úlohu by mala zohrávať umelá inteligencia pri rozhodovaní o tom, či je dieťa v bezpečí doma, alebo o miere rizika prípadu?
- A) Umelá inteligencia dokáže prečítať prípad, určiť úroveň rizika a urobiť bezpečnostné rozhodnutie
- B) Označenie „nízke riziko“ dané umelou inteligenciou môže prevážiť pozorovanie odborníka v opak
- C) Umelá inteligencia iba pripomína faktory a organizuje poznámky; Rozhodnutie o úrovni rizika a bezpečnosti patrí odborníkovi, tímu, dohľadu a právnemu procesu ✔
- D) Umelá inteligencia je pri rozhodovaní o riziku spoľahlivejšia ako ľudia, pretože je nezaujatá.
Popis: Úroveň rizika a bezpečnostné rozhodnutie; Vyžaduje si to profesionálnu autoritu, klinický úsudok, názor multidisciplinárneho tímu, dohľad a právnu zodpovednosť. Tu môže AI iba vyvolať rizikové/ochranné faktory a upraviť poznámky; nemôže produkovať skóre alebo rozhodnutia. Môže tiež pripisovať systematické vysoké riziko znevýhodneným skupinám v dôsledku skreslenia údajov o školení, takže jeho výstup nemožno použiť ako rozhodnutie.
5. Čo by sa malo urobiť, keď umelá inteligencia poskytne klientovi informácie o odporúčaní tým, že povie „toto centrum, ten telefón“?
- A) Potvrdenie adresy a telefónneho čísla z oficiálneho a aktuálneho zdroja inštitúcie predtým, ako ich poskytnete klientovi ✔
- B) Sprostredkovanie informácií priamo klientovi tak, ako sú prezentované sebavedomo
- C) Za predpokladu, že informácie sú absolútne správne, pokiaľ umelá inteligencia uvádza aktuálny dátum
- D) Myslieť si, že nie je potrebné skúmať presnosť informácií, pretože sú niekde uvedené.
Popis: Umelá inteligencia môže tvoriť služby, aplikačné požiadavky, adresy a telefónne čísla alebo poskytovať neaktuálne informácie; Inštitúcie sa spájajú, presúvajú, zatvárajú. Odoslanie klienta na neoverenú adresu povedie k zmarenej ceste a strate dôvery. Preto musia byť kontaktné informácie poskytnuté umelou inteligenciou pred odoslaním klientovi potvrdené prostredníctvom vlastného oficiálneho kanála inštitúcie.
6. Kto by mal stanoviť ciele v pláne reakcie a aká je úloha AI?
- A) Umelá inteligencia by mala určiť ciele a napísať celý plán bez toho, aby sa pýtala klienta.
- B) Klient (spolu so špecialistom) určuje ciele; AI ich vkladá do formátu SMART a štruktúruje ich, nepridáva nové ciele ✔
- C) Ciele nie sú dôležité; Čím viac cieľov plán obsahuje, tým lepšie.
- D) Umelá inteligencia môže ignorovať priority klienta, pretože vyzerá profesionálne
Popis: Základnou hodnotou sociálnej práce je „sebaurčenie“: klient si stanovuje ciele a priority a formuje ich s odbornými odbornými znalosťami. Umelá inteligencia vkladá tieto ciele do formátu SMART a navrhuje kroky a ukazovatele; ale nemôže pridať nové ciele, ktoré klient nepovie. Na klienta nie je možné aplikovať cudzí, externe vnútený plán.
7. V akej otázke je umelá inteligencia v správe o sociálnom vyšetrovaní, ktorá sa má predložiť súdu, najnebezpečnejšia?
- A) Schopnosť vymyslieť neexistujúce dátumy, pozorovania alebo citácie, aby sa správa javila ako „kompletná“ ✔
- B) Príliš formálny jazyk textu
- C) Spísanie správy kratšie, ako sa požaduje
- D) Abecedné poradie názvov
Vysvetlenie: Najnebezpečnejšou tendenciou AI je pridať neexistujúci dátum, pozorovanie alebo citát, aby sa správa zdala „kompletná“. Vymyslený rozsudok v súdnej správe môže skresliť rozhodnutie a zničiť dôveryhodnosť znalca. Preto by mal byť každý prípad spojený so skutočným rozhovorom/pozorovaním/dokumentom a odborný názor by mal tvoriť odborník.
8. Kto by mal napísať odborný posudok a názor (návrh) správy o sociálnom vyšetrovaní?
- A) Umelá inteligencia; pretože vytvára nezaujatejšie odporúčanie
- B) Názorová časť sa pri písaní správy nikdy nevypĺňa.
- C) Umelá inteligencia napíše posudok, odborník sa podpíše až na záver
- D) Expert; odborný názor a názor sú jeho právomocou a zodpovednosťou, umelá inteligencia jazyk iba objasňuje ✔
Vyhlásenie: Profesionálny názor a názor – „toto je najlepší záujem tohto dieťaťa“, „toto opatrenie je vhodné“ – je zákonná právomoc a zodpovednosť odborníka. 'Čo odporúčam umelej inteligencii?' To sa nepýta; „Návrh“, ktorý vytvorí, môže byť vymyslený a zároveň môže byť prenesený na zodpovednosť. Umelá inteligencia v najlepšom prípade objasňuje jazyk názoru, ktorý odborník napísal.
9. Aká je najdôležitejšia kontrola pri zjednodušovaní ťažkého oficiálneho pomocného listu pre klienta s umelou inteligenciou?
- A) Udržujte text čo najkratší, nepozerajte sa na detaily
- B) Výsledok vyzerá plynulo a esteticky
- C) Overenie, že neboli vynechané žiadne práva, podmienky, sumy, dátumy alebo upozornenia porovnaním s originálom ✔
- D) Zjednodušenie poskytuje klientovi pohodlie tým, že mu poskytuje menej informácií.
Vysvetlenie: Zjednodušenie neznamená skreslenie; „Skrátením“ alebo „zjednodušením“ môže AI prehltnúť právo, stav, množstvo, dátum alebo upozornenie. Klient môže stratiť svoje právo s „jednoduchými“, ale neúplnými informáciami. Zjednodušený text by sa preto mal porovnať s originálom a overiť, že sa nestratili žiadne kritické informácie, a dokonca nechať umelú inteligenciu uviesť kritické prvky, ktoré chráni.
10. Ako je správne zaobchádzať so štatistikami vytvorenými umelou inteligenciou pri príprave žiadosti o financovanie?
- A) Priamo pomocou štatistík poskytnutých umelou inteligenciou, aby to vyzeralo pôsobivo
- B) Nevytváranie štatistík z umelej inteligencie, tlač [DATA REQUIRED] v prípade potreby a uvedenie každého čísla zo skutočného zdroja ✔
- C) Vzhľadom na to, že zdroj nie je dôležitý, pokiaľ je číslo zahrnuté v žiadosti.
- D) Za predpokladu, že nie je potrebné overovať štatistiky, pretože AI píše s istotou
Popis: Umelá inteligencia môže tvoriť pozoruhodné, ale nezdrojované štatistiky; Údaj bez zdroja je takmer vždy nespoľahlivý. Vymyslená štatistika v žiadosti zamietne žiadosť a zničí dôveryhodnosť inštitúcie. Správnym prístupom je nevytvárať čísla AI ('Write [DATA REQUIRED]') a vkladať každé číslo zo skutočného, overeného zdroja.
11. Prečo je škodlivé pýtať sa umelej inteligencie „vysvetlite, prečo táto rodina nedokáže vychovávať deti“?
- A) Pretože otázka je príliš dlhá
- B) Keďže umelá inteligencia nemôže poskytnúť žiadne informácie o rodinných záležitostiach
- C) Keďže umelá inteligencia od začiatku predpokladá výsledok, (lichotivo) produkuje nepodložené a neobjektívne potvrdenie; Otázka by mala byť neutrálna a vyvážená ✔
- D) Pretože umelá inteligencia bude vždy písať v prospech rodiny
Vysvetlenie: Táto otázka predpokladá výsledok („nedostatočný“). AI vytvára bez dôkazov a neobjektívny text, ktorý potvrdzuje tento predpoklad svojou tendenciou lichotiť (potvrdzovať svoje narážky). Zaujatá otázka vytvára zaujatú odpoveď. V skutočnosti je to neutrálna otázka, ktorá nepredpokladá výsledok, vyvažuje silné stránky a obavy a žiada len dôkazy.
12. Ako použiť „testovanie pod uhlom“ na kontrolu skreslenia výstupu AI?
- A) Premýšľate o rovnakej situácii pre inú skupinu a pýtate sa: „Bolo by to napísané v rovnakom jazyku?“ ✔ Testovanie dvojitých štandardov otázkou
- B) Prijať prvú odpoveď umelej inteligencie ako neutrálnu a nehľadať iný uhol pohľadu
- C) Kladenie iba otázok, ktoré podporujú skupinu klienta
- D) Za predpokladu, že nie je potrebná dodatočná kontrola, pretože skreslenie v umelej inteligencii vôbec neexistuje
Vysvetlenie: Umelá inteligencia môže napísať rovnaké správanie v inom tóne pre rôzne skupiny (napr. „riziko zanedbania“ pre rodinu s nízkym príjmom, „nútený rodič“ pre rodinu s vysokým príjmom). Inverzný test je „ak by bol klient z inej socioekonomickej/etnickej skupiny, bol by tento text napísaný v rovnakom jazyku?“ je pýtať sa; Tým sa zviditeľňujú dvojité štandardy založené na stereotypoch, nie na dôkazoch.
13. Aký je správny prístup na zhrnutie skutočného súboru klienta (vrátane mena, adresy, zdravotných informácií)?
- A) Pre rýchlosť ho vložte do najbližšieho verejného nástroja AI a nechajte si ho zhrnúť
- B) Spracovanie súboru bez ohľadu na súkromie, pretože je krátky
- C) Zadajte všetko vrátane zdravotných informácií a uložte iba výsledok
- D) Spracovávať iba v zabezpečenom systéme schválenom inštitúciou alebo s neidentifikovateľným textom, s minimálnym množstvom údajov ✔
Zverejnenie: Osobné údaje, ktoré identifikujú klienta – najmä citlivé údaje, ako je zdravie – sa nikdy nevkladajú do verejného nástroja, ktorý inštitúcia neschválila; text môže byť spracovaný, uložený na externých serveroch alebo použitý v modelovom tréningu a exfiltrácia je nezvratná. Toto je tiež porušenie KVKK. Tento typ práce sa vykonáva iba v interných, zabezpečených a schválených systémoch, z ktorých neunikajú údaje alebo s neidentifikovateľným textom.
14. Prečo vymazanie mien z dokumentu nie vždy postačuje na to, aby sa dokument stal verejným nástrojom?
- A) Odstránenie mien je vždy úplná anonymizácia a zabezpečuje bezpečnosť každého dokumentu
- B) Pokiaľ je dokument krátky, nie je možné vyvodiť identitu z kontextu
- C) Dokument, ktorého názov bol úplne vymazaný, nespadá do pôsobnosti KVKK.
- D) Kontext (susedstvo, vek, udalosť, rodinná štruktúra) môže potvrdiť identitu; Ochrana je zabezpečená výberom nástroja a prostredia ✔
Vysvetlenie: Aj keď sú mená vymazané, kontext (zriedkavá kombinácia okolia, veku, udalosti, dátumu, rodinnej štruktúry atď.) môže spôsobiť, že osoba bude identifikovateľná; Môže byť jediným človekom v okolí, ktorý zodpovedá popisu. Skutočnú ochranu neposkytuje maskovanie, ale výber správneho nástroja a prostredia; Kontextom sú aj osobné údaje a neisté informácie by mali byť chránené ako vyššia trieda.
15. Od podania žiadosti až po uzavretie prípadu, aký je najefektívnejší spôsob, ako zabrániť preniknutiu jedinej chyby AI do konečného rozhodnutia?
- A) Delegovanie celého procesu na jediný nástroj AI a podpísanie iba raz na konci
- B) Zavedenie ľudskej overovacej brány a podmienky úspešnosti v každej fáze (vrstvené overenie) ✔
- C) Odstránenie medziľahlých overení rýchlosti a kontroly iba vo výstupnej fáze
- D) Umožnenie každému odborníkovi voľne používať svoj vlastný nástroj bez vedenia záznamov
Opis: V každej fáze (žiadosť/dôvernosť, posúdenie/klinický posudok, riziko/povolenie, plán/overenie, správa/dôkaz, uzavretie/presnosť) je umiestnená brána ľudského overovania; Nemôžete prejsť cez jedny dvere bez toho, aby ste neprešli cez druhé. Táto vrstvená štruktúra zabraňuje tomu, aby halucinácie, zaujatosť alebo chyba dôvernosti v jednej fáze prenikli do rozhodnutia ovplyvňujúceho klienta.