Teljes körű munkafolyamat, irányítás és felelősségteljes használat — Mesterséges intelligencia a szociális munkában

Nyereség:

Képes mesterséges intelligencia következetes beágyazására minden szakaszban az alkalmazástól a bezárásig hat emberi ellenőrző kapuval
Képes vállalatirányítási keretrendszer létrehozására jóváhagyott eszközök listájával, adatpolitikával, szerepekkel, regisztrációval, képzéssel és folyamatos felülvizsgálattal
Az emberi felelősség, az ellenőrzés, a magánélet/KVKK, a bizonyítékok betartása, az elfogultság ellenőrzése és az ügyfélközpontúság elveinek beágyazása a munkafolyamatba

Ebben a modulban végigjártuk a mesterséges intelligencia alkalmazásának módját, és hol állíthatjuk le a szociális munka különböző feladatai során – dokumentáció, felmérés, kockázattámogatás, beutaló, terv, jelentés, kommunikáció, programtervezés. Ebben az utolsó egységben összerakjuk a darabokat: ahol a mesterséges intelligencia végpontokig ül az alkalmazástól az ügy lezárásáig, mely emberi ellenőrzési ajtó megáll minden szakaszban, és kialakítjuk az ehhez szükséges irányítási keretet, hogy ez fenntartható legyen egy szervezetben. A cél az, hogy a szétszórt tippeket következetes és megismételhető munkafegyelemmé alakítsuk.

Integratív elv a kezdetektől fogva: az AI egy gyorsító a munkafolyamat minden lépésében, nem döntéshozó egyetlen lépésben sem. Minden szakaszban van egy emberi ajtó, és nem léphet át a következőre anélkül, hogy áthaladna az egyik ajtón. Ez a réteges szerkezet megakadályozza, hogy egyetlen hallucináció, elfogultság vagy adatvédelmi hiba beszivárogjon egy olyan döntésbe, amely befolyásolja az ügyfél életét.

Végtől-végig áramlás és hat emberi kapu

Vizsgáljuk meg az esetet tipikus szakaszain keresztül, és helyezzünk el minden szakaszhoz egy ellenőrző kaput:

1. Jelentkezés / első kapcsolatfelvétel — Ajtó: Adatvédelem. Amikor megérkezik az első információ, a mesterséges intelligencia az interjú előkészítésére szolgál (útmutató, kérdéskeret). Ajtó: Nem lépnek be tényleges ügyféladatok a nyitott eszközbe; Kérjen osztályt, mérkőzés járművet.

2. Értékelés – Gate: Klinikai megítélés. Az AI a jegyzeteket biopszichoszociális dimenziókba rendezi, és emlékeztet a hiányosságokra és az erősségekre. Ajtó: A diagnózis és a kiértékelés a szakemberé; Az AI nem értékel.

3. Kockázat – ajtó: Hatóság és csapat. A mesterséges intelligencia a kockázati/védő tényezőkre emlékeztet, és biztonsági tervvázat készít. Ajtó: A kockázati döntést csak szakértő, csapat, felügyelet és jogi eljárás hozza meg; Az AI nem ad pontszámokat/döntéseket.

4. Tervezés és útmutatás – Ajtó: Érvényesítés és ügyfél. Az AI a célokat a SMART-ba helyezi, erőforrás-ötleteket és levélvázlatokat generál. Ajtó: Az ügyfél határozza meg a célokat; A szolgáltatás/cím/állapot a hivatalos forrásból igazolt.

5. Jelentés és kommunikáció – Ajtó: Bizonyítékok és elszámoltathatóság. Az AI strukturálja a jelentést, leegyszerűsíti és lefordítja a szöveget. Ajtó: Minden ügy bizonyítékon múlik, a vélemény a szakértőé, a kritikus információvesztést, torzítást ellenőrzik, az aláírás a személyben van.

6. Zárás és átadás - Kapu: Pontosság. Az YZ kronologikusan összefoglalja a fájlt. Ajtó: Az összefoglaló csak a lemezen alapul; Az eredményeket és a tanultakat a szakértő ellenőrzi.

Tipp: Használjon egyetlen kérdést, hogy emlékezzen az ajtókra: "Ebben a lépésben az AI döntést hoz vagy vázlatot készít?" Ha a válasz „döntés”, állj meg – ez a lépés az emberé. Ha a válasz "piszkozat", folytassa, de ne lépjen tovább a következő lépésre a kimenet ellenőrzése nélkül.

Vállalatirányítás: az egyéni fegyelem nem elég

A szakértő jó szokásai értékesek, de törékenyek; A mesterséges intelligencia biztonságos és következetes használatához egy szervezetben irányítási keretre van szükség. Ennek a keretnek a fő összetevői a következők:

Jóváhagyott járműlista. Le van írva és egyértelmű, hogy melyik munkakörhöz melyik eszközt fogják használni, és melyik eszközbe milyen adatokat lehet bevinni. "Mindenki olyan eszközt használjon, amilyet akar" egy biztonsági rés.
Adatbesorolási szabályzat. Meg van határozva, hogy mely adatok kerülnek feldolgozásra a nyílt eszközben, és melyek csak a biztonságos rendszerben.
Szerep és tekintély. Egyértelmű, hogy ki mit tehet, és melyik döntés melyik hatóságtól függ (főleg a kockázati döntésektől).
Napló és ellenőrzési nyomvonal. nyomon követhető, hogy hol és hogyan használják az AI-t; Ha probléma van, vissza lehet nézni.
Oktatás és tudatosság. Minden alkalmazott ismeri a modul alapelveit; A jövevény képzett.
Állandó felülvizsgálat. Eszközök, kockázatok és jogszabályok változása; A keretrendszert rendszeresen frissítik. Az egyszer megírt és elfelejtett irányelv elavulttá válik.

három mini tok

1. eset – A Doors hibát észlelt a lánc elején. Egy esetben az AI megjegyzést tett hozzá, amelyet az ügyfél nem említett az értékelési szakaszban. A "klinikai megítélés" kapujában a szakértő ezt elkapta és törölte. Ha nem kapják el, ez a koholt megfigyelés beszivároghatott volna a tervbe, onnan a feljelentésbe, onnan pedig egy bírósági döntésbe. A réteges hitelesítés a legkorábban leállította a hibát.

2. eset – A kormányzás megakadályozta a jogsértést. Egy szervezet jóváhagyott eszközlista és adatpolitika nélkül működött; Mindenki a saját járművét használta. Az ellenőrzés során kiderült, hogy több alkalmazott tényleges ügyféladatokat vitt be nyílt eszközökbe. A szervezet kialakított egy irányítási keretet: jóváhagyott eszközök, adatosztályozás, képzés és regisztráció. A következő időszakban a szabálysértések száma nullára csökkent. Tanulság: az egyéni jóakarat nem elég intézményes struktúra nélkül.

3. eset – Folyamatos felülvizsgálat naprakészen tartva. Egy szervezet mesterséges intelligencia-politikája, amelyet egy éve írt, elavult volt az új típusú eszközök és a frissített jogszabályok miatt. Az éves áttekintés ezt megragadta; Frissült a házirend, megújult a képzés. A keret élő dokumentum maradt, nem polcdísz.

Négy másolható sablon

1) Ügyfolyamat-ellenőrző kapu ellenőrzőlista:

Az Ön szerepe: felügyelő. A következő esetlépéshez kapok egy érvényesítési ellenőrzőlistát: mit tud az AI ebben a lépésben megfogalmazni, melyik döntés szükségszerűen emberi, milyen adatvédelmi és elfogultsági ellenőrzéseket kell elvégezni, mit kell ellenőriznem, mielőtt a következő lépésre lépnék? Lépés: [kérelem / értékelés / kockázat / terv / jelentés / lezárás]

2) Megerősített járműegyezés:

Az alábbi feladatlisták mindegyikéhez adja meg a használható mesterséges intelligencia eszköz típusát (nyílt eszköz / csak biztonságos vállalati rendszer / Nem áll rendelkezésre mesterséges intelligencia) és annak indoklását. Jelölje meg az ügyféladatokat tartalmazó feladatokat "csak biztonságos rendszer"-ként. Feladatok: [feladatok listája]

3) Vállalati mesterséges intelligencia irányelvtervezet:

Az Ön szerepe: vállalati szabályzatszerkesztő. Felelős mesterségesintelligencia-használati szabályzat tervezete egy szociális szolgáltató ügynökség számára; Fedezd fel a következő témaköröket: cél, jóváhagyott eszközök, adatosztályozás, szerepek és jogosultságok, adatvédelem/KVKK, kockázati döntési korlát, rögzítés és auditálás, képzés, felülvizsgálati ütemterv. Állítsa be az általános keretet; Az intézmény kitölti saját adatait.

4) Önszabályozás (személyes használati felülvizsgálat):

Hozzon létre egy 10 kérdésből álló önellenőrző listát, hogy áttekintsem, hogyan használom az MI-t szociális munkásként: adatvédelem, ellenőrzés, elfogultság, bizonyítékok hűsége, döntési korlátok és ügyfélközpontúság. Legyen minden kérdésre "igen/nem" a válasz.

Gyenge felszólítás / Erős felszólítás

Gyenge felszólítás:

Átadom az egész ügyet; A jelentkezéstől a jelentésig mindent te intézel, csak a végén aláírom.

Ez a teljes folyamatot – beleértve a magánélet védelmét, a klinikai megítélést, a kockázatok megítélését, a bizonyítékokhoz való ragaszkodást – szoftverre bízza. Az egyetlen aláírás a végén elvakít minket a köztük lévő hibák, kitalációk és elfogultságok előtt.

Erőteljes felszólítás:

Az Ön szerepe: szerkesztő, aki minden lépésemben segít. Lépésről lépésre haladok tovább az esettel (értékelés, terv, jelentés...). Minden lépésnél: csak névtelen/biztonságos adatokkal dolgozzon, készítsen vázlatot, döntse el én, ne adja hozzá azt, ami nincs a jegyzetben, és emlékeztessen arra, hogy mit kell ellenőriznem, mielőtt a következő lépésre lépne. Kezdjük ezzel a lépéssel: [lépés]

A különbség: ha minden lépésnél őrzi az ajtót, és lépésről lépésre asszisztensként pozicionálja az AI-t, a biztonság és a felelősség megőrzése mellett a sebesség is megmarad.

Színpad-kapu-felelősség összefoglaló

Színpad

Az AI hozzájárulása

emberi kapu

kritikus ellenőrzés

Alkalmazás

Interjú előkészítés

magánélet

Adatosztály

Értékelés

Méret szerkesztés

klinikai megítélés

Nincs diagnózis, nincs kitaláció

Kockázat

Tényező emlékeztető

Hatóság + csapat

Nincs pontszám/döntés

Terv/útmutatás

tervezet + ötlet

Érvényesítés + kliens

Forrás megerősítése, ügyfél prioritás

Jelentés/kapcsolat

Szerkezet + egyszerűsítés

Bizonyíték + felelősség

Szakértői vélemény, részrehajlás ellenőrzése

Bezárás

Kronológiai összefoglaló

pontosság

rekord alapú

Gyakori hibák

A teljes folyamat átadása az AI-nak, és a végén egyetlen aláírás aláírása. A köztük lévő hibák nem láthatók; Minden lépésnél ajtóknak kell lenniük.
Áthaladni egy ajtón anélkül, hogy ellenőrizné. Az egyik szakasz elkészítését a következő örökli; Minden kimenet érvényesítve van.
A kormányzást az egyéni fegyelemre hagyva. Intézményi keretek nélkül a jó szokások törékenyek.
Írd meg egyszer a szabályzatot, és felejtsd el. Változások az eszközök és a jogszabályok; Folyamatos felülvizsgálat szükséges.
Nem vezet nyilvántartást. Ellenőrzési nyomvonal nélkül a problémát nem lehet visszatekinteni, és nem lehet felelősségre vonni.

Összefoglalva

A szociális munkában a mesterséges intelligencia minden lépésben katalizátor, lépés nélkül döntéshozó, a kérelemtől az ügy lezárásáig. Helyezzen el hat emberi kaput (bizalmasság, klinikai ítélet, tekintély/csapat, érvényesítés/kliens, bizonyíték/elszámoltathatóság, integritás) a végpontok közötti áramlásba; Ne menjen át egyik ajtóról a másikra anélkül, hogy áthaladna. Ennek fenntarthatóvá tételéhez vállalatirányítás szükséges: jóváhagyott eszközök listája, adatpolitika, szerepkörök, regisztráció, képzés és folyamatos felülvizsgálat. A modul hat alapelvét – az emberi felelősséget, az ellenőrzést, az adatvédelem/PDPA-t, a bizonyítékok iránti elkötelezettséget, az elfogultság ellenőrzését és az ügyfélközpontúságot – minden munkafolyamatba bele kell szőni.

Pályázati feladat

Mentálisan felvázol egy kitalált esetet a jelentkezéstől a lezárásig; Minden szakaszhoz készítsen egy ellenőrzőlistát egy „ügyfolyamat ellenőrző kapu” sablonnal. Ezután a feladatokat ebben az esetben a nyitott jármű / biztonságos rendszer / nincs mesterséges intelligencia kategóriába sorolja a „validated vehicle matching” sablonnal. Végül értékelje magát egy 10 kérdésből álló lista létrehozásával az AI saját használatához az „önellenőrző” sablon segítségével.

ellenőrző lista

[ ] Hat emberi kaput azonosítottam a végpontok közötti áramlásban.
[ ] Minden lépésnél "döntés vagy tervezet?" alkalmaztam a kérdést.
[ ] A feladatokat a megfelelő járműtípushoz (nyitott/biztonságos/nincs) párosítottam.
[ ] Ismerem a vállalatirányítási összetevőket (eszköz, adatok, szerepkör, regisztráció, képzés, áttekintés).
[ ] A modul hat hordozóelvét implementáltam a saját munkafolyamatomba.

Modul vizsga

1. Az alábbiak közül melyik a legpontosabb pozicionálás a mesterséges intelligencia számára a szociális munkában?

A) A mesterséges intelligencia emberi jóváhagyás nélkül képes eldönteni a kliens kockázati szintjét és beavatkozási döntését
B) A mesterséges intelligencia összefoglaló, rendszerező, egyszerűsítő és megfogalmazó eszköz; A klinikai megítélésért, a kockázatért és a végső döntésért a felelősség a szakértőt terheli ✔
C) A mesterséges intelligencia csak szövegfordításra hasznos, és semmi köze más szociális munkához
D) Mivel a mesterséges intelligencia mindig pártatlanabb, mint az ember, az értékelést rá kell bízni.

Leírás: Mesterséges intelligencia; Ez egy asszisztens, amely jegyzeteket rendszerez, összefoglalja a fájlt, egyszerűsíti a szöveget és piszkozatokat készít. A klinikai megítélés, a kockázatértékelés, a szakmai vélemény és a végső döntés felelőssége az illetékes szakembert terheli; A nem ellenőrzött kimenet az ügyfél téves megítéléséhez, kockázatelkerüléshez vagy érzékeny adatok kiszivárgásához vezethet.

2. Mi a leghelyesebb instrukció, amikor egy interjú nyers jegyzeteit mesterséges intelligencia eseti jegyzőkönyvké alakítja?

A) Mesterséges intelligencia kérése, hogy ésszerű módon töltse ki a hiányzó részeket, hogy az professzionálisnak tűnjön.
B) Lehetővé teszi a mesterséges intelligencia számára, hogy további megfigyeléseket adjon hozzá a rekord gazdagításához
C) Kérje meg a tanulót, hogy csak a jegyzetben ténylegesen szereplő információkat használja fel, a hiányzó elemeket jelölje meg „tisztázásra szorul”-ként, és ne adjon hozzá semmit ✔
D) Közvetlenül a fájlba helyezése anélkül, hogy összehasonlítaná a jegyzettel, amíg a kimenet gördülékeny

Magyarázat: A mesterséges intelligencia legveszélyesebb tendenciája az, hogy olyan megfigyeléseket, számokat vagy idézeteket gyárt, amelyek nem szerepelnek a jegyzetben, hogy a feljegyzés „teljesnek” tűnjön. A helyes megközelítés az, hogy „csak azt használd, ami a jegyzetben van, jelöld meg a hiányzókat, ne adj hozzá semmit”. A hiányosságok nincsenek kitöltve, pontosítás céljából megjelölve.

3. Miért fontos a „tény” és az „értelmezés” közötti különbségtétel egy ügyiratban?

A) A tény konkrét megfigyelés/állítás, míg az értelmezés szakmai következtetés, amely alapot igényel; A kettőt el kell választani, és a megjegyzést meg kell jelölni ✔
B) A megkülönböztetés szükségtelen; tény és megjegyzés ugyanúgy írható a jegyzőkönyvbe
C) Csak az értelmezés számít; Még akkor is lehetséges, ha a tényeket nem rögzítik
D) Mivel a mesterséges intelligencia ezt a különbséget tökéletesen teszi, nincs szükség emberi irányításra.

Magyarázat: „Háromszor sírt az interjúban” tény; „Depressziós volt” – ez a megjegyzés, amelyet nem lehet megírni klinikai alap nélkül. A jegyzőkönyv előtérbe helyezi a tényt, és csak egyértelmű címkézéssel és indoklással tartalmazza az értelmezést. Az AI folyékonyan tudja keverni a kettőt; Az ember kötelessége, hogy különbséget tegyen, és kerülje a megbélyegző nyelvezetet.

4. Milyen szerepet kell játszania a mesterséges intelligencia annak eldöntésében, hogy egy gyermek biztonságban van-e otthon, vagy milyen kockázati szintről van szó?

A) A mesterséges intelligencia képes elolvasni az esetet, meghatározni a kockázati szintet és meghozni a biztonsági döntést
B) A mesterséges intelligencia által adott „alacsony kockázatú” címke felülírhatja a szakértő ellenkező észrevételét
C) A mesterséges intelligencia csak emlékeztet a tényezőkre és rendszerezi a jegyzeteket; A kockázati szint és a biztonsági döntés a szakértői, csapat-, felügyeleti és jogi folyamathoz tartozik ✔
D) A mesterséges intelligencia megbízhatóbb, mint az emberek a kockázati döntéshozatalban, mert elfogulatlan.

Leírás: Kockázati szint és biztonsági döntés; Szakmai tekintélyt, klinikai megítélést, multidiszciplináris team véleményt, felügyeletet és jogi felelősséget igényel. Itt a mesterséges intelligencia csak kockázati/védő tényezőket tud felidézni és jegyzeteket szerkeszteni; nem tud pontszámokat vagy döntéseket produkálni. Szisztematikusan magas kockázatot is tulajdoníthat a hátrányos helyzetű csoportoknak a képzési adatok torzítása miatt, így a kimenete nem használható döntésként.

5. Mi a teendő, ha a mesterséges intelligencia „ez a központ, az a telefon” beutalási információt ad az ügyfélnek?

A) A cím és telefonszám megerősítése az intézmény hivatalos és aktuális forrásából az ügyfélnek történő átadás előtt ✔
B) Az információ továbbítása közvetlenül az ügyfélhez, ahogy azt magabiztosan adják elő
C) Feltéve, hogy az információ teljesen helytálló mindaddig, amíg a mesterséges intelligencia aktuális dátumot ad
D) Úgy gondolja, hogy nem kell vizsgálni az információ pontosságát, mert valahol meg van említve.

Leírás: A mesterséges intelligencia szolgáltatásokat, alkalmazási követelményeket, címeket és telefonszámokat tartalmazhat, vagy elavult információkat szolgáltathat; Az intézmények összeolvadnak, elköltöznek, bezárnak. Ha az ügyfelet nem ellenőrzött címre küldi, elvesztegetett utazáshoz és bizalomvesztéshez vezet. Ezért a mesterséges intelligencia által megadott elérhetőségeket az intézmény saját hivatalos csatornáján meg kell erősíteni, mielőtt az ügyfélhez eljuttatják.

6. Ki tűzzen ki célokat egy választervben, és mi a szerepe az AI-nak?

A) A mesterséges intelligenciának meg kell határoznia a célokat és meg kell írnia a teljes tervet anélkül, hogy megkérdezné az ügyfelet.
B) Az ügyfél (a szakemberrel együtt) határozza meg a célokat; Az AI SMART formátumba helyezi és strukturálja őket, nem ad hozzá új célokat ✔
C) A célok nem fontosak; Minél több célt tartalmaz a terv, annál jobb.
D) A mesterséges intelligencia figyelmen kívül hagyhatja az ügyfél prioritásait, mert professzionálisnak tűnik

Leírás: A szociális munka alapértéke az „önrendelkezés”: a kliens célokat, prioritásokat tűz ki, azokat szakértő szakmai tudással alakítja. A mesterséges intelligencia ezeket a célokat SMART formátumba helyezi, és lépéseket és mutatókat javasol; de nem tud új célokat hozzáadni, amelyeket az ügyfél nem mond. Idegen, kívülről kiszabott terv nem alkalmazható az ügyfélre.

7. A bírósághoz benyújtandó társadalmi vizsgálati jelentésben melyik kérdésben a legveszélyesebb a mesterséges intelligencia?

A) Képesség nem létező dátumok, megfigyelések vagy idézetek kitalálására, hogy a jelentés „teljesnek” tűnjön ✔
B) A szöveg nyelvezetének túl formálissá tétele
C) A jelentés megírása a kértnél rövidebbre
D) A címek betűrendje

Magyarázat: A mesterséges intelligencia legveszélyesebb tendenciája egy nem létező dátum, megfigyelés vagy idézet hozzáadása, hogy a jelentés „teljesnek” tűnjön. A bírósági jelentésben szereplő kitalált mondat félrevezetheti a döntést, és tönkreteheti a szakértő hitelességét. Ezért minden esetet valódi interjúhoz/megfigyeléshez/dokumentumhoz kell kötni, a szakmai véleményt a szakértőnek kell kialakítania.

8. Ki írja meg a társadalmi vizsgálati jelentés szakmai vélemény és vélemény (javaslat) rovatát?

A) Mesterséges intelligencia; mert elfogulatlanabb ajánlást produkál
B) A vélemény rovat soha nem kerül kitöltésre a jelentés írásakor.
C) A mesterséges intelligencia írja a véleményt, a szakértő csak a végén írja alá
D) Szakértő; a szakmai vélemény és vélemény az ő hatásköre és felelőssége, a mesterséges intelligencia csak tisztázza a nyelvet ✔

Nyilatkozat: A szakmai vélemény és vélemény – „ennek a gyermeknek ez a legjobb érdeke”, „ez az elrendezés megfelelő” – a szakértő jogi hatásköre és felelőssége. 'Mit ajánlok a mesterséges intelligenciának?' Nem kérik; Az általa megfogalmazott „javaslat” lehet kitalált és a felelősség átruházása is. Legjobb esetben a mesterséges intelligencia tisztázza a szakértő által írt vélemény nyelvezetét.

9. Mi a legkritikusabb kontroll egy mesterséges intelligenciával rendelkező kliensnek szóló súlyos hivatalos segítőlevél egyszerűsítésekor?

A) A szöveg legyen a lehető legrövidebb, ne nézzen részleteket
B) Az eredmény gördülékenynek és esztétikusnak tűnik
C) Annak ellenőrzése, hogy semmilyen jogot, feltételt, összeget, dátumot vagy értesítést nem hagytak ki az eredetivel való összehasonlítással ✔
D) Az egyszerűsítés vigaszt nyújt az ügyfélnek azáltal, hogy kevesebb információt ad neki.

Magyarázat: Az egyszerűsítés nem jelent torzítást; A „rövidítés” vagy „egyszerűsítés” segítségével az AI lenyelhet egy jogot, feltételt, összeget, dátumot vagy értesítést. Az ügyfél elveszítheti jogát a „könnyű”, de hiányos információkkal. Ezért az egyszerűsített szöveget össze kell hasonlítani az eredetivel, és ellenőrizni kell, hogy nem veszett-e el kritikus információ, sőt, a mesterséges intelligencia felsorolja azokat a kritikus elemeket, amelyeket véd.

10. Hogyan helyes a mesterséges intelligencia által készített statisztikák kezelése a támogatási kérelem elkészítésekor?

A) Közvetlenül a mesterséges intelligencia statisztikáinak felhasználásával, hogy lenyűgözőnek tűnjön
B) A mesterséges intelligencia nem képezi statisztikát, szükség esetén kinyomtatja [ADATOK SZÜKSÉGES], és minden számot a valós forrásból tesz ki ✔
C) Tekintettel arra, hogy a forrás mindaddig nem fontos, amíg a szám szerepel egy alkalmazásban.
D) Feltételezve, hogy nincs szükség a statisztikák ellenőrzésére, mert az AI magabiztosan ír

Leírás: A mesterséges intelligencia feltűnő, de forrás nélküli statisztikákat készíthet; A forrás nélküli adat szinte mindig megbízhatatlan. Egy koholt statisztika a pályázatban egyrészt elutasítja a pályázatot, másrészt rombolja az intézmény hitelességét. A helyes megközelítés az, hogy a mesterséges intelligencia nem alkot számokat („Írjon [ADATOK SZÜKSÉGES]”), és minden számot a valódi, ellenőrzött forrásból adjon meg.

11. Miért káros a mesterséges intelligenciától megkérni, hogy „magyarázza meg, miért nem megfelelő ez a család a gyermeknevelésben”?

A) Mert a kérdés túl hosszú
B) Mivel a mesterséges intelligencia nem tud semmilyen információt adni családi ügyekben
C) Mivel kezdettől fogva feltételezi az eredményt, a mesterséges intelligencia (hízelgően) megalapozatlan és elfogult megerősítést ad; A kérdés legyen semleges és kiegyensúlyozott ✔
D) Mert a mesterséges intelligencia mindig a család javára fog írni

Magyarázat: Ez a kérdés feltételezi az eredményt ('elégtelen'). A mesterséges intelligencia bizonyítékoktól mentes és elfogult szöveget állít elő, amely megerősíti ezt a feltételezést azzal a hajlamával, hogy hízelget (erősítse meg az insinuációt). Az elfogult kérdés elfogult választ hoz létre. Valójában ez egy semleges kérdés, amely nem feltételezi az eredményt, egyensúlyba hozza az erősségeket és az aggályokat, és csak bizonyítékokat kér.

12. Hogyan kell alkalmazni a „szög alatti tesztelést” az AI kimenet torzításának ellenőrzésére?

A) Ugyanarra a helyzetre gondol egy másik csoport számára, és megkérdezi: „Ez ugyanazon a nyelven lenne írva?” ✔ Kettős mérce tesztelése kérdezéssel
B) A mesterséges intelligencia első válaszát semlegesnek fogadjuk el, és nem keresünk más szöget
C) Csak olyan kérdéseket tegyen fel, amelyek az ügyfélcsoportot támogatják
D) Feltételezve, hogy nincs szükség további ellenőrzésre, mert a mesterséges intelligenciában egyáltalán nem létezik torzítás

Magyarázat: A mesterséges intelligencia ugyanazt a viselkedést más-más hangnemben írja le a különböző csoportok számára (pl. „elhanyagolás kockázata” alacsony jövedelmű családoknál, „kényszer szülő” a magas jövedelműeknél). Az inverziós teszt a következő: "ha az ügyfél egy másik társadalmi-gazdasági/etnikai csoporthoz tartozna, akkor ezt ugyanazon a nyelven írnák?" kérdezni; Ez láthatóvá teszi a sztereotípiákon, nem pedig bizonyítékokon alapuló kettős mércét.

13. Melyik a helyes megközelítés az ügyfél tényleges aktájának összegzésére (beleértve a nevet, címet, egészségügyi információkat)?

A) A sebesség érdekében illessze be a legközelebbi nyilvános AI-eszközbe, és foglalja össze
B) A fájl feldolgozása anélkül, hogy figyelmet fordítana a magánéletre, mert rövid
C) Adjon meg mindent, beleértve az egészségügyi információkat is, és csak az eredményt mentse el
D) Feldolgozás csak az intézmény által jóváhagyott biztonságos rendszerben, vagy azonosító nélküli szöveggel, minimális adattartalommal ✔

Közzététel: Az ügyfelet azonosító személyes adatok – különösen az olyan érzékeny adatok, mint az egészségi állapot – soha nem kerülnek olyan nyilvános eszközbe, amelyet az intézmény nem hagyott jóvá; a szöveg feldolgozható, külső szervereken tárolható vagy modellképzésben használható, és a kiszűrés visszafordíthatatlan. Ez is a KVKK megsértése. Ezt a fajta munkát csak házon belüli, biztonságos, jóváhagyott rendszerekben végzik, amelyek nem szivárogtatnak ki adatokat, vagy azonosítatlan szöveggel.

14. Miért nem mindig elegendő a nevek törlése egy dokumentumból ahhoz, hogy nyilvános eszközbe kerüljön?

A) A nevek törlése mindig teljes anonimizálást jelent, és minden dokumentumot biztonságossá tesz
B) Amíg a dokumentum rövid, nem lehet kontextusból azonosságra következtetni
C) Az a dokumentum, amelynek nevét törölték, teljesen kívül esik a KVKK hatályán.
D) A kontextus (szomszédság, életkor, esemény, családszerkezet) újra megerősítheti az identitást; A védelmet a szerszám és a környezet megválasztása biztosítja ✔

Magyarázat: Még ha a neveket töröljük is, a kontextus (a környék, életkor, esemény, dátum, családszerkezet stb. ritka kombinációja) azonosíthatóvá teheti a személyt; Lehet, hogy ő az egyetlen személy a környéken, aki megfelel a leírásnak. Az igazi védelmet nem a maszkolás, hanem a megfelelő eszköz és környezet megválasztása biztosítja; A kontextus szintén személyes adat, és a bizonytalan információkat magasabb osztályként kell védeni.

15. A kérelem benyújtásától az ügy lezárásáig mi a leghatékonyabb módja annak, hogy megakadályozzuk, hogy egyetlen mesterséges intelligencia hiba beszivárogjon a végső döntésbe?

A) A teljes folyamat delegálása egyetlen mesterséges intelligencia eszközre, és a végén csak egyszer írja alá
B) Emberi ellenőrző kapu és átengedési feltétel elhelyezése minden szakaszban (réteges ellenőrzés) ✔
C) A sebesség közbenső ellenőrzések eltávolítása és csak a végfokozat ellenőrzése
D) Lehetővé kell tenni minden szakértő számára, hogy szabadon használhassa saját eszközét nyilvántartás vezetése nélkül

Leírás: Minden szakaszban (kérelem/bizalmasság, értékelés/klinikai megítélés, kockázat/engedélyezés, terv/ellenőrzés, jelentés/bizonyíték, lezárás/pontosság) egy emberi ellenőrzési kapu kerül elhelyezésre; Nem lehet átmenni az egyik ajtón anélkül, hogy át ne mennénk a másikon. Ez a réteges struktúra megakadályozza, hogy egy bizonyos szakaszban hallucináció, torzítás vagy titoktartási hiba beszivárogjon az ügyfelet érintő döntésbe.