zisky:
- Schopnost klasifikovat a anonymizovat data studentů v rámci KVKK a speciálních konceptů osobních údajů a aplikovat bezpečný výběr vozidel
- Schopnost přizpůsobit principy profesionální etiky PDR (důvěrnost, beneficience, non-maleficence, autonomie) využití umělé inteligence
- Schopnost rozpoznat zaujatost, kulturní necitlivost a halucinace ve výstupu umělé inteligence a vytvořit politiku etického používání
Důvěra je srdcem profese PDR. Pokud student může sdělit své nejintimnější pocity, rodinu a obavy specialistovi, je to jen proto, že věří, že informace budou chráněny. Nástroje umělé inteligence představují nový vážný test této důvěry: nejcitlivější data se mohou ve větě vymknout kontrole. V tomto oddělení systematicky probíráme soukromí, KVKK, profesní etiku PDR a jejich uplatnění při používání umělé inteligence. Tyto principy jsme kousek po kousku aplikovali v předchozích jednotkách; Zde to spojíme jako celek a přeměníme v trvalou politiku.
KVKK a datové typy: co je více chráněno
KVKK (zákon o ochraně osobních údajů) je zákon, který upravuje zákonné zpracování osobních údajů. Zvláště důležité jsou dva pojmy. Osobní údaje jsou jakékoli informace, které identifikují nebo identifikují osobu: jméno, příjmení, číslo školy, třída, adresa, fotografie. Zvláštní osobní údaje jsou typem citlivých údajů, které vyžadují vyšší ochranu: zdraví, duševní stav, diagnóza, sexuální život, náboženství, etnická příslušnost, trestní stav. Většina záznamů PDR spadá do této druhé, citlivé kategorie; protože duševní stav, rodinné problémy a historie podpory jsou přímo soukromá data. To znamená, že data PDR by nikdy neměla být vkládána do veřejných nástrojů v nezpracované podobě.
V praxi to znamená tři pravidla: (1) Minimalizace dat – pracujte s co nejmenším množstvím dat potřebným k provedení práce. (2) Anonymizace – znemožnění propojení dat s jednotlivcem odstraněním osobních údajů. (3) Bezpečné prostředky a hranice účelu – tam, kde je to možné, používejte podnikové nástroje zabezpečené daty a zpracujte údaje pouze za účelem, pro který byly shromážděny.
Pozor: Nestačí říct „já jsem to nějak anonymizoval“. I když je v textu vynecháno jméno, jedinečný popis situace (velmi specifická situace u jednoho žáka na malé škole) může učinit osobu identifikovatelnou. V anonymizaci zobecněte nejen jméno, ale i detaily, které dohromady označují osobu.
Anonymizační praxe: kontrolní postup
Před exportem textu do nástroje proveďte tento postup: (a) Odstraňte přímé identifikátory, jako je jméno, příjmení, číslo, třída, pobočka, jméno rodiče, adresa, telefon, název školy. (b) Zobecněte nepřímé deskriptory: „student střední školy“ místo „jediný zrakově postižený student ve 12-B“. (c) Podle potřeby rozmažte podrobnosti o datu a události. (d) Po přečtení: "Může někdo, kdo čte tento text, zjistit, kdo je zmíněn?" Pokud je odpověď nejasná, zobecněte dále. Ověřený záznam se zapisuje pouze do uzavřeného zabezpečeného systému instituce; Nástroj AI je mimo tento systém.
PDR profesní etika a AI
Profesní etika PDR je založena na čtyřech základních principech, z nichž každý se přímo vztahuje na používání AI:
- Důvěrnost (udržování tajemství): Informace o studentech jsou chráněny. Nezadávání nezpracovaných dat do AI, jejich anonymizace a výběr bezpečného nástroje je požadavkem tohoto principu.
- Beneficence: Vše, co se dělá, by mělo sloužit blahu studenta. AI se používá pro pohodlí, nikoli způsobem, který by ohrozil prospěch studenta.
- Nonmaleficence: Prioritou je neublížit. Neověřené výstupy, nepřesné statistiky, označování a používání umělé inteligence v krizi představují riziko poškození; proto je verifikace a krizová hranice etickým imperativem.
- Autonomie: Právo studenta činit vlastní rozhodnutí je chráněno. Umělá inteligence by neměla studenta redukovat na nálepku nebo rozhodovat jeho jménem.
K tomu se přidává odpovědnost: Odpovědnost za každý použitý výstup spočívá na odborníkovi; „AI to vyrobila“ není obrana.
Předpojatost, kulturní citlivost a transparentnost
AI může odrážet sociální vzorce v tréninkových datech. V PDR je to otázka spravedlnosti: výsledky, které stereotypizují studenta podle jeho pohlaví, kultury nebo socioekonomického postavení, podkopávají rovnost příležitostí. Expert kontroluje obsah vytvořený z hlediska kulturní citlivosti a zaujatosti. Rovněž transparentnost: tam, kde je to vhodné, by mělo být interně jasně uvedeno, že při přípravě materiálu nebo návrhu byla použita umělá inteligence; Nemělo by se používat jako tajné „kouzlo“. Ve vztahu se studentem je nezbytná důvěrnost; To, co student vysvětlí, se nepřenáší do vozidla.
Krok za krokem: stanovení zásad používání AI
- Klasifikujte data. Všechny informace, které máte, oddělte jako „osobní/soukromé/veřejné“.
- Vyberte vozidlo. Jediný bezpečný podnikový nástroj pro citlivá data; Pro obecný přehled pracujte anonymně.
- Postupujte podle postupu anonymizace. Spusťte kontrolní rutinu před každým zadáním.
- Validace a kontrola zkreslení. Prozkoumejte každý výstup z hlediska skutečnosti a spravedlnosti.
- Udržujte krizový limit. Udržujte krizový a poradenský vztah mimo vozidlo.
- Převezměte odpovědnost a buďte transparentní. Konečné schválení náleží odborníkovi; Použití je otevřené v rámci organizace.
Kopírovatelné šablony
1) Kontrola anonymizace:
Vaše role: asistent auditu soukromí. V níže uvedeném textu uveďte všechna tvrzení, která by mohla PŘÍMO či NEPŘÍMO identifikovat osobu (jméno, číslo, třída, škola, jedinečný popis situace) a pro každé navrhněte obecnější alternativu. Obsah komentáře.Text: [vložit text]
2) Audit zkreslení a kulturní citlivosti:
Zkontrolujte následující materiál PDR, zda neobsahuje zaujatost a kulturní citlivost: Obsahuje stereotypy o pohlaví, kultuře, socioekonomickém postavení nebo rodinné struktuře? Kdo může vyloučit? Označte riziková prohlášení a navrhněte inkluzivní alternativy. Materiál: [vložit materiál]
3) Návrh firemních zásad používání AI:
Vaše role: asistent psaní PDR. Pro poradenskou službu navrhněte krátkou interní politiku pro používání nástrojů umělé inteligence. Rubriky: v jakých zaměstnáních se používá, v jakých zaměstnáních se nepoužívá (krize, diagnostika, konzultace), pravidlo anonymizace dat, ověřovací povinnost, odpovědnost nese odborník. Krátké a použitelné.
Slabá výzva / Silná výzva
slabé:
Abychom shrnuli situaci Ahmeta Yılmaza 8-C, byl doma vystaven násilí.
Do vozidla vkládá nejcitlivější údaje (jméno, třídu, zvláštní status) v nezpracované podobě — závažné porušení KVKK a etiky; Navíc se může jednat o oznamovací situaci (jednotka 9).
Silný:
Vaše role: asistent kontroly soukromí. Poznámka: Níže uvedený text jsem před odesláním do nástroje anonymizoval. Zkontrolujte však znovu: zůstal zde nějaký detail, díky kterému lze osobu identifikovat? Text: "Student střední školy naznačil, že doma zažívá napětí."
tři mini pouzdra
Případ 1 – Nepřímé zveřejnění. Expert se chystal do nástroje zadat text, ze kterého vynechal jméno; ale uvědomil si, že fráze „jediný student školy, který používá invalidní vozík“ přímo odkazuje na tuto osobu. Zobecnil to na „studenta“. Samotné vytváření jmen nestačilo; Identifikační byl i popis ojedinělé situace.
Případ 2 – Korekce zkreslení. Expert, který provedl audit kariérního materiálu, zjistil, že AI vždy používala mužská jména v technických příkladech a ženská jména v pečovatelských profesích. Vyrovnalo vzorky a rozbilo formu. Tato zdánlivě drobná oprava zachovala poctivost sdělení zaslaného studentům.
Případ 3 – Stanovení politiky. Poradenská služba vytvořila společný text interních zásad, aby odstranila zmatky vyplývající ze skutečnosti, že každý používá AI jinak: v jakých úkolech se používá, nikoli v krizi a diagnostice, data jsou anonymizována, výstup je ověřován, odpovědnost nese odborník. AI dala návrh; Tým finalizoval obsah s vlastními hodnotami. Nejistota ustoupila jasnému rámci.
Časté chyby
- Zadávání nezpracovaných dat. Zápis do vozidla se jménem/stavem. Řešení: postup anonymizace, bezpečný nástroj.
- Stačí odstranit jméno. Zapomínání nepřímých identifikátorů. Řešení: zobecněte také jedinečné detaily.
- Ignorování zaujatosti. Přijetí stereotypního výstupu. Řešení: audit zkreslení a kultury.
- Přenesení odpovědnosti na vozidlo. To znamená "AI to vyrobila". Řešení: odpovědnost spočívá na odborníkovi.
- Zneužít. Zpracování údajů shromážděných pro jeden účel pro jiný účel. Řešení: respektujte limit účelu.
Tabulka: Typ dat a pravidlo AI
Typ dat
příklad
pravidlo AI
veřejné
Obecný úvod do profese
volně k dispozici
osobní údaje
Jméno, číslo, třída
Nelze zadat bez anonymizace
Údaje o speciální kvalitě
Psychický stav, rodina, diagnóza
Nikdy do něj nelze vstoupit v jeho surové podobě.
krizová data
Riziko, zneužívání, sebevražda
Nikdy nevstupujte do vozidla (jednotka 9)
V souhrnu
V PDR je důvěrnost základem důvěry v profesi a nejtestovanějším principem v éře AI. KVKK rozděluje data na osobní a soukromá data; Většina dat PDR je citlivá a nevkládá se do nástroje v nezpracované podobě. Minimalizace dat, anonymizace (s přímými a nepřímými identifikátory) a bezpečný výběr nástrojů jsou základní pravidla. Čtyři principy profesionální etiky – důvěrnost, dobročinnost, neškodlivost, autonomie – jsou závazné pro používání AI; Předpojatost je kontrolována, odpovědnost zůstává na odborníkovi a použití je v rámci organizace transparentní.
Aplikační úkol
Navrhněte stručnou „zásadu používání AI“ pro svou vlastní poradenskou službu. Získejte náskok se šablonou „Návrh zásad používání podnikové AI“; Tu pak upravte podle reality vaší vlastní instituce. Také předejte (fiktivní) text přes šablonu „kontrola anonymizace“ a zachyťte a zobecněte alespoň jeden nepřímý identifikátor.
kontrolní seznam
- [ ] Údaje, které mám, jsem klasifikoval jako osobní / soukromé / veřejné.
- [ ] V anonymizaci jsem zobecnil přímé a nepřímé identifikátory.
- [ ] Použil jsem bezpečný/podnikový nástroj pro citlivá data.
- [ ] Zkontroloval jsem výstup z hlediska zkreslení a kulturní citlivosti.
- [ ] Přijal jsem odpovědnost a zachoval jsem používání transparentní.