Dobički:
- Sposobnost dosledne vdelave umetne inteligence na vsaki stopnji od aplikacije do zapiranja s šestimi človeškimi vrati za preverjanje
- Sposobnost vzpostavitve okvira korporativnega upravljanja z odobrenim seznamom orodij, politiko podatkov, vlogami, registracijo, usposabljanjem in stalnim pregledom
- Sposobnost vgradnje načel človeške odgovornosti, preverjanja, zasebnosti/KVKK, spoštovanja dokazov, nadzora pristranskosti in osredotočenosti na stranko v potek dela
V tem modulu smo obravnavali, kako uporabiti umetno inteligenco in kje jo ustaviti pri različnih nalogah socialnega dela — dokumentacija, ocena, podpora tveganju, napotitev, načrt, poročilo, komunikacija, oblikovanje programa. V tej zadnji enoti smo sestavili dele: kjer bo AI deloval od konca do konca od aplikacije do zaključka primera, katera vrata za človeško preverjanje se ustavijo na vsaki stopnji, in vzpostavili bomo okvir upravljanja, ki je potreben, da bo to v organizaciji trajnostno. Cilj je spremeniti razpršene nasvete v dosledno in ponovljivo delovno disciplino.
Integrativno načelo od samega začetka: umetna inteligenca je pospeševalnik na vsakem koraku delovnega toka in ne sprejema odločitev na nobenem koraku. Na vsaki stopnji so človeška vrata in ne morete se premakniti na naslednjo, ne da bi šli skozi ena vrata. Ta večplastna struktura preprečuje, da bi ena sama halucinacija, pristranskost ali napaka zasebnosti pronicala v odločitev, ki vpliva na življenje stranke.
Pretok od konca do konca in šest človeških vrat
Oglejmo si primer skozi tipične stopnje in na vsako stopnjo postavimo vrata za preverjanje:
1. Prijava/prvi stik — Vrata: Zasebnost. Ko pridejo prve informacije, se AI uporabi za pripravo intervjuja (vodnik, okvir vprašanj). Vrata: v odprto orodje ne vstopijo nobeni dejanski podatki o stranki; Vprašaj za razred, ujemaj vozilo.
2. Ocena — Vrata: Klinična presoja. AI organizira zapiske v biopsihosocialne dimenzije in opozarja na pomanjkljivosti in prednosti. Vrata: Diagnoza in ocena pripadata specialistu; AI ne ocenjuje.
3. Tveganje — Vrata: Oblast in ekipa. AI opozarja na dejavnike tveganja/zaščite in ustvarja okostje varnostnega načrta. Vrata: Odločitev o tveganju sprejema le strokovnjak, ekipa, nadzor in pravni postopek; AI ne daje rezultatov/odločitev.
4. Načrtovanje in vodenje — Vrata: Validacija in stranka. AI postavi cilje v SMART, ustvari ideje za vire in osnutke pisem. Vrata: Stranka postavlja cilje; Storitev/naslov/pogoj je preverjen iz uradnega vira.
5. Poročilo in komunikacija – Vrata: Dokazi in odgovornost. AI strukturira poročilo, poenostavi in prevede besedilo. Vrata: Vsak primer je odvisen od dokazov, mnenje pripada izvedencu, kritična izguba informacij in pristranskost se preverjata, podpis je v osebi.
6. Zapiranje in predaja — Vrata: Točnost. YZ povzema datoteko kronološko. Vrata: Povzetek temelji samo na zapisu; Rezultate in spoznanja preverja strokovnjak.
Namig: uporabite eno samo vprašanje, da si zapomnite vrata: "Ali v tem koraku umetna inteligenca sprejme odločitev ali ustvari skico?" Če je odgovor "odločitev", se ustavite - ta korak pripada človeku. Če je odgovor "osnutek", nadaljujte, vendar ne pojdite na naslednji korak, ne da bi preverili rezultat.
Korporativno upravljanje: individualna disciplina ni dovolj
Dobre navade strokovnjaka so dragocene, a krhke; Varna in dosledna uporaba umetne inteligence v organizaciji zahteva okvir upravljanja. Ključne komponente tega okvira so:
- Seznam odobrenih vozil. Napisano in jasno je, katero orodje se bo uporabljalo za katero delo in kateri podatki se lahko vnašajo v katero orodje. Varnostna ranljivost je "Vsak naj uporablja orodje, ki ga želi".
- Politika razvrščanja podatkov. Določeno je, kateri podatki se bodo obdelovali v odprtem orodju in kateri samo v varnem sistemu.
- Vloga in avtoriteta. Jasno je, kdo kaj lahko naredi in katera odločitev je odvisna od katerega organa (predvsem odločitve o tveganju).
- Dnevnik in revizijska sled. Kje in kako se uporablja AI, je mogoče spremljati; Ko je problem, se lahko ozre nazaj.
- Izobraževanje in ozaveščanje. Vsak zaposleni pozna načela v tem modulu; Novinec je izurjen.
- Stalni pregled. Orodja, tveganja in sprememba zakonodaje; Okvir se redno posodablja. Politika, ki je enkrat napisana in pozabljena, postane zastarela.
trije mini kovčki
1. primer – Vrata so ujela hrošča na začetku verige. V enem primeru je AI dodal opazko, ki je naročnik ni omenil med fazo ocenjevanja. Na vratih "klinične presoje" je strokovnjak to ujel in izbrisal. Če ga ne bi ujeli, bi ta izmišljena opazka lahko ušla v načrt, od tam v poročilo, od tam pa v sodno odločbo. Večplastna avtentikacija je zaustavila napako na najzgodnejši točki.
Primer 2 – Upravljanje je preprečilo kršitev. Ena organizacija je delovala brez odobrenega seznama orodij in podatkovne politike; Vsak je uporabljal svoje vozilo. Revizija je pokazala, da je več zaposlenih v odprta orodja vnašalo dejanske podatke o strankah. Organizacija je vzpostavila okvir upravljanja: odobrena orodja, klasifikacija podatkov, usposabljanje in registracija. V naslednjem obdobju se je število kršitev zmanjšalo na nič. Nauk: dobra volja posameznika ni dovolj brez institucionalne strukture.
Primer 3 – Stalno posodabljanje pregledov. Politika organizacije o umetni inteligenci, napisana pred enim letom, je bila zaradi nove vrste orodij in posodobljene zakonodaje zastarela. Letni pregled je to zajel; Politika je bila posodobljena, usposabljanje je bilo prenovljeno. Okvir je ostal živ dokument, ne okras police.
Štiri predloge za kopiranje
1) Kontrolni seznam vrat za preverjanje toka primerov:
Vaša vloga: nadzornik. Dobim potrditveni kontrolni seznam za naslednji korak primera: kaj lahko umetna inteligenca pripravi v tem koraku, katera odločitev je nujno človeška, katera preverjanja zasebnosti in pristranskosti je treba opraviti, kaj naj preverim, preden preidem na naslednji korak? Korak: [prijava/ocena/tveganje/načrt/poročilo/zaključek]
2) Potrjeno ujemanje vozila:
Za vsakega od spodnjih seznamov opravil določite vrsto orodja AI, ki ga je mogoče uporabiti (odprto orodje / samo varen sistem podjetja / AI ni na voljo) in utemeljitev. Vsako opravilo, ki vsebuje podatke odjemalca, označite kot »samo varen sistem«. Opravila: [seznam opravil]
3) Osnutek politike umetne inteligence podjetja:
Vaša vloga: urednik korporativne politike. Pripravite politiko odgovorne uporabe umetne inteligence za agencijo za socialne storitve; Pokrivajte naslednje teme: namen, odobrena orodja, klasifikacija podatkov, vloge in pooblastila, zasebnost/KVKK, omejitev odločitve o tveganju, beleženje in revizija, usposabljanje, urnik pregledov. Postavite splošni okvir; Institucija bo izpolnila svoje podatke.
4) Samoregulacija (osebni pregled uporabe):
Ustvarite seznam 10 vprašanj za samokontrolo, da pregledam svojo uporabo umetne inteligence kot socialnega delavca: zasebnost, preverjanje, pristranskost, zvestoba dokazov, omejitve odločanja in osredotočenost na stranko. Naj bo na vsako vprašanje odgovorjeno z "da/ne".
Šibek poziv/močan poziv
Šibek poziv:
Dam vam celotno zadevo; Ti urejaš vse od prijave do poročila, jaz ga na koncu samo podpišem.
To pomeni zunanje izvajanje celotnega postopka – vključno z zasebnostjo, klinično presojo, presojo tveganja, spoštovanjem dokazov – programski opremi. En sam podpis na koncu nas zaslepi za vse napake, izmišljotine in pristranskosti vmes.
Močan poziv:
Vaša vloga: urednik, ki mi pomaga na vsakem koraku. Zadevo bom obravnaval korak za korakom (ocena, načrt, poročilo...). Pri vsakem koraku: delajte samo z anonimnimi/varnimi podatki, ustvarite osnutek, pustite mi, da se odločim, ne dodajajte tistega, kar ni v opombi, in me opomnite, kaj moram preveriti, preden preidem na naslednji korak. Začnimo s tem korakom: [korak]
Razlika: varovanje vrat na vsakem koraku in pozicioniranje umetne inteligence kot pomočnika po korakih ohranja varnost in odgovornost človeka, hkrati pa ohranja hitrost.
Stage-gate-odgovornost povzetek
Oder
Prispevek AI
človeška vrata
kritični nadzor
Aplikacija
Priprava na razgovor
zasebnost
Razred podatkov
Evalvacija
Urejanje velikosti
klinična presoja
Brez diagnoze, brez izmišljotin
Tveganje
Faktorski opomnik
Avtoriteta + ekipa
Brez rezultata/odločitve
Načrt/vodenje
osnutek + ideja
Validacija + stranka
Potrditev vira, prednost stranke
Prijava/kontakt
Struktura + poenostavitev
Dokazi + odgovornost
Strokovno mnenje, nadzor pristranskosti
Zapiranje
Kronološki povzetek
natančnost
na podlagi zapisa
Pogoste napake
- Predaja celotnega postopka AI in podpis na koncu z enim samim podpisom. Vmesne napake niso vidne; Vrata bi morala biti na vsakem koraku.
- Skozi vrata brez preverjanja. Izdelavo ene stopnje podeduje naslednja; Vsak izhod je potrjen.
- Prepuščanje upravljanja individualni disciplini. Brez institucionalnega okvira so dobre navade krhke.
- Enkrat napiši pravilnik in pozabi. Sprememba orodij in zakonodaje; Potreben je stalen pregled.
- Ne vodenje evidenc. Brez revizijske sledi se na težavo ne moremo ozreti nazaj in zanjo ni mogoče odgovarjati.
Če povzamem
V socialnem delu je umetna inteligenca katalizator na vsakem koraku, odločevalec na nobenem koraku, od prijave do zaključka primera. Postavite šest človeških vrat (zaupnost, klinična presoja, avtoriteta/ekipa, validacija/stranka, dokazi/odgovornost, integriteta) v tok od konca do konca; Ne pojdite od enih vrat do drugih, ne da bi šli skozi. Da bi to postalo trajnostno, je potrebno korporativno upravljanje: seznam odobrenih orodij, politika podatkov, vloge, registracija, usposabljanje in stalni pregled. Šest vodilnih načel modula – človeška odgovornost, preverjanje, zasebnost/PDPA, zavezanost dokazom, nadzor pristranskosti in osredotočenost na stranko – bi moralo biti vtkanih v vsak potek dela.
Aplikacijska naloga
V mislih začrtajte izmišljeni primer od prijave do zaključka; Izdelajte kontrolni seznam za vsako stopnjo s predlogo »vrata za preverjanje toka primerov«. Nato razvrstite naloge v tem primeru kot odprto vozilo / varen sistem / brez umetne inteligence s predlogo »potrjeno ujemanje vozil«. Na koncu se ocenite tako, da ustvarite seznam 10 vprašanj za lastno uporabo umetne inteligence s predlogo »samopreverjanje«.
kontrolni seznam
- [ ] Identificiral sem šest človeških vrat v toku od konca do konca.
- [ ] Na vsakem koraku "sklep ali osnutek?" Uporabil sem vprašanje.
- [ ] Naloge sem povezal s pravilno vrsto vozila (odprto/varno/brez).
- [ ] Poznam komponente korporativnega upravljanja (orodje, podatki, vloga, registracija, usposabljanje, pregled).
- [ ] V lasten potek dela sem implementiral šest principov nosilca modula.
Modulni izpit
1. Kaj od naslednjega je najbolj natančno pozicioniranje umetne inteligence v socialnem delu?
- A) Umetna inteligenca lahko odloči o stopnji tveganja stranke in odločitvi o posredovanju brez človeške odobritve
- B) AI je orodje za povzemanje, organiziranje, poenostavljanje in pisanje; Odgovornost za klinično presojo, tveganje in končno odločitev nosi strokovnjak ✔
- C) Umetna inteligenca je uporabna samo za prevajanje besedila in nima nobene zveze z drugimi nalogami socialnega dela
- D) Ker je umetna inteligenca vedno bolj nepristranska od človeka, je treba oceno prepustiti njej.
Opis: Umetna inteligenca; Je pomočnik, ki organizira zapiske, povzema datoteko, poenostavlja besedilo in izdeluje osnutke. Za klinično presojo, oceno tveganja, strokovno mnenje in končno odločitev je odgovoren pristojni strokovnjak; Nepreverjen izhod lahko povzroči napačno presojo stranke, izogibanje tveganju ali uhajanje občutljivih podatkov.
2. Kakšno je najbolj pravilno navodilo, ko umetna inteligenca pretvori neobdelane zapiske intervjuja v zapisnik?
- A) Zahteva, da umetna inteligenca zapolni manjkajoče dele na razumen način, da bo videti profesionalno.
- B) Omogočanje AI dodajanja dodatnih opazovanj za obogatitev zapisa
- C) Prosite študenta, naj uporabi samo informacije, ki so dejansko vključene v opombo, označi manjkajoče elemente kot 'potrebno je pojasniti' in ne doda ničesar ✔
- D) Dajanje neposredno v datoteko brez primerjave z opombo, dokler je izhod tekoč
Pojasnilo: Najbolj nevarna težnja AI je izmišljanje opažanj, številk ali citatov, ki jih ni v zapisku, da bi bil zapis videti "popoln". Pravilen pristop je reči 'samo uporabi tisto, kar je v opombi, označi manjkajoče, ne dodajaj ničesar'. Vrzeli niso zapolnjene, označene so za pojasnilo.
3. Zakaj je razlikovanje med „dejstvom“ in „razlago“ pomembno v evidenci primera?
- A) dejstvo je konkretna ugotovitev/izjava, interpretacija pa strokovno sklepanje, ki zahteva podlago; To dvoje je treba ločiti in komentar označiti z ✔
- B) Razlikovanje je nepotrebno; dejstvo in komentar lahko na enak način zapišemo v zapisnik
- C) Pomembna je le interpretacija; Možno je tudi, če dejstva niso zapisana
- D) Ker umetna inteligenca odlično loči to razliko, ni potrebe po človeškem nadzoru.
Pojasnilo: 'V intervjuju je trikrat jokal' je dejstvo; 'Bil je depresiven' je komentar, ki ga ni mogoče napisati brez klinične podlage. Zapis postavlja dejstvo v ospredje in vključuje razlago le z jasno oznako in utemeljitvijo. AI lahko oboje tekoče meša; Človekova dolžnost je, da razlikuje in se izogiba stigmatizirajočemu jeziku.
4. Kakšno vlogo bi morala imeti umetna inteligenca pri odločanju, ali je otrok varen doma, ali glede stopnje tveganja primera?
- A) Umetna inteligenca lahko prebere primer, določi stopnjo tveganja in sprejme varnostno odločitev
- B) Oznaka „nizkega tveganja“, ki jo daje umetna inteligenca, lahko preglasi nasprotno opažanje strokovnjaka
- C) Umetna inteligenca samo opominja faktorje in ureja zapiske; Odločitev o stopnji tveganja in varnosti pripada strokovnjaku, timu, nadzoru in sodnemu postopku ✔
- D) Umetna inteligenca je pri odločanju o tveganju zanesljivejša od človeka, ker je nepristranska.
Opis: Stopnja tveganja in varnostna odločitev; Zahteva strokovno avtoriteto, klinično presojo, mnenje multidisciplinarne ekipe, nadzor in pravno odgovornost. Tu lahko umetna inteligenca samo prikliče dejavnike tveganja/zaščite in uredi opombe; ne more dati rezultatov ali odločitev. Sistematično visoko tveganje lahko pripiše tudi prikrajšanim skupinam zaradi pristranskosti podatkov o usposabljanju, zato njegovih rezultatov ni mogoče uporabiti kot odločitev.
5. Kaj storiti, ko umetna inteligenca da napotitveno informacijo za stranko z besedami 'ta center, ta telefon'?
- A) Potrditev naslova in telefonske številke iz uradnega in trenutnega vira institucije, preden ju posredujete stranki ✔
- B) Posredovanje informacij neposredno stranki, saj so predstavljene samozavestno
- C) Ob predpostavki, da so informacije popolnoma pravilne, dokler umetna inteligenca daje trenutni datum
- D) Mišljenje, da ni potrebe po preiskavi točnosti informacij, ker so nekje omenjene.
Opis: Umetna inteligenca lahko sestavlja storitve, zahteve za aplikacije, naslove in telefonske številke ali zagotavlja zastarele informacije; Institucije se združujejo, selijo, zapirajo. Pošiljanje stranke na nepreverjen naslov bo vodilo do izgubljene poti in izgube zaupanja. Zato morajo biti kontaktni podatki, ki jih posreduje umetna inteligenca, potrjeni prek lastnega uradnega kanala institucije, preden se posredujejo stranki.
6. Kdo naj postavi cilje v odzivnem načrtu in kakšna je vloga umetne inteligence?
- A) Umetna inteligenca bi morala hkrati določiti cilje in napisati celoten načrt, ne da bi vprašala stranko.
- B) Stranka (skupaj s specialistom) določi cilje; AI jih postavi v format SMART in jih strukturira, ne dodaja novih ciljev ✔
- C) Cilji so nepomembni; Več ciljev načrt vključuje, bolje je.
- D) Umetna inteligenca lahko ignorira naročnikove prednostne naloge, ker je videti profesionalno
Opis: Temeljna vrednota socialnega dela je 'samoodločanje': klient si postavlja cilje in prioritete ter jih oblikuje s strokovnim strokovnim znanjem. Umetna inteligenca postavlja te cilje v format SMART in predlaga korake in indikatorje; ne more pa dodati novih ciljev, ki jih stranka ne pove. Za stranko ni mogoče uporabiti tujega, od zunaj vsiljenega načrta.
7. V poročilu socialne preiskave, ki bo predloženo sodišču, v katerem vprašanju je umetna inteligenca najbolj nevarna?
- A) Sposobnost izmišljevanja neobstoječih datumov, opažanj ali citatov, da bo poročilo videti "popolno" ✔
- B) Preveč formalen jezik besedila
- C) Pisanje poročila krajše od zahtevanega
- D) Abecedni vrstni red naslovov
Pojasnilo: najbolj nevarna težnja AI je dodajanje neobstoječega datuma, opažanja ali citata, da se poročilo zdi "popolno". Izmišljen stavek v sodnem poročilu lahko zavede odločitev in uniči verodostojnost izvedenca. Zato je treba vsak primer povezati s pravim intervjujem/opazovanjem/dokumentom, strokovno mnenje pa naj oblikuje izvedenec.
8. Kdo mora napisati strokovno mnenje in del mnenja (predlogov) poročila o socialni raziskavi?
- A) Umetna inteligenca; ker ustvari bolj nepristransko priporočilo
- B) Rubrika mnenja se pri pisanju poročila nikoli ne izpolni.
- C) Umetna inteligenca napiše mnenje, izvedenec se podpiše šele na koncu
- D) strokovnjak; strokovno mnenje in mnenje sta njegova avtoriteta in odgovornost, umetna inteligenca samo razjasni jezik ✔
Izjava: Strokovno mnenje in mnenje — 'to je največja korist tega otroka', 'ta ureditev je primerna' — je pravna avtoriteta in odgovornost strokovnjaka. 'Kaj priporočam umetni inteligenci?' Ni vprašano; Njegov 'predlog' je lahko izmišljen in prenos odgovornosti. Umetna inteligenca v najboljšem primeru pojasni jezik mnenja, ki ga napiše strokovnjak.
9. Kaj je najbolj kritičen nadzor pri poenostavljanju težkega pisma uradne pomoči za stranko z umetno inteligenco?
- A) Besedilo naj bo čim krajše, ne ozirajte se na podrobnosti
- B) Rezultat izgleda gladko in estetsko
- C) Preverjanje, da niso bile izpuščene nobene pravice, pogoji, zneski, datumi ali obvestila s primerjavo z izvirnikom ✔
- D) Poenostavitev zagotavlja udobje stranki, saj ji daje manj informacij.
Pojasnilo: Poenostavljanje ne pomeni izkrivljanje; S "skrajšanjem" ali "poenostavitvijo" lahko AI pogoltne pravico, pogoj, znesek, datum ali obvestilo. Stranka lahko z 'lahkimi', a nepopolnimi informacijami izgubi pravico. Zato bi bilo treba poenostavljeno besedilo primerjati z izvirnikom in preveriti, da ni izgubljena nobena kritična informacija, in celo dati seznamu kritičnih elementov, ki jih varuje umetna inteligenca.
10. Kako je pri pripravi vloge za financiranje pravilno obravnavati statistiko, ki jo ustvari umetna inteligenca?
- A) Neposredna uporaba statističnih podatkov, ki jih daje umetna inteligenca, da je videti impresivno
- B) Umetna inteligenca ne ustvarja statistike, natisne [ZAHTEVANE PODATKE], kjer je to potrebno, in vnese vsako številko iz pravega vira ✔
- C) Glede na to, da je vir nepomemben, dokler je številka vključena v aplikacijo.
- D) Ob predpostavki, da ni potrebe po preverjanju statistike, ker AI piše samozavestno
Opis: Umetna inteligenca lahko ustvari osupljivo statistiko brez virov; Številka brez vira je skoraj vedno nezanesljiva. Izmišljena statistika v prijavi bo vlogo zavrnila in uničila kredibilnost institucije. Pravilen pristop je, da AI ne sestavlja številk ('Zapiši [ZAHTEVANI PODATKI]') in da vsako številko iz pravega, preverjenega vira.
11. Zakaj je od umetne inteligence škodljivo zahtevati, da 'pojasni, zakaj je ta družina neustrezna pri vzgoji otrok'?
- A) Ker je vprašanje predolgo
- B) Ker umetna inteligenca ne more zagotoviti nobenih informacij o družinskih zadevah
- C) Ker od začetka predpostavlja rezultat, umetna inteligenca (laskavo) proizvede neutemeljeno in pristransko potrditev; Vprašanje naj bo nevtralno in uravnoteženo ✔
- D) Ker bo umetna inteligenca vedno pisala v prid družini
Pojasnilo: To vprašanje predpostavlja rezultat ('nezadosten'). Umetna inteligenca ustvari pristransko besedilo brez dokazov, ki potrjuje to predpostavko s svojo nagnjenostjo k laskanju (potrdite svoje namigovanje). Pristransko vprašanje ustvari pristranski odgovor. Dejansko je to nevtralno vprašanje, ki ne predvideva izida, uravnoteži prednosti in pomisleke ter zahteva le dokaze.
12. Kako uporabiti 'testiranje pod kotom' za preverjanje pristranskosti v izhodu AI?
- A) Razmišljanje o isti situaciji za drugo skupino in vprašanje "Ali bi bilo to napisano v istem jeziku?" ✔ Preizkušanje dvojnih meril z vprašanjem
- B) Sprejeti prvi odgovor umetne inteligence kot nevtralen in ne iskati drugega zornega kota
- C) Postavljanje samo vprašanj, ki podpirajo strankino skupino
- D) Ob predpostavki, da ni potrebe po dodatnem nadzoru, ker pristranskost v umetni inteligenci sploh ne obstaja
Pojasnilo: umetna inteligenca lahko isto vedenje zapiše v različnih tonih za različne skupine (npr. 'tveganje zanemarjanja' za družine z nizkimi dohodki, 'prisilni starši' za družine z visokimi dohodki). Inverzijski test je "če bi bila stranka iz druge socialno-ekonomske/etnične skupine, ali bi bilo to napisano v istem jeziku?" je vprašati; Zaradi tega so vidna dvojna merila, ki temeljijo na stereotipih in ne na dokazih.
13. Kateri je pravilen pristop za povzetek strankine dejanske datoteke (vključno z imenom, naslovom, zdravstvenimi informacijami)?
- A) Zaradi hitrosti ga prilepite v najbližje javno orodje AI in ga povzamete
- B) Obdelava datoteke brez upoštevanja zasebnosti, ker je kratka
- C) Vnesite vse, vključno z zdravstvenimi podatki, in shranite samo rezultat
- D) Obdelujte samo v varnem sistemu, ki ga je odobrila institucija, ali z deidentificiranim besedilom, z minimalnimi podatki ✔
Razkritje: Osebni podatki, ki identificirajo stranko – zlasti občutljivi podatki, kot je zdravstveno stanje – se nikoli ne vnesejo v javno orodje, ki ga institucija ni odobrila; besedilo je lahko obdelano, shranjeno na zunanjih strežnikih ali uporabljeno pri usposabljanju modela, izločanje pa je nepovratno. Tudi to je kršitev KVKK. Tovrstno delo se izvaja samo v internih, varnih, odobrenih sistemih, ki ne puščajo podatkov ali z deidentificiranim besedilom.
14. Zakaj brisanje imen iz dokumenta ni vedno dovolj, da ga objavite v javnem orodju?
- A) Brisanje imen je vedno popolna anonimizacija in naredi vsak dokument varen
- B) Dokler je dokument kratek, je nemogoče sklepati o identiteti iz konteksta
- C) Dokument, katerega ime je bilo v celoti izbrisano, ne spada v okvir KVKK.
- D) Kontekst (soseska, starost, dogodek, družinska struktura) lahko ponovno potrdi identiteto; Zaščita je zagotovljena z izbiro orodja in okolja ✔
Pojasnilo: Tudi če so imena izbrisana, lahko zaradi konteksta (redka kombinacija soseske, starosti, dogodka, datuma, družinske strukture itd.) oseba postane prepoznavna; Morda je edina oseba v soseski, ki ustreza opisu. Prave zaščite ne zagotavlja maskiranje, temveč izbira pravega orodja in okolja; Kontekst so tudi osebni podatki in negotove informacije je treba varovati kot višji razred.
15. Od vloge do zaključka primera, kateri je najučinkovitejši način za preprečitev, da bi ena sama napaka AI pricurljala v končno odločitev?
- A) Prenos celotnega postopka na eno samo orodje AI in podpis samo enkrat na koncu
- B) Postavitev človeških vrat za preverjanje in pogoj za uspešnost na vsaki stopnji (večplastno preverjanje) ✔
- C) Odstranitev vmesnih validacij za hitrost in preverjanje samo na izhodni stopnji
- D) Dovolitev vsakemu strokovnjaku, da prosto uporablja svoje orodje brez vodenja evidenc
Opis: Vrata za človeško preverjanje so nameščena na vsaki stopnji (vloga/zaupnost, ocena/klinična presoja, tveganje/avtorizacija, načrt/preverjanje, poročilo/dokazi, zaključek/natančnost); Ne morete skozi ena vrata, ne da bi šli skozi druga. Ta večplastna struktura preprečuje, da bi halucinacija, pristranskost ali napaka zaupnosti na eni stopnji pronicala v odločitev, ki vpliva na stranko.