Dobici:
- Sposobnost dosljednog ugrađivanja umjetne inteligencije u svakoj fazi od aplikacije do zatvaranja sa šest ljudskih vrata za provjeru
- Sposobnost uspostavljanja okvira korporativnog upravljanja s odobrenim popisom alata, politikom podataka, ulogama, registracijom, obukom i stalnim pregledom
- Sposobnost ugradnje načela ljudske odgovornosti, verifikacije, privatnosti/KVKK, pridržavanja dokaza, kontrole pristranosti i usmjerenosti na klijenta u radni tijek
Tijekom ovog modula pokrili smo kako koristiti umjetnu inteligenciju i gdje je zaustaviti u različitim zadacima socijalnog rada — dokumentacija, procjena, podrška riziku, upućivanje, plan, izvješće, komunikacija, dizajn programa. U ovoj završnoj jedinici sastavljamo dijelove: gdje će umjetna inteligencija sjediti od početka do kraja od aplikacije do zatvaranja slučaja, koja se vrata za ljudsku provjeru zaustavljaju u svakoj fazi, i uspostavit ćemo okvir upravljanja koji je potreban da bi to bilo održivo u organizaciji. Cilj je razbacane savjete pretvoriti u dosljednu i ponovljivu radnu disciplinu.
Integrativno načelo od samog početka: AI je akcelerator u svakom koraku tijeka rada, a ne donositelj odluka u bilo kojem koraku. U svakoj fazi postoje ljudska vrata i ne možete prijeći na sljedeću bez prolaska kroz jedna vrata. Ova slojevita struktura sprječava da jedna halucinacija, pristranost ili pogreška u vezi s privatnošću prodre u odluku koja utječe na život klijenta.
Protok od kraja do kraja i šest ljudskih vrata
Razmotrimo slučaj kroz tipične faze i postavimo vrata za provjeru u svaku fazu:
1. Prijava / prvi kontakt — Vrata: Privatnost. Kada stignu prve informacije, AI se koristi za pripremu intervjua (vodič, okvir pitanja). Vrata: nikakvi stvarni podaci o klijentu ne ulaze u otvoreni alat; Pitajte za klasu, uskladite vozilo.
2. Procjena — Vrata: Klinička prosudba. AI organizira bilješke u biopsihosocijalne dimenzije i podsjeća na nedostatke i prednosti. Vrata: Dijagnoza i procjena pripadaju specijalistu; AI ne procjenjuje.
3. Rizik — Vrata: Autoritet i tim. AI podsjeća na faktore rizika/zaštite i stvara kostur sigurnosnog plana. Vrata: Odluku o riziku donosi samo stručnjak, tim, nadzor i pravni postupak; AI ne daje rezultate/odluke.
4. Planiranje i usmjeravanje — Vrata: Validacija i klijent. AI stavlja ciljeve u SMART, generira ideje o resursima i nacrte pisama. Vrata: Klijent postavlja ciljeve; Usluga/adresa/stanje je potvrđeno iz službenog izvora.
5. Izvješće i komunikacija — Vrata: Dokazi i odgovornost. AI strukturira izvješće, pojednostavljuje i prevodi tekst. Vrata: Svaki slučaj ovisi o dokazima, mišljenje pripada stručnjaku, kritični gubitak informacija i pristranost se provjeravaju, potpis je u osobi.
6. Zatvaranje i primopredaja — Vrata: Točnost. YZ sažima datoteku kronološki. Vrata: Sažetak se temelji samo na zapisu; Rezultate i saznanja provjerava stručnjak.
Savjet: Upotrijebite jedno pitanje da zapamtite vrata: "U ovom koraku, donosi li umjetna inteligencija odluku ili proizvodi skicu?" Ako je odgovor "odluka", stanite - taj korak pripada čovjeku. Ako je odgovor "skica", nastavite, ali nemojte prijeći na sljedeći korak bez provjere rezultata.
Korporativno upravljanje: pojedinačna disciplina nije dovoljna
Dobre navike stručnjaka su vrijedne, ali krhke; Za sigurno i dosljedno korištenje umjetne inteligencije u organizaciji potreban je okvir upravljanja. Ključne komponente ovog okvira su:
- Popis odobrenih vozila. Napisano je i jasno koji alat će se koristiti za koji posao i koji podaci se mogu unijeti u koji alat. Sigurnosna je ranjivost "Svatko treba koristiti alat koji god želi".
- Politika klasifikacije podataka. Definirano je koji će se podaci obrađivati u otvorenom alatu, a koji samo u sigurnom sustavu.
- Uloga i autoritet. Jasno je tko što može i koja odluka ovisi o kojoj vlasti (osobito odluke o riziku).
- Dnevnik i revizijski trag. Može se pratiti gdje i kako se koristi AI; Kad postoji problem, može se osvrnuti.
- Obrazovanje i svijest. Svaki zaposlenik poznaje principe u ovom modulu; Pridošlica je obučen.
- Stalni pregled. Alati, rizici i promjena zakonodavstva; Okvir se redovito ažurira. Jednom napisana i zaboravljena politika postaje zastarjela.
tri mini kućišta
Slučaj 1 — Vrata su uhvatila grešku na početku lanca. U jednom slučaju, AI je dodao zapažanje koje klijent nije spomenuo tijekom faze evaluacije. Na vratima "kliničke prosudbe" stručnjak je to uhvatio i izbrisao. Da nije uhvaćen, ta izmišljena opservacija mogla je procuriti u plan, odatle u izvješće, a odatle u sudsku odluku. Slojevita provjera autentičnosti zaustavila je pogrešku u najranijoj točki.
Slučaj 2 — Upravljanje je spriječilo kršenje. Jedna je organizacija radila bez odobrenog popisa alata i politike podataka; Svatko je koristio svoje vozilo. Revizija je otkrila da je nekoliko zaposlenika unosilo stvarne podatke o klijentima u otvorene alate. Organizacija je uspostavila okvir upravljanja: odobrene alate, klasifikaciju podataka, obuku i registraciju. U narednom razdoblju broj prekršaja pao je na nulu. Pouka: dobra volja pojedinca nije dovoljna bez institucionalne strukture.
Slučaj 3 — Kontinuirani pregled koji se ažurira. Organizacijska politika umjetne inteligencije, napisana prije godinu dana, bila je zastarjela pred novom vrstom alata i ažuriranim zakonodavstvom. Godišnji pregled je to zabilježio; Politika je ažurirana, obuka je obnovljena. Okvir je ostao živi dokument, a ne ukras na polici.
Četiri predloška za kopiranje
1) Kontrolni popis za provjeru tijeka predmeta:
Vaša uloga: nadzornik. Dobivam kontrolni popis za provjeru valjanosti za sljedeći korak slučaja: što AI može izraditi u ovom koraku, koja je odluka nužno ljudska, koje provjere privatnosti i pristranosti treba napraviti, što trebam provjeriti prije nego što prijeđem na sljedeći korak? Korak: [prijava / procjena / rizik / plan / izvješće / zatvaranje]
2) Potvrđeno podudaranje vozila:
Za svaki od popisa zadataka u nastavku navedite vrstu AI alata koji se može koristiti (otvoreni alat / samo sigurni sustav poduzeća / AI nije dostupan) i obrazloženje. Označite svaki zadatak koji sadrži klijentske podatke kao "samo siguran sustav". Zadaci: [popis zadataka]
3) Nacrt politike korporativne umjetne inteligencije:
Vaša uloga: urednik korporativne politike. Napravite nacrt odgovorne politike korištenja umjetne inteligencije za agenciju za socijalnu skrb; Pokrijte sljedeće teme: svrha, odobreni alati, klasifikacija podataka, uloge i ovlaštenja, privatnost/KVKK, ograničenje odluke o riziku, snimanje i revizija, obuka, raspored pregleda. Postavite opći okvir; Ustanova će ispuniti svoje podatke.
4) Samoregulacija (osobni pregled upotrebe):
Napravite popis od 10 pitanja za samostalnu provjeru za mene kako bih pregledao svoju upotrebu umjetne inteligencije kao socijalnog radnika: privatnost, provjera, pristranost, vjernost dokaza, ograničenja odlučivanja i usmjerenost na klijenta. Neka se na svako pitanje odgovori s "da/ne".
Slab upit / Jak upit
Slab upit:
Dajem vam cijeli ovaj slučaj; Vi rješavate sve od prijave do izvješća, ja ću ga samo potpisati na kraju.
Ovo je outsourcing cijelog procesa - uključujući privatnost, kliničku prosudbu, procjenu rizika, pridržavanje dokaza - softveru. Jedan potpis na kraju zasljepljuje nas za sve pogreške, izmišljotine i pristranosti između.
Snažan upit:
Vaša uloga: urednik koji mi pomaže na svakom koraku. S predmetom ću nastaviti korak po korak (procjena, plan, izvješće...). U svakom koraku: radite samo s anonimnim/sigurnim podacima, napravite nacrt, dopustite mi da odlučim, nemojte dodavati ono što nije u bilješci i podsjetite me što trebam provjeriti prije nego što prijeđem na sljedeći korak. Počnimo s ovim korakom: [korak]
Razlika: čuvanje vrata na svakom koraku i pozicioniranje umjetne inteligencije kao pomoćnika korak-po-korak održava sigurnost i odgovornost čovjeka dok održava brzinu.
Stage-gate-odgovornost sažetak
Pozornica
Doprinos AI
ljudska vrata
kritična kontrola
Primjena
Priprema intervjua
privatnost
Klasa podataka
Evaluacija
Uređivanje veličine
klinička prosudba
Nema dijagnoze, nema izmišljanja
Rizik
Podsjetnik faktora
Autoritet + tim
Nema rezultata/odluke
Plan/smjernice
nacrt + ideja
Validacija + klijent
Potvrda izvora, prioritet klijenta
Prijava/kontakt
Struktura + pojednostavljenje
Dokazi + odgovornost
Stručno mišljenje, kontrola pristranosti
Zatvaranje
Kronološki sažetak
točnost
zasnovan na evidenciji
Uobičajene greške
- Predaja cijelog procesa AI-ju i potpisivanje jednog potpisa na kraju. Pogreške između nisu vidljive; Vrata bi trebala biti na svakom koraku.
- Prolazak kroz vrata bez provjere. Izrada jednog stupnja nasljeđuje sljedeći; Svaki izlaz je validiran.
- Prepuštanje upravljanja individualnoj disciplini. Bez institucionalnog okvira, dobre navike su krhke.
- Napišite policu jednom i zaboravite. Promjena alata i zakonodavstva; Neophodan je stalni pregled.
- Ne vođenje evidencije. Bez revizijskog traga, problem se ne može osvrnuti unatrag i ne može se smatrati odgovornim.
Ukratko
U socijalnom radu AI je katalizator u svakom koraku, donositelj odluka ni u jednom koraku, od prijave do zatvaranja slučaja. Postavite šest ljudskih vrata (povjerljivost, klinička prosudba, autoritet/tim, validacija/klijent, dokazi/odgovornost, integritet) u tok od kraja do kraja; Ne prolazite od jednih vrata do drugih, a da ne prođete. Da bi ovo postalo održivo, potrebno je korporativno upravljanje: popis odobrenih alata, politika podataka, uloge, registracija, obuka i stalni pregled. Šest pokretačkih principa modula – ljudska odgovornost, verifikacija, privatnost/PDPA, predanost dokazima, kontrola pristranosti i usmjerenost na klijenta – trebali bi biti utkani u svaki tijek rada.
Zadatak aplikacije
Mentalno iscrtajte izmišljeni slučaj od prijave do zatvaranja; Izradite popis za provjeru za svaku fazu s predloškom "provjera toka predmeta". Zatim klasificirajte zadatke u ovom slučaju kao otvoreno vozilo / sigurni sustav / bez umjetne inteligencije s predloškom "potvrđeno podudaranje vozila". Na kraju, procijenite sebe stvaranjem popisa od 10 pitanja za vlastitu upotrebu umjetne inteligencije pomoću predloška "samoprovjera".
popis za provjeru
- [ ] Identificirao sam šest ljudskih vrata u protoku od kraja do kraja.
- [ ] Na svakom koraku "odluka ili nacrt?" Primijenio sam pitanje.
- [ ] Usporedio sam zadatke s ispravnom vrstom vozila (otvoreno/sigurno/ništa).
- [ ] Poznajem komponente korporativnog upravljanja (alat, podaci, uloga, registracija, obuka, pregled).
- [ ] Implementirao sam šest načela nosača modula u svoj tijek rada.
Modul ispit
1. Što je od sljedećeg najtočnije pozicioniranje umjetne inteligencije u socijalnom radu?
- A) Umjetna inteligencija može odlučiti o klijentovoj razini rizika i odluci o intervenciji bez ljudskog odobrenja
- B) AI je alat za sažimanje, organiziranje, pojednostavljivanje i izradu nacrta; Odgovornost za kliničku prosudbu, rizik i konačnu odluku leži na stručnjaku ✔
- C) Umjetna inteligencija je korisna samo za prevođenje teksta i nema nikakve veze s drugim zadacima socijalnog rada
- D) Budući da je umjetna inteligencija uvijek nepristranija od ljudi, ocjenu treba prepustiti njoj.
Opis: Umjetna inteligencija; To je pomoćnik koji organizira bilješke, sažima datoteku, pojednostavljuje tekst i proizvodi nacrte. Odgovornost za kliničku prosudbu, procjenu rizika, stručno mišljenje i konačnu odluku leži na kompetentnom stručnjaku; Neprovjereni rezultat mogao bi dovesti do pogrešne procjene klijenta, izbjegavanja rizika ili curenja osjetljivih podataka.
2. Koja je najispravnija uputa kada umjetna inteligencija pretvara neobrađene bilješke intervjua u zapisnik o slučaju?
- A) Zahtijevanje od umjetne inteligencije da popuni dijelove koji nedostaju na razuman način kako bi izgledalo profesionalno.
- B) Omogućavanje umjetnoj inteligenciji da doda dodatna opažanja za obogaćivanje zapisa
- C) Traženje od učenika da koristi samo informacije koje su stvarno uključene u bilješku, označi stavke koje nedostaju kao 'potrebno je pojašnjenje' i ne dodaje ništa ✔
- D) Stavljanje izravno u datoteku bez usporedbe s bilješkom sve dok je izlaz tečan
Objašnjenje: Najopasnija tendencija umjetne inteligencije je izmišljanje zapažanja, brojeva ili citata koji nisu u bilješci kako bi se zapis činio 'potpunim'. Ispravan pristup je reći 'samo upotrijebi ono što je u bilješci, označi ono što nedostaje, nemoj ništa dodavati'. Praznine nisu popunjene, označene su radi pojašnjenja.
3. Zašto je razlika između 'činjenice' i 'tumačenja' važna u evidenciji slučaja?
- A) Činjenica je konkretno zapažanje/izjava, dok je interpretacija stručni zaključak koji zahtijeva utemeljenje; To dvoje treba razdvojiti i komentar označiti ✔
- B) Razlika je nepotrebna; činjenica i komentar mogu se na isti način napisati u zapisniku
- C) Bitna je samo interpretacija; Moguće je čak i ako činjenice nisu zabilježene
- D) Budući da umjetna inteligencija savršeno razlikuje ovu razliku, nema potrebe za ljudskom kontrolom.
Objašnjenje: 'Plakao je tri puta u intervjuu' je činjenica; 'Bio je u depresiji' komentar je koji se ne može napisati bez kliničke osnove. Zapis ističe činjenicu i uključuje tumačenje samo uz jasno označavanje i opravdanje. AI može tečno miješati to dvoje; Dužnost je osobe napraviti razliku i izbjeći stigmatizirajući jezik.
4. Koju bi ulogu AI trebala igrati u odlučivanju je li dijete sigurno kod kuće ili o razini rizika slučaja?
- A) Umjetna inteligencija može pročitati slučaj, odrediti razinu rizika i donijeti sigurnosnu odluku
- B) Oznaka 'niskog rizika' koju daje umjetna inteligencija može poništiti opažanje stručnjaka da je suprotno
- C) Umjetna inteligencija samo podsjeća faktore i organizira bilješke; Odluka o razini rizika i sigurnosti pripada stručnjacima, timu, nadzoru i pravnom postupku ✔
- D) Umjetna inteligencija je pouzdanija od ljudi u donošenju odluka o riziku jer je nepristrana.
Opis: Razina rizika i sigurnosna odluka; Zahtijeva profesionalni autoritet, kliničku prosudbu, mišljenje multidisciplinarnog tima, nadzor i pravnu odgovornost. Ovdje se AI može samo prisjetiti rizičnih/zaštitnih čimbenika i uređivati bilješke; ne može dati bodove ili odluke. Također može pripisati sustavno visok rizik skupinama u nepovoljnom položaju zbog pristranosti u podacima o obuci, tako da se njegov rezultat ne može koristiti kao odluka.
5. Što treba učiniti kada umjetna inteligencija daje informaciju o preporuci za klijenta na način da kaže 'ovaj centar, onaj telefon'?
- A) Potvrda adrese i telefonskog broja iz službenog i trenutnog izvora institucije prije davanja klijentu ✔
- B) Prenošenje informacija izravno klijentu jer su predstavljene s povjerenjem
- C) Pod pretpostavkom da su informacije apsolutno točne sve dok umjetna inteligencija daje trenutni datum
- D) Misleći da nema potrebe istraživati točnost informacija jer se negdje spominju.
Opis: Umjetna inteligencija može izmišljati usluge, zahtjeve za prijavu, adrese i telefonske brojeve ili pružati zastarjele informacije; Institucije se spajaju, sele, zatvaraju. Slanje klijenta na neprovjerenu adresu dovest će do uzaludnog putovanja i gubitka povjerenja. Stoga se podaci za kontakt koje daje umjetna inteligencija moraju potvrditi putem vlastitog službenog kanala institucije prije nego što se proslijede klijentu.
6. Tko bi trebao postaviti ciljeve u planu odgovora i koja je uloga umjetne inteligencije?
- A) Umjetna inteligencija bi trebala odrediti ciljeve i napisati cijeli plan bez pitanja klijenta.
- B) Klijent (zajedno sa specijalistom) određuje ciljeve; AI ih stavlja u SMART format i strukturira ih, ne dodaje nove ciljeve ✔
- C) Ciljevi su nevažni; Što više ciljeva plan uključuje, to bolje.
- D) Umjetna inteligencija može zanemariti klijentove prioritete jer izgleda profesionalno
Opis: Temeljna vrijednost socijalnog rada je 'samoodređenje': klijent postavlja ciljeve i prioritete, oblikujući ih stručnim profesionalnim znanjem. Umjetna inteligencija postavlja ove ciljeve u SMART format i predlaže korake i pokazatelje; ali ne može dodati nove ciljeve koje klijent ne kaže. Na klijenta se ne može primijeniti strani, izvana nametnuti plan.
7. U kojem je pitanju umjetna inteligencija najopasnija u izvješću o društvenoj istrazi koje treba podnijeti sudu?
- A) Sposobnost izmišljanja nepostojećih datuma, zapažanja ili citata kako bi izvješće izgledalo 'potpuno' ✔
- B) Previše formalan jezik teksta
- C) Pisanje izvješća kraćeg od traženog
- D) Abecedni red naslova
Objašnjenje: Najopasnija tendencija umjetne inteligencije je dodavanje nepostojećeg datuma, zapažanja ili citata kako bi izvješće izgledalo 'potpuno'. Izmišljena rečenica u sudskom izvješću može zavarati odluku i uništiti vjerodostojnost vještaka. Stoga bi svaki slučaj trebao biti povezan sa stvarnim intervjuom/promatranjem/dokumentom, a stručno mišljenje treba formirati stručnjak.
8. Tko bi trebao napisati stručno mišljenje i dio mišljenja (prijedlozi) izvješća o socijalnom istraživanju?
- A) Umjetna inteligencija; jer proizvodi nepristraniju preporuku
- B) Rubrika mišljenja nikada se ne popunjava prilikom pisanja izvješća.
- C) Umjetna inteligencija piše mišljenje, vještak se potpisuje tek na kraju
- D) Stručnjak; stručno mišljenje i mišljenje su njegova/njezina nadležnost i odgovornost, umjetna inteligencija samo pojašnjava jezik ✔
Izjava: Stručno mišljenje i mišljenje — 'ovo je najbolji interes ovog djeteta', 'ovaj je aranžman prikladan' — zakonsko je ovlaštenje i odgovornost stručnjaka. 'Što preporučam umjetnoj inteligenciji?' Ne traži se; 'Prijedlog' koji daje može biti i izmišljen i prijenos odgovornosti. U najboljem slučaju, umjetna inteligencija pojašnjava jezik mišljenja koje je napisao stručnjak.
9. Koja je najkritičnija kontrola kada se pojednostavljuje teško službeno pismo pomoći za klijenta s umjetnom inteligencijom?
- A) Neka tekst bude što kraći, ne gledajte u detalje
- B) Rezultat izgleda tečno i estetski
- C) Provjera da nisu izostavljena nikakva prava, uvjeti, iznosi, datumi ili obavijesti usporedbom s izvornikom ✔
- D) Pojednostavljenje pruža udobnost klijentu dajući mu manje informacija.
Objašnjenje: Pojednostavljivanje ne znači iskrivljavanje; 'Skrati' ili 'pojednostavi' AI može progutati pravo, uvjet, iznos, datum ili obavijest. Klijent može izgubiti svoje pravo 'lakom', ali nepotpunom informacijom. Stoga bi pojednostavljeni tekst trebalo usporediti s izvornikom i provjeriti da nije izgubljena kritična informacija, pa čak i zamoliti umjetnu inteligenciju da popiše kritične elemente koje štiti.
10. Kako je ispravno postupati sa statistikom koju proizvodi umjetna inteligencija prilikom izrade zahtjeva za financiranje?
- A) Izravno korištenje statistike koju daje umjetna inteligencija kako bi izgledalo impresivno
- B) Ne natjerati umjetnu inteligenciju da napravi statistiku, ispisati [POTREBNI PODACI] gdje je potrebno i staviti svaki broj iz stvarnog izvora ✔
- C) Uzimajući u obzir da je izvor nevažan sve dok je broj uključen u aplikaciju.
- D) Pod pretpostavkom da nema potrebe za provjerom statistike jer AI piše pouzdano
Opis: Umjetna inteligencija može napraviti zapanjujuću statistiku bez izvora; Brojka bez izvora je gotovo uvijek nepouzdana. Izmišljena statistika u prijavi će odbiti prijavu i uništiti vjerodostojnost institucije. Ispravan pristup je da AI ne izmišlja brojeve ('Napišite [POTREBNI PODACI]') i stavljate svaki broj iz stvarnog, provjerenog izvora.
11. Zašto je štetno tražiti od umjetne inteligencije 'objašnjenje zašto je ova obitelj neadekvatna u odgoju djece'?
- A) Zato što je pitanje predugo
- B) Budući da umjetna inteligencija ne može pružiti nikakve informacije o obiteljskim stvarima
- C) Budući da pretpostavlja rezultat od početka, umjetna inteligencija (laskavo) proizvodi neutemeljenu i pristranu potvrdu; Pitanje treba biti neutralno i uravnoteženo ✔
- D) Zato što će umjetna inteligencija uvijek pisati u korist obitelji
Objašnjenje: Ovo pitanje pretpostavlja rezultat ('nedovoljan'). AI proizvodi tekst bez dokaza i pristran tekst koji potvrđuje ovu pretpostavku svojom tendencijom laskanja (potvrdite svoju insinuaciju). Pristrano pitanje stvara pristran odgovor. Doista, to je neutralno pitanje koje ne pretpostavlja ishod, uravnotežuje snage i brige i traži samo dokaze.
12. Kako primijeniti 'testiranje pod kutom' za provjeru pristranosti u AI izlazu?
- A) Razmišljanje o istoj situaciji za drugu grupu i pitanje "Bi li ovo bilo napisano na istom jeziku?" ✔ Testiranje dvostrukih standarda pitanjem
- B) Prihvaćanje prvog odgovora umjetne inteligencije kao neutralnog i ne traženje drugog kuta
- C) Postavljanje samo pitanja koja podržavaju skupinu klijenta
- D) Pod pretpostavkom da nema potrebe za dodatnom kontrolom jer pristranost uopće ne postoji u umjetnoj inteligenciji
Objašnjenje: AI može napisati isto ponašanje različitim tonom za različite skupine (npr. 'rizik od zanemarivanja' za obitelji s niskim primanjima, 'prisilni roditelj' za obitelji s visokim primanjima). Test inverzije je 'da je klijent iz druge socioekonomske/etničke skupine, bi li ovo bilo napisano na istom jeziku?' je pitati; To čini vidljivim dvostruke standarde temeljene na stereotipima, a ne na dokazima.
13. Koji je ispravan pristup sažetku stvarnog dosjea klijenta (uključujući ime, adresu, zdravstvene informacije)?
- A) Za brzinu, zalijepite ga u najbliži javni AI alat i dajte ga sažeti
- B) Obrada datoteke bez obraćanja pažnje na privatnost jer je kratka
- C) Unesite sve uključujući zdravstvene podatke i spremite samo rezultat
- D) Obrađivati samo u sigurnom sustavu koji je odobrila institucija ili s deidentificiranim tekstom, s minimalnim brojem podataka ✔
Otkrivanje: Osobni podaci koji identificiraju klijenta - posebno osjetljivi podaci kao što je zdravstveno stanje - nikad se ne unose u javni alat koji institucija nije odobrila; tekst se može obraditi, pohraniti na vanjskim poslužiteljima ili koristiti u obuci modela, a eksfiltracija je nepovratna. I to je prekršaj KVKK. Ova vrsta posla obavlja se samo u internim, sigurnim, odobrenim sustavima koji ne propuštaju podatke ili s deidentificiranim tekstom.
14. Zašto brisanje imena iz dokumenta nije uvijek dovoljno za njegovo postavljanje u javni alat?
- A) Brisanje imena uvijek je potpuna anonimizacija i svaki dokument čini sigurnim
- B) Sve dok je dokument kratak, nemoguće je zaključiti o identitetu iz konteksta
- C) Dokument čiji je naziv u cijelosti izbrisan izlazi izvan djelokruga KVKK.
- D) Kontekst (susjedstvo, dob, događaj, obiteljska struktura) može ponovno potvrditi identitet; Zaštita je osigurana izborom alata i okoline ✔
Objašnjenje: Čak i ako su imena izbrisana, kontekst (rijetka kombinacija susjedstva, dobi, događaja, datuma, obiteljske strukture, itd.) može učiniti osobu prepoznatljivom; On je možda jedina osoba u susjedstvu koja odgovara opisu. Prava zaštita ne osigurava se maskiranjem, već odabirom pravog alata i okoline; Kontekst su i osobni podaci, a nesigurne informacije treba zaštititi kao viši razred.
15. Od podnošenja zahtjeva do zatvaranja slučaja, koji je najučinkovitiji način za sprječavanje da jedna greška umjetne inteligencije procuri u konačnu odluku?
- A) Delegiranje cijelog procesa na jedan AI alat i potpisivanje samo jednom na kraju
- B) Postavljanje prolaza ljudske provjere i prolaznog uvjeta u svakoj fazi (slojevita verifikacija) ✔
- C) Uklanjanje srednjih validacija za brzinu i provjera samo na izlaznom stupnju
- D) Dopuštanje svakom stručnjaku da slobodno koristi svoj alat bez vođenja evidencije
Opis: Vrata ljudske provjere postavljaju se u svaku fazu (prijava/povjerljivost, procjena/klinička prosudba, rizik/autorizacija, plan/provjera, izvješće/dokazi, zatvaranje/točnost); Ne možete proći kroz jedna vrata, a da ne prođete kroz druga. Ova slojevita struktura sprječava da halucinacija, pristranost ili pogreška povjerljivosti u jednoj fazi prodre u odluku koja utječe na klijenta.