Tok rada od kraja do kraja, upravljanje i odgovorno korištenje

Dobici:

• Sposobnost dosljednog ugrađivanja AI u svakoj fazi od aplikacije do zatvaranja sa šest kapija za verifikaciju ljudi
• Sposobnost uspostavljanja okvira korporativnog upravljanja sa odobrenom listom alata, politikom podataka, ulogama, registracijom, obukom i stalnim pregledom
• Sposobnost ugrađivanja principa ljudske odgovornosti, verifikacije, privatnosti/KVKK, pridržavanja dokaza, kontrole pristrasnosti i usmjerenosti na klijenta u tok posla

Kroz ovaj modul pokrili smo kako koristiti umjetnu inteligenciju i gdje je zaustaviti u različitim zadacima socijalnog rada — dokumentacija, procjena, podrška riziku, upućivanje, plan, izvještaj, komunikacija, dizajn programa. U ovoj završnoj cjelini sastavili smo dijelove: gdje će AI sjediti od kraja do kraja od aplikacije do zatvaranja slučaja, koja vrata ljudske verifikacije se zaustavljaju u svakoj fazi, a mi ćemo uspostaviti upravljački okvir potreban da ovo bude održivo u organizaciji. Cilj je pretvoriti raspršene savjete u dosljednu i ponovljivu radnu disciplinu.

Integrativni princip od samog početka: AI je akcelerator na svakom koraku radnog procesa, a ne donosilac odluka ni u jednom koraku. U svakoj fazi postoje ljudska vrata i ne možete preći na sledeću a da ne prođete kroz jedna vrata. Ova slojevita struktura sprečava da jedna halucinacija, pristrasnost ili greška u privatnosti prodre u odluku koja utiče na život klijenta.

Tok od kraja do kraja i šest ljudskih kapija

Hajde da razmotrimo slučaj kroz njegove tipične faze i postavimo kapiju za verifikaciju u svaku fazu:

1. Prijava / prvi kontakt — Vrata: Privatnost. Kada dođu prve informacije, AI se koristi za pripremu intervjua (vodič, okvir pitanja). Vrata: U otvoreni alat ne ulaze stvarni podaci o klijentu; Pitajte za klasu, uskladite vozilo.

2. Procjena — Gate: Klinička procjena. AI organizira bilješke u biopsihosocijalne dimenzije i podsjeća na nedostatke i prednosti. Vrata: Dijagnoza i evaluacija pripadaju specijalisti; AI ne ocjenjuje.

3. Rizik — Vrata: Autoritet i tim. AI podsjeća na faktore rizika/zaštitne faktore i stvara kostur sigurnosnog plana. Vrata: Odluku o riziku donosi samo stručni, timski, nadzorni i pravni proces; AI ne proizvodi rezultate/odluke.

4. Planiranje i usmjeravanje — Vrata: Validacija i klijent. AI postavlja ciljeve u SMART, generiše ideje o resursima i nacrte pisama. Vrata: Klijent postavlja ciljeve; Usluga/adresa/stanje je potvrđeno iz zvaničnog izvora.

5. Izvještaj i komunikacija — Vrata: Dokazi i odgovornost. AI strukturira izvještaj, pojednostavljuje i prevodi tekst. Vrata: Svaki slučaj zavisi od dokaza, mišljenje pripada vještaku, provjerava se gubitak kritičnih informacija i pristrasnost, potpis je u licu.

6. Zatvaranje i primopredaja — Kapija: tačnost. YZ sažima fajl hronološki. Vrata: Sažetak se zasniva samo na zapisu; Rezultate i saznanja provjerava stručnjak.

Savjet: Koristite jedno pitanje da biste zapamtili vrata: „Da li u ovom koraku AI donosi odluku ili proizvodi skicu?“ Ako je odgovor "odluka", stani - taj korak pripada čovjeku. Ako je odgovor "nacrt", nastavite, ali nemojte prelaziti na sljedeći korak bez provjere rezultata.

Korporativno upravljanje: individualna disciplina nije dovoljna

Dobre navike stručnjaka su vrijedne, ali krhke; Sigurna i dosljedna upotreba AI u organizaciji zahtijeva okvir upravljanja. Ključne komponente ovog okvira su:

• Lista odobrenih vozila. Napisano je i jasno koji alat će se koristiti za koji posao i koji se podaci u koji alat mogu unositi. „Svako treba da koristi alat koji želi“ je bezbednosna ranjivost.
• Politika klasifikacije podataka. Definirano je koji će se podaci obrađivati ​​u otvorenom alatu, a koji samo u sigurnom sistemu.
• Uloga i autoritet. Jasno je ko šta može da radi i koja odluka zavisi od kojeg organa (naročito odluke o riziku).
• Dnevnik i revizijski trag. Gdje i kako se AI koristi može se pratiti; Kada postoji problem, može se pogledati unazad.
• Obrazovanje i svijest. Svaki zaposlenik poznaje principe ovog modula; Novac je obučen.
• Stalni pregled. Alati, rizici i promjena zakona; Okvir se redovno ažurira. Politika jednom napisana i zaboravljena postaje zastarjela.

tri mini kofera

Slučaj 1 — Vrata su uhvatila bubu na početku lanca. U jednom slučaju, AI je dodao zapažanje koje klijent nije spomenuo tokom faze evaluacije. Na kapiji "kliničke procjene" vještak je ovo uhvatio i izbrisao. Da nije uhvaćen, ovo izmišljeno zapažanje moglo bi procuriti u plan, odatle u izvještaj, a odatle u sudsku odluku. Višeslojna autentifikacija zaustavila je grešku u najranijoj tački.

Slučaj 2 — Upravljanje je spriječilo kršenje. Jedna organizacija je radila bez odobrene liste alata i politike podataka; Svako je koristio svoje vozilo. Revizija je otkrila da je nekoliko zaposlenika unosilo stvarne podatke o klijentima u otvorene alate. Organizacija je uspostavila okvir upravljanja: odobreni alati, klasifikacija podataka, obuka i registracija. U narednom periodu broj prekršaja je pao na nulu. Pouka: individualna dobra volja nije dovoljna bez institucionalne strukture.

Slučaj 3 — Kontinuirani pregled koji se ažurira. Politika umjetne inteligencije organizacije, napisana prije godinu dana, zastarjela je suočeni s novom vrstom alata i ažuriranim zakonima. Godišnji pregled je ovo obuhvatio; Politika je ažurirana, obuka je obnovljena. Okvir je ostao živi dokument, a ne ukras police.

Četiri šablona za kopiranje

1) Kontrolna lista kapije za verifikaciju toka predmeta:

Vaša uloga: supervizor. Dobijam kontrolnu listu za provjeru valjanosti za sljedeći korak slučaja: šta može AI nacrtati u ovom koraku, koja odluka je nužno ljudska, koje provjere privatnosti i pristrasnosti treba uraditi, šta trebam provjeriti prije nego što pređem na sljedeći korak? Korak: [prijava / procjena / rizik / plan / izvještaj / zatvaranje]

2) Potvrđeno podudaranje vozila:

Za svaku od dole navedenih lista zadataka navedite tip AI alata koji se može koristiti (otvoreni alat / samo siguran sistem preduzeća / AI nije dostupan) i opravdanje. Označite svaki zadatak koji sadrži podatke klijenta kao "samo siguran sistem". Zadaci: [navedite zadatke]

3) Nacrt politike korporativne AI:

Vaša uloga: urednik korporativnih politika. Izraditi politiku odgovorne upotrebe AI za agenciju za socijalne usluge; Pokrijte sljedeće teme: svrha, odobreni alati, klasifikacija podataka, uloge i ovlaštenja, privatnost/KVKK, granica odluke o riziku, snimanje i revizija, obuka, raspored pregleda. Postaviti opšti okvir; Institucija će popuniti svoje podatke.

4) Samoregulacija (pregled lične upotrebe):

Napravite listu za samoprovjeru od 10 pitanja za mene da provjerim svoju upotrebu AI kao socijalnog radnika: privatnost, verifikacija, pristrasnost, vjernost dokaza, ograničenja odlučivanja i usmjerenost na klijenta. Neka se na svako pitanje odgovori sa "da/ne".

Slaba prompt / Jaka prompt

Slab upit:

Dajem vam ceo ovaj slučaj; Vi rješavate sve od prijave do izvještaja, ja ću ga samo potpisati na kraju.

Ovo je prepuštanje cijelog procesa - uključujući privatnost, kliničku procjenu, procjenu rizika, pridržavanje dokaza - softveru. Jedinstveni potpis na kraju nas zasljepljuje od svih grešaka, izmišljotina i predrasuda između.

Snažan upit:

Vaša uloga: urednik koji mi pomaže na svakom koraku. Nastaviću sa slučajem korak po korak (procjena, plan, izvještaj...). U svakom koraku: radite samo s anonimnim/sigurnim podacima, izradite nacrt, dozvolite mi da odlučim, nemojte dodavati ono što nije u bilješci i podsjetite me šta trebam provjeriti prije nego što pređem na sljedeći korak. Počnimo s ovim korakom: [korak]

Razlika: čuvanje vrata na svakom koraku i pozicioniranje AI kao pomoćnika korak po korak čuva sigurnost i odgovornost čovjeka uz održavanje brzine.

Sažetak odgovornosti na pozornici

Stage

Doprinos AI

ljudska kapija

kritička kontrola

Aplikacija

Priprema za intervju

privatnost

Klasa podataka

Evaluacija

Uređivanje veličine

klinički sud

Bez dijagnoze, bez izmišljotina

Rizik

Podsjetnik faktora

Autoritet + tim

Nema rezultata/odluke

Plan/smjernica

nacrt + ideja

Validacija + klijent

Potvrda izvora, prioritet klijenta

Prijavi/kontakt

Struktura + pojednostavljenje

Dokazi + odgovornost

Mišljenje stručnjaka, kontrola pristrasnosti

Zatvaranje

Hronološki sažetak

tačnost

na osnovu zapisa

Uobičajene greške

• Predaja cijelog procesa AI i potpisivanje jednog potpisa na kraju. Greške između nisu vidljive; Vrata bi trebalo da budu na svakom koraku.
• Prolazak kroz vrata bez provjere. Izrada jedne faze je naslijeđena slijedećom; Svaki izlaz je validiran.
• Ostavljanje upravljanja individualnoj disciplini. Bez institucionalnog okvira, dobre navike su krhke.
• Napišite politiku jednom i zaboravite. Alati i promjena zakona; Neophodan je stalni pregled.
• Ne vodi evidenciju. Bez revizorskog traga, problem se ne može osvrnuti i ne može se smatrati odgovornim.

Ukratko

U socijalnom radu, AI je katalizator na svakom koraku, donosilac odluke ni u jednom koraku, od prijave do zatvaranja slučaja. Stavite šest ljudskih kapija (povjerljivost, kliničko prosuđivanje, autoritet/tim, validacija/klijent, dokazi/odgovornost, integritet) u tok od kraja do kraja; Ne prelazite s jednih vrata na druga a da ne prođete. Da bi se ovo učinilo održivim, potrebno je korporativno upravljanje: lista odobrenih alata, politika podataka, uloge, registracija, obuka i stalni pregled. Šest pokretačkih principa modula – ljudska odgovornost, verifikacija, privatnost/PDPA, posvećenost dokazima, kontrola pristrasnosti i usredsređenost na klijenta – trebalo bi da budu utkani u svaki tok posla.

Zadatak aplikacije

Mentalno nacrtajte izmišljeni slučaj od prijave do zatvaranja; Napravite kontrolnu listu za svaku fazu sa šablonom „kapija za verifikaciju toka slučaja“. Zatim klasifikujte zadatke u ovom slučaju kao otvoreno vozilo / siguran sistem / bez AI sa šablonom „potvrđeno podudaranje vozila“. Konačno, procijenite se tako što ćete kreirati listu od 10 pitanja za vlastitu upotrebu AI sa šablonom "samoprovjera".

kontrolna lista

• [ ] Identifikovao sam šest ljudskih kapija u toku od kraja do kraja.
• [ ] Na svakom koraku, "odluka ili nacrt?" Primijenio sam pitanje.
• [ ] Upario sam zadatke sa ispravnim tipom vozila (otvoreno/sigurno/nijedno).
• [ ] Poznajem komponente korporativnog upravljanja (alat, podaci, uloga, registracija, obuka, pregled).
• [ ] Implementirao sam šest principa nosioca modula u svoj radni tok.

Modul Exam

1. Koje od sljedećeg je najtačnije pozicioniranje umjetne inteligencije u socijalnom radu?

• A) Vještačka inteligencija može odlučiti o nivou rizika klijenta i odluku o intervenciji bez ljudskog odobrenja
• B) AI je alat za sumiranje, organizovanje, pojednostavljivanje i izradu nacrta; Odgovornost za kliničku procjenu, rizik i konačnu odluku leži na stručnjaku ✔
• C) Umjetna inteligencija je korisna samo za prevođenje teksta i nema nikakve veze s drugim zadacima socijalnog rada
• D) Budući da je umjetna inteligencija uvijek nepristrasnija od ljudi, evaluaciju treba prepustiti njoj.

Opis: Umjetna inteligencija; To je pomoćnik koji organizira bilješke, rezimira datoteku, pojednostavljuje tekst i pravi nacrte. Odgovornost za kliničku prosudbu, procjenu rizika, stručno mišljenje i konačnu odluku je na kompetentnom stručnjaku; Neprovjereni izlaz može dovesti do pogrešne procjene klijenta, izbjegavanja rizika ili curenja osjetljivih podataka.

2. Koja je najispravnija instrukcija kada se sirove bilješke intervjua pretvaraju u zapisnik slučaja pomoću umjetne inteligencije?

• A) Zahtevanje veštačke inteligencije da popuni delove koji nedostaju na razuman način kako bi izgledalo profesionalno.
• B) Omogućavanje AI da doda dodatna zapažanja kako bi obogatio zapis
• C) Zamoliti učenika da koristi samo informacije koje su stvarno uključene u bilješku, označi stavke koje nedostaju kao 'treba pojašnjenje' i ne dodavati ništa ✔
• D) Stavljanje direktno u datoteku bez poređenja sa beleškom sve dok je izlaz tečan

Objašnjenje: Najopasnija tendencija AI je da izmišlja zapažanja, brojeve ili citate koji nisu u bilješci kako bi zapis izgledao 'potpun'. Ispravan pristup je reći 'samo koristi ono što je u bilješci, označi one koje nedostaju, ne dodaj ništa'. Praznine se ne popunjavaju, one su označene radi pojašnjenja.

3. Zašto je razlika između 'činjenice' i 'tumačenja' važna u spisu predmeta?

• A) Činjenica je konkretno zapažanje/izjava, dok je tumačenje profesionalni zaključak koji zahtijeva osnovu; To dvoje treba razdvojiti i komentar označiti ✔
• B) Razlika je nepotrebna; činjenica i komentar se mogu upisati na isti način u zapisnik
• C) Samo je tumačenje važno; Moguće je čak i ako činjenice nisu zabilježene
• D) Pošto veštačka inteligencija savršeno pravi ovu razliku, nema potrebe za ljudskom kontrolom.

Objašnjenje: 'Plakao je tri puta u intervjuu' je činjenica; 'Bio je depresivan' je komentar koji se ne može napisati bez kliničke osnove. Zapis ističe činjenicu i uključuje tumačenje samo uz jasno označavanje i opravdanje. AI može tečno miješati to dvoje; Dužnost je osobe da napravi razliku i izbjegne stigmatizirajući jezik.

4. Koju ulogu AI treba da igra u odlučivanju da li je dete bezbedno kod kuće ili nivo rizika od slučaja?

• A) Vještačka inteligencija može pročitati slučaj, odrediti nivo rizika i donijeti sigurnosnu odluku
• B) Oznaka 'niskog rizika' koju daje umjetna inteligencija može nadjačati zapažanje stručnjaka o suprotnom
• C) Veštačka inteligencija samo podseća faktore i organizuje beleške; Nivo rizika i odluka o sigurnosti pripada stručnom, timskom, nadzornom i pravnom procesu ✔
• D) Vještačka inteligencija je pouzdanija od ljudi u odlučivanju o riziku jer je nepristrasna.

Opis: Nivo rizika i sigurnosna odluka; Zahtijeva profesionalni autoritet, kliničko prosuđivanje, mišljenje multidisciplinarnog tima, nadzor i pravnu odgovornost. Ovdje AI može samo prisjetiti faktore rizika/zaštitne faktore i urediti bilješke; ne može proizvesti rezultate ili odluke. Takođe može pripisati sistematski visok rizik grupama u nepovoljnom položaju zbog pristrasnosti u podacima o obuci, tako da se njegov rezultat ne može koristiti kao odluka.

5. Šta treba učiniti kada vještačka inteligencija daje informaciju o uputstvu za klijenta govoreći 'ovaj centar, taj telefon'?

• A) Potvrđivanje adrese i broja telefona od zvaničnog i trenutnog izvora institucije prije nego što ih date klijentu ✔
• B) Prenošenje informacija direktno klijentu onako kako su pouzdano predstavljene
• C) Pod pretpostavkom da su informacije apsolutno tačne sve dok umjetna inteligencija daje trenutni datum
• D) Misleći da nema potrebe da se ispituje tačnost informacija jer se negdje spominje.

Opis: Vještačka inteligencija može sastavljati usluge, zahtjeve za aplikacije, adrese i brojeve telefona ili pružati zastarjele informacije; Institucije se spajaju, sele, zatvaraju. Slanje klijenta na neprovjerenu adresu će dovesti do izgubljenog putovanja i gubitka povjerenja. Stoga, kontakt informacije koje pruža umjetna inteligencija moraju biti potvrđene putem vlastitog službenog kanala institucije prije nego što se prenesu klijentu.

6. Ko treba postaviti ciljeve u planu odgovora i koja je uloga AI?

• A) Umjetna inteligencija bi trebala i odrediti ciljeve i napisati cijeli plan bez pitanja klijenta.
• B) Klijent (zajedno sa specijalistom) određuje ciljeve; AI ih stavlja u SMART format i strukturira ih, ne dodaje nove ciljeve ✔
• C) Ciljevi su nevažni; Što više ciljeva plan uključuje, to bolje.
• D) Vještačka inteligencija može zanemariti klijentove prioritete jer izgleda profesionalno

Opis: Osnovna vrijednost socijalnog rada je 'samoopredjeljenje': klijent postavlja ciljeve i prioritete, oblikujući ih stručnim stručnim znanjem. Umjetna inteligencija stavlja ove ciljeve u SMART format i predlaže korake i indikatore; ali ne može dodati nove ciljeve koje klijent ne kaže. Strani, eksterno nametnuti plan ne može se primijeniti na klijenta.

7. U izvještaju o socijalnoj istrazi koji se podnosi sudu, u kojem pitanju je umjetna inteligencija najopasnija?

• A) Sposobnost izmišljanja nepostojećih datuma, zapažanja ili citata kako bi izvještaj izgledao 'potpun' ✔
• B) Previše formalan jezik teksta
• C) Pisanje izvještaja kraće od traženog
• D) Abecednim redom naslova

Objašnjenje: Najopasnija tendencija AI je dodavanje nepostojećeg datuma, zapažanja ili citata kako bi izvještaj izgledao 'potpun'. Izmišljena rečenica u sudskom izvještaju može dovesti u zabludu odluku i uništiti kredibilitet vještaka. Dakle, svaki slučaj treba povezati sa pravim intervjuom/opažanjem/dokumentom, a stručno mišljenje treba formirati od strane stručnjaka.

8. Ko treba da napiše stručno mišljenje i mišljenje (sugestiju) u izvještaju o socijalnoj istrazi?

• A) Veštačka inteligencija; jer daje nepristrasnije preporuke
• B) Odjeljak za mišljenje se nikada ne popunjava prilikom pisanja izvještaja.
• C) Vještačka inteligencija piše mišljenje, ekspert potpisuje tek na kraju
• D) Ekspert; stručno mišljenje i mišljenje su njegov autoritet i odgovornost, veštačka inteligencija samo pojašnjava jezik ✔

Izjava: Stručno mišljenje i mišljenje — 'ovo je najbolji interes ovog djeteta', 'ovaj aranžman je prikladan' — je zakonski autoritet i odgovornost stručnjaka. 'Šta preporučujem umjetnoj inteligenciji?' Ne pita se; 'Prijedlog' koji on iznese može biti i izmišljen i prijenos odgovornosti. U najboljem slučaju, umjetna inteligencija pojašnjava jezik mišljenja koje je napisao stručnjak.

9. Koja je najkritičnija kontrola prilikom pojednostavljivanja teškog službenog pisma pomoći za klijenta s umjetnom inteligencijom?

• A) Neka tekst bude što kraći, ne gledajte detalje
• B) Rezultat izgleda tečno i estetski
• C) Provjera da nikakva prava, uslovi, iznosi, datumi ili obavještenja nisu izostavljeni upoređivanjem s originalom ✔
• D) Pojednostavljenje pruža udobnost klijentu dajući mu ili njoj manje informacija.

Objašnjenje: Pojednostavljivanje ne znači iskrivljavanje; 'skratiti' ili 'pojednostaviti' AI može progutati pravo, stanje, iznos, datum ili obavijest. Klijent može izgubiti pravo sa 'lakim', ali nepotpunim informacijama. Stoga, pojednostavljeni tekst treba uporediti s originalnim i provjeriti da nije izgubljena nijedna kritična informacija, pa čak i da umjetna inteligencija navede kritične elemente koje štiti.

10. Kako je ispravno tretirati statistiku koju proizvodi vještačka inteligencija prilikom izrade aplikacije za finansiranje?

• A) Direktno korištenje statistike koju daje umjetna inteligencija kako bi izgledala impresivno
• B) Ne praviti da veštačka inteligencija pravi statistiku, štampa [POTREBNI PODACI] gde je potrebno i stavlja svaki broj iz stvarnog izvora ✔
• C) S obzirom da je izvor nebitan sve dok je broj uključen u aplikaciju.
• D) Pod pretpostavkom da nema potrebe za provjerom statistike jer AI piše samouvjereno

Opis: Umjetna inteligencija može sastaviti upečatljive statistike bez izvora; Broj bez izvora je gotovo uvijek nepouzdan. Izmišljena statistika u aplikaciji će i odbiti prijavu i uništiti kredibilitet institucije. Ispravan pristup je da AI ne pravi brojeve ('Write [DATA REQUIRED]') i stavlja svaki broj iz stvarnog, provjerenog izvora.

11. Zašto je štetno pitati umjetnu inteligenciju 'da objasni zašto je ova porodica neadekvatna u odgoju djece'?

• A) Zato što je pitanje predugačko
• B) Budući da vještačka inteligencija ne može dati nikakve informacije o porodičnim stvarima
• C) Budući da pretpostavlja rezultat od početka, umjetna inteligencija (laskavo) daje nepotkrijepljenu i pristrasnu potvrdu; Pitanje treba da bude neutralno i uravnoteženo ✔
• D) Zato što će veštačka inteligencija uvek pisati u korist porodice

Objašnjenje: Ovo pitanje pretpostavlja rezultat ('nedovoljan'). AI proizvodi tekst bez dokaza i pristrasan koji potvrđuje ovu pretpostavku svojom tendencijom laskanja (potvrdite svoju insinuaciju). Pristrasno pitanje stvara pristrasan odgovor. Zaista, to je neutralno pitanje koje ne pretpostavlja ishod, balansira i snage i brige i traži samo dokaze.

12. Kako primijeniti 'testiranje pod kutom' za provjeru pristranosti u AI izlazu?

• A) Razmišljanje o istoj situaciji za drugu grupu i pitanje 'Da li bi ovo bilo napisano na istom jeziku?' ✔ Testiranje dvostrukih standarda postavljanjem pitanja
• B) Prihvatanje prvog odgovora veštačke inteligencije kao neutralnog i ne traženje drugog ugla
• C) Postavljanje samo pitanja koja podržavaju grupu klijenta
• D) Pod pretpostavkom da nema potrebe za dodatnom kontrolom jer pristrasnost u umjetnoj inteligenciji uopće ne postoji

Objašnjenje: AI može napisati isto ponašanje različitim tonom za različite grupe (npr. 'rizik zanemarivanja' za porodicu s niskim primanjima, 'prisilni roditelj' za visoke prihode). Test inverzije je 'da je klijent iz druge socioekonomske/etničke grupe, da li bi ovo bilo napisano na istom jeziku?' je pitati; Ovo čini vidljivim dvostruke standarde zasnovane na stereotipima, a ne dokazima.

13. Koji je ispravan pristup da se rezimiraju stvarni fajl klijenta (uključujući ime, adresu, zdravstvene informacije)?

• A) Za brzinu, zalijepite ga u najbliži javni AI alat i dajte ga sažeti
• B) Obrada datoteke bez obraćanja pažnje na privatnost jer je kratka
• C) Unesite sve uključujući zdravstvene podatke i sačuvajte samo rezultat
• D) Obrađivati samo u bezbednom sistemu odobrenom od strane institucije ili sa neidentifikovanim tekstom, sa minimalnim podacima ✔

Otkrivanje: Lični podaci koji identifikuju klijenta – posebno osetljivi podaci kao što je zdravlje – nikada se ne unose u javni alat koji institucija nije odobrila; tekst se može obraditi, pohraniti na eksterne servere ili koristiti u obuci modela, a eksfiltracija je nepovratna. Ovo je također kršenje KVKK-a. Ova vrsta posla se obavlja samo u internim, sigurnim, odobrenim sistemima koji ne propuštaju podatke ili sa neidentifikovanim tekstom.

14. Zašto brisanje imena iz dokumenta nije uvijek dovoljno da ga uključite u javni alat?

• A) Brisanje imena je uvijek potpuna anonimizacija i čini svaki dokument sigurnim
• B) Sve dok je dokument kratak, nemoguće je zaključiti identitet iz konteksta
• C) Dokument čije je ime potpuno izbrisano ne spada u djelokrug KVKK.
• D) Kontekst (susjedstvo, godine, događaj, porodična struktura) može ponovo potvrditi identitet; Zaštita je obezbeđena izborom alata i okoline ✔

Objašnjenje: Čak i ako se imena izbrišu, kontekst (rijetka kombinacija susjedstva, godina, događaja, datuma, porodične strukture, itd.) može učiniti osobu prepoznatljivom; On je možda jedina osoba u komšiluku koja odgovara opisu. Prava zaštita se ne pruža maskiranjem, već odabirom pravog alata i okruženja; Kontekst su i lični podaci, a nesigurne informacije treba zaštititi kao višu klasu.

15. Od prijave do zatvaranja predmeta, koji je najefikasniji način da se spriječi da jedna greška AI procuri u konačnu odluku?

• A) Delegiranje cijelog procesa na jedan AI alat i potpisivanje samo jednom na kraju
• B) Postavljanje ljudskih kapija za verifikaciju i uslova prolaza u svakoj fazi (slojevita verifikacija) ✔
• C) Uklanjanje srednjih validacija za brzinu i provjeravanje samo na izlaznom stupnju
• D) Dozvoliti svakom stručnjaku da slobodno koristi svoj alat bez vođenja evidencije

Opis: U svakoj fazi postavlja se kapija ljudske verifikacije (primjena/povjerljivost, procjena/klinička procjena, rizik/ovlašćenje, plan/verifikacija, izvještaj/dokazi, zatvaranje/tačnost); Ne možete proći kroz jedna vrata, a da ne prođete kroz druga. Ova slojevita struktura sprečava halucinaciju, pristrasnost ili grešku u poverljivosti u jednoj fazi da prodre u odluku koja utiče na klijenta.