Kasu:
- Võimalus järjekindlalt manustada tehisintellekti igas etapis alates rakendusest kuni sulgemiseni kuue inimese kinnitusvärava abil
- Võimalus luua ettevõtte juhtimisraamistik koos heakskiidetud tööriistade loendi, andmepoliitika, rollide, registreerimise, koolituse ja pideva ülevaatusega
- Võimalus lisada töövoosse inimvastutuse, kontrollimise, privaatsuse/KVKK, tõenditest kinnipidamise, eelarvamuste kontrolli ja kliendikesksuse põhimõtted
Kogu selle mooduli jooksul käsitlesime tehisintellekti kasutamist ja kus seda peatada sotsiaaltöö erinevates ülesannetes — dokumenteerimine, hindamine, riskitoetus, suunamine, plaan, aruanne, suhtlus, programmide koostamine. Selles viimases üksuses panime tükid kokku: kus AI istub otsast lõpuni rakendusest kuni juhtumi sulgemiseni, milline inimese kontrollimise uks peatub igas etapis ja loome selle organisatsiooni jätkusuutlikuks toimimiseks vajaliku juhtimisraamistiku. Eesmärk on muuta hajutatud näpunäited järjepidevaks ja korratavaks töödistsipliiniks.
Integreeriv põhimõte algusest peale: AI on töövoo igal sammul kiirendaja, mitte ühelgi etapil otsustaja. Igas etapis on inimese uks ja te ei saa liikuda järgmise juurde ilma ühest uksest läbimata. See kihiline struktuur takistab üksiku hallutsinatsiooni, erapoolikuse või privaatsusvea imbumist otsusesse, mis mõjutab kliendi elu.
Otsast lõpuni vool ja kuus inimväravat
Vaatleme juhtumit selle tüüpiliste etappide kaudu ja asetame igasse etappi kontrollvärav:
1. Taotlus / esimene kontakt — Uks: Privaatsus. Esimese teabe saabumisel kasutatakse AI-d intervjuu ettevalmistamiseks (juhend, küsimuseraam). Uks: avatud tööriista ei sisene tegelikke kliendiandmeid; Küsi klassi, sobita sõidukit.
2. Hindamine – värav: kliiniline hinnang. AI korrastab märkmed biopsühhosotsiaalsetesse dimensioonidesse ning tuletab meelde puudusi ja tugevusi. Uks: Diagnoosimine ja hindamine kuulub spetsialistile; AI ei hinda.
3. Risk – uks: võim ja meeskond. AI tuletab meelde riski-/kaitsetegureid ja loob turvaplaani skeleti. Uks: riskiotsuse teeb ainult ekspert, meeskond, järelevalve ja juriidiline protsess; AI ei tooda hindeid/otsuseid.
4. Planeerimine ja juhendamine — uks: valideerimine ja klient. AI seab eesmärgid SMART-i, genereerib ressursside ideid ja kirjakavandeid. Uks: Klient seab eesmärgid; Teenus/aadress/seisund on kinnitatud ametlikust allikast.
5. Aruanne ja suhtlus — uks: tõendid ja vastutus. AI struktureerib aruannet, lihtsustab ja tõlgib teksti. Uks: Iga juhtum sõltub tõenditest, arvamus kuulub eksperdile, kontrollitakse kriitilist infokadu ja kallutatust, allkiri on inimeses.
6. Sulgemine ja üleandmine — Värav: täpsus. YZ teeb failist kronoloogilise kokkuvõtte. Uks: Kokkuvõte põhineb ainult plaadil; Tulemusi ja õpitut kontrollib ekspert.
Näpunäide: kasutage uste meeldejätmiseks ühte küsimust: "Kas tehisintellekt teeb selles etapis otsuse või loob visandi?" Kui vastus on "otsus", lõpetage - see samm kuulub inimesele. Kui vastus on "mustand", jätkake, kuid ärge liikuge järgmise sammu juurde ilma väljundit kontrollimata.
Ettevõtte juhtimine: individuaalsest distsipliinist ei piisa
Asjatundja head harjumused on väärtuslikud, kuid haprad; Tehisintellekti ohutu ja järjepidev kasutamine organisatsioonis nõuab juhtimisraamistikku. Selle raamistiku põhikomponendid on:
- Heakskiidetud sõidukite nimekiri. On kirjas ja arusaadav, millist tööriista millise töö jaoks kasutatakse ja milliseid andmeid millisesse tööriista saab sisestada. "Igaüks peaks kasutama mis tahes tööriista, mida nad tahavad" on turvanõrkus.
- Andmete klassifitseerimise poliitika. Määratletakse, milliseid andmeid töödeldakse avatud tööriistas ja milliseid ainult turvalises süsteemis.
- Roll ja autoriteet. Selge on see, kes mida teha võib ja milline otsus sõltub millisest asutusest (eriti riskiotsused).
- Logi ja kontrolljälg. Kus ja kuidas tehisintellekti kasutatakse, saab jälgida; Kui on probleem, saab sellele tagasi vaadata.
- Haridus ja teadlikkus. Iga töötaja teab selle mooduli põhimõtteid; Uustulnuk on koolitatud.
- Pidev ülevaatus. Vahendid, riskid ja seadusandlus muutuvad; Raamistikku uuendatakse regulaarselt. Kui poliitika on kord kirjutatud ja unustatud, siis see aegub.
kolm minikarpi
Juhtum 1 – Doors tabas keti alguses vea. Ühel juhul lisas AI tähelepaneku, mida klient hindamisfaasis ei maininud. "Kliinilise hinnangu" väravas sai ekspert selle kinni ja kustutas selle. Kui teda poleks tabatud, oleks see fabritseeritud tähelepanek võinud lekkida plaani, sealt protokolli ja sealt kohtuotsuseni. Kihiline autentimine peatas vea esimesel hetkel.
Juhtum 2 – juhtimine hoidis ära rikkumise. Üks organisatsioon tegutses ilma kinnitatud tööriistaloendi ja andmepoliitikata; Igaüks kasutas oma autot. Auditi käigus selgus, et mitmed töötajad sisestasid avatud tööriistadesse tegelikke kliendiandmeid. Organisatsioon on loonud juhtimisraamistiku: heakskiidetud tööriistad, andmete klassifitseerimine, koolitus ja registreerimine. Järgmisel perioodil langes rikkumiste arv nulli. Õppetund: individuaalsest heast tahtest ei piisa ilma institutsionaalse struktuurita.
Juhtum 3 – pidev ülevaatus ajakohasena. Organisatsiooni aasta tagasi kirjutatud tehisintellektipoliitika oli uut tüüpi tööriistade ja ajakohastatud õigusaktide tõttu aegunud. Aastaülevaade tabas seda; Uuendati poliitikat, uuendati koolitust. Raam jäi elavaks dokumendiks, mitte riiuliornamendiks.
Neli kopeeritavat malli
1) Juhtumivoo kontrollimise kontroll-loend:
Sinu roll: juhendaja. Saan valideerimise kontrollnimekirja järgmise juhtumietapi jaoks: mida saab tehisintellekt selles etapis koostada, milline otsus on tingimata inimlik, milliseid privaatsuse ja eelarvamuste kontrolle tuleks teha, mida peaksin kontrollima enne järgmise sammu juurde liikumist? Samm: [taotlus / hindamine / risk / plaan / aruanne / sulgemine]
2) Kinnitatud sõiduki sobivus:
Määrake iga alltoodud ülesannete loendi jaoks kasutatava AI-tööriista tüüp (avatud tööriist / ainult turvaline ettevõttesüsteem / AI pole saadaval) ja põhjendus. Märkige iga kliendi andmeid sisaldav ülesanne kui "ainult turvaline süsteem". Ülesanded: [ülesannete loend]
3) Ettevõtte AI poliitika projekt:
Teie roll: ettevõtte poliitika toimetaja. Koostada sotsiaalteenuste agentuuri vastutustundliku tehisintellekti kasutamise poliitika; Käsitleda järgmisi teemasid: eesmärk, heakskiidetud tööriistad, andmete klassifikatsioon, rollid ja volitused, privaatsus/KVKK, riskiotsuste limiit, salvestamine ja auditeerimine, koolitus, ülevaatuse ajakava. Looge üldine raamistik; Asutus täidab oma andmed ise.
4) Eneseregulatsioon (isiklik kasutusülevaade):
Koostage 10 küsimusest koosnev enesekontrollnimekiri, et saaksin üle vaadata oma tehisintellekti kasutamise sotsiaaltöötajana: privaatsus, kontrollimine, eelarvamus, tõendite täpsus, otsustuspiirangud ja kliendikesksus. Igale küsimusele vastatakse "jah/ei".
Nõrk viip / Tugev viip
Nõrk viip:
Ma annan teile kogu selle juhtumi; Teie tegelete kõigega alates avaldusest kuni aruandeni, ma kirjutan selle lõpus alla.
See on kogu protsessi – sealhulgas privaatsus, kliiniline hinnang, riskide hindamine, tõenditest kinnipidamine – allhange tarkvarale. Üksainus allkiri lõpus pimestab meid kõigi vahepealsete vigade, väljamõeldiste ja eelarvamuste eest.
Võimas viip:
Sinu roll: toimetaja, kes aitab mind igal sammul. Jätkan juhtumiga samm-sammult (hinnang, plaan, aruanne...). Igal etapil: töötage ainult anonüümsete/turvaliste andmetega, koostage mustand, lubage mul otsustada, ärge lisage seda, mida märkuses pole, ja tuletage mulle meelde, mida pean enne järgmise sammu juurde liikumist kontrollima. Alustame järgmise sammuga: [samm]
Erinevus: igal sammul ukse valvamine ja tehisintellekti järkjärgulise abilise positsioneerimine säilitab ohutuse ja vastutustunde, säilitades samal ajal kiiruse.
Lava-värav-vastutuse kokkuvõte
Lava
AI panus
inimese värav
kriitiline kontroll
Rakendus
Intervjuu ettevalmistamine
privaatsus
Andmeklass
Hindamine
Suuruse redigeerimine
kliiniline otsustus
Pole diagnoosi ega väljamõeldisi
Risk
Faktori meeldetuletus
Amet + meeskond
Punkte/otsust pole
Plaan/juhend
mustand + idee
Valideerimine + klient
Allika kinnitus, kliendi prioriteet
Teata/võta ühendust
Struktuur + lihtsustus
Tõendid + vastutus
Eksperdi arvamus, eelarvamuste kontroll
Sulgemine
Kronoloogiline kokkuvõte
täpsust
rekordipõhine
Levinud vead
- Kogu protsessi üleandmine tehisintellektile ja lõpus ühe allkirja allkirjastamine. Vahepealsed vead pole nähtavad; Uksed peaksid olema igal sammul.
- Ukse läbimine ilma seda kontrollimata. Ühe etapi valmistamise pärib järgmine; Iga väljund on kinnitatud.
- Juhtimise jätmine individuaalse distsipliini hooleks. Ilma institutsionaalse raamistikuta on head harjumused haprad.
- Kirjutage poliitika üks kord ja unustage see. Vahendid ja õigusaktid muutuvad; Vajalik on pidev ülevaatus.
- Ei pea arvestust. Ilma kontrolljäljeta ei saa probleemile tagasi vaadata ja seda ei saa vastutusele võtta.
Kokkuvõttes
Sotsiaaltöös on tehisintellekt katalüsaator igal sammul, otsustaja igal sammul alates taotlusest kuni juhtumi lõpetamiseni. Asetage kuus inimväravat (konfidentsiaalsus, kliiniline hinnang, autoriteet/meeskond, valideerimine/klient, tõendid/vastutus, terviklikkus) ots-otsani; Ärge minge ühelt ukselt teisele ilma läbimata. Selle jätkusuutlikuks muutmiseks on vaja ettevõtte juhtimist: heakskiidetud tööriistade loend, andmepoliitika, rollid, registreerimine, koolitus ja pidev ülevaatus. Mooduli kuus juhtpõhimõtet – inimvastutus, kontrollimine, privaatsus/PDPA, tõenditele pühendumine, eelarvamuste kontroll ja kliendikesksus – peaksid olema põimitud igasse töövoogu.
Rakenduse ülesanne
Kaardistage mõtteliselt väljamõeldud juhtum taotlusest kuni lõpetamiseni; Koostage iga etapi jaoks kontroll-loend, kasutades malli "juhtumivoo kontrollimise värav". Seejärel klassifitseerige antud juhul ülesanded "valideeritud sõiduki sobitamise" malli abil kategooriasse avatud sõiduk / turvaline süsteem / tehisintellekt puudub. Lõpuks hinnake ennast, luues enesekontrolli malli abil 10 küsimusest koosneva loendi tehisintellekti enda kasutamiseks.
kontrollnimekiri
- [ ] Olen tuvastanud kuus inimväravat otsast lõpuni voolus.
- [ ] Igal sammul "otsus või eelnõu?" Rakendasin küsimust.
- [ ] Vastasin ülesanded õigele sõidukitüübile (avatud/turvaline/puudub).
- [ ] Tunnen ettevõtte üldjuhtimise komponente (tööriist, andmed, roll, registreerimine, koolitus, ülevaade).
- [ ] Rakendasin mooduli kuus kandja põhimõtet enda töövoosse.
Mooduli eksam
1. Milline järgmistest on tehisintellekti kõige täpsem positsioneerimine sotsiaaltöös?
- A) Tehisintellekt võib otsustada kliendi riskitaseme ja sekkumisotsuse ilma inimese nõusolekuta
- B) AI on tööriist kokkuvõtete tegemiseks, korrastamiseks, lihtsustamiseks ja koostamiseks; Vastutus kliinilise hinnangu, riski ja lõpliku otsuse eest lasub eksperdil ✔
- C) Tehisintellekt on kasulik ainult teksti tõlkimisel ja sellel pole mingit pistmist muude sotsiaaltöö ülesannetega
- D) Kuna tehisintellekt on alati erapooletum kui inimene, tuleks hindamine jätta selle hooleks.
Kirjeldus: Tehisintellekt; See on assistent, mis korraldab märkmeid, teeb failist kokkuvõtte, lihtsustab teksti ja koostab mustandeid. Vastutus kliinilise hinnangu, riskihindamise, professionaalse arvamuse ja lõpliku otsuse eest lasub pädeval spetsialistil; Kontrollimata väljund võib viia kliendi väärhinnanguni, riskidest kõrvalehoidmiseni või tundlike andmete lekkimiseni.
2. Mis on kõige õigem juhis intervjuu toore märkmete muutmisel tehisintellekti abil juhtumiprotokolliks?
- A) Tehisintellekti taotlemine puuduvate osade täitmiseks mõistlikul viisil, et see näeks välja professionaalne.
- B) Lubage tehisintellektil lisada kirje rikastamiseks täiendavaid vaatlusi
- C) paluda õpilasel kasutada ainult märkuses tegelikult sisalduvat teavet, märkida puuduolevad punktid "vajab selgitust" ja mitte midagi lisada ✔
- D) selle lisamine otse faili ilma märkmega võrdlemata seni, kuni väljund on ladus
Selgitus: tehisintellekti kõige ohtlikum kalduvus on koostada tähelepanekuid, numbreid või tsitaate, mida märkuses pole, et muuta kirje "täielikuks". Õige lähenemine on öelda "kasutage lihtsalt seda, mis on märkuses, märkige puuduvad, ärge lisage midagi". Lünki ei täideta, need märgitakse selgituseks.
3. Miks on „fakti” ja „tõlgenduse” eristamine juhtumi protokollis oluline?
- A) fakt on konkreetne tähelepanek/väide, samas kui tõlgendus on professionaalne järeldus, mis nõuab alust; Need kaks tuleks eraldada ja kommentaar märgistada ✔
- B) Eristamine pole vajalik; fakti ja kommentaari saab kirjesse kirjutada samal viisil
- C) Tähtis on ainult tõlgendus; See on võimalik ka siis, kui fakte ei fikseerita
- D) Kuna tehisintellekt teeb selle eristuse suurepäraselt, pole inimese kontrolli vaja.
Selgitus: "Ta nuttis intervjuus kolm korda" on tõsiasi; "Ta oli depressioonis" on kommentaar, mida ei saa kirjutada ilma kliinilise aluseta. Kirje kajastab fakti ja sisaldab tõlgendust ainult selge märgistuse ja põhjendusega. AI saab neid kahte sujuvalt segada; Inimese kohus on teha vahet ja vältida häbimärgistamist.
4. Millist rolli peaks tehisintellekt mängima otsustamisel, kas lapsel on kodus turvaline olla või milline on juhtumi riskitase?
- A) Tehisintellekt suudab juhtumit lugeda, määrata riskitaseme ja teha turvaotsuse
- B) Tehisintellekti antud madala riskiga silt võib tühistada eksperdi vastupidise tähelepaneku
- C) tehisintellekt tuletab ainult tegureid meelde ja korrastab märkmeid; Riskitase ja ohutusotsus kuuluvad eksperdi, meeskonna, järelevalve ja õigusprotsessi alla ✔
- D) Tehisintellekt on riskiotsuste tegemisel usaldusväärsem kui inimesed, kuna see on erapooletu.
Kirjeldus: Riskitase ja turvaotsus; See nõuab professionaalset autoriteeti, kliinilist hinnangut, multidistsiplinaarset meeskonna arvamust, järelevalvet ja juriidilist vastutust. Siin saab AI meelde tuletada ainult riski-/kaitsetegureid ja redigeerida märkmeid; ei suuda anda punkte ega otsuseid. Samuti võib see omistada süstemaatiliselt kõrge riski ebasoodsas olukorras olevatele rühmadele koolitusandmete kallutatuse tõttu, nii et selle väljundit ei saa otsusena kasutada.
5. Mida tuleks teha, kui tehisintellekt annab kliendile suunamisinfo, öeldes "see keskus, see telefon"?
- A) Aadressi ja telefoninumbri kinnitamine asutuse ametlikust ja praegusest allikast enne selle kliendile andmist ✔
- B) Teabe edastamine otse kliendile, kuna see esitatakse enesekindlalt
- C) Eeldades, et teave on absoluutselt õige seni, kuni tehisintellekt annab kehtiva kuupäeva
- D) Mõeldes, et info õigsust pole vaja uurida, sest seda on kuskil mainitud.
Kirjeldus: tehisintellekt võib sisaldada teenuseid, rakendusnõudeid, aadresse ja telefoninumbreid või anda aegunud teavet; Asutused ühinevad, kolivad, suletakse. Kliendi saatmine kinnitamata aadressile toob kaasa raisatud teekonna ja usalduse kaotuse. Seetõttu tuleb tehisintellekti antud kontaktandmed enne kliendile edastamist kinnitada asutuse enda ametliku kanali kaudu.
6. Kes peaks seadma eesmärgid reageerimisplaanis ja milline on tehisintellekti roll?
- A) Tehisintellekt peaks nii eesmärgid määrama kui ka kogu plaani kirjutama ilma kliendilt küsimata.
- B) Klient (koos spetsialistiga) määrab eesmärgid; AI paneb need SMART-vormingusse ja struktureerib need, ei lisa uusi sihtmärke ✔
- C) eesmärgid on ebaolulised; Mida rohkem eesmärke plaan sisaldab, seda parem.
- D) Tehisintellekt võib ignoreerida kliendi prioriteete, kuna see näeb välja professionaalne
Kirjeldus: Sotsiaaltöö põhiväärtus on „enesemääratlus“: klient seab eesmärgid ja prioriteedid, kujundades neid asjatundlike erialaste teadmistega. Tehisintellekt seab need eesmärgid SMART-vormingusse ning soovitab samme ja indikaatoreid; kuid ta ei saa lisada uusi eesmärke, mida klient ei ütle. Kliendile ei saa rakendada võõrast, väljastpoolt pealesurutud plaani.
7. Millises küsimuses on tehisintellekt kõige ohtlikum kohtule esitatavas sotsiaaljuurdluse aruandes?
- A) Võimalus välja mõelda olematuid kuupäevi, tähelepanekuid või tsitaate, et aruanne näiks "täielik" ✔
- B) Teksti keele muutmine liiga formaalseks
- C) Aruande kirjutamine nõutust lühemalt
- D) Pealkirjade tähestikuline järjekord
Selgitus: tehisintellekti kõige ohtlikum tendents on lisada olematu kuupäev, tähelepanek või tsitaat, et aruanne näiks "täielik". Fabritseeritud lause kohtuaruandes võib nii otsust eksitada kui ka hävitada eksperdi usaldusväärsust. Seetõttu tuleks iga juhtum siduda reaalse intervjuu/vaatluse/dokumendiga ning professionaalse arvamuse kujundab ekspert.
8. Kes peaks kirjutama sotsiaaluuringu aruande professionaalse arvamuse ja arvamuse (soovituse) rubriigi?
- A) Tehisintellekt; sest see annab erapooletuma soovituse
- B) Arvamusosa ei täideta aruande kirjutamisel kunagi.
- C) Tehisintellekt kirjutab arvamuse, ekspert kirjutab alla alles lõpus
- D) ekspert; professionaalne arvamus ja arvamus on tema autoriteet ja vastutus, tehisintellekt teeb keele ainult selgeks ✔
Väide: Professionaalne arvamus ja arvamus – „see on selle lapse huvides”, „selline korraldus on asjakohane” – on eksperdi juriidiline volitus ja vastutus. 'Mida ma tehisintellektile soovitan?' Seda ei küsita; Tema tehtud „ettepanek” võib olla nii väljamõeldud kui ka vastutuse üleandmine. Parimal juhul teeb tehisintellekt eksperdi kirjutatud arvamuse keele selgeks.
9. Mis on kõige kriitilisem kontroll tehisintellektiga kliendi raske ametliku abikirja lihtsustamisel?
- A) Hoidke tekst võimalikult lühike, ärge vaadake detaile
- B) Tulemus tundub ladus ja esteetiline
- C) Kontrollige, kas õigusi, tingimusi, summasid, kuupäevi ega teateid pole välja jäetud, võrreldes originaaliga ✔
- D) Lihtsustamine pakub kliendile mugavust, andes talle vähem teavet.
Selgitus: lihtsustamine ei tähenda moonutamist; "Lühendamise" või "lihtsustamise" abil võib tehisintellekt alla neelata õiguse, tingimuse, summa, kuupäeva või teate. Klient võib kaotada oma õiguse „lihtsa”, kuid mittetäieliku teabega. Seetõttu tuleks lihtsustatud teksti võrrelda originaaliga ja kontrollida, et kriitilist teavet poleks kadunud, ning lasta tehisintellektil isegi loetleda kriitilised elemendid, mida see kaitseb.
10. Kuidas on õige käsitleda tehisintellekti tehtud statistikat rahastamistaotluse koostamisel?
- A) Tehisintellekti antud statistika kasutamine, et see muljetavaldav välja näeks
- B) Tehisintellekti mitte tegemine statistikaks, vajaduse korral trükkimine [ANDMED VAJALIK] ja iga numbri lisamine pärisallikast ✔
- C) Arvestades, et allikas on ebaoluline seni, kuni number on rakenduses märgitud.
- D) Eeldusel, et statistikat pole vaja kontrollida, kuna AI kirjutab enesekindlalt
Kirjeldus: tehisintellekt võib moodustada rabavat, kuid allikateta statistikat; Ilma allikata näitaja on peaaegu alati ebausaldusväärne. Taotluses olev fabritseeritud statistika lükkab nii taotluse tagasi kui ka hävitab asutuse usaldusväärsuse. Õige lähenemine on mitte teha tehisintellektist välja numbreid ("Kirjutage [ANDMED VAJALIK]") ja sisestage iga number tõelisest kontrollitud allikast.
11. Miks on kahjulik küsida tehisintellektilt „selgitada, miks see pere on laste kasvatamisel ebaadekvaatne”?
- A) Kuna küsimus on liiga pikk
- B) Kuna tehisintellekt ei suuda anda mingit teavet perekondlike asjade kohta
- C) Kuna tehisintellekt eeldab tulemust algusest peale, annab tehisintellekt (meelitavalt) põhjendamata ja kallutatud kinnituse; Küsimus peaks olema neutraalne ja tasakaalukas ✔
- D) Sest tehisintellekt kirjutab alati perekonna kasuks
Selgitus: see küsimus eeldab tulemust ('ebapiisav'). Tehisintellekt loob tõenditevaba ja kallutatud teksti, mis kinnitab seda oletust oma kalduvusega meelitada (kinnitage oma vihjet). Kallutatud küsimus loob kallutatud vastuse. Tõepoolest, see on neutraalne küsimus, mis ei eelda tulemust, tasakaalustab nii tugevaid külgi kui ka muresid ning küsib ainult tõendeid.
12. Kuidas rakendada nurga all testimist, et kontrollida tehisintellekti väljundis kallutatust?
- A) Mõeldes samale olukorrale erineva rühma jaoks ja küsides: "Kas see oleks kirjutatud samas keeles?" ✔ Topeltstandardite testimine küsides
- B) Tehisintellekti esimese vastuse aktsepteerimine neutraalsena ja teise nurga otsimine
- C) Esitage ainult neid küsimusi, mis toetavad kliendi gruppi
- D) Eeldades, et täiendavat kontrolli pole vaja, kuna tehisintellektis ei esine kallutatust üldse
Selgitus: tehisintellekt võib kirjutada sama käitumise erinevate rühmade jaoks erineval toonil (nt madala sissetulekuga perede puhul „hoolejätmise oht”, suure sissetulekuga pere puhul „sunnitud vanem”). Inversioonitest on "kui klient oleks teisest sotsiaalmajanduslikust/etnilisest rühmast, kas see oleks kirjutatud samas keeles?" on küsida; See muudab nähtavaks topeltstandardid, mis põhinevad stereotüüpidel, mitte tõenditel.
13. Milline on õige lähenemisviis kliendi tegeliku toimiku (sh nimi, aadress, terviseteave) kokkuvõtte tegemiseks?
- A) Kiiruse huvides kleepige see lähimasse avalikku AI-tööriista ja laske sellest kokkuvõte teha
- B) Faili töötlemine privaatsusele tähelepanu pööramata, kuna see on lühike
- C) Sisestage kõik, sealhulgas terviseteave, ja salvestage ainult tulemus
- D) Töötle ainult asutuse poolt heaks kiidetud turvalises süsteemis või identifitseerimata tekstiga, minimaalsete andmetega ✔
Avalikustamine: kliendi isikuandmeid, eriti tundlikke andmeid, nagu tervis, ei sisestata kunagi avalikku tööriista, mida asutus pole heaks kiitnud; teksti võidakse töödelda, salvestada välisserveritesse või kasutada mudelitreeningul ning väljafiltreerimine on pöördumatu. Ka see on KVKK rikkumine. Seda tüüpi töid tehakse ainult ettevõttesiseste, turvaliste ja heakskiidetud süsteemides, mis ei leki andmeid või mille tekst on tuvastatud.
14. Miks ei piisa alati dokumendist nimede kustutamisest, et see avalikku tööriista kasutada?
- A) Nimede kustutamine on alati täielik anonüümne ja muudab iga dokumendi turvaliseks
- B) Kuni dokument on lühike, on konteksti põhjal võimatu identiteeti järeldada
- C) Dokument, mille nimi on kustutatud, jääb täielikult KVKK reguleerimisalast välja.
- D) Kontekst (naabruskond, vanus, sündmus, perekonna struktuur) võib taaskinnitada identiteeti; Kaitse tagab tööriista ja keskkonna valik ✔
Selgitus: isegi kui nimed kustutatakse, võib kontekst (haruldane kombinatsioon naabruskonnast, vanusest, sündmusest, kuupäevast, perekonna struktuurist jne) muuta isiku tuvastatavaks; Ta võib olla ainus inimene ümbruskonnas, kes kirjeldusele sobib. Tõelist kaitset ei paku maskeerimine, vaid õige tööriista ja keskkonna valik; Kontekst on ka isikuandmed ja ebakindlat teavet tuleks kaitsta kõrgema klassina.
15. Mis on kõige tõhusam viis vältida ühe AI vea lekkimist lõppotsusesse alates taotluse esitamisest kuni juhtumi lõpetamiseni?
- A) Kogu protsessi delegeerimine ühele AI-tööriistale ja allkirjastamine ainult üks kord lõpus
- B) Igas etapis inimese kontrollimise värava ja läbipääsu tingimuse seadmine (kihiline kontrollimine) ✔
- C) Kiiruse vahekontrollide eemaldamine ja kontrollimine ainult väljundfaasis
- D) Lubada igal eksperdil oma tööriista vabalt kasutada ilma arvestust pidamata
Kirjeldus: igas etapis (taotlus/konfidentsiaalsus, hindamine/kliiniline otsustus, risk/volitus, plaan/tõendamine, aruanne/tõendid, sulgemine/täpsus); Ühest uksest ei saa läbi ilma teisest läbi minemata. See kihiline struktuur hoiab ära hallutsinatsioonide, eelarvamuste või konfidentsiaalsusvea ühes etapis imbumast klienti mõjutavatesse otsustesse.