Pelnas:
- Galimybė nuosekliai įterpti AI kiekviename etape nuo taikymo iki uždarymo naudojant šešis žmogaus patvirtinimo vartus
- Gebėjimas sukurti įmonės valdymo sistemą su patvirtintų įrankių sąrašu, duomenų politika, vaidmenimis, registracija, mokymu ir nuolatine peržiūra
- Gebėjimas į darbo eigą įtraukti žmogaus atsakomybės, patikrinimo, privatumo/KVKK, įrodymų laikymosi, šališkumo kontrolės ir orientacijos į klientą principus.
Viso šio modulio metu nagrinėjome, kaip naudoti dirbtinį intelektą ir kur jį sustabdyti atliekant įvairias socialinio darbo užduotis – dokumentaciją, vertinimą, rizikos palaikymą, siuntimą, planą, ataskaitą, komunikaciją, programų kūrimą. Šiame paskutiniame skyriuje sujungiame dalis: kur dirbtinis intelektas veiks nuo taikymo pradžios iki bylos užbaigimo, kurios žmogaus tikrinimo durys sustoja kiekviename etape, ir mes sukursime valdymo sistemą, reikalingą, kad tai būtų tvari organizacijoje. Tikslas yra paversti išsibarsčiusius patarimus nuoseklia ir kartojama darbo disciplina.
Integravimo principas nuo pat pradžių: AI yra greitintuvas kiekviename darbo eigos žingsnyje, o ne sprendimų priėmėjas bet kuriame žingsnyje. Kiekviename etape yra žmogaus durys, ir jūs negalite pereiti prie kito, nepraėję pro vienas duris. Ši daugiasluoksnė struktūra neleidžia vienai haliucinacijai, šališkumui ar privatumo klaidai įsiskverbti į sprendimą, kuris turi įtakos kliento gyvenimui.
Srautas nuo galo iki galo ir šeši žmogaus vartai
Panagrinėkime atvejo tipinius etapus ir kiekviename etape pastatykime patikrinimo vartus:
1. Paraiška / pirmasis kontaktas — Durys: Privatumas. Kai gaunama pirmoji informacija, AI naudojamas ruošiantis pokalbiui (gidas, klausimų rėmelis). Durys: Jokie faktiniai kliento duomenys nepatenka į atvirą įrankį; Klauskite klasės, suderinkite transporto priemonę.
2. Vertinimas – vartai: klinikinis sprendimas. AI suskirsto pastabas į biopsichosocialines dimensijas ir primena apie trūkumus bei stipriąsias puses. Durys: Diagnostika ir įvertinimas priklauso specialistui; AI nevertina.
3. Rizika – durys: valdžia ir komanda. AI primena rizikos / apsaugos veiksnius ir sukuria saugumo plano skeletą. Durys: Sprendimą dėl rizikos priima tik ekspertas, komanda, priežiūra ir teisinis procesas; AI nesukuria balų / sprendimų.
4. Planavimas ir vadovavimas – durys: patvirtinimas ir klientas. AI nustato tikslus į SMART, generuoja išteklių idėjas ir laiškų juodraščius. Durys: Klientas išsikelia tikslus; Paslauga / adresas / būklė yra patikrinta iš oficialaus šaltinio.
5. Ataskaita ir komunikacija – durys: įrodymai ir atskaitomybė. AI struktūrizuoja ataskaitą, supaprastina ir išverčia tekstą. Durys: Kiekvienas atvejis priklauso nuo įrodymų, nuomonė priklauso ekspertui, tikrinamas kritinis informacijos praradimas ir šališkumas, parašas yra asmenyje.
6. Uždarymas ir perdavimas — Vartai: tikslumas. YZ apibendrina failą chronologiškai. Durys: Santrauka pagrįsta tik įrašu; Rezultatus ir įgytas žinias patikrina ekspertas.
Patarimas: norėdami prisiminti duris, naudokite vieną klausimą: „Ar šiame žingsnyje AI priima sprendimą ar sukuria eskizą? Jei atsakymas yra „sprendimas“, sustokite – tas žingsnis priklauso žmogui. Jei atsakymas yra „juodraštis“, tęskite, bet nepereikite prie kito veiksmo nepatikrinę išvesties.
Įmonės valdymas: individualios disciplinos neužtenka
Geri eksperto įpročiai yra vertingi, bet trapūs; Saugus ir nuoseklus dirbtinio intelekto naudojimas organizacijoje reikalauja valdymo sistemos. Pagrindiniai šios sistemos komponentai yra šie:
- Patvirtintas transporto priemonių sąrašas. Parašyta ir aišku, koks įrankis kuriam darbui bus naudojamas ir kokius duomenis į kurį įrankį galima įvesti. „Kiekvienas turėtų naudoti bet kokį įrankį, kurį nori“ yra saugumo spraga.
- Duomenų klasifikavimo politika. Apibrėžiama, kurie duomenys bus tvarkomi atvirame įrankyje, o kurie – tik saugioje sistemoje.
- Vaidmuo ir autoritetas. Aišku, kas ką gali daryti ir koks sprendimas priklauso nuo kokios institucijos (ypač rizikos sprendimai).
- Žurnalas ir audito seka. Galima stebėti, kur ir kaip naudojamas AI; Iškilus problemai, galima žiūrėti atgal.
- Švietimas ir sąmoningumas. Kiekvienas darbuotojas žino šio modulio principus; Naujokas apmokytas.
- Nuolatinė peržiūra. Keičiasi įrankiai, rizika ir teisės aktai; Sistema reguliariai atnaujinama. Parašyta ir pamiršta politika pasensta.
trys mini dėklai
1 atvejis – „Durys“ užfiksavo klaidą grandinės pradžioje. Vienu atveju AI pridėjo pastabą, kurios klientas nepaminėjo vertinimo etape. Prie „klinikinio sprendimo“ vartų ekspertas tai pagavo ir ištrynė. Jei jis nebūtų sučiuptas, šis išgalvotas pastebėjimas galėjo nutekėti į planą, iš ten – į ataskaitą, o iš ten – į teismo sprendimą. Sluoksniuotas autentifikavimas sustabdė klaidą anksčiausiai.
2 atvejis – valdymas užkirto kelią pažeidimui. Viena organizacija veikė be patvirtinto įrankių sąrašo ir duomenų politikos; Kiekvienas naudojosi savo automobiliu. Atlikus auditą paaiškėjo, kad keli darbuotojai į atvirus įrankius įveda faktinius klientų duomenis. Organizacija sukūrė valdymo sistemą: patvirtintus įrankius, duomenų klasifikavimą, mokymus ir registraciją. Vėlesniu laikotarpiu pažeidimų skaičius sumažėjo iki nulio. Pamoka: individualios geros valios neužtenka be institucinės struktūros.
3 atvejis. Nuolatinė peržiūra atnaujinama. Prieš metus parašyta organizacijos AI politika buvo pasenusi dėl naujo tipo įrankio ir atnaujintų teisės aktų. Metinėje apžvalgoje tai užfiksuota; Atnaujinta politika, atnaujinti mokymai. Rėmas liko gyvu dokumentu, o ne lentynos ornamentu.
Keturi kopijuojami šablonai
1) Bylų srauto tikrinimo vartų kontrolinis sąrašas:
Jūsų vaidmuo: vadovas. Gaunu šio atvejo veiksmo patvirtinimo kontrolinį sąrašą: ką AI gali parengti šiame žingsnyje, kuris sprendimas būtinai yra žmogiškasis, kokius privatumo ir šališkumo patikrinimus reikia atlikti, ką turėčiau patikrinti prieš pereinant prie kito veiksmo? Žingsnis: [paraiška / įvertinimas / rizika / planas / ataskaita / uždarymas]
2) Patvirtinta transporto priemonės atitikimas:
Kiekviename toliau pateiktame užduočių sąraše nurodykite AI įrankio, kurį galima naudoti, tipą (atviras įrankis / tik saugi įmonės sistema / DI nėra) ir pagrindimą. Pažymėkite kiekvieną užduotį, kurioje yra kliento duomenų, kaip "tik saugią sistemą". Užduotys: [užduočių sąrašas]
3) Įmonės AI politikos projektas:
Jūsų vaidmuo: įmonės politikos redaktorius. Parengti atsakingo dirbtinio intelekto naudojimo politiką socialinių paslaugų agentūrai; Apimkite šias temas: tikslas, patvirtinti įrankiai, duomenų klasifikavimas, vaidmenys ir įgaliojimai, privatumas / KVKK, rizikos sprendimų riba, įrašymas ir auditas, mokymai, peržiūros tvarkaraštis. Sukurti bendrą sistemą; Įstaiga užpildys savo duomenis.
4) Savireguliavimas (asmeninė naudojimo apžvalga):
Sukurkite 10 klausimų, skirtų man, kaip socialiniam darbuotojui, AI naudojimą: privatumas, patikrinimas, šališkumas, įrodymų ištikimybė, sprendimų ribos ir orientacija į klientą, sudaryti 10 klausimų savęs kontrolinį sąrašą. Į kiekvieną klausimą tegul atsakoma „taip/ne“.
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Pateikiu jums visą šią bylą; Jūs tvarkote viską nuo prašymo iki ataskaitos, aš tik pasirašysiu pabaigoje.
Tai reiškia, kad visas procesas, įskaitant privatumą, klinikinį sprendimą, rizikos vertinimą, įrodymų laikymąsi, perduodamas programinei įrangai. Vienas parašas pabaigoje apakina mus nuo visų klaidų, prasimanymų ir šališkumo tarp jų.
Galingas raginimas:
Jūsų vaidmuo: redaktorius, kuris man padeda kiekviename žingsnyje. Toliau nagrinėsiu bylą žingsnis po žingsnio (vertinimas, planas, ataskaita...). Kiekviename veiksme: dirbkite tik su anoniminiais / saugiais duomenimis, sukurkite juodraštį, leiskite nuspręsti man, nepridėkite to, ko nėra pastaboje, ir priminkite, ką turiu patikrinti prieš pereinant prie kito veiksmo. Pradėkime nuo šio žingsnio: [žingsnis]
Skirtumas: durų apsauga kiekviename žingsnyje ir AI kaip žingsnis po žingsnio padėjėjas užtikrina žmogaus saugumą ir atsakomybę, kartu išlaikant greitį.
Scena-vartai-atsakomybės santrauka
Scena
AI indėlis
žmogaus vartai
kritinė kontrolė
Taikymas
Interviu paruošimas
privatumas
Duomenų klasė
Įvertinimas
Dydžių redagavimas
klinikinis sprendimas
Jokios diagnozės, jokios prasmės
Rizika
Faktoriaus priminimas
Valdžia + komanda
Nėra balo / sprendimo
Planas/gairės
juodraštis + idėja
Patvirtinimas + klientas
Šaltinio patvirtinimas, kliento prioritetas
Pranešti/kreiptis
Struktūra + supaprastinimas
Įrodymai + atsakomybė
Eksperto nuomonė, šališkumo kontrolė
Uždarymas
Chronologinė santrauka
tikslumu
rekordinis
Dažnos klaidos
- Viso proceso perdavimas AI ir pasirašymas vienu parašu. Klaidos tarp jų nematomos; Kiekviename žingsnyje turi būti durys.
- Einant pro duris jų nepatikrinus. Vieno etapo pagaminimą paveldi kitas; Kiekviena išvestis yra patvirtinta.
- Valdymo palikimas individualiai disciplinai. Be institucinės sistemos geri įpročiai yra trapūs.
- Vieną kartą parašykite politiką ir pamirškite. Keičiasi įrankiai ir teisės aktai; Būtina nuolatinė peržiūra.
- Netvarko įrašų. Be audito sekos, į problemą negalima žiūrėti atgal ir už ją negalima atsakyti.
Apibendrinant
Socialiniame darbe dirbtinis intelektas yra katalizatorius kiekviename žingsnyje, sprendimų priėmėjas – nuo prašymo pateikimo iki bylos užbaigimo. Įdėkite šešis žmogaus vartus (konfidencialumas, klinikinis sprendimas, autoritetas / komanda, patvirtinimas / klientas, įrodymai / atskaitomybė, vientisumas) į srautą nuo galo iki galo; Nepraeikite nuo vienų durų prie kitų nepraėję. Kad tai būtų tvaru, reikalingas įmonės valdymas: patvirtintas įrankių sąrašas, duomenų politika, vaidmenys, registracija, mokymai ir nuolatinė peržiūra. Šeši modulio pagrindiniai principai – žmogaus atsakomybė, tikrinimas, privatumas/PDPA, įsipareigojimas siekti įrodymų, šališkumo kontrolė ir orientacija į klientą – turėtų būti įtraukti į kiekvieną darbo eigą.
Taikymo užduotis
Protiškai suplanuokite išgalvotą atvejį nuo prašymo pateikimo iki užbaigimo; Sudarykite kiekvieno etapo kontrolinį sąrašą naudodami „bylų srauto tikrinimo vartų“ šabloną. Tada suskirstykite užduotis šiuo atveju į atvirą transporto priemonę / saugią sistemą / be AI naudodami „patvirtintos transporto priemonės atitikimo“ šabloną. Galiausiai įvertinkite save sukurdami 10 klausimų sąrašą, skirtą DI naudojimui, naudodami „saviaudito“ šabloną.
kontrolinis sąrašas
- [ ] Aš identifikavau šešis žmogaus vartus sraute nuo galo iki galo.
- [ ] Kiekviename žingsnyje "sprendimas ar projektas?" Pritaikiau klausimą.
- [ ] Pritaikiau užduotis pagal tinkamą transporto priemonės tipą (atvira/saugu/nėra).
- [ ] Žinau įmonės valdymo komponentus (įrankį, duomenis, vaidmenį, registraciją, mokymus, apžvalgą).
- [ ] Aš įdiegiau šešis modulio nešiklio principus savo darbo eigoje.
Modulio egzaminas
1. Kuris iš šių dalykų yra tiksliausias dirbtinio intelekto pozicionavimas socialiniame darbe?
- A) Dirbtinis intelektas gali nuspręsti kliento rizikos lygį ir intervencijos sprendimą be žmogaus pritarimo
- B) AI yra apibendrinimo, organizavimo, supaprastinimo ir brėžinių rengimo įrankis; Atsakomybė už klinikinį sprendimą, riziką ir galutinį sprendimą tenka ekspertui ✔
- C) Dirbtinis intelektas naudingas tik verčiant tekstą ir neturi nieko bendra su kitomis socialinio darbo užduotimis
- D) Kadangi dirbtinis intelektas visada yra nešališkesnis nei žmonės, vertinimas turėtų būti paliktas jam.
Aprašymas: Dirbtinis intelektas; Tai asistentas, kuris tvarko pastabas, apibendrina failą, supaprastina tekstą ir kuria juodraščius. Atsakomybė už klinikinį sprendimą, rizikos vertinimą, profesinę nuomonę ir galutinį sprendimą tenka kompetentingam specialistui; Nepatvirtinta išvestis gali sukelti klaidingą kliento įvertinimą, rizikos vengimą arba neskelbtinų duomenų nutekėjimą.
2. Koks yra teisingiausias nurodymas, kai neapdorotus pokalbio užrašus dirbtinis intelektas paverčia bylos įrašu?
- A) Dirbtinio intelekto prašymas pagrįstai užpildyti trūkstamas dalis, kad tai atrodytų profesionaliai.
- B) Leisti AI pridėti papildomų stebėjimų, kad būtų praturtintas įrašas
- C) Paprašykite mokinio naudoti tik faktiškai pastaboje esančią informaciją, trūkstamus elementus pažymėti kaip „reikia paaiškinimo“ ir nieko nepridėti ✔
- D) Įdėti jį tiesiai į failą, nelyginant jo su užrašu, kol išvestis sklandi
Paaiškinimas: Pavojingiausia dirbtinio intelekto tendencija yra išgalvoti pastabas, skaičius ar citatas, kurių pastaboje nėra, kad įrašas atrodytų „išsamus“. Teisingas požiūris yra sakyti „tiesiog naudokite tai, kas yra pastaboje, pažymėkite trūkstamus, nieko nepridėkite“. Spragos neužpildytos, jos pažymimos patikslinimui.
3. Kodėl bylos įraše svarbus skirtumas tarp „fakto“ ir „aiškinimo“?
- A) faktas yra konkretus pastebėjimas / teiginys, o interpretacija yra profesinė išvada, kuriai reikia pagrindo; Abu turi būti atskirti ir komentare pažymėti ✔
- B) Skirtumas nereikalingas; faktas ir komentaras įraše gali būti užrašomi tokiu pačiu būdu
- C) Svarbu tik aiškinimas; Tai įmanoma, net jei faktai nėra užfiksuoti
- D) Kadangi dirbtinis intelektas puikiai atskiria šį skirtumą, nereikia žmogaus kontrolės.
Paaiškinimas: „Per interviu jis tris kartus verkė“ yra faktas; „Jis buvo prislėgtas“ yra komentaras, kurio negalima parašyti be klinikinio pagrindo. Įrašas iš anksto pagrįsti faktą ir apima aiškinimą tik aiškiai paženklinus ir pagrįstus. AI gali sklandžiai maišyti šiuos du dalykus; Asmens pareiga yra skirtis ir vengti stigmatizuojančios kalbos.
4. Kokį vaidmenį AI turėtų atlikti sprendžiant, ar vaikas yra saugus namuose, ar koks yra atvejo rizikos lygis?
- A) Dirbtinis intelektas gali perskaityti atvejį, nustatyti rizikos lygį ir priimti saugumo sprendimą
- B) Dirbtinio intelekto suteikta „mažos rizikos“ etiketė gali nusverti eksperto pastabas priešingai
- C) Dirbtinis intelektas tik primena veiksnius ir sutvarko užrašus; Rizikos lygis ir saugos sprendimas priklauso ekspertui, komandai, priežiūrai ir teisiniam procesui ✔
- D) Dirbtinis intelektas yra patikimesnis nei žmonės priimant rizikos sprendimus, nes jis yra nešališkas.
Aprašymas: Rizikos lygis ir saugumo sprendimas; Tam reikalingas profesionalus autoritetas, klinikinis sprendimas, daugiadalykė komandos nuomonė, priežiūra ir teisinė atsakomybė. Čia AI gali tik prisiminti rizikos / apsaugos veiksnius ir redaguoti pastabas; negali pateikti balų ar sprendimų. Jis taip pat gali priskirti sistemingą didelę riziką nepalankioje padėtyje esančioms grupėms dėl mokymo duomenų paklaidos, todėl jos išvestis negali būti naudojama kaip sprendimas.
5. Ką daryti, kai dirbtinis intelektas klientui pateikia nukreipimo informaciją, sakydamas „šis centras, tas telefonas“?
- A) Adreso ir telefono numerio patvirtinimas iš oficialaus ir esamo įstaigos šaltinio prieš suteikiant jį klientui ✔
- B) Informacijos perdavimas tiesiogiai klientui, nes ji pateikiama užtikrintai
- C) Darant prielaidą, kad informacija yra visiškai teisinga, kol dirbtinis intelektas pateikia dabartinę datą
- D) Galvojimas, kad informacijos tikslumo tirti nereikia, nes ji kažkur paminėta.
Aprašymas: Dirbtinis intelektas gali sudaryti paslaugas, taikomuosius reikalavimus, adresus ir telefono numerius arba pateikti pasenusią informaciją; Įstaigos jungiasi, persikelia, užsidaro. Kliento siuntimas nepatvirtintu adresu sukels veltui kelionę ir praras pasitikėjimą. Todėl dirbtinio intelekto teikiama kontaktinė informacija turi būti patvirtinta pačios įstaigos oficialiu kanalu prieš perduodant ją klientui.
6. Kas turėtų nustatyti tikslus reagavimo plane ir koks yra AI vaidmuo?
- A) Dirbtinis intelektas turėtų ir nustatyti tikslus, ir parašyti visą planą neprašant kliento.
- B) Klientas (kartu su specialistu) nustato tikslus; AI įdeda juos į SMART formatą ir struktūrizuoja, neprideda naujų taikinių ✔
- C) tikslai nesvarbūs; Kuo daugiau plano tikslų, tuo geriau.
- D) Dirbtinis intelektas gali nepaisyti kliento prioritetų, nes atrodo profesionaliai
Aprašymas: Pagrindinė socialinio darbo vertybė yra „apsisprendimas“: klientas išsikelia tikslus ir prioritetus, formuodamas juos pasitelkdamas profesionalias profesines žinias. Dirbtinis intelektas perkelia šiuos tikslus į SMART formatą ir siūlo žingsnius bei rodiklius; bet jis negali pridėti naujų tikslų, kurių klientas nepasako. Svetimas, iš išorės primestas planas negali būti pritaikytas klientui.
7. Kokiu klausimu socialinio tyrimo ataskaitoje, kurią reikia pateikti teismui, dirbtinis intelektas yra pavojingiausias?
- A) Galimybė sugalvoti neegzistuojančias datas, pastabas ar citatas, kad ataskaita atrodytų „pilna“ ✔
- B) per daug formalią teksto kalbą
- C) Ataskaitos rašymas trumpesnis nei prašoma
- D) Antraštės abėcėlės tvarka
Paaiškinimas: Pavojingiausia AI tendencija yra pridėti neegzistuojančią datą, pastabą ar citatą, kad ataskaita atrodytų „išsami“. Sugalvotas sakinys teismo ataskaitoje gali ir suklaidinti sprendimą, ir sugriauti eksperto patikimumą. Todėl kiekvienas atvejis turi būti susietas su realiu pokalbiu/stebėjimu/dokumentu, o profesionalią nuomonę turėtų susidaryti ekspertas.
8. Kas turėtų parašyti socialinio tyrimo ataskaitos specialistų nuomonę ir nuomonės (pasiūlymo) skiltį?
- A) Dirbtinis intelektas; nes ji pateikia nešališkesnę rekomendaciją
- B) Rašant ataskaitą nuomonės skiltis niekada nepildoma.
- C) Dirbtinis intelektas rašo nuomonę, ekspertas pasirašo tik pabaigoje
- D) ekspertas; profesionali nuomonė ir nuomonė yra jo autoritetas ir atsakomybė, dirbtinis intelektas tik praskaidrina kalbą ✔
Teiginys: Profesionali nuomonė ir nuomonė – „tai yra geriausias šio vaiko interesas“, „šis susitarimas yra tinkamas“ – yra eksperto teisinė galia ir atsakomybė. "Ką aš rekomenduoju dirbtiniam intelektui?" Neklausiama; Jo pateiktas „pasiūlymas“ gali būti ir išgalvotas, ir atsakomybės perkėlimas. Geriausiu atveju dirbtinis intelektas paaiškina eksperto surašytos nuomonės kalbą.
9. Kokia yra svarbiausia kontrolė supaprastinant sunkų oficialų pagalbos laišką klientui, turinčiam dirbtinį intelektą?
- A) Tekstas turi būti kuo trumpesnis, nežiūrėkite į detales
- B) Rezultatas atrodo sklandžiai ir estetiškai
- C) Patikrinimas, ar nebuvo praleistos jokios teisės, sąlygos, sumos, datos ar įspėjimai, lyginant su originalu ✔
- D) Supaprastinimas suteikia klientui komfortą, nes suteikia jam mažiau informacijos.
Paaiškinimas: supaprastinti nereiškia iškraipyti; „Sutrumpinti“ arba „supaprastinti“ AI gali nuryti teisę, sąlygą, sumą, datą ar pranešimą. Klientas gali prarasti teisę su „lengva“, bet neišsamia informacija. Todėl supaprastintą tekstą reikėtų palyginti su originalu ir patikrinti, ar nebuvo prarasta svarbi informacija, ir netgi turėti dirbtinio intelekto sąrašą svarbiausių elementų, kuriuos jis saugo.
10. Kaip teisinga rengiant finansavimo paraišką traktuoti dirbtinio intelekto parengtą statistiką?
- A) Tiesiogiai naudojant dirbtinio intelekto pateiktą statistiką, kad ji atrodytų įspūdingai
- B) Kad dirbtinis intelektas nesudarytų statistikos, kur reikia spausdinti [REIKALINGI DUOMENYS] ir kiekvieną skaičių įrašyti iš tikro šaltinio ✔
- C) Atsižvelgiant į tai, kad šaltinis yra nesvarbus, kol numeris įtrauktas į programą.
- D) Darant prielaidą, kad statistikos tikrinti nereikia, nes AI rašo užtikrintai
Aprašymas: Dirbtinis intelektas gali sudaryti įspūdingą, bet be šaltinio statistiką; Figūra be šaltinio beveik visada yra nepatikima. Sugalvota statistika paraiškoje ir atmes paraišką, ir sugriaus institucijos patikimumą. Teisingas požiūris yra nedaryti AI sudarytų skaičių („Rašyti [REIKIAMI DUOMENYS]“) ir kiekvieną skaičių įrašyti iš tikro, patikrinto šaltinio.
11. Kodėl kenksminga prašyti dirbtinio intelekto „paaiškinti, kodėl ši šeima neadekvačiai augina vaikus“?
- A) Nes klausimas per ilgas
- B) Kadangi dirbtinis intelektas negali suteikti jokios informacijos apie šeimos reikalus
- C) Kadangi dirbtinis intelektas nuo pat pradžių prisiima rezultatą, jis (glostančiai) pateikia nepagrįstą ir šališką patvirtinimą; Klausimas turi būti neutralus ir subalansuotas ✔
- D) Nes dirbtinis intelektas visada rašys šeimos naudai
Paaiškinimas: Šis klausimas suponuoja rezultatą („nepakankamas“). AI pateikia be įrodymų ir neobjektyvų tekstą, kuris patvirtina šią prielaidą savo polinkiu glostyti (patvirtinti jūsų insinuaciją). Šališkas klausimas sukuria šališką atsakymą. Iš tiesų, tai yra neutralus klausimas, kuris neprisiima rezultato, subalansuoja stiprybes ir rūpesčius ir reikalauja tik įrodymų.
12. Kaip taikyti „testavimą po kampu“, kad būtų patikrintas AI išvesties poslinkis?
- A) Galvojate apie tą pačią situaciją kitai grupei ir klausiate: „Ar tai būtų parašyta ta pačia kalba? ✔ Dvigubo standarto patikrinimas klausiant
- B) Pirmąjį dirbtinio intelekto atsakymą priimti kaip neutralų ir neieškoti kito kampo
- C) Užduoti tik tokius klausimus, kurie palaiko kliento grupę
- D) Darant prielaidą, kad papildomos kontrolės nereikia, nes dirbtiniame intelekte šališkumo apskritai nėra
Paaiškinimas: AI gali užrašyti tą patį elgesį skirtingu tonu skirtingoms grupėms (pvz., mažas pajamas gaunančioms šeimoms – „aplaidumo rizika“, dideles pajamas gaunantiems – „priverstinis tėvas“). Inversijos testas yra toks: „Jei klientas būtų iš kitos socialinės ir ekonominės / etninės grupės, ar tai būtų parašyta ta pačia kalba? yra paklausti; Taip matomi dvigubi standartai, pagrįsti stereotipais, o ne įrodymais.
13. Koks yra teisingas būdas apibendrinti faktinę kliento bylą (įskaitant vardą, pavardę, adresą, informaciją apie sveikatą)?
- A) Norėdami pagreitinti, įklijuokite jį į artimiausią viešąjį AI įrankį ir apibendrinkite
- B) Failo apdorojimas nekreipiant dėmesio į privatumą, nes jis trumpas
- C) Įveskite viską, įskaitant informaciją apie sveikatą, ir išsaugokite tik rezultatą
- D) Apdoroti tik saugioje institucijos patvirtintoje sistemoje arba su atpažintu tekstu, su minimaliais duomenimis ✔
Atskleidimas: Klientą identifikuojantys asmens duomenys, ypač jautrūs duomenys, tokie kaip sveikata, niekada neįvedami į viešąjį įrankį, kurio įstaiga nepatvirtino; tekstas gali būti apdorojamas, saugomas išoriniuose serveriuose arba naudojamas modelių mokymuose, o išfiltravimas yra negrįžtamas. Tai taip pat yra KVKK pažeidimas. Šio tipo darbai atliekami tik vidinėse, saugiose, patvirtintose sistemose, kurios nepraleidžia duomenų arba su atpažintu tekstu.
14. Kodėl ne visada pakanka ištrinti pavadinimus iš dokumento, kad jis būtų įtrauktas į viešą priemonę?
- A) Vardų ištrynimas visada yra visiškas anonimiškumas ir kiekvienas dokumentas tampa saugus
- B) Kol dokumentas trumpas, iš konteksto neįmanoma nustatyti tapatybės
- C) Dokumentas, kurio pavadinimas buvo ištrintas, visiškai nepatenka į KVKK taikymo sritį.
- D) Kontekstas (kaimynystė, amžius, įvykis, šeimos struktūra) gali iš naujo patvirtinti tapatybę; Apsauga užtikrinama pasirinkus įrankį ir aplinką ✔
Paaiškinimas: net jei vardai ištrinami, kontekstas (retas kaimynystės, amžiaus, įvykio, datos, šeimos struktūros ir kt. derinys) gali padėti identifikuoti asmenį; Jis gali būti vienintelis žmogus kaimynystėje, kuris atitinka aprašymą. Tikra apsauga suteikiama ne maskuojant, o pasirenkant tinkamą priemonę ir aplinką; Kontekstas taip pat yra asmens duomenys, o neaiški informacija turėtų būti saugoma kaip aukštesnė klasė.
15. Koks yra veiksmingiausias būdas nuo prašymo pateikimo iki bylos užbaigimo užkirsti kelią vienai AI klaidai patekti į galutinį sprendimą?
- A) Viso proceso delegavimas vienam AI įrankiui ir pasirašymas tik vieną kartą pabaigoje
- B) Žmogaus patikrinimo vartų ir leidimo sąlygos įdėjimas kiekviename etape (sluoksninis patikrinimas) ✔
- C) Pašalinti tarpinius greičio patvirtinimus ir tikrinti tik išėjimo stadijoje
- D) leisti kiekvienam ekspertui laisvai naudotis savo įrankiu, nevedant įrašų
Aprašymas: kiekviename etape (paraiškos/konfidencialumas, įvertinimas/klinikinis sprendimas, rizika/leidimas, planas/patikra, ataskaita/įrodymai, uždarymas/tikslumas) dedami žmogaus patikrinimo vartai; Negalite praeiti pro vienas duris, nepraėję pro kitas. Ši daugiasluoksnė struktūra neleidžia haliucinacijoms, šališkumui ar konfidencialumo klaidai viename etape įsiskverbti į sprendimą, turintį įtakos klientui.