Qligħ:
- Kapaċità li tipprepara l-lista ta 'kontroll tar-riskju u l-fattur protettiv u l-iskeletru tal-pjan tas-sigurtà b'intelliġenza artifiċjali u taħdem mingħajr ma taqbeż l-ebda żona
- Ifhem li d-deċiżjonijiet dwar il-livell/punteġġ tar-riskju u s-sigurtà jittieħdu biss minn esperti, timijiet, superviżjoni u proċessi legali, u li l-intelliġenza artifiċjali ma tistax tipproduċi deċiżjonijiet.
- Meta tara li l-intelliġenza artifiċjali tista' tattribwixxi preġudizzju sistematiku lil gruppi żvantaġġati u tapplika d-dixxiplina li qatt ma tuża l-output tagħha bħala deċiżjoni u tipproċessa l-aktar data sensittiva biss f'sistema sigura
Ir-responsabbiltà l-aktar serja tax-xogħol soċjali hija l-valutazzjoni tar-riskju—ġudizzji li jikkonċernaw direttament is-sigurtà tal-ħajja, bħal jekk tifel jew tifla jiġix traskurat jew abbużat, jekk individwu huwiex probabbli li jagħmel ħsara lilu nnifsu jew lil xi ħadd ieħor, jekk anzjan hux sigur, jew kemm hi fil-periklu vittma tal-vjolenza. L-ewwel u l-aktar regola kuraġġuża ta 'din l-unità hija din: It-teħid ta' deċiżjonijiet dwar ir-riskju ma, ma jistax u m'għandux jappartjeni għall-AI. Deċiżjoni dwar is-sigurtà ta' persuna; Jeħtieġ awtorità professjonali, ġudizzju kliniku, opinjoni ta' tim multidixxiplinarju, superviżjoni u responsabbiltà legali. L-AI hija biss għodda ta' tħejjija u tfakkira hawnhekk: tfakkar liema fatturi ta' riskju u protettivi tirrevedi, torganizza n-noti tiegħek, tiddeskrivi pjan ta' sikurezza. Ma tagħtix punteġġ, ma tgħidx “ir-riskju huwa baxx/għoli”, ma tieħux deċiżjoni.
Għala nenfasizzaw dan b’mod daqshekk aħrax? Minħabba li fl-arena tar-riskju, l-ispiża ta 'żball AI hija irriversibbli. Il-klassifikazzjoni tal-AI ta' riskju bħala "baxx" tħalli lit-tifel mhux protett; Li riskju jidher "għoli" bla bżonn jista' jwassal biex familja tkun separata b'mod inġust. Barra minn hekk, l-AI ġġorr preġudizzji fid-dejta tat-taħriġ: algoritmi li sistematikament jattribwixxu riskju ogħla lil ċerti gruppi soċjoekonomiċi, etniċitajiet jew distretti ġew dokumentati madwar id-dinja. Allura anke jekk l-output ta 'l-AI huwa input, qatt ma jista' jegħleb il-ġudizzju indipendenti tiegħek.
Ir-rwol leġittimu tal-AI: tfakkira u regolamentazzjoni
Hemm tliet postijiet fejn tista' tuża l-AI f'riskju mingħajr periklu:
1. Tfakkira tal-fattur. Il-fatturi ta’ riskju (eż., storja passata ta’ vjolenza, użu ta’ sustanzi, iżolament soċjali, ammissjonijiet preċedenti) u fatturi protettivi (eż., adult ta’ appoġġ, attendenza regolari fl-iskola, netwerk soċjali b’saħħtu) li għandhom jiġu kkunsidrati f’valutazzjoni tar-riskju huma twal; L-AI tgħinek tevita li titlef xi oqsma billi tfakkar lista ta' kontroll li taqbel mal-qafas li tuża l-organizzazzjoni tiegħek.
2. Editjar tan-nota. Huwa jittraduċi l-osservazzjoni tiegħek u d-dikjarazzjonijiet tal-klijenti f'test fattwali organizzat — sabiex tkun tista' tibbaża l-ġudizzju tiegħek fuq data ċara.
3. Abbozz ta' pjan ta' sigurtà. Pjan ta’ sigurtà (pjan konkret li jiddetermina x’se jagħmel il-vittma f’każ ta’ periklu, lil min se jikkuntattja, fejn se jmur) għandu ċerta struttura. L-AI tista 'tipproduċi abbozz ta' skeletru li għandu jimtela mal-klijent; Imma int u l-klijent imlew il-kontenut tal-pjan skont ir-realtà.
Attenzjoni: Qatt ma tistaqsi lill-AI "x'inhu l-livell ta' riskju f'dan il-każ?" jew "it-tifel huwa sigur id-dar?" Titlobx. TUŻAX l-output bħala deċiżjoni, anki jekk titlob. Dawn il-mistoqsijiet jitwieġbu biss mill-espert awtorizzat, it-tim u s-superviżjoni permezz tal-għodda uffiċjali tar-riskju tal-istituzzjoni.
Pass pass: pożizzjonament korrett tal-AI fil-proċess tar-riskju
- Is-sigurtà l-ewwel. Jekk ikun hemm periklu immedjat u serju (sikurezza tal-ħajja), huwa meħtieġ li titħaddem il-proċedura ta 'emerġenza tal-istituzzjoni, li ma tittrattax l-AI. L-AI m'għandha tittardja l-ebda urġenza.
- Iddiżidentifika. Il-klassifikazzjonijiet tar-riskju huma l-aktar data sensittiva; L-informazzjoni li tidentifika l-klijent ma tiddaħħalx fl-għodda miftuħa, tintuża biss l-għodda tal-istituzzjoni sigura.
- Fakkarni fil-lista tal-fatturi. Itlob lista ta' kontroll ta' riskju u fatturi protettivi xierqa għall-qafas istituzzjonali.
- Agħmel il-ġudizzju tiegħek. Inti tiżen il-fatturi, tevalwa mat-tim, u tikkonsulta mas-superviżur. Ma tridx li l-AI "tivvaluta".
- Imla l-pjan tas-sigurtà mal-klijent. L-iskeletru tal-abbozz jista 'jiġi mill-AI; Il-kontenut huwa popolat man-netwerk attwali tal-klijent, ir-riżorsi, u l-preferenzi.
tliet każijiet żgħar
Każ 1 — Fattur protettiv mitluf. Espert iffoka fuq fatturi ta’ riskju f’każ ta’ vjolenza domestika. Il-lista ta 'kontroll tal-fatturi li talab lill-AI għaliha kellha jistaqsi dwar in-netwerk ta' appoġġ sigur tal-klijent fuq ix-xogħol fit-taqsima "fatturi protettivi"—qasam li l-espert kien tilef. Dan in-netwerk sar l-aktar parti realistika tal-pjan tas-sigurtà. Id-deċiżjoni reġgħet kienet f’idejn l-espert; AI sempliċement fakkret il-mistoqsija.
Każ 2 — Punteġġ żbaljat ma kienx fdat. Aġenzija waħda rat għodda AI ta’ prova tittimbra każ bħala “riskju baxx”. Madankollu, l-osservazzjoni tal-espert u d-dikjarazzjoni tal-klijent indikaw periklu serju. It-tim irrifjuta t-tikketta AI u beda azzjoni protettiva bbażata fuq il-valutazzjoni tiegħu stess. Aktar tard kien ikkonfermat li l-periklu kien reali. Lezzjoni: punteġġ AI mhix deċiżjoni; il-ġudizzju uman jieħu preċedenza.
Każ 3 — Bias maqbud. Fi prova waħda, l-istess każ ingħata lill-AI darbtejn; L-unika differenza kienet il-lokal fejn kien jgħix il-klijent. L-AI pproduċiet sistematikament "lingwaġġ ta' riskju" ogħla għall-viċinat magħruf li huwa żvantaġġat. Dan wera preġudizzju fid-dejta tat-taħriġ tal-AI u saħħaħ il-politika tal-aġenzija li ma tużax l-AI fit-teħid tad-deċiżjonijiet dwar ir-riskju.
Erba' mudelli li jistgħu jiġu kkupjati
1) Tfakkira tal-fattur tar-riskju/protezzjoni:
Ir-rwol tiegħek: assistent tas-superviżur tax-xogħol soċjali. Ipprepara lista ta' kontroll ta' fatturi ta' riskju u fatturi protettivi li huma rakkomandati li jiġu riveduti f'valutazzjoni tar-riskju f'każijiet ta' [vjolenza domestika]. Ippreżenta dan bħala lista ta 'TFAKKAR; tipproduċix punteġġi, deċiżjonijiet, jew "livelli ta' riskju". L-evalwazzjoni u d-deċiżjoni jappartjenu lill-espert.
2) Skeletru tal-abbozz tal-pjan tas-sigurtà:
Ir-rwol tiegħek: editur. Ipprepara deskrizzjoni BLANK ta' pjan ta' sigurtà li trid timtela ma' vittma ta' vjolenza domestika: sinjali ta' twissija, postijiet sikuri, nies u istituzzjonijiet li għandek tikkuntattja, dokumenti importanti, pjan għat-tfal, sigurtà diġitali. Imla l-kontenut; Ħalli spazji vojta taħt kull intestatura biex timtela mal-klijent.
3) Editjar ta' nota ta' riskju (mingħajr ma tieħu deċiżjoni):
Ittraduċi n-noti ta’ osservazzjoni u dikjarazzjoni li ġejjin f’test fattwali u organizzat. Tikkettja l-osservazzjoni u d-dikjarazzjoni tal-klijent separatament. JIDDIKJARA l-livell tar-riskju, TIEĦU deċiżjoni, ŻIEDA kumment. Editja biss dak li hemm fin-nota u mmarka żoni neqsin/oskura. Nota: [pejst in-nota de-identifikata]
4) Preġudizzju awtokontroll:
Fl-abbozz tan-nota tar-riskju hawn taħt, hemm dikjarazzjoni li twassal preġudizzju mhux ippruvat minħabba l-istatus soċjoekonomiku, l-etniċità, il-viċinat, jew karatteristika simili tal-klijent? Immarka kull sentenza li hija bbażata fuq sterjotipi aktar milli evidenza. Tibdilx it-test, twissi biss. Nota: [nota pejst]
Pront dgħajjef / Pront qawwi
Pront dgħajjef:
Aqra dan il-każ u ddeċiedi jekk huwiex sikur għat-tifel li jibqa' d-dar u x'inhu l-livell ta' riskju.
Dan huwa l-esternalizzazzjoni tad-deċiżjoni l-aktar importanti dwar ħajja umana għal softwer. Mhuwiex etiku, kuntrarju għar-responsabbiltà professjonali, u jġorr il-preġudizzju tal-AI direttament fid-destin tat-tfal.
Pront qawwi:
Ir-rwol tiegħek: assistent ta' tfakkira. Qabel ma taqra n-nota de-identifikata hawn taħt, ipprepara lista ta' kontroll ta' fatturi ta' riskju u protettivi biex tirrevedi fl-evalwazzjoni ta' każijiet ta' [negliġenza tat-tfal]. PRODUZZJONI deċiżjoni, punteġġ jew livell ta 'riskju. Se nagħmel l-evalwazzjoni mat-tim tiegħi; Tfakkarni f'liema oqsma m'għandix naqbeż.
Id-differenza: li tgħid "liema mistoqsijiet m'għandix ninsa" aktar milli nitlob għal deċiżjonijiet iżżomm l-AI fuq il-fruntiera sigura u etika.
Konfini tar-rwoli fil-qasam tar-riskju
Tfittxija
Tista' tagħmel dan l-AI?
Min jagħmel?
Tfakkira tal-lista ta' kontroll tal-fatturi
Iva
AI (tfakkira)
Editjar noti fattwalment
Iva
AI + approvazzjoni esperta
Pjan ta' sigurtà skeletru vojt
Iva
AI; klijent tal-kontenut + espert
Determinazzjoni tal-livell/punteġġ tar-riskju
le
Espert + tim + superviżjoni
"Huwa sikur?" deċiżjoni
le
Espert kompetenti, proċess legali
Jibdew miżuri protettivi
le
Istituzzjoni, awtorità kompetenti
Żbalji komuni
- Titlob lill-AI għal punteġġ/deċiżjoni tar-riskju. L-aktar żball perikoluż; Id-deċiżjoni teħtieġ awtorità professjonali u responsabbiltà legali.
- Fidu fit-tikketta AI. Konklużjoni ta' "riskju baxx" qatt ma tinvalida l-osservazzjoni tiegħek għall-kuntrarju.
- Injora l-preġudizzju. L-IA tista' tattribwixxi riskju sistematiku għoli lil gruppi żvantaġġati; l-awtokontroll huwa essenzjali.
- Dewmien ta' urġenza. Jekk hemm is-sigurtà tal-ħajja, l-ewwel proċedura ta 'emerġenza; It-trattament tal-AI ma jistax jistenna.
- Tingħata l-aktar data sensittiva lill-għodda miftuħa. In-noti tar-riskju huma pproċessati biss fl-għodda tal-istituzzjoni sigura.
Fil-qosor
Il-valutazzjoni tar-riskju hija l-aktar responsabbiltà gravi tax-xogħol soċjali, u d-deċiżjoni tistrieħ direttament fuq il-persuna - il-professjonist, it-tim, is-superviżjoni, l-awtorità legali. Hawnhekk, l-AI hija biss għodda biex tfakkar (lista ta 'fatturi ta' riskju / protettiv), torganizza (nota fattwali) u abbozzar (skeletru tal-pjan ta 'sikurezza); Ma jiskorjax, ma jieħux deċiżjonijiet. Ftakar li l-AI iġorr preġudizzju, qatt ma tuża l-output tagħha bħala deċiżjoni u tipproċessa l-aktar data sensittiva biss fis-sistema sigura.
Kompitu ta' applikazzjoni
Agħżel tip ta' każ fittizju. Ikseb lista ta’ kontroll b’mudell ta’ “tfakkira ta’ riskju/fattur protettiv” u vverifika li l-AI ma tipproduċi l-ebda “livelli ta’ riskju”. Imbagħad aqbad skeletru tal-pjan vojt bil-mudell "skeletru tal-kontorn tal-pjan tas-sigurtà". Konxjament tistaqsi lill-AI "x'inhu l-livell ta' riskju?" u ikteb f'sentenza waħda għaliex M'għandekx tuża l-output bħala deċiżjoni.
lista ta' kontroll
- [ ] Tlabt lill-AI biss għal tfakkira tal-fattur, mhux deċiżjoni/punteġġ.
- [ ] Ipproċessajt l-aktar data sensittiva biss fl-għodda ta' intrapriża sigura.
- [ ] Ippjanajt li nimla l-kontenut tal-pjan tas-sigurtà flimkien mal-klijent.
- [ ] Iċċekkja l-output AI għal preġudizzju.
- [ ] Ikkonfermajt li d-deċiżjoni finali dwar ir-riskju hija tat-tim, is-superviżjoni u l-proċess dovut.