Fitimet:
- Aftësia për të përgatitur listën kontrolluese të rrezikut dhe faktorëve mbrojtës dhe skeletin e planit të sigurisë me inteligjencë artificiale dhe për të punuar pa anashkaluar asnjë zonë
- Kuptoni se niveli/pika e rrezikut dhe vendimet e sigurisë merren vetëm nga ekspertë, ekipe, mbikëqyrje dhe procese ligjore dhe se inteligjenca artificiale nuk mund të prodhojë vendime.
- Duke parë që inteligjenca artificiale mund t'i atribuojë paragjykimet sistematike grupeve të pafavorizuara dhe aplikimi i disiplinës së mos përdorimit të prodhimit të saj si vendim dhe përpunimit të të dhënave më të ndjeshme vetëm në një sistem të sigurt
Përgjegjësia më serioze e punës sociale është vlerësimi i rrezikut – gjykimet që kanë të bëjnë drejtpërdrejt me sigurinë e jetës, të tilla si nëse një fëmijë është neglizhuar apo abuzuar, nëse një individ ka gjasa të dëmtojë veten ose dikë tjetër, nëse një i moshuar është i sigurt ose sa e rrezikuar është një viktimë e dhunës. Rregulli i parë dhe më i guximshëm i kësaj njësie është ky: Vendimmarrja e rrezikut nuk i përket, nuk mund dhe nuk duhet t'i përkasë AI. Vendimi për sigurinë e një personi; Kërkon autoritet profesional, gjykim klinik, opinion shumëdisiplinor të ekipit, mbikëqyrje dhe përgjegjësi ligjore. AI është vetëm një mjet përgatitor dhe rikujtues këtu: ju kujton cilët faktorë rreziku dhe mbrojtës të rishikoni, organizon shënimet tuaja, përshkruan një plan sigurie. Nuk jep pikë, nuk thotë “rreziku është i ulët/i lartë”, nuk merr vendim.
Pse e theksojmë kaq ashpër këtë? Sepse në arenën e rrezikut, kostoja e një gabimi të AI është e pakthyeshme. Vlerësimi i AI për një rrezik si "të ulët" e lë një fëmijë të pambrojtur; Bërja e një rreziku të duket e panevojshme "e lartë" mund të çojë në ndarjen e padrejtë të një familjeje. Për më tepër, AI mbart paragjykime në të dhënat e trajnimit: algoritme që sistematikisht i atribuojnë rrezik më të lartë grupeve, etnive ose lagjeve të caktuara socio-ekonomike, janë dokumentuar në mbarë botën. Pra, edhe nëse prodhimi i AI është një hyrje, ai kurrë nuk mund të anashkalojë gjykimin tuaj të pavarur.
Roli legjitim i AI: kujtesë dhe rregullim
Ekzistojnë tre vende ku mund të përdorni në mënyrë të sigurt AI në rrezik:
1. Kujtesa e faktorit. Faktorët e rrezikut (p.sh., historia e kaluar e dhunës, përdorimi i substancave, izolimi social, pranimet e mëparshme) dhe faktorët mbrojtës (p.sh., një i rritur mbështetës, ndjekja e rregullt e shkollës, një rrjet i fortë social) që duhet të merren parasysh në një vlerësim të rrezikut janë të gjatë; AI ju ndihmon të shmangni mungesën e ndonjë fushe duke kujtuar një listë kontrolli që i përshtatet kornizës që përdor organizata juaj.
2. Redaktimi i shënimeve. Ai i përkthen vëzhgimet tuaja dhe deklaratat e klientit në një tekst të organizuar, faktik – kështu që ju mund ta bazoni gjykimin tuaj në të dhëna të qarta.
3. Projekt plani i sigurisë. Një plan sigurie (një plan konkret që përcakton se çfarë do të bëjë viktima në rast rreziku, me kë do të kontaktojë, ku do të shkojë) ka një strukturë të caktuar. AI mund të prodhojë një skelet draft për t'u plotësuar me klientin; Por ju dhe klienti plotësoni përmbajtjen e planit sipas realitetit.
Kujdes: Asnjëherë mos pyesni AI "cili është niveli i rrezikut në këtë rast?" ose "a është fëmija i sigurt në shtëpi?" mos pyet. MOS përdorni rezultatin si vendim, edhe nëse kërkoni. Këtyre pyetjeve u përgjigjet vetëm eksperti, ekipi dhe mbikëqyrësi i autorizuar përmes mjetit zyrtar të rrezikut të institucionit.
Hap pas hapi: pozicionimi i saktë i AI në procesin e rrezikut
- Siguria në radhë të parë. Nëse ka një rrezik të menjëhershëm dhe serioz (siguria e jetës), është e nevojshme të operohet procedura emergjente e institucionit, të mos merret me UA. AI nuk duhet të vonojë asnjë urgjencë.
- Disidentifikohu. Vlerësimet e rrezikut janë të dhënat më të ndjeshme; Informacioni që identifikon klientin nuk futet në mjetin e hapur, përdoret vetëm mjeti i institucionit të sigurt.
- Më kujto listën e faktorëve. Kërkoni një listë kontrolli të rrezikut dhe faktorëve mbrojtës të përshtatshëm për kuadrin institucional.
- Bëni gjykimin tuaj. Ju peshoni faktorët, vlerësoni me ekipin dhe konsultoheni me mbikëqyrësin. Ju nuk dëshironi që AI të "vlerësojë".
- Plotësoni planin e sigurisë me klientin. Skeleti i draftit mund të vijë nga UA; Përmbajtja është e mbushur me rrjetin aktual të klientit, burimet dhe preferencat.
tre mini kuti
Rasti 1 — Faktori mbrojtës i humbur. Një ekspert u fokusua në faktorët e rrezikut në një rast dhune në familje. Lista kontrolluese e faktorëve që ai kërkoi nga AI e kishte pyetur për rrjetin e sigurt të mbështetjes së klientit në punë në seksionin "faktorët mbrojtës" - një zonë që eksperti e kishte humbur. Ky rrjet u bë pjesa më realiste e planit të sigurisë. Vendimi ishte sërish në dorë të ekspertit; AI thjesht kujtoi pyetjen.
Rasti 2 - Nuk u besua rezultati i pasaktë. Një agjenci pa një mjet testimi të AI që etiketonte një rast si "rrezik të ulët". Megjithatë, vëzhgimi i ekspertit dhe deklarata e klientit tregonin për një rrezik serioz. Ekipi hodhi poshtë etiketën e AI dhe filloi një veprim mbrojtës bazuar në vlerësimin e tij. Më vonë u konfirmua se rreziku ishte real. Mësimi: Rezultati i AI nuk është një vendim; gjykimi njerëzor ka përparësi.
Rasti 3 - Paragjykimi u kap. Në një gjykim, i njëjti rast iu dha dy herë UA-së; I vetmi ndryshim ishte lagjja ku jetonte klienti. Inteligjenca artificiale prodhoi sistematikisht "gjuhë të rrezikut" më të lartë për lagjen që dihet se është në disavantazh. Kjo tregoi njëanshmëri në të dhënat e trajnimit të AI dhe përforcoi politikën e agjencisë për të mos përdorur AI në vendimmarrjen e rrezikut.
Katër shabllone të kopjueshëm
1) Përkujtues rreziku/faktori mbrojtës:
Roli juaj: asistent i mbikëqyrësit të punës sociale. Përgatitni një listë kontrolli të faktorëve të rrezikut dhe faktorëve mbrojtës që rekomandohen të rishikohen në një vlerësim të rrezikut në rastet [dhunë në familje]. Paraqisni këtë si një listë KUJTESAVE; MOS prodhoni asnjë pikë, vendim ose "nivele rreziku". Vlerësimi dhe vendimi i takon ekspertit.
2) Skeleti i draftit të planit të sigurisë:
Roli juaj: redaktor. Përgatitni një skicë të zbrazët të një plani sigurie që duhet plotësuar me një viktimë të dhunës në familje: shenja paralajmëruese, vende të sigurta, njerëz dhe institucione për t'u kontaktuar, dokumente të rëndësishme, plan për fëmijët, siguri dixhitale. Plotësimi i përmbajtjes; Lini hapësira bosh nën secilin titull për t'u plotësuar me klientin.
3) Redaktimi i një shënimi rreziku (pa marrë një vendim):
Përktheni shënimet e mëposhtme të vëzhgimit dhe deklaratës në një tekst faktik dhe të organizuar. Etiketoni vëzhgimin dhe deklaratën e klientit veçmas. DEKLARIMI I nivelit të rrezikut, marrja e një vendimi, SHTIMI I një komenti. Ndryshoni vetëm atë që është në shënim dhe shënoni zonat që mungojnë/të paqarta. Shënim: [ngjit shënimin e çidentifikuar]
4) Vetëkontrolli i paragjykimit:
Në draft-shënimin e rrezikut më poshtë, a ka ndonjë deklaratë që përcjell paragjykime të paprovuara për shkak të statusit socio-ekonomik të klientit, përkatësisë etnike, lagjes ose karakteristikave të ngjashme? Shënoni çdo fjali që bazohet në stereotipe dhe jo në prova. Mos e ndryshoni tekstin, vetëm paralajmëroni. Shënim: [ngjit shënim]
Prompt i dobët / Prompt i fortë
Njoftim i dobët:
Lexoni këtë rast dhe vendosni nëse është e sigurt që fëmija të qëndrojë në shtëpi dhe cili është niveli i rrezikut.
Ky është kontraktimi i vendimit më të rëndësishëm për jetën njerëzore tek një softuer. Është joetike, në kundërshtim me përgjegjësinë profesionale dhe mbart paragjykimet e AI-së drejtpërdrejt në fatin e një fëmije.
Njoftim i fuqishëm:
Roli juaj: ndihmës kujtues. Përpara se të lexoni shënimin e çidentifikuar më poshtë, përgatitni një listë kontrolli të faktorëve të rrezikut dhe mbrojtës për t'u rishikuar në vlerësimin e rasteve [neglizhencës së fëmijëve]. PRODHIMI i vendimit, pikës ose nivelit të rrezikut. Unë do të bëj vlerësimin me ekipin tim; Ju thjesht më kujtoni se cilat fusha nuk duhet të kapërcej.
Dallimi: të thuash "cilat pyetje nuk duhet të harroj" në vend që të kërkosh vendime e mban AI në kufirin e sigurt dhe etik.
Kufijtë e rolit në fushën e rrezikut
Kërkimi
A mund ta bëjë AI?
Kush bën?
Përkujtues i listës së kontrollit të faktorëve
po
AI (kujtesë)
Redaktimi i shënimeve në mënyrë faktike
po
AI + miratimi i ekspertit
Skeleti bosh i planit të sigurisë
po
AI; klient i përmbajtjes + ekspert
Përcaktimi i nivelit/pikës së rrezikut
nr
Ekspert + ekip + mbikëqyrje
"A është e sigurt?" vendim
nr
Ekspert kompetent, proces ligjor
Fillimi i masave mbrojtëse
nr
Institucioni, autoriteti kompetent
Gabimet e zakonshme
- Kërkimi i AI për rezultatin/vendimin e rrezikut. Gabimi më i rrezikshëm; Vendimi kërkon autoritet profesional dhe përgjegjësi ligjore.
- Duke i besuar etiketës së AI. Një përfundim "me rrezik të ulët" nuk do ta zhvlerësojë kurrë vëzhgimin tuaj për të kundërtën.
- Injorimi i paragjykimeve. UA mund t'u atribuojë rrezik të lartë sistematik grupeve të pafavorizuara; vetëkontrolli është thelbësor.
- Shtyrja e urgjencës. Nëse ka siguri për jetën, fillimisht procedura emergjente; Ballafaqimi me AI nuk mund të presë.
- Dhënia e të dhënave më të ndjeshme për mjetin e hapur. Shënimet e rrezikut përpunohen vetëm në mjetin e institucionit të sigurt.
Në përmbledhje
Vlerësimi i rrezikut është përgjegjësia më e madhe e punës sociale dhe vendimi i takon personit – profesionistit, ekipit, mbikëqyrjes, autoritetit ligjor. Këtu, AI është vetëm një mjet për të kujtuar (listën e rrezikut/faktorëve mbrojtës), organizimin (shënim faktik) dhe hartimin (skeleti i planit të sigurisë); Nuk shënon, nuk merr vendime. Mos harroni se AI mbart paragjykim, mos përdorni kurrë daljen e saj si vendim dhe përpunoni të dhënat më të ndjeshme vetëm në sistemin e sigurt.
Detyra e aplikimit
Zgjidhni një lloj rasti imagjinar. Merrni një listë kontrolli me një shabllon "përkujtues rreziku/faktori mbrojtës" dhe verifikoni që AI nuk prodhon ndonjë "nivele rreziku". Më pas kapni një skelet të planit të zbrazët me shabllonin "Skeleti i përshkrimit të planit të sigurisë". Duke pyetur me vetëdije AI "cili është niveli i rrezikut?" dhe shkruani me një fjali pse NUK duhet ta përdorni rezultatin si vendim.
listë kontrolli
- [ ] Unë i kërkova AI vetëm një kujtesë faktori, jo një vendim/pikë.
- [ ] I përpunova të dhënat më të ndjeshme vetëm në mjetin e sigurt të ndërmarrjes.
- [ ] Kam planifikuar të plotësoj përmbajtjen e planit të sigurisë së bashku me klientin.
- [ ] Kontrollova daljen e AI për paragjykim.
- [ ] Unë konfirmova se vendimi përfundimtar i rrezikut i takon ekipit, mbikëqyrjes dhe procesit të duhur.