Hagnaður:
- Hæfni til að útbúa áhættu- og verndarþátta gátlistann og öryggisáætlun beinagrind með gervigreind og vinna án þess að sleppa neinu svæði
- Skilja að áhættustig/stig og öryggisákvarðanir eru aðeins teknar af sérfræðingum, teymum, eftirliti og lagalegum ferlum og að gervigreind getur ekki framkallað ákvarðanir.
- Að sjá að gervigreind getur rekið kerfisbundna hlutdrægni til hópa sem eru illa staddir og beita þeirri aga að nota aldrei framleiðslu sína sem ákvörðun og vinna viðkvæmustu gögnin aðeins í öruggu kerfi
Alvarlegasta ábyrgð félagsráðgjafar er áhættumat – dómar sem varða öryggi lífsins beint, svo sem hvort barn sé vanrækt eða beitt ofbeldi, hvort einstaklingur sé líklegur til að skaða sjálfan sig eða einhvern annan, hvort aldraður einstaklingur sé öruggur eða hversu í hættu þolandi ofbeldis er. Fyrsta og djarfasta reglan í þessari einingu er þessi: Áhættuákvarðanataka á ekki, getur ekki og ætti ekki að tilheyra gervigreind. Ákvörðun um öryggi manns; Það krefst faglegs valds, klínísks mats, þverfaglegrar teymisálits, eftirlits og lagalegrar ábyrgðar. Gervigreind er bara undirbúnings- og áminningartæki hér: það minnir þig á hvaða áhættu- og verndarþætti þú átt að endurskoða, skipuleggur athugasemdir þínar, útlistar öryggisáætlun. Það gefur ekki stig, það segir ekki "áhættan er lítil/há", það tekur enga ákvörðun.
Af hverju leggjum við svona harkalega áherslu á þetta? Vegna þess að á áhættuvettvangi er kostnaður við gervigreind mistök óafturkræf. Mat gervigreindar á áhættu sem „lágt“ skilur barn eftir óvarið; Að láta áhættu virðast óþarflega „mikil“ gæti leitt til þess að fjölskylda sé aðskilin á ósanngjarnan hátt. Að auki ber gervigreind hlutdrægni í þjálfunargögnum: reiknirit sem kenna kerfisbundið meiri áhættu til ákveðinna félagshagfræðilegra hópa, þjóðernis eða hverfa hafa verið skráð um allan heim. Þannig að jafnvel þótt framleiðsla gervigreindar sé inntak getur það aldrei hnekið sjálfstæðu mati þínu.
Lögmætt hlutverk gervigreindar: áminning og reglugerð
Það eru þrír staðir þar sem þú getur örugglega notað gervigreind í hættu:
1. Áminning um þátt. Áhættuþættirnir (t.d. fyrri saga um ofbeldi, vímuefnaneyslu, félagslega einangrun, fyrri innlagnir) og verndandi þættir (t.d. fullorðinn stuðningsmaður, regluleg skólasókn, sterkt félagslegt net) sem ætti að hafa í huga við áhættumat eru langir; Gervigreind hjálpar þér að forðast að missa af neinum svæðum með því að rifja upp gátlista sem passar við rammann sem fyrirtækið þitt notar.
2. Greinargerð. Það þýðir athugun þína og yfirlýsingar viðskiptavina yfir í skipulagðan, staðreyndatexta - svo þú getur byggt dómgreind þína á skýrum gögnum.
3. Drög að öryggisáætlun. Öryggisáætlun (áþreifanleg áætlun sem ákvarðar hvað fórnarlambið mun gera ef hætta steðjar að, hvern hann mun hafa samband, hvert hann fer) hefur ákveðna uppbyggingu. Gervigreind getur framleitt drög að beinagrind til að fylla út með viðskiptavininum; En þú og viðskiptavinurinn fyllið út innihald áætlunarinnar í samræmi við raunveruleikann.
Varúð: Spyrðu aldrei gervigreindina "hvert er áhættustigið í þessu tilfelli?" eða "er barnið öruggt heima?" Ekki spyrja. EKKI nota úttakið sem ákvörðun, jafnvel þótt þú spyrð. Þessum spurningum er einungis svarað af viðurkenndum sérfræðingi, teymi og eftirliti í gegnum opinbert áhættutæki stofnunarinnar.
Skref fyrir skref: staðsetja gervigreind rétt í áhættuferlinu
- Öryggi fyrst. Ef um bráða og alvarlega hættu er að ræða (lífsöryggi) er nauðsynlegt að beita neyðarferli stofnunarinnar, ekki að takast á við gervigreind. AI ætti ekki að tefja neina brýnt.
- Afvísa. Áhættumat eru viðkvæmustu gögnin; Upplýsingar sem auðkenna viðskiptavininn eru ekki færðar inn í opna tólið, aðeins öruggt stofnunartólið er notað.
- Minntu mig á þáttalistann. Biðja um gátlista fyrir áhættu- og verndarþætti sem hæfir stofnanaumgjörðinni.
- Gerðu þína eigin dóm. Þú vegur þættina, metur með teyminu og ráðfærir þig við yfirmann. Þú vilt ekki að gervigreindin „meti“.
- Ljúktu við öryggisáætlunina með viðskiptavininum. Drög að beinagrindinni geta komið frá gervigreindinni; Innihaldið er fyllt með raunverulegu neti viðskiptavinarins, auðlindum og óskum.
þrjú smámál
Tilfelli 1 — Gleymdir verndarþáttur. Sérfræðingur lagði áherslu á áhættuþætti í heimilisofbeldismáli. Gátlistinn sem hann bað um gervigreind fékk hann til að spyrja um öruggt stuðningsnet viðskiptavinarins í vinnunni í hlutanum „verndarþættir“ — svæði sem sérfræðingurinn hafði misst af. Þetta net varð raunhæfasti hluti öryggisáætlunarinnar. Ákvörðunin var aftur í höndum sérfræðingsins; AI minnti aðeins á spurninguna.
Tilvik 2 - Rangt stig var ekki treyst. Ein stofnun sá að gervigreindarverkfæri til reynslu merktu mál sem „lítil áhættu“. Athugun sérfræðingsins og greinargerð umbjóðanda bentu hins vegar til alvarlegrar hættu. Teymið hafnaði gervigreindarmerkinu og hóf verndaraðgerðir byggðar á eigin mati. Síðar var staðfest að hættan væri raunveruleg. Lexía: AI stig er ekki ákvörðun; dómgreind manna hefur forgang.
Mál 3 - Hlutdrægni tekin. Í einni réttarhöld var sama málið gefið AI tvisvar; Eini munurinn var hverfið þar sem viðskiptavinurinn bjó. Gervigreindin framleiddi kerfisbundið „áhættumál“ fyrir hverfið sem vitað er að er illa sett. Þetta sýndi hlutdrægni í þjálfunargögnum gervigreindar og styrkti þá stefnu stofnunarinnar að nota ekki gervigreind við ákvarðanatöku áhættu.
Fjögur afritanleg sniðmát
1) Áminning um áhættu/verndarþátt:
Þitt hlutverk: aðstoðarmaður félagsráðgjafa. Útbúa gátlista yfir áhættuþætti og verndarþætti sem ráðlagt er að endurskoða í áhættumati í [heimilisofbeldis]málum. Settu þetta fram sem lista yfir ÁMINNINGAR; EKKI framleiða nein stig, ákvarðanir eða "áhættustig". Mat og ákvörðun er í höndum sérfræðingsins.
2) Drög að beinagrind öryggisáætlunar:
Þitt hlutverk: ritstjóri. Útbúa AUT yfirlit yfir öryggisáætlun til að fylla út með þolanda heimilisofbeldis: viðvörunarskilti, öruggir staðir, fólk og stofnanir til að hafa samband við, mikilvæg skjöl, áætlun fyrir börn, stafrænt öryggi. Að fylla út innihaldið; Skildu eftir auð rými undir hverri fyrirsögn til að fylla út með viðskiptavininum.
3) Að breyta áhættuskýrslu (án þess að taka ákvörðun):
Þýddu eftirfarandi athugasemdir og staðhæfingar yfir í raunhæfan, skipulagðan texta. Merktu athugun og yfirlýsingu viðskiptavinar sérstaklega. TAKA fram áhættustig, taka ákvörðun, bæta við athugasemd. Breyttu aðeins því sem er í athugasemdinni og merktu vantar/óljós svæði. Athugið: [líma af auðkenndu minnismiða]
4) Sjálfstjórn hlutdrægni:
Í drögum að áhættuskýrslu hér að neðan, er staðhæfing sem sýnir ósannað hlutdrægni vegna félags-efnahagslegrar stöðu viðskiptavinarins, þjóðernis, hverfis eða svipaðra eiginleika? Merktu við hverja setningu sem er byggð á staðalmyndum frekar en sönnunargögnum. Ekki breyta textanum, bara vara við. Athugið: [líma athugasemd]
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Lestu þetta mál og ákváðu hvort það sé óhætt fyrir barnið að vera heima og hvert áhættustigið er.
Þetta er að útvista mikilvægustu ákvörðun um mannslíf til hugbúnaðar. Það er siðlaust, andstætt faglegri ábyrgð, og ber hlutdrægni gervigreindar beint inn í örlög barns.
Öflug tilvitnun:
Þitt hlutverk: aðstoðarmaður áminningar. Áður en þú lest afmerkta athugasemdina hér að neðan skaltu útbúa gátlista yfir áhættu- og verndarþætti til að endurskoða við mat á [vanrækslu barna] málum. FRAMLEIÐA ákvörðun, stig eða áhættustig. Ég mun gera matið með teyminu mínu; Þú minnir mig bara á hvaða svæði ég ætti ekki að sleppa.
Munurinn: að segja „hverjum spurningum ætti ég ekki að gleyma“ frekar en að biðja um ákvarðanir heldur gervigreindinni á öruggum og siðferðilegum mörkum.
Hlutverkamörk á sviði áhættu
Leit
Getur gervigreind gert það?
Hver gerir það?
Áminning um þætti gátlista
Já
AI (áminning)
Breyta athugasemdum staðreyndum
Já
AI + samþykki sérfræðinga
Öryggisáætlun auð beinagrind
Já
gervigreind; efni viðskiptavinur+sérfræðingur
Ákvörðun áhættustigs/stiga
nei
Sérfræðingur + teymi + eftirlit
"Er það öruggt?" ákvörðun
nei
Hæfur sérfræðingur, lögfræðiferli
Að hefja verndarráðstafanir
nei
Stofnun, lögbært yfirvald
Algeng mistök
- Að biðja AI um áhættustig/ákvörðun. Hættulegustu mistökin; Ákvörðunin krefst faglegrar heimildar og lagalegrar ábyrgðar.
- Treystir AI merkinu. Niðurstaða „lítil áhættu“ mun aldrei ógilda athugun þína um hið gagnstæða.
- Hunsa fordóma. Gervigreind gæti kerfisbundið mikla áhættu til hópa sem eru illa staddir; sjálfsstjórn er nauðsynleg.
- Að tefja brýnt. Ef það er lífsöryggi, neyðaraðgerð fyrst; Að takast á við gervigreind getur ekki beðið.
- Að gefa viðkvæmustu gögnin í opna tólið. Áhættuskýrslur eru aðeins unnar í öruggu stofnunartólinu.
Í stuttu máli
Áhættumat er alvarlegasta ábyrgð félagsráðgjafar og ákvörðunin hvílir algjörlega á manneskjunni - fagaðilanum, teyminu, eftirlitinu, lagavaldinu. Hér er gervigreind bara tæki til að minna á (áhættu-/verndarþáttalista), skipuleggja (staðreyndarathugasemd) og semja (beinagrind öryggisáætlunar); Það skorar ekki, það tekur engar ákvarðanir. Mundu að gervigreind hefur hlutdrægni, notaðu aldrei framleiðsla þess sem ákvörðun og vinnur aðeins úr viðkvæmustu gögnunum í örugga kerfinu.
Umsóknarverkefni
Veldu skáldskapargerð. Fáðu gátlista með „áminningu um áhættu/verndarþátt“ sniðmát og staðfestu að gervigreind framleiðir ekki „áhættustig“. Gríptu síðan auða áætlun beinagrind með "öryggisáætlun útlínur beinagrind" sniðmát. Að spyrja gervigreindina meðvitað „hvert er áhættustigið? og skrifaðu í einni setningu hvers vegna þú ættir EKKI að nota úttakið sem ákvörðun.
gátlisti
- [ ] Ég bað aðeins gervigreindina um þáttaáminningu, ekki ákvörðun/einkunn.
- [ ] Ég vann viðkvæmustu gögnin aðeins í öruggu fyrirtækjatólinu.
- [ ] Ég ætlaði að fylla út innihald öryggisáætlunarinnar ásamt viðskiptavininum.
- [ ] Ég athugaði AI framleiðsla fyrir hlutdrægni.
- [ ] Ég staðfesti að endanleg ákvörðun um áhættu hvíli á teyminu, eftirliti og réttlátri málsmeðferð.