Ieguvumi:
- Spēja sagatavot riska un aizsardzības faktoru kontrolsarakstu un drošības plāna skeletu ar mākslīgo intelektu un strādāt, neizlaižot nevienu jomu
- Saprotiet, ka lēmumus par riska līmeni/punktu un drošību pieņem tikai eksperti, komandas, uzraudzība un juridiskie procesi un ka mākslīgais intelekts nevar pieņemt lēmumus.
- Redzot, ka mākslīgais intelekts var attiecināt sistemātisku neobjektivitāti uz nelabvēlīgām grupām, un piemērojot disciplīnu nekad neizmantot tā rezultātus kā lēmumu un apstrādāt visjutīgākos datus tikai drošā sistēmā.
Sociālā darba nopietnākā atbildība ir riska novērtēšana – spriedumi, kas tieši attiecas uz dzīvības drošību, piemēram, vai bērns ir atstāts novārtā vai vardarbīgi, vai indivīds var nodarīt pāri sev vai kādam citam, vai vecāka gadagājuma cilvēks ir drošībā, vai vardarbības upuris ir apdraudēts. Pirmais un drosmīgākais šīs vienības noteikums ir šāds: riska lēmumu pieņemšana nepieder, nevar un nedrīkst piederēt AI. Lēmums par personas drošību; Tam nepieciešama profesionāla autoritāte, klīniskais vērtējums, daudznozaru komandas viedoklis, uzraudzība un juridiskā atbildība. AI šeit ir tikai sagatavošanās un atgādinājuma rīks: tas atgādina, kuri riska un aizsardzības faktori ir jāpārskata, sakārto jūsu piezīmes, izklāsta drošības plānu. Tas nedod punktu, tas nesaka "risks ir zems/augsts", tas nepieņem lēmumu.
Kāpēc mēs to tik skarbi uzsveram? Tā kā riska arēnā AI kļūdas izmaksas ir neatgriezeniskas. AI riska novērtējums kā "zems" atstāj bērnu neaizsargātu; Ja riskam liekas nevajadzīgi “liels”, tas var novest pie ģimenes netaisnīgas šķiršanās. Turklāt mākslīgais intelekts ietver novirzes apmācību datos: visā pasaulē ir dokumentēti algoritmi, kas sistemātiski piedēvē lielāku risku noteiktām sociālekonomiskajām grupām, etniskajām grupām vai apkaimēm. Tātad, pat ja AI izvade ir ievade, tā nekad nevar ignorēt jūsu neatkarīgo spriedumu.
AI likumīgā loma: atgādinājums un regulējums
Ir trīs vietas, kur jūs varat droši izmantot AI riskam:
1. Faktoru atgādinājums. Riska faktori (piemēram, iepriekšēja vardarbības vēsture, vielu lietošana, sociālā izolācija, iepriekšēja uzņemšana) un aizsardzības faktori (piemēram, atbalstošs pieaugušais, regulāra skolas apmeklēšana, spēcīgs sociālais tīkls), kas jāņem vērā riska novērtējumā, ir gari; AI palīdz izvairīties no jebkādu apgabalu izlaišanas, atsaucot atmiņā kontrolsarakstu, kas atbilst jūsu organizācijas izmantotajai sistēmai.
2. Piezīmju rediģēšana. Tas pārvērš jūsu novērojumus un klientu paziņojumus sakārtotā, faktiskā tekstā, lai jūs varētu balstīt savu spriedumu uz skaidriem datiem.
3. Drošības plāna projekts. Drošības plānam (konkrēts plāns, kas nosaka, ko cietušais darīs briesmu gadījumā, ar ko viņš sazināsies, kurp dosies) ir noteikta struktūra. AI var izveidot skeleta uzmetumu, kas jāaizpilda ar klientu; Bet jūs un klients aizpildiet plāna saturu atbilstoši realitātei.
Uzmanību: nekad nejautājiet AI "kāds ir riska līmenis šajā gadījumā?" vai "vai bērns ir drošībā mājās?" Neprasi. NEIZMANTOJIET izvadi kā lēmumu, pat ja jūs lūdzat. Uz šiem jautājumiem atbild tikai pilnvarotais eksperts, komanda un uzraudzība, izmantojot iestādes oficiālo riska instrumentu.
Soli pa solim: pareizi pozicionējiet AI riska procesā
- Drošība pirmajā vietā. Ja pastāv tūlītējas un nopietnas briesmas (dzīvības drošība), ir nepieciešams veikt iestādes ārkārtas procedūru, nevis nodarboties ar AI. AI nevajadzētu atlikt steidzamību.
- Deidentificēt. Riska reitingi ir visjutīgākie dati; Klientu identificējoša informācija atvērtajā rīkā netiek ievadīta, tiek izmantots tikai drošās iestādes rīks.
- Atgādināt man faktoru sarakstu. Pieprasiet institucionālajai sistēmai atbilstošu riska un aizsardzības faktoru kontrolsarakstu.
- Izdariet savu spriedumu. Jūs izsverat faktorus, izvērtējat kopā ar komandu un konsultējaties ar vadītāju. Jūs nevēlaties, lai AI "novērtētu".
- Aizpildiet drošības plānu kopā ar klientu. Uzmetuma skelets var būt no AI; Saturs tiek aizpildīts ar klienta faktisko tīklu, resursiem un preferencēm.
trīs mini futrāļi
1. gadījums — izlaists aizsargfaktors. Eksperts koncentrējās uz riska faktoriem vardarbības ģimenē lietā. Faktoru kontrolsaraksts, kuru viņš lūdza AI, lika viņam jautāt par klienta drošo atbalsta tīklu darbā sadaļā "aizsardzības faktori" — jomu eksperts bija palaidis garām. Šis tīkls kļuva par visreālāko drošības plāna daļu. Lēmums atkal bija eksperta ziņā; AI tikai atgādināja jautājumu.
2. gadījums — nepareizs rezultāts netika uzticēts. Viena aģentūra redzēja izmēģinājuma AI rīku, kas apzīmēja gadījumu kā “zemu risku”. Taču eksperta novērojums un klienta teiktais norādīja uz nopietnu apdraudējumu. Komanda noraidīja AI marķējumu un uzsāka aizsardzības pasākumus, pamatojoties uz savu novērtējumu. Vēlāk tika apstiprināts, ka briesmas bija reālas. Nodarbība: AI rezultāts nav lēmums; cilvēka spriedumam ir prioritāte.
3. gadījums — neobjektivitāte. Vienā izmēģinājumā viena un tā pati lieta AI tika nodota divas reizes; Vienīgā atšķirība bija apkaime, kurā dzīvoja klients. AI sistemātiski radīja augstāku “riska valodu” apkaimē, par kuru zināms, ka tā atrodas nelabvēlīgā situācijā. Tas parādīja neobjektivitāti AI apmācības datos un pastiprināja aģentūras politiku neizmantot AI riska lēmumu pieņemšanā.
Četras kopējamas veidnes
1) Atgādinājums par riska/aizsardzības faktoru:
Jūsu loma: sociālā darba supervizora asistents. Sagatavojiet riska faktoru un aizsardzības faktoru kontrolsarakstu, kurus ieteicams pārskatīt riska novērtējumā [vardarbības ģimenē] gadījumos. Parādiet to kā ATGĀDINĀJUMU sarakstu; NESNIEDZIET nekādus punktus, lēmumus vai "riska līmeņus". Izvērtējums un lēmums pieder ekspertam.
2) Drošības plāna projekta skelets:
Jūsu loma: redaktors. Sagatavojiet TUkšu drošības plāna izklāstu, kas jāaizpilda ar vardarbības ģimenē upuri: brīdinājuma zīmes, drošas vietas, personas un iestādes, ar kurām sazināties, svarīgi dokumenti, plāns bērniem, digitālā drošība. Satura aizpildīšana; Atstājiet tukšas vietas zem katra virsraksta, kas jāaizpilda ar klientu.
3) Riska piezīmes rediģēšana (bez lēmuma pieņemšanas):
Pārvērtiet tālāk norādītos novērojumus un paziņojumus faktiskā, sakārtotā tekstā. Etiķetes novērošana un klienta paziņojums atsevišķi. Riska līmeņa norādīšana, lēmuma pieņemšana, komentāra pievienošana. Rediģējiet tikai to, kas ir piezīmē, un atzīmējiet trūkstošos/neskaidros apgabalus. Piezīme: [ielīmējiet deidentificētu piezīmi]
4) Neobjektivitātes paškontrole:
Vai tālāk esošajā riska piezīmes projektā ir apgalvojums, kas norāda uz nepierādītu aizspriedumu klienta sociālekonomiskā statusa, etniskās piederības, apkārtnes vai līdzīgas pazīmes dēļ? Atzīmējiet katru teikumu, kura pamatā ir stereotipi, nevis pierādījumi. Nemainiet tekstu, tikai brīdiniet. Piezīme: [ielīmēt piezīmi]
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Izlasiet šo gadījumu un izlemiet, vai bērnam ir droši palikt mājās un kāds ir riska līmenis.
Tas ir vissvarīgākā lēmuma pieņemšana par cilvēka dzīvību programmatūrai. Tas ir neētiski, pretēji profesionālajai atbildībai, un mākslīgā intelekta aizspriedumi tieši ietekmē bērna likteni.
Spēcīga uzvedne:
Jūsu loma: atgādinājuma palīgs. Pirms lasāt tālāk norādīto piezīmi, kurā nav norādīta identifikācija, sagatavojiet riska un aizsardzības faktoru kontrolsarakstu, kas jāpārskata, novērtējot [bērna nevērības] gadījumus. IZSTRĀDĀT lēmumu, punktu skaitu vai riska līmeni. Vērtēšanu veicu kopā ar savu komandu; Jūs vienkārši atgādināt man, kuras jomas man nevajadzētu izlaist.
Atšķirība: sakot “kurus jautājumus nedrīkstu aizmirst”, nevis prasot lēmumus, mākslīgais intelekts tiek uzturēts uz drošas un ētiskas robežas.
Lomu robežas riska jomā
Meklējumi
Vai AI to var izdarīt?
Kurš dara?
Faktoru kontrolsaraksta atgādinājums
Jā
AI (atgādinājums)
Piezīmju rediģēšana faktiski
Jā
AI + eksperta apstiprinājums
Drošības plāna tukšs skelets
Jā
AI; satura klients+eksperts
Riska līmeņa/punkta noteikšana
nē
Eksperts + komanda + supervīzija
"Vai tas ir droši?" lēmumu
nē
Kompetents eksperts, juridisks process
Aizsardzības pasākumu uzsākšana
nē
Iestāde, kompetentā iestāde
Biežas kļūdas
- AI prasīšana par riska rādītāju/lēmumu. Bīstamākā kļūda; Lēmumam nepieciešama profesionāla autoritāte un juridiskā atbildība.
- Uzticoties AI marķējumam. “Zema riska” secinājums nekad neatspēs jūsu novērojumu par pretējo.
- Aizspriedumu ignorēšana. AI var sistemātiski augstu risku attiecināt uz nelabvēlīgām grupām; paškontrole ir būtiska.
- Steidzamības aizkavēšana. Ja ir dzīvības drošība, vispirms veiciet ārkārtas procedūru; Darbs ar AI nevar gaidīt.
- Sensitīvāko datu nodošana atvērtajam rīkam. Riska piezīmes tiek apstrādātas tikai drošās iestādes rīkā.
Rezumējot
Riska novērtējums ir sociālā darba lielākā atbildība, un lēmumu pieņem tieši persona — profesionālis, komanda, uzraudzība, juridiskā vara. Šeit AI ir tikai rīks atgādināšanai (riska/aizsardzības faktoru saraksts), organizēšanai (faktu piezīme) un sastādīšanai (drošības plāna skelets); Tas negūst vārtus, nepieņem lēmumus. Atcerieties, ka mākslīgais intelekts ir neobjektivs, nekad neizmantojiet tā izvadi kā lēmumu un apstrādājiet sensitīvākos datus tikai drošajā sistēmā.
Lietojumprogrammas uzdevums
Izvēlieties izdomāta gadījuma veidu. Iegūstiet kontrolsarakstu ar “riska/aizsardzības faktora atgādinājuma” veidni un pārbaudiet, vai AI nerada nekādus “riska līmeņus”. Pēc tam satveriet tukšu plāna skeletu ar veidni "drošības plāna kontūras skelets". Apzināti jautājot AI "kāds ir riska līmenis?" un vienā teikumā uzraksti, kāpēc NEDRĪKST izmantot izvadi kā lēmumu.
kontrolsaraksts
- [ ] Es prasīju AI tikai atgādinājumu par faktoru, nevis lēmumu/rezultātu.
- [ ] Es apstrādāju sensitīvākos datus tikai drošā uzņēmuma rīkā.
- [ ] Kopā ar klientu plānoju aizpildīt drošības plāna saturu.
- [ ] Es pārbaudīju AI izvades novirzi.
- [ ] Es apstiprināju, ka galīgo lēmumu par risku pieņem komanda, uzraudzība un pienācīgs process.