Suporta sa Pagtatasa ng Panganib at Pagpaplano ng Seguridad: Ang Pinaka Sensitibong Frontier

Mga nadagdag:

• Kakayahang ihanda ang checklist ng panganib at proteksiyon na kadahilanan at balangkas ng plano ng seguridad na may artipisyal na katalinuhan at magtrabaho nang hindi nilalaktawan ang anumang mga lugar
• Unawain na ang antas ng peligro/iskor at mga desisyon sa seguridad ay ginagawa lamang ng mga eksperto, koponan, pangangasiwa at legal na proseso, at ang artificial intelligence ay hindi makakapagbigay ng mga desisyon.
• Nakikita na ang artificial intelligence ay maaaring mag-attribute ng sistematikong pagkiling sa mga disadvantaged na grupo at paglalapat ng disiplina na hindi kailanman gamitin ang output nito bilang isang desisyon at pagproseso ng pinakasensitibong data lamang sa isang secure na system

Ang pinakaseryosong responsibilidad ng gawaing panlipunan ay ang pagtatasa ng panganib—mga paghatol na direktang may kinalaman sa kaligtasan ng buhay, gaya ng kung ang isang bata ay napabayaan o inabuso, kung ang isang indibidwal ay malamang na saktan ang kanyang sarili o ang ibang tao, kung ang isang matanda ay ligtas, o kung gaano nanganganib ang isang biktima ng karahasan. Ang una at pinaka-bold na tuntunin ng yunit na ito ay ito: Ang paggawa ng desisyon sa peligro ay hindi, hindi, at hindi dapat kabilang sa AI. Desisyon tungkol sa kaligtasan ng isang tao; Nangangailangan ito ng propesyonal na awtoridad, klinikal na paghatol, opinyon ng multidisciplinary na pangkat, pangangasiwa at legal na responsibilidad. Ang AI ay isang paghahanda at tool sa paalala lamang dito: ipinapaalala nito sa iyo kung aling mga panganib at proteksiyon na salik ang susuriin, ayusin ang iyong mga tala, binabalangkas ang isang planong pangkaligtasan. Hindi ito nagbibigay ng marka, hindi sinasabing "mababa/mataas ang panganib", hindi ito gumagawa ng desisyon.

Bakit natin ito binibigyang diin? Dahil sa risk arena, ang halaga ng isang pagkakamali sa AI ay hindi na mababawi. Ang rating ng AI sa isang panganib bilang "mababa" ay nag-iiwan ng isang bata na hindi protektado; Ang paggawa ng isang panganib na tila hindi kinakailangang "mataas" ay maaaring humantong sa isang pamilya na hindi makatarungang magkahiwalay. Bukod pa rito, ang AI ay nagdadala ng mga bias sa data ng pagsasanay: ang mga algorithm na sistematikong nag-uugnay ng mas mataas na panganib sa ilang mga socioeconomic na grupo, etnisidad, o mga kapitbahayan ay naidokumento sa buong mundo. Kaya kahit na ang output ng AI ay isang input, hindi nito kailanman mapapawalang-bisa ang iyong independiyenteng paghatol.

Ang lehitimong papel ng AI: paalala at regulasyon

May tatlong lugar kung saan ligtas mong magagamit ang AI sa panganib:

1. Paalala sa salik. Ang mga salik sa panganib (hal., nakaraang kasaysayan ng karahasan, paggamit ng substansiya, panlipunang paghihiwalay, mga nakaraang admission) at mga salik na nagpoprotekta (hal., isang matanda na sumusuporta, regular na pagpasok sa paaralan, isang malakas na social network) na dapat isaalang-alang sa pagtatasa ng panganib ay mahaba; Tinutulungan ka ng AI na maiwasang mawalan ng anumang bahagi sa pamamagitan ng pag-alala ng checklist na akma sa balangkas na ginagamit ng iyong organisasyon.

2. Pag-edit ng tala. Isinasalin nito ang iyong obserbasyon at mga pahayag ng kliyente sa isang organisado, makatotohanang teksto — upang mabatay mo ang iyong paghatol sa malinaw na data.

3. Draft ng plano sa seguridad. Ang isang plano sa seguridad (isang kongkretong plano na tumutukoy kung ano ang gagawin ng biktima sa kaso ng panganib, kung sino ang kanyang kokontakin, kung saan siya pupunta) ay may isang tiyak na istraktura. Ang AI ay maaaring gumawa ng draft skeleton na pupunan ng kliyente; Ngunit pinunan mo at ng kliyente ang nilalaman ng plano ayon sa katotohanan.

Babala: Huwag kailanman tanungin ang AI "ano ang antas ng panganib sa kasong ito?" o “ligtas ba ang bata sa bahay?” Wag mo nang itanong. HUWAG gamitin ang output bilang isang desisyon, kahit na magtanong ka. Ang mga tanong na ito ay sinasagot lamang ng awtorisadong eksperto, koponan at pangangasiwa sa pamamagitan ng opisyal na tool sa panganib ng institusyon.

Hakbang-hakbang: pagpoposisyon ng AI nang tama sa proseso ng peligro

1. Pangkaligtasan muna. Kung may agaran at seryosong panganib (kaligtasan sa buhay), kinakailangan na patakbuhin ang emergency procedure ng institusyon, hindi upang harapin ang AI. Hindi dapat ipagpaliban ng AI ang anumang pangangailangan ng madaliang pagkilos.
2. Disidentify. Ang mga rating ng peligro ay ang pinakasensitibong data; Ang impormasyong nagpapakilala sa kliyente ay hindi ipinasok sa bukas na tool, tanging ang secure na tool ng institusyon ang ginagamit.
3. Ipaalala sa akin ang listahan ng kadahilanan. Humiling ng checklist ng panganib at proteksiyon na kadahilanan na naaangkop sa balangkas ng institusyonal.
4. Gumawa ng iyong sariling paghuhusga. Tinitimbang mo ang mga salik, suriin sa pangkat, at kumunsulta sa superbisor. Hindi mo nais na "suriin" ng AI.
5. Kumpletuhin ang planong pangkaligtasan kasama ng kliyente. Ang draft skeleton ay maaaring magmula sa AI; Ang nilalaman ay napuno ng aktwal na network ng kliyente, mga mapagkukunan, at mga kagustuhan.

tatlong mini case

Kaso 1 — Hindi nakuhang proteksiyon na kadahilanan. Isang dalubhasa ang tumutok sa mga kadahilanan ng panganib sa isang kaso ng karahasan sa tahanan. Ang factor checklist na hiningi niya sa AI ay nagtanong sa kanya tungkol sa secure na network ng suporta ng kliyente sa trabaho sa seksyong "proteksiyon na mga kadahilanan"—isang lugar na napalampas ng eksperto. Ang network na ito ay naging pinaka-makatotohanang bahagi ng plano sa seguridad. Ang desisyon ay muli sa eksperto; Ipinaalala lang ni AI ang tanong.

Case 2 — Hindi pinagkakatiwalaan ang maling marka. Nakita ng isang ahensya ang isang pagsubok na tool ng AI na naglalagay ng isang kaso bilang "mababang panganib." Gayunpaman, ang obserbasyon ng eksperto at ang pahayag ng kliyente ay tumutukoy sa isang seryosong panganib. Tinanggihan ng koponan ang label ng AI at nagpasimula ng proteksiyong aksyon batay sa sarili nitong pagtatasa. Nang maglaon ay nakumpirma na ang panganib ay totoo. Aralin: Ang marka ng AI ay hindi isang desisyon; inuuna ang paghatol ng tao.

Case 3 — Nahuli ang bias. Sa isang pagsubok, ang parehong kaso ay ibinigay sa AI ng dalawang beses; Ang pagkakaiba lang ay ang kapitbahayan kung saan nakatira ang kliyente. Ang AI ay sistematikong gumawa ng mas mataas na "panganib na wika" para sa kapitbahayan na kilala na may kapansanan. Nagpakita ito ng pagkiling sa data ng pagsasanay ng AI at pinatibay ang patakaran ng ahensya sa hindi paggamit ng AI sa pagdedesisyon sa peligro.

Apat na maaaring kopyahin na mga template

1) Paalala sa panganib/proteksiyon na kadahilanan:

Ang iyong tungkulin: assistant sa social work supervisor. Maghanda ng checklist ng mga risk factor at protective factor na inirerekomendang suriin sa isang risk assessment sa mga kaso ng [domestic violence]. Ipakita ito bilang isang listahan ng mga PAALALA; HUWAG gumawa ng anumang mga marka, desisyon, o "mga antas ng peligro". Ang pagsusuri at pagpapasya ay pagmamay-ari ng eksperto.

2) Balangkas ng draft ng plano sa seguridad:

Ang iyong tungkulin: editor. Maghanda ng BLANK na balangkas ng isang planong pangkaligtasan na pupunan ng biktima ng karahasan sa tahanan: mga palatandaan ng babala, mga ligtas na lugar, mga tao at institusyong makontak, mahahalagang dokumento, plano para sa mga bata, digital na kaligtasan. Punan ang nilalaman; Mag-iwan ng mga blangkong puwang sa ilalim ng bawat heading upang punan ng kliyente.

3) Pag-edit ng tala sa panganib (nang hindi gumagawa ng desisyon):

Isalin ang sumusunod na obserbasyon at mga tala ng pahayag sa isang makatotohanan, organisadong teksto. Lagyan ng label ang pagmamasid at pahayag ng kliyente nang hiwalay. PAGSASABAYA ng antas ng panganib, PAGGAWA ng desisyon, PAGDAGDAG ng komento. I-edit lamang kung ano ang nasa tala at markahan ang mga nawawala/nakubli na lugar. Tandaan: [idikit ang de-identified na tala]

4) Pagpipigil sa sarili ng bias:

Sa draft na tala sa panganib sa ibaba, mayroon bang pahayag na naghahatid ng hindi napatunayang pagkiling dahil sa katayuang socioeconomic, etnisidad, kapitbahayan, o katulad na katangian ng kliyente? Markahan ang bawat pangungusap na batay sa mga stereotype sa halip na ebidensya. Huwag baguhin ang text, babala lang. Tandaan: [idikit ang tala]

Mahinang prompt / Malakas na prompt

Mahinang prompt:

Basahin ang kasong ito at magpasya kung ligtas para sa bata na manatili sa bahay at kung ano ang antas ng panganib.

Ito ay outsourcing ang pinakamabigat na desisyon tungkol sa buhay ng tao sa isang software. Ito ay hindi etikal, salungat sa propesyonal na responsibilidad, at nagdadala ng bias ng AI nang direkta sa kapalaran ng isang bata.

Napakahusay na prompt:

Ang iyong tungkulin: katulong sa paalala. Bago basahin ang hindi natukoy na tala sa ibaba, maghanda ng checklist ng mga panganib at proteksiyon na salik na susuriin sa pagsusuri ng mga kaso ng [pagpapabaya sa bata]. PAGGAWA ng desisyon, marka o antas ng panganib. Gagawin ko ang pagsusuri kasama ang aking pangkat; Ipapaalala mo lang sa akin kung aling mga lugar ang hindi ko dapat laktawan.

Ang pagkakaiba: ang pagsasabi ng "aling mga tanong ang hindi ko dapat kalimutan" sa halip na humingi ng mga desisyon ay nagpapanatili sa AI sa ligtas at etikal na hangganan.

Mga hangganan ng papel sa larangan ng panganib

Paghanap

Magagawa ba ito ng AI?

Sino ang gumagawa?

Paalala sa checklist ng salik

Oo

AI (paalala)

Pag-edit ng mga tala sa katotohanan

Oo

Pag-apruba ng eksperto sa AI +

Blankong balangkas ng plano sa seguridad

Oo

AI; client+expert ng nilalaman

Pagtukoy sa antas ng panganib/marka

hindi

Eksperto + koponan + pangangasiwa

"Ligtas ba?" desisyon

hindi

Mahusay na dalubhasa, legal na proseso

Pagsisimula ng mga hakbang sa proteksyon

hindi

Institusyon, karampatang awtoridad

Mga karaniwang pagkakamali

• Pagtatanong sa AI para sa marka ng panganib/desisyon. Ang pinaka-mapanganib na pagkakamali; Ang desisyon ay nangangailangan ng propesyonal na awtoridad at legal na responsibilidad.
• Nagtitiwala sa label ng AI. Ang isang "mababang panganib" na konklusyon ay hindi kailanman magpapawalang-bisa sa iyong obserbasyon sa kabaligtaran.
• Hindi pinapansin ang pagtatangi. Maaaring ipatungkol ng AI ang sistematikong mataas na panganib sa mga disadvantaged na grupo; ang pagpipigil sa sarili ay mahalaga.
• Pagpapaliban sa pangangailangan ng madaliang pagkilos. Kung may kaligtasan sa buhay, emergency procedure muna; Ang pakikitungo sa AI ay hindi makapaghintay.
• Pagbibigay ng pinakasensitibong data sa bukas na tool. Ang mga tala ng peligro ay pinoproseso lamang sa tool ng ligtas na institusyon.

Sa buod

Ang pagtatasa ng peligro ay ang pinakamabigat na responsibilidad ng gawaing panlipunan, at ang desisyon ay nakasalalay sa tao — ang propesyonal, ang pangkat, ang pangangasiwa, ang legal na awtoridad. Dito, ang AI ay isang tool lamang para sa pagpapaalala (listahan ng panganib/proteksiyon sa kadahilanan), pag-aayos (factual note) at pagbalangkas (skeleton ng plano sa kaligtasan); Hindi ito nakakapuntos, hindi gumagawa ng mga desisyon. Tandaan na ang AI ay may bias, hindi kailanman gamitin ang output nito bilang isang desisyon at iproseso ang pinakasensitibong data lamang sa secure na system.

Gawain ng aplikasyon

Pumili ng isang kathang-isip na uri ng kaso. Kumuha ng checklist na may template na “risk/protective factor reminder” at i-verify na ang AI ay hindi gumagawa ng anumang “risk level.” Pagkatapos ay kumuha ng blangko na balangkas ng plano na may template na "balangkas ng plano sa seguridad." Sinasadyang tinatanong ang AI "ano ang antas ng panganib?" at isulat sa isang pangungusap kung bakit HINDI mo dapat gamitin ang output bilang desisyon.

checklist

• [ ] Humingi lang ako sa AI ng factor reminder, hindi desisyon/iskor.
• [ ] Pinoproseso ko ang pinakasensitibong data lamang sa secure na tool ng enterprise.
• [ ] Pinlano kong punan ang mga nilalaman ng plano sa seguridad kasama ng kliyente.
• [ ] Sinuri ko ang output ng AI para sa bias.
• [ ] Kinumpirma ko na ang huling desisyon sa peligro ay nakasalalay sa koponan, pangangasiwa at angkop na proseso.