การสนับสนุนการประเมินความเสี่ยงและการวางแผนความปลอดภัย: ขอบเขตที่ละเอียดอ่อนที่สุด

กำไร:

• ความสามารถในการจัดเตรียมรายการตรวจสอบปัจจัยเสี่ยงและปัจจัยป้องกันและโครงกระดูกแผนความปลอดภัยด้วยปัญญาประดิษฐ์และทำงานโดยไม่ข้ามพื้นที่ใดๆ
• ทำความเข้าใจว่าระดับความเสี่ยง/คะแนน และการตัดสินใจด้านความปลอดภัยนั้นดำเนินการโดยผู้เชี่ยวชาญ ทีม การกำกับดูแล และกระบวนการทางกฎหมายเท่านั้น และปัญญาประดิษฐ์ไม่สามารถทำให้เกิดการตัดสินใจได้
• เห็นว่าปัญญาประดิษฐ์สามารถระบุถึงอคติอย่างเป็นระบบต่อกลุ่มผู้ด้อยโอกาส และใช้ระเบียบวินัยในการไม่นำผลลัพธ์ของตนไปใช้ในการตัดสินใจ และประมวลผลข้อมูลที่ละเอียดอ่อนที่สุดเฉพาะในระบบที่ปลอดภัยเท่านั้น

ความรับผิดชอบที่ร้ายแรงที่สุดของงานสังคมสงเคราะห์คือการประเมินความเสี่ยง ซึ่งเป็นการตัดสินที่เกี่ยวข้องโดยตรงกับความปลอดภัยในชีวิต เช่น เด็กถูกละเลยหรือถูกทารุณกรรม ไม่ว่าบุคคลมีแนวโน้มที่จะทำร้ายตัวเองหรือคนอื่น ไม่ว่าผู้สูงอายุจะปลอดภัยหรือไม่ หรือเหยื่อของความรุนแรงตกอยู่ในอันตรายเพียงใด กฎข้อแรกและชัดเจนที่สุดของหน่วยนี้คือ: การตัดสินใจเกี่ยวกับความเสี่ยงไม่ใช่ ไม่สามารถ และไม่ควรเป็นของ AI การตัดสินใจเกี่ยวกับความปลอดภัยของบุคคล โดยต้องอาศัยอำนาจทางวิชาชีพ การตัดสินทางคลินิก ความคิดเห็นของทีมสหสาขาวิชาชีพ การกำกับดูแล และความรับผิดชอบทางกฎหมาย AI เป็นเพียงเครื่องมือเตรียมความพร้อมและเตือนความจำ โดยจะเตือนคุณว่าปัจจัยเสี่ยงและปัจจัยป้องกันใดบ้างที่ควรทบทวน จัดระเบียบบันทึกย่อของคุณ สรุปแผนความปลอดภัย มันไม่ได้ให้คะแนน มันไม่ได้บอกว่า "ความเสี่ยงต่ำ/สูง" มันไม่ได้ทำการตัดสินใจ

ทำไมเราจึงเน้นเรื่องนี้อย่างรุนแรง? เพราะในเวทีความเสี่ยง ต้นทุนของความผิดพลาดของ AI นั้นไม่สามารถย้อนกลับได้ การให้คะแนนความเสี่ยงของ AI ในระดับ "ต่ำ" ทำให้เด็กไม่ได้รับการปกป้อง การทำความเสี่ยงดูเหมือน "สูง" โดยไม่จำเป็นอาจส่งผลให้ครอบครัวถูกแยกจากกันอย่างไม่ยุติธรรม นอกจากนี้ AI ยังมีอคติในข้อมูลการฝึกอบรม: อัลกอริธึมที่ระบุถึงความเสี่ยงที่สูงกว่าอย่างเป็นระบบต่อกลุ่มเศรษฐกิจสังคม ชาติพันธุ์ หรือละแวกใกล้เคียงบางกลุ่มได้รับการบันทึกไว้ทั่วโลก ดังนั้นแม้ว่าเอาท์พุตของ AI จะเป็นอินพุต แต่ก็ไม่สามารถแทนที่วิจารณญาณที่เป็นอิสระของคุณได้

บทบาทที่ถูกต้องของ AI: การแจ้งเตือนและการควบคุม

มีสามที่ที่คุณสามารถใช้ AI ได้อย่างปลอดภัยเมื่อตกอยู่ในความเสี่ยง:

1. ปัจจัยเตือนความจำ ปัจจัยเสี่ยง (เช่น ประวัติความรุนแรงในอดีต การใช้สารเสพติด การแยกตัวทางสังคม การเข้าเรียนครั้งก่อน) และปัจจัยป้องกัน (เช่น ผู้ใหญ่ที่ให้การสนับสนุน การเข้าเรียนในโรงเรียนเป็นประจำ เครือข่ายทางสังคมที่เข้มแข็ง) ที่ควรพิจารณาในการประเมินความเสี่ยงนั้นมีความยาว AI ช่วยให้คุณหลีกเลี่ยงการพลาดส่วนต่างๆ โดยการเรียกคืนรายการตรวจสอบที่เหมาะกับกรอบงานที่องค์กรของคุณใช้

2. การแก้ไขหมายเหตุ โดยจะแปลข้อสังเกตและคำแถลงของลูกค้าของคุณให้เป็นข้อความที่จัดระเบียบและเป็นข้อเท็จจริง เพื่อให้คุณสามารถใช้วิจารณญาณโดยใช้ข้อมูลที่ชัดเจน

3. ร่างแผนรักษาความปลอดภัย แผนการรักษาความปลอดภัย (แผนที่เป็นรูปธรรมที่กำหนดว่าเหยื่อจะทำอะไรในกรณีที่เกิดอันตราย เขาจะติดต่อกับใคร และจะไปที่ไหน) มีโครงสร้างที่แน่นอน AI สามารถสร้างโครงร่างเพื่อกรอกกับลูกค้าได้ แต่คุณและลูกค้ากรอกเนื้อหาของแผนตามความเป็นจริง

ข้อควรระวัง: อย่าถาม AI ว่า "ในกรณีนี้ระดับความเสี่ยงคือเท่าใด" หรือ “ลูกอยู่บ้านจะปลอดภัยไหม” อย่าถาม. อย่าใช้ผลลัพธ์ในการตัดสินใจ แม้ว่าคุณจะถามก็ตาม คำถามเหล่านี้ได้รับคำตอบโดยผู้เชี่ยวชาญ ทีมงาน และการกำกับดูแลที่ได้รับอนุญาตเท่านั้นผ่านเครื่องมือความเสี่ยงอย่างเป็นทางการของสถาบัน

ทีละขั้นตอน: วางตำแหน่ง AI อย่างถูกต้องในกระบวนการเสี่ยง

1. ปลอดภัยไว้ก่อน หากมีอันตรายร้ายแรงและเกิดขึ้นทันที (ความปลอดภัยในชีวิต) จำเป็นต้องดำเนินการตามขั้นตอนฉุกเฉินของสถาบัน ไม่ใช่จัดการกับ AI AI ไม่ควรชะลอความเร่งด่วนใดๆ
2. ระบุตัวตน การจัดอันดับความเสี่ยงเป็นข้อมูลที่ละเอียดอ่อนที่สุด ข้อมูลที่ระบุไคลเอนต์ไม่ได้ถูกป้อนลงในเครื่องมือเปิด แต่จะใช้เครื่องมือสถาบันที่ปลอดภัยเท่านั้น
3. เตือนฉันถึงรายการปัจจัย ขอรายการตรวจสอบความเสี่ยงและปัจจัยป้องกันที่เหมาะสมกับกรอบการทำงานของสถาบัน
4. ตัดสินใจของคุณเอง คุณชั่งน้ำหนักปัจจัย ประเมินร่วมกับทีมงาน และปรึกษากับหัวหน้างาน คุณไม่ต้องการให้ AI "ประเมิน"
5. จัดทำแผนความปลอดภัยกับลูกค้าให้เสร็จสิ้น โครงกระดูกแบบร่างอาจมาจาก AI; เนื้อหาเต็มไปด้วยเครือข่าย ทรัพยากร และการตั้งค่าที่แท้จริงของไคลเอนต์

มินิเคสสามอัน

Case 1 — Missed protective factor. ผู้เชี่ยวชาญมุ่งเน้นไปที่ปัจจัยเสี่ยงในคดีความรุนแรงในครอบครัว รายการตรวจสอบปัจจัยที่เขาถาม AI ทำให้เขาถามเกี่ยวกับเครือข่ายการสนับสนุนที่ปลอดภัยของลูกค้าที่ทำงานในส่วน "ปัจจัยป้องกัน" ซึ่งเป็นประเด็นที่ผู้เชี่ยวชาญพลาดไป เครือข่ายนี้กลายเป็นส่วนที่สมจริงที่สุดของแผนการรักษาความปลอดภัย การตัดสินใจขึ้นอยู่กับผู้เชี่ยวชาญอีกครั้ง AI เพียงเตือนคำถาม

กรณีที่ 2 — คะแนนที่ไม่ถูกต้องไม่ได้รับการเชื่อถือ หน่วยงานแห่งหนึ่งมองว่าเครื่องมือ AI รุ่นทดลองใช้ระบุว่าเป็น "ความเสี่ยงต่ำ" อย่างไรก็ตาม การสังเกตของผู้เชี่ยวชาญและคำกล่าวของลูกค้าชี้ให้เห็นถึงอันตรายร้ายแรง ทีมงานปฏิเสธฉลาก AI และเริ่มดำเนินการป้องกันตามการประเมินของตนเอง ภายหลังได้รับการยืนยันแล้วว่าอันตรายนั้นมีจริง บทเรียน: คะแนน AI ไม่ใช่การตัดสินใจ การตัดสินของมนุษย์มีความสำคัญเหนือกว่า

กรณีที่ 3 — จับอคติได้ ในการทดลองครั้งหนึ่ง มีการมอบกรณีเดียวกันให้กับ AI สองครั้ง ข้อแตกต่างเพียงอย่างเดียวคือย่านใกล้เคียงที่ลูกค้าอาศัยอยู่ AI ​​สร้าง "ภาษาที่มีความเสี่ยง" ที่สูงขึ้นอย่างเป็นระบบสำหรับพื้นที่ใกล้เคียงที่ทราบว่าด้อยโอกาส สิ่งนี้แสดงให้เห็นถึงอคติในข้อมูลการฝึกอบรมของ AI และเสริมนโยบายของหน่วยงานที่ไม่ใช้ AI ในการตัดสินใจเกี่ยวกับความเสี่ยง

เทมเพลตที่สามารถคัดลอกได้สี่แบบ

1) การแจ้งเตือนปัจจัยความเสี่ยง/ปัจจัยป้องกัน:

บทบาทของคุณ: ผู้ช่วยหัวหน้างานสังคมสงเคราะห์ เตรียมรายการตรวจสอบปัจจัยเสี่ยงและปัจจัยป้องกันที่แนะนำเพื่อทบทวนในการประเมินความเสี่ยงในกรณี [ความรุนแรงในครอบครัว] นำเสนอสิ่งนี้เป็นรายการการแจ้งเตือน ห้ามสร้างคะแนน การตัดสินใจ หรือ "ระดับความเสี่ยง" การประเมินและการตัดสินใจเป็นของผู้เชี่ยวชาญ

2) โครงร่างแผนรักษาความปลอดภัย:

บทบาทของคุณ: บรรณาธิการ เตรียมโครงร่างแผนความปลอดภัยที่ว่างเปล่าเพื่อกรอกเหยื่อของความรุนแรงในครอบครัว: สัญญาณเตือน สถานที่ปลอดภัย ผู้คนและสถาบันในการติดต่อ เอกสารสำคัญ แผนสำหรับเด็ก ความปลอดภัยทางดิจิทัล กรอกเนื้อหา; เว้นช่องว่างใต้แต่ละหัวข้อเพื่อให้ลูกค้ากรอก

3) การแก้ไขบันทึกความเสี่ยง (โดยไม่ต้องตัดสินใจ):

แปลบันทึกข้อสังเกตและถ้อยแถลงต่อไปนี้ให้เป็นข้อความที่ข้อเท็จจริงและจัดระเบียบ การสังเกตฉลากและคำชี้แจงของลูกค้าแยกกัน ระบุระดับความเสี่ยง การตัดสินใจ เพิ่มความคิดเห็น แก้ไขเฉพาะสิ่งที่อยู่ในบันทึกและทำเครื่องหมายบริเวณที่ขาดหายไป/คลุมเครือ หมายเหตุ: [วางบันทึกที่ไม่ระบุตัวตน]

4) อคติในการควบคุมตนเอง:

ในร่างบันทึกความเสี่ยงด้านล่างนี้ มีข้อความที่สื่อถึงอคติที่ไม่ได้รับการพิสูจน์อันเนื่องมาจากสถานะทางเศรษฐกิจและสังคม ชาติพันธุ์ ละแวกบ้าน หรือลักษณะที่คล้ายคลึงกันของลูกค้าหรือไม่ ทำเครื่องหมายแต่ละประโยคที่มีพื้นฐานมาจากทัศนคติแบบเหมารวมมากกว่าหลักฐาน อย่าเปลี่ยนข้อความเพียงแค่เตือน หมายเหตุ: [วางบันทึก]

พรอมต์อ่อน / พรอมต์แรง

พรอมต์ที่อ่อนแอ:

อ่านกรณีนี้และตัดสินใจว่าจะปลอดภัยสำหรับเด็กที่จะอยู่บ้านหรือไม่ และระดับความเสี่ยงคืออะไร

นี่เป็นการจ้างซอฟต์แวร์ในการตัดสินใจที่มีความสำคัญที่สุดเกี่ยวกับชีวิตมนุษย์ มันผิดจรรยาบรรณซึ่งตรงกันข้ามกับความรับผิดชอบทางวิชาชีพและนำความลำเอียงของ AI มาสู่ชะตากรรมของเด็กโดยตรง

พรอมต์อันทรงพลัง:

บทบาทของคุณ: ผู้ช่วยเตือนความจำ ก่อนที่จะอ่านหมายเหตุที่ไม่ระบุตัวตนด้านล่าง ให้เตรียมรายการตรวจสอบความเสี่ยงและปัจจัยป้องกันเพื่อทบทวนในการประเมินกรณี [การละเลยเด็ก] การตัดสินใจ คะแนน หรือระดับความเสี่ยง ฉันจะประเมินร่วมกับทีมของฉัน คุณแค่เตือนฉันว่าส่วนไหนที่ฉันไม่ควรข้าม

ความแตกต่าง: การพูดว่า “คำถามไหนที่ฉันไม่ควรลืม” แทนที่จะขอการตัดสินใจ ทำให้ AI อยู่ในขอบเขตที่ปลอดภัยและมีจริยธรรม

ขอบเขตบทบาทในด้านความเสี่ยง

ภารกิจ

เอไอทำได้หรือเปล่า?

ใครทำ?

การแจ้งเตือนรายการตรวจสอบปัจจัย

ใช่

AI (เตือนความจำ)

แก้ไขบันทึกตามความเป็นจริง

ใช่

AI + การอนุมัติจากผู้เชี่ยวชาญ

แผนรักษาความปลอดภัยโครงกระดูกว่างเปล่า

ใช่

เอไอ; ลูกค้าเนื้อหา+ผู้เชี่ยวชาญ

การกำหนดระดับความเสี่ยง/คะแนน

ไม่

ผู้เชี่ยวชาญ + ทีม + การกำกับดูแล

"ปลอดภัยมั้ย?" การตัดสินใจ

ไม่

ผู้เชี่ยวชาญที่มีความสามารถ กระบวนการทางกฎหมาย

การเริ่มมาตรการป้องกัน

ไม่

สถาบันหน่วยงานผู้มีอำนาจ

ข้อผิดพลาดทั่วไป

• การขอคะแนนความเสี่ยง/การตัดสินใจจาก AI ความผิดพลาดที่อันตรายที่สุด การตัดสินใจต้องใช้อำนาจทางวิชาชีพและความรับผิดชอบทางกฎหมาย
• ไว้วางใจป้ายเอไอ ข้อสรุปที่ "มีความเสี่ยงต่ำ" จะไม่ทำให้การสังเกตของคุณเป็นโมฆะ
• ละเลยอคติ AI อาจจัดคุณลักษณะที่มีความเสี่ยงสูงอย่างเป็นระบบให้กับกลุ่มผู้ด้อยโอกาส การควบคุมตนเองเป็นสิ่งสำคัญ
• ชะลอความเร่งด่วน. หากมีความปลอดภัยในชีวิตให้ดำเนินการฉุกเฉินก่อน การจัดการกับ AI ไม่สามารถรอได้
• การให้ข้อมูลที่ละเอียดอ่อนที่สุดแก่เครื่องมือแบบเปิด บันทึกความเสี่ยงจะได้รับการประมวลผลในเครื่องมือของสถาบันที่ปลอดภัยเท่านั้น

โดยสรุป

การประเมินความเสี่ยงเป็นความรับผิดชอบที่ร้ายแรงที่สุดของงานสังคมสงเคราะห์ และการตัดสินใจขึ้นอยู่กับบุคคลอย่างเต็มที่ ไม่ว่าจะเป็นมืออาชีพ ทีมงาน การกำกับดูแล หน่วยงานทางกฎหมาย ในที่นี้ AI เป็นเพียงเครื่องมือในการเตือน (รายการปัจจัยเสี่ยง/ปัจจัยป้องกัน) การจัดระเบียบ (บันทึกข้อเท็จจริง) และการร่าง (โครงกระดูกแผนความปลอดภัย) มันไม่ได้คะแนน มันไม่ตัดสินใจ โปรดจำไว้ว่า AI มีอคติ อย่าใช้ผลลัพธ์ในการตัดสินใจ และประมวลผลข้อมูลที่ละเอียดอ่อนที่สุดเฉพาะในระบบที่ปลอดภัยเท่านั้น

งานสมัคร

เลือกประเภทเคสตัวละคร รับรายการตรวจสอบพร้อมเทมเพลต “การแจ้งเตือนปัจจัยเสี่ยง/ปัจจัยป้องกัน” และตรวจสอบว่า AI ไม่สร้าง “ระดับความเสี่ยง” ใดๆ จากนั้นหยิบโครงกระดูกแผนเปล่าที่มีเทมเพลต "โครงร่างแผนความปลอดภัย" ถาม AI อย่างมีสติว่า “ระดับความเสี่ยงอยู่ที่เท่าไร” และเขียนเป็นประโยคเดียวว่าทำไมคุณไม่ควรใช้ผลลัพธ์ในการตัดสินใจ

รายการตรวจสอบ

• [ ] ฉันขอให้ AI แจ้งเตือนปัจจัยเท่านั้น ไม่ใช่การตัดสินใจ/คะแนน
• [ ] ฉันประมวลผลข้อมูลที่ละเอียดอ่อนที่สุดในเครื่องมือระดับองค์กรที่ปลอดภัยเท่านั้น
• [ ] ฉันวางแผนที่จะกรอกเนื้อหาของแผนการรักษาความปลอดภัยร่วมกับลูกค้า
• [ ] ฉันตรวจสอบเอาท์พุต AI เพื่อหาอคติ
• [ ] ฉันยืนยันว่าการตัดสินใจเกี่ยวกับความเสี่ยงขั้นสุดท้ายขึ้นอยู่กับทีม การกำกับดูแล และกระบวนการครบกำหนด