תמיכה בהערכת סיכונים ותכנון אבטחה: הגבול הרגיש ביותר

רווחים:

• יכולת להכין את רשימת הסיכון וגורמי ההגנה ושלד תוכנית האבטחה עם בינה מלאכותית ועבודה מבלי לדלג על אף אזור
• הבינו שהחלטות רמת/ציון וביטחון מתקבלות רק על ידי מומחים, צוותים, פיקוח ותהליכים משפטיים, ושבינה מלאכותית לא יכולה לייצר החלטות.
• לראות שבינה מלאכותית יכולה לייחס הטיה שיטתית לקבוצות מוחלשות וליישם את הדיסציפלינה של אף פעם לא להשתמש בפלט שלה כהחלטה ולעבד את הנתונים הרגישים ביותר רק במערכת מאובטחת

האחריות החמורה ביותר של העבודה הסוציאלית היא הערכת סיכונים - פסקי דין הנוגעים ישירות לבטיחות החיים, כגון האם ילד מוזנח או מתעלל, האם אדם עלול לפגוע בעצמו או במישהו אחר, האם קשיש בטוח או עד כמה נמצא קורבן לאלימות בסכנה. הכלל הראשון והנועז ביותר של יחידה זו הוא זה: קבלת החלטות בסיכון אינה, אינה יכולה ואינה צריכה להשתייך לבינה מלאכותית. החלטה לגבי שלומו של אדם; היא דורשת סמכות מקצועית, שיקול דעת קליני, חוות דעת של צוות רב תחומי, פיקוח ואחריות משפטית. AI הוא רק כלי הכנה ותזכורת כאן: הוא מזכיר לך אילו גורמי סיכון והגנה עליך לבדוק, מארגן את ההערות שלך, מתווה תוכנית בטיחות. זה לא נותן ציון, זה לא אומר "הסיכון נמוך/גבוה", זה לא מקבל החלטה.

למה אנחנו מדגישים את זה בצורה כל כך קשה? כי בזירת הסיכון, העלות של טעות בינה מלאכותית היא בלתי הפיכה. דירוג הסיכון של בינה מלאכותית כ"נמוך" מותיר ילד בלתי מוגן; גרימת סיכון להיראות "גבוה" שלא לצורך עלולה להוביל להפרדה בלתי הוגנת של משפחה. בנוסף, AI נושא הטיות בנתוני אימון: אלגוריתמים המייחסים באופן שיטתי סיכון גבוה יותר לקבוצות סוציו-אקונומיות מסוימות, עדות אתניות או שכונות תועדו ברחבי העולם. אז גם אם הפלט של ה-AI הוא קלט, הוא לעולם לא יכול לעקוף את השיפוט העצמאי שלך.

התפקיד הלגיטימי של AI: תזכורת ורגולציה

ישנם שלושה מקומות שבהם אתה יכול להשתמש בבטחה בבינה מלאכותית בסיכון:

1. תזכורת פקטור. גורמי הסיכון (למשל, היסטוריה של אלימות בעבר, שימוש בסמים, בידוד חברתי, קבלה קודמת) וגורמי ההגנה (כגון מבוגר תומך, נוכחות קבועה בבית הספר, רשת חברתית חזקה) שיש לקחת בחשבון בהערכת סיכונים הם ארוכים; בינה מלאכותית עוזרת לך להימנע מפספוס של אזורים כלשהם על ידי אזכור רשימת בדיקה שמתאימה למסגרת שבה הארגון שלך משתמש.

2. עריכת הערות. הוא מתרגם את התצפית והצהרות הלקוח לטקסט מאורגן ועובדתי - כך שתוכל לבסס את השיפוט שלך על נתונים ברורים.

3. טיוטת תוכנית אבטחה. לתכנית אבטחה (תכנית קונקרטית הקובעת מה יעשה הנפגע במקרה של סכנה, למי יפנה, לאן יגיע) יש מבנה מסוים. ה-AI יכול לייצר שלד טיוטה למילוי עם הלקוח; אבל אתה והלקוח ממלאים את תוכן התוכנית בהתאם למציאות.

זהירות: לעולם אל תשאל את ה-AI "מהי רמת הסיכון במקרה זה?" או "האם הילד בטוח בבית?" אל תשאל. אל תשתמש בפלט כהחלטה, גם אם תבקש. שאלות אלו נענות רק על ידי המומחה, הצוות והפיקוח המוסמך באמצעות כלי הסיכון הרשמי של המוסד.

שלב אחר שלב: מיקום נכון של AI בתהליך הסיכון

1. בטיחות קודם כל. במידה וקיימת סכנה מיידית וחמורה (בטיחות חיים), יש צורך להפעיל את נוהל החירום של המוסד, לא לטפל בבינה מלאכותית. AI לא אמור לעכב כל דחיפות.
2. בטל זיהוי. דירוגי סיכון הם הנתונים הרגישים ביותר; מידע המזהה את הלקוח אינו מוכנס לכלי הפתוח, אלא נעשה שימוש בכלי המוסד המאובטח.
3. תזכיר לי את רשימת הגורמים. בקש רשימת סיכון וגורמי הגנה המתאים למסגרת המוסדית.
4. תעשה שיקול דעת משלך. אתה שוקל את הגורמים, מעריך עם הצוות ומתייעץ עם הממונה. אתה לא רוצה שה-AI "יערך".
5. השלם את תוכנית הבטיחות עם הלקוח. שלד הטיוטה עשוי להגיע מה-AI; התוכן מאוכלס ברשת, במשאבים ובהעדפות בפועל של הלקוח.

שלושה מיני תיקים

מקרה 1 - החמצת גורם הגנה. מומחה התמקד בגורמי סיכון בתיק אלימות במשפחה. רשימת הגורמים שביקש מבינה מלאכותית גרמה לו לשאול על רשת התמיכה המאובטחת של הלקוח בעבודה בסעיף "גורמי הגנה" - אזור שהמומחה החמיץ. רשת זו הפכה לחלק הריאלי ביותר בתוכנית האבטחה. ההחלטה שוב הייתה בידי המומחה; AI רק הזכיר את השאלה.

מקרה 2 - ציון שגוי לא היה אמון. סוכנות אחת ראתה בכלי AI ניסוי תייג מקרה כ"סיכון נמוך". אולם, התבוננותו של המומחה והצהרת הלקוח הצביעו על סכנה חמורה. הצוות דחה את תווית הבינה המלאכותית ויזם פעולת הגנה על סמך הערכה שלו. מאוחר יותר אושר כי הסכנה ממשית. שיעור: ציון AI אינו החלטה; השיפוט האנושי הוא עדיפות.

מקרה 3 - הטיה נתפסה. במשפט אחד, אותו מקרה ניתן ל-AI פעמיים; ההבדל היחיד היה השכונה שבה התגורר הלקוח. ה-AI ייצר באופן שיטתי "שפת סיכון" גבוהה יותר עבור השכונה הידועה כמקופחת. זה הוכיח הטיה בנתוני ההדרכה של ה-AI וחיזק את מדיניות הסוכנות שלא להשתמש בבינה מלאכותית בקבלת החלטות בסיכון.

ארבע תבניות הניתנות להעתקה

1) תזכורת לגורם סיכון/הגנה:

תפקידך: עוזרת למפקחת על עבודה סוציאלית. הכן רשימה של גורמי סיכון וגורמי הגנה שמומלץ לבחון בהערכת סיכונים במקרים [אלימות במשפחה]. הצג זאת כרשימה של תזכורות; אל תפיק שום ציונים, החלטות או "רמות סיכון". הערכה והחלטה שייכים למומחה.

2) שלד טיוטת תוכנית אבטחה:

תפקידך: עורך. הכן מתווה BLANK של תוכנית בטיחות למילוי עם נפגע אלימות במשפחה: שלטי אזהרה, מקומות בטוחים, אנשים ומוסדות לפנות אליהם, מסמכים חשובים, תוכנית לילדים, בטיחות דיגיטלית. מילוי התוכן; השאר רווחים ריקים מתחת לכל כותרת למילוי עם הלקוח.

3) עריכת הערת סיכון (ללא קבלת החלטה):

תרגם את הערות התצפית וההצהרות הבאות לטקסט עובדתי ומאורגן. תווית תצפית והצהרת לקוח בנפרד. ציון רמת הסיכון, קבלת החלטה, הוספת הערה. ערוך רק את מה שיש בהערה וסמן אזורים חסרים/לא ברורים. הערה: [הדבק הערה לא מזוהה]

4) הטיית שליטה עצמית:

האם בטיוטת הערת הסיכון שלהלן, יש אמירה שמשדרת הטיה לא מוכחת בגלל מצבו הסוציו-אקונומי של הלקוח, מוצאו, שכונה או מאפיין דומה של הלקוח? סמן כל משפט שמבוסס על סטריאוטיפים ולא על ראיות. אל תשנה את הטקסט, רק תזהיר. הערה: [הדבק הערה]

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

קרא את המקרה הזה והחליט אם זה בטוח לילד להישאר בבית ומה רמת הסיכון.

זהו מיקור חוץ של ההחלטה הכבדה ביותר לגבי חיי אדם לתוכנה. זה לא אתי, בניגוד לאחריות המקצועית, ונושא את ההטיה של ה-AI ישירות לגורלו של הילד.

הנחיה עוצמתית:

תפקידך: עוזר תזכורת. לפני שקוראים את ההערה הבלתי מזוהה למטה, הכינו רשימת בדיקה של גורמי סיכון והגנה שיש לעיין בהערכת מקרים של [הזנחת ילדים]. הפקת החלטה, ציון או רמת סיכון. אני אבצע את ההערכה עם הצוות שלי; אתה רק מזכיר לי על אילו תחומים אני לא צריך לדלג.

ההבדל: אמירת "אילו שאלות אסור לי לשכוח" במקום לבקש החלטות שומר על הבינה המלאכותית על הגבול הבטוח והמוסרי.

גבולות תפקידים בתחום הסיכון

קווסט

האם AI יכול לעשות את זה?

מי עושה?

תזכורת רשימת גורמים

כן

AI (תזכורת)

עריכת הערות עובדתית

כן

AI + אישור מומחה

תוכנית אבטחה שלד ריק

כן

AI; לקוח תוכן+מומחה

קביעת רמת סיכון/ציון

לא

מומחה + צוות + פיקוח

"זה בטוח?" החלטה

לא

מומחה מוסמך, הליך משפטי

ייזום אמצעי הגנה

לא

מוסד, רשות מוסמכת

טעויות נפוצות

• מבקש AI עבור ציון/החלטה על סיכון. הטעות המסוכנת ביותר; ההחלטה מחייבת סמכות מקצועית ואחריות משפטית.
• סומך על תווית AI. מסקנה של "סיכון נמוך" לעולם לא תבטל את התצפית שלך הפוכה.
• התעלמות מדעות קדומות. AI עשוי לייחס סיכון גבוה שיטתי לקבוצות מוחלשות; שליטה עצמית היא חיונית.
• עיכוב דחיפות. אם יש בטיחות חיים, הליך חירום ראשון; התמודדות עם AI לא יכולה לחכות.
• מתן הנתונים הרגישים ביותר לכלי הפתוח. הערות סיכון מעובדות רק בכלי המוסד המאובטח.

לסיכום

הערכת סיכונים היא האחריות החמורה ביותר של העבודה הסוציאלית, וההחלטה מוטלת על האדם - איש המקצוע, הצוות, הפיקוח, הסמכות המשפטית. כאן, AI הוא רק כלי לתזכורת (רשימת גורמי סיכון/הגנה), ארגון (הערה עובדתית) וניסוח (שלד תוכנית בטיחות); זה לא מבקיע, זה לא מקבל החלטות. זכור שבינה מלאכותית נושאת הטיה, לעולם אל תשתמש בפלט שלה כהחלטה ועבד את הנתונים הרגישים ביותר רק במערכת המאובטחת.

משימת יישום

בחר סוג מקרה בדיוני. קבל רשימת בדיקה עם תבנית "תזכורת סיכון/גורם מגן" וודא שה-AI אינו מייצר "רמות סיכון". לאחר מכן תפסו שלד תוכנית ריק עם תבנית "שלד מתאר תוכנית אבטחה". שואל במודע את ה-AI "מהי רמת הסיכון?" וכתוב במשפט אחד מדוע אסור להשתמש בפלט כהחלטה.

רשימת בדיקה

• [ ] ביקשתי מה-AI רק תזכורת לגורם, לא החלטה/ניקוד.
• [ ] עיבדתי את הנתונים הרגישים ביותר רק בכלי הארגוני המאובטח.
• [ ] תכננתי למלא את תוכן תכנית האבטחה יחד עם הלקוח.
• [ ] בדקתי את פלט AI עבור הטיה.
• [ ] אישרתי שהחלטת הסיכון הסופית נתונה בידי הצוות, הפיקוח וההליך התקין.