מבוא לבינה מלאכותית בעבודה סוציאלית: תפקידים, גבולות, אימות, פרטיות ואתיקה

רווחים:

• היכולת להבחין היכן בינה מלאכותית חוסכת זמן בזרימת העבודה של העבודה הסוציאלית (סיכום, עריכה, פישוט, טיוטה) והיכן החלטות קליניות, סיכון וייצוג נותרות לאדם, בהתאם לרמת הסיכון.
• יכולת ליישם דיסציפלינה המאמתת כל פלט באמצעות שלבי קישורו לראיות אמיתיות, אישור מידע חיצוני עם מקורות רשמיים עדכניים וסינונו באמצעות הטיה.
• כדי להבין מדוע פרטיות הלקוח, יש לקחת בחשבון את ההבחנה בין עולם נתוני אנונימי ללקוח, ואחריות KVKK מההתחלה בעבודה סוציאלית.

אתה נמצא בבוקר של מרכז שירות סוציאלי. שלוש פניות חדשות הגיעו אתמול: אישה שנפלה קורבן לאלימות ושני ילדיה, קשיש הזקוק לטיפול ובני נוער בסכנת נשירה מבית הספר. על שולחנך יושבים ארבעה דוחות חקירה חברתית, חוות דעת מבוקשת בבית המשפט, רישומי תיקים שיש למלא, והכנות לביקור בית אצל משפחה אחר הצהריים. עבודה סוציאלית (המקצוע והדיסציפלינה המבוצעים לשיפור הפונקציונליות החברתית של יחידים, משפחות וקהילות, להבטחת נגישותם לזכויות ולרווחה ולהגנת קבוצות חלשות) היא תחום מטבעו עתיר מסמכים, לחוץ זמן, נוגע בחיי אדם ובעל אחריות גבוהה. בינה מלאכותית (AI - תוכנה שיכולה לחלץ דפוסים מנתונים היסטוריים ולייצר או לסווג טקסט, סיכומים, תרגומים וטיוטות) נותנת לך לנוח בעומס המסמכים ובלחץ הזמן הזה. אבל ההתחלה של המודול הזה ברורה: AI הוא עוזר, מסכם ומחולל קווי מתאר; אתה המומחה המוסמך שמקבל את ההערכה, הסיכון וההחלטה הסופית לגבי הלקוח.

ביחידה ראשונה זו נתמקד במשמעת, לא בכלי. תלמד היכן AI הוא חוסך בזמן אמת בזרימת העבודה הסוציאלית, היכן זה מסוכן, כיצד לאמת כל פלט, כיצד להגן על פרטיות הלקוח ונתונים אישיים, וכיצד לשמור על ערנות להטיה. מבלי להניח את הבסיס הזה, היחידות הבאות נשארות באוויר - כי בעבודה סוציאלית, פלט לא מאומת הוא לא רק משפט שקר; זוהי טעות שעלולה להוביל להערכה שגויה של ילד, לסיכון להתעלמות, לסטיגמה לא הוגנת למשפחה או לדליפה של מידע רגיש.

היכן שימושי AI בזרימת העבודה של העבודה הסוציאלית?

בואו נחלק משרות בעבודה סוציאלית לשני אשכולות גדולים. האשכול הראשון: משימות עתירות מסמכים, חוזרות על עצמן, ניתנות לחילוץ דפוסים ומבוססות שפה. תרגום הערות פזורות לאחר ראיון לתיעוד מאורגן של מקרה, סיכום כרונולוגי של תיק ארוך, שלד ראשון של דו"ח חקירה חברתית, פישוט רשימת סיוע/שירות בהתאם לשפת הלקוח, טיוטת מכתב הפניה, תרגום טקסט מידע פשוט ללקוח רב לשוני, מסגרת ראשונה של ניתוח צרכי תכנית. בעבודות אלו, AI מפחית שעות לדקות ואינו מתעייף.

אשכול שני: משימות הדורשות שיפוט, הערכה קלינית, שיפוט סיכונים ואחריות. האם הילד בטוח בבית, רמת הסיכון של הפרט לפגיעה עצמית, האם משפחה זקוקה לאמצעי הגנה, חוות הדעת שבה יוגש דוח לבית המשפט, האם השירות באמת מתאים ללקוח. החלטות אלו דורשות יכולת מקצועית, שיפוט קליני, ידע בהקשר, אחריות אתית ולעתים קרובות חוות דעת רב-תחומית של צוות. כאן, AI מכפיל את האפשרויות, מייצר טיוטות, מזכיר לך מה התעלמו - אבל ההערכה והחתימה הסופית היא שלך.

בואו נבהיר את ההבחנה במשפט אחד: AI חזק בשאלות "מה יש בקובץ הזה ואיך נראית הטיוטה הראשונה"; ההחלטה היא שלך בכל הנוגע לשאלות כמו "מה המצב האמיתי של האדם הזה והאם אני יכול להגן על זה בשם המקצוע שלי?"

טיפ: לפני מיקור חוץ של עבודה לבינה מלאכותית, שאל: "מי נפגע אם הפלט הזה שגוי?" אם התשובה היא "כמה דקות של עיבוד מחדש", האציל בנוחות. אם התשובה היא "הערכה שגויה של לקוח, התחמקות מסיכון או מידע שדלף", תן ל-AI לייצר את הטיוטה ואתה תקבל את ההחלטה והאימות.

פרטיות: עקרון בלתי ניתן להפרה

לבה של העבודה הסוציאלית הוא אמון, ואמון מבוסס על סודיות. לקוח מספר לך את המידע הפרטי והשביר ביותר שלו - אלימות, עוני, מצב בריאותי, סודות משפחתיים - בהסתמך על סודיות מקצועית. כאשר מידע זה נופל לידיים הלא נכונות, הוא מאיים על חייו, ביטחונו וכבודו של אדם. הכלל הבסיסי כאן: שום נתונים אישיים המזהים את הלקוח (שם, כתובת, מזהה TR, בריאות, מידע משפחה וכו') לא יוכנסו לכלי AI ציבורי שהמוסד שלך לא אישר. הטקסט שאתה מקליד בשירות AI ציבורי מעובד בשרתי השירות הזה; אתה לא יכול לשלוט מי יראה אותו, היכן הוא מאוחסן, והאם הוא משמש באימון המודל. בטורקיה זו גם אחריות משפטית לפי KVKK (חוק הגנת מידע אישי - החוק המסדיר את עיבוד הנתונים האישיים).

לכן, השימוש ב-AI בעבודה סוציאלית פועל בשני עולמות נפרדים: ניתן להשתמש בכלים כלליים לעולם הדה-מזוהה/גנרי (דוגמאות אנונימיות או בדיוניות שאינן מזהות את הלקוח, שאלות ידע כללי); עבור עולם נתוני הלקוחות, נעשה שימוש רק במערכות פנימיות, מאובטחות ומאושרות שאינן מדליפות נתונים. בלבול בין השניים הוא הטעות המסוכנת ביותר של המודול הזה.

זהירות: "ה-AI אמר זאת" אינה הצדקה ואין לה תוקף בתיק. אם יש שיפוט שגוי, מידע מפוברק או נתונים שדלפו, האחריות היא לא של ה-AI, אלא של המומחה שמשתמש בפלט הזה מבלי לאמת אותו או להזין את הנתונים האלה לתוך הכלי.

משמעת אימות: שלושה שלבים

AI מייצר בצורה זורמת ובטוחה; זה לא אומר שזה נכון. בינה מלאכותית מייצרת מדי פעם הזיות - כלומר, היא מציגה כדבר חקיקה אמיתי שלא קיים, שירות שלא קיים, סטטיסטיקה מורכבת או אמירה שהלקוח מעולם לא אמר. בדו"ח חקירה חברתית או מזכר סיכונים, זה הרסני. החל רפלקס בן שלושה שלבים על כל פלט:

1. קישור למקור/ראיות. כל הצהרה שה-AI עושה על הלקוח חייבת להיות מבוססת על ההערה או השיחה האמיתית שנתת. "באיזו שיחה, מפיו של מי, באיזו התבוננות ניתן המידע הזה?" לִשְׁאוֹל. AI לא צריך להוסיף שום דבר שהלקוח לא אמר.
2. אשר עם מקור בלתי תלוי. אמת מידע חיצוני כגון חוק, זכויות, שירות, כתובת לשילוח וכו' מהמקור הרשמי הנוכחי. דרישת אפליקציה או מספר טלפון שסופקו על ידי AI עשויים להיות מיושנים או מזויפים.
3. העבירו אותו דרך מסנן הפרשנות וההטיה. האם הפלט מוטה לקבוצה? האם יש שפה שמהווה סטיגמה ומאשימה את הלקוח? האם זה מתעלם מנקודות החוזק? שיקול הדעת המקצועי שלך הוא המסנן הסופי.

שלושה מיני תיקים

מקרה 1 - תיעוד חסך זמן. עובדת סוציאלית ערכה 14 ראיונות בשבוע אחד ושמרה הערות רופפות לכל אחד. עריכה בסיוע בינה מלאכותית הפחיתה את הזמן הכולל בתרגום הערות אלה לרשומות מקרים מובנות מכ-4 שעות לשעה אחת. אבל כל הקלטה נקראה על ידי המומחה ואומתה על ידי השוואה לראיון בפועל; שני משפטים שה-AI "פירש" נמחקו.

מקרה 2 - אימות תפס הזיה. מומחה שאל את הבינה המלאכותית שאלת זכויות; מ-YZ נמסר: "יש דרישת מגורים מינימלית של 24 חודשים לסיוע זה". כאשר בחן המומחה את החקיקה הרשמית, לא הייתה דרישה כזו; AI ערבב שני עזרים דומים והרכיב מצב שלא היה קיים. שלב הייחוס מנע מהלקוח סירוב לא הוגן.

מקרה 3 - חזרה מהפרת פרטיות. כדי להיות מהיר, איש מקצוע חדש רצה להדביק את כל המידע של תיק הגנת ילדים (כולל שם הילד, כתובתו, בית הספר) בכלי AI ציבורי ולהדפיס דוח. המומחה הבכיר הבין: מדובר בנתונים אישיים רגישים במסגרת KVKK והיה בחוץ. האירוע טופל כהפרת נתונים; העבודה בוצעה מחדש עם אישורים שהוסרו ושיטה מאובטחת פנימית בלבד.

ארבע תבניות הניתנות להעתקה

1) הערכת התאמה לעבודה:

תפקידך: עובד סוציאלי בכיר ומפקח. אתאר את המשרה להלן. אמור לי (1) האם זו עבודת סיכום/עריכה/מתווה שניתן להאציל ל-AI, או כזו שדורשת שיקול דעת קליני ושיפוט סיכונים, (2) העלות ללקוח של פלט שגוי, (3) האימות שעלי לעשות לפני ואחרי האצלה. עבודה: [הכנס עבודה כאן]

2) חובה להסתמך על ראיות:

אני אתן לך את ההערות של הפגישה. בעת עריכת ההקלטה, השתמש רק במידע המופיע בהערה. אל תוסיף שום דבר שהלקוח לא אמר, אל תאבחנה, אל תגיב. סמן את התצפית ואת הבעת הלקוח בנפרד. סמן אזורים חסרים או לא ברורים כ"צריך הבהרה".

3) בדיקת פרטיות מראש:

הערך את הטקסט הבא לפני העיבוד: האם טקסט זה יכול להכיל נתונים אישיים המזהים את הלקוח (שם, כתובת, מזהה TR, בריאות, מידע משפחתי)? אם כן, באילו סעיפים? ככזה, אם לא צריך לעבד אותו בכלי ציבורי, הזהיר אותי ורשום את השדות שעליי לבטל זיהוי. טקסט: [כתוב כאן טקסט]

4) בדיקת הטיה/שפה:

קחו בחשבון את תיעוד המקרה הבא: האם יש שפה שמגדירה, מאשימה או גורמת לדעות קדומות של הלקוח כלפי קבוצה? האם הוא מתעלם מעוצמות ומשאבים? הצע שפה מכבדת יותר, ממוקדת עובדות ומכירה בחוזקות. אל תשנה את הרשומה, רק סמן את בעיות השפה.

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

כתוב דוח על המשפחה הזו והחליט אם הילד בטוח בבית.

הנחיה זו היא חסרת הקשר ומסוכנת: לא ברור איזה מידע, איזו תצפית וה-AI מתבקש לקבל החלטה לגבי בטיחות הילד. AI מנבא, יכול להטות, יכול לפצות - וזה כרוך בחיי אדם.

הנחיה עוצמתית:

תפקידך: עוזר עורך לעובדת סוציאלית. מקור: רשימות ראיון ותצפית עם מידע מזהה שהוסר, אותם אדביק להלן. משימה: ליצור טיוטת שלד של דו"ח חקירה חברתית המבוססת רק על המידע הכלול בפועל בהערות אלה; תצפית תווית, הצהרת לקוח ומידע חסר בנפרד. קבלת החלטת סיכון או בטיחות; אני אעשה את ההערכה. סמן את האזור שאינך בטוח בו כ"צריך בירור".

ההבדל ברור: ביטול זיהוי, האילוץ "העובר האמיתי", התיוג והאילוץ של "ההחלטה" הופכים את הפלט לבטוח ושימושי.

טבלת השוואת תפקידים/מטלות

עסקים

תפקיד של AI

תפקידו של האדם

אימות

ערוך רישום מקרה

הגדר את ההערה

אישור, דיוק

השוואה עם הערה

תקציר הקובץ

מתאר כרונולוגי

חשיבות, הערה

קישור למקור

מידע על זכויות/שירות

טיוטה ראשונה

אישור נוכחי

חקיקה רשמית

הערכת סיכונים

תזכורת שאלה/מסגרת

שיפוט קליני, החלטה

צוות + פיקוח

דווח

סקיצה של שלד

תוכן, דעה, חתימה

התאמת עדות-הצהרה

עיצוב תוכנית

יצירת רעיון/מסגרת

זכאות, החלטה

שדה + אישור נתונים

טעויות נפוצות

• טעות בפלט AI לצורך הערכה. הפלט הוא תמיד טיוטה שיש לאמת; זה לא נכנס לתיק בלי להיות מקושר לראיות.
• הדבקת נתוני לקוח בכלי הפתוח. אם הוא דלף, לא ניתן לבטלו והוא מהווה הפרה של KVKK; זו הטעות המסוכנת ביותר.
• מבקש מה-AI לקבל החלטת סיכון/בטיחות. החלטות אלו דורשות סמכות ואחריות מקצועית; AI לא יכול לקבל החלטות.
• בקשה שאינה מצריכה ראיות. אם אתה לא אומר, "פשוט השתמש במה שיש בפתק", ה-AI עשוי להוסיף את מה שהלקוח לא אמר.
• לא שם לב לשפה סטיגמטית. השפה של AI עשויה לשאת הטיה; שפה שמכבדת ומתחשבת בחוזקות נמצאת בשליטתך.

לסיכום

AI הוא עוזר רב עוצמה בעבודה סוציאלית: מארגן את הפתק המבולגן, מסכם את הקובץ, מייצר טיוטות, מפשט, מתרגם. אבל שיפוט קליני, הערכת סיכונים, ייצוג והחלטה סופית שייכים לאדם. יש להפריד בין שתי קבוצות (עבודה עתירת מסמכים לעומת החלטות שיפוט/סיכון), אימות תלת-שלבי (קישור לראיות, אישור עצמאי, מסנן הטיה), מודעות לפרטיות (אנונימי לעומת עולם נתוני לקוח) וערנות להטיה כעמוד השדרה של מודול זה.

משימת יישום

רשום 6 משימות מהשולחן שלך (או דמיוני). סווגו כל אחד כ"סיכום/עריכה/טיוטה שניתן להאצלה על ידי AI" או "שיפוט קליני/החלטת סיכון". עבור אחד הניתנים להעברה (עם דוגמה בדיונית שאינה מזהה את הלקוח), השתמש בתבנית "הערכת התאמה לעבודה" למעלה וקבל תשובה מה-AI; לאחר מכן החל אימות תלת-שלבי ונסה גם את בדיקת הפרטיות המוקדמת.

רשימת בדיקה

• [ ] חילקתי את העבודה לשני אשכולות (עתיר מסמכים / שיפוט בסיכון).
• [ ] יישמתי אימות תלת-שלבי (ראיות, אישור עצמאי, הטיה).
• [ ] הקפדתי שלא לספק לכלי הפתוח נתונים אישיים המזהים את הלקוח.
• [ ] קישרתי כל הצהרה שה-AI עשה לגבי הלקוח להערה בפועל.
• [ ] בדקתי אם יש שפה סטיגמטית/מוטה בפלט.