זרימת עבודה מקצה לקצה, ממשל ושימוש אחראי — בינה מלאכותית בעבודה סוציאלית

רווחים:

יכולת להטמיע בעקביות בינה מלאכותית בכל שלב מיישום ועד סגירה עם שישה שערי אימות אנושיים
יכולת להקים מסגרת ממשל תאגידי עם רשימת כלים מאושרת, מדיניות נתונים, תפקידים, רישום, הדרכה ובדיקה שוטפת
יכולת להטמיע את העקרונות של אחריות אנושית, אימות, פרטיות/KVKK, דבקות בראיות, בקרת הטיה וריכוז לקוח לתוך זרימת העבודה

לאורך מודול זה, כיסינו כיצד להשתמש בבינה מלאכותית והיכן לעצור אותה במשימות שונות של עבודה סוציאלית - תיעוד, הערכה, תמיכת סיכונים, הפניה, תוכנית, דיווח, תקשורת, עיצוב תוכנית. ביחידה הסופית הזו, מרכיבים את החלקים: היכן AI תשב מקצה לקצה מהיישום ועד סגירת התיק, איזו דלת אימות אנושית עוצרת בכל שלב, ונקים את מסגרת הממשל הדרושה כדי שזה יהיה בר קיימא בארגון. המטרה היא להפוך טיפים מפוזרים לדיסציפלינת עבודה עקבית וניתנת לחזרה.

עקרון אינטגרטיבי מההתחלה: בינה מלאכותית היא מאיץ בכל שלב של זרימת העבודה, לא מקבל החלטות בכל שלב. בכל שלב יש דלת אנושית, ואי אפשר לעבור לשלב הבא בלי לעבור דרך דלת אחת. מבנה שכבות זה מונע מהזיה, הטיה או שגיאת פרטיות אחת לחלחל להחלטה שמשפיעה על חייו של הלקוח.

זרימה מקצה לקצה ושישה שערים אנושיים

בואו נבחן מקרה דרך השלבים האופייניים שלו ונציב שער אימות בכל שלב:

1. יישום / קשר ראשון — דלת: פרטיות. כאשר המידע הראשון מגיע, AI משמש להכנה לראיון (מדריך, מסגרת שאלות). דלת: אין נתוני לקוח ממשיים נכנסים לכלי הפתוח; בקשו מחלקה, התאימו רכב.

2. הערכה - שער: שיפוט קליני. AI מארגן הערות לממדים ביו-פסיכו-סוציאליים ומזכיר חסרונות וחוזקות. דלת: האבחון וההערכה שייכים למומחה; AI לא מעריך.

3. סיכון - דלת: סמכות וצוות. בינה מלאכותית מזכירה גורמי סיכון/הגנה ויוצרת שלד של תוכנית אבטחה. דלת: החלטת הסיכון מתקבלת רק על ידי מומחה, צוות, פיקוח והליך משפטי; AI לא מייצר ציונים/החלטות.

4. תכנון והכוונה - דלת: אימות ולקוח. בינה מלאכותית מכניסה את המטרות ל-SMART, מייצרת רעיונות למשאבים וטיוטות מכתבים. דלת: הלקוח קובע את המטרות; השירות/הכתובת/המצב מאומת מהמקור הרשמי.

5. דיווח ותקשורת - דלת: ראיות ואחריות. AI בונה את הדוח, מפשט ומתרגם את הטקסט. דלת: כל תיק תלוי בראיות, חוות הדעת שייכת למומחה, אובדן מידע קריטי והטיה נבדקים, החתימה באדם.

6. סגירה ומסירה - שער: דיוק. YZ מסכם את הקובץ בצורה כרונולוגית. דלת: הסיכום מבוסס על הרשומה בלבד; התוצאות והלמדות מאומתות על ידי המומחה.

טיפ: השתמש בשאלה אחת כדי לזכור את הדלתות: "בשלב זה, האם ה-AI מקבל החלטה או מייצר סקיצה?" אם התשובה היא "החלטה", עצור - הצעד הזה שייך לאדם. אם התשובה היא "טיוטה", המשך, אך אל תעבור לשלב הבא מבלי לאמת את הפלט.

ממשל תאגידי: משמעת אינדיבידואלית אינה מספיקה

ההרגלים הטובים של מומחה הם בעלי ערך אך שבירים; שימוש בטוח ועקבי ב-AI בארגון דורש מסגרת ממשל. מרכיבי המפתח של מסגרת זו הם:

רשימת רכבים מאושרת. כתוב וברור איזה כלי ישמש לאיזו עבודה ואיזה נתונים ניתן להזין לאיזה כלי. "כל אחד צריך להשתמש באיזה כלי שהוא רוצה" היא פגיעות אבטחה.
מדיניות סיווג נתונים. מוגדר אילו נתונים יעובדו בכלי הפתוח ואילו יעובדו רק במערכת המאובטחת.
תפקיד וסמכות. ברור מי יכול לעשות מה ואיזו החלטה תלויה באיזו רשות (בעיקר החלטות סיכון).
יומן ומסלול ביקורת. היכן וכיצד נעשה שימוש בבינה מלאכותית ניתן לנטר; כשיש בעיה, אפשר להסתכל עליה לאחור.
חינוך ומודעות. כל עובד מכיר את העקרונות במודול זה; העולה החדש מאומן.
סקירה מתמדת. כלים, סיכונים ושינוי חקיקה; המסגרת מתעדכנת באופן שוטף. מדיניות ברגע שנכתבה ונשכחת מתיישנת.

שלושה מיני תיקים

מקרה 1 - דלתות תפסו באג בתחילת השרשרת. במקרה אחד, AI הוסיפה תצפית שהלקוח לא הזכיר במהלך שלב ההערכה. בשער של "שיפוט קליני" קלט זאת המומחה ומחק אותו. אלמלא נתפס, התצפית המפוברקת הזו הייתה יכולה לדלוף לתכנית, משם לדוח ומשם להחלטת בית המשפט. אימות שכבות עצר את השגיאה בנקודה המוקדמת ביותר.

מקרה 2 - ממשל מנע הפרה. ארגון אחד פעל ללא רשימת כלים ומדיניות נתונים מאושרים; כל אחד השתמש ברכב שלו. ביקורת העלתה כי מספר עובדים הזינו נתוני לקוחות בפועל לכלים פתוחים. הארגון הקים מסגרת ממשל: כלים מאושרים, סיווג נתונים, הדרכה ורישום. בתקופה שלאחר מכן ירד מספר ההפרות לאפס. לקח: רצון טוב של הפרט אינו מספיק ללא מבנה מוסדי.

מקרה 3 - סקירה מתמשכת מתעדכנת. מדיניות AI של ארגון, שנכתבה לפני שנה, הייתה מיושנת לנוכח סוג חדש של כלי וחקיקה מעודכנת. הסקירה השנתית קלטה זאת; המדיניות עודכנה, ההכשרה חודשה. המסגרת נשארה מסמך חי, לא קישוט מדף.

ארבע תבניות הניתנות להעתקה

1) רשימת תיוג שער לאימות זרימת תיקים:

תפקידך: מפקח. אני מקבל רשימת אימות לשלב המקרה הבא: מה יכולה טיוטת הבינה המלאכותית בשלב זה, איזו החלטה היא בהכרח אנושית, אילו בדיקות פרטיות והטיות יש לעשות, מה עליי לוודא לפני המעבר לשלב הבא? שלב: [יישום / הערכה / סיכון / תוכנית / דוח / סגירה]

2) התאמת רכב מאושרת:

עבור כל אחת מרשימות המשימות שלהלן, ציין את סוג כלי הבינה המלאכותית שניתן להשתמש בו (כלי פתוח / מערכת ארגונית מאובטחת בלבד / אין AI זמין) והצדקה. סמן כל משימה המכילה נתוני לקוח כ"מערכת מאובטחת בלבד". משימות: [רשימת משימות]

3) טיוטת מדיניות AI תאגידית:

תפקידך: עורך מדיניות תאגיד. נסח מדיניות שימוש אחראית בינה מלאכותית עבור סוכנות לשירותים חברתיים; כסה את הנושאים הבאים: מטרה, כלים מאושרים, סיווג נתונים, תפקידים והרשאות, פרטיות/KVKK, מגבלת החלטות בסיכון, הקלטה וביקורת, הדרכה, לוח זמנים לביקורת. הגדר את המסגרת הכללית; המוסד ימלא את פרטיו.

4) ויסות עצמי (סקירת שימוש אישית):

צור רשימת בדיקה עצמית של 10 שאלות עבורי כדי לסקור את השימוש שלי ב-AI כעובד סוציאלי: פרטיות, אימות, הטיה, נאמנות ראיות, מגבלות החלטה וריכוז לקוח. תן לכל שאלה להיענות ב"כן/לא".

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

אני נותן לך את כל התיק הזה; אתה מטפל בהכל מהבקשה ועד לדו"ח, אני פשוט אחתום עליו בסוף.

מדובר במיקור חוץ של כל התהליך - כולל פרטיות, שיפוט קליני, שיפוט סיכונים, עמידה בראיות - לתוכנה. החתימה הבודדת בסוף מעוורת אותנו לכל השגיאות, ההמצאות וההטיות שביניהם.

הנחיה עוצמתית:

תפקידך: עורך שעוזר לי בכל שלב. אמשיך עם המקרה שלב אחר שלב (הערכה, תכנית, דוח...). בכל שלב: עבדו רק עם נתונים אנונימיים/מאובטחים, הפק טיוטה, תן לי להחליט, אל תוסיף את מה שלא כתוב בהערה, ותזכיר לי מה אני צריך לאמת לפני המעבר לשלב הבא. נתחיל עם השלב הזה: [שלב]

ההבדל: שמירה על הדלת בכל שלב ומיקום ה-AI כעוזר צעד אחר צעד שומרת על בטיחות ואחריות אנושית תוך שמירה על מהירות.

סיכום שער-שלב-אחריות

במה

תרומה של AI

שער אנושי

בקרה קריטית

יישום

הכנה לראיון

פרטיות

מחלקת נתונים

הערכה

עריכת גודל

שיפוט קליני

בלי אבחנה, בלי המצאה

סיכון

תזכורת לגורם

סמכות + צוות

אין ניקוד/החלטה

תוכנית/הכוונה

טיוטה + רעיון

אימות + לקוח

אישור מקור, עדיפות הלקוח

דיווח/יצירת קשר

מבנה + פישוט

ראיות + אחריות

חוות דעת בבקרת מומחה, הטיה

סוגרים

סיכום כרונולוגי

דיוק

מבוסס שיאים

טעויות נפוצות

מסירת כל התהליך ל-AI וחתימה על חתימה בודדת בסוף. השגיאות שביניהם אינן גלויות; צריכות להיות דלתות בכל צעד.
עובר דרך דלת מבלי לאמת זאת. ייצור שלב אחד עובר בירושה לאחר; כל פלט מאומת.
השארת הממשל למשמעת הפרט. ללא מסגרת מוסדית, הרגלים טובים הם שבירים.
כתוב פעם אחת את הפוליסה ותשכח ממנה. שינוי כלים וחקיקה; יש צורך בבדיקה מתמדת.
לא שומרת רישומים. ללא עקבות ביקורת, לא ניתן להסתכל על בעיה ולא ניתן להטיל עליה דין וחשבון.

לסיכום

בעבודה סוציאלית, בינה מלאכותית היא זרז בכל שלב, מקבל החלטות בשום שלב, החל מהגשת בקשה ועד סגירת תיק. הצב שישה שערים אנושיים (סודיות, שיפוט קליני, סמכות/צוות, אימות/לקוח, ראיות/אחריות, יושרה) לתוך הזרימה מקצה לקצה; אין לעבור מדלת אחת לאחרת מבלי לעבור. הפיכתו לבר-קיימא דורשת ממשל תאגידי: רשימת כלים מאושרת, מדיניות נתונים, תפקידים, רישום, הדרכה ובדיקה מתמשכת. ששת העקרונות המניעים של המודול - אחריות אנושית, אימות, פרטיות/PDPA, מחויבות לראיות, בקרת הטיה וריכוז לקוח - צריכים להיות שזורים בכל זרימת עבודה.

משימת יישום

שרטוט נפשית תיק בדיוני החל מהבקשה ועד לסגירה; הפק רשימת בדיקה לכל שלב עם תבנית "שער אימות תזרים תיקים". לאחר מכן סווגו את המשימות במקרה זה כרכב פתוח / מערכת מאובטחת / ללא AI עם תבנית "התאמת רכב מאומת". לבסוף, העריכו את עצמכם על ידי יצירת רשימה של 10 שאלות לשימושכם האישי ב-AI עם תבנית "ביקורת עצמית".

רשימת בדיקה

[ ] זיהיתי שישה שערים אנושיים בזרימה מקצה לקצה.
[ ] בכל שלב, "החלטה או טיוטה?" יישמתי את השאלה.
[ ] התאמתי את המשימות לסוג הרכב הנכון (פתוח/בטוח/ללא).
[ ] אני מכיר את מרכיבי הממשל התאגידי (כלי, נתונים, תפקיד, רישום, הדרכה, סקירה).
[ ] יישמתי את ששת עקרונות הספק של המודול בזרימת העבודה שלי.

מבחן מודול

1. איזה מהבאים הוא המיקום המדויק ביותר לבינה מלאכותית בעבודה סוציאלית?

א) בינה מלאכותית יכולה להחליט על רמת הסיכון והחלטת ההתערבות של הלקוח ללא אישור אנושי
ב) AI הוא כלי לסיכום, ארגון, פישוט וניסוח; האחריות על שיקול דעת קליני, סיכון והחלטה סופית מוטלת על המומחה ✔
ג) בינה מלאכותית שימושית רק לתרגום טקסט ואין לה שום קשר למשימות עבודה סוציאלית אחרות
ד) מכיוון שבינה מלאכותית היא תמיד יותר חסרת פניות מבני אדם, יש להשאיר לה את ההערכה.

תיאור: בינה מלאכותית; זהו עוזר שמארגן הערות, מסכם את הקובץ, מפשט את הטקסט ומפיק טיוטות. האחריות לשיפוט קליני, הערכת סיכונים, חוות דעת מקצועית והחלטה סופית מוטלת על איש המקצוע המוסמך; פלט לא מאומת עלול להוביל לשיקול דעת מוטעה של לקוח, להתחמקות מסיכון או לדליפה של נתונים רגישים.

2. מהי ההוראה הנכונה ביותר כאשר ההערות הגולמיות של ראיון הופכות לתיעוד מקרה על ידי בינה מלאכותית?

א) בקשה מבינה מלאכותית למלא את החלקים החסרים בצורה סבירה כדי שזה ייראה מקצועי.
ב) מתן אפשרות לבינה מלאכותית להוסיף תצפיות נוספות כדי להעשיר את הרשומה
ג) בקשה מהתלמיד להשתמש רק במידע שנכלל בהערה בפועל, לסמן את הפריטים החסרים כ'צריך בירור', ולא להוסיף דבר ✔
ד) הכנסתו ישירות לקובץ מבלי להשוות אותו עם ההערה כל עוד הפלט שוטף

הסבר: הנטייה המסוכנת ביותר של בינה מלאכותית היא להמציא תצפיות, מספרים או ציטוטים שאינם מופיעים בפתק כדי לגרום לתיעוד להיראות 'שלם'. הגישה הנכונה היא לומר 'פשוט השתמש במה שיש בפתק, סמן את החסרים, אל תוסיף כלום'. החסר לא ממולאים, הם מסומנים לבירור.

3. מדוע חשובה ההבחנה בין 'עובדה' ל'פרשנות' בתיק?

א) עובדה היא התבוננות/אמירה קונקרטית, בעוד שפרשנות היא הסקה מקצועית הדורשת בסיס; יש להפריד בין השניים ולתייג את התגובה ✔
ב) ההבחנה מיותרת; ניתן לכתוב עובדה והערה באותו אופן ברשומה
ג) רק הפרשנות חשובה; זה אפשרי גם אם העובדות לא נרשמות
ד) מאחר שהבינה המלאכותית עושה את ההבחנה הזו בצורה מושלמת, אין צורך בשליטה אנושית.

הסבר: 'הוא בכה שלוש פעמים בראיון' זו עובדה; 'הוא היה מדוכא' היא הערה שלא ניתן לכתוב ללא בסיס קליני. הרשומה מבשרת את העובדה וכוללת פרשנות רק עם תיוג ברור והצדקה. AI יכול לערבב את השניים בצורה שוטפת; מחובתו של אדם לעשות את ההבחנה ולהימנע מלשון סטיגמטית.

4. איזה תפקיד צריך למלא AI בהחלטה אם ילד בטוח בבית או רמת הסיכון של מקרה?

א) בינה מלאכותית יכולה לקרוא את המקרה, לקבוע את רמת הסיכון ולקבל את ההחלטה הביטחונית
ב) התווית 'סיכון נמוך' הניתנת על ידי בינה מלאכותית יכולה לעקוף את תצפית המומחה להיפך
ג) בינה מלאכותית רק מזכירה גורמים ומארגנת הערות; רמת הסיכון והחלטת הבטיחות שייכים למומחה, לצוות, לפיקוח ולתהליך המשפטי ✔
ד) בינה מלאכותית אמינה יותר מבני אדם בקבלת החלטות בסיכון מכיוון שהיא חסרת פניות.

תיאור: רמת סיכון והחלטת אבטחה; היא דורשת סמכות מקצועית, שיקול דעת קליני, חוות דעת של צוות רב תחומי, פיקוח ואחריות משפטית. כאן, AI יכול לזכור רק גורמי סיכון/הגנה ולערוך הערות; לא יכול לייצר ציונים או החלטות. היא עשויה גם לייחס סיכון גבוה באופן שיטתי לקבוצות מוחלשות עקב הטיה בנתוני ההדרכה, כך שהפלט שלה לא יכול לשמש כהחלטה.

5. מה צריך לעשות כאשר בינה מלאכותית נותנת מידע הפניה ללקוח באמירת 'המרכז הזה, הטלפון הזה'?

א) אישור הכתובת ומספר הטלפון מהמקור הרשמי והנוכחי של המוסד לפני מסירתם ללקוח ✔
ב) העברת מידע ישירות ללקוח כפי שהוא מוצג בביטחון
ג) בהנחה שהמידע נכון לחלוטין כל עוד הבינה המלאכותית נותנת תאריך עדכני
ד) חושבים שאין צורך לחקור את דיוק המידע כי הוא מוזכר איפשהו.

תיאור: בינה מלאכותית עשויה להרכיב שירותים, דרישות יישומים, כתובות ומספרי טלפון או לספק מידע מיושן; מוסדות מתמזגים, זזים, נסגרים. שליחת הלקוח לכתובת לא מאומתת תוביל למסע מבוזבז ואובדן אמון. לפיכך, יש לאשר את פרטי ההתקשרות הנמסרים על ידי הבינה המלאכותית באמצעות הערוץ הרשמי של המוסד עצמו לפני העברתם ללקוח.

6. מי צריך להגדיר יעדים בתוכנית תגובה ומה תפקידה של AI?

א) בינה מלאכותית צריכה גם לקבוע את המטרות וגם לכתוב את התוכנית כולה מבלי לשאול את הלקוח.
ב) הלקוח (יחד עם המומחה) קובע את המטרות; AI מכניס אותם לפורמט SMART ומבנה אותם, לא מוסיף יעדים חדשים ✔
ג) המטרות אינן חשובות; ככל שהתוכנית כוללת יותר יעדים, כך ייטב.
ד) בינה מלאכותית עלולה להתעלם מסדרי העדיפויות של הלקוח כי היא נראית מקצועית

תיאור: הערך המרכזי של עבודה סוציאלית הוא 'הגדרה עצמית': הלקוח קובע יעדים וסדרי עדיפויות, מעצב אותם עם ידע מקצועי מומחה. בינה מלאכותית מכניסה את המטרות הללו לפורמט SMART ומציעה צעדים ואינדיקטורים; אבל הוא לא יכול להוסיף מטרות חדשות שהלקוח לא אומר. לא ניתן להחיל על הלקוח תכנית זרה המוטלת מבחוץ.

7. בדו"ח חקירה חברתית שיוגש לבית המשפט, באיזה נושא הבינה המלאכותית הכי מסוכנת?

א) יכולת להמציא תאריכים, תצפיות או ציטוטים שאינם קיימים כדי לגרום לדוח להיראות 'שלם' ✔
ב) הפיכת שפת הטקסט לרשמית מדי
ג) כתיבת הדו"ח קצר מהמבוקש
ד) סדר אלפביתי של כותרות

הסבר: הנטייה המסוכנת ביותר של AI היא להוסיף תאריך לא קיים, תצפית או ציטוט כדי לגרום לדוח להיראות 'שלם'. גזר דין מפוברק בדוח בית משפט יכול גם להטעות החלטה וגם להרוס את אמינות המומחה. לכן יש לחבר כל מקרה לראיון/תצפית/מסמך אמיתי, ולגבש את חוות הדעת המקצועית על ידי המומחה.

8. מי צריך לכתוב את סעיף חוות דעת וחוות דעת (הצעה) מקצועית בדוח חקירה חברתית?

א) בינה מלאכותית; כי זה מייצר המלצה יותר לא משוחדת
ב) סעיף חוות הדעת לעולם אינו ממולא בעת כתיבת הדו"ח.
ג) בינה מלאכותית כותבת את חוות הדעת, המומחה חותם רק בסוף
ד) מומחה; דעה מקצועית וחוות דעת הן סמכותו ואחריותו, בינה מלאכותית רק מבהירה את השפה ✔

הצהרה: חוות דעת וחוות דעת מקצועית - 'זאת טובת הילד הזה', 'הסדר זה ראוי' - היא הסמכות והאחריות המשפטית של המומחה. 'מה אני ממליץ לבינה מלאכותית?' זה לא שואלים; 'הצעה' שהוא מייצר עשויה להיות גם מומצאת וגם העברת אחריות. במקרה הטוב, הבינה המלאכותית מבהירה את לשון חוות הדעת שכתב המומחה.

9. מהי הבקרה הקריטית ביותר בעת פישוט מכתב עזרה רשמי כבד ללקוח בעל בינה מלאכותית?

א) שמור את הטקסט קצר ככל האפשר, אל תסתכל בפרטים
ב) התוצאה נראית שוטפת ואסתטית
ג) וידוא שלא הושמטו זכויות, תנאים, סכומים, תאריכים או הודעות על ידי השוואה למקור ✔
ד) הפשטות מספקת נחמה ללקוח בכך שהיא נותנת לו פחות מידע.

הסבר: לפשט אין פירושו עיוות; על ידי 'לקצר' או 'לפשט' הבינה המלאכותית יכולה לבלוע זכות, מצב, כמות, תאריך או הודעה. הלקוח עלול לאבד את זכותו במידע 'קל' אך לא שלם. לכן, יש להשוות את הטקסט המפושט למקור ולוודא ששום מידע קריטי לא אבד, ואף שהבינה המלאכותית תפרט את המרכיבים הקריטיים שהוא מגן עליו.

10. כיצד נכון להתייחס לסטטיסטיקה המופקת על ידי בינה מלאכותית בעת עריכת בקשת מימון?

א) שימוש ישיר בסטטיסטיקה שניתנה על ידי בינה מלאכותית כדי לגרום לזה להיראות מרשים
ב) לא לגרום לבינה המלאכותית להרכיב סטטיסטיקות, להדפיס [נתונים נדרשים] במידת הצורך ולשים כל מספר מהמקור האמיתי ✔
ג) בהתחשב בכך שהמקור אינו חשוב כל עוד המספר כלול בבקשה.
ד) בהנחה שאין צורך לאמת סטטיסטיקה כי ה-AI כותב בביטחון

תיאור: בינה מלאכותית יכולה להרכיב נתונים סטטיסטיים מרשימים אך ללא מקור; דמות ללא מקור היא כמעט תמיד לא אמינה. נתון מפוברק בבקשה גם ידחה את הבקשה וגם יהרוס את אמינות המוסד. הגישה הנכונה היא לא לגרום ל-AI להמציא מספרים ('כתוב [DATA DATA]') ולשים כל מספר מהמקור האמיתי והמאומת.

11. מדוע מזיק לשאול אינטליגנציה מלאכותית 'להסביר למה המשפחה הזו לא מספיקה בגידול ילדים'?

א) כי השאלה ארוכה מדי
ב) מאחר שבינה מלאכותית אינה יכולה לספק מידע על ענייני משפחה
ג) מכיוון שהיא מניחה את התוצאה מההתחלה, הבינה המלאכותית מייצרת (באופן מחמיא) אישור לא מבוסס ומוטה; השאלה צריכה להיות ניטרלית ומאוזנת ✔
ד) כי בינה מלאכותית תמיד תכתוב לטובת המשפחה

הסבר: שאלה זו מניחה את התוצאה ('לא מספקת'). ה-AI מייצר טקסט נטול ראיות ומוטה שמאשר את ההנחה הזו עם הנטייה שלו להחמיא (אשר את הרמיזות שלך). שאלה מוטה יוצרת תשובה מוטה. אכן, מדובר בשאלה ניטרלית שאינה מניחה את התוצאה, מאזנת בין חוזקות וחששות, ומבקשת רק ראיות.

12. כיצד להחיל 'בדיקות תחת זווית' כדי לבדוק הטיה בפלט AI?

א) חושבים על אותו מצב עבור קבוצה אחרת ושואלים 'האם זה יהיה כתוב באותה שפה?' ✔ בדיקת סטנדרטים כפולים על ידי בקשה
ב) קבלת התשובה הראשונה של בינה מלאכותית כנייטרלית ולא מחפשת זווית אחרת
ג) שאילת רק שאלות התומכות בקבוצת הלקוח
ד) בהנחה שאין צורך בשליטה נוספת כי הטיה כלל לא קיימת בבינה מלאכותית

הסבר: בינה מלאכותית יכולה לכתוב את אותה התנהגות בנימה שונה עבור קבוצות שונות (למשל 'סיכון להזנחה' למשפחה עם הכנסה נמוכה, 'הורה בכפייה' לבעלי הכנסה גבוהה). מבחן ההיפוך הוא 'אם הלקוח היה מקבוצה סוציו-אקונומית/אתנית אחרת, האם זה היה כתוב באותה שפה?' הוא לשאול; זה עושה סטנדרטים כפולים גלויים המבוססים על סטריאוטיפים, לא ראיות.

13. מהי הגישה הנכונה לסיכום התיק בפועל של הלקוח (כולל שם, כתובת, מידע בריאותי)?

א) למהירות, הדבק אותו בכלי הבינה המלאכותית הציבורי הקרוב ותסכם אותו
ב) עיבוד הקובץ מבלי לשים לב לפרטיות כי הוא קצר
ג) הזינו הכל כולל מידע בריאותי ושמרו רק את התוצאה
ד) עיבוד רק במערכת מאובטחת שאושרה על ידי המוסד או עם טקסט לא מזוהה, עם מינימום נתונים ✔

חשיפה: נתונים אישיים המזהים את הלקוח - במיוחד נתונים רגישים כגון בריאות - לעולם לא מוכנסים לכלי ציבורי שהמוסד לא אישר; הטקסט עשוי להיות מעובד, מאוחסן בשרתים חיצוניים או בשימוש בהכשרת מודלים, והסילוף הוא בלתי הפיך. זו גם הפרה של KVKK. סוג זה של עבודה מתבצע רק במערכות פנימיות, מאובטחות ומאושרות שאינן מדליפות נתונים או עם טקסט לא מזוהה.

14. מדוע מחיקת שמות ממסמך לא תמיד מספיקה כדי לחייב אותו לכלי ציבורי?

א) מחיקת שמות היא תמיד אנונימיזציה מלאה והופכת כל מסמך לבטוח
ב) כל עוד המסמך קצר, אי אפשר להסיק זהות מהקשר
ג) מסמך ששמו נמחק לחלוטין נופל מחוץ לתחום ק.ק.ק.ק.
ד) הקשר (שכונה, גיל, אירוע, מבנה משפחתי) עשוי לבסס מחדש את הזהות; ההגנה ניתנת לפי בחירת הכלי והסביבה ✔

הסבר: גם אם שמות נמחקים, הקשר (שילוב נדיר של שכונה, גיל, אירוע, תאריך, מבנה משפחתי וכו') יכול להפוך אדם לזיהוי; יכול להיות שהוא האדם היחיד בשכונה שמתאים לתיאור. הגנה אמיתית אינה ניתנת על ידי מיסוך, אלא על ידי בחירת הכלי והסביבה הנכונים; ההקשר הוא גם נתונים אישיים ומידע לא ודאי צריך להיות מוגן כמעמד גבוה יותר.

15. מהבקשה ועד סגירת תיק, מהי הדרך היעילה ביותר למנוע דליפה של טעות AI אחת להחלטה הסופית?

א) האצלת התהליך כולו לכלי AI יחיד וחתימה רק פעם אחת בסוף
ב) הצבת שער אימות ותנאי מעבר אנושי בכל שלב (אימות שכבות) ✔
ג) הסרת אימותי ביניים למהירות ובדיקה רק בשלב הפלט
ד) מתן אפשרות לכל מומחה להשתמש בכלי שלו בחופשיות מבלי לשמור תיעוד

תיאור: בכל שלב מוצב שער אימות אנושי (בקשה/סודיות, הערכה/שיפוט קליני, סיכון/הרשאה, תכנית/אימות, דוח/הוכחות, סגירה/דיוק); אי אפשר לעבור דרך דלת אחת בלי לעבור דרך אחרת. מבנה שכבות זה מונע מטעות הזיה, הטיה או סודיות בשלב מסוים לחלחל להחלטה המשפיעה על לקוח.