רווחים:
- הערכת האם שימוש ב-AI דורש DPIA
- יישום תהליך DPIA בן שבעת השלבים על פרויקט AI
- תעדוף סיכונים עם מטריצת הסתברות-השפעה ותכנון אמצעים מקלים
חלק מהשימושים בבינה מלאכותית מהווים סיכונים רציניים לאנשים: ניטור בקנה מידה גדול, עיבוד נתונים רגיש, החלטות אוטומטיות. בפרויקטים כאלה, גם KVKK/GDPR וגם חוק ה-AI של האיחוד האירופי מצפים להערכת סיכונים מובנית לפני תחילת העבודה. שמה של הערכה זו הוא הערכת השפעת הגנת מידע (DPIA). ביחידה זו נלמד כיצד לדעת אם שימוש מצריך DPIA, כיצד ליישם את תהליך DPIA בן שבעת השלבים על פרויקט בינה מלאכותית, וכיצד לתעדף סיכונים עם מטריצת הסתברות-השפעה.
מהו DPIA ומתי יש צורך בכך?
הערכת השפעה על הגנת מידע (DPIA) היא ניתוח מובנה שמעריך מראש את הסיכונים של פעילות עיבוד על זכויות וחירויות של יחידים וקובע אמצעים מקלים. הנקודה הקריטית: DPIA נעשה בשלב התכנון, לפני תחילת העיבוד - לא לאחר שהבעיה מתרחשת.
DPIA נדרש בדרך כלל כאשר:
- שימוש בטכנולוגיה חדשה (לעיתים קרובות כלולה AI).
- עיבוד בקנה מידה גדול של נתונים אישיים.
- ניטור או פרופיל שיטתי.
- עיבוד נתונים מיוחד.
- החלטות אוטומטיות שמשפיעות באופן משמעותי על אנשים.
טיפ: אם אינך בטוח, בצע "סקר": אם קיימים שניים או יותר מתוך החמישה לעיל, ברירת המחדל היא ביצוע DPIA. העלות של ביצוע DPIA נמוכה; העלות של אי ביצוע זאת גבוהה מאוד בהפרה אחת.
תהליך DPIA בן שבעה שלבים
אתה מיישם DPIA על פרויקט AI בשבעת השלבים הבאים:
צעד
מה אתה עושה?
1. תיאור
תאר את העיבוד: איזה נתונים, מטרה, היקף, זרימה
2. הכרח ומידתיות
האם AI באמת הכרחי? האם יש דרך פחות פולשנית?
3. דעת בעלי עניין
לקבל חוות דעת של אנשים/נציגים רלוונטיים
4. זיהוי סיכונים
רשום נזקים אפשריים ליחידים
5. הערכת סיכונים
ציון כל סיכון לפי הסתברות והשפעה
6. אמצעי הפחתה
תכנן אמצעי זהירות לכל סיכון, זיהוי סיכון שיורי
7. אישור וביקורת
לתעד את התוצאה, להגיש אותה לאישור, לעדכן אותה מעת לעת
תעדוף סיכון: מטריצת הסתברות-השפעה
אתה מעריך כל סיכון בשני ממדים: הסבירות שזה יקרה וההשפעה אם זה יקרה. השילוב בין השניים נותן עדיפות.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>השפעה נמוכה
השפעה בינונית
השפעה גבוהה
סבירות גבוהה
בינוני
גבוה
קריטי
סבירות בינונית
נמוך
בינוני
גבוה
סבירות נמוכה
נמוך
נמוך
בינוני
סיכונים קריטיים וגבוהים הם סיכונים שעבורם אין להמשיך את הפרויקט ללא נקיטת אמצעי זהירות. המטרה היא לא לחסל כל סיכון; הוא להפחית כל סיכון לרמה מקובלת ולקבל במודע את הסיכון הנותר (השיורי).
שלושה מיני תיקים
מקרה 1 - DPIA הושמט. רשת קמעונאית מיישמת מערכת העוקבת אחר התנהגות לקוחות בחנות עם AI, ללא DPIA. חודשים לאחר מכן, תלונה מגלה שהמערכת עשתה מסקנות ספציפיות (בריאות, חיזוי הריון). אין תשובה לשאלה "למה לא עשית DPIA" בביקורת. DPIA מההתחלה היה תופס את הסיכון הזה בשלב התכנון והופך את הפרויקט לבטוח.
מקרה 2 - פרויקט חולץ על ידי DPIA. DPIA נעשה לתמיכה בגיוס AI בבנק. בשלב זיהוי הסיכון, הסיכון להטיה מגדרית עקב נתונים היסטוריים מתברר כ"גבוה". כאמצעי הקלה, הצוות מסיר מידע מגדרי מהמודל, מייחס את הפלט לבדיקות הטיה רגילות ודורש אימות אנושי. כעת הסיכון יורד ל"מתון" והפרויקט הופך למקובל. DPIA הופך את הפרויקט לבטוח במקום להרוג אותו.
מקרה 3 - מבחן מידתיות. חברה רוצה לסרוק מיילים של עובדים לצורך "ניתוח נאמנות" עם AI. בשלב ההכרח/מידתיות של ה-DPIA נמצא הדבר כפולשני יתר על המידה ביחס לתכלית; יש חלופות פחות חודרניות. הפרויקט אינו מאושר במתכונתו הנוכחית. מבחן המידתיות מבחין בין "אנחנו יכולים" ו"אנחנו חייבים".
שימו לב: DPIA אינו טופס שממלאים פעם אחת ומניחים בצד. בעת עיבוד שינויים (נתונים חדשים, מטרה חדשה, כלי חדש) יש לעדכן את ה-DPIA. DPIA מת הוא יותר מטעה מאשר ללא DPIA בכלל כי הוא נותן ביטחון כוזב.
מי עושה את ה-DPIA ורישום הסיכון ביחסים עם DPIA
אדם בודד אינו יכול למלא את ה-DPIA ליד שולחנו; DPIA נכון הוא מאמץ צוות. בדרך כלל, קצין הגנת המידע מבצע את התהליך (Doer), מנהל הציות אחראי בסופו של דבר (Accountable), היחידה העסקית הרלוונטית מתארת את העיבוד, מעריכה אמצעים טכניים של IT/אבטחה ומאשרת את הבסיס המשפטי. אין להזניח קבלת חוות דעת של אנשים רלוונטיים (שלב שלישי); עם זאת, זהו השלב שהכי דילג עליו בפועל.
הפלט של DPIA אינו יושב בחלל ריק: סיכונים מזוהים נרשמים במרשם הסיכונים של הארגון. מאגר הסיכונים הוא תרשים חי אשר לוכד את כל הסיכונים הפתוחים, סדרי העדיפויות שלהם, ההפחתות, האשמים ותאריכי הסקירה האחרונה שלהם. בדרך זו, הסיכונים של פרויקט בינה מלאכותית מדברים באותה שפה כמו ניהול הסיכונים הכולל של הארגון ומנוטרים באופן קבוע.
אזור רישום סיכונים
דוגמה
הגדרת סיכון
הטיה מגדרית ב-AI לגיוס
עדיפות
גבוה
אמצעי הפחתה
מיצוי משתנה פונדקאית + בדיקת הטיה
אחראי
קצין הגנת מידע
סקירה
כל 3 חודשים
טיפ: התייחס ל-DPIA במנטליות של "יומן סיכונים ומעקב", ולא בגישה של "עשה ושכח". האם יושמה הפחתת סיכונים, האם הסיכון השיורי הוא ברמה מקובלת - ללא רישום מעקב אחר אלה, ה-DPIA הופך למסמך חלון.
תבניות הניתנות להעתקה
תבנית 1 - בדיקת DPIA מראש: "האם DPIA נדרש לשימוש זה ב-AI? [תאר את השימוש]. העריכו מול חמישה טריגרים: טכנולוגיה חדשה, עיבוד בקנה מידה גדול, ניטור שיטתי, נתונים רגישים, קבלת החלטות אוטומטיות משמעותיות. כמה טריגרים יש, האם אתה ממליץ על DPIA, עם הצדקה."
תבנית 2 - סיעור מוחות לזיהוי סיכונים: "רשום את הנזקים האפשריים לאנשים בפרויקט הבינה המלאכותית הזה [תאר את הפרויקט]: דליפת נתונים, אפליה, שיקול דעת מוטעה, חדירה לפרטיות, חוסר שקיפות, סחיפה של מטרה. כתוב תרחיש של משפט אחד לכל פגיעה. רק תזהה, אך אל תנגד."
תבנית 3 - ניקוד סבירות-השפעה: "ציון את הסיכונים הבאים [רשימת סיכונים] כהסתברות (נמוכה/בינונית/גבוהה) והשפעה (נמוכה/בינונית/גבוהה); עדיפות (נמוכה/בינונית/גבוהה/קריטית) מופיעה בכל שורה. רשימה קריטית וגבוהה בראש. מוצג בפורמט טבלה."
תבנית 4 — תכנון הפחתה: "עבור הסיכון הבא [כתוב את הסיכון], הצע לפחות 3 אמצעי הפחתה (טכניים, תהליכיים, ארגוניים). הערך את רמת ה'סיכון השיורי' לאחר כל אמצעי. אם הסיכון עדיין גבוה לאחר המדד, ציינו שיש לתכנן מחדש את הפרויקט".
הנחיה חלשה / הנחיה חזקה
WEAK: "האם פרויקט הבינה המלאכותית הזה מסוכן?"-> המודל נותן תשובה מעורפלת 'אולי'; לא מסווג סיכונים, לא נותן עדיפות לסיכונים, לא מייצר אמצעים.STRONG: "ערוך מיני DPIA עבור פרויקט הבינה המלאכותית הבא: (1) תאר את העיבוד, (2) הערך את הצורך ב-DPIA עם 5 טריגרים, (3) רשום 6 נזקים אפשריים לאנשים, (4) ציון כל אחד לפי הסתברות-השפעה גבוהה,-(5) להמליץ על סיכון משפטי סביר; טיוטה שתעבור לאישור משפטי."-> המודל מייצר טיוטה של DPIA מובנה וניתן לפעולה.
טעויות נפוצות
- ביצוע DPIA לאחר תחילת העסקה (או אפילו לאחר שהבעיה התרחשה).
- דילוג על עיבוד בסיכון גבוה הדורש DPIA כ"לא עניין גדול".
- לא לפרט סיכונים ולתעדף אותם לפי הסתברות והשפעה.
- בהתחשב ב-DPIA "שלם" מבלי לייצר אמצעים לכל סיכון.
- דילוג על שלב ההכרח/מידתיות ואומר "אנחנו יכולים לעשות את זה, אז בואו נעשה את זה".
- מילוי DPIA פעם אחת ולא מעדכן אותו כאשר התהליך משתנה.
- אישור הפרויקט ללא תיעוד ברור של הסיכון השיורי (הנותר).
לסיכום
- DPIA הוא ניתוח מובנה שמעריך את ההשפעה של עיבוד בסיכון גבוה על אנשים לפני שהוא מתחיל.
- DPIA נדרש אם יש טכנולוגיה חדשה, עיבוד בקנה מידה גדול, ניטור שיטתי, נתונים רגישים או קבלת החלטות אוטומטיות משמעותיות.
- התהליך מורכב משבעה שלבים: זיהוי, נחיצות/מידתיות, דעת בעלי עניין, זיהוי סיכונים, הערכה, פעולה, אישור/סקירה.
- סיכונים מתועדפים עם מטריצת הסתברות-השפעה; סיכונים קריטיים/גבוהים אינם מתקבלים ללא אמצעי זהירות.
- DPIA לא הורגת את הפרויקט, היא הופכת אותו לבטוח; זהו מסמך חי שיש לעדכן ככל שמעבד שינויים.
משימת יישום
בחר שימוש בבינה מלאכותית שהארגון שלך עשוי להשתמש בו שעשוי להיות בסיכון גבוה (לדוגמה, תמיכה בגיוס, מעקב התנהגותי או ניקוד אשראי). ראשית שקול אם DPIA נחוץ עם חמישה טריגרים. לאחר מכן ערכו מיני DPIA לשימוש זה: תאר את העיבוד, רשום לפחות שישה נזקים אפשריים ליחידים, ציון כל אחד במטריצת ההשפעה ההסתברותית והקצה עדיפות. תכנן שלושה אמצעי הפחתה לשני סיכונים קריטיים וגבוהים והערכת רמת הסיכון השיורית לאחר המדידה. לבסוף, שים לב מתי יהיה צורך לעדכן את ה-DPIA הזה.
רשימת בדיקה
- [ ] הערכתי את דרישת ה-DPIA עם חמישה טריגרים.
- [ ] הגדרתי את העיבוד (נתונים, מטרה, היקף, זרימה).
- [ ] שאלתי נחיצות ומידתיות.
- [ ] רשמתי את הנזקים האפשריים ליחידים.
- [ ] תעדפתי את הסיכונים במטריצת ההסתברות-השפעה.
- [ ] תכננתי אמצעי הפחתה עבור סיכונים קריטיים/גבוהים.
- [ ] תיעדתי כעת את הסיכון וקבעתי את תנאי הבדיקה.