צדק, אפליה וחקיקה: SEDDK, KVKK ותקנות בינה מלאכותית

רווחים:

• יכולת לזהות סיכונים של אפליה, הטיה ואפליה עקיפה בתמחור ובחיתום ולבחון אותם בתפוקת בינה מלאכותית
• יכולת לשמור על הזכות להסבר והתנגדות במסגרת תקנות SEDDK, KVKK ועקרונות קבלת החלטות אוטומטיות
• יכולת ליישם חובות שליטה והצדקה אנושית בהחלטות אוטומטיות בסיכון גבוה

ביטוח הוא עסק שמקבצים ומתמחרים בו; אבל קיבוץ זה חייב להיות הוגן. מתן פרמיה גבוהה יותר או שלילת כיסוי לאדם בגלל מאפיינים מוגנים כגון מינו, מוצאו, אמונתו, אזור מגוריו היא אפליה בלתי הוגנת ואסורה. בינה מלאכותית (תוכנה שלומדת מנתונים היסטוריים ומייצרת המלצות מחיר והחלטות) מהווה סכנה מיוחדת בתחום זה: היא יכולה ללמוד דפוסים לא הוגנים בנתונים היסטוריים ולהנציח או אפילו להסתיר אפליה מבלי משים. יתר על כן, הוא יכול לעשות זאת לא ישירות אלא בעקיפין (דרך משתנה פרוקסי). ביחידה זו תלמדו כיצד לזהות את סיכוני ההטיה והאפליה בתמחור ובחיתום, כיצד לבדוק את תפוקת הבינה המלאכותית להגינות וכיצד לשמור על הזכות להסבר והתנגדות במסגרת SEDDK (סוכנות הפיקוח והפיקוח על ביטוח ופנסיה פרטית), KVKK ועקרונות קבלת החלטות אוטומטיות. יחידה זו אינה ייעוץ משפטי; זה מסביר את העקרונות הכלליים, בכל מקרה קונקרטי, הקפד להתייעץ עם היחידה המשפטית/ציות.

מאיפה מגיעות דעות קדומות ואפליה?

הטיית AI נובעת משלושה מקורות עיקריים:

• הטיית נתונים: המודל לומד על חוסר הוגנות בנתונים היסטוריים. לדוגמה, אם קבוצה מסוימת קיבלה בעבר פרמיות גבוהות באופן שיטתי, המודל ממשיך להחשיב זאת כ"נורמלי".
• משתנה פונדקאי (פרוקסי): גם אם המודל לא משתמש ישירות בתכונה המוגנת (מגדר, מוצא), הוא מפלה בעקיפין על ידי שימוש במשתנה שקשור אליו מאוד (שכונה, שם, דפוס קניות).
• הטיית דגימה: מכיוון שחלק מהקבוצות מיוצגות בחסר בנתונים, המודל מייצר לגביהן שיפוטים לא אמינים ולא הוגנים.

ישנם שני סוגים של אפליה. אפליה ישירה: שימוש בוטה במאפיין מוגן. אפליה עקיפה: כאשר קריטריון נייטרלי לכאורה משפיע באופן לא פרופורציונלי על קבוצה מסוימת. השני הוא ערמומי יותר מכיוון שהוא מתרחש ללא כוונה וקשה לזהות אותו.

זהירות: ההגנה ש"המודל מבוסס על סטטיסטיקה, אז הוא אובייקטיבי" שגויה. הסטטיסטיקה כוללת גם אי צדק בעבר; המודל לא נותן לו לגיטימציה, הוא מנציח אותו. הוגנות היא דבר שצריך לבדוק באופן אקטיבי.

בדיקת פלט להגינות

בדוק את תפוקת הבינה המלאכותית (המלצת מחיר, סיבת דחייה, ציון סיכון) עם שלוש שאלות להגינות:

1. האם הסיבה לגיטימית? האם ההחלטה מבוססת על קריטריונים שיש להם זיקה ממשית ומוצדקת לסיכון, או על הרכוש המוגן או בא כוחו?
2. יש פרוקסי? האם יכול להיות שאחד המשתנים שבהם נעשה שימוש (שכונה, שם, עיסוק, מצב משפחתי) קשור באופן חזק למאפיין מוגן?
3. האם ניתן להסביר זאת? האם תוכל להסביר את ההחלטה ללקוח ולמבקר בצורה ברורה וניתנת להגנה? "הדוגמנית אמרה זאת" אינה אמירה.

אם הצדקה אינה עומדת בשלושת המבחנים הללו, היא נדחית וההחלטה מבוססת על קריטריונים לגיטימיים.

טיפ: בדוק את הרציונל לדחייה או פרמיה גבוהה עם המשפט הזה: "האם אני אתבייש אם אסביר את זה ללקוח ולמבקר?" אין להשתמש בהצדקה מבישה או בלתי ניתנת להגנה (שכונה, שם, מוצא).

מסגרת חקיקה: SEDDK, KVKK, החלטה אוטומטית

השימוש בבינה מלאכותית בביטוח כפוף לתקנות שונות. עקרונות עיקריים:

• עקרונות SEDDK: פעילויות הביטוח צריכות להתבצע בצורה הוגנת, שקופה ומגנה על הצרכן; התמחור חייב להיות מוצדק ואסור שתהיה אפליה בלתי הוגנת.
• KVKK: יש לעבד מידע אישי בהתאם לחוק, מוגבל למטרה ובאופן מאובטח. נתונים מיוחדים, כגון בריאות, כפופים להגנה הגבוהה ביותר.
• עקרונות קבלת החלטות אוטומטיות: בהחלטות המבוססות על עיבוד אוטומטי בלבד ומשפיעות באופן משמעותי על האדם (למשל, דחייה שנעשתה על ידי בינה מלאכותית בלבד), האדם; הזכויות להתנגד להחלטה, לבקש התערבות אנושית וללמוד את הרציונל של ההחלטה עולות על הפרק.

לכן, יכולת הסבר, שליטה אנושית והצדקה חיוניים בהחלטות בעלות השפעה רבה. ההחלטה הלא מוצדקת של מודל "קופסה שחורה" היא גם בלתי נשלטת וגם עומדת בסתירה לזכויות אלו.

צעד אחר צעד: החלטה הוגנת והרמונית

1. זיהוי נכסים מוגנים. מין, מוצא, אמונה, בריאות, אזור מגורים וכו'.
2. תעשה סריקת פרוקסי. ספק את הקשר בין המשתנים המשמשים למאפיינים מוגנים.
3. העמידו את ההצדקה במבחן הלגיטימיות. האם יש קשר אמיתי עם סיכון? האם ניתן להסביר זאת?
4. הוסף שליטה אנושית. תן לאדם לסקור את התוצאה האוטומטית להחלטה בעלת השפעה רבה.
5. תעד את הרציונל. רשום על אילו קריטריונים לגיטימיים התבססה ההחלטה.
6. דע את הדרך לערער. לספק ללקוח זכות התנגדות, ביקורת אנושית והצדקה.

שלושה מיני תיקים

מקרה 1 - דחיית מיופה הכוח. מודל תמחור דיור הציע פרמיה גבוהה באופן שיטתי עבור מיקוד מסוים. המומחה בדק: המיקוד חופף לאזור בעל ריכוז אתני מסוים; זה היה משתנה פרוקסי. כאשר הסיכון בפועל (גיל בנייה, סוג מבנה, היסטוריית נזקים) מתפרק, רוב הגידול כבר אינו מוצדק. המחיר נקבע מחדש על סמך קריטריוני סיכון לגיטימיים.

מקרה 2 - קבוצה לא מיוצגת. עבור מוצר בריאות, המודל הציע פרמיה גבוהה מדי לקבוצת גיל קטנה. סיבה: הקבוצה הזו הייתה מיוצגת בנתונים עד כדי כך שכמה נזקים גבוהים גרמו לקבוצה כולה להיראות "בסיכון". המומחה ביצע תיקון אמינות (מהימנות סטטיסטית) ותיעד כי ההמלצה אינה מהימנה; העלאה לא הוגנת לא הושמה.

מקרה 3 - זכות התנגדות. בקשה נדחתה אוטומטית עם ציון מבוסס בינה מלאכותית. הלקוח התנגד. במסגרת תהליך ההסתגלות נבחנה ההחלטה מחדש על ידי מומחה; נראה כי הציון מבוסס על נתונים חסרים (חוסר התאמה של נזקי עבר). ההחלטה תוקנה. ללא שליטה אנושית והזכות להתנגד, דחייה בלתי הוגנת תהיה לצמיתות.

ארבע הנחיות הניתנות להעתקה

1) סריקת פרוקסי ואפליה:

בדוק את הצדקת התמחור/ההחלטה הבאה להגינות: [הצדקה]חפש: האם המאפיין המוגן (מגדר, מוצא, אמונה, בריאות, אזור מגורים) משמש במישרין או בעקיפין (פרוקסי: שכונה, שם, מקצוע וכו')? עבור כל משתנה מפוקפק, הסבר מדוע הוא יכול להיות פרוקסי והצע חלופה לגיטימית.

2) מבחן חוקיות ההצדקה:

בדוק את רציונל ההכחשה/בונוס הגבוה הבא באמצעות שלוש שאלות: [הצדקה]1. האם יש קשר אמיתי ומוצדק לסיכון?2. האם היא מבוססת על רכוש מוגן או בא כוחו?3. האם ניתן להסביר זאת ללקוח ולמבקר? ענה בבירור על כל שאלה; סמן את הסיבה שלא עוברת את המבחן כ"דחה".

3) טיוטת נימוק ניתנת להסבר:

נסח רציונל מפורש ללקוח להחלטה בהתבסס על קריטריוני הסיכון המאומתים והלגיטימיים הבאים: [קריטריונים לגיטימיים] טון: מכבד, ברור. שימוש ברכוש מוגן/פרוקסי. ציינו את זכותו של הלקוח להתנגד ולבקש ביקורת אנושית. זוהי טיוטה; מומחה מאשר.

4) רשימת בדיקה לביקורת אנושית:

צור רשימת ביקורת אנושית לקבלת החלטה אוטומטית בעלת השפעה רבה: סוג החלטה: [דחייה/פרמיה גבוהה/אילוץ בטחונות]רשימה: סקירת מומחה מוסמך, בדיקת נתונים, הגינות/בקרת פרוקסי, מסמך הצדקה, הודעת ערעור של לקוח, רישום עקבות.

הנחיה חלשה / הנחיה חזקה

חלש: "קבע את המחיר הכי משתלם עם הנתונים האלה, וכתוב את ההצדקה".

בעיה: הוגנות, פרוקסי ויכולת הסבר אינם מכובדים; המודל יכול להנציח ולהצדיק אפליה בעבר.

סטרונג: "בדוק את ההצדקה הזו ל-proxy ואפליה; סמן נקודות המסתמכות על תכונה מוגנת או ה-proxy שלה והחליפו אותן בקריטריון סיכון לגיטימי. תאר הצדקה ניתנת להסבר."

למה זה טוב: אפליה נבחנת באופן אקטיבי, ההחלטה מבוססת על קריטריונים לגיטימיים וניתנים להסבר.

טבלת השוואה

נושא

גישה מסוכנת

גישה נכונה

פלט דגם

"סטטיסטיקה היא אובייקטיבית"

בדוק את הצדק באופן פעיל

מבחר משתנה

השתמש בכל הנתונים

חלץ פרוקסי

הצדקה

"זה מה שהדוגמנית אמרה"

קריטריון לגיטימי שניתן להסביר

החלטה בעלת השפעה גבוהה

אוטומטי לחלוטין

פיקוח אנושי הוא חובה

זכות הלקוח

לא דווח

התנגדות + ביקורת אנושית + הצדקה

טעויות נפוצות

• ההגנה "סטטיסטיקה היא אובייקטיבית". הצדקת אי צדק מהעבר.
• התעלמות מהפרוקסי. אפליה עקיפה על רקע שכונה/שם/מקצוע.
• החלטה לא אמינה עבור קבוצה לא מיוצגת. בהנחה שהשיעור המתקבל ממדגם קטן מדויק.
• החלטת הקופסה השחורה. יישום החלטה אוטומטית שלא ניתן להסביר את הסיבה לה.
• לא מכיר בזכות להתנגד. לא נותנים ללקוח את הזכות לעיון והצדקה אנושית.

לסיכום

בינה מלאכותית יכולה ללמוד אפליה בנתונים היסטוריים ולהמשיך אותה בעקיפין (באמצעות פרוקסי) בתמחור ובחיתום. בדוק את ההוגנות באופן פעיל: זיהוי נכסים וייפוי כוח מוגנים, בדיקת הצדקה ללגיטימיות ולהסבר. SEDDK, KVKK ועקרונות קבלת החלטות אוטומטיות; תמחור הוגן דורש הסבר, ביקורת אנושית וזכות להתנגד. שליטה אנושית חיונית בהחלטות בעלות השפעה רבה. במקרה הספציפי, יש להתייעץ עם מחלקת המשפטים/ציות; אפליה היא הקו האדום.

משימת יישום

כתוב רשימה של 10 משתנים שמודל תמחור משתמש בו (בפועל או דוגמה). עבור כל אחד, ענה על השאלה "האם זה יכול להיות מיופה כוח לנכס מוגן"; סמן את החשודים. לאחר מכן שים צידוק דחייה לדוגמה דרך מבחן חוקיות מס' 2: האם הוא עובר את המבחן, ואם לא, איך מחליפים אותו בקריטריון לגיטימי?

רשימת בדיקה

• [ ] ציינתי מאפיינים מוגנים.
• [ ] סרקתי את המשתנים עבור פרוקסי.
• [ ] העמדתי את ההצדקה למבחן הלגיטימיות והסבירות.
• [ ] ערכתי בדיקות מהימנות לקבוצות שאינן מיוצגות.
• [ ] הוספתי שליטה אנושית בהחלטת ההשפעה הגבוהה.
• [ ] תיעדתי את הרציונל ונתתי ללקוח את הזכות להתנגד/ביקורת אנושית.
• [ ] כאשר היה ספק, התייעצתי עם מחלקת המשפטים/ציות.