זרימת עבודה מקצה לקצה, ניהול מודלים וביקורת עצמית

רווחים:

• יכולת להפעיל בצורה מאובטחת משימה בנקאית מקצה לקצה עם המחזור "AI מייצר → מומחה מאמת → מורשה מחליט"
• יכולת הטמעה בטוחה של בינה מלאכותית במסגרת של ממשל מודל, אימות, ניטור ושיפור מתמיד
• יכולת לקחת אחריות סופית על ידי בדיקה עצמית של הפלט שלהם עם חמש שאלות מפתח (אימות, מקור, סודיות, הגינות, אישור)

לאורך מודול זה, אנו ממצבים את AI כעוזר ומחולל שרטוטים בכל פינה בבנקאות - אשראי, הונאה, פילוח, שירות לקוחות, ציות, דיווח, ניתוח פיננסי. ביחידה הסופית הזו, מרכיבים את החלקים: איך אתה מפעיל משימה בנקאית מתחילתה ועד סופה בלולאה מאובטחת, איך מודל ממשל ממסגר את הלולאה הזו, ואיזה חמש שאלות אתה בודק בעצמך כל פלט? המטרה היא לזקק את מה שלמדת לרפלקס אחד: AI מייצר → מומחה מאמת → מומחה מחליט. מחזור זה הוא הדרך לשמור על מהירות ואבטחה בו זמנית.

לולאה מקצה לקצה: שלוש טבעות

חשבו על כל משימה בנקאית כעל שרשרת תלת-חולית:

1. AI מייצר (טבעת טיוטה): אנונימי, עם נתונים מינימליים, ה-AI מקבל את משימת הטיוטה/בדיקה - סיכום, נימוק לטיוטה, התראה, טיוטת חשבון. אין כאן החלטה, רק החומר.
2. מומחה מאמת (טבעת סינון): הפלט מקושר למקור, המספרים מחושבים מחדש, מסוננים באמצעות מדיניות/חקיקה והגינות. הזיה, אפליה ופגיעה בפרטיות מבוטלים כאן.
3. הרשות מקבלת החלטה (טבעת חתימה): פסק דין סופי - קרדיט, STR, החלטת הונאה, חתימת דיווח - נעשה על ידי אדם/וועדה מורשית; הצדקה ושביל ביקורת נרשמים.

קווסט

AI מייצרת

המומחה מאשר

החלטה מוסמכת

אשראי

טיוטת נימוק

יחס/מקור/הוגנות

החלטת הקצאה

הונאה

אזהרת חריגות

הקשר/אישור לקוח

פסיקה חסימה/חופשית

AML

תבנית/התאמה

בדיקת אי התאמה

החלטת STR

דווח

טיוטת טקסט/מספר

אימות מספרי

חתימה

ניתוח

טיוטת דרג/הערה

חישוב/הנחה מחדש

חוות דעת השקעות/אשראי

טיפ: הקישור שדילג עליו בתדירות הגבוהה ביותר בלולאה הוא ה"אימות" האמצעי. בלחץ אנשים קופצים מטיוטה להחלטה. עם זאת, זו בדיוק הטבעת האמצעית שקובעת גם את הערך וגם את הסיכון. דילוג על אימות מפר את המעגל.

ממשל מודל: המערכת שממסגרת את הלולאה

מעבר למשימות בודדות, על הבנק לנהל את המודלים שלו כמכלול. מודל ממשל מורכב מהמרכיבים הבאים:

• אימות: המודל נבדק באופן עצמאי לפני שהוא נכנס לשימוש; הדיוק, הצדק והגבולות שלו נמדדים.
• ניטור: המודל עשוי להידרדר עם הזמן (סחף נתונים - הביצועים יורדים כאשר התפלגות הקלט משתנה). זה במעקב כל הזמן.
• תיעוד: מה המודל עושה, עם אילו נתונים הוא מאומן, גבולותיו והאחראים מתועדים.
• תפקיד ואחריות: מי מייצר, מי מוודא, מי מחליט מוגדר בבירור.
• סקירה ושיפור: שגיאות נרשמות, המודל מוערך מחדש מעת לעת.

זהירות: דגם שעובד טוב לא יעבוד טוב לנצח. תנאים כלכליים, התנהגות לקוחות וטקטיקות הונאה משתנות; אם המודל לא יכול לעמוד בקצב שלהם, הוא מתחיל לזייף בשקט. ללא ניטור, השפלה זו אינה מורגשת.

בדיקה עצמית של חמש שאלות

לפני השימוש בכל פלט AI, שאל את עצמך את חמש השאלות הבאות:

1. אימות: האם חיברתי את הפלט הזה למקור וחישבתי מחדש את המספרים הקריטיים?
2. מקור: האם כל טענה מבוססת על מסמך/נתונים/כלל אמיתיים, או שאפשר להמציא אותה?
3. פרטיות: האם נתוני זהות אנונימיים, משתמשים במינימום נתונים ובכלים מאושרים?
4. הוגנות: האם הפלט מכיל אפליה על ידי רכוש מוגן או משתנה חלופי?
5. אישור: האם ההחלטה הסופית שהתקבלה על ידי הגורם המוסמך, הרציונל ושביל הביקורת נרשמו?

אם אפילו אחד מהחמישה הוא "לא", הפלט אינו מוכן לשימוש.

ארבע תבניות הניתנות להעתקה

1) תוכנית משימה מקצה לקצה:

תפקידך: עוזר שעוזר לי לתכנן משימה בנקאית בלולאה המאובטחת.משימה: [משימה]. מלאו אותי בשלוש הטבעות הללו: (1) איזו טיוטה תפיק הבינה המלאכותית, (2) אילו שלבי אימות יבצע המומחה, (3) איזו החלטה יקבל הפקיד ויתעד? הצעת החלטה; מופיע שלד התהליך.

2) אפליקציית שליטה עצמית עם חמש שאלות:

בדוק את הפלט הבא של AI עם חמש שאלות: אימות, מוצא, פרטיות, הוגנות, אישור. עבור כל שאלה, הערך "בסדר / לא שלם / מסוכן" וכתוב כיצד לתקן את הליקויים. פלט: [טקסט]

3) הערה לבדיקת מעקב מודל:

תפקידך: עוזר ממשל מודל. עבור מודל תמיכת החלטות שאנו משתמשים בו, הפוך את האינדיקטורים שיש לנטר באופן קבוע (ביצועים, הוגנות בין קבוצות, אותות סחיפת נתונים, רשומות שגיאות) לרשימת בדיקה. קבלת החלטות; הצע מסגרת ניטור.

4) סגירת תיק ומסלול ביקורת:

נסחו הערת סיום לשביל הביקורת בתום התקשרות: איזו טיוטה הופקה, אילו אימותים בוצעו, איזו החלטה התקבלה על ידי מי, באיזו הצדקה. השתמש רק במידע מאומת שאני מספק. קלט: [מידע]

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

אתה מטפל במשימה הזו מתחילתה ועד סופה ונותן לי את התוצאה כהחלטה מוכנה, אז אני לא אתעסק בפרטים.

הוא מצמצם שלוש צלצולים לשלב אחד, עוקף את האימות והשיפוט האנושי ומטשטש אחריות.

הנחיה עוצמתית:

תפקידך: עוזר תהליכים, לא מקבל החלטות. תחילה הפק את המתווה למשימה, לאחר מכן רשום את הנקודות שעליי לאמת, ובסוף תזכיר לי שההחלטה ושביל הביקורת הם שלי. הוסף חמש שאלות בדיקה עצמית (אימות, מקור, סודיות, הגינות, אישור) לפלט.

הרצון החזק מגן על שלוש הטבעות, דורש אימות ומשאיר את ההחלטה לאדם.

שלושה מיני תיקים

מקרה 1 - המחזור פועל במלואו. בבקשת הלוואה, AI מייצר טיוטת נימוק (טבעת 1); מומחה מחשב מחדש תעריפים, בודק הצדקה להגינות, מנקה ביטוי משתנה פונדקאי (טבעת 2); הפקיד מקבל את החלטת ההקצאה ומתעד את מסלול הביקורת (טבעת 3). תוך 20 דקות מסתמנת החלטה בטוחה וניתנת להגנה.

מקרה 2 - ניטור לוכד השפלה. בעוד שדפוס הונאה עובד היטב במשך חודשים, שיעור התפיסה יורד בשקט בגלל טקטיקה חדשה של הונאה. ניטור תחת מודל ממשל מבחין בירידה זו; הדגם מעודכן. ללא ניטור, ההפסדים ימשיכו לגדול.

מקרה 3 - שליטה עצמית מונעת הפרה. אנליסט עומד לשלוח ישירות את פלט הבינה המלאכותית לדוח מהיר. הוא מיישם חמש שאלות: הוא שם לב שנתון רווח אינו מאושר בשאלת ה"מקור". בקרות ממקור; המספר שגוי. 30 שניות של בדיקה עצמית מונעות שליחת תמונה כוזבת להנהלה.

בהירות תפקידים: מי מפיק, מי מוודא, מי מחליט

מחזור שלוש הטבעות בטוח רק כאשר התפקידים ברורים. התקלה הנפוצה ביותר היא האזור המטושטש שבו "כולם אחראים אבל אף אחד לא אחראי": הטיוטה הופקה על ידי ה-AI, אף אחד לא אימת אותה במלואה, וההחלטה נותרה ללא השגחה כי היא "עזבה את המערכת". הפער הזה הוא המקום שבו הטעויות נכנסות הכי קלות.

בסיפורת בריאה, לכל טבעת יש בעלים:

• מחולל (עוזר + משתמש): אנונימי, אדם המבקש את הטיוטה ומכין את הערך במינימום נתונים.
• מאמת (מומחה): מישהו שמקשר את הפלט למקור, מחשב מחדש את המספרים ומסנן אותו לצורך הגינות וסודיות. אף פעם לא מדלגים על התפקיד הזה.
• מקבל החלטות (רשות/וועדה): הרשות שמקבלת את ההחלטה הסופית וחותמת על נתיב ההצדקה והביקורת.

לפעמים אותו אדם לוקח על עצמו מספר תפקידים; זו לא בעיה, כל עוד אתה מוודא שכל קישור נעשה במודע ומוקלט. הבעיה היא שטבעת נשארת ריקה מתוך הנחה ש"מישהו בטח עשה את זה".

טיפ: לאחר קבלת החלטה, שאלו את עצמכם "מי הבעלים הבלעדי של ההחלטה הזו?" לִשְׁאוֹל. אם התשובה אינה שם ברור, זה אומר ששרשרת האחריות נשברת; הפעל מחדש את הלולאה.

טעויות נפוצות

• דילוג על הטבעת האמצעית. מעבר ישירות מטיוטה להחלטה ודילוג על אימות.
• הטלת האחריות על הדגם. אומרים "AI יטפל בזה" ולא הבעלים של ההחלטה הסופית והחתימה.
• חושבים להגדיר את הדגם ולשכוח אותו. עזיבת המודל שעבד היטב לאחר שהפסיקו אותו; לא רואה סחף של נתונים.
• לא עוזב עקבות ביקורת. לא מתעד מי קיבל איזו החלטה ולמה.
• עקיפת שליטה עצמית. שימוש בפלט מבלי לשאול את חמש השאלות.

טיפ: הפוך את חמש השאלות לבדיקה עצמית להרגל; זה הופך אוטומטי עם הזמן ולוקח שניות. רבות מהטעויות הגדולות מתרחשות כאשר שניות ספורות אלו של שליטה מתפספסות.

לסיכום

השימוש בבינה מלאכותית בטוחה בבנקאות הוא מחזור של שלוש טבעות: בינה מלאכותית מייצרת, מומחה מוודא, הסמכות מקבלת החלטות. ממשל מודל (תיקוף, ניטור, תיעוד, אחריות, שיפור) מסגר מעגל זה. בדוק בעצמך כל פלט עם חמש שאלות - אימות, מקור, סודיות, הגינות, אישור; אם אפילו אחד חסר, הפלט אינו מוכן. הדגם עלול להתקלקל; ניטור חיוני. האחריות תמיד מוטלת על האדם. במשפט אחד: בינה מלאכותית היא החוליה הראשונה במחזור; אימות והחלטה סופית הם הטבעות של האיש המוסמך שיכול לתת דין וחשבון.

משימת יישום

בחר משימה מהעסק שלך וצור תוכנית מקצה לקצה עם שלוש טבעות עם תבנית 1: מה יפיק הבינה המלאכותית, מה יאמת המומחה, מה הרשות תתעד ותחליט. לאחר מכן כתוב פלט AI לדוגמה עבור המשימה הזו, החל את הבדיקה העצמית בת חמש השאלות עם התבנית השנייה ותקן את הליקויים. לבסוף, צור רשימת מעקב עם תבנית 3 עבור כלי תמיכה להחלטות שבו אתה משתמש.

רשימת בדיקה

• [ ] בניתי את המשימה ללולאה של שלוש טבעות (ליצור / לאמת / להחליט).
• [ ] לא דילגתי על הקישור האמצעי (אימות); בדקתי את המקור והמספרים.
• [ ] שלחתי חמש שאלות שליטה עצמית; אם היה חסר משהו, הייתי הולך.
• [ ] עברתי את מסנני הפרטיות וההגינות.
• [ ] לקחתי בחשבון את הסיכון של מעקב אחר מודלים ושחיתות.
• [ ] לקחתי אחריות על ידי רישום ההחלטה הסופית, הצדקתה ושביל הביקורת.

מבחן מודול

1. מומחה אשראי מעביר ללקוח את סיבת דחיית ההלוואה שנוצרה מבינה מלאכותית מבלי לבדוק זאת. מהי הטעות הבסיסית בגישה זו?

• א) לא ניתן להשתמש בפלט של בינה מלאכותית ללא אימות; יש לעיין ולאשר את טיוטת הנמקת ההחלטה על ידי המומחה המוסמך ✔
• ב) בינה מלאכותית תמיד נותנת את ההלוואה כשלילית
• ג) יש לומר ללקוח רק את הציון במקום את הסיבה
• ד) ההצדקה הייתה צריכה להיות מועברת ללקוח בטלפון במקום במייל.

הסבר: בעוד שבינה מלאכותית יכולה לייצר הצדקה עקבית, היא גם יכולה לייצר הצדקה שגויה ואף מפלה באותו ביטחון המבוסס על נתונים שגויים או הנחות שגויות. בנקאות היא תחום מוסדר, קריטי לאמון; כל פלט חייב להיות מאומת על ידי מומחה, והחלטת הקצאת האשראי וההצדקה הסופית חייבים להיות שייכים לגורם המורשה.

2. מהי ההתנהגות הטובה ביותר מבחינת סודיות (KVKK וסוד לקוח) בעת העברת תנועות בחשבון הבנק של לקוח לכלי בינה מלאכותית?

• א) יש להעלות את שמו המלא של הלקוח ואת דף החשבון כפי שהוא לצורך מהירות.
• ב) על ידי הסרת מידע מזהה אישי ואנונימיזציה של נתונים, יש לשתף רק את המידע המינימלי הדרוש בכלי מאובטח מאושר ✔
• ג) אם הנתונים מוצפנים, ניתן לשלוח גם את השם ומספר החשבון לכל רכב
• ד) מכיוון שהמטרה טובה, ניתן לשתף את כל התמליל מבלי לשאול את הלקוח

הסבר: נתונים פיננסיים של לקוחות הם נתונים אישיים וגם סוד לקוחות במסגרת דיני הבנקאות. יש להסיר מידע מזהה כגון שם, מזהה TR, מספר חשבון ולהפוך את הנתונים לאנונימיים; יש לשתף את הנתונים המינימליים הנדרשים למשימה ולהשתמש רק בכלים מאובטחים שאושרו על ידי המוסד.

3. בינה מלאכותית מייצרת הצדקה להחלטה של ​​מודל ניקוד אשראי, כגון 'דחייה כי השכונה בה מתגורר המבקש מסוכנת'. מה על המומחה לעשות?

• א) הרציונל משמש כפי שהוא מכיוון שהמודל מבוסס על סטטיסטיקה
• ב) מידע המחוזי משוקלל נוסף וההחלטה מתחזקת.
• ג) זו עשויה להיות אפליה עקיפה באמצעות משתנה פרוקסי; יש לדחות את ההצדקה ולהתבסס על קריטריונים לגיטימיים וניתנים להסבר ✔
• ד) הסיבה לא מסופרת ללקוח, היא רק נשמרת בתיק, לא תהיה בעיה.

הסבר: מחוז מגורים עשוי להיות משתנה פרוקסי הקשור מאוד למוצא אתני או למאפיינים מוגנים דומים, ויוצר אפליה עקיפה. הצדקה מסוג זה אינה מקובלת מבחינה משפטית ואתית; ההחלטה צריכה להתבסס על קריטריונים לגיטימיים, ניתנים להסבר וללא הפליה, ודין הצדקה זו להידחות.

4. במערכת גילוי הונאה, בינה מלאכותית מסמנת עסקה כ'סיכון גבוה'. מהי הגישה הטובה ביותר?

• א) האזהרה היא אות מיון מראש; יש להבחין בין הונאה אמיתית לבין אזעקת שווא על ידי בדיקת מומחה והשיפוט הסופי צריך להיעשות בצורה אנושית ✔
• ב) העסקה נחסמת באופן אוטומטי ולתמיד, בדיקה מיותרת
• ג) מתעלמים מהאזהרה כי רוב האזהרות הן שקריות
• ד) הלקוח נקרא ומאשים אותו ישירות

הסבר: אזהרת הבינה המלאכותית היא אות מיון ראשוני והסתברות, לא פסק דין סופי. על המומחה להבחין בין הונאה אמיתית לבין תוצאות כוזבות, לחקור מבלי לפגוע בלקוח, ולקבל את ההחלטה הסופית; האזהרה לא אמורה לחסום את החשבון באופן אוטומטי לצמיתות.

5. מה העלות של מספר רב של התראות חיוביות כוזבות בגילוי הונאה?

• א) חיובי כוזב לא עולה כלום, כמה שיותר אזהרות יותר טוב
• ב) יוצר מצוקת לקוחות ועייפות אזעקה; מגדיל את הסיכון להונאה אמיתית שלא יבחינו בו ✔
• ג) זה רק מגדיל את צריכת החשמל של המערכת
• ד) חיובי כוזב מתרחש רק בעסקאות לילה

הסבר: תוצאות כוזבות יוצרות אי נוחות וחוסר שביעות רצון על ידי הפרעה מיותרת של עסקאות של לקוחות לגיטימיים; זה גם יוצר עייפות התראה אצל האנליסטים, מה שמגביר את הסיכון שהונאה אמיתית תתעלם. לכן, יש לאזן ספים וכללים ולתעדף אזהרות.

6. מהו הגבול הכי קריטי מבחינה אתית בעת עיצוב פילוח לקוחות וקמפיינים מותאמים אישית?

• א) ככל שהקטעים צרים יותר כך טוב יותר, אין מגבלות אחרות
• ב) התאמה אישית היא רק סוגיה טכנית, היא אינה דורשת גבולות אתיים
• ג) יש להגן על זכאות, הסכמה ואי-אפליה; יש למנוע ניצול ומניפולציה של הלקוח הפגיע ✔
• ד) אם הקמפיין יישלח לכולם אותו דבר, לא יהיו בעיות אתיות.

הסבר: בעוד שניתן להשתמש בפילוח לטובת הלקוח (המלצת מוצר מתאים), ניתן להשתמש בו גם לניצול פגיעות (כגון שיווק אשראי נוסף ללקוח בעל חובות יתר). יש להגן על עקרונות ההתאמה, ההסכמה ואי ההפליה; התאמה אישית לא צריכה להפוך למניפולציה.

7. מהי מדיניות האבטחה הטובה ביותר עבור צ'אט בוט של שירות לקוחות?

• א) הצ'אטבוט אמור להיות מסוגל לבצע כל מיני עסקאות וייעוץ פיננסי בעצמו
• ב) מזרז מידע שגרתי; יש להאציל תלונות, עצות רגישות ועסקאות מורשות לבני אדם, אין לספק מידע לא מאומת ✔
• ג) Chatbot יכול לשתף את כל פרטי החשבון מבלי לאמת את זהות הלקוח
• ד) יש להסיר את אפשרות מסירת האדם כי היא מאטה את הצ'אטבוט.

תיאור: הצ'טבוט מזרז בבטחה מידע נפוצה ועסקאות שגרתיות, אך יש להאציל לעובד המורשה תלונות, ייעוץ פיננסי רגיש, עסקאות מורשות בחשבון ומצבים מעורפלים. בנוסף, הצ'אטבוט לא אמור לחשוף סודות לקוחות או לספק מידע לא מאומת.

8. בתהליכי AML/KYC, בינה מלאכותית מסמנת עסקה כחשודה. מהי הגישה הנכונה מבחינת דיווח על עסקאות חשודות (STR)?

• א) אם הדגם סומן, ההודעה צריכה להתבצע באופן אוטומטי, קצין הציות מיותר
• ב) מתעלמים מהאזהרה כי רוב העסקאות הן לגיטימיות
• ג) העסקה מדווחת מיד ללקוח שכן 'קיים חשד להלבנה'
• ד) פלט הדגם הוא מיון ראשוני וטיוטה; החלטת STR מתקבלת על ידי קצין הציות המוסמך, תוך שמירה על ההצדקה ומסלול הביקורת ✔

תיאור: ניטור וסריקה של עסקאות בינה מלאכותית מסמנים במהירות דפוסים שעלולים להיות חשודים, אך דיווח על עסקאות חשודות (STR/SAR) הוא החלטה עם השלכות משפטיות ומתקבלת על פי שיקול דעתו של קצין הציות המורשה. פלט הדגם הוא טיוטה ראשונית; יש לשמור על נתיב הביקורת וההצדקה.

9. בסינון רשימת הסנקציות / PEP (אדם חשוף פוליטית), הבינה המלאכותית תואמת שם, אך ייתכן שזו התאמה כוזבת. מהי הגישה הנכונה?

• א) יש לאשר התאמה עם מזהים נוספים (תאריך לידה, לאום); ההחלטה צריכה להתקבל על ידי קצין הציות ✔
• ב) די בדמיון שמות, הלקוח מוכרז מיד בסנקציות
• ג) כל ההתאמות נחשבות כוזבות ומתעלמות מהן
• ד) ההחלטה נתונה לצ'אטבוט

הסבר: סריקות שמות עשויות להפיק תוצאות חיוביות כוזבות עקב שמות דומים. על קצין הציות לאשר את ההתאמה עם תאריך לידה, לאום ומזהים אחרים; להכריז בטעות על סנקציה של לקוח או על החמצת התאמה אמיתית יש השלכות חמורות. ההחלטה היא של האדם.

10. הפקת טיוטת דוח ניהול עם בינה מלאכותית; הדוח כולל נתוני רווח רבעוניים. מהו השלב הקריטי ביותר לפני החתימה?

• א) יש לאמת מחדש את כל המספרים הקריטיים בדוח מול נתוני המקור; אחריות החתימה הסופית היא של האדם ✔
• ב) בינה מלאכותית נותנת מספרים ללא שגיאות, אימות זה בזבוז זמן
• ג) רק הפורמט מסומן כדי שהדוח ייראה יפה יותר.
• ד) הדיווח נשלח ישירות להנהלה הבכירה, הבקרה מתבצעת מאוחר יותר

הסבר: בינה מלאכותית עלולה להציג ערכים מספריים בצורה שגויה, להמציא אותם או לסכם אותם בצורה לא עקבית עם נתוני המקור. יש לאמת מחדש את כל המספרים הקריטיים מול נתוני המקור לפני החתימה על הדוח; למרות האוטומציה מספקת מהירות, האחריות החתימה הסופית היא של האדם.

11. בינה מלאכותית מנתחת את הדוחות הכספיים של חברה ואומרת 'החברה מאוד סולידית, בהחלט צריך לתת את ההלוואה'. מהי אחריותו של האנליסט הפיננסי?

• א) קבלת הטקסט כפי שהוא, כי בינה מלאכותית יודעת פיננסים ללא טעויות
• ב) חישוב מחדש של יחסים מטבלאות מקור והנחות חקירה; קבלת ההחלטה הסופית כאדם, הצהרת אי ודאות ✔
• ג) הצגת ההחלטה ישירות לוועדה כ'אושרה AI'
• ד) דחיית ההלוואה מבלי לקרוא את הניתוח כלל

הסבר: ניתוח פיננסי תלוי בהנחות ובדיוק הקלט; בינה מלאכותית עשויה לחשב שגוי שיעורים, להתעלם מנתונים חסרים או להשתמש בשפה מדויקת מדי. על האנליסט לחשב מחדש תעריפים מטבלאות מקור, להטיל ספק בהנחות ולקבל את החלטת האשראי הסופית באופן אנושי, תוך ציון אי ודאות.

12. בעוד שמודל אשראי עשוי שלא להשתמש ישירות במאפיין מוגן כגון מגדר או אתניות, הוא עשוי לשקף אותם בעקיפין באמצעות מיקוד ונתוני קניות. איך קוראים למצב הזה ולמה זה מסוכן?

• א) זה נקרא לימוד יתר ורק יפחית את הדיוק
• ב) זה נקרא דליפת נתונים וזה רק בעיית מהירות
• ג) זה נקרא אפליה עקיפה באמצעות משתנה פרוקסי; אינו חוקי ויש לבדוק אותו במבחני הגינות ✔
• ד) זה נקרא נורמליזציה ואינו מזיק לחלוטין

הסבר: משתנים המשויכים מאוד למאפיין מוגן נקראים משתני פרוקסי. גם אם המודל אינו משתמש ישירות בתכונה המוגנת, הוא יכול להפלות בעקיפין באמצעות פרוקסי. זה גם לא חוקי וגם לא אתי; יש לבדוק מודלים עם מדדי הוגנות ויש לשלוט בסיכון פרוקסי.

13. בנק משתמש במודל של בינה מלאכותית בהחלטות אשראי. מהי אחת הדרישות הבסיסיות ביותר מבחינת חקיקה וביקורת?

• א) ככל שהדגם מורכב ובלתי מובן יותר, כך הוא בטוח יותר
• ב) שמירה מיותרת, ניתן להסביר החלטות בעל פה
• ג) יש להסיר את זכותו של הלקוח להתנגד כי היא מאטה את התהליך
• ד) המודל צריך להיות בר הסבר, יש לשמור את הצדקת ההחלטה ואת נתיב הביקורת, לתת ללקוח זכות להתנגד/ביקורת אנושית ✔

הסבר: בתהליכי החלטה מוסדרים, המודל חייב להיות בר הסבר, יש לתעד את הרציונל להחלטה, לשמור רישום (שביל ביקורת) ולתת ללקוח את הזכות להתנגד/לבקש ביקורת אנושית. ההחלטה הלא מוצדקת של מודל 'קופסה שחורה' אינה ניתנת לביקורת ואינה תואמת את החקיקה.

14. כיצד מתאר עקרון המפתח המודגש לאורך המודול את תפקידה של בינה מלאכותית בבנקאות?

• א) בינה מלאכותית יכולה להחליף בנקאים מנוסים ולסיים הלוואות והודעות בעצמה
• ב) בינה מלאכותית משמשת רק לשיווק, לא לקבלת החלטות
• ג) פלט בינה מלאכותית בטוח גם ללא אימות מכיוון שהוא מבוסס על סטטיסטיקה
• ד) בינה מלאכותית היא עוזר ומחולל טיוטה; הקצאת אשראי, פסיקת הונאה/ציות והחלטה סופית בידי הגורם המוסמך ✔

תיאור: בינה מלאכותית מאיץ משימות שחוזרות על עצמן כעוזר, מיון מראש ומחולל טיוטה; אך מכיוון שאנו עובדים בתחום מוסדר, קריטי לאמון, ההחלטה הסופית לגבי הקצאת אשראי, מתן הונאה/ציות והלקוח היא באחריות הגורם המוסמך (בנקאי מורשה וועדת החלטות). פלט לא מאומת הוא טיוטת החלטה לא חתומה.