רווחים:
- יכולת לקשור עקרונות בינה מלאכותית אחראית (הוגנות, שקיפות, אחריות, פרטיות, פיקוח אנושי, אבטחה, קיימות) להחלטות קונקרטיות
- יכולת לבחון צדדים מושפעים והטיה על ידי הפרדת אתיקה מציות לחוק והבחנה בין 'אנחנו יכולים' ו'אנחנו צריכים'
- יכולת לצמצם תרחישי ניצול לרעה מראש על ידי הטמעת שקיפות, ניטור אנושי ומשיכה בעיצוב
סטארט-אפ בינה מלאכותית יכול להיות מושלם מבחינה טכנית, רווחי כלכלית ובעל קיימא מבחינה משפטית; אבל זה עדיין יכול להיות שגוי. האתיקה היא ההבדל בין "אנחנו יכולים" ל"אנחנו צריכים". עבור מנהל בכיר, אתיקה אינה עניין של קישוט או יחסי ציבור; הבסיס הוא השומר על האמינות, המוניטין והלגיטימציה החברתית של המוסד לאורך זמן. ביחידה זו תלמדו את עקרונות הבינה המלאכותית האחראית (גישה לפיתוח ושימוש בבינה מלאכותית בצורה הוגנת, שקופה, אחראית ומכבדת את כבוד האדם) וכיצד לשקף אותם בהחלטות יומיומיות.
עקרונות בסיסיים של AI אחראי
מסגרות שונות נפגשות על עקרונות דומים. סיכום מעשי למנהל:
עקרון
למה אתה מתכוון?
שאלת מנהל
צדק
אי אפליה
האם זה משפיע בצורה לא הוגנת על קבוצה?
שקיפות
להיות מובן
האם נוכל להסביר את הסיבה להחלטה?
אחריות
זיהוי מי אחראי
מי אחראי אם מתרחשת שגיאה?
פרטיות
כבוד לנתונים אישיים
האם יש לנו זכות להשתמש בנתונים?
מעקב אנושי
נשאר בשליטה
האם אפשר להתנגד ולעצור את זה?
אבטחה
לא להזיק
האם ניתן לנצל זאת לרעה?
קיימות
השפעה סביבתית/חברתית
על מי אנחנו מטילים את העלות?
עקרונות אלה אינם מופשטים; ניתן לקשר כל אחד מהם להחלטה קונקרטית. לדוגמה, "שקיפות" פירושה להודיע ללקוח שהוא מדבר עם AI; "פיקוח אנושי" פירושו עריכת סקירה אנושית לשלילת הלוואה ולהשאירה פתוחה לערעור.
טיפ: בכל החלטה בעלת השפעה גבוהה של AI, שאל שאלה אחת: "האם אני יכול להסביר בבירור ולעמוד מאחורי ההחלטה הזו לאדם שנפגע בצורה השלילית ביותר?" אם התגובה פוגעת, יש בעיה אתית.
האתיקה שונה מחוק
הבחנה קריטית: ציות לחוק (יחידה 9) היא המינימום המינימלי; האתיקה היא קו גבוה יותר. משהו אולי חוקי אבל לא מוסרי. לדוגמה, לא ניתן לאסור על אפליקציה להשתמש בבינה מלאכותית כדי לתמרן את התנהגות המשתמש, אבל זה לא אתי. מוסדות אחראיים "האם זה אסור?" לא "האם זה נכון?" הוא שואל.
צעד אחר צעד: הטמעת אתיקה בהחלטה
1. זיהוי הצדדים המושפעים. מי מושפע מיוזמה זו? (לקוח, עובד, חברה, קבוצות מוחלשות)
2. סרוק עם מדיניות. ספק את היוזמה במונחים של כל אחד מהעקרונות לעיל.
3. בדוק משוא פנים ונזק. האם המודל משפיע בצורה בלתי הוגנת על קבוצות מסוימות? מהם תרחישי ההתעללות?
4. הוסף שקיפות ופיקוח. דווח על שימוש בבינה מלאכותית, בלי להשאיר דרך להתנגדות אנושית.
5. מסמכים וסקירה. שמור הערכה אתית; בדוק שוב מדי פעם.
שלושה מיני תיקים
מקרה 1 - חוקי אך שגוי. אפליקציה השתמשה בבינה מלאכותית כדי ליצור התראות ממכרות כדי לשמור על משתמשים באפליקציה זמן רב יותר. לא היה שום מכשול משפטי, אבל כאשר דווח על כך בעיתונות, נגרם אובדן מוניטין חמור; המיקוד שלה למשתמשים צעירים במיוחד גרר ביקורת. החברה הסירה את התכונה. אם המסנן האתי היה מההתחלה, הסיכון הזה היה נראה.
מקרה 2 - שווי מבחן ההגינות. מודל ניקוד האשראי של בנק נתן באופן שיטתי ציונים נמוכים יותר לבקשות מקבוצות מוגנות. זה נתפס בביקורת צדק. המודל עוצב מחדש ונבדק באופן קבוע כדי להבטיח שוויון בין קבוצות בתוצאותיו. העיקרון האתי (צדק) הפך למבחן קונקרטי ומנע פגיעה ממשית.
מקרה 3 - שקיפות בנתה אמון. חברת מסחר אלקטרוני שמה את המשפט "עוזר לבינה מלאכותית עוזרת לך, אתה יכול להתחבר לנציג אנושי בכל עת" בתחילת הצ'טבוט של תמיכת הלקוחות שלה. שקיפות ויציאה אנושית לא הפחיתו את שביעות הרצון; להיפך, זה הגביר את הביטחון והתלונות ירדו ב-15%. שקיפות שנעשתה נכון הייתה ערך, לא עלות.
ארבע תבניות הניתנות להעתקה
1) מיון אתי:
תפקידך: יועץ AI אחראי. סרוק יוזמה זו עבור 7 עקרונות: הוגנות, שקיפות, אחריות, פרטיות, פיקוח אנושי, אבטחה, קיימות. עבור כל פוליסה, כתוב סיכון אחד והמלצה אחת. יוזמה: [טקסט]
2) ניתוח צד מושפע:
רשום את כל הצדדים המושפעים מיוזמת AI זו (לקוח, עובד, חברה, קבוצות מוחלשות). רשום את ההשפעות החיוביות והשליליות האפשריות עבור כל צד; סמן את הקבוצה בעלת הסבירות הגבוהה ביותר להיפגע. יוזמה: [טקסט]
3) תרחיש התעללות:
צור 5 תרחישים שבהם ניתן להשתמש לרעה בתכונת הבינה המלאכותית הבאה (כולל מניפולציה, אפליה, הפרת פרטיות, הונאה). הצע החלטה עיצובית מונעת עבור כל תרחיש. תכונה: [טקסט]
4) בקרת שקיפות ומעקב:
כתוב תוכנית שקיפות ופיקוח אנושי על AI מול לקוחות ש: מה יועבר למשתמש וכיצד; איך אפשר להעביר את זה לבני אדם? כיצד הוא יכול להתנגד להחלטה? שימוש: [טקסט]
הנחיה חלשה / הנחיה חזקה
חלש: "האם זה AI אתי?"
תוצאה: "כן/לא" שטחי; איזה עיקרון, מי מושפע, איזה מידה לא ברור.
סטרונג: "אנחנו שוקלים להשתמש בבינה מלאכותית בכלי מיון מוקדם לגיוס (האדם יקבל את ההחלטה הסופית). סנן את זה לעקרונות של הוגנות, שקיפות, אחריות ופיקוח אנושי. כתוב בצורה קונקרטית אילו קבוצות של מועמדים עלולות להיות מושפעות באופן בלתי הוגן, אילו מבחני הטיה עלי לעשות, וכיצד מועמדים יכולים לערער על ההחלטה".
תוצאה: הערכה מעשית מבוססת עקרונות המזהה את הצד המושפע ומציעה בדיקה וערעור.
טעויות נפוצות
- מבלבל בין אתיקה לציות לחוק. לא כל מה שהוא חוקי הוא אתי; האתיקה היא קו גבוה יותר.
- משאירים את האתיקה לנצח. קבלת "אישור אתיקה" לאחר תכנון מאוחר מדי; אתיקה חייבת להיות מוטבעת בעיצוב מההתחלה.
- לא בודק את הצדק. ההנחה ש"המודל שלנו ניטרלי" מסוכנת; לא ניתן לדעת ללא מדידה.
- טועים בשקיפות בעלות. שקיפות שנעשתה נכון מגבירה אמון וערך.
- שמירה על הצדדים המושפעים צרים. חשיבה רק על הלקוח והתעלמות מהעובד, החברה והקבוצות המוחלשות יוצרת נקודה עיוורת.
זהירות: השארת הערכה אתית לחלוטין לבינה מלאכותית היא סותרת ומסוכנת. בינה מלאכותית יכולה לעזור להעלות שאלות אתיות, אבל השיפוט הערכי, ההקשר התרבותי והאחריות המוסרית הסופית מוטלים על האדם. העמדה האתית של ארגון נקבעת על ידי בחירות מודעות של אנשים, לא על ידי "ה-AI אמר זאת".
לסיכום
האתיקה היא ההבדל בין "אנחנו יכולים" ל"אנחנו צריכים" ומגינה על האמינות ארוכת הטווח של הארגון. AI אחראי; הוא מבוסס על עקרונות של צדק, שקיפות, אחריות, פרטיות, פיקוח אנושי, ביטחון וקיימות. עקרונות אלה אינם מופשטים; זה מתורגם להחלטות קונקרטיות כמו זיהוי הצדדים המושפעים, בדיקת הטיה, מתן שקיפות והוספת פיקוח אנושי. האתיקה שונה מהחוק והיא קו גבוה יותר; אי אפשר להשאיר את זה לסוף, זה חייב להיות מוטבע בעיצוב. ביחידה הבאה, נדון בציות, שהוא המקבילה המשפטית לאתיקה, במיוחד חוק ה-AI של האיחוד האירופי ו-KVKK.
משימת יישום
בחר סטארט-אפ בינה מלאכותית בעלת השפעה גבוהה. עם תבנית 2, רשום את כל הצדדים המושפעים וסמן את הקבוצה בעלת הסבירות הגבוהה ביותר להיפגע. עם תבנית 1, סרוק את היוזמה עבור שבעת העקרונות. הגדירו אמצעי קונקרטי (מבחן הוגנות, הודעת שקיפות, מסלול ערעור וכו') לשני הסיכונים האתיים הקריטיים ביותר. לבסוף, "האם אוכל להסביר את ההחלטה הזו לאדם שנפגע בצורה השלילית ביותר?" ענה על השאלה בכנות.
רשימת בדיקה
- [ ] זיהיתי את כל הצדדים המושפעים.
- [ ] בדקתי את הסטארט-אפ עם שבעה עקרונות של AI אחראי.
- [ ] תכננתי מבחן להטיה/הוגנות.
- [ ] עיצבתי את הצהרת השקיפות.
- [ ] לא השארתי דרך לפיקוח אנושי ולערעור.
- [ ] חשבתי על תרחישי התעללות.
- [ ] "האם אני יכול להסביר את זה למי שהשפיע בצורה השלילית ביותר?" עברתי את המבחן.