רווחים:
- רשום את העקרונות הבסיסיים של שימוש ב-AI אחראי
- יכול להסביר מדוע שליטה אנושית היא הכרחית
- יכול ליצור צ'ק רשימת שימוש אחראי לעבודה שלו
במודול זה למדנו מה זה AI, איך הוא עובד, נקודות החוזק, החולשות, הסיכונים וזרימת העבודה שלו. ביחידה זו אנו משלבים את כל אלו במסגרת מעשית בכותרת שימוש אחראי. AI הוא כלי רב עוצמה; אך כוחו הופך לסיכון כאשר הוא אינו מאוזן עם אחריותו של האדם המשתמש בו. "שימוש אחראי" עשוי להישמע כעיקרון אתי מופשט; עם זאת, הוא מורכב מהרגלים יומיומיים מאוד קונקרטיים. ביחידה זו נכניס את ההרגלים הללו למסגרת פשוטה וקליטה.
חמישה עקרונות בסיסיים של שימוש אחראי
1. לאנשים יש את המילה האחרונה
זהו העיקרון הבסיסי ביותר. AI מייצר המלצה; אנשים נושאים בהחלטה ובאחריות. במיוחד בנושאים בעלי השפעה רבה כמו כסף, בריאות, חוק, תעסוקה ומוניטין, לעולם אין ליישם את הפלט של AI ללא פיקוח. "המכונה אמרה לי" היא אף פעם לא תירוץ תקף.
2. אמת, ואז אמון
זכור את יחידת ההזיה. אל תשתמש בעובדות הניתנות לאימות שנוצרו על ידי AI (מספר, תאריך, שם, מקור) מבלי לאשר אותן באופן עצמאי. שפה שוטפת ובטוחה אינה הוכחה לדיוק.
3. הגן על הפרטיות
יישם את העיקרון ביחידת פרטיות הנתונים: אין לכתוב נתונים אישיים, סודות מסחריים ומידע סודי במדיה ציבורית; לעשות אנונימי במידת הצורך ולציית למדיניות החברה שלך.
4. לשמור על הצדק
היו מודעים להטיה: ודא שהפלט אינו מוציא או סטריאוטיפי באופן בלתי הוגן קבוצות מסוימות; לפקח על מגוון עיניים על החלטות בעלות השפעה.
5. היו שקופים
אל תציג מצג שווא שאתה משתמש בבינה מלאכותית. הצהרה הולמת כי תוצר מפתח הוכן בעזרת AI, המבוסס על ההקשר העסקי והמדיניות הארגונית, בונה אמון.
הערה: חמשת העקרונות הללו משלימים זה את זה. לא מספיק ליישם רק אחד; לדוגמה, אם אתה שם לב לפרטיות ומדלג על אימות, אתה עדיין בסיכון.
מדוע שליטה אנושית הכרחית?
AI לא יכול לקחת אחריות; כשהוא עושה טעות, לא הוא משלם את המחיר, אלא האדם והמוסד שמשתמשים בו. בנוסף, AI לא יכול לראות את ההקשר המלא (מדיניות תאגיד, יחסים, רגישות מגזרית, מצב ספציפי כרגע). שליטה אנושית; היא גם קובעת את הסמכות שתישא באחריות המשפטית וגם היא המסנן שתופס את הנקודות העיוורות של הדוגמנית (הזיה, הטיה, חוסר תקינות). ככל שהביקורת קרובה יותר להחלטה בעלת השפעה רבה, כך היא צריכה להיות מחמירה יותר.
רמת ביקורת לפי סיכון
סוג משימה
דוגמה
בדיקה נדרשת
השפעה נמוכה
טיוטת ממו פנימית, סיעור מוחות
סקירה קלה
השפעה בינונית
מייל יוצא, סיכום דיווח
קריאה מדוקדקת + בדיקת עובדות
השפעה גבוהה
החלטה משפטית/פיננסית/בריאותית/תעסוקתית
אימות מומחה + אישור בכתב
גישה חלשה / גישה חזקה
גישה חלשה: יישם החלטה בעלת השפעה רבה (למשל הערכת עובד) על סמך הפלט של ה-AI ללא אימות.
תוצאה: ההזיה או הדעה הקדומה נושאים ישירות להחלטה המשפיעה על חייו של אדם.
גישה חזקה: השתמש ב-AI רק לתמיכה/טיוטה; נמק את ההחלטה בעצמך בראיות רלוונטיות, התייעץ עם המומחה הרלוונטי ותן אישור סופי בכתב.
תוצאה: אתה מרוויח מהמהירות, אבל האחריות וההגינות נשמרות.
שלושה מיני מארזים
מקרה 1 - רשימת בדיקה תפסה את השגיאה. כשהתחיל עם AI, צוות אחד הדפיס את חמשת העקרונות על כרטיס והניח אותם על השולחנות. עובד נתקל בשאלת ה"פרטיות" בהצעה שתישלח והבחין שהיא מכילה שם של לקוח והפך אותו לאנונימי. רשימה פשוטה מנעה פריצה אפשרית.
מקרה 2 - "המכונה אמרה זאת" לא עבד. עובד אחר החיל מידע רגולטורי שגוי שניתן על ידי ה-AI מבלי לאמת אותו, וכאשר נוצרה בעיה, הוא התגונן באומרו "זה מה שה-AI אמר". תירוץ זה לא התקבל; כי הוא זה שהשתמש והטמיע את הכלי. האחריות היא על המשתמש.
מקרה 3 - שליטה גמישה בהתאם לסיכון. כאשר מנהל משתמש במהירות בפלטי סיעור מוחות פנימיים; נדרש אישור מומחה + נימוק בכתב להחלטות בעלות השפעה כמו גיוס וביצועים. לפיכך, הוא האיץ גם עבודה בסיכון נמוך וגם הגביר את האבטחה בהחלטות קריטיות.
תבניות הניתנות להעתקה
לפני השימוש בפלט זה, שאל אותי חמש שאלות שימוש אחראי לפי הסדר ובקש ממני לסמן "בסדר / לא שלם" עבור כל אחת מהן: 1) האם הייתה ביקורת אנושית? 2) האם העובדות אומתו? 3) האם נשמרה סודיות? 4) האם זה הוגן וכולל? 5) האם אני מוכן להיות אחראי לתוצאה?
הערך את רמת ההשפעה (נמוכה/בינונית/גבוהה) של משימה זו והצע רשימה של שלבי ביקורת בהתאם. משימה: [כתוב משימה]
בפלט שלהלן, רשום את הנקודות המסוכנות (אמת, סודיות, הגינות, מחויבות) שאדם צריך בהחלט לבדוק, לפי סדר החשיבות. פלט: [הדבק כאן]
הכינו לי "קוד של שימוש אחראי ב-AI" קצר ואישי לתפקידי; הפוך את הפריטים לממוקדי פעולה וקלים לזכור. התפקיד שלי: [כתוב את התפקיד שלך]
רשימת בדיקה מעשית
שליטה
שאלה
ביקורת
האם סקרתי את הפלט הזה כאדם?
דִיוּק
האם אישרתי את העובדות (מספר, שם, תאריך) שבו?
פרטיות
האם כתבתי נתונים רגישים או אישיים לכלי?
צדק
האם התוצאה הוגנת וכוללת?
שקיפות
האם השימוש ב-AI מצוין ולא מטעה?
אחריות
האם אני מוכן להיות אחראי להשלכות של הפלט הזה?
התשובה לשאלה האחרונה צריכה להיות תמיד "כן"; כי כל עוד אתה זה שמשתמש בכלי, התוצאה היא שלך.
טעויות נפוצות
טעויות נפוצות
- יישום החלטה בעלת השפעה גבוהה ללא פיקוח. אישור מומחה ופיקוח בכתב חיוניים בכסף, בריאות, משפט ותעסוקה.
- זה אומר "המכונה אמרה את זה". האחריות אינה מחייבת את הכלי, אלא את האדם שמשתמש בו.
- החלת מדיניות באופן סלקטיבי. חמשת העקרונות הם שלם; אם אחד חסר, הסיכון נשאר.
- בצע את הבדיקה תמיד באותה קפדנות. בקרת קנה מידה בהתאם לסיכון; מהירות בסיכון נמוך, הקפדה בסיכון גבוה.
אחריות מביאה חופש
כללי שימוש אחראי עשויים להיראות מגבילים, אבל הם עושים בדיוק את ההיפך: ברגע שיש לך הרגלי בטיחות אלה, אתה יכול להשתמש בבינה מלאכותית הרבה יותר בנוחות ובנועזות. כי גם אם יש טעות, אתה יודע שיש לך פילטר לתפוס אותה. כללים אינם שם כדי להאט אותך, הם שם כדי לעזור לך להאיץ בבטחה.
לסיכום
- חמישה עקרונות של שימוש אחראי: לאנשים יש את המילה האחרונה, לאמת ואז לבטוח, להגן על סודיות, לרדוף אחרי הגינות, להיות שקופים.
- עקרונות אלה משלימים זה את זה; אם אחד חסר, הסיכון ממשיך.
- פיקוח אנושי הוא הכרחי מכיוון שבינה מלאכותית לא יכולה לקחת אחריות ולראות את ההקשר המלא.
- קנה מידה של הביקורת לפי סיכון: קל בהשפעה נמוכה, אישור מומחה והצדקה בכתב בהשפעה גבוהה.
- מכיוון שאתה זה המשתמש בכלי, אתה גם אחראי לתוצאה; "המכונה אמרה לי" זה לא תירוץ.
משימת יישום
צור "קוד של שימוש בינה מלאכותית אחראית" קצר ואישי לתפקיד שלך באמצעות התבנית שלמעלה (6 פריטים לכל היותר). רשמו אותו במקום גלוי ותרגלו את השאלות בטבלת "רשימת התרגול" בזו אחר זו במסירת הבינה המלאכותית החשובה הבאה.
רשימת תיוג
- [ ] אני יכול למנות חמישה עקרונות של שימוש אחראי.
- [ ] אני יכול להסביר מדוע שליטה אנושית היא הכרחית.
- [ ] אני יכול להתאים את רמת הבקרה בהתאם לסיכון של המשימה.
- [ ] יצרתי רשימת בדיקה אחראית עבור התפקיד שלי.
- [ ] הפנמתי ש"המכונה אמרה לי" זה לא תירוץ.