ניתוח מקרה של אתיקה יישומית: עקרונות, מסגרת והצדקה

רווחים:

• יכולת לנתח מקרה אתי ממספר נקודות מבט, ממסגרות תוצאתיות, דאנטולוגיות ומסגרות אתיות.
• יכולת בירור עובדות ובעלי עניין ושמות של התנגשויות עקרוניות
• היכולת לקבל שיפוטים והחלטות אתיים בצורה מוצדקת תוך שליטה על הטיה, מבלי להשאיר זאת לבינה מלאכותית

לבה של האתיקה היישומית היא השאלה "מה לעשות?" במצב אמיתי. הוא לייצר תשובה מנומקת לשאלה. ועדת אתיקה של בית חולים דנה בהחלטת טיפול, חברה מעריכה האם השימוש בנתונים הוא אתי, חוקר שוקל את הנזק של ניסוי למשתתפים. הכלים המשמשים בעבודות אלו הם מסגרות אתיות (גישות המציעות מערכת קוהרנטית של עקרונות ונימוקים להערכת מצב) - למשל, תוצאתיות (גישה שמעריכה את נכונות הפעולה על פי השלכותיה, התועלות והנזקים שהיא מייצרת), דיאונטולוגיה (גישה שמעריכה על פי זכותה של חובות ופעולה, בהתאם לחובותיה ולכללי הפעולה שלה, בהתאם לחוק ולפעולה שלה. השלכות), ואתיקה של מידות טובות (גישה שממסגרת את השאלה כ"מה יעשה אדם טוב?" ולא "איזו פעולה?"). בינה מלאכותית יכולה להיות כלי מהיר לנתח מקרה ממסגרות שונות, לראות ממדים שהתעלמו מהם ולהכפיל אפשרויות. אבל השיפוט האתי הסופי - איזה עיקרון גובר, איזו החלטה לקבל, והרציונל לכך - שייך לאדם, במיוחד לוועדה האחראית ולמומחה.

ביחידה זו נראה כיצד ניתן לנתח מקרה אתי בדרך המופעלת על ידי בינה מלאכותית אך נשפטת על ידי אדם.

ניתוח רב-פריים: הכוח האמיתי של AI

הטעות הנפוצה ביותר במקרה אתי היא היצמדות לנקודת מבט אחת. ניתוח טוב רואה את אותו המצב ממספר מסגרות וחושף מתחים. זה המקום שבו בינה מלאכותית היא רבת עוצמה: היא יכולה לנתח מקרה מנקודות מבט תוצאתיות, דאנטולוגיות ומבוססות על סגולות בו זמנית ובמהירות לרשום לאיזו מסקנה מובילה כל מסגרת. זה ממפה את הדיון.

שלבים:

1. הבהרת העובדות. מי, מה, מתי מעורב; להבחין בין עובדות לא ודאות לעובדות משוערות. ניתוח אתי אינו יכול להתבסס על עובדות כוזבות.

2. זיהוי בעלי עניין ואינטרסים. מי מושפע מההחלטה, מהן הזכויות והאינטרסים של כל אחד?

3. ניתוח ממסגרות שונות. איך כל מסגרת רואה את המצב הזה ועל איזו פעולה היא ממליצה?

4. הראו מתחים ועימותים עקרוניים. אם המסגרות מגיעות למסקנות שונות, איפה בדיוק הקונפליקט? (לדוגמה, בין האוטונומיה של הפרט לתועלת החברה.)

5. להגיע להחלטה מנומקת. הצדק איזה עיקרון גובר על הסיבה לכך על ידי קבלת ההתנגדות החזקה ביותר של הצד השני.

טיפ: אל תבקש מה-AI "תגיד לי את התשובה הנכונה"; אמור, "נתח את המקרה הזה משלוש מסגרות והראה את המסקנה וההתנגדות החזקה ביותר של כל אחת מהן." תפקידו של ה-AI הוא ליצור את המפה; אתה מייצר את ההחלטה ואת ההצדקה. באתיקה, "התשובה שנותנת המכונה" אינה הצדקה.

מדוע בינה מלאכותית לא יכולה לקבל החלטות אתיות?

בואו נגיד את זה בצורה ברורה. שיפוט אתי; זה דורש ידע בהקשר, תעדוף בין ערכים, לקיחת אחריות ורצון לחתום על ההחלטה הזו. ל-AI אין אף אחד מאלה: אין לו ערכים, אין לו אחריות, ידע מוגבל בהקשר ויכול לשחזר הטיות תרבותיות/אידיאולוגיות בנתוני אימון. יתרה מכך, AI נותן לעתים קרובות את הדעה ה"ממוצעת" או הנפוצה ביותר על נושא שנוי במחלוקת; ואילו באתיקה התשובה הנכונה עשויה להיות ברובה במיעוט או שלא קיימת כלל. AI פותח אפשרויות; אתה שוקל ומחליט.

זהירות: בהחלטות אתיות בעלות סיכון גבוה (רפואי, משפטי, מוסדי) פלט בינה מלאכותית לעולם לא יחליף את שיקול הדעת של מועצת המנהלים או המומחה המוסמכים. השתמש ב-AI כ"מנסח מייעץ"; ההחלטה והאחריות הסופית היא של האדם האחראי. כמו כן, אם נתוני המקרה בפועל מכילים מידע אישי/סודי, אין להזין אותו בכלים ציבוריים.

שלושה מיני תיקים

מקרה 1 - מפה מרובת מסגרות. ועדת אתיקה דנה בהקצאת משאב מוגבל (למשל, מספר מוגבל של אפשרויות טיפול). הם נתנו את הבינה המלאכותית לנתח את המקרה מנקודות מבט תוצאתיות, דאונטולוגיות ומבוססות סגולות; שלוש הצדקות שונות ונקודות העימות שלהן מופו תוך 20 דקות. תוך שימוש במפה זו כנקודת מוצא, הדירקטוריון ערך דיון משלו וקיבל החלטה מנומקת משלו.

מקרה 2 - בעל העניין שהתעלמו ממנו. חברה בחנה החלטה על שימוש בנתונים. בניתוח שלה סימנה YZ קבוצה שלישית (אנשים שנעשה שימוש בנתונים שלהם אך לא היו מעורבים בתהליך) שנפגעו בעקיפין, מלבד הגורמים הישירים להחלטה. הצוות התעלם מבעל העניין הזה. הקלט של AI הפך את ההחלטה לשלמה יותר - אבל הצוות ביצע את סדר העדיפויות.

מקרה 3 - הצעה מוטה תוקנה. חוקר ערך AI לנתח מקרה רגיש מבחינה תרבותית. בינה מלאכותית הציגה השקפה תרבותית יחידה כ"אמת האוניברסלית" והתעלמה ממערכות ערכים חלופיות. החוקר שם לב לחד צדדיות זה וגוון את הניתוח. ההשקפה הדומיננטית של נתוני האימון של ה-AI מאוזנת על ידי פיקוח אנושי.

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

מה עלי לעשות מבחינה אתית במצב זה?

הנחיה זו מאצילה שיקול דעת ואחריות אתית ל-AI; אתה מקבל "תשובה" אחת, אתה לא רואה את הרציונל והמסגרת, ההטיה נשארת נסתרת.

הנחיה עוצמתית:

תפקידך: מנתח אתיקה יישומית (לא מקבל החלטות). נתח את המקרה הבא. אל תיתן לי את ההחלטה.1) רשום את העובדות המעורפלות שיש להבהיר.2) הסר את בעלי העניין ואת האינטרסים/זכויות של כל אחד מהם.3) נתח את המקרה בנפרד מנקודות מבט תוצאתיות, דיאונטולוגיות ואתיות טובות; תן את המסקנה וההתנגדות החזקה ביותר של כל אחד. 4) הצג את התנגשות העקרונות הבסיסית בין המסגרות. אביא את ההחלטה וההצדקה. הזהר אם יש נתונים אישיים/סודיים. מקרה: [כתוב מקרה]

הנחיה זו מוציאה את מפת ריבוי הפריימים, משאירה את ההחלטה בידיך, והופכת את ההטיה לגלויה.

ארבע תבניות הניתנות להעתקה

1) הבהרת עובדות ובעלי עניין:

במקרה הבא, רשום (א) עובדות ידועות מסוימות, (ב) עובדות לא ודאות/משוערות, (ג) כל בעלי העניין והאינטרסים והזכויות של כל אחד מהם. הוסף הערות והחלטות. מקרה: [מקרה]

2) ניתוח תלת מסגרות:

נתח את המקרה הזה בנפרד מנקודות המבט של תוצאתנות, דאונטולוגיה ואתיקה של סגולות. לכל פריים: איך הוא רואה את זה, הפעולה שהוא ממליץ וההתנגדות החזקה ביותר להצעה הזו. הכרזת מסגרת "נכונה". מקרה: [מקרה]

3) אבחון התנגשות במדיניות:

ציין את העקרונות המרכזיים שעל פיהם מתנגשים המסגרות בניתוח שלהלן (למשל, אוטונומיה מול טובת הכלל, צדק מול חמלה). הראה בדיוק היכן מתרכז הסכסוך. קבלת החלטות.ניתוח: [הדבק טקסט]

4) ביקורת על דעות קדומות ורגישות תרבותית:

בדקו האם ניתוח אתי זה אינו מציג השקפה תרבותית/אידיאולוגית אחת כאמת אוניברסלית. האם יש מערכות ערכים חלופיות או נקודות מבט שמתעלמות מהן? הדגש היכן צריך להיות יותר פלורליזם. ניתוח: [הדבק טקסט]

תרשים השוואת מסגרות

מסגרת

שאלה בסיסית

פוקוס

חולשה אופיינית

תוצאתיות

מהי התוצאה הטובה ביותר?

איזון תועלת/נזק

יכול לרסק את זכויות המיעוט

דאונטולוגיה

מה אומר המשימה/כלל?

זכות, חובה, עיקרון

קפדני, יכול להתעלם מהתוצאה

מוסר סגולות

מה עושה אדם בעל סגולה?

אופי, כוונה

מדריך פעולה מעורפל

טעויות נפוצות

• גורם לבינה מלאכותית להחליט. "מה עלי לעשות?" השאלה מאצילה שיקול דעת אתי; AI יוצר מפה, אתה מחליט.
• להיות תקוע בפריים בודד. לראות את המקרה מנקודת מבט אחת בלבד; ניתוח רב-פריים חושף מתח.
• לא מבהיר את העובדות. ניתוח אתי המבוסס על עובדות שקריות או משוערות קורס.
• לא מזהה הטיה. בינה מלאכותית עשויה להציג את ההשקפה התרבותית השלטת כ"אוניברסלית"; פלורליזם מסופק על ידי בני אדם.
• הכנסת תיק חסוי/אישי לכלי ציבורי. סיכון להפרת פרטיות בקבצים אמיתיים; אנונימי או השתמש במערכת מאובטחת.

לסיכום

הכוח האמיתי של AI בניתוח מקרים באתיקה יישומית הוא למפות במהירות מצב ממספר מסגרות, לחלץ מחזיקי עניין ולהפוך את התנגשויות העקרוניות לגלויות. אבל השיפוט האתי - איזה עיקרון גובר, ההכרעה וההצדקה - שייכים לאדם, במיוחד לוועדה האחראית ולמומחה; כי ל-AI אין ערכים, אין אחריות, אין ידע בהקשר, והוא נושא הטיה. הבהר את העובדות, נתח מסגרות מרובות, שם את הקונפליקט, בדוק אם יש הטיה וקבל את ההחלטה בעצמך עם הצדקה. בהחלטות עם סיכון גבוה, בינה מלאכותית ממוקמת לצד, ולא מחליף, שיקול דעת של מומחים.

משימת יישום

1. בחר מקרה אתי אמיתי או בדיוני (אלנימי אם הוא כולל נתונים אישיים).
2. חלץ עובדות ומחזיקי עניין בעזרת התבנית "הבהרת עובדות ובעלי עניין".
3. יש לנתח את המקרה משלוש נקודות מבט עם תבנית "ניתוח שלושת המסגרות".
4. תן שם למתח הבסיסי באמצעות תבנית "אבחון קונפליקט עקרוני".
5. כתוב החלטה מנומקת משלך - קבלת ההתנגדות החריפה ביותר של הצד שכנגד.

רשימת בדיקה

• [ ] הבהרתי את העובדות ואי הוודאות.
• [ ] זיהיתי את כל בעלי העניין ואת האינטרסים שלהם.
• [ ] ניתחתי את המקרה משלוש מסגרות אתיות לפחות.
• [ ] ציינתי בבירור את הקונפליקט העקרוני.
• [ ] בדקתי אם יש הטיה וחד צדדיות.
• [ ] השארתי את ההחלטה וההצדקה לעצמי/הדירקטוריון, לא ל-AI.
• [ ] הגנתי על נתונים סודיים/אישיים.