מבוא לבינה מלאכותית בפילוסופיה ובאתיקה יישומית: תפקידים, גבולות, אימות ואתיקה

רווחים:

• יכולת להבחין היכן בינה מלאכותית חוסכת זמן בתהליך העבודה הפילוסופית והאתית (קריאה, סיכום, מיפוי, טיוטה) והיכן החלטות כמו פרשנות, הצדקה ומחשבה מקורית נותרות בידי האדם, בהתאם לרמת הסיכון.
• יכולת ליישם דיסציפלינה המאמתת כל פלט באמצעות שלבי קישורו למקור, אישורו עם הטקסט הראשי וסינונו באמצעות הטיה.
• היכולת להבין מדוע יש לקחת בחשבון את הסיכונים של הזיה, אובדן מקוריות השיפוט והפרשנות השטחית כבר מההתחלה בתחומים אנושיים.

אתה נמצא בחדר העיון של חוג לפילוסופיה. על שולחנך פרק מתוך קרן המטאפיזיקה של המוסר של קאנט, תיק מקרה אמיתי מוועדת אתיקה של בית חולים, שלושה מאמרים שונים עכשוויים ומערך שיעור לסמינר שיינתן מחר. סטודנט מתלונן על אי יכולת לחלץ את מבנה הטיעונים של טקסט ארוך, עליך להשוות שלושה מאמרים לסקירת כתב עת, וועדת אתיקה דנה מי נושא באחריות למערכת תומכת החלטות רפואיות בבינה מלאכותית. פילוסופיה (הדיסציפלינה הבוחנת בצורה ביקורתית ושיטתית מושגים, טיעונים והנחות יסוד; חשיבה על ידע, קיום, ערך והיגיון) ואתיקה יישומית (הענף המיישם עקרונות מוסר מופשטים על החלטות אמיתיות בתחומים קונקרטיים כמו רפואה, טכנולוגיה, סביבה ועסקים) הם תחומים עתירי טקסט, עתירי מושגים ודורשים הגיון קפדני מטבעם. זה בדיוק המקום שבו בינה מלאכותית (AI - תוכנה שיכולה ללמוד תבניות מנתוני טקסט בעבר ולייצר סיכומים, תרגומים, טיוטות וסיווגים) יכולה להאיץ אותך בשפע הזה של טקסטים ומושגים.

אבל תחילתו של מודול זה ברורה: AI הוא עוזר קריאה, מיפוי, סיכום וניסוח; אתה המומחה וההוגה המוסמך השופט את הטיעון, מגן על תזה, מצדיק החלטה אתית ובעל מחשבה זו. בפילוסופיה, המוצר עצמו הוא הגיון; האצלת חשיבה למכונה אינה סיום העבודה, אלא ויתור על העבודה עצמה.

ביחידה ראשונה זו נתמקד במשמעת, לא ברכב. נלמד היכן בזרימת העבודה הפילוסופית והאתית AI חוסך זמן אמת, היכן הוא מסוכן, כיצד לאמת כל פלט, כיצד לשמור על שלמות המקור וכיצד לצפות ביושרה אקדמית. מבלי להניח את הבסיס הזה, היחידות הבאות נשארות תלויות באוויר - כי במדעי הרוח, פלט לא מאומת עשוי להיות לא רק תשובה שגויה, אלא ציטוט מפוברק, השקפת פילוסוף מעוותת או פגיעה ביושרה האקדמית שמציגה את דעתו של מישהו אחר כדעתו שלו.

היכן שימושי AI בזרימת העבודה הפילוסופית?

בואו נחלק את הדברים לשתי ערימות גדולות. אשכול ראשון: יצירות עשירות, עתירות טקסט, ניתנות לחילוץ דפוסים. הסיכום הראשון של טקסט ארוך, הטיוטה הראשונה של מבנה הנחת יסוד-מסקנה של פסקה מורכבת, חילוץ של נושאים חוזרים ביצירה ספרותית, השוואה בין האופן שבו מחברים שונים מגדירים מושג, שלד מערך שיעור, סימון מקומות מעורפלים בטקסט של תלמיד, טיוטות תרגום. בעבודות אלו, AI מפחית שעות לדקות ואינו מתעייף.

אשכול שני: משימות הדורשות שיפוט, פרשנות, הצדקה ומחשבה מקורית. בין אם טיעון באמת תקף או לא, הפרשנות הסבירה ביותר למה מתכוון פילוסוף בקטע, כיצד לפתור את המתח האמיתי בין שני ערכים, איזה עיקרון ינצח במקרה אתי, מהי התרומה המקורית של תזה. אלה דורשים מומחיות, רגישות מושגית ושיקול דעת אנושי. כאן, AI מכפיל אפשרויות, מייצר התנגדויות, מצביע על נקודות עיוורות - אבל ההערכה, ההצדקה והחתימה הם שלך.

בואו נבהיר את ההבחנה במשפט אחד: AI חזק בשאלות של "מה כתוב בטקסט הזה ואיך נראה המבנה שלו"; ההחלטה היא שלך בכל הנוגע לשאלות כמו "האם הטיעון הזה טוב ומה אני חושב?"

טיפ: לפני מיקור חוץ של עבודה לבינה מלאכותית, שאל: "מה אני מפסיד אם הפלט הזה שגוי?" אם התשובה היא "כמה דקות של תיקון", אתה מוזמן להאציל. אם התשובה היא "דעה מעוותת של פילוסוף, מקור מפוברק, או שהמכונה תעשה את החשיבה שאני צריך לעשות", אז תן ל-AI רק לייצר טיוטות; אתה נותן את הפרשנות, ההצדקה וההחלטה.

שלושה סיכונים קריטיים במדעי הרוח

פילוסופיה ואתיקה הם בין התחומים שבהם בינה מלאכותית מועדת הכי הרבה. בואו להכיר את שלושת הסיכונים מההתחלה.

הֲזָיָה. AI מייצר בצורה זורמת ובטוחה; זה לא אומר שזה נכון. הזיה היא כאשר בינה מלאכותית מציגה ספר לא קיים, ציטוט מומצא, משפט שהפילוסוף לא באמת אמר, או השקפה שגויה כאמיתית. בספרות הפילוסופית זה הרסני: מקובל מאוד שמשפט במרכאות, "אריסטו אומר לניקומכוס באתיקה", נעדר כלל מהטקסט.

אובדן מקוריות ההיגיון. בפילוסופיה, הערך הוא בהיגיון שלך. הצגת הטקסט ה"פילוסופי" החלק אך הממוצע, הקלישאתי וחסר המקור שהופק על ידי בינה מלאכותית כמו שלך היא חסרת תועלת אינטלקטואלית וגם הפרה של היושרה האקדמית. AI מייצר את הממוצע; התזה המקורית, ההבחנה העדינה וההתנגדות הנועזת נותרו בידי האדם.

פרשנות שטחית ודעות קדומות. בינה מלאכותית עשויה לסכם פילוסוף עם סטריאוטיפ פופולרי אך לא מדויק (להפחית את ניטשה לסיסמה, למשל), להציג מסורת יחידה כ"נכונה" בנושא שנוי במחלוקת, או לשחזר הטיה תרבותית בנתוני אימון. פרשנות צריכה תמיד לעבור דרך המסנן הקריטי שלך.

משמעת אימות: שלושה שלבים

החל רפלקס בן שלושה שלבים על כל פלט:

1. חבר אותו למקור. כל ציטוט, ייחוס וטענה של "הפילוסוף אמר" של AI חייבים להיות מבוססים על הטקסט הראשי. "באיזו עבודה בדיוק, באיזה חלק, באיזה תרגום?" ותראה את המקור בעצמך. אמת כל משפט במירכאות עם המקור שלו.
2. אשר עם מקור בלתי תלוי. אמת פרשנות או טענה "מקובלת בדרך כלל" עם מקור משני אמין (אנציקלופדיה אקדמית, מאמר בביקורת עמיתים). אל תסתמך על פסקה אחת זורמת.
3. העבירו אותו דרך מסנן הפרשנות וההטיה. האם הפלט מעוות פילוסוף? האם יש קריאה חלופית? האם הוא מציג נושא שנוי במחלוקת באופן חד צדדי? שיקול דעתך המומחה הוא המסנן הסופי.

שלושה מיני תיקים

מקרה 1 - מיפוי זמן חסך. סטודנט לתואר שני ניסה לחלץ את מבנה הטיעונים של מאמר אפיסטמולוגיה צפוף בן 40 עמודים. בינה מלאכותית נתנה את הטיוטה הראשונה של השלד של ההנחה תוך 15 דקות; סטודנט האיץ את המיפוי שבדרך כלל ייקח חצי יום. אבל הוא אימת כל הנחה על ידי קישורה חזרה לפסקה בטקסט, והוא עצמו הוסיף הנחה מרומזת שה-AI השמיט.

מקרה 2 - אימות תפס ציטוט מפוברק. חוקר גרם ל-AI לשאול את דעתו של Hume על סיבתיות. YZ נתן משפט ברור ומספר עמוד במרכאות. כשהחוקר הסתכל על החלק הרלוונטי של מסה על טבע האדם, לא היה המשפט הזה ולא העמוד הזה; ה-AI יצר ציטוט סביר אך מפוברק. שלב הקישור מנע כניסה של ייחוס הונאה למאמר.

מקרה 3 - מגבלת מקוריות. לתלמיד הייתה מטלת אתיקה שנכתבה במלואה על ידי AI והוגשה. הטקסט היה שוטף, אך חסר מקור, קלישאתי וחסר דעתו של התלמיד עצמו; יתרה מכך, שני ה"מקורות" היו מפוברקים. זו הייתה גם אפס תרומה מקורית וגם פגיעה ביושרה האקדמית. השימוש הנכון היה להשתמש בבינה מלאכותית כשותף לדיון וככלי ניסוח, ולתלמיד לבנות את הרציונל, התזה והמקורות בעצמו.

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

כתוב משהו על האתיקה של קאנט.

הבקשה הזו מעורפלת: היא לא דורשת מקורות, היא פתוחה לעיוות ולקלישאה, לא ניתן לאמת אותה, והפלט לא יהיה דעתך.

הנחיה עוצמתית:

תפקידך: מרצה זהיר לפילוסופיה. סכמו את הטקסט שאתן לכם לגבי ניסוח ה"אוניברסליזציה" של קאנט של הציווי הקטגורי. כללים: הסתמכו על הטקסט שאני נותן בלבד; הוסף מידע חוץ טקסטואלי. קשר כל טענה לפסקה בטקסט. אם אינך בטוח, סמן זאת כ"לא ברור בטקסט". אם אתה משתמש במרכאות, השתמש רק באלו המופיעות מילה במילה בטקסט. טקסט: [הדבק טקסט כאן]

הנחיה זו מגבילה את המקור, מונעת ייצור, ניתנת לאימות ומשאירה את החשיבה לך.

ארבע תבניות הניתנות להעתקה

1) הערכת התאמה לעבודה:

תפקידך: יועץ פילוסופיה בכיר. אתאר את העבודה למטה. אמור לי (1) האם זו עבודת קריאה/סיכום/מיפוי/שרטוט שניתן להאציל ל-AI, או עבודה הדורשת הצדקה ומחשבה מקורית, (2) המחיר האינטלקטואלי/אקדמי של פלט שגוי, (3) האימות שעלי לעשות לפני ואחרי האצלה. עבודה: [הכנס עבודה כאן]

2) חובת קישור למקור:

אני אתן לך טקסט פילוסופי. עבור כל הערה וטענה, התייחס תמיד לפסקה/משפט בטקסט. אין לייחס לפילוסוף כל דעה שאינה בטקסט. השתמש רק במרכאות המופיעות מילה במילה בטקסט. אם אינך בטוח, סמן אותו כ"צריך אימות".

3) מקוריות ומגבלת תפקיד:

אתה השותף שלי, לא הסופר שלי. אל תכתוב את התזה שלי בנושא זה. במקום זאת: ציין 3 התנגדויות נחרצות לתזה שלי, 2 הנחות שאולי התעלמתי מהן, ומושג אחד שאני צריך להבהיר. אני אכתוב את הטקסט הסופי. התזה שלי: [הכנס את התזה שלך כאן]

4) בקרת עיוות/הטיה:

בדקו אם הסיכום הבא מעוות פילוסוף.(1) האם יש צמצום לקלישאה פופולרית אך שקרית?(2) האם נושא שנוי במחלוקת מוצג באופן חד-צדדי?(3) מהי הפרשנות האלטרנטיבית? הראה קריאות נאמנות של הטקסט, לא את הפרשנות שלך. סיכום: [הדבק תקציר כאן]

טבלת הפרדת תפקידים

עסקים

תפקיד של AI

תפקידו של האדם

רמת סיכון

סכם טקסט ארוך

טיוטה ראשונה לסיכום

אימות מול מקור

בינוני

מיפוי טיעונים

מסגרת קדומות-השלכות

פסק דין תוקף

בינוני

מציאת ציטוט/ציטוט

יצירת מועמדים

אישור במקור ראשוני

גבוה

הצדקת המקרה האתי

יצירת אפשרויות והתנגדויות

החלטה והצדקה

גבוה מאוד

כתיבת תזה/תרומה מקורית

בן זוג לחסוך

המאמר עצמו

גבוה מאוד

טעויות נפוצות

• שימוש בציטוט שניתן על ידי AI מבלי לאמת אותו. הטעות הנפוצה וההרסנית ביותר בתחום האנושי; יש לאשר כל משפט במרכאות במקור הראשי.
• האצלת חשיבה. השארת ל-AI לבנות את הטיעון, להגן על התזה ולהפיק את ההצדקה היא לוותר על העבודה עצמה בפילוסופיה.
• טעות בקלישאה במידע. מקבל את זה כ"נכון" שבינה מלאכותית מסכמת פילוסוף בסיסמה; אין לקבל הערות מבלי לחזור לטקסט.
• אספקת טקסט AI מבלי לצטט את המקור. פגיעה ביושרה האקדמית; עקוב אחר הנחיות השימוש ב-AI והצהרת השקיפות של הארגון שלך.
• מסתמכים על פלט בודד. שואלים את אותה שאלה אחרת ומקבלים פרשנות כסופית מבלי לאשר אותה במקור משני.

לסיכום

בינה מלאכותית; זהו עוזר רב עוצמה שמאיץ קריאת טקסט, מיפוי טיעונים, סריקת ספרות ויצירת טיוטות בפילוסופיה ובאתיקה יישומית. אבל זו אחריות אנושית לשפוט את הטיעון, לפרש נכון פילוסוף, להצדיק החלטה אתית ולהפיק תזה מקורית. יש להכיר בשלושה סיכונים מלכתחילה: הזיה (ציטוט/מקור מומצא), אובדן מקוריות השיפוט ופרשנות שטחית/מוטה. האנטידוט הוא דיסציפלינה של שלושת השלבים של אימות: קישור למקור, אימות עצמאי, סינון דרך פרשנות והטיה. לאורך המודול הזה נשתמש ב-AI מקצה לקצה - אבל אתה תמיד תהיה זה שחושב וחותם.

משימת יישום

1. בחר פסקה צפופה מתוך טקסט פילוסופי שאתה לומד.
2. השתמש בתבנית "הנחיה חזקה" כדי לתת ל-AI סיכום המבוסס על הטקסט הזה בלבד.
3. קשר כל טענה בסיכום בחזרה למשפט בטקסט; סמן אם ה-AI מוסיף מידע חוץ טקסטואלי או הדגשה מורכבת.
4. אם AI נתן ציטוט, בדוק אם הוא מילה במילה במקור הראשי.
5. כתוב הערה משלך במשפט אחד - תן לה את התרומה שלך, לא ל-AI.

רשימת בדיקה

• [ ] לפני מסירת העבודה, "מה אפסיד אם זה ישתבש?" שאלתי את השאלה.
• [ ] אימתתי כל ציטוט וייחוס בפלט עם המקור הראשי.
• [ ] סימנתי הערות מחוץ לטקסט או מעוותות.
• [ ] קיבלתי את ההחלטה בעצמי לגבי תקפות הטיעון וההצדקה.
• [ ] כתבתי את התזה המקורית ואת הטקסט הסופי; בינה מלאכותית הפכה רק לשותף ספירה.
• [ ] עקבתי אחר כללי השימוש בבינה מלאכותית ושקיפות של המוסד שלי.