אימות מקור, אנכרוניזם והזיה

רווחים:

• יכולת להסביר מדוע הזיה (מקור מומצא, ציטוט, אירוע) ואנכרוניזם הן הטעויות המסוכנות ביותר בהיסטוריה
• יכולת ליישם את הדיסציפלינה של אימות כל הפניה בקטלוג, השוואת תוכן למסמך ואישור צולב של עובדות קריטיות.
• יכולת להטיל ספק בהטיה ובקולות חסרים במקורות על ידי שאלת בינה מלאכותית היכן לחפש במקום המקור האמיתי

יש אזהרה שחוזרת על עצמה בכל יחידה של מודול זה: הפלט של ה-AI הוא טענה, לא עובדה, עד לאימות. היחידה הזו הופכת את האזהרה הזו לדיסציפלינה. היסטוריה וארכיון הם מטבעם תחומים מבוססי ראיות; המיומנות הבסיסית ביותר של היסטוריון היא ביקורת מקורות (תשאול על ידי מי, מתי, לאיזו מטרה הופק מקור ועד כמה הוא אמין). בעידן הבינה המלאכותית, המיומנות הזו הפכה לקריטית עוד יותר מכיוון שהמקור עצמו עשוי כעת להיות מפוברק.

כאן נסקור שלוש סכנות לעומק: הזיה (AI מייצר מידע מפוברק, מקורות או ציטוטים), אנכרוניזם (אלמנטים תקופתיים שהועברו לתקופה הלא נכונה), ודיסציפלינה של אימות מקור באופן כללי. נראה גם AI לומד ממקורות שהיו לא מדויקים או מוטים בעבר, כך שהוא יכול לשחזר הטיה.

הזיה: הטעות המסוכנת ביותר

הזיה היא כאשר AI מציג בביטחון משהו שלא קיים בפועל. מבחינה היסטורית, זה נראה לרוב בצורות הבאות:

• מקור/עזר מפוברק: קרן ארכיון לא קיימת, מספר קובץ, ספר או מאמר.
• ציטוט מומצא: מילה שלא נאמרה בפועל, משפט שלא נמצא במסמך.
• אירוע/תאריך/אדם מומצא: אירוע שלא קרה, תאריך שקרי, אדם שלא קיים.
• קשר פיקטיבי: קשר סיבה-תוצאה לא קיים בין שני אירועים אמיתיים.

מה שהופך את ההזיה למסוכנת הוא שהיא נראית אמינה. אסמכתא מורכבת זהה לפורמט של אסמכתא אמיתית: שם קרן, מספר, תאריך. אז "פורמט נראה נכון" אף פעם לא אומר "נכון".

שימו לב: לא ניתן להשתמש בשום משאב המיוצר על ידי YZ מבלי להיות מאומת ונמצא בקטלוג או במקום אמין. הדרך היחידה להוכיח שקיימת הפניה היא לראות אותה היכן נמצא המקור המקורי (קטלוג ארכיון, ספרייה, הוצאה לאור). "AI נתן את זה" אינה ראיה.

אנכרוניזם: משקפי התקופה

אנכרוניזם הוא לראות את העבר דרך המשקפיים של היום. מכיוון ש-AI מאומן בשפה של היום, יש לו נטייה חזקה ל:

• אנכרוניזם מונח: שימוש במילה, מוסד או מושג שאינם שייכים לתקופה.
• אנכרוניזם מושג: השלכת רעיון של ההווה (למשל אידיאולוגיה או זהות מודרנית) לעבר.
• אנכרוניזם ערכי: לשפוט התנהגות בעבר רק לפי הסטנדרטים של היום.

תפקידו של ההיסטוריון הוא להבין את העבר בהקשרו. AI חסרה את רגישות ההקשר הזו; אתה חייב לספק את זה בעצמך.

ההבנה מדוע הזיה מתרחשת לעתים קרובות כל כך מקלה על ההגנה מפניה. בינה מלאכותית היא מערכת שפועלת כדי לייצר את "המילה הקרובה ביותר"; אין לזה מטרה כמו "לדעת את האמת". כששואלים אותו שאלה, בין אם הוא יודע את התשובה או לא, הוא מייצר טקסט שנראה משכנע מבחינה סטטיסטית. הפורמט של הפניה ארכיונית (שם קרן, מספר, תאריך) הוא דפוס נלמד; AI יכול למלא דפוס זה ללא התייחסות אמיתית. אז "למה AI ממציא את זה?" התשובה לשאלה פשוטה: יותר קל לו להמציא מאשר "לא לדעת". האחריות מוטלת עליך למלא את התבניות הללו במשאבים אמיתיים.

משמעת אימות מקור: צעד אחר צעד

1. ודא את קיומו של המשאב. מצא כל התייחסות שניתנה על ידי AI בקטלוג/פרסום. אם אתה לא מוצא אותו, אל תשתמש בו.

2. השווה בין התוכן למקור. האם המידע שה-AI מייחס למסמך אכן קיים במסמך? האם הציטוט זהה לחלוטין?

3. אישור צולב. לעובדה קריטית, עיין לפחות בשני מקורות מהימנים בלתי תלויים.

4. החל ביקורת מקורות. האם המקור עצמו אמין? מי ייצר אותו, מתי ולאיזו מטרה? האם זה משוחד?

5. העבירו אותו דרך מסנן האנכרוניזם. האם יש מונחים, מושגים או שיפוטים ערכיים שאינם מתאימים לתקופה בפלט?

6. שאלה דעה קדומה. האם AI יכול היה לשחזר את ההטיות במקורות היסטוריים (התעלמות מקבוצה אחת, העדפה של נקודת מבט אחת)?

שכבת אימות

שאלה

מי עושה

ישות

האם המשאב הזה באמת קיים?

אתה בקטלוג.

תוכן

האם זה באמת כתוב במסמך?

אתה במסמך

אישור

האם מקור אחר תומך בזה?

אתה, צלב

אמינות

האם המקור אמין?

שיקול דעת מומחה

תקופה

האם יש אנכרוניזם?

שיקול דעת מומחה

דעות קדומות

הקול של מי חסר/מעוות?

שיקול דעת מומחה

שלושה מיני תיקים

מקרה 1 - שש הפניות מפוברקות. חוקר ביקש מה-AI רשימה של מקורות בנושא. YZ סיפקה 6 ​​הפניות לארכיון עם עיצוב מושלם. בחיפוש הקטלוגי, 4 מתוך ה-6 היו חסרים, ל-2 מהם היה מספר שגוי. אם החוקר לא היה מאמת, היה עולה מחקר שציטט מקורות לא קיימים. שיעור: כל הפניה מאומתת בקטלוג.

מקרה 2 - ציטוט מומצא. סופר ישתמש בציטוט בולט שה-AI מייחס לדמות היסטורית. כאשר חקר את המקור, הוא ראה שאין מסמך המוכיח שאותו אדם אמר דבר כזה, וכי האמירה "הומצאה" על ידי AI. שיעור: לא ניתן להשתמש בציטוטים ללא אימות ממקור ראשוני או אמין.

מקרה 3 - שכפול של דעות קדומות. לתלמיד היה הבינה המלאכותית להסביר את ההיסטוריה של אזור. הפלט התעלם לחלוטין מקהילה ספציפית באותו אזור מכיוון שגם המקורות שה-AI למדה מהם התעלמו מהם. התלמיד שם לב ותיקן את הפער הזה באמצעות הפניות מוצלבות. שיעור: AI משחזר שתיקות והטיות במקורות; יש לשאול את הקול של מי חסר.

ארבע תבניות הניתנות להעתקה

1) רשימת אימות הפניות:

כל המקורות, הפניות, הציטוטים, התאריך ושמות האנשים בטקסט למטה מופיעים ברשימה נפרדת. הוסף הערה לכל אחד: "נתבעים בטקסט זה, יש לאמת באופן עצמאי." אם תבחר אף אחד, "אמת"; פשוט הפק רשימה לאימות כדי שאוכל לבדוק אותה מהקטלוג/מקור. טקסט: [כאן]

2) סריקת אנכרוניזם:

בדוק את הטקסט על [נקודה] למטה. הדגש מונחים, מוסדות, מושגים וערכים שאולי לא שייכים לתקופה זו. עבור כל אחד, כתוב בקצרה מדוע אתה חשוד. מתן פסק דין סופי; צור רשימה של חשדות שהמומחה יבדוק. טקסט: [כאן]

3) מסגרת ביקורת מקור:

נכתבת ביקורת מקור על המקור הבא: (1) מי יכול היה לייצר אותו, (2) מתי, (3) לאיזו מטרה, (4) מהן ההטיות האפשריות שלו, (5) באילו נושאים יש לסמוך ובאילו צריך להיות זהיר. הטלת פסק דין סופי; ספק שאלות ואפשרויות תשובות אפשריות. מקור: [כאן]

4) בקרת עוצמת הקול/הטיה חסרה:

הקול של מי והחוויה של איזו קבוצה עלולים להיות חסרים או חד צדדיים בסיכום ההיסטורי הבא? איזו פרספקטיבה דומיננטית, איזו בלתי נראית? הפק זאת כרשימה של שאלות; אמלא אותו בהפניות צולבות. תקציר: [כאן]

הנחיה חלשה / הנחיה חזקה

חלש:

תן לי מקורות היסטוריים אמינים וציטוטים בנושא זה.

בינה מלאכותית נוטה מאוד לייצר הפניות נכונות בצורתן אך מפוברקות בתוכן כאשר מבקשים "מקור" ו"ציטוט". הנחיה זו היא הזמנה ישירה להזיה.

חזק:

הצע איזה סוג של מקורות (סוג קרן ארכיון, סוג פרסום, מוסד) עלי לחפש במחקר שלי בנושא זה. התאמת אסמכתא, מספר תיק או הצעת מחיר ספציפיים; רק תגיד לי איפה לחפש. אז אמצא את המקורות האמיתיים מהקטלוגים.

הבדל: AI מתבקש "היכן לחפש", לא "התייחסות בפועל"; הסיכון להזיה מופחת באופן קיצוני והאימות נותר לאדם.

טעויות נפוצות

• בהסתמך על ההתייחסות הנכונה. גם ההתייחסות המומצאת נראית ללא רבב; יש לאמת בקטלוג.
• לוקח ציטוט ישיר מ-AI. לא ניתן להשתמש בהצעות מחיר ללא אישור מהמקור הראשי/מהימן.
• משקיף על האנכרוניזם. המונחים והמושגים של היום מחלחלים בשקט אל העבר.
• שחזור דעות קדומות. AI מעתיק שתיקות ממקורות; יש צורך לשאול על הצליל החסר.
• הסתמכות על מקור אחד. עובדות קריטיות חייבות להיות מאושרות על ידי לפחות שני מקורות בלתי תלויים.

לסיכום

אימות המקור הוא בלב ההיסטוריה והארכיון, והוא קריטי אף יותר בעידן הבינה המלאכותית. הזיה מייצרת מקורות, ציטוטים ואירועים שצורתם מושלמת אך תוכנם פיקטיבי; אנכרוניזם מעוות את העבר דרך העדשות של היום; ו-AI משחזר הטיות במקורות. הגנה היא דיסציפלינה: אמת כל התייחסות בקטלוג, השווה בין תוכן למסמך, הצלבת עובדות קריטיות, סנן דרך תקופה והטיה. בקש מה-AI "היכן לחפש", לא "המקור האמיתי". שומר האמת הוא תמיד המומחה.

משימת יישום

בקש מה-AI לייצר רשימה של משאבים בנושא שאתה עובד עליו (עם "הנחיה חלשה" בכוונה). לאחר מכן, חלץ את כל ההפניות מהפלט הזה עם תבנית "רשימת אימות הפניות" וחפש כל אחת מהן בקטלוג. ספור כמה קיימים בפועל וכמה מורכבים או לא מדויקים. חזור על אותו נושא עם "הנחיה חזקה" ("היכן עלי לחפש") וחוות את ההבדל.

רשימת בדיקה

• [ ] אימתתי כל הפניה בקטלוג/מקור מהימן.
• [ ] אימתתי כל ציטוט עם המקור העיקרי/מהימן.
• [ ] הצלבתי עובדות קריטיות עם לפחות שני מקורות בלתי תלויים.
• [ ] סיננתי את הפלט לאנכרוניזם.
• [ ] שאלתי קולות חסרים/מעוותים והטיות.