กำไร:
- ความสามารถในการอธิบายว่าทำไมภาพหลอน (แหล่งที่มา คำพูด เหตุการณ์) และความผิดปกติจึงเป็นข้อผิดพลาดที่อันตรายที่สุดในประวัติศาสตร์
- ความสามารถในการใช้ระเบียบวินัยในการตรวจสอบการอ้างอิงแต่ละรายการในแค็ตตาล็อก การเปรียบเทียบเนื้อหากับเอกสาร และการยืนยันข้ามข้อเท็จจริงที่สำคัญ
- ความสามารถในการตั้งคำถามถึงอคติและเสียงที่ขาดหายไปในแหล่งที่มาต่างๆ โดยการถามปัญญาประดิษฐ์ว่าจะดูจากที่ใด แทนที่จะค้นหาแหล่งที่มาที่แท้จริง
มีข้อแม้ซ้ำแล้วซ้ำอีกในทุกหน่วยของโมดูลนี้: ผลลัพธ์ของ AI เป็นเพียงการกล่าวอ้าง ไม่ใช่ข้อเท็จจริง จนกว่าจะได้รับการยืนยัน หน่วยนี้เปลี่ยนคำเตือนนั้นให้เป็นวินัย ประวัติศาสตร์และการเก็บถาวรเป็นสาขาที่อิงหลักฐานโดยเนื้อแท้ ทักษะพื้นฐานที่สุดของนักประวัติศาสตร์คือการวิจารณ์แหล่งที่มา (การตั้งคำถามว่าแหล่งข้อมูลถูกสร้างขึ้นโดยใคร เมื่อใด เพื่อจุดประสงค์ใด และเชื่อถือได้เพียงใด) ในยุคของ AI ทักษะนี้มีความสำคัญมากยิ่งขึ้น เนื่องจากตอนนี้แหล่งที่มาอาจถูกประดิษฐ์ขึ้น
ในที่นี้เราจะกล่าวถึงอันตราย 3 ประการในเชิงลึก: อาการประสาทหลอน (AI ที่สร้างข้อมูลปลอม แหล่งที่มาหรือคำพูด), สมัย (องค์ประกอบตามงวดถูกย้ายไปยังช่วงเวลาที่ไม่ถูกต้อง) และระเบียบวินัยในการตรวจสอบแหล่งที่มาโดยทั่วไป นอกจากนี้เรายังจะได้เห็นการเรียนรู้ AI จากแหล่งที่ไม่ถูกต้องหรือเอนเอียงในอดีต จึงสามารถจำลองอคติได้
ภาพหลอน: ความผิดพลาดที่อันตรายที่สุด
ภาพหลอนคือการที่ AI นำเสนอสิ่งที่ไม่มีอยู่จริงอย่างมั่นใจ ในอดีตมักพบเห็นได้บ่อยที่สุดในรูปแบบต่อไปนี้:
- แหล่งที่มา/อ้างอิงที่สร้างขึ้น: กองทุนเอกสารสำคัญที่ไม่มีอยู่จริง หมายเลขไฟล์ หนังสือหรือบทความ
- คำพูดที่แต่งขึ้น: คำที่ไม่ได้พูดจริง ประโยคที่ไม่มีอยู่ในเอกสาร
- เหตุการณ์ที่สร้างขึ้น/วันที่/บุคคล: เหตุการณ์ที่ไม่ได้เกิดขึ้น วันที่เท็จ บุคคลที่ไม่มีอยู่จริง
- การเชื่อมต่อที่สมมติขึ้น: ความสัมพันธ์ระหว่างเหตุและผลที่ไม่มีอยู่จริงระหว่างเหตุการณ์จริงสองเหตุการณ์
สิ่งที่ทำให้ภาพหลอนเป็นอันตรายคือมันดูน่าเชื่อ ข้อมูลอ้างอิงที่จัดทำขึ้นมีรูปแบบเดียวกับข้อมูลอ้างอิงจริง ได้แก่ ชื่อกองทุน เลขที่ วันที่ ดังนั้น "รูปแบบที่ดูถูกต้อง" ไม่เคยหมายความว่า "ถูกต้อง"
ข้อควรสนใจ: ห้ามใช้ทรัพยากรที่ผลิตโดย YZ โดยไม่ได้รับการตรวจสอบและพบในแค็ตตาล็อกหรือในสถานที่ที่เชื่อถือได้ วิธีเดียวที่จะพิสูจน์ว่ามีข้อมูลอ้างอิงอยู่คือการดูว่าแหล่งข้อมูลต้นฉบับนั้นอยู่ที่ใด (แค็ตตาล็อกเอกสารสำคัญ ห้องสมุด สิ่งตีพิมพ์) “AI ให้มัน” ไม่ใช่หลักฐาน
ยุคสมัย: แก้วแห่งยุค
ยุคสมัยคือการมองเห็นอดีตผ่านแว่นตาของวันนี้ เนื่องจาก AI ได้รับการฝึกฝนในภาษาปัจจุบัน จึงมีแนวโน้มอย่างมากที่จะ:
- ระยะที่ผิดสมัย: การใช้คำ สถาบัน หรือแนวคิดที่ไม่อยู่ในยุคนั้น
- Concept anachronism: การฉายความคิดในปัจจุบัน (เช่น อุดมการณ์หรืออัตลักษณ์สมัยใหม่) ไปสู่อดีต
- คุณค่าที่ผิดสมัย: การตัดสินพฤติกรรมในอดีตตามมาตรฐานปัจจุบันเท่านั้น
หน้าที่ของนักประวัติศาสตร์คือการทำความเข้าใจอดีตในบริบทของมัน AI ขาดความละเอียดอ่อนของบริบทนี้ คุณต้องจัดหามันเอง
Understanding why hallucination happens so often makes it easier to protect against it. AI เป็นระบบที่ทำงานเพื่อสร้าง "คำที่มีแนวโน้มมากที่สุดถัดไป"; ไม่มีจุดประสงค์เช่นการ "รู้ความจริง" เมื่อถามคำถาม ไม่ว่าเขาจะรู้คำตอบหรือไม่ก็ตาม เขาก็จะสร้างข้อความที่ดูน่าเชื่อถือทางสถิติ รูปแบบของเอกสารอ้างอิงเอกสารสำคัญ (ชื่อกองทุน เลขที่ วันที่) เป็นรูปแบบการเรียนรู้ AI สามารถเติมรูปแบบนี้ได้โดยไม่ต้องมีการอ้างอิงจริง แล้ว “ทำไม AI ถึงสร้างมันขึ้นมา” คำตอบสำหรับคำถามนั้นง่าย: สำหรับเขาแต่งหน้าง่ายกว่า "ไม่รู้" ความรับผิดชอบตกอยู่กับคุณในการเติมทรัพยากรจริงลงในแม่พิมพ์เหล่านี้
ระเบียบวินัยในการตรวจสอบแหล่งที่มา: ทีละขั้นตอน
1. ตรวจสอบการมีอยู่ของทรัพยากร ค้นหาข้อมูลอ้างอิงทั้งหมดที่ได้รับจาก AI ในแค็ตตาล็อก/สิ่งพิมพ์ ถ้าหาไม่เจออย่าใช้
2. เปรียบเทียบเนื้อหากับแหล่งที่มา ข้อมูลที่ AI ระบุถึงเอกสารมีอยู่ในเอกสารจริงหรือไม่ ใบเสนอราคาเหมือนกันทุกประการหรือไม่?
3. ยืนยันข้าม สำหรับข้อเท็จจริงที่สำคัญ โปรดดูแหล่งข้อมูลอิสระที่เชื่อถือได้อย่างน้อยสองแห่ง
4. Apply source criticism. แหล่งที่มาน่าเชื่อถือหรือไม่? ใครเป็นคนผลิต เมื่อไหร่ และเพื่อจุดประสงค์อะไร? มันมีอคติหรือเปล่า?
5. ผ่านตัวกรองสมัย มีข้อกำหนด แนวคิด หรือการตัดสินคุณค่าที่ไม่สอดคล้องกับช่วงเวลาในผลลัพธ์หรือไม่
6. คำถามอคติ AI สามารถทำซ้ำอคติในแหล่งข้อมูลทางประวัติศาสตร์ได้หรือไม่ (โดยไม่สนใจกลุ่มใดกลุ่มหนึ่ง ชื่นชอบมุมมองเดียว)
ชั้นการรับรองความถูกต้อง
คำถาม
ใครทำ
เอนทิตี
ทรัพยากรนี้มีอยู่จริงหรือไม่?
คุณอยู่ในแค็ตตาล็อก
เนื้อหา
สิ่งนี้พูดในเอกสารจริงๆเหรอ?
คุณอยู่ในเอกสาร
การยืนยัน
มีแหล่งอื่นรองรับหรือไม่?
คุณข้าม
ความน่าเชื่อถือ
แหล่งที่มาเชื่อถือได้หรือไม่?
การตัดสินของผู้เชี่ยวชาญ
ระยะเวลา
มีความผิดปกติหรือไม่?
การตัดสินของผู้เชี่ยวชาญ
อคติ
เสียงของใครหายไป/เพี้ยน?
การตัดสินของผู้เชี่ยวชาญ
มินิเคสสามอัน
กรณีที่ 1 — ข้อมูลอ้างอิงประดิษฐ์หกรายการ นักวิจัยถาม AI เกี่ยวกับรายการแหล่งที่มาในหัวข้อหนึ่งๆ YZ ให้ข้อมูลอ้างอิงที่เก็บถาวร 6 รายการพร้อมการจัดรูปแบบที่สมบูรณ์แบบ ในการค้นหาแคตตาล็อก มี 4 รายการจาก 6 รายการหายไป โดย 2 รายการมีหมายเลขผิด หากผู้วิจัยไม่ตรวจสอบ การศึกษาที่อ้างถึงแหล่งที่มาที่ไม่มีอยู่จริงก็จะเกิดขึ้น บทเรียน: ทุกข้อมูลอ้างอิงได้รับการตรวจสอบในแค็ตตาล็อก
กรณีที่ 2 — ใบเสนอราคาที่สร้างขึ้น นักเขียนจะใช้คำพูดที่โดดเด่นซึ่ง AI อ้างถึงบุคคลในประวัติศาสตร์ เมื่อเขาตรวจสอบแหล่งที่มา เขาพบว่าไม่มีเอกสารพิสูจน์ว่าบุคคลนั้นพูดเช่นนั้น และคำกล่าวดังกล่าว "สร้างขึ้น" โดย AI บทเรียน: ไม่สามารถใช้คำพูดได้หากไม่มีการตรวจสอบจากแหล่งข้อมูลหลักหรือแหล่งข้อมูลที่เชื่อถือได้
กรณีที่ 3 — การทำซ้ำอคติ นักเรียนมี AI อธิบายประวัติศาสตร์ของภูมิภาค ผลลัพธ์จะเพิกเฉยต่อชุมชนเฉพาะในพื้นที่นั้นโดยสิ้นเชิง เนื่องจากแหล่งที่มาที่ AI ได้เรียนรู้มาก็เพิกเฉยต่อชุมชนเหล่านั้นเช่นกัน นักเรียนสังเกตเห็นและแก้ไขช่องว่างนี้ด้วยการอ้างอิงโยง บทเรียน: AI สร้างความเงียบและอคติในแหล่งที่มา ต้องถามว่าเสียงใครหายไป
เทมเพลตที่สามารถคัดลอกได้สี่แบบ
1) รายการตรวจสอบอ้างอิง:
ALL source, reference, quote, date and person names in the text below appear in a separate list. เพิ่มหมายเหตุสำหรับแต่ละข้อ: "อ้างสิทธิ์ในข้อความนี้ ต้องได้รับการตรวจสอบโดยอิสระ" หากคุณเลือกไม่มี ให้ "ยืนยัน"; เพียงสร้างรายการเพื่อตรวจสอบเพื่อให้ฉันตรวจสอบได้จากแค็ตตาล็อก/แหล่งที่มา ข้อความ: [ที่นี่]
2) การสแกนสมัย:
ตรวจสอบข้อความเกี่ยวกับ [ช่วงเวลา] ด้านล่าง เน้นคำศัพท์ สถาบัน แนวคิด และค่านิยมที่อาจไม่ได้อยู่ในช่วงเวลานี้ ให้เขียนสั้นๆ ว่าทำไมคุณถึงสงสัยสำหรับแต่ละคน การตัดสินขั้นสุดท้าย สร้างรายการข้อสงสัยที่ผู้เชี่ยวชาญจะตรวจสอบ ข้อความ: [ที่นี่]
3) กรอบการวิจารณ์แหล่งที่มา:
การวิจารณ์แหล่งที่มาถูกร่างขึ้นเกี่ยวกับแหล่งที่มาต่อไปนี้: (1) ใครเป็นผู้จัดทำ (2) เมื่อใด (3) เพื่อวัตถุประสงค์อะไร (4) อะไรคืออคติที่เป็นไปได้ (5) ประเด็นใดควรเชื่อถือได้ และประเด็นใดควรระมัดระวัง การกำหนดคำพิพากษาถึงที่สุด ระบุคำถามและตัวเลือกคำตอบที่เป็นไปได้ ที่มา: [ที่นี่]
4) Missing volume/bias control:
เสียงของใครและประสบการณ์ของกลุ่มใดที่อาจขาดหายไปหรือฝ่ายเดียวในการสรุปทางประวัติศาสตร์ต่อไปนี้ มุมมองไหนโดดเด่น มุมมองไหนมองไม่เห็น? สร้างสิ่งนี้เป็นรายการคำถาม ฉันจะเติมด้วยตัวอ้างอิงโยง เรื่องย่อ: [ที่นี่]
พรอมต์อ่อน / พรอมต์แรง
อ่อนแอ:
ให้แหล่งข้อมูลทางประวัติศาสตร์และคำพูดที่เชื่อถือได้เกี่ยวกับเรื่องนี้แก่ฉัน
AI มีแนวโน้มที่จะสร้างข้อมูลอ้างอิงที่มีรูปแบบที่ถูกต้อง แต่ถูกสร้างขึ้นในเนื้อหาเมื่อถูกถามถึง "แหล่งที่มา" และ "ข้อมูลอ้างอิง" ข้อความนี้เป็นการเชิญชวนโดยตรงสู่อาการประสาทหลอน
แข็งแกร่ง:
แนะนำแหล่งที่มาประเภทใด (ประเภทกองทุนสำรองเลี้ยงชีพ ประเภทสิ่งพิมพ์ สถาบัน) ที่ฉันควรมองหาในการวิจัยในหัวข้อนี้ ติดตั้งข้อมูลอ้างอิง หมายเลขไฟล์ หรือใบเสนอราคาเฉพาะ แค่บอกฉันว่าจะดูที่ไหน แล้วผมจะค้นหาแหล่งที่มาที่แท้จริงจากแค็ตตาล็อก
ความแตกต่าง: AI ถูกถามถึง "ที่จะดู" ไม่ใช่ "ข้อมูลอ้างอิงจริง"; ความเสี่ยงของการเกิดอาการประสาทหลอนจะลดลงอย่างมาก และการตรวจสอบยังคงเป็นหน้าที่ของมนุษย์
ข้อผิดพลาดทั่วไป
- Relying on the correct reference. ข้อมูลอ้างอิงที่จัดทำขึ้นก็ดูไร้ที่ติเช่นกัน จะต้องได้รับการตรวจสอบในแค็ตตาล็อก
- รับใบเสนอราคาโดยตรงจาก AI ไม่สามารถใช้ใบเสนอราคาได้หากไม่มีการยืนยันจากแหล่งที่มาหลัก/ที่เชื่อถือได้
- มองข้ามความล้าสมัย คำศัพท์และแนวความคิดในปัจจุบันซึมซับไปสู่อดีตอย่างเงียบๆ
- Reproducing prejudice. AI คัดลอกความเงียบจากแหล่งที่มา ต้องถามถึงเสียงที่หายไป
- อาศัยแหล่งเดียว ข้อเท็จจริงที่สำคัญต้องได้รับการยืนยันจากแหล่งข้อมูลอิสระอย่างน้อยสองแห่ง
โดยสรุป
การตรวจสอบแหล่งที่มาเป็นหัวใจสำคัญของประวัติศาสตร์และการเก็บถาวร และมีความสำคัญยิ่งกว่าในยุคของ AI ภาพหลอนก่อให้เกิดแหล่งที่มา คำพูด และเหตุการณ์ที่มีรูปแบบที่สมบูรณ์แบบแต่เนื้อหาเป็นเรื่องสมมติ ยุคสมัยบิดเบือนอดีตผ่านเลนส์ของวันนี้ และ AI สร้างอคติในแหล่งที่มา การป้องกันถือเป็นระเบียบวินัย: ตรวจสอบการอ้างอิงแต่ละรายการในแค็ตตาล็อก เปรียบเทียบเนื้อหากับเอกสาร ตรวจสอบข้อเท็จจริงที่สำคัญ กรองผ่านช่วงเวลาและอคติ ถาม AI ว่า "จะดูได้ที่ไหน" ไม่ใช่ "แหล่งที่มาที่แท้จริง" ผู้พิทักษ์ความจริงย่อมเป็นผู้เชี่ยวชาญเสมอ
งานสมัคร
ให้ AI จัดทำรายการทรัพยากรในหัวข้อที่คุณกำลังดำเนินการอยู่ (โดยจงใจ "แจ้งไม่ชัดเจน") จากนั้นแยกข้อมูลอ้างอิงทั้งหมดออกจากเอาต์พุตนี้ด้วยเทมเพลต "รายการตรวจสอบข้อมูลอ้างอิง" และค้นหาแต่ละรายการในแค็ตตาล็อก นับจำนวนที่มีอยู่จริง และจำนวนที่ถูกสร้างขึ้นหรือไม่ถูกต้อง ทำซ้ำหัวข้อเดิมด้วย "พรอมต์ที่ชัดเจน" ("ฉันควรดูที่ไหน") และสัมผัสกับความแตกต่าง
รายการตรวจสอบ
- [ ] ฉันตรวจสอบข้อมูลอ้างอิงแต่ละรายการในแคตตาล็อก/แหล่งที่เชื่อถือได้
- [ ] ฉันได้ตรวจสอบใบเสนอราคาแต่ละรายการกับแหล่งที่มาหลัก/ที่เชื่อถือได้แล้ว
- [ ] ฉันได้ตรวจสอบข้อเท็จจริงที่สำคัญกับแหล่งข้อมูลอิสระอย่างน้อยสองแหล่งแล้ว
- [ ] ฉันกรองผลลัพธ์เพื่อหาความผิดปกติ
- [ ] ฉันตั้งคำถามถึงเสียงและอคติที่หายไป/บิดเบี้ยว