กำไร:
- รู้ว่าเหตุใดภาพหลอนจึงถูกซ่อนอยู่ในโดเมนของมนุษย์ และสามารถส่งผ่านแต่ละแหล่งที่มาผ่านห่วงโซ่การตรวจสอบห้าขั้นตอน (การดำรงอยู่ รอยประทับ คำพูด บริบท การระบุแหล่งที่มา)
- ความสามารถในการยืนยันความถูกต้องของแหล่งที่มาด้วยตัวตนที่เป็นรูปธรรม เช่น DOI, ISBN และแค็ตตาล็อก
- ทำความเข้าใจวินัยในการห้ามปัญญาประดิษฐ์จากการประดิษฐ์ และไม่เคยมอบหมายการตรวจสอบใบเสนอราคาและการระบุแหล่งที่มาอย่างซื่อสัตย์
คุณค่าของข้อความในด้านมนุษย์และสังคมขึ้นอยู่กับความถูกต้องและการถ่ายโอนแหล่งที่มาที่ถูกต้อง เรียงความวรรณกรรม วิทยานิพนธ์ บันทึกการบรรยาย ล้วนอาศัยแหล่งข้อมูลที่เชื่อถือได้และการระบุแหล่งที่มาอย่างตรงไปตรงมา (แสดงว่าคุณได้รับข้อมูลหรือคำพูดจากใคร/ที่ไหน) AI มอบความสะดวกสบายอย่างมากในสาขานี้ แต่ก็มีอันตรายร้ายแรงที่สุดเช่นกัน นั่นคือ ภาพหลอน ซึ่งก็คือการสร้างแหล่งที่มา คำพูด หรือข้อเท็จจริงที่ไม่มีอยู่จริง หน่วยนี้มีจุดมุ่งหมายเพื่อสร้าง "เกราะป้องกัน" เพื่อต่อต้านอันตรายนี้
กฎประโยคเดียว: ไม่มีแหล่งที่มา คำพูด วันที่ หรือหมายเลขที่สร้างโดย AI จะสามารถป้อนข้อความได้ โดยไม่ต้องมีการยืนยันจากบุคคลที่หนึ่งจากแหล่งข้อมูลหลักหรือแหล่งข้อมูลที่เชื่อถือได้ กฎนี้เป็นกฎที่เกิดซ้ำมากที่สุดและยืดหยุ่นน้อยที่สุดในโมดูลนี้
เหตุใดภาพหลอนจึงเป็นอันตรายในสาขานี้?
หาก AI ผิดพลาดในคำถามทางเทคนิค ก็มักจะถูกสังเกตเห็น แต่ในขอบเขตของมนุษย์ ภาพหลอนนั้นถูกปกปิดอย่างชำนาญ:
- ทางสายย่อยที่สมจริง: AI ผสมผสานชื่อของผู้แต่งที่แท้จริงกับชื่อที่เหมาะสมกับสาขาและปีที่เหมาะสม ผลลัพธ์ที่ได้คือแหล่งที่มาที่ไม่มีอยู่จริงแต่ดูเหมือนจริงทุกประการ
- คำพูดที่เหมาะสมกับสไตล์: AI สามารถเลียนแบบสไตล์ของผู้แต่งและนำเสนอประโยคที่ไม่ได้เป็นของเขาในฐานะ "คำพูดของเขา"
- ปิดแต่วันที่ไม่ถูกต้อง: ปีของงานอาจเลื่อนไปหนึ่งหรือสองปี สิ่งนี้จะหนีจากผู้อ่านที่ไม่ระมัดระวัง
- การระบุแหล่งที่มาที่สับสน: อาจถือว่าแนวคิดเป็นของคนผิด
สิ่งเหล่านี้สามารถแทรกซึมเข้าไปในข้อความของผู้เขียนได้อย่างเงียบๆ ด้วยเจตนาที่ซื่อสัตย์ และหากไม่ถูกจับได้ จะทำลายทั้งชื่อเสียงของผู้เขียนและความไว้วางใจของผู้อ่าน
ข้อควรระวัง: เพียงเพราะทรัพยากรปรากฏว่า "สมจริง" สำหรับ AI ไม่ได้หมายความว่าทรัพยากรนั้นเป็นของจริง ความสมจริงและความเป็นจริงเป็นสองสิ่งที่แตกต่างกัน AI เป็นผู้เชี่ยวชาญในตอนแรก แต่ก็ไม่สามารถรับประกันได้ในภายหลัง
เกราะตรวจสอบ: ทีละขั้นตอน
สำหรับแต่ละแหล่งที่มาและใบเสนอราคา ให้ติดตามห่วงโซ่นี้:
- มีไหม? ค้นหาแหล่งที่มาในแค็ตตาล็อกห้องสมุด ฐานข้อมูลที่เชื่อถือได้ หรือเว็บไซต์ของผู้จัดพิมพ์ หากไม่พบ แสดงว่าไม่มีอยู่ อย่าใช้มัน
- ตราประทับถูกต้องหรือไม่? ผู้แต่ง ชื่อเรื่อง ผู้จัดพิมพ์/วารสาร ปี หน้า — ทั้งหมดจะต้องตรงกันทุกประการ
- ใบเสนอราคามีจริงหรือไม่? ค้นหาใบเสนอราคาในแหล่งที่มาในหน้าที่ระบุ และเปรียบเทียบคำต่อคำ
- บริบทถูกต้องหรือไม่? ข้อความอ้างอิงถูกใช้ตามตัวอักษรหรือมีการบิดเบือนหรือไม่
- การแสดงที่มามีความซื่อสัตย์หรือไม่? แนวคิดนี้มาจากบุคคลที่ถูกต้องหรือไม่ มีบางสิ่งที่นำมาจากแหล่งข้อมูลรองที่แสดงให้เห็นว่าเป็นแนวคิดหลักหรือไม่
หากลิงก์ของห่วงโซ่นี้เสียแม้แต่ลิงก์เดียว ก็ไม่สามารถป้อนข้อความต้นฉบับได้
เคล็ดลับ: สั่งสอน AI ตั้งแต่เริ่มต้น: "อย่าให้แหล่งที่มาที่คุณไม่แน่ใจว่ามีอยู่ หากคุณไม่แน่ใจ ให้พูดว่า 'ฉันไม่พบแหล่งที่มา'" นี่ไม่ได้ยุติอาการประสาทหลอนโดยสิ้นเชิง แต่มันทำให้ AI พูดว่า "ฉันไม่รู้" แทนที่จะแต่งหน้า
วินัยในการอ้างอิงและการอ้างอิง
นอกจากการยืนยันแล้ว การระบุแหล่งที่มาอย่างซื่อสัตย์ยังถือเป็นวินัยด้วย:
- เสนอราคาโดยตรงด้วยคำพูดและหน้า; ปล่อยให้มันเป็นอย่างแท้จริง
- เชื่อมโยงคำพูดทางอ้อม (สรุปด้วยคำพูดของคุณเอง) ไปยังแหล่งที่มา หากแนวคิดนี้ไม่ใช่ของคุณ ก็ต้องแสดงที่มา
- ระบุการมีส่วนร่วมของ AI อย่างโปร่งใสตามกฎขององค์กรของคุณ AI ไม่ใช่ “ทรัพยากร” แต่ถ้าใช้ก็ต้องประกาศ
- อย่าวาดภาพแหล่งที่มารองว่าเป็นแหล่งหลัก หากคุณนำคำพูดของผู้แต่งมาจากหนังสือเล่มอื่น ให้ระบุสิ่งนี้
มินิเคสสามอัน
กรณีที่ 1 — แหล่งที่มาสองในห้าแห่งกลายเป็นเรื่องโกหก นักวิจัยได้ผ่านกระบวนการตรวจสอบแหล่งที่มา 5 แห่งที่ AI มอบให้ 2 รายการไม่ได้อยู่ในแคตตาล็อกเลย 1 รายการมีปีผิด 2 รายการเป็นของจริงและถูกต้อง มีการใช้การตรวจสอบ 2 รายการเท่านั้น บทความที่ได้รับการปกป้องจากการระบุแหล่งที่มาที่สมมติขึ้น
กรณีที่ 2 — ตรวจพบการบิดเบือนคำพูด นักเรียนคนหนึ่งพบคำพูดจาก AI ในหนังสือจริง แต่คำพูดนั้นมีความหมายตรงกันข้ามในบริบทดั้งเดิม AI ได้นำประโยคออกจากบริบท นักเรียนแก้ไขข้อความอ้างอิงพร้อมบริบทที่ถูกต้อง
กรณีที่ 3 — แก้ไขการระบุแหล่งที่มาที่ไม่ถูกต้อง ในบันทึกการบรรยายฉบับหนึ่ง AI ระบุความคิดเห็นของผู้เขียนผิด เมื่อครูตรวจสอบกับแหล่งข้อมูลที่เชื่อถือได้สองแห่ง เขาก็พบเจ้าของที่ถูกต้องจึงได้แก้ไข โน้ตรอดชีวิตมาได้โดยไม่ผิดพลาดกับนักเรียน
เทมเพลตที่สามารถคัดลอกได้สี่แบบ
1) คำแนะนำในการห้ามการผลิต:
จากนี้ไป: อย่าสร้างแหล่งที่มา ใบเสนอราคา วันที่ หรือหมายเลขใดๆ ที่คุณไม่แน่ใจว่ามีอยู่ หากคุณไม่แน่ใจ ให้พูดว่า "ต้องมีการยืนยัน" หรือ "ฉันไม่พบ" อย่าให้แท็กที่สมจริง แต่คุณไม่สามารถรับประกันความถูกต้องได้ ปฏิบัติตามกฎนี้ทุกคำตอบ
2) แผนงานการตรวจสอบแหล่งที่มา:
ฉันจะตรวจสอบแหล่งที่มาด้านล่างด้วยตัวเอง บอกฉันว่าจะค้นหาแหล่งข้อมูลนี้ได้ที่ไหน (แคตตาล็อก ฐานข้อมูล ผู้จัดพิมพ์) และข้อมูลสำคัญใดบ้าง คุณยืนยันว่ามีทรัพยากรอยู่ เพียงทำตามขั้นตอนการยืนยันที่มา: [วางเครดิต]
3) การตรวจสอบบริบทของใบเสนอราคา:
ด้านล่างนี้คือคำพูดและย่อหน้าจริงที่เกิดขึ้น คำพูดดังกล่าวใช้ในบริบทดั้งเดิมหรือมีการบิดเบือนหรือไม่ แค่อาศัยข้อความที่ฉันให้ไป เพิ่มความคิดเห็นข้อความอ้างอิง: [...] ย่อหน้าเดิม: [...]
4) การตรวจสอบความสมบูรณ์ของการระบุแหล่งที่มา:
ในข้อความของฉันด้านล่าง: ประโยคใดที่จำเป็นต้องมีแหล่งที่มาแต่ยังคงไม่ได้ระบุแหล่งที่มา แนวคิดใดที่อาจเป็นของบุคคลอื่น มีที่ที่ฉันแสดงแหล่งที่มารองเป็นแหล่งที่มาหลักหรือไม่ แนะนำแหล่งที่มาที่ประดิษฐ์ขึ้น เพียงชี้ให้เห็นการอ้างอิงที่ขาดหายไปข้อความ: [วางข้อความ]
พรอมต์อ่อน / พรอมต์แรง
อ่อนแอ: "ให้ 5 แหล่งข้อมูลทางวิชาการและคำพูดในหัวข้อนี้"
Güçlü: "บอกฉันว่าควรมองหาแหล่งที่มาและคำหลักประเภทใดในขณะที่ค้นคว้าเกี่ยวกับเรื่องนี้ อย่าสร้างข้อมูลอ้างอิงหรือคำพูดใดๆ ที่คุณไม่แน่ใจว่ามีอยู่จริง หากคุณไม่แน่ใจ ให้พูดว่า 'ฉันหาไม่พบ' ฉันจะให้แหล่งที่มาที่ฉันพบในภายหลังแก่คุณ ฉันจะยืนยันคำพูดจากหนังสือ"
ข้อความแจ้งอันทรงพลังปิดประตูสู่อาการประสาทหลอนและทิ้งการตรวจสอบไว้ให้กับมนุษย์ พรอมต์ที่อ่อนแอเชิญชวนโดยตรงต่อการผลิตทรัพยากรในจินตนาการ
ตารางห่วงโซ่การตรวจสอบ
ขั้นตอน
คำถาม
สถานที่ตรวจสอบ
เอนทิตี
แหล่งที่มามีอยู่จริงหรือไม่?
แค็ตตาล็อก/ฐานข้อมูล
สำนักพิมพ์
ผู้เขียน ปี หน้า ถูกต้องหรือไม่?
สำนักพิมพ์/สำนักพิมพ์
อ้าง
มันเป็นคำต่อคำในข้อความหรือไม่?
แหล่งที่มานั้นเอง
บริบท
ความหมายผิดเพี้ยนไปหรือเปล่า?
ย่อหน้าหลัก
การอ้างอิง
ถึงคนที่ใช่?
ตรวจสอบข้าม
การตรวจสอบด้วยลิงก์ถาวรและสำนักพิมพ์
มีวิธีที่เป็นรูปธรรมในการยืนยันอย่างรวดเร็วและเชื่อถือได้ว่ามีทรัพยากรอยู่จริงหรือไม่ สิ่งพิมพ์เชิงวิชาการสมัยใหม่ส่วนใหญ่มี DOI (Digital Object Identifier ซึ่งเป็นรหัสเฉพาะที่ไม่เปลี่ยนแปลงซึ่งกำหนดให้กับสิ่งพิมพ์อย่างถาวร โดยทำหน้าที่เหมือนลิงก์และนำไปสู่สิ่งพิมพ์โดยตรง) หากคุณเข้าถึงสิ่งพิมพ์จริงเมื่อคุณพิมพ์ DOI ของบทความลงในเบราว์เซอร์ แสดงว่าแหล่งข้อมูลนั้นมีอยู่ หากคุณหาไม่พบหรือไม่มี DOI เลย ให้สงสัย “DOI” ที่สร้างโดย AI มักถูกสร้างขึ้นและไม่มีที่ไหนเลย นี่เป็นหนึ่งในการทดสอบที่เป็นประโยชน์มากที่สุดในการจับภาพแหล่งกำเนิดจินตภาพ
ISBN (หมายเลขหนังสือมาตรฐานสากล) ให้การระบุที่คล้ายกันสำหรับหนังสือ คุณสามารถตรวจสอบความถูกต้องของหนังสือได้โดยค้นหาด้วย ISBN ในแคตตาล็อกห้องสมุดหรือฐานข้อมูลหนังสือที่เชื่อถือได้ สำหรับวารสาร โปรดตรวจสอบชื่อวารสารและข้อมูลปริมาณ/ฉบับบนเว็บไซต์ทางการของผู้จัดพิมพ์ ตัวตนที่เป็นรูปธรรมเหล่านี้เป็นคำตอบของคำถามที่ว่า "แหล่งที่มามีจริงหรือไม่" ตอบคำถามของคุณอย่างชัดเจนภายในไม่กี่นาที
วิธีการเหล่านี้เปลี่ยนการตรวจสอบให้เป็น "ธุรกรรม" แทนที่จะเป็น "หุ้น": เมื่อคุณเปิดและดูแหล่งที่มาแต่ละแห่งด้วยตนเอง ในแค็ตตาล็อก โดย DOI หรือบนไซต์ผู้จัดพิมพ์ ความเสี่ยงของการระบุแหล่งที่มาที่แฝงจะถูกกำจัดไปเป็นส่วนใหญ่
เคล็ดลับ: เมื่อคุณเขียนบรรณานุกรมเสร็จแล้ว ให้ "คลิกทัวร์": เปิด DOI หรือบันทึกแคตตาล็อกของแต่ละแหล่งข้อมูลจริงๆ แม้แต่ทรัพยากรเดียวที่ไม่เปิดก็ถือเป็นคำเตือน แก้ไขด้วยสำนักพิมพ์ที่ถูกต้องหรือลบออกจากรายการ
ข้อผิดพลาดทั่วไป
- เข้าใจผิดคิดว่าความสมจริงเป็นความจริง ตัวตนที่เป็นไปได้ของ AI ไม่ได้พิสูจน์ว่ามีอยู่จริง
- ไม่ตรวจสอบใบเสนอราคาจากแหล่งที่มา คำพูดที่สร้างขึ้นหรือบิดเบี้ยวอาจรั่วไหลได้
- รับประวัติจากแหล่งเดียว ตรวจสอบกับแหล่งข้อมูลที่เชื่อถือได้อย่างน้อยสองแห่ง
- ทำให้ตัวรองดูเหมือนตัวหลัก ระบุห่วงโซ่เกียร์อย่างตรงไปตรงมา
- โดยอ้าง AI เป็นแหล่งที่มา AI ไม่ใช่ทรัพยากร มีการประกาศการใช้งาน มีการอ้างอิงถึงแหล่งข้อมูลหลัก
โดยสรุป
ความซื่อสัตย์ในสาขามนุษยศาสตร์ขึ้นอยู่กับแหล่งที่มาและความถูกต้องของการอ้างอิง อันตรายที่ใหญ่ที่สุดของ AI คือการสร้างแหล่งที่มาและคำพูดที่ดูสมจริงแต่ไม่มีอยู่จริง ส่งแต่ละแหล่งที่มาและการอ้างอิงผ่านห่วงโซ่การตรวจสอบห้าขั้นตอน (เอนทิตี เครดิต ใบเสนอราคา บริบท การระบุแหล่งที่มา) ห้ามไม่ให้ AI ประดิษฐ์ตั้งแต่เริ่มต้น และไม่เคยมอบหมายการตรวจสอบให้เลย วินัยนี้เป็นการรับประกันความน่าเชื่อถือของคุณในอาชีพนี้
งานสมัคร
ลองให้ AI แนะนำแหล่งข้อมูลและคำพูดในหัวข้อหนึ่งๆ เรียกใช้แต่ละแหล่งที่มาผ่านห่วงโซ่การตรวจสอบ: มีกี่แหล่งที่มีอยู่จริง, มีกี่แหล่งที่มีการระบุแหล่งที่มาที่ถูกต้อง, ใบเสนอราคาอยู่ในแหล่งที่มาจริงหรือไม่ เขียนผลลัพธ์ลงในตาราง ประสบการณ์นี้จะแสดงขีดจำกัดของ AI ในด้านนี้อย่างเป็นรูปธรรม
รายการตรวจสอบ
- [ ] ฉันยืนยันการมีอยู่ของทรัพยากรแต่ละรายการในแค็ตตาล็อก
- [ ] ฉันได้ตรวจสอบคำพูดทุกคำต่อคำจากแหล่งที่มาดั้งเดิมแล้ว
- [ ] ฉันได้ตรวจสอบแล้วว่าบริบทของคำพูดไม่ได้ถูกบิดเบือน
- [ ] ฉันได้ตรวจสอบวันที่กับแหล่งที่มาอย่างน้อยสองแหล่งแล้ว
- [ ] ฉันห้ามไม่ให้ AI ประดิษฐ์และไม่ได้มอบหมายการตรวจสอบให้