กำไร:
- อธิบายสาเหตุของอาการประสาทหลอนและบทบาทของการต่อสายดิน
- การใช้เทคนิคที่ทำให้โมเดลพูดว่า 'ฉันไม่รู้' หากไม่อยู่ในบริบท
- สร้างความมั่นใจในความไว้วางใจและสามารถตรวจสอบได้โดยการเพิ่มแหล่งที่มา/การอ้างอิงที่ตรวจสอบได้ในการตอบกลับ
พฤติกรรมที่อันตรายที่สุดของแบบจำลองภาษาคือการสร้างสิ่งที่เขาไม่รู้จักด้วยน้ำเสียงที่มั่นใจและโน้มน้าวใจ สิ่งนี้เรียกว่าภาพหลอน อาการประสาทหลอนในตัวผู้ช่วยในองค์กรไม่เพียงแต่น่ารำคาญเท่านั้น แต่ยังมีความเสี่ยงอย่างยิ่ง เช่น วันหยุดผิดวัน ราคาผิด เนื้อหาทางกฎหมายที่ไม่ถูกต้องอาจทำให้พนักงานหรือลูกค้าตกอยู่ในอันตรายได้ ในหน่วยนี้ เราจะพูดถึงสาเหตุที่ทำให้เกิดอาการประสาทหลอน วิธีลดอาการเหล่านี้ใน RAG และวิธีทำให้สามารถตรวจสอบคำตอบได้
อาการประสาทหลอนเกิดจากอะไร?
แบบจำลองนี้ได้รับการฝึกฝนให้สร้างคำที่น่าจะเป็นไปได้มากที่สุดลำดับถัดไป ไม่ใช่ "บอกความจริง" แต่ "สร้างข้อความที่คล่องแคล่วและสมเหตุสมผล" หากข้อมูลขาดหายไป ก็สามารถเติมเต็มช่องว่างด้วยสิ่งที่เป็นไปได้ทางสถิติแต่ไม่ถูกต้องตามความเป็นจริง ทริกเกอร์ทั่วไปสามประการ:
- ไม่มีคำตอบในบริบท แต่โมเดลก็รู้สึกว่าจำเป็นต้องพูดอะไรบางอย่างอยู่ดี
- บริบทขัดแย้งหรือไม่เพียงพอ แบบจำลองปิดช่องว่างด้วยการคาดการณ์
- คำถามนี้นอกเหนือไปจากบริบท โมเดลกลับไปสู่ความรู้ทั่วไป (และอาจล้าสมัย) ของตัวเอง
RAG ลดอาการประสาทหลอนเนื่องจากทำให้โมเดลมีแหล่งที่มาที่แท้จริง แต่ไม่ได้รีเซ็ต หากนำชิ้นส่วนผิดหรือทิ้งโมเดล "อิสระในการเติมเต็มช่องว่าง" ระบบที่มี RAG ก็ใส่ได้เช่นกัน
ประเภทของภาพหลอน
อาการ
สาเหตุที่แท้จริง
ชั้นสารละลาย
เกิดจากการเอาคืน
คำตอบที่ถูกต้องอยู่ในเอกสารแต่ไม่ได้รับ
จัดส่งส่วนที่ผิด/ขาดแล้ว
การแยกส่วน ไฮบริด การจัดอันดับใหม่ (หน่วยที่ 3-4)
แหล่งที่มาของรุ่น
มาถึงส่วนที่ถูกต้องแต่คำตอบผิด/ต้องเพิ่ม
แบบจำลองเติมเต็มช่องว่างด้วยการทำนาย
การต่อสายดิน การอนุญาต "ฉันไม่รู้" ความคิดสร้างสรรค์ต่ำ
แหล่งอ้างอิง
คำตอบนั้นถูกต้องแต่แหล่งที่มาผิด
รุ่นอ้างถึงส่วนที่ผิด
การตรวจสอบการอ้างอิง (ดูบทที่ 8)
คำแนะนำ: แบ่งภาพหลอนออกเป็นสองส่วน ที่มาจากการรับคืน: มาถึงส่วนที่ผิด/ขาดหายไป (วิธีแก้ไข: ปรับปรุงการดึงข้อมูล) แหล่งที่มาของการสร้าง: ชิ้นส่วนที่ถูกต้องมาถึงแล้ว แต่โมเดลอ่าน/เพิ่มไม่ถูกต้อง (วิธีแก้ไข: แจ้งและต่อสายดิน) คุณไม่สามารถแก้ไขได้เว้นแต่คุณจะรู้ว่ามันคืออะไร
การต่อสายดิน: การตอกย้ำคำตอบในบริบท
Grounding เป็นชื่อที่ตั้งให้กับเทคนิคทั้งหมดในการบอกโมเดล "เพียงอาศัยข้อความที่ฉันให้คุณ อย่าไปไกลกว่านั้น" เทคนิคพื้นฐานที่สุดและมีประสิทธิภาพมากที่สุดของเขา: อนุญาตให้โมเดลพูด 'ฉันไม่รู้' อย่างชัดเจน แบบจำลองก็เหมือนกับมนุษย์ ลังเลที่จะพูดว่า "ฉันไม่รู้"; คุณต้องให้อนุญาตอย่างชัดแจ้งแก่เขาในการดำเนินการนี้
ตอบตามบริบทด้านล่างเท่านั้น หากคำตอบไม่ชัดเจนในบริบท ให้เขียนดังนี้: "ฉันไม่พบข้อมูลเพียงพอเกี่ยวกับเรื่องนี้ในเอกสารประกอบ" อย่าใส่ตัวเลข วันที่ หรือชื่อที่ไม่อยู่ในบริบท อย่าเดาเลย
เทคนิคการต่อลงดินเพิ่มเติม:
- ข้อกำหนดในการเสนอราคา: ก่อนการอ้างสิทธิ์แต่ละครั้ง ให้อ้างอิงบริบททุกคำ (“เอกสารระบุว่า: '...'”) การสร้างใบเสนอราคาที่ประดิษฐ์ขึ้นนั้นยากกว่าสำหรับโมเดล
- อุณหภูมิต่ำ: อุณหภูมิ (อุณหภูมิ ความคิดสร้างสรรค์/การตั้งค่าแบบสุ่ม) ควรต่ำ หมายเหตุ: ในบางรุ่นปัจจุบันพารามิเตอร์นี้ได้ถูกลบออกแล้ว ในนั้น คุณแจ้งการต่อสายดิน ความคิดสร้างสรรค์ที่สูงเป็นศัตรูของความซื่อสัตย์สุจริตขององค์กร
- ขีดจำกัดขอบเขต: "ตอบสนองต่อปัญหานโยบายความยินยอมเท่านั้น ปฏิเสธอย่างสุภาพในการเลือกไม่รับ"
การอ้างอิง
การป้องกันอย่างเป็นระบบที่แข็งแกร่งที่สุดต่ออาการประสาทหลอนคือการทำให้คำตอบสามารถตรวจสอบได้ หากผู้ใช้สามารถดูว่าคำตอบนั้นขึ้นอยู่กับเอกสารใด: (1) เขาสามารถจับข้อผิดพลาดได้ด้วยตัวเอง (2) การตรวจสอบเป็นไปได้ (3) ความไว้วางใจเพิ่มขึ้น และ (4) แบบจำลองจะสร้างความระมัดระวังมากขึ้นโดยตระหนักว่า "ฉันจะต้องอ้างอิงแหล่งที่มา"
สองแนวทางทั่วไป:
การระบุแหล่งที่มาแบบอินไลน์: แท็กแหล่งที่มาถัดจากการอ้างสิทธิ์แต่ละรายการ "วันหยุดประจำปีคือ 14 วัน [1]" ด้านล่างนี้คือเอกสารฉบับเต็มของ [1]
ผลลัพธ์ที่มีโครงสร้าง: การขอให้แบบจำลองสร้างคำตอบและรายการแหล่งที่มาในฟิลด์ที่แยกจากกัน การแสดงทรัพยากรเป็นลิงก์ที่สามารถคลิกได้ในอินเทอร์เฟซ
# การสร้างคำตอบที่มีโครงสร้างตามแบบจำลอง (แนวความคิด) ให้คำตอบของคุณในโครงสร้างต่อไปนี้:- คำตอบ: <คำตอบตามบริบท>- แหล่งที่มา: [{"part_no": 1, "file": "...", "section": "..."}]- ไว้วางใจ: <สูง|ปานกลาง|ต่ำ> # บริบทสนับสนุนอย่างชัดเจนเพียงใด หากบริบทไม่สนับสนุนคำตอบ ให้เขียนว่า "ไม่พบข้อมูล" ในช่องคำตอบและปล่อยให้แหล่งข้อมูลว่างไว้
เพื่อให้การอ้างอิงใช้งานได้จริง จำเป็นต้องตรวจสอบว่าการระบุแหล่งที่มานั้นถูกต้อง บางครั้งตัวแบบอาจให้คำตอบที่ถูกต้องแต่ให้แหล่งที่ผิด ระบบขั้นสูงจะตรวจสอบโดยอัตโนมัติว่าการอ้างสิทธิ์แต่ละครั้งได้รับการสนับสนุนจริงในส่วนที่ชี้ไป (การวัด "ความซื่อสัตย์" ในหน่วยถัดไป)
อ่อนแอ/แข็งแกร่ง: ต่อต้านอาการประสาทหลอน
อ่อนแอ (คำเชิญให้กรอกข้อมูลในช่องว่าง):
ตอบคำถามให้ดีที่สุดเท่าที่จะเป็นไปได้ด้วยข้อมูลที่คุณมี: {context} คำถาม: {question}# "As best you can" หมายถึง "เดาสิว่าคุณไม่รู้" สำหรับโมเดลนั้น
แข็งแกร่ง (ต่อสายดิน + ไม่ทราบสิทธิ์ + แหล่งที่มา + ความไว้วางใจ):
เพียงแค่พึ่งพาบริบท มิฉะนั้น ให้พูดว่า "ฉันไม่พบข้อมูลใดๆ"; ประกอบหมายเลข/วันที่/ชื่อ เพิ่มหมายเลขแหล่งที่มา [n] ในแต่ละข้อเรียกร้อง ระบุระดับความน่าเชื่อถือที่บริบทสนับสนุน CONTEXT: [1]... [2]... คำถาม: {question}
มินิเคสสามอัน
กรณีที่ 1 — หมายเลขรายการที่จัดทำขึ้น นักกฎหมายชุมชนคนหนึ่งได้จัดทำคำแถลง "มาตรา 17/B" ที่ไม่อยู่ในบริบทและให้ข้อมูลอันเป็นเท็จแก่ลูกจ้าง เมื่อคำสั่ง "อย่าให้หมายเลขบทความที่ไม่อยู่ในบริบทหรือบอกว่าไม่รู้" + เพิ่มภาระผูกพันในการเสนอราคา กรณีของบทความประดิษฐ์ลดลงจาก 11 เป็น 0 ใน 40 ตัวอย่าง
กรณีที่ 2 — ตอบถูก ผิดแหล่ง ผู้ช่วยฝ่ายสนับสนุนระบุระยะเวลาการคืนสินค้าที่ถูกต้องแต่อ้างอิงบทความผิด เมื่อลูกค้าคลิกลิงก์ เพจที่ไม่เกี่ยวข้องก็เปิดขึ้น เมื่อมีการเพิ่มการตรวจสอบการอ้างอิง (ตรวจสอบว่าการกล่าวอ้างปรากฏในส่วนที่อ้างถึงหรือไม่) อัตราการอ้างอิงเท็จลดลงจาก 23% เป็น 2%
กรณีที่ 3 — ไม่ได้รับอนุญาต “ฉันไม่รู้” ผู้ช่วยฝ่ายทรัพยากรบุคคลได้สร้างคำตอบที่น่าเชื่อถือแต่ไม่ถูกต้องสำหรับคำถามที่ไม่ได้อยู่ในเอกสาร เมื่อมีการเพิ่มความยินยอมและข้อความฉบับเต็ม "ฉันไม่ทราบ" อย่างชัดแจ้ง ("ฉันไม่พบข้อมูลเกี่ยวกับเรื่องนี้ในเอกสารประกอบ") ลงในข้อความแจ้ง อัตราการปฏิเสธโดยสุจริตสำหรับคำถามที่ไม่มีคำตอบ แทนที่จะเป็นการแต่งขึ้น เพิ่มขึ้นจาก 8% เป็น 95%
ข้อผิดพลาดทั่วไป
- ไม่อนุญาตให้ "ฉันไม่รู้": โมเดลเติมเต็มช่องว่างด้วยการประดิษฐ์
- รักษาความคิดสร้างสรรค์ให้อยู่ในระดับสูง: ความสุ่มเสี่ยงเป็นอันตรายต่อความสมบูรณ์ขององค์กร
- การเชื่อถือแหล่งที่มาโดยไม่ตรวจสอบ: โมเดลอาจแนบแหล่งที่มาที่ไม่ถูกต้องเข้ากับคำตอบที่ถูกต้อง
- ไม่แยกความแตกต่างระหว่างภาพหลอนทั้งสองประเภท: คุณแก้ไขที่ผิดโดยไม่รู้ว่าเกิดจากการดึงกลับหรือรุ่น
- การอ้างอิงที่ผิดพลาดสำหรับเครื่องสำอาง: การอ้างอิงแหล่งที่มาเป็นทั้งการยืนยันและยับยั้ง จริงจังกับมัน
ข้อควรระวัง: "นางแบบดูมั่นใจมาก" ไม่เหมือนกับ "นางแบบถูกต้อง" ภาพหลอนโดยทั่วไปเป็นประโยคที่คล่องแคล่วและมั่นใจที่สุด อ่านความเชื่อใจจากแหล่งที่มาที่ระบุ ไม่ใช่จากน้ำเสียงของประโยค
โดยสรุป
- อาการประสาทหลอนคือเมื่อแบบจำลองเติมช่องว่างข้อมูลด้วยข้อความที่น่าเชื่อถือแต่เป็นเท็จ RAG ลดแต่ไม่รีเซ็ต
- ภาพหลอนอาจเกิดจากการดึงข้อมูล (ผิดส่วน) หรือรุ่น (อ่านผิด) พิจารณาว่าอันไหนก่อน
- เทคนิคที่ทรงพลังที่สุดของ Grounding คือการให้สิทธิ์แก่โมเดลว่า "ฉันไม่รู้" อย่างชัดแจ้ง ข้อกำหนดในการอ้างอิงและความคิดสร้างสรรค์ต่ำ
- การอ้างอิงทำให้สามารถตรวจสอบคำตอบได้ ทั้งให้ความมั่นใจและผลักดันให้ผลิตโมเดลออกมาอย่างระมัดระวัง
- ควรตรวจสอบความถูกต้องของการอ้างอิงด้วย แหล่งที่ไม่ถูกต้องอาจแนบมากับคำตอบที่ถูกต้อง
งานสมัคร
(1) เตรียมคำถาม 4 ข้อเพื่อถามผู้ช่วยของคุณ ซึ่งคำตอบที่ไม่อยู่ในเอกสาร (คำถามกับดัก) ทดสอบแต่ละรายการด้วยข้อความแจ้งที่อ่อนแอและชัดเจน และทำเครื่องหมายว่าแบบจำลองนั้นเหมาะสมหรือไม่ (2) สำหรับคำถาม 4 ข้อที่มีคำตอบอยู่ในเอกสาร ให้แบบจำลองสร้างหมายเลขการเชื่อมและตรวจสอบด้วยตนเองว่ารอยเชื่อมที่แสดงนั้นเป็นส่วนที่ถูกต้องจริงหรือไม่ (3) ตรวจสอบว่าแบบจำลองให้ "คำตอบถูก ผิดแหล่ง" อย่างน้อย 1 กรณี และเขียนเป็นประโยคเดียวว่าคุณจะเข้าใจสิ่งนี้โดยอัตโนมัติได้อย่างไร
รายการตรวจสอบ
- [ ] ฉันสามารถบอกได้ว่าทำไมจึงเกิดอาการประสาทหลอนขึ้น และ RAG ก็ลดอาการประสาทหลอนลงแต่ไม่ได้รีเซ็ต
- [ ] ฉันสามารถแยกแยะระหว่างการดึงข้อมูลและภาพหลอนที่เกิดจากรุ่น และแก้ไขตำแหน่งที่ถูกต้องได้
- [ ] ฉันกำลังเพิ่มการอนุญาต "ฉันไม่รู้" และกฎพื้นฐานที่ชัดเจนในพรอมต์
- [ ] ฉันกำลังเพิ่มแหล่งที่ตรวจสอบได้ (อ้างอิง) ให้กับคำตอบ
- [ ] ฉันเข้าใจถึงความจำเป็นในการตรวจสอบความถูกต้องของการระบุแหล่งที่มาเพิ่มเติม