ภาพหลอนและขีดจำกัดของความน่าเชื่อถือ

กำไร:

• สามารถอธิบายได้ว่าภาพหลอนคืออะไรและเหตุใดจึงเกิดขึ้น
• สามารถกำหนดได้ว่าเมื่อใดที่ต้องตรวจสอบเอาต์พุต AI
• สามารถใช้เทคนิคการปฏิบัติที่เพิ่มความน่าเชื่อถือได้

บางทีหัวข้อที่สำคัญที่สุดของการรู้เท่าทัน AI อยู่ในหน่วยนี้: การสร้างแบบจำลอง ซึ่งก็คือ ภาพหลอน การทำความเข้าใจคำนี้เป็นข้อควรระวังด้านความปลอดภัยขั้นพื้นฐานที่สุดสำหรับทุกคนที่ใช้ AI เนื่องจากผู้ใช้ที่ไม่รับรู้ถึงภาพหลอนอาจเข้าใจผิดว่าข้อมูลเท็จเป็นความจริง และถ่ายโอนไปยังการตัดสินใจทางธุรกิจ การสื่อสารกับลูกค้า หรือเอกสารทางการ ในหน่วยการเรียนรู้นี้ คุณจะได้เรียนรู้ว่าภาพหลอนคืออะไร เหตุใดจึงหลีกเลี่ยงไม่ได้ และจะป้องกันภาพหลอนได้อย่างไร

ภาพหลอนคืออะไร?

อาการประสาทหลอนเกิดขึ้นเมื่อแบบจำลองภาษาสร้างข้อมูลที่ไม่มีอยู่จริงในภาษาที่คล่องแคล่วและมั่นใจ ราวกับว่ามันเป็นเรื่องจริง นางแบบไม่ได้ตั้งใจจะโกหก ในการสร้างเฉพาะ "ความต่อเนื่องที่น่าจะเป็นไปได้มากที่สุด" จะสร้างข้อความที่ดูเหมือนน่าจะเป็นไปได้แต่จริงๆ แล้วเป็นเท็จ

ตัวอย่าง: หากคุณบอกแบบจำลอง “แนะนำแหล่งข้อมูลทางวิชาการในหัวข้อ ทุกอย่างปรากฏในรูปแบบที่ถูกต้องและน่าเชื่อถือ แต่แหล่งที่มาเป็นเพียงจินตนาการล้วนๆ นี่เป็นตัวอย่างคลาสสิกของภาพหลอน

ทำไมมันถึงเกิดขึ้น? (จำหน่วยที่สอง)

แหล่งที่มาของภาพหลอนนั้นอยู่ที่หลักการทำงานของแบบจำลอง แบบจำลองนี้ไม่ใช่ "สารานุกรมข้อเท็จจริง"; มันคือ "เครื่องจักรความน่าจะเป็น" หน้าที่ของมันคือการทำให้คำถามของคุณต่อเนื่องได้อย่างราบรื่นที่สุดเท่าที่จะเป็นไปได้ มันไม่ได้เกี่ยวกับการให้ข้อมูลที่ถูกต้องที่สุด รุ่น:

• เขาไม่รู้ว่าเขาไม่รู้อะไร เมื่อต้องเผชิญกับช่องว่าง เขามักจะเติมคำตอบที่เป็นไปได้แทนที่จะพูดว่า "ฉันไม่รู้"
• ไม่มีกลไกในการควบคุมความเป็นจริง ไม่ได้ตรวจสอบว่าข้อความที่สร้างขึ้นตรงกับโลกหรือไม่
• ความคล่องแคล่วและความแม่นยำเป็นสองสิ่งที่แตกต่างกันสำหรับเขา เพียงเพราะมันคล่องไม่ได้หมายความว่ามันถูกต้อง

ข้อควรระวัง: อาการประสาทหลอนไม่ใช่ "ความผิดปกติ"; มันเป็นคุณลักษณะโดยธรรมชาติของเทคโนโลยี รุ่นใหม่ลดสิ่งนี้แต่ไม่สามารถกำจัดได้หมดสิ้น ดังนั้น แทนที่จะรอ "แบบจำลองที่ไม่ใช่ภาพหลอน" จำเป็นต้องเรียนรู้ที่จะอยู่กับภาพหลอน

ความเสี่ยงของอาการประสาทหลอนสูงอยู่ที่ไหน?

ผลลัพธ์แต่ละอย่างไม่ได้มีความเสี่ยงเท่ากัน ความเสี่ยงจะเพิ่มขึ้นเมื่อ:

ความเสี่ยงสูง

ความเสี่ยงต่ำ

ตัวเลขที่แน่นอน วันที่ สถิติ

การสร้างความคิดทั่วไปการระดมความคิด

การขอแหล่งที่มา คำพูด การอ้างอิง

เปลี่ยนโทนสีของข้อความ

นิชหัวข้อเฉพาะ

หัวข้อทั่วไปทั่วไป

เหตุการณ์ปัจจุบันและผู้คน

สรุปข้อความของคุณ

ข้อมูลภายในเฉพาะสำหรับบริษัทของคุณ

การแก้ไขไวยากรณ์

มินิเคสสามอัน

กรณีที่ 1 — มีบุคคลปลอมเข้ามาในการนำเสนอ พนักงานคนหนึ่งถาม AI เกี่ยวกับ "อัตราการเติบโตของอีคอมเมิร์ซปี 2023 และแหล่งที่มาในตุรกี" สำหรับรายงานอุตสาหกรรม โมเดลดังกล่าวให้ผลลัพธ์ที่น่าเชื่อถือ (48%) และชื่อสถาบัน พนักงานใส่ลงในการนำเสนอโดยไม่ได้ตรวจสอบ เมื่อมีการเปิดเผยในที่ประชุมว่าตัวเลขดังกล่าวได้รับการปลอมแปลง ทั้งการนำเสนอและชื่อเสียงของบริษัทได้รับความเสียหาย หากพนักงานคนเดียวกันได้รับตัวเลขจากแหล่งที่เป็นทางการก็คงไม่มีปัญหา

กรณีที่ 2 — กฎหมายที่ไม่มีอยู่จริง ผู้ช่วยถาม AI เกี่ยวกับ "กฎหมายที่เกี่ยวข้อง" เพื่อยื่นคำร้อง แบบจำลองสร้างหมายเลขและข้อความที่ดูสมจริง แต่รายการนั้นไม่ได้อยู่ที่นั่น โชคดีที่ฝ่ายกฎหมายสังเกตเห็นก่อนส่งมอบ บทเรียน: การอ้างอิงทางกฎหมายจะได้รับการตรวจสอบจากแหล่งที่มาหลักเสมอ

กรณีที่ 3 — วิธีการที่ถูกต้อง ผลลัพธ์ที่ปลอดภัย พนักงานอีกคนในทีมเดียวกันก็แค่ให้ AI ร่างรายงาน โดยป้อนตัวเลขทั้งหมดเองจากข้อมูลอย่างเป็นทางการ และสั่งการให้ “อย่าเพิ่มตัวเลขที่ไม่ได้อยู่ในข้อความนี้” ผลลัพธ์ที่ได้ก็รวดเร็วและแม่นยำ ความแตกต่าง: AI เขียนร่างข้อเท็จจริงที่มนุษย์ป้อน

พรอมต์ที่อ่อนแอ / พรอมต์ที่แข็งแกร่ง

คำเตือนที่อ่อนแอ: ให้แหล่งข้อมูลทางวิชาการที่สำคัญที่สุด 3 แหล่งในเรื่องนี้กับผู้แต่งและปี

ผลลัพธ์: โมเดลสามารถใส่แหล่งที่มาที่ไม่มีอยู่ได้อย่างปลอดภัย

ข้อความแจ้งที่มีประสิทธิภาพ: เขียนสรุปตามข้อความที่ฉันวางด้านล่าง ใช้เฉพาะข้อมูลในข้อความนี้ ห้ามใส่ชื่อ ตัวเลข หรือแหล่งที่มาใดๆ ที่ไม่อยู่ในข้อความ หากคุณไม่แน่ใจ ให้เขียนว่า "ไม่ได้ระบุในข้อความ"<text>[วางที่นี่]</text>

ผลลัพธ์: เนื่องจากโมเดลได้รับแหล่งที่มาจากคุณ พื้นที่ติดตั้งจึงแคบลง

เทคนิคการปฏิบัติที่เพิ่มความน่าเชื่อถือ

ทำเครื่องหมายคำกล่าวอ้างที่ตรวจสอบได้แต่ละรายการในคำตอบของคุณ (หมายเลข วันที่ ชื่อ แหล่งที่มา) และแยกไว้ในรายการ "ต้องตรวจสอบ" แยกต่างหาก

ตอบคำถามนี้ หากคุณไม่แน่ใจก็อย่าเดา พูดว่า "ฉันไม่แน่ใจ" และอธิบายว่าคุณไม่รู้อะไร เรื่อง: [เรื่อง]

ตอบคำถามเดียวกันด้วยสองวิธีที่แตกต่างกัน และทำเครื่องหมายข้อขัดแย้งระหว่างคำตอบทั้งสอง เลยมาดูประเด็นที่น่าสงสัย คำถาม: [คำถาม]

ฉันจะตรวจสอบข้อความด้านล่าง แสดงรายการการกล่าวอ้างที่มีความเสี่ยงที่ฉันควรตรวจสอบตามลำดับความสำคัญและแนะนำว่าฉันจะตรวจสอบแต่ละรายการได้ที่ไหน ข้อความ: [วางที่นี่]

นอกจากนี้ ให้นำนิสัยเหล่านี้ไปใช้:

1. คุณระบุแหล่งที่มา วางเอกสารที่เกี่ยวข้องลงในข้อความแล้วพูดว่า "ตอบตามนี้เพียงอย่างเดียว"
2. ตรวจสอบข้อเท็จจริงที่ตรวจสอบได้เสมอ ตรวจสอบหมายเลข วันที่ ชื่อ ใบเสนอราคา และแหล่งที่มาจากแหล่งข้อมูลอิสระและเชื่อถือได้
3. ขอให้เขาระบุว่าเขาไม่แน่ใจเกี่ยวกับรุ่น ซึ่งจะช่วยลดความเสี่ยงแต่ไม่ได้ขจัดความเสี่ยงทั้งหมด
4. สำหรับงานที่มีความเสี่ยงสูง ให้ผู้เชี่ยวชาญตรวจสอบผลลัพธ์ ผลลัพธ์ด้านกฎหมาย การเงิน และสุขภาพจะต้องผ่านการกรองโดยผู้เชี่ยวชาญที่เป็นมนุษย์
5. ใช้ AI เป็น "จุดเริ่มต้น" ไม่ใช่ "คำสุดท้าย" ร่างนั้นมาจากเขา การตรวจสอบและการตัดสินใจเป็นของคุณ

ข้อควรระวัง: "โมเดลพูดสองครั้งแล้วเป็นจริง" ตรรกะไม่ถูกต้อง สามารถทำผิดซ้ำรอยเดิมได้อย่างมั่นใจ การทำซ้ำไม่ใช่หลักฐานของความถูกต้อง

ข้อผิดพลาดทั่วไป

ข้อผิดพลาดทั่วไป

• การใช้แหล่งที่มาโดยไม่ตรวจสอบ สามารถสร้างหนังสือตัวอย่าง บทความ บทกฎหมาย และลิงก์ได้ การอ้างอิงทุกครั้งจะต้องได้รับการยืนยัน
• เข้าใจผิดน้ำเสียงมั่นใจเพื่อความถูกต้อง สิ่งที่อันตรายที่สุดเกี่ยวกับภาพหลอนคือการที่ภาพหลอนดูมั่นใจ
• แค่ให้โมเดลพูดว่า "คุณยืนยัน" ก็เพียงพอแล้ว การตรวจสอบแบบจำลองด้วยตนเองไม่ใช่การตรวจสอบความถูกต้องโดยอิสระ
• การใช้ผลลัพธ์ที่มีความเสี่ยงสูงโดยไม่แสดงให้ผู้เชี่ยวชาญเห็น การควบคุมของมนุษย์ถือเป็นสิ่งสำคัญในด้านการเงิน กฎหมาย และสุขภาพ

โดยสรุป

• ภาพหลอนคือการที่แบบจำลองสร้างข้อมูลที่ไม่มีอยู่จริงในลักษณะที่คล่องแคล่วและมั่นใจราวกับว่ามันเป็นเรื่องจริง
• สาเหตุไม่ใช่ความผิดปกติ แต่เป็นลักษณะการทำนายความน่าจะเป็นของแบบจำลอง ไม่สามารถกำจัดออกไปได้หมด
• ความเสี่ยงมีสูงเป็นพิเศษเมื่อพูดถึงตัวเลข แหล่งที่มา ข้อมูลล่าสุด และประเด็นเฉพาะที่แม่นยำ
• เพื่อป้องกันตัวคุณเอง: ให้แหล่งที่มา ตรวจสอบข้อเท็จจริง พูดว่า "ไม่แน่ใจบอกหน่อย" ให้ผู้เชี่ยวชาญตรวจสอบผลลัพธ์ที่มีความเสี่ยงสูง
• ใช้ AI เป็นจุดเริ่มต้น การตรวจสอบและความรับผิดชอบขั้นสูงสุดยังคงอยู่กับคุณเสมอ

งานแอปพลิเคชัน

บอกให้เครื่องมือ AI ของคุณ "แนะนำแหล่งข้อมูลทางวิชาการ 3 แหล่ง" ในเรื่องที่ต้องใช้ความเชี่ยวชาญ และพยายามยืนยันแหล่งข้อมูลที่แนะนำบนอินเทอร์เน็ต สังเกตว่ามีจริงกี่อัน จากนั้นทำซ้ำงานเดิมด้วยวิธี "คุณให้แหล่งที่มา" และสังเกตความแตกต่าง

รายการตรวจสอบ

• [ ] ฉันสามารถอธิบายได้ว่าภาพหลอนคืออะไรและทำไมจึงเกิดขึ้น
• [ ] ฉันสามารถแยกแยะระหว่างงานที่มีความเสี่ยงต่อการเกิดภาพหลอนสูงและต่ำได้
• [ ] ฉันสามารถลดความเสี่ยงในการประดิษฐ์ได้โดยให้แหล่งที่มาแก่โมเดล
• [ ] ฉันตรวจสอบหมายเลข วันที่ ชื่อ และแหล่งที่มาโดยอิสระ
• [ ] ฉันไม่ถือว่าน้ำเสียงที่มั่นใจเป็นหลักฐานของความถูกต้อง