การรับรองความถูกต้อง ขอบเขต ความเป็นส่วนตัว และจริยธรรม

กำไร:

• เข้าใจว่าแบบจำลองสามารถสร้างภาพหลอนได้ และต้องตรวจสอบผลลัพธ์แต่ละรายการ
• รู้ถึงความเสี่ยงและทางเลือกที่ปลอดภัยในการใส่ข้อมูลที่เป็นความลับและข้อมูลส่วนบุคคลทันที
• ใช้ข้อจำกัดด้านจริยธรรม ลิขสิทธิ์ และความรับผิดในการใช้ปัญญาประดิษฐ์

การเรียนรู้วิธีการเขียนข้อความแจ้งนั้นไม่เพียงพอ นอกจากนี้ยังจำเป็นต้องเรียนรู้การใช้ปัญญาประดิษฐ์อย่างมีความรับผิดชอบ หน่วยนี้เป็นชั้นของการรักษาความปลอดภัยที่ต้องวางไว้เหนือทักษะทางเทคนิค AI สร้างคำตอบที่รวดเร็ว น่าเชื่อถือ และมักจะแม่นยำ แต่บางครั้งก็สร้างข้อมูลที่เป็นเท็จโดยสิ้นเชิงด้วยความมั่นใจเช่นเดียวกัน อาจทำให้ข้อมูลที่ละเอียดอ่อนตกอยู่ในความเสี่ยง และผลักดันขอบเขตทางจริยธรรม ในหน่วยนี้ เราจะครอบคลุมถึงการตรวจสอบผลลัพธ์ ข้อจำกัดของแบบจำลอง การรักษาความลับ และความรับผิดชอบทางจริยธรรม หากไม่มีความรู้นี้ เทคนิคอื่นๆ ทั้งหมดก็ยังไม่สมบูรณ์

ภาพหลอน: การปรับโมเดลให้เหมาะสม

ภาพหลอนคือเมื่อแบบจำลองสร้างข้อมูลที่ไม่เป็นจริงในภาษาที่มั่นใจ แหล่งที่มาที่ไม่มีอยู่จริง วันที่ไม่ถูกต้อง สถิติที่สร้างขึ้น หรือกฎหมายที่ไม่เคยเขียนไว้เป็นตัวอย่างของสิ่งเหล่านี้ ทำไมมันถึงเกิดขึ้น? เพราะแบบจำลองไม่ได้ออกแบบมาเพื่อ "รู้ความจริง" แต่เพื่อ "สร้างความต่อเนื่องที่เป็นไปได้" (จำตรรกะในหน่วยแรก) เพียงเพราะประโยคที่เป็นไปได้ตามหลักไวยากรณ์ไม่ได้หมายความว่าประโยคนั้นเป็นจริงตามข้อเท็จจริง

ความหมายเชิงปฏิบัติของสิ่งนี้ชัดเจน: ข้อเท็จจริงทุกประการที่ AI สร้างขึ้นถือเป็นการกล่าวอ้าง ไม่ใช่ข้อเท็จจริง จนกว่าจะมีการตรวจสอบอย่างอิสระ โดยเฉพาะอย่างยิ่ง ให้ตรวจสอบเสมอ:

• ตัวเลขและสถิติ
• ชื่อ วันที่ ชื่อสถานที่
• ใบเสนอราคาและแหล่งอ้างอิง
• ข้อกฎหมาย มาตรฐานทางเทคนิค ข้อมูลทางการแพทย์/การเงิน

นิสัยการตรวจสอบ

คุณสามารถลดแต่ไม่สามารถรีเซ็ตการยืนยันได้ด้วยเทคนิคที่รวดเร็ว ทำงานในสองชั้น:

1. เลเยอร์พร้อมท์: ให้ข้อจำกัดของโมเดล เช่น "อาศัยแหล่งที่มาที่ฉันให้เท่านั้น อย่าเพิ่มข้อมูลที่ไม่มีอยู่ เขียนว่า 'ฉันไม่รู้' หากคุณไม่แน่ใจ แสดงแหล่งที่มาของการอ้างสิทธิ์แต่ละรายการ" สิ่งนี้จะช่วยลดความฟิต
2. ชั้นมนุษย์: ตรวจสอบข้อเท็จจริงที่สำคัญแต่ละข้อด้วยตนเองจากแหล่งที่มา ขั้นตอนนี้ไม่สามารถต่อรองได้ ถือเป็นข้อบังคับโดยเฉพาะอย่างยิ่งสำหรับเนื้อหาที่จะเผยแพร่ จะเป็นพื้นฐานในการตัดสินใจ หรือจะส่งผลกระทบต่อผู้อื่น

ขีดจำกัด: สิ่งที่โมเดลทำได้ไม่ดี

พื้นที่

ความเสี่ยง

แนวทางที่ถูกต้อง

เหตุการณ์ปัจจุบัน

ข้อมูลการฝึกอบรมอาจล้าสมัย

ตรวจสอบจากแหล่งที่มาลงวันที่/ปัจจุบัน

ตัวเลขที่แน่นอน

มีความเป็นไปได้สูงที่จะฟิตติ้ง

ตรวจสอบกับเครื่องคิดเลข/แหล่งที่มา

กฎหมาย/การแพทย์/การเงิน

เสี่ยงต่ออันตรายร้ายแรง

ปรึกษาผู้เชี่ยวชาญตัวจริง อย่าพึ่งเพียงผู้เดียว

แหล่งที่มา/การอ้างอิง

สามารถผลิตทรัพยากรที่ไม่มีอยู่จริงได้

ตรวจสอบความถูกต้องของแหล่งที่มาด้วยตนเอง

หัวข้อที่หายาก/เฉพาะ

ผิวเผินหรือไม่ถูกต้อง

เปรียบเทียบกับความรู้ผู้เชี่ยวชาญ

โมเดลคือผู้ช่วย ไม่ใช่ผู้มีอำนาจขั้นสุดท้าย ความรับผิดชอบมักจะอยู่กับผู้ที่ใช้งานมัน

ความเป็นส่วนตัวและข้อมูลส่วนบุคคล

ข้อความที่คุณพิมพ์ลงในเครื่องมือ AI สาธารณะจะอยู่ภายใต้นโยบายการประมวลผลของเครื่องมือนั้น และอาจอยู่นอกเหนือการควบคุมขององค์กรของคุณ ดังนั้นการป้อนข้อมูลที่เป็นความลับและข้อมูลส่วนบุคคลโดยไม่ไตร่ตรองถือเป็นความเสี่ยงร้ายแรง การประมวลผลข้อมูลส่วนบุคคลในTürkiyeอยู่ภายใต้การควบคุมโดย KVKK (กฎหมายคุ้มครองข้อมูลส่วนบุคคล) สถาบันต่างๆ มักมีนโยบายข้อมูลของตนเอง

วิธีทำงานที่ปลอดภัย:

• ไม่ระบุชื่อ/ปิดบัง: เขียน "ลูกค้า" แทนชื่อจริง "[หมายเลขบัญชี]" แทนตัวเลขจริง ส่วนใหญ่แล้ว การพูดว่า "ลูกค้าองค์กร 3 ปี" จะช่วยได้
• ใช้เครื่องมือที่ได้รับการรับรองจากสถาบัน: สถาบันบางแห่งเสนอเครื่องมือตามสัญญา/สถาบันที่ไม่ทำให้ข้อมูลรั่วไหล ประมวลผลข้อมูลที่ละเอียดอ่อนกับพวกเขาเท่านั้น
• อย่าเปิดเผยสิ่งที่ไม่จำเป็น: อย่าใส่รายละเอียดที่ละเอียดอ่อนซึ่งไม่จำเป็นจริงๆ ในการทำงาน
• รู้นโยบาย: เรียนรู้และปฏิบัติตามกฎการใช้ปัญญาประดิษฐ์ขององค์กรของคุณ

จริยธรรมและลิขสิทธิ์

การใช้งานอย่างมีความรับผิดชอบไม่ได้สิ้นสุดด้วยความเป็นส่วนตัว หลักการสามประการ:

1. ความโปร่งใส: ให้เครดิตเนื้อหาที่สร้างโดย AI อย่างเหมาะสม หากบริบทต้องการ (เช่น ในกรณีที่คาดว่าจะมีแรงงานมนุษย์) หลีกเลี่ยงการใช้งานที่เป็นการหลอกลวง
2. ลิขสิทธิ์และความคิดริเริ่ม: ผลงานของโมเดลอาจคล้ายกับผลงานอื่นๆ ตรวจสอบความเป็นต้นฉบับและสถานะสิทธิ์ก่อนนำไปใช้ในเชิงพาณิชย์ ห้ามเลียนแบบแบรนด์/ผลงานของผู้อื่น
3. การไม่มุ่งร้าย: ห้ามใช้เพื่อสร้างเนื้อหาที่ทำให้เข้าใจผิด เลือกปฏิบัติ บิดเบือน หรือกำหนดเป้าหมาย พลังของเครื่องมือเพิ่มความรับผิดชอบ

เทมเพลตที่คัดลอกได้สี่แบบ

1) ข้อต่อจำกัดข้อจำกัด:

เพียงพึ่งพาแหล่งที่มาด้านล่าง อย่าเพิ่มข้อมูลใดๆ ที่ไม่ได้อยู่ในแหล่งที่มา เขียนว่า "ไม่อยู่ในแหล่งที่มา" โดยที่คุณไม่แน่ใจ ถัดจากการกล่าวอ้างที่สำคัญแต่ละรายการ ให้ระบุบรรทัดที่การกล่าวอ้างดังกล่าวเป็นพื้นฐาน ที่มา: [ข้อความ]

2) แยกรายการการตรวจสอบ:

ระบุข้อเท็จจริงทั้งหมด (หมายเลข วันที่ ชื่อ คำกล่าวอ้าง) ที่ต้องตรวจสอบในข้อความด้านล่าง แนะนำสั้นๆ ว่าฉันจะตรวจสอบแต่ละข้อได้อย่างไร ข้อความ: [เอาต์พุต]

3) การไม่เปิดเผยตัวตน:

ปิดบังข้อมูลส่วนบุคคล/ความลับทั้งหมดในข้อความต่อไปนี้: ตั้งชื่อ [PERSON] บริษัท [COMPANY] ตัวเลข [NUMBER] ให้เวอร์ชันนิรนามที่มีความหมายเหมือนเดิม ข้อความ: [ข้อความ]

4) การทบทวนจริยธรรม:

ประเมินเนื้อหานี้อย่างมีจริยธรรมก่อนที่จะเผยแพร่: ทำให้เข้าใจผิด เลือกปฏิบัติ หรือไม่ยุติธรรมหรือไม่ Flag it if so and suggest corrections. Content: [text]

พรอมต์ที่อ่อนแอ / พรอมต์ที่แข็งแกร่ง

Weak (risky):

ค้นหาปัญหาในสัญญาของ Ahmet Yılmaz (TC: ...) และเปรียบเทียบกับค่าเฉลี่ยของอุตสาหกรรม

Strong (safe):

ค้นหาเงื่อนไขที่มีความเสี่ยงในข้อความสัญญาด้านล่าง - Use of personal data; ให้คู่สัญญาทั้งสองฝ่ายถูกเรียกว่า [บริษัท-A] และ [บุคคล]- พึ่งพาเฉพาะสิ่งที่เขียนในข้อความเท่านั้น ค่าเฉลี่ยอุตสาหกรรมสร้างขึ้น เขียนว่า "ไม่มีข้อมูล"- แสดงแต่ละความเสี่ยงด้วยรายการ ข้อความ (ไม่ระบุชื่อ): [ข้อความ]

เวอร์ชันที่มีประสิทธิภาพทั้งปกป้องข้อมูลส่วนบุคคลและบล็อกข้อมูลอุตสาหกรรมปลอม ผลลัพธ์พร้อมสำหรับการตรวจสอบโดยทีมกฎหมาย

มินิเคสสามอัน

Case 1 — Fabricated source. ผู้วิจัยได้ใส่ "แหล่งข้อมูลทางวิชาการ" 3 รายการที่ได้รับจากแบบจำลองลงในการนำเสนอโดยไม่ตรวจสอบความถูกต้อง Two of the sources were not available at all. A colleague noticed it before the presentation. หลังจากนั้น ทีมงานได้นำกฎ "ค้นหาและเปิดทรัพยากรแต่ละรายการด้วยตนเองก่อนที่จะเผยแพร่"

Case 2 — Confidentiality. พนักงานวางสัญญาของลูกค้าจริงที่ครบถ้วนไว้ในเครื่องมือสาธารณะและขอข้อมูลสรุป เมื่อทีมรักษาความปลอดภัยข้อมูลของสถาบันตรวจพบสิ่งนี้ กระบวนการจะได้รับการตรวจสอบ ขณะนี้เอกสารที่ละเอียดอ่อนได้รับการประมวลผลในเครื่องมือขององค์กรที่ได้รับอนุมัติจากสถาบันเท่านั้นและจะไม่เปิดเผยชื่อ

Case 3 — Decision responsibility. เจ้าของธุรกิจขนาดเล็กกำลังจะดำเนินการตามการตีความภาษีที่กำหนดโดยแบบจำลอง ความคิดเห็นไม่สอดคล้องกับกฎหมายปัจจุบัน ข้อผิดพลาดเกิดขึ้นเมื่อเขาปรึกษาที่ปรึกษาทางการเงินของเขา บทเรียนมีความชัดเจน: AI เตรียมพร้อม ผู้เชี่ยวชาญ และมนุษย์เป็นผู้ตัดสินใจ

เคล็ดลับ: สร้างนิสัยในการทำเครื่องหมายข้อเท็จจริงว่า "ยังไม่ได้รับการยืนยัน" ทำเครื่องหมายถูกถัดจากแต่ละหมายเลขและแหล่งที่มาในเอาต์พุตจนกว่าคุณจะยืนยัน วินัยง่ายๆ นี้ป้องกันไม่ให้ข้อมูลที่ผิดแพร่กระจายอย่างเงียบๆ

Caution: "AI said so" is not an excuse. คุณต้องรับผิดชอบต่อเนื้อหาใดๆ ที่คุณเผยแพร่ ส่ง หรือยึดตามการตัดสินใจของคุณ ความเร็วของยานพาหนะไม่ได้ช่วยลดภาระในการตรวจสอบของคุณ

ข้อผิดพลาดทั่วไป

• Mistaking fluent output as correct. การใช้ภาษาโน้มน้าวใจอย่างไม่ถูกต้องเพื่อเป็นหลักฐานแห่งความจริง
• Using the source without checking it. Publishing a non-existent source.
• การป้อนข้อมูลที่เป็นความลับโดยไม่ต้องคิด การวางเอกสารที่ละเอียดอ่อนโดยไม่เปิดเผยชื่อ
• Leaving the expertise to the model alone. ความล้มเหลวในการตรวจสอบการตัดสินใจทางกฎหมาย/การแพทย์/การเงิน
• Putting the responsibility on the vehicle. Evading control by saying "AI said so".

โดยสรุป

• อาการประสาทหลอนคือเมื่อแบบจำลองสร้างสิ่งที่ไม่จริงได้อย่างมั่นใจ Every fact is a claim until verified.
• การยืนยันมีสองเท่า: ข้อจำกัดที่เกิดขึ้นทันทีช่วยลดการประดิษฐ์ การตรวจสอบโดยมนุษย์จะตรวจจับได้
• โมเดลนี้จำกัดเฉพาะประเด็นที่เป็นปัจจุบัน แม่นยำ กฎหมาย/การแพทย์/การเงิน is not the final authority.
• ไม่ระบุชื่อข้อมูลที่เป็นความลับและข้อมูลส่วนบุคคลหรือกระบวนการเฉพาะในเครื่องมือที่ได้รับอนุมัติจากสถาบัน (KVKK และนโยบายของสถาบัน)
• ปฏิบัติตามหลักจริยธรรม ลิขสิทธิ์ และการไม่กระทำความผิด ความรับผิดชอบต่อเนื้อหาจะขึ้นอยู่กับบุคคลนั้นเสมอ

งานสมัคร

พิมพ์เอกสารที่คุณผลิตเมื่อเร็วๆ นี้ และดึงข้อเท็จจริงทั้งหมดในนั้น (หมายเลข วันที่ ชื่อ แหล่งที่มา คำกล่าวอ้าง) มาเป็นรายการตรวจสอบ จดวิธีการยืนยันสำหรับแต่ละรายการและตรวจสอบอย่างน้อยสามวิธี นอกจากนี้ ให้ตรวจสอบว่ามีข้อมูลที่เป็นความลับ/ข้อมูลส่วนบุคคลในอินพุตของเอาต์พุตเดียวกันหรือไม่ และปิดบังการระบุชื่อหากจำเป็น

รายการตรวจสอบ

• [ ] ฉันสามารถอธิบายได้ว่าภาพหลอนคืออะไรและทำไมจึงเกิดขึ้น
• [ ] ฉันตรวจสอบผลลัพธ์ที่เป็นข้อเท็จจริงจากแหล่งที่มาอิสระ
• [ ] ฉันปกปิดชื่อข้อมูลที่เป็นความลับ/ข้อมูลส่วนบุคคล หรือประมวลผลด้วยเครื่องมือที่ปลอดภัย
• [ ] ฉันปรึกษาผู้เชี่ยวชาญที่แท้จริงในเรื่องกฎหมาย/การแพทย์/การเงิน
• [ ] ฉันยอมรับว่าฉันรับผิดชอบต่อเนื้อหา