ความรู้เบื้องต้นเกี่ยวกับปัญญาประดิษฐ์ในบรรณารักษ์และการจัดการข้อมูล: บทบาท ขอบเขต การรับรองความถูกต้อง ความเป็นส่วนตัว และจริยธรรม

กำไร:

• ความสามารถในการแยกแยะว่าจุดใดที่ปัญญาประดิษฐ์ช่วยประหยัดเวลาในขั้นตอนการทำงานของบรรณารักษ์ (เมตาดาต้า สรุป ค้นหา ข้อเสนอแนะ) และความแม่นยำ ความน่าเชื่อถือของแหล่งข้อมูล และการตัดสินใจด้านความเป็นส่วนตัวเป็นหน้าที่ของมนุษย์ ทั้งนี้ขึ้นอยู่กับระดับของความเสี่ยง
• ความสามารถในการใช้ระเบียบวินัยที่ตรวจสอบแต่ละเอาต์พุตโดยลิงก์ไปยังแหล่งที่มา ยืนยันในแหล่งที่มาอิสระ และส่งผ่านตัวกรองอคติ
• การทำความเข้าใจว่าทำไมภาพหลอน แหล่งที่มาที่ปลอมแปลง และความเป็นส่วนตัวของผู้ใช้จึงเป็นความเสี่ยงที่ต้องนำมาพิจารณาในอาชีพนี้ตั้งแต่เริ่มต้น

เมื่อผู้เชี่ยวชาญด้านการทำรายการนั่งที่โต๊ะในตอนเช้า เขาอาจมีหนังสือที่เพิ่งมาใหม่หลายสิบเล่ม เอกสารหลายร้อยฉบับจากการรวบรวมการบริจาค และกล่องเก็บเอกสารที่รอการแปลงเป็นดิจิทัล บรรณารักษ์อ้างอิง (ผู้เชี่ยวชาญที่ช่วยให้ผู้ใช้ค้นหาข้อมูล) ตอบคำถามตลอดทั้งวัน เช่น “แหล่งข้อมูลที่เชื่อถือได้ในหัวข้อนี้อยู่ที่ไหน” ผู้จัดการข้อมูลมีหน้าที่รับผิดชอบในการรักษาเอกสารนับพันขององค์กรให้ค้นพบได้และเชื่อถือได้ ในหน่วยนี้ เราจะอธิบายว่าปัญญาประดิษฐ์ (AI กล่าวโดยย่อคือ โมเดลภาษาขนาดใหญ่และเครื่องมือที่คล้ายกัน) ช่วยประหยัดเวลาในงานเหล่านี้ได้อย่างไร และจุดใดที่การตัดสิน ทางเลือก และความรับผิดชอบยังคงอยู่กับมนุษย์

เริ่มต้นด้วยคำจำกัดความ: ปัญญาประดิษฐ์ ซึ่งเราหมายถึงเครื่องมือซอฟต์แวร์ที่สร้างภาษาและการจดจำรูปแบบที่ได้รับการฝึกฝนกับข้อความจำนวนมาก เครื่องมือเหล่านี้จะสรุป แปล แนะนำการจัดหมวดหมู่ สร้างข้อความแบบร่าง และรูปแบบแฟล็กในข้อมูลจำนวนมาก แต่ไม่ทราบว่ามีแหล่งที่มาจริงหรือไม่ ข้อมูลถูกต้อง หรือความเป็นส่วนตัวของผู้ใช้ได้รับการคุ้มครองหรือไม่ นั่นเป็นเหตุผลว่าทำไมในด้านบรรณารักษ์และการจัดการข้อมูล AI จึงเป็นผู้ช่วย ไม่ใช่ผู้มีอำนาจตัดสินใจ

ปัญญาประดิษฐ์ทำงานที่ไหนและใช้งานไม่ได้ที่ไหน?

มาแบ่งขั้นตอนการทำงานของบรรณารักษ์ออกเป็นสามชั้นกัน เลเยอร์แรกเป็นงานเชิงกลและงานที่ทำซ้ำ: แยกข้อมูลเมตาฉบับร่างออกจากบรรทัดย่อยของหนังสือ สรุปรายงานขนาดยาว แปลข้อความจากภาษาหนึ่งเป็นอีกภาษาหนึ่ง ทำความสะอาดตารางข้อมูล AI ทรงพลังที่นี่และประหยัดเวลาได้มาก

ชั้นที่สองคืองานกึ่งตุลาการ: หัวข้อใดที่จะให้เอกสาร ไม่ว่าจะรวมทรัพยากรไว้ในคอลเลกชันหรือไม่ ทรัพยากรใดที่จะแนะนำให้กับผู้ใช้ AI ให้คำแนะนำที่นี่ แต่ผู้เชี่ยวชาญที่รู้นโยบายของสถาบันและความต้องการที่แท้จริงของผู้ใช้จะเป็นคำตอบสุดท้าย

ชั้นที่สามคือการตัดสินและความรับผิดชอบอย่างแท้จริง: การยืนยันว่าข้อมูลมีความถูกต้อง การตัดสินใจเรื่องลิขสิทธิ์ ไม่ว่าจะเปิดเผยข้อมูลส่วนบุคคลที่ละเอียดอ่อนหรือไม่ การยืนยันความน่าเชื่อถือของแหล่งที่มา ในเลเยอร์นี้ เอาท์พุตของ AI เป็นเพียงจุดเริ่มต้นเท่านั้น ความรับผิดชอบทั้งหมดอยู่ที่มนุษย์

เคล็ดลับ: ก่อนที่จะมอบหมายงานให้กับ AI ให้ถามตัวเองว่า “จะเกิดอะไรขึ้นหากผลลัพธ์นี้ผิดพลาด” หากคำตอบคือ "ฉันจะเสียเวลา" คุณก็สามารถใช้ AI ได้เลย หากคำตอบคือ "แหล่งที่มาที่เป็นเท็จแพร่กระจาย ผู้ใช้ถูกทำให้เข้าใจผิด หรือข้อมูลส่วนบุคคลรั่วไหล" โปรดตรวจสอบผลลัพธ์ที่ได้

ภาพหลอน: อันตรายที่ใหญ่ที่สุดของบรรณารักษ์

อาการประสาทหลอนคือการที่ AI สร้างข้อมูล แหล่งที่มา หรือคำพูดที่ไม่มีอยู่จริงราวกับว่าเป็นเรื่องจริง และในภาษาที่น่าเชื่อถืออย่างยิ่ง สิ่งนี้เป็นอันตรายอย่างยิ่งต่อบรรณารักษ์และการจัดการข้อมูล เพราะแก่นแท้ของวิชาชีพของเราคือความถูกต้องและความน่าเชื่อถือของแหล่งที่มา

เมื่อคุณบอกให้ AI “แนะนำบทความทางวิชาการห้าเรื่องในหัวข้อนี้” มันจะสามารถสร้างชื่อเรื่อง ผู้แต่ง และชื่อวารสารที่ดูเหมือนจริงแต่ไม่มีอยู่จริงเลย แหล่งที่มาที่ปลอมแปลงเหล่านี้น่าเชื่อถือมากจนผู้อุปถัมภ์หรือแม้แต่บรรณารักษ์สามารถเพิ่มลงในบรรณานุกรมได้โดยไม่ต้องตรวจสอบ ในด้านมนุษยศาสตร์และสังคมศาสตร์ อันตรายยิ่งกว่านั้นอีก เมื่อ "เอกสารดังกล่าวจากปี 1897" ถูกสร้างขึ้นสำหรับนักประวัติศาสตร์ หรือ "คำตัดสินของศาล" สำหรับนักกฎหมาย ผลลัพธ์ที่ได้คือข้อมูลที่ผิดร้ายแรง

ข้อควรสนใจ: ไม่ควรถ่ายโอนการอ้างอิงแหล่งที่มา คำพูดหรือการอ้างอิงที่ผลิตโดย AI ไปที่ใดก็ได้โดยไม่มีการตรวจสอบยืนยันในแค็ตตาล็อกจริง ฐานข้อมูล หรือแหล่งที่มา เพียงเพราะมัน "ดูน่าเชื่อ" ไม่ได้หมายความว่ามันเป็นเรื่องจริง

วินัยในการตรวจสอบ: สามขั้นตอน

วินัยพื้นฐานที่บรรณารักษ์ต้องใช้เมื่อทำงานกับ AI คือ:

1. เชื่อมต่อกับแหล่งที่มา ข้อเท็จจริง รูปภาพ วันที่ และสำนักพิมพ์ทั้งหมดจะต้องมาจากแหล่งที่มาดั้งเดิม ถาม AI “บอกฉันว่าคุณได้รับข้อมูลนี้จากแหล่งใด” และตรวจสอบแหล่งที่มานั้นอย่างอิสระ

2. ยืนยันอย่างอิสระ ตรวจสอบข้อมูลที่สำคัญในแหล่งข้อมูลที่เชื่อถือได้อย่างน้อยหนึ่งแหล่งนอก AI (แคตตาล็อกของแท้ ฐานข้อมูลอย่างเป็นทางการ เอกสารหลัก)

3. ผ่านตัวกรองอคติ AI แบกรับอคติของข้อมูลที่ได้รับการฝึกฝน หัวข้อที่แนะนำ รายการข้อเสนอแนะ หรือบทสรุปอาจเน้นบางมุมมองและบดบังผู้อื่น ถามว่าใครถูกทิ้ง มุมมองอะไรหายไป

ความเป็นส่วนตัวและความเป็นส่วนตัวของผู้ใช้

หลักการทางจริยธรรมขั้นพื้นฐานที่สุดประการหนึ่งของวิชาชีพบรรณารักษ์คือความเป็นส่วนตัวของผู้ใช้ สิ่งที่บุคคลอ่าน สิ่งที่เขาค้นหา และวิชาที่เขาสนใจจะเป็นความลับ การป้อนข้อมูลลงในเครื่องมือ AI โดยเฉพาะเครื่องมือสาธารณะที่ทำงานผ่านอินเทอร์เน็ต ซึ่งรวมถึงข้อมูลประจำตัวของผู้ใช้ ประวัติการค้นหา หรือทรัพยากรที่ยืมมา อาจละเมิดหลักการนี้ เพราะข้อมูลนี้อาจไปที่ระบบของบุคคลที่สาม

ในทำนองเดียวกัน ในองค์กร ไม่ควรอัปโหลดเอกสารที่ไม่เป็นความลับแต่มีความละเอียดอ่อน (ข้อมูลบุคลากร สัญญา จดหมายโต้ตอบภายใน) ไปยังเครื่องมือ AI ทั่วไป เครื่องมือที่ทำงานบนระบบปิดที่ปลอดภัยของสถาบันเป็นที่ต้องการสำหรับข้อมูลประเภทนี้

เคล็ดลับ: ก่อนที่จะป้อนข้อมูลใดๆ ลงใน AI ให้ถามว่า "ข้อมูลนี้เป็นข้อมูลสาธารณะหรือไม่" ถาม. หากคำตอบคือไม่ หรือคุณไม่แน่ใจ ให้ใส่ข้อมูลนั้นในรูปแบบที่ไม่ระบุตัวตน ไม่เปิดเผยตัวตน หรือใช้เครื่องมือที่ปลอดภัยที่ได้รับอนุมัติจากสถาบันเท่านั้น

มินิเคสสามอัน

กรณีที่ 1 — ร่างข้อมูลเมตาสำหรับเอกสาร 400 ฉบับ ห้องสมุดของมหาวิทยาลัยแห่งหนึ่งต้องจัดรายการเอกสาร 400 ฉบับที่ศาสตราจารย์บริจาค ผู้เชี่ยวชาญดึงชื่อฉบับร่าง วันที่ และข้อเสนอแนะหัวข้อจากหน้าแรกของแต่ละเอกสารด้วย AI: เวลาเฉลี่ยต่อเอกสารลดลงจาก 12 นาทีเหลือ 4 นาที แต่แต่ละสำนักพิมพ์จะถูกเปรียบเทียบกับเอกสารต้นฉบับและได้รับอนุมัติจากผู้เชี่ยวชาญ ตรวจพบวันที่ที่ไม่ถูกต้อง 17 วันที่ AI สร้างขึ้นในขั้นตอนนี้

กรณีที่ 2 — จับแหล่งปลอมได้ บรรณารักษ์ที่ปรึกษาได้รับบทความแนะนำ 6 บทความจาก YZ ขณะค้นหาแหล่งข้อมูลเกี่ยวกับ "การย้ายถิ่นฐานของสภาพภูมิอากาศ" สำหรับนักศึกษาระดับปริญญาตรี บรรณารักษ์ค้นหาบทความทั้งหมดในฐานข้อมูลของสถาบัน: ไม่มีบทความ 2 ใน 6 บทความเลย ขั้นตอนการยืนยันป้องกันไม่ให้นักเรียนได้รับแหล่งที่มาปลอม

กรณีที่ 3 — ป้องกันการละเมิดการรักษาความลับ ห้องสมุดที่พิจารณาใช้เครื่องมือ AI ทั่วไปเพื่อวิเคราะห์ "ผู้ใช้รายใดสนใจหัวข้อใด" จากบันทึกการชำระเงิน ผู้จัดการข้อมูลตระหนักดีว่าหากข้อมูลนี้ออกไปพร้อมกับ ID ผู้ใช้จะเป็นการละเมิดความเป็นส่วนตัว ข้อมูลจะถูกทำให้ไม่เปิดเผยตัวตนในขั้นแรกและประมวลผลเป็นสถิติรวมและไม่ระบุตัวตนเท่านั้น

เทมเพลตที่สามารถคัดลอกได้สี่แบบ

1) เริ่มกำหนดบทบาทและขอบเขต:

บทบาทของคุณ: ผู้ช่วยที่มีประสบการณ์ด้านแคตตาล็อกและผู้เชี่ยวชาญด้านการจัดการข้อมูล งานของคุณ: สร้างแบบร่างจากข้อมูลในแหล่งที่ฉันให้คุณ กฎ: (1) ใช้เฉพาะข้อมูลในข้อความที่ฉันให้ไว้เท่านั้น ห้ามใส่ข้อมูลของคุณเอง (2) ทำเครื่องหมาย "[ต้องตรวจสอบ]" โดยที่คุณไม่แน่ใจ (3) ห้ามจัดทำวันที่ ชื่อ หรือสำนักพิมพ์ใดๆ ถ้าเข้าใจก็เริ่มเลย ที่มา: [ที่นี่]

2) คำถามตรวจสอบความถูกต้อง:

ระบุการกล่าวอ้างข้อเท็จจริงแต่ละรายการ (วันที่ ชื่อ หมายเลข การอ้างอิงแหล่งที่มา) ในข้อความด้านล่าง สำหรับแต่ละ: คุณได้รับข้อมูลนี้จากที่ไหนในข้อความ? หากไม่ชัดเจนในข้อความ ให้เขียนว่า "not in the text" ข้อความ: [ที่นี่]

3) การตรวจสอบอคติและเปอร์สเปคทีฟที่หายไป:

สรุป/คำแนะนำต่อไปนี้เน้นมุมมองใด และมุมมองใดละทิ้งไป กลุ่ม ภูมิภาค หรือมุมมองใดที่อาจหายไป เพียงแค่อาศัยข้อความอย่าคาดเดา ข้อความ: [ที่นี่]

4) การตรวจสอบความเป็นส่วนตัวล่วงหน้า:

ข้อความด้านล่างมีข้อมูลส่วนบุคคล (ชื่อ หมายเลขประจำตัว ผู้ติดต่อ ประวัติการอ่าน/การค้นหา) หรือข้อมูลองค์กรที่ละเอียดอ่อนหรือไม่ หากเป็นเช่นนั้น ให้ระบุและแนะนำว่าจะทำให้ไม่เปิดเผยตัวตนได้อย่างไร ข้อความ: [ที่นี่]

พรอมต์อ่อน / พรอมต์แรง

พรอมต์ที่อ่อนแอ:

ค้นหาแหล่งข้อมูลเกี่ยวกับเรื่องนี้ให้ฉันหน่อย

พรอมต์นี้เชิญชวนให้ AI สร้างทรัพยากรปลอม ไม่มีบทบาท ขอบเขต กฎการตรวจสอบ และทรัพยากร AI สามารถสร้างแท็กที่น่าเชื่อถือแต่ไม่มีอยู่จริง

พรอมต์อันทรงพลัง:

บทบาทของคุณ: อ้างอิงผู้ช่วยบรรณารักษ์ Choose the ones related to the subject of "climate migration" from the catalog entries I have given you below and explain why they are relevant. อย่าเพิ่มแหล่งที่มาใดๆ ที่ไม่อยู่ในรายการ ห้ามสร้างแหล่งที่มา เมื่อคุณไม่แน่ใจ ให้พูดว่า "ไม่มีแหล่งที่มาที่เหมาะสมอยู่ในรายการ" รายการแคตตาล็อก: [ที่นี่]

ความแตกต่างนั้นชัดเจน: การแจ้งเตือนที่แข็งแกร่งบังคับให้ AI ทำงานจากแหล่งที่มาจริงที่กำหนด ไม่ใช่จากหน่วยความจำของตัวเอง และป้องกันการประดิษฐ์

ตารางเลเยอร์และความรับผิดชอบ

ชั้นธุรกิจ

งานตัวอย่าง

บทบาทของเอไอ

การตัดสินใจของมนุษย์

เครื่องกล

เมตาดาต้าฉบับร่าง สรุป การแปล

สร้างร่างได้อย่างรวดเร็ว

การตรวจสอบการอนุมัติ

กึ่งตุลาการ

ชื่อหัวข้อ ข้อเสนอแนะแหล่งที่มา

เสนอข้อเสนอแนะ

การคัดเลือกตามนโยบาย

การตัดสินที่บริสุทธิ์

การรับรองความถูกต้องการตัดสินใจด้านลิขสิทธิ์

ข้อมูลเบื้องต้นเท่านั้น

ความรับผิดชอบทั้งหมดอยู่ที่บุคคลนั้น

ข้อผิดพลาดทั่วไป

• การแทนที่เอาต์พุต AI สำหรับแหล่งที่มา AI เป็นผู้ช่วย ไม่ใช่ทรัพยากร ทุกเอาต์พุตได้รับการตรวจสอบแล้ว
• การยอมรับแหล่งที่มาที่ปลอมแปลงนั้นน่าเชื่อถือ เพียงเพราะมันดูดีไม่ได้หมายความว่ามันถูกต้อง
• การป้อนข้อมูลส่วนบุคคล/ข้อมูลที่ละเอียดอ่อนลงในเครื่องมือสาธารณะ ความเป็นส่วนตัวของผู้ใช้และการรักษาความลับขององค์กรได้รับการเคารพตั้งแต่แรกเริ่ม
• ละเลยอคติ AI มีมุมมองของข้อมูลที่ได้รับการฝึกฝน ถามว่าขาดอะไร..
• ปล่อยให้คำตัดสินเป็นหน้าที่ของ AI การตัดสินใจด้านความถูกต้อง ลิขสิทธิ์ และความเป็นส่วนตัวเป็นของมนุษย์

โดยสรุป

ปัญญาประดิษฐ์ เป็นผู้ช่วยอันทรงพลังในการสรุป การร่าง การแปล และการทำเครื่องหมายรูปแบบในบรรณารักษ์และการจัดการข้อมูล ช่วยประหยัดเวลาในการทำงานทางกลได้มาก ให้คำแนะนำในเรื่องกึ่งตุลาการ แต่การตรวจสอบความถูกต้อง ความน่าเชื่อถือของแหล่งที่มา ความเป็นส่วนตัวของผู้ใช้ และการตัดสินใจด้านจริยธรรมนั้นเป็นของมนุษย์ อาการประสาทหลอนเป็นอันตรายต่ออาชีพนี้มากที่สุด: ไม่มีการใช้เครดิตแหล่งที่มาหรือคำพูดใดๆ หากไม่มีการตรวจสอบ ใช้งาน AI ด้วยบทบาท ขอบเขต และกฎการตรวจสอบที่ชัดเจน ยืนยันเอาต์พุตที่สำคัญแต่ละรายการด้วยแหล่งที่มาที่เป็นอิสระ

งานสมัคร

เลือกหัวข้อจริงจากสาขาของคุณ ขอคำแนะนำทรัพยากร 5 รายการจาก AI ในหัวข้อนั้น จากนั้นค้นหาแต่ละรายการในแค็ตตาล็อกหรือฐานข้อมูลจริงและจดจำนวนที่มีอยู่จริง จากนั้น ด้วยเทมเพลต “การเริ่มต้นกำหนดบทบาทและขอบเขต” บอกให้ AI ทำงานจากข้อความที่คุณระบุเท่านั้น และเปรียบเทียบผลลัพธ์ของทั้งสองแนวทาง เขียนว่าแนวทางใดขัดขวางไม่ให้เหมาะสม

รายการตรวจสอบ

• [ ] ฉันตัดสินใจว่างานนั้นอยู่ที่ระดับใด (เชิงกลไก กึ่งตุลาการ การตัดสินล้วนๆ)
• [ ] "จะเกิดอะไรขึ้นหากเอาต์พุตนี้ไม่ถูกต้อง" ฉันถามคำถาม
• [ ] ฉันได้ตรวจสอบเครดิตและการอ้างอิงแต่ละรายการกับแหล่งข้อมูลอิสระแล้ว
• [ ] ฉันได้ตรวจสอบว่าไม่มีข้อมูลส่วนบุคคล/ข้อมูลที่ละเอียดอ่อนในข้อมูลที่เข้าสู่ AI
• [ ] ฉันเก็บการตัดสินใจขั้นสุดท้ายและความรับผิดชอบตามดุลยพินิจของตัวเอง