กำไร:
- ความสามารถในการแยกแยะว่าจุดใดในขั้นตอนการทำงานด้านสื่อสารมวลชน (การถอดความ ร่างแรก การสแกน การแปล) ปัญญาประดิษฐ์ช่วยประหยัดเวลาได้จริง และการตัดสินใจต่างๆ เช่น การตัดสินที่แม่นยำ และการปกป้องแหล่งที่มาจะเป็นหน้าที่ของนักข่าว ขึ้นอยู่กับระดับความเสี่ยงของงาน
- ความสามารถในการใช้ระเบียบวินัยที่ตรวจสอบเอาต์พุต AI แต่ละรายการโดยเชื่อมโยงกับแหล่งที่มาหลัก ยืนยันกับแหล่งที่มารอง และตรวจสอบหมายเลขด้วยตนเอง
- ความสามารถในการรับรู้ขีดจำกัดของอาการประสาทหลอนและอคติ และรับการไม่เปิดเผยตัวตนและการทำความสะอาดข้อมูลเมตา ก่อนที่จะมอบเอกสารและทรัพยากรที่ละเอียดอ่อนให้กับปัญญาประดิษฐ์
พันธมิตรรายใหม่ของวารสารศาสตร์: บทบาท ขีดจำกัด และการยืนยันตัวตนของปัญญาประดิษฐ์
ในห้องข่าว เวลาเป็นทรัพยากรที่หายากที่สุด นักข่าวกลับมาจากสนาม โดยถือไฟล์บันทึกเสียงสองชั่วโมง งบดุลสี่สิบหน้า และประวัติเบราว์เซอร์สิบห้าแท็บ บรรณาธิการกล่าวว่า "ฉันต้องการพื้นที่ภายในครึ่งชั่วโมง" ความกดดันนี้เป็นเหตุผลหลักว่าทำไมปัญญาประดิษฐ์ (AI) ซึ่งเป็นโปรแกรมคอมพิวเตอร์ที่สามารถเข้าใจภาษามนุษย์และสร้างผลลัพธ์ เช่น ข้อความ สรุป การแปล และการจำแนกประเภท จึงได้รับความนิยมอย่างรวดเร็วในวงการสื่อสารมวลชน AI ลดงานที่ซ้ำซากและใช้เวลานาน (การถอดเสียง ร่างแรก สแกนเอกสารขนาดยาว การแปล) เหลือเพียงไม่กี่นาที แต่นักข่าวเป็นอาชีพที่มีข้อผิดพลาดน้อยมาก เช่น ชื่อเท็จ คำพูดที่แต่งขึ้น และการกล่าวอ้างที่ไม่มีหลักฐาน เมื่อได้รับการตีพิมพ์ อาจเป็นอันตรายต่อชีวิตบุคคลและชื่อเสียงของสิ่งพิมพ์ได้ นั่นเป็นสาเหตุที่ประโยคแรกของโมดูลคือ: AI ไม่ได้ตัดสินใจแทนผู้รายงาน ฉบับร่าง ความเร็ว การสแกน แต่นักข่าวมีหน้าที่ตรวจสอบความจริง ปกป้องแหล่งที่มา และตัดสินใจว่าจะออกอากาศอย่างไร
หน่วยแรกนี้กำหนดรากฐาน 3 ประการ ได้แก่ การแยกแยะว่า AI จะช่วยประหยัดเวลาจริงในขั้นตอนการทำงานด้านสื่อสารมวลชนได้ที่ใด และควรหยุดที่จุดใด การสะท้อนกลับเพื่อตรวจสอบทุกเอาต์พุต การปกป้องแหล่งที่มาและข้อมูลที่ละเอียดอ่อน ทั้งสามนี้เป็นพื้นฐานความปลอดภัยที่สำคัญสำหรับหน่วยต่อๆ ไปทั้งหมด
AI เร่งตรงไหน การตัดสินใจเป็นของนักข่าวตรงไหน?
การนึกถึงการรายงานงานตามแกนความเสี่ยงจะช่วยได้มาก ความเสี่ยงคือความเสียหายที่จะก่อให้เกิดต่อสาธารณะ แหล่งที่มา และผู้เผยแพร่ หากมีการกระทำผิด
งานที่มีความเสี่ยงต่ำที่ AI เร่งความเร็วได้มาก: การแยกเสียงบันทึกดิบของการบันทึกเสียง การสแกนหัวข้อข่าวหลักของรายงานขนาดยาว การเขียนร่างข่าวฉบับแรก การสร้างทางเลือก 10 รายการสำหรับหัวข้อข่าว การบรรจุข้อความใหม่สำหรับแพลตฟอร์มต่างๆ รับการแปลเอกสารต่างประเทศอย่างคร่าว ๆ แสดงรายการรูปแบบที่โดดเด่นในตารางข้อมูลขนาดใหญ่ ที่นี่ AI แก้ปัญหา "หน้าว่าง" และ "การกรองสแต็ก" นักข่าวแก้ไข คัดเลือก เสริมสร้าง
งานที่มีความเสี่ยงสูงซึ่งการตัดสินใจตกเป็นหน้าที่ของนักข่าว: การประกาศว่าข้อกล่าวอ้างนั้น "จริง", การเผยแพร่คำพูด, การแถลงการณ์กล่าวหาใครบางคน, การตัดสินความถูกต้องของเอกสาร, การประมวลผลข้อมูลที่มีตัวตนของแหล่งที่มา, การสร้างสมดุลระหว่างผลประโยชน์สาธารณะและความเป็นส่วนตัว การตัดสินใจเหล่านี้ส่งผลต่อชื่อเสียงและความปลอดภัยของผู้คน ความรับผิดชอบและคำพูดสุดท้ายเป็นของนักข่าวเสมอ ในที่นี้ AI เสนอสมมติฐานหรือรายการตรวจสอบได้มากที่สุด แต่ไม่สามารถตัดสินได้
ข้อควรสนใจ: "AI สรุปแบบนี้" ไม่ใช่เหตุผลที่เป็นข่าว แหล่งที่มาของการกล่าวอ้าง ความจริงของคำพูด หรือความถูกต้องของเอกสารไม่สามารถเผยแพร่ได้หากไม่มีการยืนยันจากนักข่าวที่มีความสามารถ เอาต์พุต AI ที่ไม่ได้รับการยืนยันนั้นเหมือนกับข่าวลือจากแหล่งเดียว มันอาจจะจริง แต่ต้องมีแหล่งที่สองก่อนจึงจะสามารถเผยแพร่ได้
เหตุใดจึงต้องมีการตรวจสอบ? ภาพหลอนและอคติ
AI สร้างข้อความไม่ใช่โดยการ "รู้" แต่โดย "ทำนายคำที่เป็นไปได้" นั่นเป็นสาเหตุที่บางครั้งให้ข้อมูลได้คล่องมากแต่จริงๆ แล้วไม่ถูกต้อง สิ่งนี้เรียกว่าอาการประสาทหลอน: คำตัดสินของศาลที่ไม่มีอยู่ ข้อความอ้างอิงที่ไม่ได้พูด วันที่ที่เป็นเท็จ บทความวิชาการที่ไม่มีอยู่จริง หมายเลขคดีที่ปรากฏว่าเป็นเรื่องจริงแต่ถูกสร้างขึ้นมา สิ่งนี้เป็นอันตรายร้ายแรงสำหรับการสื่อสารมวลชน เนื่องจาก "แหล่งข่าว" ปลอมๆ ทำให้ข่าวพังและนำไปสู่การปฏิเสธ
ปัญหาที่สองคืออคติ: AI สามารถทำซ้ำรูปแบบทางสังคมในข้อความขนาดใหญ่ที่ได้รับการฝึกฝน สามารถวางกรอบกลุ่ม ภูมิภาค หรือความคิดเห็นเชิงลบหรือเชิงบวกได้อย่างเป็นระบบ หากนักข่าวนำกรอบการทำงานนี้มาสู่ข่าวโดยไม่รู้ตัว ความเที่ยงธรรมก็จะเสียหาย
เนื่องจากข้อจำกัดทั้งสองนี้ เราจึงเสนอระเบียบวินัยในการตรวจสอบสี่ขั้นตอนที่จะนำไปใช้กับแต่ละเอาต์พุต:
- ลงไปที่แหล่งที่มา กลับไปยังเอกสารต้นฉบับ บันทึก หรือแหล่งข้อมูลหลักสำหรับข้อเท็จจริง ชื่อ วันที่ หมายเลข และคำพูดทั้งหมดที่ AI มอบให้ AI เป็นสิ่งที่ดีเลิศ มันไม่ใช่หลักฐาน
- มองหาแหล่งที่สอง กฎการรายงานจะไม่เปลี่ยนแปลงเมื่อใช้ AI: การกล่าวอ้างที่สำคัญได้รับการยืนยันโดยแหล่งข้อมูลอิสระอย่างน้อยสองแห่ง
- ตรวจสอบหมายเลขด้วยตนเอง คำนวณเอาต์พุตตัวเลขทั้งหมดใหม่ เช่น เปอร์เซ็นต์ ผลรวม อัตราส่วน ฯลฯ จากข้อมูลดิบ
- รับผิดชอบ. ทันทีที่คุณอนุมัติการตีพิมพ์ ประโยคนั้นก็จะเป็นของคุณ ข้อผิดพลาดยังอยู่ในลายเซ็นของคุณด้วย
การปกป้องทรัพยากร: ความเป็นส่วนตัวตั้งแต่เริ่มต้น
ในแวดวงสื่อสารมวลชน การคุ้มครองแหล่งที่มาเป็นหลักการในการรักษาอัตลักษณ์ของผู้ให้ข้อมูลไว้เป็นความลับและเป็นสิทธิตามกฎหมายในประเทศส่วนใหญ่ สำหรับนักข่าวแล้ว ถือเป็นเกียรติในอาชีพการงาน การเขียนชื่อ ผู้ให้ข้อมูล สถานที่ ร่องรอยตัวตนของเอกสารที่เขาส่ง หรือรายละเอียดที่จะอนุญาตให้เข้าถึงเครื่องมือ AI สาธารณะได้ในทันทีถือเป็นการละเมิดการป้องกันนี้ เครื่องมือ AI ฟรีจำนวนมากสามารถจัดเก็บข้อความที่คุณป้อนหรือใช้ในการฝึกโมเดล ดังนั้นคุณจึงทำให้ข้อมูลอยู่นอกเหนือการควบคุมของคุณ
กฎง่ายๆ ก็คือ: ไม่เปิดเผยชื่อก่อนและดึงข้อมูลที่ละเอียดอ่อนออกมา ชื่อแหล่งที่มา หมายเลขโทรศัพท์ สถานที่ทำงาน และข้อมูลเมตาในเอกสาร (ผู้เขียน วันที่ ข้อมูลตำแหน่งที่ฝังอยู่ในไฟล์) จะถูกล้างโดยไม่ต้องไปที่ AI ลบบรรทัดระบุก่อนที่จะแฮชเอกสาร พูดถึงบุคคลทั่วไป เช่น "แหล่งที่มา A" "เจ้าหน้าที่ของรัฐ" ฯลฯ สำหรับไฟล์ที่ละเอียดอ่อน หากเป็นไปได้ ให้เลือกเครื่องมือออฟไลน์หรือขององค์กรที่มีการรับประกันการประมวลผลข้อมูล เราจะทำให้หลักการนี้ลึกซึ้งยิ่งขึ้นในหน่วยที่ 10 ทำให้มันเป็นภาพสะท้อนในตอนนี้
เคล็ดลับ: ก่อนที่จะอัปโหลดเอกสารไปยัง AI ให้ล้างข้อมูลเมตาและค้นหาชื่อ โทรศัพท์ ที่อยู่ สถาบันในข้อความ แม้แต่รายละเอียดเล็กๆ น้อยๆ ที่จะบอกแหล่งที่มา (วันที่ คำอธิบายห้อง) ก็ต้องละเว้น
มินิเคสสามอัน
กรณีที่ 1 — บันทึกกรณีที่ประดิษฐ์ขึ้น นักข่าวในศาลขอให้ YZ สรุปตัวอย่าง YZ ให้ข้อมูลเป็นภาษาที่น่าเชื่อถือพร้อมกับหมายเลข "คำตัดสินของศาลฎีกา" สามหมายเลข นักข่าวตรวจสอบตัวเลขดังกล่าวผ่านระบบค้นหาคำตัดสินอย่างเป็นทางการ โดย 2 ใน 3 รายการไม่มีข้อมูลเลย หากเขาใช้มันโดยไม่ตรวจสอบ เรื่องข่าวก็คงจะปรากฏขึ้นตามแบบอย่างที่สร้างขึ้น ขั้นตอนการตรวจสอบทำให้มั่นใจได้ว่าจะใช้เฉพาะการตัดสินใจที่มีอยู่เท่านั้น ข่าวออกมาช้าไป 20 นาทีแต่มั่นคง
กรณีที่ 2 — ประหยัดเวลาในการถอดเสียง โดยปกติทีมสืบสวนจะใช้เวลาประมาณ 40 ชั่วโมงในการถอดรหัสภาพการประชุมเป็นเวลา 14 ชั่วโมงด้วยตนเอง เมื่อใช้การถอดเสียงแบบ AI ข้อความดิบจะถูกส่งออกภายใน 2 ชั่วโมง ทีมงานใช้เวลาที่เหลือในการแก้ไขข้อความสำคัญ 6 ข้อความโดยเทียบกับการบันทึกและการสร้างบริบท เวลาทั้งหมดลดลงจาก 40 ชั่วโมงเหลือประมาณ 9 ชั่วโมง ความแม่นยำไม่ได้ลดลงเนื่องจากนักข่าวแก้ไขข้อผิดพลาดของชื่อและหมายเลขในการถอดเสียงด้วยตนเอง
กรณีที่ 3 — ภาพสะท้อนการปกป้องทรัพยากร นักข่าวคนหนึ่งพยายามปรึกษา AI เกี่ยวกับสถานการณ์ของพนักงานสาธารณะที่เผยแพร่เอกสารให้เขา ขณะเดียวกันก็กำลังจะวางเอกสารดังกล่าวเหมือนเดิม เขาสังเกตเห็นโดยไม่ส่ง ทำความสะอาดข้อมูลเมตาของเอกสาร ลบลายเซ็นและชื่อหน่วย และเรียกบุคคลนั้นว่าเป็น "พนักงานของสถาบัน" แนวคิดด้านกลยุทธ์การเผยแพร่ของเขาได้ผลอีกครั้ง แต่ไม่มีร่องรอยใดหลุดออกมาบอกต้นตอ
เทมเพลตที่คัดลอกได้
1) การแยกงานตามระดับความเสี่ยง:
บทบาทของคุณ: ผู้ช่วยบรรณาธิการย่อยของนักข่าว แบ่งงานการรายงานต่อไปนี้ออกเป็นสองรายการ: (A) งานที่มีความเสี่ยงต่ำซึ่ง AI สามารถสร้างโครงร่าง/สรุปได้อย่างมั่นใจ (B) งานที่มีความเสี่ยงสูงซึ่งการตัดสินใจขั้นสุดท้ายจะต้องตกเป็นของนักข่าว เขียนเหตุผลหนึ่งประโยคสำหรับแต่ละงาน งาน: [วางงานประจำสัปดาห์ของคุณเอง]
2) พรอมต์การล่าประสาทหลอน:
ระบุข้อเท็จจริง ชื่อ วันที่ หมายเลข ใบเสนอราคา และแหล่งที่มาที่กล่าวถึงในข้อความด้านล่าง ติดป้ายกำกับแต่ละรายการว่า "ต้องได้รับการตรวจสอบจากแหล่งที่มาหลัก" และแนะนำว่าควรค้นหาเอกสาร/บันทึกใด อย่าพูด TRUE ตามความรู้ของคุณเอง มันอนุมานเฉพาะสิ่งที่ต้องได้รับการตรวจสอบเท่านั้น ข้อความ: [ที่นี่]
3) การตรวจสอบการลบข้อมูลระบุตัวตนล่วงหน้า:
ก่อนที่จะเผยแพร่ข้อความด้านล่าง ให้ทำเครื่องหมายองค์ประกอบใดๆ ที่อาจระบุแหล่งที่มา: ชื่อ ตำแหน่ง สถาบัน สถานที่ วันที่ รายละเอียดที่เป็นที่รู้จัก แนะนำลักษณะทั่วไปที่ปลอดภัยยิ่งขึ้นสำหรับแต่ละธง (เช่น "เจ้าหน้าที่ของรัฐ") อย่าเปลี่ยนข้อความ เพียงรายงานความเสี่ยง ข้อความ: [ที่นี่]
4) รายการตรวจสอบการตรวจสอบบรรณาธิการ:
คุณจะประเมินร่างข่าว ระบุข้อบกพร่องภายใต้หัวข้อต่อไปนี้: (1) การกล่าวอ้างจากแหล่งเดียว (2) ตัวเลขที่ไม่ได้รับการยืนยัน (3) คำพูดที่มีการระบุแหล่งที่มาไม่ชัดเจน (4) สถานที่ที่คู่กรณีไม่ได้รับสิทธิ์ในการพูด (5) ประโยคที่มีการอนุมานและข้อเท็จจริงปะปนกัน แค่จัดทำรายการตรวจสอบอย่าเขียนข่าวซ้ำ ร่าง: [ที่นี่]
พรอมต์อ่อน / พรอมต์แข็งแกร่ง
ข้อความแจ้งที่อ่อนแอ: "เขียนข่าวจากเอกสารนี้"
ผลลัพธ์: AI เจาะช่องโหว่ สร้างการอ้างสิทธิ์ที่ไม่ได้ระบุแหล่งที่มา เพิ่มบริบทที่ไม่ได้อยู่ในเอกสาร นักข่าวไม่สามารถแยกแยะระหว่างสิ่งที่เป็นเอกสารและสิ่งที่เป็นของปลอมได้
พร้อมท์ที่มีประสิทธิภาพ: "สร้างโครงร่างของข่าวโดยอิงตามเอกสารต่อไปนี้เท่านั้น ถัดจากแต่ละประโยค ให้ทำเครื่องหมายว่าย่อหน้าใดในเอกสารนั้นอิงตาม เช่น [P3] อย่าเพิ่มข้อมูลใดๆ ที่ไม่ได้อยู่ในเอกสาร เว้นส่วนที่ขาดว่างไว้เป็น '[ต้องตรวจสอบ]' เอกสาร: [ที่นี่]"
ความแตกต่าง: ข้อความแจ้งอันทรงพลังเชื่อมโยง AI เข้ากับเอกสาร ทำให้การอ้างสิทธิ์แต่ละรายการสามารถตรวจสอบย้อนกลับได้ และทำให้มองเห็นภาพหลอนได้ นักข่าวรู้ว่าประโยคไหนที่ต้องยืนยัน
แผนภูมิเปรียบเทียบ
ภารกิจ
บทบาทของเอไอ
การตัดสินใจ/ความรับผิดชอบ
การตรวจสอบภาคบังคับ
การถอดเสียงการบันทึกเสียง
สร้างข้อความดิบ
ข้อความสำคัญอยู่ในนักข่าว
เปรียบเทียบชื่อ/หมายเลขกับบันทึก
การสแกนเอกสารที่ยาวนาน
สร้างชื่อเรื่องและบทสรุป
ข่าวอะไรขึ้นอยู่กับนักข่าว
กลับไปที่ย่อหน้าเดิม
การเขียนร่างครั้งแรก
แนะนำโครงกระดูกและภาษา
การอ้างอิงและข้อเท็จจริงอยู่กับนักข่าว
เชื่อมโยงทุกการอ้างสิทธิ์กับแหล่งที่มา
การเลือกใบเสนอราคา
สัญญาณประโยคเสนอชื่อ
ตีพิมพ์โดยนักข่าว
การยืนยันคำต่อคำจากบันทึก
แหล่งที่มา/การประมวลผลเอกสาร
(จำกัด) ความช่วยเหลือ
การคุ้มครองข้อมูลส่วนบุคคลสำหรับนักข่าว
การทำความสะอาดข้อมูลเมตาและชื่อ
ข้อผิดพลาดทั่วไป
- เข้าใจผิดว่าเอาต์พุต AI เป็นแหล่งที่มา AI เป็นตัวสร้างแบบร่าง ไม่ใช่ทรัพยากร การเผยแพร่ข้อเท็จจริงโดยไม่ยืนยันจากเอกสารหลักจะนำไปสู่การปฏิเสธ
- วางเอกสารที่ละเอียดอ่อนตามที่เป็นอยู่ เอกสารไม่ควรเข้าสู่เครื่องมือสาธารณะโดยไม่ล้างข้อมูลเมตาและชื่อที่ให้แหล่งที่มา
- ก้าวข้ามกฎ "สองทรัพยากร" ด้วย AI บทสรุปของ AI มาจากแหล่งเดียว การกล่าวอ้างที่สำคัญอีกครั้งต้องมีการยืนยันที่เป็นอิสระสองครั้ง
- ไว้วางใจตัวเลข AI มักจะคำนวณเปอร์เซ็นต์และผลรวมผิดบ่อยครั้ง ทดสอบแต่ละหมายเลขซ้ำจากข้อมูลดิบ
- ไม่รู้จักอคติ. การใช้กรอบงานของ AI โดยไม่ต้องตั้งคำถามและถ่ายโอนไปยังภาษาของข่าวจะขัดขวางความเป็นกลาง
โดยสรุป
ในหน่วยนี้ เราวางตำแหน่ง AI ไว้ในฐานะผู้ช่วยในการรายงาน โดยจะเร่งงานที่ต้องทำซ้ำๆ และกรองข้อมูลจำนวนมาก แต่ขึ้นอยู่กับนักข่าวที่จะตัดสินความจริง เผยแพร่คำพูด และปกป้องแหล่งที่มา อาการประสาทหลอนและความลำเอียงเป็นข้อจำกัดหลักสองประการ ในทางกลับกัน ระเบียบวินัยในการตรวจสอบความถูกต้องสี่ขั้นตอน (เข้าถึงแหล่งที่มา แหล่งที่มาที่สอง ตรวจสอบหมายเลข รับผิดชอบ) และการสะท้อนความเป็นส่วนตัวตั้งแต่เริ่มต้น (ไม่ระบุชื่อ และล้างข้อมูลเมตา) จะถูกนำไปใช้กับทุกเอาต์พุต หน่วยถัดไปจะถูกติดตั้งบนพื้นดินนี้
งานสมัคร
เขียนงานการรายงาน 8 รายการที่คุณทำในสัปดาห์ที่แล้ว ติดป้ายกำกับแต่ละรายการว่า “ความเสี่ยงต่ำ — AI ทำให้มันเร็วขึ้น” หรือ “ความเสี่ยงสูง — ขึ้นอยู่กับฉัน” และเพิ่มเหตุผลหนึ่งประโยค จากนั้นเลือกหนึ่งรายการแล้วใช้ข้อความ "Hallucination Hunt" ด้านบนกับข้อความจริง โปรดทราบว่าการเรียกร้องค่าสถานะ AI จริง ๆ แล้วต้องได้รับการตรวจสอบมีจำนวนเท่าใด
รายการตรวจสอบ
- [ ] ฉันสามารถแยกงานตามระดับความเสี่ยงได้ ฉันรู้จักงานที่การตัดสินใจตกเป็นหน้าที่ของนักข่าว
- [ ] ฉันระบุแหล่งที่มาของ AI แต่ละรายการเป็นแหล่งที่มาหลัก ฉันไม่ข้ามกฎ "สองทรัพยากร" ด้วย AI
- [ ] ฉันรู้ถึงความเสี่ยงของอาการประสาทหลอนและอคติ และฉันก็กระทืบตัวเลขด้วยมือ
- [ ] ฉันทำความสะอาดร่องรอยของข้อมูลเมตาและตัวตนก่อนที่จะมอบเอกสาร/ทรัพยากรที่ละเอียดอ่อนให้กับ AI
- [ ] ฉันได้ทราบแล้วว่าเหตุผล "AI กล่าวว่า" ไม่ถูกต้องสำหรับการออกอากาศ