กำไร:
- ความสามารถในการประเมินข้อมูลตามระดับความอ่อนไหว (สาธารณะ / ภายใน / ความลับ / ความลับสูงสุด) และใช้การสะท้อนกลับ 'คลาสถาม จับคู่เครื่องมือ'
- ทำความเข้าใจเกี่ยวกับการจัดเก็บข้อมูล การฝึกโมเดล การรวบรวมและการละเมิดความเสี่ยงของ AI และแยกโลกที่เปิดกว้างและโลกที่ถูกจำแนกออกจากกัน
- ความสามารถในการนำหลักการข้อมูลขั้นต่ำมาใช้ การปกป้องข้อมูลส่วนบุคคล และวินัยในการปกป้องข้อมูลที่ไม่แน่นอนเสมือนเป็นข้อมูลชั้นสูง
การทูตขึ้นอยู่กับความไว้วางใจ และความไว้วางใจขึ้นอยู่กับความลับ ตำแหน่งในการเจรจา การประเมินข่าวกรอง เนื้อหาของการสนทนากับคู่สนทนา หรือการตัดสินใจที่ยังไม่ได้ประกาศ ตกอยู่ในมือของผู้ที่ไม่ถูกต้อง อาจเป็นอันตรายต่อผลประโยชน์ของรัฐ ผลการเจรจา หรือแม้แต่ความปลอดภัยของประชาชน ปัญญาประดิษฐ์นำความเร็วมหาศาลมาสู่สาขานี้ แต่ยังมีความเสี่ยงด้านความเป็นส่วนตัวใหม่และร้ายแรงอีกด้วย ในหน่วยนี้ คุณจะได้เรียนรู้วิธีการปกป้องข้อมูลที่เป็นความลับและละเอียดอ่อนในยุคของปัญญาประดิษฐ์ ข้อมูลใดที่สามารถระบุยานพาหนะได้ และระเบียบวินัยในการใช้อย่างปลอดภัย
หน่วยนี้เป็นบทเรียนด้านความปลอดภัยที่สำคัญที่สุดของโมดูล ข้อผิดพลาดอย่างหนึ่งที่นี่ — การวางเอกสารลับลงในเครื่องมือที่ไม่ถูกต้อง — เป็นสิ่งที่ไม่สามารถย้อนกลับได้ ดังนั้น การสะท้อนกลับที่ต้องจดจำจะถูกสร้างไว้ที่นี่: ก่อนที่จะให้ข้อมูลใดๆ แก่เครื่องมือ AI ให้ถามเสมอว่า ข้อมูลนี้อยู่ในคลาสใด และเครื่องมือนี้ได้รับการอนุมัติสำหรับคลาสนี้หรือไม่
การจำแนกข้อมูล: ความแตกต่างพื้นฐาน
ข้อมูลทางการทูตมักถูกจัดประเภทตามความละเอียดอ่อน แม้ว่าจะแตกต่างกันไปในแต่ละสถาบัน แต่ตรรกะพื้นฐานคือ:
- ไม่เป็นความลับ/สาธารณะ: ข้อมูลที่ได้รับการเผยแพร่แล้วและสามารถเข้าถึงได้โดยสาธารณะ ตัวอย่าง: ข่าวประชาสัมพันธ์อย่างเป็นทางการ ข่าวสาธารณะ
- ถูกจำกัด/ภายใน: ข้อมูลภายในที่ไม่เปิดเผยต่อสาธารณะแต่มีความละเอียดอ่อนต่ำ
- ความลับ: ข้อมูลที่เปิดเผยอาจเป็นอันตรายต่อผลประโยชน์ของรัฐอย่างร้ายแรง ตัวอย่าง: ตำแหน่งการเจรจาต่อรอง การประเมินภายใน
- ความลับสุดยอด: ข้อมูลที่เปิดเผยอาจก่อให้เกิดอันตรายร้ายแรงที่สุด ตัวอย่าง: ข้อมูลอัจฉริยะที่ละเอียดอ่อน ข้อมูลความปลอดภัยที่สำคัญ
กฎง่ายๆ นั้นง่ายมาก: จะไม่มีการป้อนข้อมูลลับที่ไม่เปิดเผยต่อสาธารณะลงในเครื่องมือ AI ที่สถาบันของคุณไม่ได้รับการอนุมัติสำหรับชั้นเรียนนั้น ตามคำจำกัดความแล้ว บริการ AI สาธารณะไม่ได้รับการรับรองสำหรับข้อมูลประเภทนี้
เคล็ดลับ: หากคุณไม่แน่ใจ ให้ปฏิบัติต่อข้อมูลเหมือนผู้อาวุโส การพูดว่า "เรื่องนี้น่าจะรู้อยู่แล้ว" เป็นการคาดเดาที่อันตราย จนกว่าคุณจะแน่ใจ 100 เปอร์เซ็นต์ว่าข้อมูลนั้นเปิดเผยต่อสาธารณะ ให้ปกป้องข้อมูลดังกล่าวราวกับว่าเป็นความลับ ความระมัดระวังโดยไม่จำเป็นไม่ใช่ค่าใช้จ่าย แต่เป็นการรับประกัน
ความเสี่ยงด้านความเป็นส่วนตัวของ AI
เครื่องมือ AI ก่อให้เกิดความเสี่ยงด้านความเป็นส่วนตัวที่แตกต่างจากซอฟต์แวร์แบบดั้งเดิม:
1. การประมวลผลและการจัดเก็บข้อมูล: ข้อความที่คุณเขียนไปยังบริการ AI สาธารณะอาจถูกประมวลผลและจัดเก็บไว้ในเซิร์ฟเวอร์ของบริการนั้น คุณไม่สามารถควบคุมได้ว่าใครบ้างที่เข้าถึงข้อมูลดังกล่าว จะเก็บไว้นานแค่ไหน และวิธีการใช้งาน
2. ใช้ในการฝึกอบรมโมเดล: บริการบางอย่างอาจใช้ข้อมูลที่คุณป้อนเพื่อปรับปรุงโมเดล สิ่งนี้สร้างความเสี่ยงที่ข้อมูลที่เป็นความลับของคุณจะเข้าสู่ "หน่วยความจำ" ของโมเดลทางอ้อมและรั่วไหลไปยังผู้อื่น
3. ความเสี่ยงในการรวมกลุ่ม: ชิ้นส่วนของข้อมูลที่ดูเหมือนไม่เป็นอันตรายแต่ละรายการอาจก่อให้เกิดภาพที่ละเอียดอ่อนได้เมื่อนำมารวมกัน ข้อมูลเล็กๆ น้อยๆ ที่ป้อนในเวลาต่างกันสามารถบอกจุดยืนที่เป็นความลับร่วมกันได้
4. ความเสี่ยงในการเข้าถึงและการละเมิด: เช่นเดียวกับระบบภายนอก บริการ AI อาจถูกละเมิดข้อมูลได้ ข้อมูลที่คุณให้อาจถูกเปิดเผยในการละเมิดนั้น
วิธีแก้ปัญหาความเสี่ยงเหล่านี้คือการสร้างโลกสองใบที่แยกจากกัน: เครื่องมือทั่วไปสำหรับงานโอเพ่นซอร์ส เฉพาะระบบภายในที่ปลอดภัยและได้รับการอนุมัติเท่านั้นที่ไม่ส่งออกข้อมูลสำหรับงานลับ อย่าผสมทั้งสองอย่าง
ข้อควรสนใจ: การพูดว่า "ฉันทำให้ไม่เปิดเผยตัวตน" มักจะไม่เพียงพอ แม้ว่าคุณจะลบชื่อ แต่บริบท (วันที่ สถานที่ กิจกรรม จำนวนปาร์ตี้) อาจเพียงพอสำหรับผู้เชี่ยวชาญในการแก้ไขข้อมูลระบุตัวตนและตำแหน่ง ข้อมูลที่ละเอียดอ่อนอย่างแท้จริงได้รับการปกป้องไม่ใช่โดยการปิดบัง แต่โดยการเลือกใช้เครื่องมือและสื่อที่เหมาะสม
วินัยในการใช้งานอย่างปลอดภัย
ตั้งค่าโฟลว์การควบคุมที่ใช้งานได้จริง:
- กำหนดชั้นเรียน ข้อมูลนี้เป็นข้อมูลสาธารณะ ภายใน เป็นความลับ หรือเป็นความลับสุดยอดหรือไม่
- จับคู่รถ. คลาสนี้สามารถประมวลผลในเครื่องมือนี้ได้หรือไม่? ถ้าไม่ให้หยุด
- นโยบายข้อมูลขั้นต่ำ แม้แต่ในงานที่ใช้การได้ อย่าให้ข้อมูลเกินกว่าที่งานต้องการ
- ปกป้องข้อมูลส่วนบุคคล ข้อมูลส่วนบุคคล (ชื่อ ผู้ติดต่อ สถานที่) จะได้รับการประมวลผลเฉพาะในกรณีที่จำเป็นและเป็นไปตามพื้นฐานทางกฎหมายเท่านั้น หากไม่จำเป็นให้ปิดบังหรือไม่ให้เลย
- เก็บบันทึก. จัดทำเอกสารว่าคุณใช้เครื่องมือใดสำหรับงานใด พร้อมข้อมูลใด หากมีปัญหาก็สามารถตรวจสอบได้
เคล็ดลับ: สร้างวัฒนธรรม "ความเป็นส่วนตัวต้องมาก่อน" ในทีมของคุณ: เสมียนหรือนักศึกษาฝึกงานใหม่ควรเรียนรู้แนวคิดที่ว่า "ไม่มีเอกสารที่เป็นความลับเข้าสู่สาธารณสมบัติ" ตั้งแต่วันแรก การละเมิดส่วนใหญ่ไม่ได้เกิดจากการมุ่งร้าย แต่เกิดจากการไม่รู้ว่ารถเปิดกว้างแค่ไหน
มินิเคสสามอัน
กรณีที่ 1 — การสะท้อนกลับป้องกันการละเมิด ผู้เชี่ยวชาญกำลังจะสรุปบันทึกการสัมภาษณ์เมื่อเขาหยุดและถามถึงการแยกประเภท: บันทึกนี้เป็นการสนทนาที่เป็นความลับกับคู่สนทนา เปลี่ยนมาใช้ระบบรักษาความปลอดภัยภายในองค์กรแทนเครื่องมือสาธารณะ การสะท้อนกลับแบบ "ถามชั้นเรียนก่อน" ช่วยป้องกันการละเมิด
กรณีที่ 2 — ยอมรับความเสี่ยงในการเก็บรวบรวม ทีมงานจะป้อนข้อมูลเล็กๆ น้อยๆ ที่ดูเหมือน "ไม่เป็นอันตราย" ลงในเครื่องมือภายนอกในแต่ละวัน การตรวจสอบด้านความปลอดภัยแสดงให้เห็นว่าเมื่อนำมารวมกัน ชิ้นส่วนเหล่านี้ก็แจกแจงวาระการเจรจาที่กำลังจะเกิดขึ้น แอปพลิเคชันถูกหยุดแล้ว งานถูกย้ายไปยังสภาพแวดล้อมที่ปลอดภัย
กรณีที่ 3 — การไม่เปิดเผยตัวตนปลอม เสมียนคนหนึ่งถือว่าเอกสาร "ไม่เปิดเผยตัวตน" เพราะเขาลบชื่อแล้วส่งมอบให้กับตัวแทนภายนอก อย่างไรก็ตาม คำอธิบายวันที่ สถานที่ และเหตุการณ์ในเอกสารทำให้ชัดเจนว่าใครหมายถึงใคร การลบชื่อยังไม่เพียงพอ เอกสารควรได้รับการประมวลผลในสภาพแวดล้อมที่ปลอดภัยอยู่แล้ว
เทมเพลตที่สามารถคัดลอกได้สี่แบบ
1) การตรวจสอบชั้นโดยสารและยานพาหนะล่วงหน้า:
ฉันจะอธิบายงานด้านล่าง บอกฉัน (อย่าทำงาน): (1) ข้อมูลนี้อาจมีคลาสความไวระดับใด (สาธารณะ / ภายใน / ความลับ / ความลับสูงสุด), (2) คลาสนี้ควรได้รับการประมวลผลในเครื่องมือ AI สาธารณะ (3) หากไม่เป็นเช่นนั้น ต้องใช้สภาพแวดล้อมประเภทใด รายละเอียดงาน/ข้อมูล: [ที่นี่]
2) การสแกนและปกปิดข้อมูลส่วนบุคคล:
ระบุข้อมูลส่วนบุคคล/ข้อมูลที่ละเอียดอ่อน (ชื่อ ตำแหน่ง ผู้ติดต่อ สถานที่ สุขภาพ หมายเลขประจำตัวประชาชน) ที่ต้องปกปิดก่อนประมวลผลในข้อความด้านล่าง การประมวลผลข้อความ แค่บอกฉันว่าบริเวณไหนที่ต้องกำจัดออก ฉันจะทำการมาสก์และส่งอีกครั้ง ข้อความ: [ที่นี่]
3) การประเมินความเสี่ยงในการรวบรวม:
ฉันกำลังพิจารณาที่จะส่งออกข้อมูลต่อไปนี้แยกกันไปยังเครื่องมือภายนอก: [ชิ้น] แม้ว่าสิ่งเหล่านี้อาจดูไม่เป็นอันตรายเป็นรายบุคคล แต่เมื่อรวมกันแล้วจะสามารถสร้างภาพที่ละเอียดอ่อนได้ (เช่น ตำแหน่ง วาระการประชุม อัตลักษณ์) ประเมินความเสี่ยงในการรวบรวมและบอกว่ารายการใดไม่ควรให้ร่วมกัน
4) การยืนยันความพร้อมสาธารณะ:
ฉันไม่แน่ใจว่าข้อมูลต่อไปนี้เปิดเผยต่อสาธารณะหรือไม่: [ข้อมูล] ระบุสิ่งที่ฉันต้องทำการตรวจสอบก่อนที่จะเผยแพร่สู่สาธารณะ (มีเอกสารเผยแพร่อย่างเป็นทางการ ใครเป็นผู้เผยแพร่ วันที่) หากฉันไม่แน่ใจ โปรดเตือนฉันถึงหลักการ "ถือว่าเป็นความลับ"
พรอมต์อ่อน / พรอมต์แรง
พรอมต์ที่อ่อนแอ:
สรุปบันทึกการสัมภาษณ์นี้ (เนื้อหาที่ซ่อนจะถูกวางลงในบันทึกโดยตรง)
นี่เป็นข้อผิดพลาดที่อันตรายที่สุด: เอกสารลับได้เข้าสู่สื่อสาธารณะโดยที่ชั้นเรียนไม่ได้ถูกซักถาม ความเสี่ยงของการรั่วไหลเกิดขึ้นและไม่สามารถย้อนกลับได้
พรอมต์ที่มีประสิทธิภาพ (ตรวจสอบก่อน):
ฉันต้องการประมวลผลบันทึกการประชุม แต่ก่อนอื่น: บันทึกนี้น่าจะอยู่ในชั้นเรียนลับ บอกฉันว่าเอกสารประเภทนี้สามารถประมวลผลในเครื่องมือสาธารณะได้หรือไม่ และวิธีที่ถูกต้องคืออะไร? ฉันไม่ได้ให้เนื้อหาของเอกสารแก่คุณ ฉันแค่ขอขั้นตอนที่ถูกต้อง
ความแตกต่างที่ชัดเจน: ไม่มีการมอบเนื้อหาที่เป็นความลับเลย โดยจะต้องถามกระบวนการที่ถูกต้องก่อน และงานจะถูกส่งไปยังสภาพแวดล้อมที่เหมาะสม
ตารางการทำแผนที่ระดับรถยนต์
คลาสข้อมูล
ตัวอย่าง
เอไอสาธารณะ
สภาพแวดล้อมที่เหมาะสม
สาธารณะ
ข่าวประชาสัมพันธ์
เหมาะสม
เครื่องมือทั่วไป
ภายใน/บริการเฉพาะ
บันทึกภายใน
โดยปกติแล้วไม่มี
ได้รับการอนุมัติภายในแล้ว
ความลับ
ตำแหน่งการเจรจาต่อรอง
ไม่เคย
ระบบสถาบันที่ปลอดภัย
ความลับสุดยอด
สติปัญญาที่ละเอียดอ่อน
ไม่เคย
ความปลอดภัยสูงสุด
ข้อมูลส่วนบุคคล
ข้อมูลรับรอง
จำเป็น+ถูกกฎหมายเท่านั้น
สวมหน้ากาก/ปลอดภัย
ข้อผิดพลาดทั่วไป
- การป้อนข้อมูลโดยไม่ต้องถามชั้นเรียน ก่อนทุกงานจะมีภาพสะท้อนว่า "นี่ชั้นไหน?" เป็นสิ่งจำเป็น
- สมมุติว่า "น่าจะชัดเจน" ข้อมูลที่ไม่แน่นอนได้รับการคุ้มครองเป็นความลับ
- การลบชื่อโดยเข้าใจผิดว่าเป็นการลบข้อมูลระบุตัวตน บริบทสามารถบอกเล่าตัวตนได้
- ละเลยความเสี่ยงในการเก็บรวบรวม ชิ้นส่วนขนาดเล็กอาจบอบบางได้เมื่อประกอบเข้าด้วยกัน
- ผสมสองโลก งานเปิดและงานแยกประเภทจะดำเนินการในเครื่องมือ/สภาพแวดล้อมที่แยกจากกัน
โดยสรุป
ความลับคือขีดจำกัดที่สำคัญที่สุดของการใช้ AI ทางการทูต ใช้การจำแนกประเภทข้อมูล (สาธารณะ/ภายใน/ความลับ/ความลับสุดยอด) "ถามคลาส จับคู่ยานพาหนะ" หลักการข้อมูลขั้นต่ำ การปกป้องข้อมูลส่วนบุคคล และความเสี่ยงในการเก็บรวบรวมเป็นหัวใจสำคัญของหน่วยนี้ เครื่องมือทั่วไปสำหรับงานโอเพ่นซอร์ส ใช้ระบบที่ปลอดภัยและได้รับการอนุมัติภายในเท่านั้นสำหรับงานประเภทลับ อย่าสับสนทั้งสอง เมื่อมีข้อสงสัย ให้ปกป้องข้อมูลเหมือนผู้อาวุโส
งานสมัคร
แสดงรายการข้อมูล 8 ชิ้นที่แตกต่างกันจากโต๊ะของคุณเอง (หรือในจินตนาการ) (บางส่วนเป็นสาธารณะ บางส่วนละเอียดอ่อน) วางแต่ละรายการไว้ในชั้นเรียนแล้วตัดสินใจว่า "สามารถประมวลผลในเครื่องมือใดได้บ้าง" ประเมินสิ่งที่คลุมเครือด้วยเทมเพลต "การตรวจสอบคลาสและยานพาหนะล่วงหน้า" เลือกสามส่วนและตรวจสอบว่าสร้างภาพที่ละเอียดอ่อนหรือไม่เมื่อรวมกับ "การประเมินความเสี่ยงในการรวบรวม"
รายการตรวจสอบ
- [ ] ก่อนอื่นฉันกำหนดระดับความไวสำหรับแต่ละข้อมูล
- ฉันไม่เคยป้อนข้อมูลที่มีคลาส [ ] ไม่เหมาะสำหรับรถยนต์สาธารณะ
- [ ] ฉันปกป้องข้อมูลที่ฉันไม่แน่ใจเหมือนผู้บังคับบัญชา
- [ ] ฉันประมวลผลข้อมูลส่วนบุคคลเมื่อจำเป็นและถูกกฎหมายเท่านั้น โดยปกปิดไว้
- [ ] ฉันเสี่ยงที่จะรวบรวมและแยกโลกทั้งสองออก