กำไร:
- ตระหนักถึงประเภทความเสี่ยงสี่ประเภทและแนวปฏิบัติต้องห้ามของกฎหมาย AI ของสหภาพยุโรป
- การประเมินอย่างสมเหตุสมผลว่าการใช้งานประเภทความเสี่ยงใดจัดอยู่ในประเภทใด
- ทำความเข้าใจว่าทำไมความรับผิดชอบด้าน AI ที่มีความเสี่ยงสูงและเพื่อวัตถุประสงค์ทั่วไปจึงส่งผลกระทบต่อบริษัทในตุรกี
พระราชบัญญัติปัญญาประดิษฐ์ของสหภาพยุโรป (EU AI Act) ซึ่งมีผลบังคับใช้ในปี 2024 เป็นกฎระเบียบด้าน AI ที่ครอบคลุมฉบับแรกของโลก และผลกระทบขยายไปไกลเกินขอบเขตของสหภาพยุโรป กฎหมายนี้อาจมีผลผูกพันโดยตรงกับบริษัทที่ตั้งอยู่ในตุรกี แต่ให้บริการในตลาดสหภาพยุโรป มีลูกค้าในสหภาพยุโรป หรือขายสินค้าให้กับสหภาพยุโรป ในหน่วยนี้ คุณจะได้เรียนรู้ตรรกะพื้นฐานของกฎหมาย — แนวทางที่อิงตามความเสี่ยง — โดยมีสี่ประเภท แนวปฏิบัติที่ต้องห้าม และความรับผิดที่มีความเสี่ยงสูง เราจะพยายามประเมินว่าการใช้งานอยู่ในกล่องใด
แนวคิดพื้นฐาน: ยิ่งมีความเสี่ยงสูง กฎเกณฑ์ก็จะยิ่งเข้มงวดมากขึ้น
กฎหมาย AI ของสหภาพยุโรปไม่ได้รวม AI ทั้งหมดไว้ด้วยกัน โดยแบ่งระบบปัญญาประดิษฐ์ออกเป็น 4 ประเภทตามอันตรายที่อาจเกิดขึ้น และกำหนดภาระหน้าที่ที่แตกต่างกันในแต่ละประเภท การแนะนำเพลงไม่ได้มีความเสี่ยงเช่นเดียวกับระบบคัดกรองการจ้างงาน กฎหมายไม่ได้ใช้กฎเดียวกันกับพวกเขา แนวทางที่อิงตามความเสี่ยงนี้เป็นหัวใจสำคัญของกฎหมาย
ระดับความเสี่ยง
ความหมาย
ตัวอย่าง
กฎ
ห้าม (ยอมรับไม่ได้)
ภัยคุกคามแบบเปิดต่อสิทธิขั้นพื้นฐาน
การให้คะแนนทางสังคม การจัดการจิตใต้สำนึก
ห้ามทั้งหมด
มีความเสี่ยงสูง
มันส่งผลกระทบร้ายแรงต่อชีวิตมนุษย์
การสรรหาบุคลากร สินเชื่อ การดูแลสุขภาพ การศึกษา โครงสร้างพื้นฐานที่สำคัญ
ความรับผิดที่เข้มงวด
ความเสี่ยงที่จำกัด
ต้องการความโปร่งใส
แชทบอท, ดีพเฟค, เนื้อหา AI
ข้อมูลเป็นสิ่งจำเป็น
ความเสี่ยงน้อยที่สุด
ความเสี่ยงไม่มีนัยสำคัญ
ตัวกรองสแปม, AI ของเกม, โปรแกรมแนะนำ
ฟรี
แอพต้องห้าม: เส้นสีแดง
การใช้ AI บางอย่างถือว่าเป็นอันตรายมากจนไม่สามารถปล่อยออกมาได้ไม่ว่าความเสี่ยงจะลดลงแค่ไหนก็ตาม สิ่งเหล่านี้อยู่ในหมวดหมู่ต้องห้าม (ความเสี่ยงที่ยอมรับไม่ได้):
- การให้คะแนนทางสังคมที่รัฐสนับสนุน (ให้คะแนนผู้คนตามพฤติกรรม/ลักษณะเฉพาะและทำให้พวกเขาเสียเปรียบ)
- ระบบที่บงการจิตใต้สำนึกของผู้คนและก่อให้เกิดอันตราย
- ระบบที่ใช้ประโยชน์จากช่องโหว่ เช่น อายุและความพิการ
- การระบุตัวตนแบบเรียลไทม์และการเฝ้าระวังจำนวนมาก (โดยมีข้อยกเว้นแคบ)
- การใช้งานเฉพาะ เช่น การจดจำอารมณ์ในที่ทำงานและการศึกษา
ข้อควรพิจารณา: ความจริงที่ว่าการใช้งานอยู่ในหมวดหมู่ "ต้องห้าม" ไม่ใช่อุปสรรคที่สามารถเอาชนะได้ด้วยการพูดว่า "ฉันมีเหตุผลที่ดี" การปฏิบัติเหล่านี้เป็นสิ่งต้องห้ามโดยสิ้นเชิง ไม่สามารถปล่อยออกมาได้แม้จะมีมาตรการลดความเสี่ยงก็ตาม การตรวจสอบขั้นแรกคือโครงการรวมอยู่ในรายการนี้หรือไม่
หนี้สินที่มีความเสี่ยงสูง
ระบบที่มีความเสี่ยงสูงไม่ได้ถูกห้ามแต่อยู่ภายใต้เงื่อนไขที่เข้มงวด พื้นที่ที่มีความเสี่ยงสูงโดยทั่วไป: การสรรหาและการจัดการพนักงาน สินเชื่อและการประกันภัย การศึกษาและการประเมินการสอบ การดูแลสุขภาพ โครงสร้างพื้นฐานที่สำคัญ การบังคับใช้กฎหมาย และการย้ายถิ่นฐาน ภาระผูกพันทั่วไปในระบบเหล่านี้:
- การจัดทำและรักษาระบบการบริหารความเสี่ยง
- การจัดการคุณภาพข้อมูลและอคติ (เป็นตัวแทนและถูกต้องของข้อมูลการฝึกอบรม)
- เอกสารทางเทคนิคและการเก็บบันทึก (ตรวจสอบย้อนกลับ)
- ความโปร่งใสและการให้ข้อมูลแก่ผู้ใช้
- การควบคุมของมนุษย์ (ความสามารถของมนุษย์ในการแทรกแซงและแทนที่)
- การรับประกันความแม่นยำ ความทนทาน และความปลอดภัยทางไซเบอร์
ภาระผูกพัน AI วัตถุประสงค์ทั่วไป (GPAI)
กฎหมายกำหนดภาระหน้าที่ด้านความโปร่งใสและเอกสารเฉพาะสำหรับโมเดล AI สำหรับการใช้งานทั่วไป (GPAI) กล่าวคือ โมเดลพื้นฐานอเนกประสงค์ เช่น โมเดลภาษาขนาดใหญ่ รวมถึงการใช้งานส่วนบุคคล เช่น การจัดเตรียมบทสรุปเกี่ยวกับข้อมูลการฝึกอบรม นโยบายการปฏิบัติตามลิขสิทธิ์ การประเมินเพิ่มเติมสำหรับโมเดลที่มีความเสี่ยงเชิงระบบ หากองค์กรฝังแบบจำลองเหล่านี้ลงในผลิตภัณฑ์ของตนเอง หนี้สินเหล่านี้บางส่วนอาจสะท้อนให้เห็นในห่วงโซ่
มินิเคสสามอัน
กรณีที่ 1 — การคัดกรองการจัดหางาน (ความเสี่ยงสูง) บริษัทซอฟต์แวร์แห่งหนึ่งในอิซมีร์พัฒนาแพลตฟอร์มการสรรหาบุคลากรที่ให้บริการแก่บริษัทในสหภาพยุโรป ระบบจะให้คะแนนและกำจัดผู้สมัครโดยอัตโนมัติ นี่เป็นส่วนที่กฎหมายเห็นว่ามีความเสี่ยงสูงอย่างชัดเจน บริษัท; ต้องเป็นไปตามข้อกำหนดด้านคุณภาพของข้อมูล การทดสอบอคติ การตรวจสอบโดยมนุษย์ และภาระผูกพันด้านเอกสาร ข้อโต้แย้ง "เราอยู่ในตุรกี มันไม่ได้ผูกมัดเรา" ไม่ถูกต้อง เนื่องจากระบบนี้ใช้ในตลาดสหภาพยุโรป กฎหมายจึงมีผลบังคับใช้
กรณีที่ 2 — แชทบอทของลูกค้า (ความเสี่ยงจำกัด) ไซต์อีคอมเมิร์ซปรับใช้แชทบอทเพื่อให้บริการลูกค้าในสหภาพยุโรป ซึ่งอยู่ในประเภทความเสี่ยงที่จำกัด ภาระผูกพันหลักคือความโปร่งใส: ผู้ใช้จะต้องได้รับแจ้งอย่างชัดเจนว่า "คุณกำลังพูดคุยกับปัญญาประดิษฐ์" การซ่อนสิ่งนี้ถือเป็นการละเมิด ก็เพียงพอที่จะระบุ
กรณีที่ 3 — เข้าใกล้เส้นห้าม เครือร้านค้าปลีกต้องการวิเคราะห์ปฏิกิริยาทางอารมณ์ของลูกค้าผ่านกล้องของร้านค้า และให้คะแนน "ผู้ที่มีแนวโน้มจะขโมยของในร้าน" ซึ่งจัดอยู่ในพื้นที่ต้องห้าม/มีความเสี่ยงสูงมากซึ่งมีทั้งมิติการรับรู้อารมณ์และการให้คะแนน ทีมกฎหมายหยุดโครงการในขั้นตอนการออกแบบ เป็นที่ชัดเจนว่าไม่สามารถดำเนินการได้แม้ว่าจะมีมาตรการลดความเสี่ยงก็ตาม
เคล็ดลับ: คำถามแรกเมื่อเริ่มต้นโครงการ AI ใหม่คือ “สิ่งนี้มีประโยชน์อย่างไร” แต่เป็น "สิ่งนี้จัดอยู่ในกลุ่มความเสี่ยงระดับใด" ควรจะเป็น การจัดหมวดหมู่ตั้งแต่แรกจะช่วยหลีกเลี่ยงการสิ้นเปลืองทรัพยากรในโครงการที่จะถูกยกเลิกในภายหลัง
เทมเพลตที่คัดลอกได้
แม่แบบ 1 — การประเมินเบื้องต้นระดับความเสี่ยง: "ประเมินล่วงหน้าการใช้ AI ต่อไปนี้ตามกฎหมาย AI ของสหภาพยุโรป: [อธิบายการใช้งาน] ระบุว่าระดับความเสี่ยงใด (ต้องห้าม / สูง / จำกัด / ขั้นต่ำ) ที่อาจจัดอยู่ในนั้น พร้อมให้เหตุผล ทำเครื่องหมายประเด็นที่คุณไม่แน่ใจว่าเป็น "ต้องมีการยืนยันทางกฎหมาย" อย่าตัดสินทางกฎหมายขั้นสุดท้าย"
เทมเพลต 2 — การสแกนแอปพลิเคชันต้องห้าม: "สแกนแนวคิดโครงการต่อไปนี้เฉพาะกับรายการ 'แอปพลิเคชันต้องห้ามของ EU AI Act' เท่านั้น: [อธิบายโครงการ] มีความเสี่ยงในแง่ของการให้คะแนนทางสังคม การยักย้ายโดยจิตใต้สำนึก การแสวงหาประโยชน์จากช่องโหว่ การเฝ้าระวังด้วยชีวมาตรที่ไม่ได้รับอนุญาต การจดจำอารมณ์ หรือไม่ เขียนใช่/ไม่ใช่ และการให้เหตุผลในแต่ละหัวข้อ"
เทมเพลต 3 — รายการตรวจสอบความรับผิดที่มีความเสี่ยงสูง: "สำหรับการใช้งาน AI ที่มีความเสี่ยงสูงนี้ [อธิบายการใช้งาน] จะสร้างตาราง 'สถานการณ์ปัจจุบันของเราคืออะไร สิ่งที่ขาดหายไป' ในหัวข้อความรับผิดหกหัวข้อ (การจัดการความเสี่ยง คุณภาพข้อมูล เอกสารประกอบ ความโปร่งใส การตรวจสอบโดยมนุษย์ ความคงทน) เสนอแนะการดำเนินการที่เป็นรูปธรรมในแต่ละแถว"
เทมเพลต 4 — การแจ้งเตือนความโปร่งใส (ความเสี่ยงจำกัด): "สำหรับแชทบอทที่ให้บริการผู้ใช้ในสหภาพยุโรป ให้เขียนการแจ้งเตือนสั้นๆ ว่า 'คุณกำลังพูดคุยกับ AI' เพื่อแสดงต่อผู้ใช้ เรียบง่าย มั่นใจ สูงสุด 2 ประโยค รวมตัวเลือกในการสลับเป็นตัวแทนที่เป็นมนุษย์ด้วย"
พรอมต์อ่อน / พรอมต์แข็งแกร่ง
อ่อนแอ: “กฎหมาย AI ของสหภาพยุโรปเกี่ยวข้องกับเราหรือไม่”-> โมเดลให้คำตอบทั่วไป ไม่ได้แยกประเภทการใช้งานที่เป็นรูปธรรมของคุณ แต่ไม่ได้ประเมินการเชื่อมต่อของคุณกับตลาดสหภาพยุโรป GÜçLÜ: "เราเป็นบริษัทที่ตั้งอยู่ในอิซเมียร์ เราขายการสรรหาบุคลากรและการคัดกรอง AI ให้กับบริษัทในเยอรมนี การใช้งานนี้จัดอยู่ในกลุ่มความเสี่ยงใดที่อยู่ภายใต้กฎหมาย AI ของสหภาพยุโรป มีภาระผูกพันอะไรบ้างที่ตกอยู่กับเรา และเหตุใดการอยู่ในตุรกีจึงไม่ยกเว้นเรา โปรดทำเครื่องหมายในส่วนที่คุณไม่แน่ใจ" -> แบบจำลองสร้างรายการการจำแนกประเภทและความรับผิดชอบเฉพาะบริบท
ข้อผิดพลาดทั่วไป
- คิดว่า "เราอยู่ในตุรกี กฎหมายของสหภาพยุโรปไม่ได้ผูกมัดเรา"; อย่างไรก็ตามการแตะตลาดสหภาพยุโรปก็เพียงพอแล้ว
- การจัดหมวดหมู่ความเสี่ยงหลังการพัฒนาโครงการ อย่างไรก็ตามควรทำตั้งแต่แรก
- การเข้าใจผิดว่าการปฏิบัติต้องห้ามเป็นอุปสรรคที่สามารถเอาชนะได้ด้วย "เหตุผลอันดี"
- ข้ามการรายงานความโปร่งใสในระบบความเสี่ยงที่จำกัด (ทำให้บอทดูเหมือนมนุษย์)
- ละเลยการตรวจสอบบุคคลและการจัดการอคติจากหนี้สินที่มีความเสี่ยงสูง
- เมื่อมองข้ามว่าหนี้สิน AI เพื่อวัตถุประสงค์ทั่วไป (GPAI) อาจสะท้อนกลับในห่วงโซ่
- แลกเปลี่ยนกฎหมาย AI ของสหภาพยุโรปกับ KVKK พวกมันแตกต่างแต่เสริมกัน
โดยสรุป
- กฎหมาย AI ของสหภาพยุโรปใช้แนวทางที่อิงตามความเสี่ยงและแบ่ง AI ออกเป็นสี่ประเภท: ต้องห้าม สูง จำกัด น้อยที่สุด
- แนวทางปฏิบัติต้องห้าม (การให้คะแนนทางสังคม การบงการ ฯลฯ) ไม่สามารถเผยแพร่ได้ แม้ว่าความเสี่ยงจะลดลงก็ตาม
- ระบบที่มีความเสี่ยงสูง อยู่ภายใต้ภาระผูกพันที่เข้มงวด เช่น การบริหารความเสี่ยง คุณภาพข้อมูล การควบคุมโดยมนุษย์ และเอกสารประกอบ
- ในระบบความเสี่ยงที่จำกัด ภาระผูกพันหลักคือความโปร่งใส (รายงานว่ามี AI)
- บริษัทตุรกีที่ติดต่อกับตลาดสหภาพยุโรปก็ได้รับผลกระทบจากกฎหมายเช่นกัน การจำแนกประเภทควรทำตั้งแต่เริ่มต้นโครงการ
งานสมัคร
พิจารณาการใช้งาน AI ที่แตกต่างกันสามแบบที่องค์กรของคุณ (หรือบริษัทสมมติ) อาจใช้เพื่อสัมพันธ์กับตลาดสหภาพยุโรป จัดแต่ละประเภทความเสี่ยงไว้ในหนึ่งในสี่ประเภทความเสี่ยงของ EU AI Act และเขียนเหตุผลของคุณ ใส่ภาระผูกพันที่มีความเสี่ยงสูงหกประการสำหรับการใช้งานที่คุณพบว่ามีความเสี่ยงสูงสุดในแผนภูมิควบคุม: กรอกคอลัมน์ "สถานะปัจจุบัน" และ "ไม่สมบูรณ์/ดำเนินการ" เขียนคำชี้แจงความโปร่งใสที่จะแสดงต่อผู้ใช้สำหรับการใช้งานที่อยู่ในหมวดหมู่ความเสี่ยงที่จำกัด สุดท้ายนี้ หากการใช้งานใดๆ ของคุณเข้าใกล้เส้นต้องห้าม โปรดทราบด้วยและเพราะเหตุใด
รายการตรวจสอบ
- [ ] ฉันจัดการใช้ AI แต่ละครั้งเป็นหนึ่งในสี่ประเภทความเสี่ยง
- [ ] ฉันสแกนโครงการของฉันเทียบกับรายการแอปพลิเคชันต้องห้าม
- [ ] ฉันสร้างแผนภูมิควบคุมความรับผิดชอบสำหรับการใช้งานที่มีความเสี่ยงสูง
- [ ] ฉันรวมการตรวจสอบบุคคลและการจัดการอคติไว้ในภาระผูกพัน
- [ ] ฉันได้เตรียมคำชี้แจงความโปร่งใสสำหรับการใช้งานความเสี่ยงที่จำกัด
- [ ] ฉันเข้าใจว่าทำไมการเชื่อมต่อตลาดสหภาพยุโรปของฉันจึงทำให้เกิดกฎหมาย
- [ ] ฉันจัดหมวดหมู่ความเสี่ยงเมื่อเริ่มต้นโครงการ ไม่ใช่ตอนสิ้นสุด