กำไร:
- การทำความเข้าใจธรรมชาติที่มีความสำคัญต่อความปลอดภัยของบล็อกเชน และสาเหตุที่ปัญญาประดิษฐ์ไม่สามารถตรวจจับข้อผิดพลาดดั้งเดิมได้ ให้การรับรองที่ผิดพลาด ล้าสมัยและไม่สามารถรับผิดชอบได้
- ความสามารถในการป้องกันข้อผิดพลาดเดียวไม่ให้รั่วไหลเข้าสู่ระบบที่ใช้งานจริงด้วยการตรวจสอบแบบหลายชั้นซึ่งมีประตูการตรวจสอบโดยมนุษย์ในทุกขั้นตอน
- การอนุมัติขั้นสุดท้ายที่มีความสำคัญต่อความปลอดภัยเป็นของผู้เชี่ยวชาญที่มีความสามารถและมีความสามารถในการนำหลักการของความรับผิดชอบของมนุษย์ วัตถุประสงค์ในการป้องกัน การรักษาความลับ ความโปร่งใส และความซื่อสัตย์มาใช้
นี่คือหน่วยที่สำคัญที่สุดของโมดูลนี้ จนถึงตอนนี้ เราได้เห็นแล้วว่า AI เร่งทุกสิ่งทุกอย่างตั้งแต่การเขียนสัญญาอัจฉริยะไปจนถึงการวิเคราะห์แบบออนไลน์ ตั้งแต่โทคีโนมิกส์ไปจนถึงการตรวจจับการฉ้อโกงได้อย่างไร ในหน่วยนี้ เราจะย้อนกลับไปดูหัวใจของเรื่อง: เหตุใดเอาต์พุตของ AI จึงไม่สามารถทดแทนการอนุมัติจากผู้เชี่ยวชาญที่มีความสามารถในงานที่มีความสำคัญด้านความปลอดภัยได้ และในฐานะผู้เชี่ยวชาญ กรอบการใช้ AI อย่างมีความรับผิดชอบมีอะไรบ้าง? วิศวกรรมบล็อคเชนเป็นสาขาที่มีความสำคัญด้านความปลอดภัย ซึ่งข้อผิดพลาดจะแปลงเป็นเงินโดยตรงและไม่สามารถย้อนกลับได้ หน่วยนี้เกี่ยวข้องกับข้อกำหนดของความเป็นจริงนั้น
"สำคัญต่อความปลอดภัย" หมายถึงอะไร และเหตุใดจึงแตกต่าง
พื้นที่นั้นมีความสำคัญด้านความปลอดภัย หากผลของข้อผิดพลาดไม่สามารถย้อนกลับได้และร้ายแรง เช่น การสูญเสียชีวิตในวิศวกรรมสะพาน การทุจริตต่อหน้าที่ทางการแพทย์ การสูญเสียเงินหลายล้านดอลลาร์ในทันทีและถาวรในบล็อกเชน มาตรฐานที่ยอมรับในด้านเหล่านี้แตกต่างอย่างสิ้นเชิงจากซอฟต์แวร์ทั่วไป:
- “มันอาจจะได้ผล” เท่านั้นยังไม่พอ จะต้องได้รับการพิสูจน์
- "เราจะแก้ไขในภายหลัง" ไม่ถูกต้อง การกลับไม่ได้ไม่ให้อภัย
- การอนุมัติขั้นสุดท้ายขึ้นอยู่กับผู้เชี่ยวชาญที่มีความสามารถซึ่งรับผิดชอบทางวิชาชีพและทางกฎหมาย
AI เป็นผู้ช่วย ไม่สามารถรับผิดชอบ ไม่สามารถรับผิดชอบ และไม่สามารถอยู่เบื้องหลังผลลัพธ์ได้ หากรายงานการตรวจสอบขาดช่องโหว่ ความรับผิดชอบจะเป็นของผู้เชี่ยวชาญที่ลงนาม ไม่ใช่ AI “AI พูดอย่างนั้น” ไม่ใช่การป้องกันทางวิศวกรรม
เหตุใด AI จึงไม่สามารถแทนที่ผู้เชี่ยวชาญได้: เหตุผลสำคัญสี่ประการ
1. AI ไม่สามารถมองเห็นข้อผิดพลาดดั้งเดิมและบริบทได้ AI จดจำรูปแบบในข้อมูลการฝึก ช่องโหว่ใหม่ ข้อผิดพลาดตรรกะทางธุรกิจเฉพาะโปรโตคอล หรือการโต้ตอบเฉพาะของส่วนประกอบต่างๆ เป็นจุดบอดของ AI การโจมตี Web3 ที่แพงที่สุดนั้นมาจากช่องโหว่เฉพาะเหล่านี้
2. AI ให้การรับรองที่ผิดพลาด AI สามารถพูดได้อย่างคล่องแคล่วและมั่นใจว่า “รหัสนี้ดูปลอดภัย” – ในขณะที่พูดผิด "ภาพหลอนแห่งความปลอดภัย" นี้เป็นผลลัพธ์ที่อันตรายที่สุดในพื้นที่ที่วิกฤตด้านความปลอดภัย เพราะมันสร้างความรู้สึกปลอดภัยที่ผิดพลาด
3. AI ล้าสมัยแล้ว ความรู้ของ AI หยุดในวันที่ตัดการศึกษา การโจมตีล่าสุด ไลบรารีเวอร์ชันล่าสุด แนวปฏิบัติที่ดีที่สุดล่าสุดนั้นอยู่นอกเหนือขอบฟ้า การรักษาความปลอดภัยคือการแข่งขันที่เปลี่ยนแปลงตลอดเวลา ข้อมูลเมื่อวานอาจจะไม่เพียงพอในวันนี้
4. AI ไม่สามารถรับผิดชอบได้ นี่อาจเป็นเหตุผลพื้นฐานที่สุด การอนุมัติทางวิศวกรรมไม่เพียงแต่เป็นข้อผูกพันทางเทคนิคเท่านั้น แต่ยังรวมถึงข้อผูกพันทางกฎหมายและจริยธรรมด้วย เครื่องจักรไม่สามารถทำข้อผูกพันนี้ได้
ข้อควรระวัง: ในผลลัพธ์ที่มีความสำคัญต่อความปลอดภัย คำถามคือ "AI พูดอะไร" แต่ "ใครคือผู้มีอำนาจในการตรวจสอบ ตรวจสอบ และยืนหยัดอยู่เบื้องหลังผลลัพธ์นี้" ควรจะเป็น การอนุมัติที่ไม่ใช่จากผู้เชี่ยวชาญ ไม่ว่าจะโดย AI หรือเครื่องมือ ก็ไม่ถือเป็นการรับประกัน
การตรวจสอบแบบหลายชั้น: ป้องกันไม่ให้ข้อบกพร่องเดี่ยวๆ รั่วไหลแบบเรียลไทม์
ขั้นตอนการทำงานที่มีความรับผิดชอบทำให้มีการตรวจสอบโดยมนุษย์ในทุกขั้นตอน คุณไม่สามารถผ่านประตูบานหนึ่งโดยไม่ผ่านอีกประตูหนึ่ง:
เวที
การมีส่วนร่วมของ AI
ประตูตรวจสอบของมนุษย์
การสะกดคำ
รหัสร่าง
สร้าง + ทดสอบ + ทบทวน
สแกน
ช่องโหว่ของผู้สมัคร
การวิเคราะห์แบบคงที่ + การยืนยันจากผู้ตรวจสอบบัญชี
การตรวจสอบ
เคล็ดลับร่างรายงาน
ลายเซ็นผู้ตรวจสอบที่มีความสามารถ
ทดสอบ
ร่างสคริปต์
เทสเน็ต + ฟัซซิง + การจำลอง
การกระจายสินค้า
รายการตรวจสอบ
การยืนยันหลายลายเซ็น + การออกแบบค่อยเป็นค่อยไป
การตรวจสอบ
สัญญาณความผิดปกติ
แผนการตอบสนองของมนุษย์
โครงสร้างแบบเลเยอร์นี้ป้องกันข้อบกพร่องของ AI ไม่ให้รั่วไหลเข้าสู่เมนเน็ต ประตูแต่ละบานมีเงื่อนไขการผ่านที่ชัดเจน: การทดสอบผ่านการทดสอบ ผู้ตรวจสอบลงนามหรือไม่ การจำลองผ่านหรือไม่
แนวทางที่อ่อนแอ / แนวทางที่แข็งแกร่ง
แนวทางที่อ่อนแอ:
AI สร้างโค้ด มันดูสะอาดตา มาวางไว้บนเมนเน็ตกันดีกว่า
นี่คือสูตรสำเร็จสำหรับภัยพิบัติในพื้นที่ที่ไม่อาจเพิกถอนได้
แนวทางอันทรงพลัง:
1. AI สร้างแบบร่าง → เรารวบรวมและทดสอบ2. การวิเคราะห์แบบคงที่ + การสแกน AI → ยืนยันผู้ตรวจสอบ3. การตรวจสอบความปลอดภัยที่เป็นอิสระ → รายงานที่ลงนาม4. Testnet + fuzzing + การจำลอง → สถานการณ์ที่ทน5. Multi-signature, cascading mainnet exit + การตรวจสอบ ที่แต่ละพอร์ต: ไม่มีความคืบหน้าจนกว่าจะตรงตามเงื่อนไขการเปลี่ยนแปลง
เทมเพลตที่สามารถคัดลอกได้สี่แบบ
1) การควบคุมประตูยืนยัน:
สร้างรายการตรวจสอบการตรวจสอบสำหรับผลลัพธ์ที่มีความสำคัญต่อความปลอดภัย: ควรตรวจสอบตามขั้นตอนอิสระใดบ้าง (การคอมไพล์ การวิเคราะห์แบบคงที่ การตรวจสอบ การทดสอบ การจำลอง) เขียนเงื่อนไขการเปลี่ยนแปลงสำหรับแต่ละขั้นตอน ระบุความเสี่ยงที่จะเกิดขึ้นหากข้ามขั้นตอนหนึ่งไป
2) การติดฉลากระดับความเชื่อมั่นเอาต์พุต AI:
ตรวจสอบผลลัพธ์ที่สร้างโดย AI ด้านล่างและทำเครื่องหมายการยืนยันแต่ละรายการ: “ยืนยันแล้ว / ควรตรวจสอบ / พื้นที่จุดอ่อนของ AI” เน้นประเด็นที่ต้องใช้ความเชี่ยวชาญของมนุษย์ โดยเฉพาะอย่างยิ่งประเด็นที่เกี่ยวข้องกับตรรกะทางธุรกิจและความเสี่ยงเฉพาะ
3) บันทึกการโอนผู้เชี่ยวชาญ:
หากต้องการส่งมอบผลลัพธ์นี้ให้กับผู้เชี่ยวชาญที่มีความสามารถ ให้เตรียมบทสรุป: AI ทำอะไร, มีสมมติฐานอะไร, ตรงไหนไม่แน่ใจ, ผู้เชี่ยวชาญจำเป็นต้องยืนยันที่ใดโดยเฉพาะ? ทำให้ชัดเจนว่าความรับผิดชอบอยู่ที่ผู้เชี่ยวชาญ
4) การเตรียมการตอบสนองต่อเหตุการณ์:
จัดทำโครงร่างการตอบสนองต่อเหตุฉุกเฉิน/เหตุการณ์สำหรับระเบียบการนี้: ขั้นตอนใดบ้าง (อำนาจในการสกัดกั้น การสื่อสาร การคุ้มครองกองทุน) ที่จะเกี่ยวข้องหากมีการใช้ประโยชน์จากช่องโหว่ในสิ่งมีชีวิต นี่คือฉบับร่าง ทีมงานและผู้เชี่ยวชาญจะต้องสอบเทียบ
มินิเคส 3 อัน (เป็นตัวเลข)
กรณีที่ 1 — การกระโดดประตูทำให้เกิดภัยพิบัติ เนื่องจากแรงกดดันด้านเวลา ทีมงานจึงข้ามการตรวจสอบอิสระและอาศัย AI + การทดสอบของตัวเองและไปที่เมนเน็ต 11 วันต่อมา ~$4M ถูกลบออกจากช่องโหว่ด้านตรรกะทางธุรกิจ ประตูตรวจคงจะจับเรื่องนี้ได้ บทเรียน: อย่าเลี่ยงประตูในบริเวณที่เสี่ยงต่อการรักษาความปลอดภัย
กรณีที่ 2 — บันทึกการรับรองความถูกต้องแบบเลเยอร์แล้ว อีกทีมหนึ่งดำเนินการแต่ละประตู: พิมพ์เขียว AI → การวิเคราะห์แบบคงที่ → การตรวจสอบ → เครือข่ายทดสอบ → การจำลอง ในระหว่างขั้นตอนการตรวจสอบ การกลับเข้ามาใหม่ ความเสี่ยงของออราเคิลถูกตรวจพบในการจำลอง ทั้งสองปิดก่อน mainnet บทเรียน: เลเยอร์ป้องกันข้อผิดพลาดเดียวไม่ให้รั่วไหล
กรณีที่ 3 — “ภาพหลอนที่ปลอดภัย” นักพัฒนาถาม AI เกี่ยวกับโค้ด “ดูเหมือนจะไม่มีปัญหาด้านความปลอดภัยที่สำคัญใดๆ” AI กล่าว ทีมงานได้ส่งมันไปตรวจสอบ และพบว่ามีการค้นพบระดับสูงสองรายการ ถ้าเราเชื่อถือ AI ทั้งสองก็จะมีชีวิตขึ้นมา บทเรียน: การแสดงความมั่นใจของ AI ไม่ใช่การยืนยัน
หลักการใช้งานอย่างรับผิดชอบ
เราสามารถลดสาระสำคัญของโมดูลนี้ลงเหลือหลักการหกประการ:
- ความรับผิดชอบของมนุษย์: การอนุมัติขั้นสุดท้ายที่มีความสำคัญต่อความปลอดภัยขึ้นอยู่กับผู้เชี่ยวชาญที่มีความสามารถ AI ไม่สามารถรับผิดชอบได้
- การรับรองความถูกต้องแบบหลายชั้น: เงื่อนไขประตูและผ่านของมนุษย์ในแต่ละขั้นตอน
- การใช้เชิงป้องกัน: เพื่อปกป้องและควบคุมข้อมูล ไม่แสวงหาประโยชน์/กับดัก
- การรักษาความลับ: รหัสและข้อมูลของลูกค้าจะไม่ถูกมอบให้กับเครื่องมือแบบเปิดโดยไม่ได้รับอนุญาต
- ความโปร่งใส: รายงานมีการระบุการใช้ AI อย่างตรงไปตรงมา ไม่มีการกล่าวเกินจริงหรือการรับรองอันเป็นเท็จ
- ความซื่อสัตย์: นักลงทุนและผู้ใช้จะไม่ถูกหลอก; ความเสี่ยงไม่ได้ถูกซ่อนไว้ คำแนะนำไม่ถูกปิดบัง
เคล็ดลับ: ถามตัวเองหนึ่งคำถามสำหรับการตัดสินใจที่มีความสำคัญต่อความปลอดภัยทุกครั้ง: "หากสิ่งนี้เป็นสิ่งที่ผิดและเงินสูญหาย มีการตรวจสอบโดยมนุษย์ที่มีความสามารถที่จะยืนหยัดอยู่เบื้องหลังและรับผิดชอบหรือไม่" หากคำตอบคือ “ไม่ AI ก็บอกแบบนั้น” กระบวนการนี้ยังไม่สมบูรณ์
ข้อผิดพลาดทั่วไป
- ข้ามประตูตรวจสอบอิสระ มันไม่ให้อภัยในพื้นที่ที่เพิกถอนไม่ได้
- เข้าใจผิดว่าการแสดงความไว้วางใจของ AI เป็นการยืนยัน “ภาพหลอนที่ปลอดภัย” เป็นสิ่งที่อันตรายที่สุด
- พยายามมอบความรับผิดชอบให้กับ AI ความรับผิดชอบอยู่กับผู้เชี่ยวชาญที่ลงนาม
- ถือว่าทันเวลา. AI ไม่ทราบเกินวันตัดรอบการฝึกอบรม
- ประตูสั้นลงเนื่องจากความกดดันด้านเวลา แหล่งที่มาของข้อผิดพลาดที่แพงที่สุด
- การออกไปโดยไม่มีแผนรับมือเหตุการณ์ เมื่อเกิดการรั่วไหล สิ่งหนึ่งที่ไม่ได้เตรียมตัวไว้
โดยสรุป
- Blockchain มีความสำคัญต่อความปลอดภัย ข้อผิดพลาดไม่สามารถย้อนกลับได้และกลายเป็นเงินโดยตรง
- AI ไม่สามารถมองเห็นข้อผิดพลาดดั้งเดิม ให้การรับรองที่ผิดพลาด ล้าสมัย และไม่สามารถรับผิดชอบได้
- นั่นเป็นสาเหตุที่การอนุมัติขั้นสุดท้ายที่มีความสำคัญด้านความปลอดภัยขึ้นอยู่กับผู้เชี่ยวชาญที่มีความสามารถเสมอ
- การตรวจสอบแบบหลายชั้นจะป้องกันข้อผิดพลาดเดียวไม่ให้รั่วไหลสู่สภาพแวดล้อมจริงโดยการวางประตูมนุษย์ในแต่ละขั้นตอน
- การใช้งานอย่างมีความรับผิดชอบ: ความรับผิดชอบของมนุษย์ วัตถุประสงค์ในการป้องกัน การรักษาความลับ ความโปร่งใส และความซื่อสัตย์
งานสมัคร
ลองนึกภาพโครงการสัญญาอัจฉริยะ (หรือยกตัวอย่างจริง) เขียนแผนการตรวจสอบแบบเป็นชั้นสำหรับการเดินทางทั้งหมดจากแนวคิดสู่เมนเน็ต: AI ทำอะไรในแต่ละขั้นตอน มี Human Gate อะไร เงื่อนไขการเปลี่ยนแปลงคืออะไร จากนั้นเพิ่มสถานการณ์ "ความกดดันด้านเวลา": ประตูบานไหนที่อันตรายที่สุดในการเลี่ยง และเพราะเหตุใด รวมถึงโครงร่างการตอบสนองต่อเหตุการณ์ด้วย
รายการตรวจสอบ
- [ ] ฉันยอมรับว่าการอนุมัติที่มีความสำคัญต่อความปลอดภัยขั้นสุดท้ายนั้นเป็นของผู้เชี่ยวชาญ
- [ ] ฉันวางประตูการตรวจสอบโดยมนุษย์ในแต่ละขั้นตอน
- [ ] ฉันไม่ได้ถือว่าการแสดงออกถึงความมั่นใจของ AI เป็นการยืนยัน
- [ ] ฉันไม่ได้ข้ามประตูตรวจสอบอิสระ
- [ ] ฉันไม่ได้ถือว่าเป็นเรื่องเฉพาะ; ฉันยืนยันข้อมูลล่าสุดกับมนุษย์
- [ ] ฉันไม่ได้มอบความรับผิดชอบให้กับ AI
- [ ] ฉันเตรียมแผนการตอบสนองต่อเหตุการณ์