Keuntungan:
- Memahami sifat kritikal keselamatan blockchain dan sebab kecerdasan buatan tidak dapat mengesan ralat asal, memberikan jaminan palsu, ketinggalan zaman dan gagal bertanggungjawab.
- Keupayaan untuk menghalang satu ralat daripada bocor ke dalam sistem langsung dengan pengesahan berlapis yang meletakkan gerbang pengesahan manusia pada setiap peringkat
- Kelulusan akhir kritikal keselamatan adalah milik pakar yang cekap dan keupayaan untuk menerima pakai prinsip tanggungjawab manusia, tujuan pertahanan, kerahsiaan, ketelusan dan kejujuran.
Ini adalah unit terpenting dalam modul ini. Setakat ini kita telah melihat bagaimana AI mempercepatkan segala-galanya daripada penulisan kontrak pintar kepada analisis rantaian, daripada tokenomik kepada pengesanan penipuan. Dalam unit ini, kami berundur dan melihat intipati perkara ini: mengapa keluaran AI tidak boleh menggantikan kelulusan pakar yang cekap dalam kerja kritikal keselamatan. Dan sebagai pakar, apakah rangka kerja untuk menggunakan AI secara bertanggungjawab? Kejuruteraan rantaian blok ialah bidang kritikal keselamatan di mana kesilapan secara langsung dan tidak dapat dipulihkan diterjemahkan kepada wang; Unit ini berurusan dengan keperluan realiti itu.
Apakah maksud "kritikal keselamatan" dan mengapa ia berbeza?
Kawasan adalah kritikal keselamatan jika akibat daripada ralat tidak dapat dipulihkan dan serius: kehilangan nyawa dalam kejuruteraan jambatan, penyelewengan dalam bidang perubatan, kerugian serta-merta dan kekal berjuta-juta dolar dalam rantaian blok. Piawaian yang diterima dalam bidang ini sama sekali berbeza daripada perisian biasa:
- "Ia mungkin berkesan" tidak mencukupi; mesti dibuktikan.
- "Kami akan membetulkannya kemudian" tidak sah; Ketidakterbalikan tidak memaafkan.
- Kelulusan terakhir terletak pada pakar yang cekap yang memikul tanggungjawab profesional dan undang-undang.
AI ialah pembantu; tidak boleh memikul tanggungjawab, tidak boleh dipertanggungjawabkan, dan tidak boleh berdiri di belakang keputusan. Jika laporan audit terlepas kerentanan, tanggungjawab terletak pada pakar yang menandatangani, bukan AI. "AI berkata demikian" bukan pertahanan kejuruteraan.
Mengapa AI tidak boleh menggantikan pakar: empat sebab utama
1. AI tidak dapat melihat ralat asal dan kontekstual. AI mengenali corak dalam data latihan. Kerentanan baharu, ralat logik perniagaan khusus protokol, atau interaksi unik komponen adalah titik buta AI. Serangan Web3 yang paling mahal datang daripada kelemahan unik ini.
2. AI memberi jaminan palsu. AI boleh dengan lancar dan yakin mengatakan "kod ini kelihatan selamat" — semasa salah. "Halusinasi keselamatan" ini adalah keluaran paling berbahaya di kawasan kritikal keselamatan; kerana ia mewujudkan rasa selamat yang palsu.
3. AI sudah lapuk. Pengetahuan AI berhenti pada tarikh tamat pendidikan. Serangan terkini, versi pustaka terkini, amalan terbaik terkini berada di luar jangkauannya. Keselamatan adalah perlumbaan yang sentiasa berubah; Maklumat semalam mungkin tidak mencukupi hari ini.
4. AI tidak boleh memikul tanggungjawab. Ini mungkin sebab yang paling asas. Kelulusan kejuruteraan bukan sahaja teknikal tetapi juga komitmen undang-undang dan etika. Mesin tidak boleh membuat komitmen ini.
Awas: Dalam keluaran kritikal keselamatan, persoalannya ialah "Apa yang AI katakan?" tetapi "Siapakah orang yang cekap yang mengesahkan, mengesahkan dan berdiri di belakang output ini?" sepatutnya. Tiada kelulusan bukan pakar—baik oleh AI mahupun oleh alat—boleh dianggap sebagai jaminan.
Pengesahan berlapis: menghalang pepijat tunggal daripada bocor secara langsung
Aliran kerja yang bertanggungjawab meletakkan gerbang pengesahan manusia pada setiap peringkat. Anda tidak boleh melalui satu pintu tanpa melalui yang lain:
pentas
Sumbangan AI
gerbang pengesahan manusia
ejaan
draf kod
Bina + ujian + ulasan
imbasan
Kelemahan calon
Analisis statik + pengesahan juruaudit
Audit
Petua, laporkan draf
Tandatangan juruaudit yang kompeten
ujian
draf skrip
Testnet + fuzzing + simulasi
Pengagihan
senarai semak
Pengesahan berbilang tandatangan + keluar secara beransur-ansur
Pemantauan
tanda anomali
pelan tindak balas manusia
Struktur berlapis ini menghalang pepijat AI tunggal daripada bocor ke dalam mainnet. Setiap pintu mempunyai syarat lulus yang jelas: adakah ujian lulus, adakah juruaudit menandatangani, adakah simulasi bertahan?
Pendekatan yang lemah / Pendekatan yang kuat
Pendekatan yang lemah:
AI menjana kod, ia kelihatan bersih, mari letakkannya di mainnet.
Ini adalah resipi untuk bencana di kawasan yang tidak boleh ditarik balik.
Pendekatan berkuasa:
1. AI menghasilkan draf → kami menyusunnya, mengujinya.2. Analisis statik + imbasan AI → juruaudit disahkan.3. Audit keselamatan bebas → laporan yang ditandatangani.4. Testnet + fuzzing + simulasi → senario ditanggung.5. Berbilang tandatangan, keluar mainnet berlatarkan + pemantauan. Pada setiap port: tiada kemajuan sehingga syarat peralihan dipenuhi.
Empat templat yang boleh disalin
1) Kawalan pintu pengesahan:
Hasilkan senarai semak pengesahan untuk output kritikal keselamatan ini: dengan apakah langkah bebas (penyusunan, analisis statik, pengauditan, ujian, simulasi) harus ia disahkan? Tulis keadaan peralihan untuk setiap langkah. Nyatakan risiko yang akan timbul jika satu langkah dilangkau.
2) Pelabelan tahap keyakinan keluaran AI:
Semak output yang dijana AI di bawah dan tandai setiap pernyataan: "disahkan / harus disahkan / kawasan kelemahan AI". Serlahkan perkara yang memerlukan kepakaran manusia, terutamanya yang melibatkan logik perniagaan dan risiko unik.
3) Nota pemindahan pakar:
Untuk menyerahkan output ini kepada pakar yang cekap, sediakan ringkasan: apakah yang dilakukan oleh AI, dengan andaian apa, di mana ia tidak pasti, di mana secara khusus pakar perlu mengesahkan? Jelaskan bahawa tanggungjawab terletak pada pakar.
4) Persediaan tindak balas insiden:
Hasilkan garis besar tindak balas kecemasan/insiden untuk protokol ini: apakah langkah (pihak berkuasa memintas, komunikasi, perlindungan dana) akan terlibat jika kelemahan dieksploitasi dalam makhluk? Ini adalah draf; Pasukan dan pakar mesti menentukur.
Tiga kes mini (dalam bilangan)
Kes 1 — Lompat pintu membawa bencana. Disebabkan tekanan masa, satu pasukan melangkau audit bebas dan bergantung pada ujian AI + sendiri dan pergi ke mainnet. 11 hari kemudian ~$4J dialih keluar daripada kelemahan logik perniagaan. Pintu pemeriksaan mungkin akan menangkap ini. Pengajaran: jangan memintas pintu di kawasan kritikal keselamatan.
Kes 2 — Pengesahan berlapis disimpan. Pasukan lain mengendalikan setiap pintu: pelan tindakan AI → analisis statik → audit → testnet → simulasi. Semasa fasa audit, kemasukan semula, risiko oracle telah ditangkap dalam simulasi. Kedua-duanya ditutup sebelum mainnet. Pelajaran: lapisan menghalang ralat tunggal daripada bocor.
Kes 3 — “Halusinasi selamat.” Seorang pemaju bertanya kepada AI tentang kod itu; "Nampaknya tidak ada sebarang isu keselamatan yang ketara," kata AI. Pasukan menghantarnya untuk pemeriksaan, dan dua penemuan peringkat tinggi muncul. Sekiranya kami mempercayai AI, kedua-duanya akan menjadi hidup. Pengajaran: Ekspresi keyakinan AI bukanlah pengesahan.
Prinsip penggunaan yang bertanggungjawab
Kita boleh mengurangkan intipati modul ini kepada enam prinsip:
- Tanggungjawab manusia: Kelulusan akhir kritikal keselamatan terletak pada pakar yang cekap; AI tidak boleh dipertanggungjawabkan.
- Pengesahan berlapis: Keadaan gerbang dan laluan manusia pada setiap peringkat.
- Penggunaan pertahanan: Untuk melindungi dan mengawal maklumat; Bukan untuk mengeksploitasi/merangkap.
- Kerahsiaan: Kod dan data pelanggan tidak diberikan kepada alat yang dibuka tanpa kebenaran.
- Ketelusan: Penggunaan AI dinyatakan secara jujur dalam laporan; Tiada keterlaluan atau jaminan palsu diberikan.
- Kejujuran: Pelabur dan pengguna tidak tertipu; Risiko tidak tersembunyi, nasihat tidak bertopeng.
Petua: Tanya diri anda satu soalan untuk setiap keputusan kritikal keselamatan: "Jika ini salah dan wang itu hilang, adakah terdapat pengesahan manusia yang cekap untuk berdiri di belakangnya dan bertanggungjawab?" Jika jawapannya "tidak, AI berkata demikian," prosesnya tidak lengkap.
Kesilapan biasa
- Melangkau pintu audit bebas. Ia tidak memaafkan di kawasan yang tidak boleh ditarik balik.
- Menganggap ungkapan kepercayaan AI sebagai pengesahan. "Halusinasi selamat" adalah yang paling berbahaya.
- Cuba meletakkan tanggungjawab pada AI. Tanggungjawab terletak pada pakar yang menandatangani.
- Dengan mengandaikan ketepatan masa. AI tidak tahu melebihi tarikh tamat latihan.
- Memendekkan pintu kerana tekanan masa. Sumber ralat yang paling mahal.
- Meninggalkan tanpa pelan tindak balas insiden. Apabila kebocoran berlaku, seseorang dibiarkan tidak bersedia.
Secara ringkasnya
- Blockchain adalah kritikal keselamatan; Kesilapan tidak dapat dipulihkan dan bertukar terus menjadi wang.
- AI tidak dapat melihat ralat asal, memberikan jaminan palsu, sudah lapuk dan tidak boleh bertanggungjawab.
- Itulah sebabnya kelulusan akhir kritikal keselamatan sentiasa terletak pada pakar yang cekap.
- Pengesahan berlapis menghalang satu ralat daripada bocor ke dalam persekitaran langsung dengan meletakkan pintu manusia pada setiap peringkat.
- Penggunaan yang bertanggungjawab: tanggungjawab manusia, tujuan pertahanan, kerahsiaan, ketelusan dan integriti.
Tugasan permohonan
Bayangkan projek kontrak pintar (atau ambil contoh sebenar). Tulis pelan pengesahan berlapis untuk keseluruhan perjalanan dari idea ke mainnet: apakah yang AI lakukan pada setiap peringkat, apakah pintu manusia yang ada di sana, apakah keadaan peralihan? Kemudian tambahkan senario "tekanan masa": pintu manakah yang paling berbahaya untuk dipintas dan mengapa? Sertakan juga garis besar tindak balas insiden.
senarai semak
- [ ] Saya menerima bahawa kelulusan kritikal keselamatan terakhir terletak pada pakar.
- [ ] Saya meletakkan gerbang pengesahan manusia pada setiap peringkat.
- [ ] Saya tidak mengira ungkapan keyakinan AI sebagai pengesahan.
- [ ] Saya tidak memintas pintu audit bebas.
- [ ] Saya tidak menganggap topikal; Saya mengesahkan maklumat terkini dengan manusia.
- [ ] Saya tidak meletakkan tanggungjawab pada AI.
- [ ] Saya menyediakan pelan tindak balas insiden.