فائدہ:
- بلاکچین کی حفاظتی نازک نوعیت کو سمجھنا اور ان وجوہات کو سمجھنا جن کی وجہ سے مصنوعی ذہانت اصل غلطی کا پتہ نہیں لگا سکتی، غلط یقین دہانی فراہم کر سکتی ہے، پرانی ہے اور ذمہ داری لینے میں ناکام ہے۔
- پرتوں کی تصدیق کے ساتھ لائیو سسٹم میں کسی ایک غلطی کو لیک ہونے سے روکنے کی اہلیت جو ہر مرحلے پر انسانی تصدیقی گیٹ رکھتا ہے۔
- سلامتی کے لیے اہم حتمی منظوری قابل ماہر اور انسانی ذمہ داری، دفاعی مقصد، رازداری، شفافیت اور ایمانداری کے اصولوں کو اپنانے کی صلاحیت سے تعلق رکھتی ہے۔
یہ اس ماڈیول کی سب سے اہم اکائی ہے۔ اب تک ہم نے دیکھا ہے کہ کس طرح AI سمارٹ کنٹریکٹ رائٹنگ سے لے کر آن چین تجزیہ تک، ٹوکنومکس سے لے کر فراڈ کا پتہ لگانے تک ہر چیز کو تیز کر رہا ہے۔ اس یونٹ میں، ہم پیچھے ہٹتے ہیں اور معاملے کے مرکز کو دیکھتے ہیں: کیوں AI آؤٹ پٹ حفاظت کے لیے اہم کام میں ماہر ماہر کی منظوری کی جگہ نہیں لے سکتا۔ اور ایک ماہر کے طور پر، AI کو ذمہ داری سے استعمال کرنے کا فریم ورک کیا ہے؟ بلاکچین انجینئرنگ ایک سیکورٹی کے لیے اہم شعبہ ہے جہاں غلطیاں براہ راست اور ناقابل واپسی طور پر رقم میں تبدیل ہوتی ہیں۔ یہ یونٹ اس حقیقت کے تقاضوں سے نمٹتا ہے۔
"سیکیورٹی-کریٹیکل" کا کیا مطلب ہے اور یہ کیوں مختلف ہے؟
اگر کسی غلطی کا نتیجہ ناقابل واپسی اور سنگین ہو تو کوئی علاقہ حفاظتی لحاظ سے اہم ہے: برج انجینئرنگ میں جان کا نقصان، ادویات میں خرابی، بلاک چین میں لاکھوں ڈالر کا فوری اور مستقل نقصان۔ ان علاقوں میں قبول شدہ معیار عام سافٹ ویئر سے بالکل مختلف ہے:
- "یہ شاید کام کرتا ہے" کافی نہیں ہے۔ ثابت ہونا ضروری ہے.
- "ہم اسے بعد میں ٹھیک کریں گے" غلط ہے۔ ناقابل واپسی معاف نہیں کرتا۔
- حتمی منظوری ایک قابل ماہر کے پاس ہے جو پیشہ ورانہ اور قانونی ذمہ داری قبول کرتا ہے۔
AI ایک معاون ہے۔ ذمہ داری قبول نہیں کر سکتے، جوابدہ نہیں ٹھہر سکتے، اور نتائج کے پیچھے کھڑے نہیں ہو سکتے۔ اگر آڈٹ رپورٹ میں کوئی کمزوری نظر نہیں آتی ہے، تو ذمہ داری اس ماہر پر عائد ہوتی ہے جس نے دستخط کیے، نہ کہ AI۔ "AI نے ایسا کہا" انجینئرنگ کا دفاع نہیں ہے۔
AI ماہر کی جگہ کیوں نہیں لے سکتا: چار اہم وجوہات
1. AI اصل اور سیاق و سباق کی خرابی کو نہیں دیکھ سکتا۔ AI تربیتی ڈیٹا میں نمونوں کو پہچانتا ہے۔ ایک نئی کمزوری، پروٹوکول کے لیے مخصوص کاروباری منطق کی خرابی، یا اجزاء کا ایک انوکھا تعامل AI کا اندھا مقام ہے۔ سب سے مہنگے Web3 حملے بالکل ان منفرد خطرات سے آتے ہیں۔
2. AI جھوٹی یقین دہانی دیتا ہے۔ AI روانی اور اعتماد سے کہہ سکتا ہے کہ "یہ کوڈ محفوظ لگتا ہے" — غلط ہونے کے باوجود۔ یہ "حفاظت کا فریب" ایک حفاظتی نازک علاقے میں سب سے خطرناک پیداوار ہے۔ کیونکہ یہ تحفظ کا غلط احساس پیدا کرتا ہے۔
3. AI پرانا ہے۔ AI کا علم تعلیمی کٹ آف تاریخ پر رک جاتا ہے۔ تازہ ترین حملے، تازہ ترین لائبریری ورژن، تازہ ترین بہترین طرز عمل اس کے افق سے باہر ہیں۔ سیکورٹی ایک ہمیشہ بدلتی ہوئی دوڑ ہے؛ کل کی معلومات آج ناکافی ہو سکتی ہیں۔
4. AI ذمہ داری قبول نہیں کر سکتا۔ یہ شاید سب سے بنیادی وجہ ہے۔ انجینئرنگ کی منظوری نہ صرف ایک تکنیکی ہے بلکہ ایک قانونی اور اخلاقی وابستگی بھی ہے۔ ایک مشین یہ عہد نہیں کر سکتی۔
احتیاط: سیکورٹی کے لحاظ سے اہم آؤٹ پٹ میں، سوال یہ ہے کہ "AI نے کیا کہا؟" لیکن "کون قابل شخص ہے جو اس آؤٹ پٹ کی تصدیق کرتا ہے، تصدیق کرتا ہے اور اس کے پیچھے کھڑا ہے؟" ہونا چاہئے. کسی غیر ماہر کی منظوری—نہ AI کی طرف سے اور نہ ہی ٹول کے ذریعے—کو یقین دہانی نہیں سمجھا جا سکتا ہے۔
پرتوں کی تصدیق: سنگل بگز کو لائیو لیک ہونے سے روکنا
ایک ذمہ دار ورک فلو ہر مرحلے پر ایک انسانی تصدیقی گیٹ رکھتا ہے۔ آپ ایک دروازے سے دوسرے دروازے سے گزرے بغیر نہیں گزر سکتے:
اسٹیج
AI کی شراکت
انسانی تصدیقی گیٹ
ہجے
مسودہ کوڈ
تعمیر + ٹیسٹ + جائزہ
اسکین
امیدوار کی کمزوری
جامد تجزیہ + آڈیٹر کی تصدیق
آڈٹ
ٹپ، رپورٹ کا مسودہ
قابل آڈیٹر کے دستخط
ٹیسٹ
سکرپٹ کا مسودہ
ٹیسٹ نیٹ + فزنگ + سمولیشن
تقسیم
چیک لسٹ
کثیر دستخطی تصدیق + بتدریج اخراج
نگرانی
بے ضابطگی کی علامت
انسانی ردعمل کی منصوبہ بندی
یہ تہہ دار ڈھانچہ ایک واحد AI بگ کو مین نیٹ میں لیک ہونے سے روکتا ہے۔ ہر دروازے پر پاس کی ایک واضح شرط ہے: کیا ٹیسٹ پاس ہوا، کیا آڈیٹر نے دستخط کیے، کیا نقلی کام برقرار ہے؟
کمزور نقطہ نظر / مضبوط نقطہ نظر
کمزور نقطہ نظر:
AI نے کوڈ تیار کیا، یہ صاف نظر آتا ہے، آئیے اسے مین نیٹ پر ڈالتے ہیں۔
یہ ایک اٹل علاقے میں تباہی کا نسخہ ہے۔
طاقتور نقطہ نظر:
1. AI نے مسودہ تیار کیا → ہم نے اسے مرتب کیا، اس کا تجربہ کیا۔2۔ جامد تجزیہ + AI اسکین → آڈیٹر تصدیق شدہ۔3۔ آزاد سیکورٹی آڈٹ → دستخط شدہ رپورٹ۔4۔ ٹیسٹ نیٹ + فزنگ + سمولیشن → منظرنامے برداشت کیے گئے ملٹی دستخط، مین نیٹ ایگزٹ + مانیٹرنگ کاسکیڈنگ۔ ہر بندرگاہ پر: منتقلی کی شرط پوری ہونے تک کوئی پیش رفت نہیں۔
چار کاپی کرنے کے قابل ٹیمپلیٹس
1) تصدیقی گیٹ کنٹرول:
اس حفاظتی اہم آؤٹ پٹ کے لیے ایک تصدیقی چیک لسٹ بنائیں: کن آزاد اقدامات (تالیف، جامد تجزیہ، آڈیٹنگ، جانچ، نقلی) کے ذریعے اس کی توثیق کی جانی چاہیے؟ ہر قدم کے لیے منتقلی کی حالت لکھیں۔ بتائیں کہ اگر ایک قدم چھوڑ دیا جائے تو کیا خطرہ پیدا ہو گا۔
2) AI آؤٹ پٹ اعتماد کی سطح کی لیبلنگ:
ذیل میں AI سے تیار کردہ آؤٹ پٹ کا جائزہ لیں اور ہر ایک دعوے کو نشان زد کریں: "تصدیق شدہ / تصدیق شدہ ہونا چاہیے / AI کمزوری کا علاقہ"۔ ایسے نکات کو نمایاں کریں جن کے لیے انسانی مہارت کی ضرورت ہوتی ہے، خاص طور پر جن میں کاروباری منطق اور منفرد خطرہ شامل ہو۔
3) ماہر کی منتقلی کا نوٹ:
اس آؤٹ پٹ کو کسی قابل ماہر کے حوالے کرنے کے لیے، ایک خلاصہ تیار کریں: AI نے کیا کیا، کن مفروضوں کے ساتھ، یہ کہاں غیر یقینی ہے، ماہر کو خاص طور پر کہاں تصدیق کرنے کی ضرورت ہے؟ واضح کریں کہ ذمہ داری ماہر پر عائد ہوتی ہے۔
4) واقعے کے ردعمل کی تیاری:
اس پروٹوکول کے لیے ہنگامی/واقعہ کے ردعمل کا خاکہ تیار کریں: اگر کسی مخلوق میں کمزوری کا استحصال کیا جائے تو کون سے اقدامات (انٹرسیپٹ اتھارٹی، کمیونیکیشن، فنڈ پروٹیکشن) شامل ہوں گے؟ یہ ایک مسودہ ہے؛ ٹیم اور ماہر کو کیلیبریٹ کرنا چاہیے۔
تین چھوٹے کیسز (تعداد میں)
کیس 1 - دروازہ کودنا تباہی لایا۔ وقت کے دباؤ کی وجہ سے، ایک ٹیم نے آزاد آڈٹ کو چھوڑ دیا اور AI + اپنے ٹیسٹوں پر انحصار کیا اور مین نیٹ پر چلی گئی۔ 11 دن بعد ~$4M کو کاروباری منطق کے خطرے سے ہٹا دیا گیا۔ ایک معائنہ گیٹ شاید اس کو پکڑ لے گا۔ سبق: سیکورٹی کے لحاظ سے نازک علاقے میں دروازے کو نظرانداز نہ کریں۔
کیس 2 - پرتوں والی تصدیق محفوظ ہو گئی۔ ایک اور ٹیم نے ہر گیٹ کو چلایا: AI بلیو پرنٹ → جامد تجزیہ → آڈٹ → ٹیسٹ نیٹ → تخروپن۔ آڈٹ کے مرحلے کے دوران، ایک دوبارہ داخلہ، ایک اوریکل خطرہ نقلی میں پکڑا گیا تھا۔ وہ دونوں مینیٹ سے پہلے بند ہو گئے۔ سبق: پرتیں ایک غلطی کو اندر آنے سے روکتی ہیں۔
کیس 3 - "محفوظ فریب کاری۔" ایک ڈویلپر نے AI سے کوڈ کے بارے میں پوچھا؛ AI نے کہا کہ "ایسے میں کوئی اہم سیکورٹی مسائل نظر نہیں آتے ہیں۔" ٹیم نے بہرحال اسے معائنہ کے لیے بھیجا، اور دو اعلیٰ سطحی نتائج سامنے آئے۔ اگر ہم نے AI پر بھروسہ کیا ہوتا تو یہ دونوں زندہ ہوتے۔ سبق: AI کا اعتماد کا اظہار تصدیق نہیں ہے۔
ذمہ دارانہ استعمال کے اصول
ہم اس ماڈیول کے جوہر کو چھ اصولوں تک کم کر سکتے ہیں:
- انسانی ذمہ داری: حفاظت کے لیے اہم حتمی منظوری قابل ماہر پر منحصر ہے۔ AI کو جوابدہ نہیں ٹھہرایا جا سکتا۔
- پرتوں کی تصدیق: ہر مرحلے پر ایک انسانی گیٹ اور پاس کی حالت۔
- دفاعی استعمال: معلومات کی حفاظت اور کنٹرول کے لیے؛ استحصال / پھنسانے کے لئے نہیں۔
- رازداری: کسٹمر کوڈ اور ڈیٹا بغیر اجازت کے کھولنے والے ٹولز کو نہیں دیا جاتا ہے۔
- شفافیت: رپورٹ میں اے آئی کے استعمال کو ایمانداری سے بتایا گیا ہے۔ کوئی مبالغہ آرائی یا جھوٹی یقین دہانی نہیں کرائی گئی ہے۔
- ایمانداری: سرمایہ کاروں اور صارفین کو گمراہ نہیں کیا جاتا ہے۔ خطرہ چھپا نہیں ہے، مشورہ چھپا ہوا نہیں ہے۔
ٹپ: ہر سیکیورٹی کے لیے اہم فیصلے کے لیے اپنے آپ سے ایک سوال پوچھیں: "اگر یہ غلط ہے اور رقم ضائع ہو گئی ہے، تو کیا اس کے پیچھے کھڑے ہونے اور ذمہ داری لینے کے لیے کوئی قابل انسانی تصدیق موجود ہے؟" اگر جواب "نہیں، تو اے آئی نے ایسا کہا،" عمل نامکمل ہے۔
عام غلطیاں
- آزاد آڈٹ گیٹ کو نظرانداز کرنا۔ یہ اٹل علاقے میں ناقابل معافی ہے۔
- AI کے اعتماد کے اظہار کو تصدیق کے طور پر غلط سمجھنا۔ "محفوظ ہیلوسینیشن" سب سے خطرناک ہے۔
- ذمہ داری AI پر ڈالنے کی کوشش کر رہے ہیں۔ ذمہ داری اس ماہر کی ہے جس نے دستخط کیے ہیں۔
- بروقت فرض کرنا۔ AI ٹریننگ کٹ آف کی تاریخ سے آگے نہیں جانتا ہے۔
- وقت کے دباؤ کی وجہ سے دروازے کو چھوٹا کرنا۔ سب سے مہنگی غلطی کا ذریعہ۔
- کسی واقعہ کے ردعمل کے منصوبے کے بغیر چھوڑنا۔ جب ایک رساو ہوتا ہے، تو کسی کو بغیر تیاری کے چھوڑ دیا جاتا ہے۔
خلاصہ میں
- Blockchain سیکورٹی کے لیے اہم ہے؛ غلطیاں ناقابل واپسی ہیں اور براہ راست رقم میں بدل جاتی ہیں۔
- AI اصل غلطی کو نہیں دیکھ سکتا، جھوٹی یقین دہانی دیتا ہے، پرانا ہے اور ذمہ داری نہیں لے سکتا۔
- اسی لیے حتمی حفاظتی اہم منظوری ہمیشہ قابل ماہر کے پاس ہوتی ہے۔
- پرتوں کی تصدیق ہر مرحلے پر انسانی گیٹ لگا کر ایک غلطی کو لائیو ماحول میں آنے سے روکتی ہے۔
- ذمہ دارانہ استعمال: انسانی ذمہ داری، دفاعی مقصد، رازداری، شفافیت اور سالمیت۔
درخواست کا کام
ایک سمارٹ کنٹریکٹ پروجیکٹ کا تصور کریں (یا ایک حقیقی مثال لیں)۔ آئیڈیا سے مین نیٹ تک کے پورے سفر کے لیے ایک تہہ دار تصدیقی منصوبہ لکھیں: ہر مرحلے پر AI کیا کرتا ہے، وہاں کون سا انسانی دروازہ ہے، منتقلی کی حالت کیا ہے؟ پھر "ٹائم پریشر" کا منظر نامہ شامل کریں: کون سا دروازہ نظر انداز کرنا سب سے زیادہ خطرناک ہوگا اور کیوں؟ واقعہ کے ردعمل کا خاکہ بھی شامل کریں۔
چیک لسٹ
- [ ] میں نے قبول کیا کہ حتمی سیکورٹی کی اہم منظوری ماہر کے پاس ہے۔
- میں نے ہر مرحلے پر ایک انسانی تصدیقی گیٹ لگایا۔
- میں نے AI کے اعتماد کے اظہار کو تصدیق کے طور پر شمار نہیں کیا۔
- میں نے آزاد آڈٹ کے دروازے کو نظرانداز نہیں کیا۔
- [ ] میں نے ٹاپیکلٹی فرض نہیں کی۔ میں نے انسان کے ساتھ تازہ ترین معلومات کی تصدیق کی۔
- میں نے ذمہ داری AI پر نہیں ڈالی۔
- میں نے واقعہ کے جواب کا منصوبہ تیار کیا۔