লাভ:
- ব্লকচেইনের নিরাপত্তা-সমালোচনামূলক প্রকৃতি এবং যে কারণে কৃত্রিম বুদ্ধিমত্তা মূল ত্রুটি সনাক্ত করতে পারে না, মিথ্যা আশ্বাস প্রদান করে, পুরানো এবং দায়িত্ব নিতে ব্যর্থ হয় তা বোঝা।
- স্তরযুক্ত যাচাইকরণের সাথে লাইভ সিস্টেমে ফাঁস হওয়া থেকে একটি একক ত্রুটি প্রতিরোধ করার ক্ষমতা যা প্রতিটি পর্যায়ে একটি মানব যাচাইকরণ গেট রাখে
- নিরাপত্তা-সমালোচনামূলক চূড়ান্ত অনুমোদন যোগ্য বিশেষজ্ঞের এবং মানুষের দায়িত্ব, প্রতিরক্ষা উদ্দেশ্য, গোপনীয়তা, স্বচ্ছতা এবং সততার নীতিগুলি গ্রহণ করার ক্ষমতার অন্তর্গত।
এটি এই মডিউলের সবচেয়ে গুরুত্বপূর্ণ ইউনিট। এখন পর্যন্ত আমরা দেখেছি কিভাবে AI স্মার্ট কন্ট্রাক্ট রাইটিং থেকে শুরু করে অন-চেইন বিশ্লেষণ, টোকেনমিক্স থেকে জালিয়াতি সনাক্তকরণ পর্যন্ত সবকিছুকে ত্বরান্বিত করছে। এই ইউনিটে, আমরা পিছিয়ে পড়ি এবং বিষয়টির মূল দিকে তাকাই: কেন AI আউটপুট নিরাপত্তা-সমালোচনামূলক কাজে দক্ষ বিশেষজ্ঞের অনুমোদন প্রতিস্থাপন করতে পারে না। এবং একজন বিশেষজ্ঞ হিসাবে, দায়িত্বের সাথে AI ব্যবহার করার জন্য কাঠামো কী? ব্লকচেইন ইঞ্জিনিয়ারিং হল একটি নিরাপত্তা-গুরুত্বপূর্ণ ক্ষেত্র যেখানে ভুলগুলি সরাসরি এবং অপরিবর্তনীয়ভাবে অর্থে রূপান্তরিত হয়; এই ইউনিট সেই বাস্তবতার প্রয়োজনীয়তা নিয়ে কাজ করে।
"নিরাপত্তা-সমালোচনা" এর অর্থ কী এবং কেন এটি আলাদা?
ত্রুটির পরিণতি অপরিবর্তনীয় এবং গুরুতর হলে একটি এলাকা নিরাপত্তা-সংবেদনশীল: ব্রিজ ইঞ্জিনিয়ারিংয়ে প্রাণহানি, মেডিসিনে ত্রুটি, ব্লকচেইনে লক্ষ লক্ষ ডলারের অবিলম্বে এবং স্থায়ী ক্ষতি। এই এলাকায় গৃহীত মান সাধারণ সফ্টওয়্যার থেকে সম্পূর্ণ ভিন্ন:
- "এটি সম্ভবত কাজ করে" যথেষ্ট নয়; প্রমাণ করতে হবে।
- "আমরা পরে এটি ঠিক করব" অবৈধ; অপরিবর্তনীয়তা ক্ষমা করে না।
- চূড়ান্ত অনুমোদন একজন দক্ষ বিশেষজ্ঞের সাথে থাকে যিনি পেশাদার এবং আইনি দায়িত্ব গ্রহণ করেন।
এআই একজন সহকারী; দায়িত্ব নিতে পারে না, জবাবদিহি করতে পারে না এবং ফলাফলের পিছনে দাঁড়াতে পারে না। যদি একটি অডিট রিপোর্ট একটি দুর্বলতা মিস করে, তাহলে দায়িত্বটি AI এর নয়, সাইন অফ করা বিশেষজ্ঞের উপর বর্তায়। "এআই তাই বলেছে" প্রকৌশলের প্রতিরক্ষা নয়।
কেন AI বিশেষজ্ঞকে প্রতিস্থাপন করতে পারে না: চারটি মূল কারণ
1. AI আসল এবং প্রাসঙ্গিক ত্রুটি দেখতে পারে না। AI প্রশিক্ষণের ডেটাতে নিদর্শনগুলিকে স্বীকৃতি দেয়। একটি নতুন দুর্বলতা, একটি প্রোটোকল-নির্দিষ্ট ব্যবসায়িক যুক্তি ত্রুটি, বা উপাদানগুলির একটি অনন্য মিথস্ক্রিয়া AI এর অন্ধ স্থান। সবচেয়ে ব্যয়বহুল Web3 আক্রমণগুলি এই অনন্য দুর্বলতাগুলি থেকে আসে৷
2. এআই মিথ্যা আশ্বাস দেয়। AI সাবলীলভাবে এবং আত্মবিশ্বাসের সাথে বলতে পারে "এই কোডটি নিরাপদ দেখাচ্ছে" - যদিও ভুল হচ্ছে। এই "নিরাপত্তার হ্যালুসিনেশন" একটি নিরাপত্তা-সমালোচক এলাকায় সবচেয়ে বিপজ্জনক আউটপুট; কারণ এটি নিরাপত্তার মিথ্যা অনুভূতি তৈরি করে।
3. AI পুরানো। AI এর জ্ঞান একটি শিক্ষাগত কাটঅফ তারিখে থেমে যায়। সর্বশেষ আক্রমণ, সর্বশেষ লাইব্রেরি সংস্করণ, সর্বশেষ সর্বোত্তম অনুশীলনগুলি তার দিগন্তের বাইরে। নিরাপত্তা একটি সদা পরিবর্তনশীল জাতি; গতকালের তথ্য আজ অপর্যাপ্ত হতে পারে।
4. AI দায়িত্ব নিতে পারে না। এটি সম্ভবত সবচেয়ে মৌলিক কারণ। ইঞ্জিনিয়ারিং অনুমোদন শুধুমাত্র একটি প্রযুক্তিগত নয়, এটি একটি আইনি এবং নৈতিক প্রতিশ্রুতিও। একটি মেশিন এই অঙ্গীকার করতে পারে না।
সতর্কতা: একটি নিরাপত্তা-সমালোচনামূলক আউটপুটে, প্রশ্ন হল "এআই কি বলেছে?" কিন্তু "সেই যোগ্য ব্যক্তি কে যিনি এই আউটপুটটি যাচাই করে, যাচাই করে এবং এর পিছনে দাঁড়ায়?" হওয়া উচিত কোনো অ-বিশেষজ্ঞ অনুমোদন - না AI দ্বারা বা টুল দ্বারা - নিশ্চয়তা হিসাবে বিবেচিত হতে পারে না।
স্তরযুক্ত যাচাইকরণ: একক বাগগুলিকে লাইভ লিক করা থেকে প্রতিরোধ করা
একটি দায়িত্বশীল কর্মপ্রবাহ প্রতিটি পর্যায়ে একটি মানব যাচাইকরণ গেট রাখে। আপনি অন্য দরজা দিয়ে অতিক্রম না করে একটি দরজা দিয়ে যেতে পারবেন না:
মঞ্চ
এআই অবদান
মানব যাচাইকরণ গেট
বানান
খসড়া কোড
বিল্ড + পরীক্ষা + পর্যালোচনা
স্ক্যান
প্রার্থীর দুর্বলতা
স্ট্যাটিক বিশ্লেষণ + নিরীক্ষক নিশ্চিতকরণ
নিরীক্ষা
টিপ, প্রতিবেদনের খসড়া
দক্ষ নিরীক্ষকের স্বাক্ষর
পরীক্ষা
স্ক্রিপ্ট খসড়া
টেস্টনেট + ফাজিং + সিমুলেশন
বিতরণ
চেকলিস্ট
বহু-স্বাক্ষর নিশ্চিতকরণ + ধীরে ধীরে প্রস্থান
মনিটরিং
অসঙ্গতি চিহ্ন
মানুষের প্রতিক্রিয়া পরিকল্পনা
এই স্তরযুক্ত কাঠামো একটি একক AI বাগকে মেইননেটে লিক হতে বাধা দেয়। প্রতিটি দরজার একটি পরিষ্কার পাস শর্ত রয়েছে: পরীক্ষা কি পাস করেছে, অডিটর সাইন করেছে, সিমুলেশনটি কি ধরে রেখেছে?
দুর্বল পন্থা / শক্তিশালী পন্থা
দুর্বল পদ্ধতি:
AI কোডটি তৈরি করেছে, এটি পরিষ্কার দেখাচ্ছে, আসুন এটি মেইননেটে রাখি।
এটি একটি অপরিবর্তনীয় এলাকায় দুর্যোগের জন্য একটি রেসিপি।
শক্তিশালী পদ্ধতি:
1. AI খসড়া তৈরি করেছে → আমরা এটি সংকলন করেছি, পরীক্ষা করেছি।2। স্ট্যাটিক বিশ্লেষণ + এআই স্ক্যান → নিরীক্ষক নিশ্চিত।3। স্বাধীন নিরাপত্তা নিরীক্ষা → স্বাক্ষরিত প্রতিবেদন।4. টেস্টনেট + ফাজিং + সিমুলেশন → পরিস্থিতি সহ্য।5। মাল্টি-সিগনেচার, ক্যাসকেডিং মেইননেট এক্সিট + মনিটরিং। প্রতিটি বন্দরে: রূপান্তর শর্ত পূরণ না হওয়া পর্যন্ত কোন অগ্রগতি নেই।
চারটি অনুলিপিযোগ্য টেমপ্লেট
1) যাচাইকরণ গেট নিয়ন্ত্রণ:
এই নিরাপত্তা-সমালোচনামূলক আউটপুটের জন্য একটি যাচাইকরণ চেকলিস্ট তৈরি করুন: কোন স্বাধীন পদক্ষেপের মাধ্যমে (সংকলন, স্ট্যাটিক বিশ্লেষণ, অডিটিং, পরীক্ষা, সিমুলেশন) এটিকে যাচাই করা উচিত? প্রতিটি ধাপের জন্য রূপান্তর শর্ত লিখুন। এক ধাপ এড়িয়ে গেলে কী ঝুঁকি হবে তা বলুন।
2) AI আউটপুট কনফিডেন্স লেভেল লেবেলিং:
নীচে AI-উত্পন্ন আউটপুট পর্যালোচনা করুন এবং প্রতিটি দাবি চিহ্নিত করুন: "যাচাই করা / যাচাই করা উচিত / AI দুর্বলতা এলাকা"। এমন পয়েন্টগুলি হাইলাইট করুন যেগুলির জন্য মানুষের দক্ষতা প্রয়োজন, বিশেষ করে যেগুলি ব্যবসায়িক যুক্তি এবং অনন্য ঝুঁকি জড়িত৷
3) বিশেষজ্ঞ স্থানান্তর নোট:
একজন দক্ষ বিশেষজ্ঞের কাছে এই আউটপুটটি হস্তান্তর করার জন্য, একটি সারসংক্ষেপ প্রস্তুত করুন: এআই কী করেছে, কোন অনুমান সহ, কোথায় এটি অনিশ্চিত, কোথায় বিশেষভাবে বিশেষজ্ঞকে নিশ্চিত করতে হবে? এটা স্পষ্ট করুন যে দায়িত্বটি বিশেষজ্ঞের উপর বর্তায়।
4) ঘটনার প্রতিক্রিয়া প্রস্তুতি:
এই প্রোটোকলের জন্য একটি জরুরী/ঘটনা প্রতিক্রিয়া রূপরেখা তৈরি করুন: যদি কোনও প্রাণীর মধ্যে দুর্বলতা শোষণ করা হয় তবে কী পদক্ষেপগুলি (অথরিটি, যোগাযোগ, তহবিল সুরক্ষা) জড়িত হবে? এটি একটি খসড়া; দল এবং বিশেষজ্ঞকে অবশ্যই ক্যালিব্রেট করতে হবে।
তিনটি ছোট মামলা (সংখ্যায়)
কেস 1 - দরজা ঝাঁপিয়ে পড়া বিপর্যয় এনেছে। সময়ের চাপের কারণে, একটি দল স্বাধীন অডিট এড়িয়ে যায় এবং AI + নিজস্ব পরীক্ষার উপর নির্ভর করে এবং মেইননেটে চলে যায়। 11 দিন পরে ~$4M একটি ব্যবসায়িক যুক্তির দুর্বলতা থেকে সরানো হয়েছে৷ একটি পরিদর্শন গেট সম্ভবত এটি ধরা হবে. পাঠ: একটি নিরাপত্তা-সঙ্কটজনক এলাকায় একটি দরজা বাইপাস করবেন না।
কেস 2 — স্তরযুক্ত প্রমাণীকরণ সংরক্ষিত। অন্য একটি দল প্রতিটি গেট পরিচালনা করেছে: এআই ব্লুপ্রিন্ট → স্ট্যাটিক বিশ্লেষণ → অডিট → টেস্টনেট → সিমুলেশন। অডিট পর্বের সময়, একটি পুনঃপ্রবেশ, একটি ওরাকল ঝুঁকি সিমুলেশনে ধরা পড়ে। দুজনেই মেইননেটের আগেই বন্ধ হয়ে যায়। পাঠ: স্তরগুলি একক ত্রুটিকে লিক হওয়া থেকে বাধা দেয়।
কেস 3 - "নিরাপদ হ্যালুসিনেশন।" একজন বিকাশকারী এআইকে কোডটি সম্পর্কে জিজ্ঞাসা করেছিলেন; "কোন উল্লেখযোগ্য নিরাপত্তা সমস্যা আছে বলে মনে হচ্ছে না," এআই বলেছে। দলটি যেভাবেই হোক পরিদর্শনের জন্য পাঠিয়েছে, এবং দুটি উচ্চ-স্তরের ফলাফল বেরিয়ে এসেছে। আমরা যদি এআই-কে বিশ্বাস করতাম, তাহলে দুজনেই জীবিত হয়ে উঠত। পাঠ: AI এর আত্মবিশ্বাসের অভিব্যক্তি নিশ্চিতকরণ নয়।
দায়িত্বশীল ব্যবহারের নীতি
আমরা এই মডিউলটির সারাংশকে ছয়টি নীতিতে কমাতে পারি:
- মানুষের দায়িত্ব: নিরাপত্তা-সমালোচনামূলক চূড়ান্ত অনুমোদন যোগ্য বিশেষজ্ঞের উপর নির্ভর করে; AI জবাবদিহি করা যাবে না.
- স্তরযুক্ত প্রমাণীকরণ: প্রতিটি পর্যায়ে একটি মানব গেট এবং পাস শর্ত।
- প্রতিরক্ষামূলক ব্যবহার: তথ্য সুরক্ষা এবং নিয়ন্ত্রণ করতে; শোষণ/ফাঁদ না.
- গোপনীয়তা: গ্রাহক কোড এবং ডেটা অনুমতি ছাড়া টুল খুলতে দেওয়া হয় না।
- স্বচ্ছতা: এআই ব্যবহার সততার সাথে প্রতিবেদনে বলা হয়েছে; কোন অতিরঞ্জন বা মিথ্যা আশ্বাস দেওয়া হয় না.
- সততা: বিনিয়োগকারী এবং ব্যবহারকারীদের বিভ্রান্ত করা হয় না; ঝুঁকি লুকানো হয় না, উপদেশ মুখোশ হয় না.
টিপ: প্রতিটি নিরাপত্তা-সমালোচনামূলক সিদ্ধান্তের জন্য নিজেকে একটি প্রশ্ন জিজ্ঞাসা করুন: "যদি এটি ভুল হয় এবং অর্থ হারিয়ে যায়, তাহলে কি এর পিছনে দাঁড়ানোর এবং দায়িত্ব নেওয়ার জন্য উপযুক্ত মানব যাচাই করা হয়েছে?" যদি উত্তর হয় "না, AI তাই বলেছে," প্রক্রিয়াটি অসম্পূর্ণ।
সাধারণ ভুল
- স্বাধীন অডিট গেট বাইপাস. এটি অপরিবর্তনীয় এলাকায় ক্ষমাহীন।
- নিশ্চিতকরণ হিসাবে AI এর বিশ্বাসের অভিব্যক্তিকে ভুল করা। "নিরাপদ হ্যালুসিনেশন" সবচেয়ে বিপজ্জনক।
- এআইয়ের ওপর দায়িত্ব চাপানোর চেষ্টা করা হচ্ছে। দায়িত্বটি স্বাক্ষরকারী বিশেষজ্ঞের উপর বর্তায়।
- সময়োপযোগীতা অনুমান। এআই ট্রেনিং কাটঅফ তারিখের বাইরে জানে না।
- সময়ের চাপের কারণে দরজা ছোট করা। সবচেয়ে ব্যয়বহুল ত্রুটির উৎস।
- একটি ঘটনা প্রতিক্রিয়া পরিকল্পনা ছাড়া চলে যাচ্ছে. যখন একটি ফাঁস ঘটে, তখন একজনকে অপ্রস্তুত করা হয়।
সংক্ষেপে
- ব্লকচেইন নিরাপত্তা-সমালোচনা; ভুলগুলি অপরিবর্তনীয় এবং সরাসরি অর্থে পরিণত হয়।
- AI আসল ত্রুটি দেখতে পারে না, মিথ্যা আশ্বাস দেয়, পুরানো এবং দায়িত্ব নিতে পারে না।
- এই কারণেই চূড়ান্ত নিরাপত্তা-সমালোচনামূলক অনুমোদন সর্বদা উপযুক্ত বিশেষজ্ঞের সাথে থাকে।
- স্তরযুক্ত যাচাইকরণ প্রতিটি পর্যায়ে একটি মানব গেট স্থাপন করে একটি একক ত্রুটিকে লাইভ পরিবেশে ফাঁস হতে বাধা দেয়।
- দায়িত্বশীল ব্যবহার: মানুষের দায়িত্ব, প্রতিরক্ষামূলক উদ্দেশ্য, গোপনীয়তা, স্বচ্ছতা এবং সততা।
আবেদন টাস্ক
একটি স্মার্ট চুক্তি প্রকল্প কল্পনা করুন (বা একটি বাস্তব উদাহরণ নিন)। ধারণা থেকে মেইননেট পর্যন্ত পুরো যাত্রার জন্য একটি স্তরযুক্ত যাচাইকরণ পরিকল্পনা লিখুন: প্রতিটি পর্যায়ে AI কী করে, কোন মানব গেট আছে, রূপান্তর অবস্থা কী? তারপর একটি "সময় চাপ" দৃশ্যকল্প যোগ করুন: কোন দরজা বাইপাস সবচেয়ে বিপজ্জনক হবে এবং কেন? এছাড়াও একটি ঘটনার প্রতিক্রিয়া রূপরেখা অন্তর্ভুক্ত করুন।
চেকলিস্ট
- [ ] আমি স্বীকার করেছি যে চূড়ান্ত নিরাপত্তা-সমালোচনা অনুমোদন বিশেষজ্ঞের কাছে রয়েছে৷
- আমি প্রতিটি পর্যায়ে একটি মানব যাচাইকরণ গেট রাখি।
- [ ] আমি AI এর আস্থার প্রকাশকে নিশ্চিতকরণ হিসাবে গণনা করিনি।
- আমি স্বাধীন অডিট দরজা বাইপাস না.
- [] আমি প্রাসঙ্গিকতা ধরে নিইনি; আমি মানুষের সাথে সর্বশেষ তথ্য নিশ্চিত করেছি।
- [ ] আমি AI এর উপর দায়িত্ব রাখিনি।
- আমি একটি ঘটনার প্রতিক্রিয়া পরিকল্পনা প্রস্তুত করেছি।