સલામતી-જટિલ ઑડિટ, નિષ્ણાતની મંજૂરી અને જવાબદાર ઉપયોગ

નફો:

• બ્લોકચેનની સુરક્ષા-નિર્ણાયક પ્રકૃતિ અને આર્ટિફિશિયલ ઇન્ટેલિજન્સ મૂળ ભૂલને કેમ શોધી શકતું નથી, ખોટી ખાતરી આપી શકે છે, જૂનું છે અને જવાબદારી લેવામાં નિષ્ફળ જાય છે તેના કારણોને સમજવું.
• સ્તરીય ચકાસણી સાથે લાઇવ સિસ્ટમમાં લીક થતી એક ભૂલને રોકવાની ક્ષમતા જે દરેક તબક્કે માનવ ચકાસણી ગેટ મૂકે છે
• સુરક્ષા-નિર્ણાયક અંતિમ મંજૂરી સક્ષમ નિષ્ણાતની છે અને માનવ જવાબદારી, સંરક્ષણ હેતુ, ગોપનીયતા, પારદર્શિતા અને પ્રામાણિકતાના સિદ્ધાંતોને અપનાવવાની ક્ષમતા છે.

આ મોડ્યુલનું આ સૌથી મહત્વપૂર્ણ એકમ છે. અત્યાર સુધી આપણે જોયું છે કે કેવી રીતે AI સ્માર્ટ કોન્ટ્રાક્ટ રાઈટિંગથી લઈને ઓન-ચેઈન એનાલિસિસ સુધી, ટોકનોમિક્સથી લઈને છેતરપિંડી શોધ સુધીની દરેક વસ્તુને વેગ આપે છે. આ એકમમાં, અમે પાછળ હટીએ છીએ અને આ બાબતના હૃદય પર ધ્યાન આપીએ છીએ: શા માટે AI આઉટપુટ સલામતી-જટિલ કાર્યમાં સક્ષમ નિષ્ણાતની મંજૂરીને બદલી શકતું નથી. અને નિષ્ણાત તરીકે, AI નો જવાબદારીપૂર્વક ઉપયોગ કરવા માટેનું માળખું શું છે? બ્લોકચેન એન્જીનીયરીંગ એ સુરક્ષા-નિર્ણાયક ક્ષેત્ર છે જ્યાં ભૂલો સીધી અને ઉલટાવી ન શકાય તેવી રીતે પૈસામાં ફેરવાય છે; આ એકમ તે વાસ્તવિકતાની જરૂરિયાતો સાથે વ્યવહાર કરે છે.

"સિક્યોરિટી-ક્રિટીકલ" નો અર્થ શું છે અને તે શા માટે અલગ છે?

જો ભૂલનું પરિણામ ઉલટાવી ન શકાય તેવું અને ગંભીર હોય તો વિસ્તાર સલામતી માટે મહત્વપૂર્ણ છે: બ્રિજ એન્જિનિયરિંગમાં જાનહાનિ, દવામાં ગેરરીતિ, બ્લોકચેનમાં લાખો ડોલરનું તાત્કાલિક અને કાયમી નુકસાન. આ ક્ષેત્રોમાં સ્વીકૃત ધોરણ સામાન્ય સૉફ્ટવેર કરતાં સંપૂર્ણપણે અલગ છે:

• "તે કદાચ કામ કરે છે" પૂરતું નથી; સાબિત થવું જોઈએ.
• "અમે તેને પછીથી ઠીક કરીશું" અમાન્ય છે; અપરિવર્તનશીલતા માફ કરતી નથી.
• અંતિમ મંજૂરી એક સક્ષમ નિષ્ણાત પાસે છે જે વ્યાવસાયિક અને કાનૂની જવાબદારી સ્વીકારે છે.

AI એક સહાયક છે; જવાબદારી ધારણ કરી શકતી નથી, જવાબદાર ગણી શકાતી નથી અને પરિણામો પાછળ ઊભા રહી શકતી નથી. જો ઑડિટ રિપોર્ટમાં કોઈ નબળાઈ ચૂકી જાય, તો જવાબદારી એઆઈની નહીં પણ સાઈન ઑફ કરનાર નિષ્ણાતની છે. "એઆઈએ આમ કહ્યું" એ એન્જિનિયરિંગનો બચાવ નથી.

શા માટે AI નિષ્ણાતને બદલી શકતું નથી: ચાર મુખ્ય કારણો

1. AI મૂળ અને સંદર્ભિત ભૂલ જોઈ શકતું નથી. AI પ્રશિક્ષણ ડેટામાં પેટર્નને ઓળખે છે. નવી નબળાઈ, પ્રોટોકોલ-વિશિષ્ટ બિઝનેસ લોજિક એરર અથવા ઘટકોની અનોખી ક્રિયાપ્રતિક્રિયા એ એઆઈનું અંધ સ્થાન છે. સૌથી મોંઘા વેબ3 હુમલાઓ ચોક્કસ આ અનન્ય નબળાઈઓમાંથી આવે છે.

2. AI ખોટી ખાતરી આપે છે. AI અસ્ખલિત અને વિશ્વાસપૂર્વક કહી શકે છે કે "આ કોડ સલામત લાગે છે" — ખોટો હોવા છતાં. આ "સુરક્ષાનો આભાસ" એ સલામતી-નિર્ણાયક ક્ષેત્રમાં સૌથી ખતરનાક આઉટપુટ છે; કારણ કે તે સુરક્ષાની ખોટી ભાવના બનાવે છે.

3. AI જૂનું છે. AI નું જ્ઞાન શૈક્ષણિક કટઓફ તારીખે અટકી જાય છે. નવીનતમ હુમલાઓ, નવીનતમ લાઇબ્રેરી સંસ્કરણો, નવીનતમ શ્રેષ્ઠ પ્રથાઓ તેની ક્ષિતિજની બહાર છે. સુરક્ષા એ સતત બદલાતી જાતિ છે; ગઈકાલની માહિતી આજે અપૂરતી હોઈ શકે છે.

4. AI જવાબદારી લઈ શકતું નથી. આ કદાચ સૌથી મૂળભૂત કારણ છે. એન્જીનિયરિંગની મંજૂરી એ માત્ર ટેકનિકલ જ નહીં પણ કાનૂની અને નૈતિક પ્રતિબદ્ધતા પણ છે. મશીન આ પ્રતિબદ્ધતા કરી શકતું નથી.

સાવધાન: સુરક્ષા-નિર્ણાયક આઉટપુટમાં, પ્રશ્ન એ છે કે "AI એ શું કહ્યું?" પરંતુ "કોણ સક્ષમ વ્યક્તિ છે જે આ આઉટપુટને ચકાસે છે, માન્ય કરે છે અને તેની પાછળ રહે છે?" હોવું જોઈએ. કોઈ બિન-નિષ્ણાતની મંજૂરી-ન તો AI દ્વારા કે ન તો ટૂલ દ્વારા-ને ખાતરી ગણી શકાય નહીં.

સ્તરીય ચકાસણી: સિંગલ બગ્સને લાઇવ લીક થતાં અટકાવવું

જવાબદાર વર્કફ્લો દરેક તબક્કે માનવ ચકાસણી દ્વાર મૂકે છે. તમે બીજા દરવાજામાંથી પસાર થયા વિના એક દરવાજામાંથી પસાર થઈ શકતા નથી:

સ્ટેજ

AI યોગદાન

માનવ ચકાસણી દ્વાર

જોડણી

ડ્રાફ્ટ કોડ

બિલ્ડ + પરીક્ષણ + સમીક્ષા

સ્કેન

ઉમેદવારની નબળાઈ

સ્થિર વિશ્લેષણ + ઓડિટર પુષ્ટિ

ઓડિટ

ટીપ, રિપોર્ટ ડ્રાફ્ટ

સક્ષમ ઓડિટર હસ્તાક્ષર

પરીક્ષણ

સ્ક્રિપ્ટ ડ્રાફ્ટ

ટેસ્ટનેટ + ફઝિંગ + સિમ્યુલેશન

વિતરણ

ચેકલિસ્ટ

મલ્ટી-સિગ્નેચર કન્ફર્મેશન + ક્રમિક એક્ઝિટ

મોનીટરીંગ

વિસંગતતાની નિશાની

માનવ પ્રતિભાવ યોજના

આ સ્તરીય માળખું એક AI બગને મેઈનનેટમાં લીક થવાથી અટકાવે છે. દરેક દરવાજા પાસે સ્પષ્ટ પાસની સ્થિતિ છે: શું પરીક્ષણ પાસ થયું, શું ઓડિટર સાઇન કરે છે, શું સિમ્યુલેશન અટકી ગયું છે?

નબળા અભિગમ / મજબૂત અભિગમ

નબળા અભિગમ:

AI એ કોડ જનરેટ કર્યો છે, તે સ્વચ્છ લાગે છે, ચાલો તેને મેઈનનેટ પર મૂકીએ.

આ એક અટલ વિસ્તારમાં આપત્તિ માટે એક રેસીપી છે.

શક્તિશાળી અભિગમ:

1. AI એ ડ્રાફ્ટ બનાવ્યો → અમે તેનું સંકલન કર્યું, તેનું પરીક્ષણ કર્યું.2. સ્ટેટિક એનાલિસિસ + AI સ્કેન → ઑડિટર કન્ફર્મ.3. સ્વતંત્ર સુરક્ષા ઓડિટ → હસ્તાક્ષરિત અહેવાલ.4. ટેસ્ટનેટ + ફઝિંગ + સિમ્યુલેશન → દૃશ્યો ટકી રહ્યા.5. મલ્ટિ-સિગ્નેચર, કેસ્કેડિંગ મેઈનનેટ એક્ઝિટ + મોનિટરિંગ. દરેક પોર્ટ પર: સંક્રમણની સ્થિતિ પૂરી ન થાય ત્યાં સુધી કોઈ પ્રગતિ નહીં.

ચાર નકલ કરી શકાય તેવા નમૂનાઓ

1) ચકાસણી દ્વાર નિયંત્રણ:

આ સુરક્ષા-નિર્ણાયક આઉટપુટ માટે માન્યતા ચેકલિસ્ટ બનાવો: કયા સ્વતંત્ર પગલાં (સંકલન, સ્થિર વિશ્લેષણ, ઑડિટિંગ, પરીક્ષણ, સિમ્યુલેશન) દ્વારા તેને માન્ય કરવું જોઈએ? દરેક પગલા માટે સંક્રમણ સ્થિતિ લખો. એક પગલું છોડવામાં આવે તો શું જોખમ ઊભું થશે તે જણાવો.

2) AI આઉટપુટ કોન્ફિડન્સ લેવલ લેબલીંગ:

નીચે AI-જનરેટેડ આઉટપુટની સમીક્ષા કરો અને દરેક નિવેદનને ચિહ્નિત કરો: "ચકાસાયેલ / ચકાસાયેલ હોવું જોઈએ / AI નબળાઈ વિસ્તાર". માનવીય કુશળતાની જરૂર હોય તેવા મુદ્દાઓને હાઇલાઇટ કરો, ખાસ કરીને તે વ્યવસાયના તર્ક અને અનન્ય જોખમ સાથે સંકળાયેલા હોય.

3) નિષ્ણાત ટ્રાન્સફર નોંધ:

સક્ષમ નિષ્ણાતને આ આઉટપુટ સોંપવા માટે, સારાંશ તૈયાર કરો: AI એ શું કર્યું, કઈ ધારણાઓ સાથે, તે ક્યાં અચોક્કસ છે, ક્યાં વિશેષજ્ઞને પુષ્ટિ કરવાની જરૂર છે? તે સ્પષ્ટ કરો કે જવાબદારી નિષ્ણાતની છે.

4) ઘટના પ્રતિભાવ તૈયારી:

આ પ્રોટોકોલ માટે કટોકટી/ઘટના પ્રતિસાદની રૂપરેખા તૈયાર કરો: જો કોઈ પ્રાણીમાં નબળાઈનું શોષણ કરવામાં આવ્યું હોય તો કયા પગલાં (ઇન્ટરસેપ્ટ ઓથોરિટી, કોમ્યુનિકેશન, ફંડ પ્રોટેક્શન) સામેલ હશે? આ એક ડ્રાફ્ટ છે; ટીમ અને નિષ્ણાતે માપાંકન કરવું જોઈએ.

ત્રણ નાના કેસ (સંખ્યામાં)

કેસ 1 - દરવાજો કૂદવાથી આપત્તિ આવી. સમયના દબાણને કારણે, એક ટીમે સ્વતંત્ર ઓડિટ છોડી દીધું અને AI + પોતાના પરીક્ષણો પર આધાર રાખ્યો અને મેઈનનેટ પર ગયો. 11 દિવસ પછી ~$4M વ્યાપાર તર્કની નબળાઈમાંથી દૂર કરવામાં આવ્યા. એક નિરીક્ષણ ગેટ કદાચ આને પકડી લેશે. પાઠ: સુરક્ષા-નિર્ણાયક વિસ્તારમાં દરવાજાને બાયપાસ કરશો નહીં.

કેસ 2 — સ્તરીય પ્રમાણીકરણ સાચવ્યું. અન્ય ટીમે દરેક ગેટનું સંચાલન કર્યું: AI બ્લુપ્રિન્ટ → સ્ટેટિક એનાલિસિસ → ઓડિટ → ટેસ્ટનેટ → સિમ્યુલેશન. ઓડિટ તબક્કા દરમિયાન, સિમ્યુલેશનમાં ફરીથી પ્રવેશ, એક ઓરેકલ જોખમ પકડાયું હતું. બંને મેઈનનેટ પહેલા બંધ થઈ ગયા. પાઠ: સ્તરો એકલ ભૂલોને અંદર આવવાથી અટકાવે છે.

કેસ 3 - "સલામત આભાસ." એક વિકાસકર્તાએ AI ને કોડ વિશે પૂછ્યું; "ત્યાં કોઈ નોંધપાત્ર સુરક્ષા સમસ્યાઓ હોય તેવું લાગતું નથી," એઆઈએ કહ્યું. ટીમે તેને કોઈપણ રીતે નિરીક્ષણ માટે મોકલ્યો, અને બે ઉચ્ચ સ્તરીય તારણો બહાર આવ્યા. જો આપણે AI પર ભરોસો રાખ્યો હોત, તો તે બંને જીવંત થઈ શક્યા હોત. પાઠ: AI ની આત્મવિશ્વાસની અભિવ્યક્તિ પુષ્ટિ નથી.

જવાબદાર ઉપયોગના સિદ્ધાંતો

અમે આ મોડ્યુલના સારને છ સિદ્ધાંતો સુધી ઘટાડી શકીએ છીએ:

1. માનવ જવાબદારી: સલામતી-નિર્ણાયક અંતિમ મંજૂરી સક્ષમ નિષ્ણાત પર રહે છે; AIને જવાબદાર ઠેરવી શકાય નહીં.
2. સ્તરીય પ્રમાણીકરણ: દરેક તબક્કે માનવ દરવાજો અને પાસની સ્થિતિ.
3. રક્ષણાત્મક ઉપયોગ: માહિતીનું રક્ષણ અને નિયંત્રણ કરવા માટે; શોષણ/ફસાવવા માટે નહીં.
4. ગોપનીયતા: પરવાનગી વિના ટૂલ્સ ખોલવા માટે ગ્રાહક કોડ અને ડેટા આપવામાં આવતો નથી.
5. પારદર્શિતા: અહેવાલમાં એઆઈનો ઉપયોગ પ્રમાણિકપણે જણાવવામાં આવ્યો છે; કોઈ અતિશયોક્તિ કે ખોટી ખાતરી આપવામાં આવતી નથી.
6. પ્રમાણિકતા: રોકાણકારો અને વપરાશકર્તાઓ ગેરમાર્ગે દોરાતા નથી; જોખમ છુપાયેલું નથી, સલાહ છુપાયેલી નથી.

ટીપ: દરેક સુરક્ષા-નિર્ણાયક નિર્ણય માટે તમારી જાતને એક પ્રશ્ન પૂછો: "જો આ ખોટું છે અને પૈસા ખોવાઈ ગયા છે, તો શું તેની પાછળ ઊભા રહેવા અને જવાબદારી લેવા માટે સક્ષમ માનવ ચકાસણી થઈ છે?" જો જવાબ "ના, AI એ કહ્યું," તો પ્રક્રિયા અધૂરી છે.

સામાન્ય ભૂલો

• સ્વતંત્ર ઓડિટ ગેટને બાયપાસ કરીને. તે અફર વિસ્તારમાં અક્ષમ્ય છે.
• AI ના વિશ્વાસની અભિવ્યક્તિને પુષ્ટિ તરીકે ભૂલ કરવી. "સલામત આભાસ" સૌથી ખતરનાક છે.
• AI પર જવાબદારી નાખવાનો પ્રયાસ કરી રહ્યો છે. જવાબદારી સહી કરનાર નિષ્ણાતની છે.
• સમયસરતા ધારી. AI તાલીમની કટઓફ તારીખથી આગળ જાણતું નથી.
• સમયના દબાણને કારણે દરવાજા ટૂંકાવી રહ્યા છે. સૌથી ખર્ચાળ ભૂલનો સ્ત્રોત.
• ઘટના પ્રતિભાવ યોજના વિના છોડવું. જ્યારે લીક થાય છે, ત્યારે કોઈને તૈયારી વિના છોડી દેવામાં આવે છે.

સારાંશમાં

• બ્લોકચેન સુરક્ષા માટે મહત્વપૂર્ણ છે; ભૂલો ઉલટાવી ન શકાય તેવી હોય છે અને સીધી પૈસામાં ફેરવાય છે.
• AI મૂળ ભૂલ જોઈ શકતું નથી, ખોટી ખાતરી આપે છે, જૂનું છે અને જવાબદારી લઈ શકતું નથી.
• તેથી જ અંતિમ સલામતી-નિર્ણાયક મંજૂરી હંમેશા સક્ષમ નિષ્ણાત પાસે રહે છે.
• સ્તરીય ચકાસણી દરેક તબક્કે માનવ દ્વાર મૂકીને જીવંત વાતાવરણમાં લીક થવાથી એક ભૂલને અટકાવે છે.
• જવાબદાર ઉપયોગ: માનવ જવાબદારી, રક્ષણાત્મક હેતુ, ગોપનીયતા, પારદર્શિતા અને અખંડિતતા.

એપ્લિકેશન કાર્ય

સ્માર્ટ કોન્ટ્રાક્ટ પ્રોજેક્ટની કલ્પના કરો (અથવા વાસ્તવિક ઉદાહરણ લો). આઈડિયાથી મેઈનનેટ સુધીના સમગ્ર પ્રવાસ માટે સ્તરીય ચકાસણી યોજના લખો: દરેક તબક્કે AI શું કરે છે, માનવ દરવાજો કયો છે, સંક્રમણની સ્થિતિ શું છે? પછી "સમય દબાણ" દૃશ્ય ઉમેરો: કયો દરવાજો બાયપાસ કરવા માટે સૌથી વધુ જોખમી હશે અને શા માટે? ઘટના પ્રતિભાવ રૂપરેખા પણ સામેલ કરો.

ચેકલિસ્ટ

• [ ] મેં સ્વીકાર્યું કે અંતિમ સુરક્ષા-નિર્ણાયક મંજૂરી નિષ્ણાત પાસે છે.
• [ ] મેં દરેક તબક્કે માનવ ચકાસણી ગેટ મૂક્યો છે.
• [ ] મેં AI ના આત્મવિશ્વાસની અભિવ્યક્તિને પુષ્ટિ તરીકે ગણી નથી.
• [ ] મેં સ્વતંત્ર ઓડિટ દરવાજાને બાયપાસ કર્યો નથી.
• [ ] મેં પ્રસંગોચિતતા ધારી નથી; મેં માનવ સાથેની નવીનતમ માહિતીની પુષ્ટિ કરી.
• [ ] મેં AI પર જવાબદારી મૂકી નથી.
• [ ] મેં એક ઘટના પ્રતિભાવ યોજના તૈયાર કરી છે.