ደህንነት-ወሳኝ ኦዲት፣ የባለሙያ ማፅደቅ እና ኃላፊነት የተሞላበት አጠቃቀም

ትርፍ፡

• የብሎክቼይን ደህንነት-ወሳኝ ባህሪ እና አርቴፊሻል ኢንተለጀንስ ዋናውን ስህተቱን መለየት የማይችልበትን ምክንያቶች መረዳት፣ የውሸት ማረጋገጫ መስጠት፣ ጊዜው ያለፈበት መሆን እና ሀላፊነቱን አለመውሰድ።
• በእያንዳንዱ ደረጃ የሰውን የማረጋገጫ በር በሚያስቀምጥ በተደራራቢ ማረጋገጫ ወደ ቀጥታ ስርዓቱ ውስጥ አንድ ስህተት እንዳይገባ የመከላከል ችሎታ
• የደህንነት-ወሳኝ የመጨረሻ ማፅደቅ ብቃት ላለው ኤክስፐርት እና የሰውን ሃላፊነት ፣ የመከላከያ ዓላማ ፣ ምስጢራዊነት ፣ ግልፅነት እና ታማኝነት መርሆዎችን የመቀበል ችሎታ ነው።

ይህ የዚህ ሞጁል በጣም አስፈላጊው ክፍል ነው. እስካሁን AI እንዴት ከብልጥ የኮንትራት ጽሁፍ እስከ በሰንሰለት ላይ ትንተና፣ ከቶኪኖሚክስ እስከ ማጭበርበር ድረስ ያለውን ነገር ሁሉ እያፋጠነ እንደሆነ አይተናል። በዚህ ክፍል ውስጥ፣ ወደ ኋላ ተመልሰን የጉዳዩን ዋና ክፍል እንመለከታለን፡ ለምን AI ውፅዓት በደህንነት-ወሳኝ ስራ ውስጥ ብቃት ያለው የባለሙያ ፍቃድ ሊተካ አይችልም። እና እንደ ባለሙያ፣ AIን በኃላፊነት ለመጠቀም ማዕቀፉ ምንድን ነው? Blockchain ምህንድስና ስህተቶች በቀጥታ እና በማይቀለበስ ወደ ገንዘብ የሚተረጎሙበት የደህንነት ወሳኝ መስክ ነው; ይህ ክፍል የዚያ እውነታ መስፈርቶችን ይመለከታል።

"ደህንነት-ወሳኝ" ማለት ምን ማለት ነው እና ለምን የተለየ ነው?

የስህተት መዘዝ የማይቀለበስ እና ከባድ ከሆነ አካባቢው ለደህንነት ወሳኝ ነው፡ በድልድይ ምህንድስና የህይወት መጥፋት፣ የህክምና ስህተት፣ ፈጣን እና ዘላቂ በሚሊዮን የሚቆጠር ዶላር በብሎክቼይን መጥፋት። በእነዚህ አካባቢዎች ተቀባይነት ያለው መስፈርት ከተለመደው ሶፍትዌር ፈጽሞ የተለየ ነው፡-

• "ምናልባት ይሰራል" በቂ አይደለም; መረጋገጥ አለበት።
• "በኋላ ላይ እናስተካክለዋለን" ልክ ያልሆነ ነው; አለመመለስ ይቅር አይባልም።
• የመጨረሻው ፍቃድ ሙያዊ እና ህጋዊ ሃላፊነትን የሚወስድ ብቃት ባለው ባለሙያ ነው።

AI ረዳት ነው; ኃላፊነት መውሰድ አይችልም, ተጠያቂ ሊሆን አይችልም, እና ውጤቶች ጀርባ መቆም አይችልም. የኦዲት ሪፖርት ተጋላጭነትን ካጣ፣ ኃላፊነቱ የፈረመው ኤክስፐርት እንጂ AI አይደለም። “ኤአይኤ እንዲህ ብሏል” የምህንድስና መከላከያ አይደለም።

ለምን AI ኤክስፐርቱን መተካት አይችልም: አራት ቁልፍ ምክንያቶች

1. AI ዋናውን እና የዐውደ-ጽሑፉን ስህተት ማየት አይችልም. AI በስልጠና ውሂብ ውስጥ ቅጦችን ያውቃል። አዲስ ተጋላጭነት፣ ፕሮቶኮል-ተኮር የንግድ አመክንዮ ስህተት ወይም ልዩ የአካላት መስተጋብር የ AI ዓይነ ስውር ቦታ ነው። በጣም ውድ የሆኑት የዌብ3 ጥቃቶች የሚመጡት ከእነዚህ ልዩ ተጋላጭነቶች ነው።

2. AI የውሸት ዋስትና ይሰጣል. አይአይ አቀላጥፎ እና በልበ ሙሉነት “ይህ ኮድ ደህንነቱ የተጠበቀ ይመስላል” - ስህተት እያለ። ይህ "የደህንነት ቅዠት" በደህንነት-ወሳኝ ቦታ ውስጥ በጣም አደገኛ ውጤት ነው; ምክንያቱም የተሳሳተ የደህንነት ስሜት ይፈጥራል.

3. AI ጊዜው ያለፈበት ነው. የ AI እውቀት የሚቆመው በትምህርታዊ መቋረጥ ቀን ነው። የቅርብ ጊዜ ጥቃቶች፣ የቅርብ ጊዜዎቹ የቤተ-መጽሐፍት ስሪቶች፣ የቅርብ ጊዜዎቹ ምርጥ ልምዶች ከአድማስ በላይ ናቸው። ደህንነት ሁልጊዜ የሚለዋወጥ ውድድር ነው; የትናንቱ መረጃ ዛሬ በቂ ላይሆን ይችላል።

4. AI ሃላፊነት መውሰድ አይችልም. ይህ ምናልባት በጣም መሠረታዊው ምክንያት ነው. የምህንድስና ማረጋገጫ ቴክኒካዊ ብቻ ሳይሆን ህጋዊ እና ሥነ-ምግባራዊ ቁርጠኝነት ነው። አንድ ማሽን ይህን ቁርጠኝነት ማድረግ አይችልም.

ጥንቃቄ: በደህንነት-ወሳኝ ውፅዓት ውስጥ, ጥያቄው "AI ምን አለ?" ነገር ግን "ከዚህ ውፅዓት በስተጀርባ የሚያረጋግጥ፣ የሚያረጋግጥ እና የሚቆም ብቃት ያለው ማን ነው?" መሆን አለበት። ምንም የባለሙያ ያልሆነ ማፅደቅ - በ AI ወይም በመሳሪያው - እንደ ዋስትና ሊቆጠር አይችልም.

የተደራረበ ማረጋገጫ፡ ነጠላ ሳንካዎች በቀጥታ እንዳይፈስ መከላከል

ኃላፊነት የሚሰማው የስራ ፍሰት በእያንዳንዱ ደረጃ ላይ የሰውን የማረጋገጫ በር ያስቀምጣል. በሌላ በር ሳያልፉ ማለፍ አይችሉም፡-

ደረጃ

AI አስተዋፅዖ

የሰው የማረጋገጫ በር

የፊደል አጻጻፍ

ረቂቅ ኮድ

ይገንቡ + ሙከራ + ይገምግሙ

ቅኝት

የእጩዎች ተጋላጭነት

የማይንቀሳቀስ ትንተና + ኦዲተር ማረጋገጫ

ኦዲት

ጠቃሚ ምክር፣ ረቂቅ ሪፖርት አድርግ

ብቃት ያለው ኦዲተር ፊርማ

ፈተና

የስክሪፕት ረቂቅ

Testnet + ፉዝ + ማስመሰል

ስርጭት

የማረጋገጫ ዝርዝር

ባለብዙ ፊርማ ማረጋገጫ + ቀስ በቀስ መውጣት

ክትትል

ያልተለመደ ምልክት

የሰው ምላሽ እቅድ

ይህ የተነባበረ መዋቅር አንድ ነጠላ AI ሳንካ ወደ አውታረ መረብ እንዳይገባ ይከላከላል። እያንዳንዱ በር ግልጽ የሆነ ማለፊያ ሁኔታ አለው፡ ፈተናው አልፏል፣ ኦዲተሩ ፈርሟል፣ አስመሳይነቱ ቀጠለ?

ደካማ አቀራረብ / ጠንካራ አቀራረብ

ደካማ አቀራረብ;

AI ኮዱን አመነጨው፣ ንፁህ ይመስላል፣ በዋና መረብ ላይ እናስቀምጠው።

ይህ ሊቀለበስ በማይችል አካባቢ ለአደጋ የምግብ አዘገጃጀት መመሪያ ነው።

ኃይለኛ አቀራረብ;

1. AI ረቂቁን አዘጋጅተናል → አጠናቅቀናል፣ ሞከርነው።2. የማይንቀሳቀስ ትንተና + AI ስካን → ኦዲተር ተረጋግጧል.3. ገለልተኛ የደህንነት ኦዲት → የተፈረመ ሪፖርት.4. ቴስትኔት + ግራ የሚያጋባ + ማስመሰል → ሁኔታዎች ጸንተዋል።5. ባለብዙ ፊርማ፣ የዋና መረብ መውጫ + ክትትል። በእያንዳንዱ ወደብ: የሽግግር ሁኔታ እስኪሟላ ድረስ ምንም እድገት የለም.

አራት ሊገለበጡ የሚችሉ አብነቶች

1) የማረጋገጫ በር መቆጣጠሪያ;

ለዚህ ለደህንነት-ወሳኝ ውፅዓት የማረጋገጫ ዝርዝር ማመንጨት፡ በየትኛው ገለልተኛ ደረጃዎች (ማጠናቀር፣ የማይንቀሳቀስ ትንተና፣ ኦዲት፣ ሙከራ፣ ማስመሰል) መረጋገጥ አለበት? ለእያንዳንዱ ደረጃ የሽግግር ሁኔታን ይፃፉ. አንድ እርምጃ ከተዘለለ ምን አደጋ ሊፈጠር እንደሚችል ይግለጹ።

2) የ AI ውፅዓት በራስ መተማመን ደረጃ መሰየሚያ፡-

ከዚህ በታች በ AI የመነጨውን ውጤት ይገምግሙ እና እያንዳንዱን ማረጋገጫ ምልክት ያድርጉበት፡- “የተረጋገጠ/መረጋገጥ ያለበት/የ AI ደካማ ቦታ”። የሰውን እውቀት የሚሹ፣ በተለይም የንግድ አመክንዮ እና ልዩ አደጋን የሚያካትቱ ነጥቦችን አድምቅ።

3) የባለሙያ ማስተላለፍ ማስታወሻ;

ይህንን ምርት ብቃት ላለው ኤክስፐርት ለማስረከብ፣ ማጠቃለያ ያዘጋጁ፡- AI ምን አደረገ፣ በምን ግምቶች፣ የት እርግጠኛ ያልሆነው፣ በተለይ ኤክስፐርቱ ማረጋገጥ ያለበት የት ነው? ኃላፊነቱ በኤክስፐርት ላይ እንደሆነ ግልጽ አድርግ.

4) የአደጋ ምላሽ ዝግጅት;

ለዚህ ፕሮቶኮል የአደጋ/አደጋ ምላሽ ዝርዝር ያዘጋጁ፡ ተጋላጭነት በፍጡር ውስጥ ጥቅም ላይ ከዋለ ምን እርምጃዎች (የማስጠላለፍ ባለስልጣን፣ ግንኙነት፣ ፈንድ ጥበቃ) ይሳተፋሉ? ይህ ረቂቅ ነው; ቡድኑ እና ባለሙያው ማስተካከል አለባቸው.

ሶስት ጥቃቅን ጉዳዮች (በቁጥር)

ጉዳይ 1 - በሩን መዝለል አደጋ አመጣ። በጊዜ ግፊት ምክንያት አንድ ቡድን ገለልተኛውን ኦዲት በመዝለል በ AI + በራሱ ሙከራዎች ላይ ተመርኩዞ ወደ ማይኔት ሄደ። ከ11 ቀናት በኋላ ~$4ሚ ከንግድ ሎጂክ ተጋላጭነት ተወግዷል። የፍተሻ በር ምናልባት ይህንን ይይዛል። ትምህርት፡- ለደህንነት-ወሳኝ ቦታ በር አይለፉ።

ጉዳይ 2 - የተነባበረ ማረጋገጥ ተቀምጧል። ሌላ ቡድን እያንዳንዱን በር አንቀሳቅሷል፡ AI blueprint → static analysis → audit → testnet → simulation። በኦዲት ደረጃ ወቅት፣ እንደገና መግባት፣ የቃል ስጋት በሲሙሌቱ ውስጥ ተይዟል። ሁለቱም ከሜይንኔት በፊት ተዘግተዋል። ትምህርት፡ ንብርብሮች ነጠላ ስህተቶች ወደ ውስጥ እንዳይገቡ ይከላከላል።

ጉዳይ 3 - "አስተማማኝ ቅዠት" አንድ ገንቢ AI ስለ ኮዱ ጠየቀ; “ምንም ጉልህ የሆነ የደህንነት ጉዳዮች ያሉ አይመስሉም” ሲል AI ተናግሯል። ለማንኛውም ቡድኑ ለምርመራ ልኳል፣ እና ሁለት ከፍተኛ ደረጃ ግኝቶች ብቅ አሉ። AI ብታመን ኖሮ ሁለቱም በህይወት ይኖሩ ነበር። ትምህርት፡ የ AI የመተማመን መግለጫ ማረጋገጫ አይደለም።

የኃላፊነት አጠቃቀም መርሆዎች

የዚህን ሞጁል ይዘት ወደ ስድስት መርሆች ልንቀንስ እንችላለን፡-

1. የሰው ሃላፊነት፡- የደህንነት-ወሳኝ የመጨረሻ ፍቃድ ያለው ብቃት ባለው ባለሙያ ነው። AI ተጠያቂ ሊሆን አይችልም.
2. የተነባበረ ማረጋገጥ፡ በእያንዳንዱ ደረጃ የሰው በር እና ማለፊያ ሁኔታ።
3. የመከላከያ አጠቃቀም: መረጃን ለመጠበቅ እና ለመቆጣጠር; ለመበዝበዝ/ለማጥመድ አይደለም።
4. ምስጢራዊነት፡ የደንበኞች ኮድ እና ዳታ ያለፍቃድ መሳሪያዎችን ለመክፈት አልተሰጡም።
5. ግልጽነት: AI አጠቃቀም በሪፖርቱ ውስጥ በሐቀኝነት ተገልጿል; ምንም ማጋነን ወይም የውሸት ማረጋገጫ አይሰጥም.
6. ታማኝነት፡ ባለሀብቶች እና ተጠቃሚዎች አልተሳሳቱም; አደጋ አልተደበቀም, ምክር አይሸፈንም.

ጠቃሚ ምክር: ለእያንዳንዱ የደህንነት-ወሳኝ ውሳኔ እራስዎን አንድ ጥያቄ ይጠይቁ: "ይህ ስህተት ከሆነ እና ገንዘቡ ከጠፋ, ከጀርባው ለመቆም እና ኃላፊነት ለመውሰድ ብቃት ያለው የሰው ልጅ ማረጋገጫ አለ?" መልሱ "አይሆንም, AI እንዲህ ብሏል" ከሆነ, ሂደቱ ያልተሟላ ነው.

የተለመዱ ስህተቶች

• ገለልተኛ የኦዲት በርን ማለፍ. በማይቀለበስ አካባቢ ይቅር የማይባል ነው።
• የ AI እምነት መግለጫ እንደ ማረጋገጫ ስህተት። "Safe Hallucination" በጣም አደገኛ ነው።
• ኃላፊነቱን በ AI ላይ ለማስቀመጥ መሞከር. ኃላፊነቱ የፈረመው ኤክስፐርት ነው።
• ወቅታዊነት ግምት ውስጥ በማስገባት. AI ከስልጠናው ማብቂያ ቀን በላይ አያውቅም።
• በጊዜ ግፊት ምክንያት በሮች ማሳጠር. በጣም ውድ የሆነ ስህተት ምንጭ.
• ያለአጋጣሚ ምላሽ እቅድ መልቀቅ። ፍሳሽ በሚፈጠርበት ጊዜ አንድ ሰው ሳይዘጋጅ ይቀራል.

በማጠቃለያው

• Blockchain ደህንነት-ወሳኝ ነው; ስህተቶች የማይመለሱ እና በቀጥታ ወደ ገንዘብ ይቀየራሉ.
• AI ዋናውን ስህተት ማየት አይችልም, የውሸት ማረጋገጫ ይሰጣል, ጊዜው ያለፈበት እና ኃላፊነት መውሰድ አይችልም.
• ለዚያም ነው የመጨረሻው ደህንነት-ወሳኝ ማፅደቅ ሁል ጊዜ ብቃት ባለው ባለሙያ ነው።
• የተነባበረ ማረጋገጥ በእያንዳንዱ ደረጃ ላይ የሰው በር በማስቀመጥ አንድ ስህተት ወደ ቀጥታ አካባቢ እንዳይፈስ ይከላከላል።
• ኃላፊነት ያለበት አጠቃቀም፡ የሰው ሃላፊነት፣ የመከላከያ ዓላማ፣ ሚስጥራዊነት፣ ግልጽነት እና ታማኝነት።

የመተግበሪያ ተግባር

አንድ ብልጥ የሆነ የኮንትራት ፕሮጀክት ያስቡ (ወይም እውነተኛ ምሳሌ ይውሰዱ)። ለጠቅላላው ጉዞ ከሃሳብ ወደ ዋናው የማረጋገጫ እቅድ ይፃፉ: AI በእያንዳንዱ ደረጃ ምን ያደርጋል, የትኛው የሰው በር አለ, የሽግግር ሁኔታ ምንድነው? ከዚያ "የጊዜ ግፊት" ሁኔታን ጨምሩበት: የትኛው በር ለማለፍ በጣም አደገኛ ነው እና ለምን? እንዲሁም የአደጋ ምላሽ ዝርዝርን ያካትቱ።

የማረጋገጫ ዝርዝር

• [] የመጨረሻው የደኅንነት-ወሳኝ ማፅደቅ በባለሙያው ላይ እንዳለ ተቀበልኩ።
• [ ] በእያንዳንዱ ደረጃ ላይ የሰውን የማረጋገጫ በር አኖራለሁ።
• [ ] የ AI በራስ የመተማመን ስሜትን እንደ ማረጋገጫ አልቆጠርኩትም።
• [ ] የገለልተኛ የኦዲት በርን አላለፍኩም።
• [] ወቅታዊነትን አላሰብኩም; የቅርብ ጊዜውን መረጃ ከሰው ጋር አረጋግጫለሁ።
• [ ] ኃላፊነቱን በ AI ላይ አላስቀመጥኩም.
• [ ] የአደጋ ምላሽ እቅድ አዘጋጅቻለሁ።