സേഫ്റ്റി-ക്രിട്ടിക്കൽ ഓഡിറ്റ്, വിദഗ്ധരുടെ അംഗീകാരവും ഉത്തരവാദിത്ത ഉപയോഗവും

നേട്ടങ്ങൾ:

• ബ്ലോക്ക്ചെയിനിൻ്റെ സുരക്ഷാ-നിർണ്ണായക സ്വഭാവവും ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസിന് യഥാർത്ഥ പിശക് കണ്ടെത്താനും തെറ്റായ ഉറപ്പ് നൽകാനും കാലഹരണപ്പെട്ടതും ഉത്തരവാദിത്തം ഏറ്റെടുക്കുന്നതിൽ പരാജയപ്പെടാനുള്ള കാരണങ്ങളും മനസ്സിലാക്കുന്നു.
• ഓരോ ഘട്ടത്തിലും ഹ്യൂമൻ വെരിഫിക്കേഷൻ ഗേറ്റ് സ്ഥാപിക്കുന്ന ലേയേർഡ് വെരിഫിക്കേഷൻ ഉപയോഗിച്ച് ലൈവ് സിസ്റ്റത്തിലേക്ക് ഒരു പിശക് ചോരുന്നത് തടയാനുള്ള കഴിവ്
• സുരക്ഷാ-നിർണ്ണായക അന്തിമ അംഗീകാരം യോഗ്യതയുള്ള വിദഗ്ദ്ധൻ്റെയും മാനുഷിക ഉത്തരവാദിത്തം, പ്രതിരോധ ഉദ്ദേശ്യം, രഹസ്യാത്മകത, സുതാര്യത, സത്യസന്ധത എന്നിവയുടെ തത്വങ്ങൾ സ്വീകരിക്കാനുള്ള കഴിവുമാണ്.

ഈ മൊഡ്യൂളിൻ്റെ ഏറ്റവും പ്രധാനപ്പെട്ട യൂണിറ്റാണിത്. സ്‌മാർട്ട് കോൺട്രാക്‌റ്റ് റൈറ്റിംഗ് മുതൽ ഓൺ-ചെയിൻ വിശകലനം വരെ, ടോക്കനോമിക്‌സ് മുതൽ തട്ടിപ്പ് കണ്ടെത്തൽ വരെ AI എങ്ങനെ ത്വരിതപ്പെടുത്തുന്നുവെന്ന് ഞങ്ങൾ ഇതുവരെ കണ്ടു. ഈ യൂണിറ്റിൽ, ഞങ്ങൾ പിന്നോട്ട് പോയി കാര്യത്തിൻ്റെ ഹൃദയത്തിലേക്ക് നോക്കുന്നു: സുരക്ഷാ-നിർണ്ണായക പ്രവർത്തനങ്ങളിൽ യോഗ്യതയുള്ള വിദഗ്ദ്ധരുടെ അംഗീകാരം AI ഔട്ട്‌പുട്ടിന് പകരം വയ്ക്കാൻ കഴിയാത്തത് എന്തുകൊണ്ട്. ഒരു വിദഗ്ധൻ എന്ന നിലയിൽ, AI ഉത്തരവാദിത്തത്തോടെ ഉപയോഗിക്കുന്നതിനുള്ള ചട്ടക്കൂട് എന്താണ്? ബ്ലാക്ക്‌ചെയിൻ എഞ്ചിനീയറിംഗ് എന്നത് ഒരു സുരക്ഷാ-നിർണ്ണായക മേഖലയാണ്, അവിടെ തെറ്റുകൾ നേരിട്ടും മാറ്റാനാകാതെ പണമായി വിവർത്തനം ചെയ്യുന്നു; ഈ യൂണിറ്റ് ആ യാഥാർത്ഥ്യത്തിൻ്റെ ആവശ്യകതകൾ കൈകാര്യം ചെയ്യുന്നു.

"സുരക്ഷാ-നിർണ്ണായക" എന്താണ് അർത്ഥമാക്കുന്നത്, എന്തുകൊണ്ട് ഇത് വ്യത്യസ്തമാണ്?

ഒരു പിശകിൻ്റെ അനന്തരഫലം മാറ്റാനാകാത്തതും ഗുരുതരവുമാണെങ്കിൽ ഒരു പ്രദേശം സുരക്ഷാ-നിർണ്ണായകമാണ്: ബ്രിഡ്ജ് എഞ്ചിനീയറിംഗിലെ ജീവഹാനി, വൈദ്യശാസ്ത്രത്തിലെ അപാകത, ബ്ലോക്ക്ചെയിനിൽ ദശലക്ഷക്കണക്കിന് ഡോളറിൻ്റെ ഉടനടി സ്ഥിരമായ നഷ്ടം. ഈ മേഖലകളിലെ അംഗീകൃത നിലവാരം സാധാരണ സോഫ്റ്റ്വെയറിൽ നിന്ന് തികച്ചും വ്യത്യസ്തമാണ്:

• "ഇത് ഒരുപക്ഷേ പ്രവർത്തിക്കും" മതിയാകില്ല; തെളിയിക്കപ്പെടണം.
• "ഞങ്ങൾ അത് പിന്നീട് പരിഹരിക്കും" അസാധുവാണ്; മാറ്റാനാവാത്തത് ക്ഷമിക്കില്ല.
• അന്തിമ അംഗീകാരം പ്രൊഫഷണൽ, നിയമപരമായ ഉത്തരവാദിത്തം ഏറ്റെടുക്കുന്ന ഒരു സമർത്ഥനായ വിദഗ്ദ്ധനാണ്.

AI ഒരു സഹായിയാണ്; ഉത്തരവാദിത്തം ഏറ്റെടുക്കാൻ കഴിയില്ല, ഉത്തരവാദിത്തം ഏറ്റെടുക്കാൻ കഴിയില്ല, ഫലങ്ങളുടെ പിന്നിൽ നിൽക്കാൻ കഴിയില്ല. ഒരു ഓഡിറ്റ് റിപ്പോർട്ടിന് ഒരു അപകടസാധ്യത നഷ്‌ടമായാൽ, ഉത്തരവാദിത്തം സൈൻ ഓഫ് ചെയ്‌ത വിദഗ്ദ്ധനാണ്, അല്ലാതെ AI യ്ക്കല്ല. "AI അങ്ങനെ പറഞ്ഞു" എന്നത് എഞ്ചിനീയറിംഗിൻ്റെ പ്രതിരോധമല്ല.

എന്തുകൊണ്ടാണ് AI-ന് വിദഗ്ദ്ധനെ മാറ്റിസ്ഥാപിക്കാൻ കഴിയാത്തത്: നാല് പ്രധാന കാരണങ്ങൾ

1. AI-ക്ക് യഥാർത്ഥവും സന്ദർഭോചിതവുമായ പിശക് കാണാൻ കഴിയില്ല. പരിശീലന ഡാറ്റയിലെ പാറ്റേണുകൾ AI തിരിച്ചറിയുന്നു. ഒരു പുതിയ അപകടസാധ്യത, ഒരു പ്രോട്ടോക്കോൾ-നിർദ്ദിഷ്ട ബിസിനസ്സ് ലോജിക് പിശക് അല്ലെങ്കിൽ ഘടകങ്ങളുടെ അതുല്യമായ ഇടപെടൽ എന്നിവയാണ് AI-യുടെ ബ്ലൈൻഡ് സ്പോട്ട്. ഏറ്റവും ചെലവേറിയ Web3 ആക്രമണങ്ങൾ കൃത്യമായി ഈ അതുല്യമായ കേടുപാടുകളിൽ നിന്നാണ്.

2. AI തെറ്റായ ഉറപ്പ് നൽകുന്നു. "ഈ കോഡ് സുരക്ഷിതമാണെന്ന് തോന്നുന്നു" - തെറ്റാണെങ്കിലും AI-ക്ക് ഒഴുക്കോടെയും ആത്മവിശ്വാസത്തോടെയും പറയാൻ കഴിയും. ഈ "സുരക്ഷയുടെ ഭ്രമാത്മകത" ഒരു സുരക്ഷാ-നിർണ്ണായക മേഖലയിൽ ഏറ്റവും അപകടകരമായ ഔട്ട്പുട്ടാണ്; കാരണം അത് തെറ്റായ സുരക്ഷിതത്വബോധം സൃഷ്ടിക്കുന്നു.

3. AI കാലഹരണപ്പെട്ടതാണ്. AI-യുടെ അറിവ് ഒരു വിദ്യാഭ്യാസ കട്ട്ഓഫ് തീയതിയിൽ അവസാനിക്കുന്നു. ഏറ്റവും പുതിയ ആക്രമണങ്ങൾ, ഏറ്റവും പുതിയ ലൈബ്രറി പതിപ്പുകൾ, ഏറ്റവും പുതിയ മികച്ച രീതികൾ എന്നിവ അതിൻ്റെ ചക്രവാളത്തിനപ്പുറമാണ്. സുരക്ഷ എപ്പോഴും മാറിക്കൊണ്ടിരിക്കുന്ന ഒരു ഓട്ടമാണ്; ഇന്നലത്തെ വിവരങ്ങൾ ഇന്ന് അപര്യാപ്തമായേക്കാം.

4. AI-ക്ക് ഉത്തരവാദിത്തം ഏറ്റെടുക്കാൻ കഴിയില്ല. ഒരുപക്ഷേ ഏറ്റവും അടിസ്ഥാനപരമായ കാരണം ഇതാണ്. എഞ്ചിനീയറിംഗ് അംഗീകാരം ഒരു സാങ്കേതിക മാത്രമല്ല, നിയമപരവും ധാർമ്മികവുമായ പ്രതിബദ്ധത കൂടിയാണ്. ഒരു യന്ത്രത്തിന് ഈ പ്രതിബദ്ധത നടത്താൻ കഴിയില്ല.

മുന്നറിയിപ്പ്: സുരക്ഷാ നിർണായകമായ ഒരു ഔട്ട്‌പുട്ടിൽ, ചോദ്യം "AI എന്താണ് പറഞ്ഞത്?" എന്നാൽ "ഈ ഔട്ട്‌പുട്ടിനെ സ്ഥിരീകരിക്കുകയും സാധൂകരിക്കുകയും പിന്നിൽ നിൽക്കുകയും ചെയ്യുന്ന കഴിവുള്ള വ്യക്തി ആരാണ്?" ആയിരിക്കണം. വിദഗ്‌ദ്ധരല്ലാത്ത അംഗീകാരമൊന്നും-AI വഴിയോ ടൂൾ മുഖേനയോ-ഉറപ്പായി കണക്കാക്കാനാവില്ല.

ലേയേർഡ് വെരിഫിക്കേഷൻ: ഒറ്റ ബഗുകൾ തത്സമയം ചോരുന്നത് തടയുന്നു

ഉത്തരവാദിത്തമുള്ള ഒരു വർക്ക്ഫ്ലോ ഓരോ ഘട്ടത്തിലും ഒരു ഹ്യൂമൻ വെരിഫിക്കേഷൻ ഗേറ്റ് സ്ഥാപിക്കുന്നു. മറ്റൊരു വാതിലിലൂടെ കടന്നുപോകാതെ നിങ്ങൾക്ക് കടന്നുപോകാൻ കഴിയില്ല:

സ്റ്റേജ്

AI സംഭാവന

മനുഷ്യ സ്ഥിരീകരണ ഗേറ്റ്

അക്ഷരവിന്യാസം

ഡ്രാഫ്റ്റ് കോഡ്

ബിൽഡ് + ടെസ്റ്റ് + അവലോകനം

സ്കാൻ ചെയ്യുക

സ്ഥാനാർത്ഥിയുടെ ദുർബലത

സ്റ്റാറ്റിക് വിശകലനം + ഓഡിറ്റർ സ്ഥിരീകരണം

ഓഡിറ്റ്

നുറുങ്ങ്, റിപ്പോർട്ട് ഡ്രാഫ്റ്റ്

യോഗ്യതയുള്ള ഓഡിറ്റർ ഒപ്പ്

പരീക്ഷ

സ്ക്രിപ്റ്റ് ഡ്രാഫ്റ്റ്

ടെസ്റ്റ്നെറ്റ് + ഫസ്സിംഗ് + സിമുലേഷൻ

വിതരണം

ചെക്ക്ലിസ്റ്റ്

മൾട്ടി-സിഗ്നേച്ചർ സ്ഥിരീകരണം + ക്രമാനുഗതമായ എക്സിറ്റ്

നിരീക്ഷണം

അപാകത ചിഹ്നം

മനുഷ്യ പ്രതികരണ പദ്ധതി

ഈ ലേയേർഡ് ഘടന ഒരു AI ബഗ് മെയിൻനെറ്റിലേക്ക് ചോരുന്നത് തടയുന്നു. ഓരോ വാതിലിനും വ്യക്തമായ പാസ് വ്യവസ്ഥയുണ്ട്: ടെസ്റ്റ് വിജയിച്ചോ, ഓഡിറ്റർ ഒപ്പിട്ടോ, സിമുലേഷൻ നിലനിന്നോ?

ദുർബലമായ സമീപനം / ശക്തമായ സമീപനം

ദുർബലമായ സമീപനം:

AI കോഡ് സൃഷ്ടിച്ചു, അത് വൃത്തിയായി തോന്നുന്നു, നമുക്ക് അത് മെയിൻനെറ്റിൽ ഇടാം.

ഇത് മാറ്റാനാകാത്ത ഒരു പ്രദേശത്ത് ദുരന്തത്തിനുള്ള ഒരു പാചകക്കുറിപ്പാണ്.

ശക്തമായ സമീപനം:

1. AI ഡ്രാഫ്റ്റ് നിർമ്മിച്ചു → ഞങ്ങൾ അത് സമാഹരിച്ചു, പരീക്ഷിച്ചു.2. സ്റ്റാറ്റിക് വിശകലനം + AI സ്കാൻ → ഓഡിറ്റർ സ്ഥിരീകരിച്ചു.3. സ്വതന്ത്ര സുരക്ഷാ ഓഡിറ്റ് → ഒപ്പിട്ട റിപ്പോർട്ട്.4. Testnet + fuzzing + simulation → സാഹചര്യങ്ങൾ സഹിച്ചു.5. മൾട്ടി-സിഗ്നേച്ചർ, കാസ്കേഡിംഗ് മെയിൻനെറ്റ് എക്സിറ്റ് + മോണിറ്ററിംഗ്. ഓരോ പോർട്ടിലും: സംക്രമണ വ്യവസ്ഥ പാലിക്കുന്നത് വരെ പുരോഗതിയില്ല.

പകർത്താവുന്ന നാല് ടെംപ്ലേറ്റുകൾ

1) വെരിഫിക്കേഷൻ ഗേറ്റ് നിയന്ത്രണം:

ഈ സുരക്ഷാ-നിർണ്ണായക ഔട്ട്‌പുട്ടിനായി ഒരു മൂല്യനിർണ്ണയ ചെക്ക്‌ലിസ്റ്റ് സൃഷ്‌ടിക്കുക: ഏത് സ്വതന്ത്ര ഘട്ടങ്ങളിലൂടെ (കോമ്പൈലേഷൻ, സ്റ്റാറ്റിക് അനാലിസിസ്, ഓഡിറ്റിംഗ്, ടെസ്റ്റിംഗ്, സിമുലേഷൻ) ഇത് സാധൂകരിക്കണം? ഓരോ ഘട്ടത്തിനും സംക്രമണ വ്യവസ്ഥ എഴുതുക. ഒരു ഘട്ടം ഒഴിവാക്കിയാൽ എന്ത് അപകടസാധ്യതയുണ്ടാകുമെന്ന് വ്യക്തമാക്കുക.

2) AI ഔട്ട്പുട്ട് കോൺഫിഡൻസ് ലെവൽ ലേബലിംഗ്:

ചുവടെയുള്ള AI- ജനറേറ്റുചെയ്‌ത ഔട്ട്‌പുട്ട് അവലോകനം ചെയ്‌ത് ഓരോ അവകാശവാദവും അടയാളപ്പെടുത്തുക: “പരിശോധിച്ച / പരിശോധിച്ചുറപ്പിച്ചിരിക്കണം / AI ബലഹീനത ഏരിയ”. മനുഷ്യ വൈദഗ്ധ്യം ആവശ്യമുള്ള പോയിൻ്റുകൾ ഹൈലൈറ്റ് ചെയ്യുക, പ്രത്യേകിച്ച് ബിസിനസ്സ് യുക്തിയും അതുല്യമായ അപകടസാധ്യതയും ഉൾപ്പെടുന്നവ.

3) വിദഗ്ധ കൈമാറ്റ കുറിപ്പ്:

ഈ ഔട്ട്‌പുട്ട് കഴിവുള്ള ഒരു വിദഗ്‌ദ്ധന് കൈമാറാൻ, ഒരു സംഗ്രഹം തയ്യാറാക്കുക: AI എന്താണ് ചെയ്തത്, എന്ത് അനുമാനങ്ങളോടെ, എവിടെയാണ് അത് ഉറപ്പില്ല, വിദഗ്‌ദ്ധൻ എവിടെയാണ് സ്ഥിരീകരിക്കേണ്ടത്? ഉത്തരവാദിത്തം വിദഗ്ദ്ധനാണെന്ന് വ്യക്തമാക്കുക.

4) സംഭവ പ്രതികരണം തയ്യാറാക്കൽ:

ഈ പ്രോട്ടോക്കോളിനായി ഒരു അടിയന്തര/സംഭവ പ്രതികരണ രൂപരേഖ തയ്യാറാക്കുക: ഒരു ജീവിയിൽ ഒരു അപകടസാധ്യത ചൂഷണം ചെയ്യപ്പെട്ടാൽ എന്തെല്ലാം ഘട്ടങ്ങൾ (ഇൻ്റർസെപ്റ്റ് അതോറിറ്റി, കമ്മ്യൂണിക്കേഷൻ, ഫണ്ട് പ്രൊട്ടക്ഷൻ) ഉൾപ്പെടും? ഇതൊരു ഡ്രാഫ്റ്റാണ്; ടീമും വിദഗ്ധരും കാലിബ്രേറ്റ് ചെയ്യണം.

മൂന്ന് മിനി കേസുകൾ (എണ്ണങ്ങളിൽ)

കേസ് 1 - വാതിൽ ചാടുന്നത് ദുരന്തം വരുത്തി. സമയ സമ്മർദ്ദം കാരണം, ഒരു ടീം സ്വതന്ത്ര ഓഡിറ്റ് ഒഴിവാക്കി, AI + സ്വന്തം ടെസ്റ്റുകളെ ആശ്രയിച്ച് മെയിൻനെറ്റിലേക്ക് പോയി. 11 ദിവസത്തിന് ശേഷം ~$4M ഒരു ബിസിനസ് ലോജിക് അപകടത്തിൽ നിന്ന് നീക്കം ചെയ്തു. ഒരു പരിശോധനാ ഗേറ്റ് ഒരുപക്ഷേ ഇത് പിടിക്കും. പാഠം: സുരക്ഷാ-നിർണ്ണായക സ്ഥലത്ത് ഒരു വാതിൽ മറികടക്കരുത്.

കേസ് 2 - ലേയേർഡ് പ്രാമാണീകരണം സംരക്ഷിച്ചു. മറ്റൊരു ടീം ഓരോ ഗേറ്റും പ്രവർത്തിപ്പിച്ചു: AI ബ്ലൂപ്രിൻ്റ് → സ്റ്റാറ്റിക് അനാലിസിസ് → ഓഡിറ്റ് → ടെസ്റ്റ്നെറ്റ് → സിമുലേഷൻ. ഓഡിറ്റ് ഘട്ടത്തിൽ, ഒരു പുനഃപ്രവേശനം, ഒരു ഒറാക്കിൾ റിസ്ക് സിമുലേഷനിൽ പിടിക്കപ്പെട്ടു. അവ രണ്ടും മെയിൻനെറ്റിന് മുമ്പായി അടച്ചു. പാഠം: ഒറ്റ പിശകുകൾ ചോർച്ചയിൽ നിന്ന് പാളികൾ തടയുന്നു.

കേസ് 3 - "സുരക്ഷിത ഹാലുസിനേഷൻ." ഒരു ഡെവലപ്പർ AI യോട് കോഡിനെ കുറിച്ച് ചോദിച്ചു; കാര്യമായ സുരക്ഷാ പ്രശ്‌നങ്ങളൊന്നും ഉള്ളതായി തോന്നുന്നില്ല, AI പറഞ്ഞു. എന്തായാലും സംഘം അത് പരിശോധനയ്ക്ക് അയച്ചു, രണ്ട് ഉന്നതതല കണ്ടെത്തലുകൾ പുറത്തുവന്നു. നമ്മൾ AI-യെ വിശ്വസിച്ചിരുന്നെങ്കിൽ, രണ്ടുപേരും ജീവനോടെ വരുമായിരുന്നു. പാഠം: AI-യുടെ ആത്മവിശ്വാസം പ്രകടിപ്പിക്കുന്നത് ഒരു സ്ഥിരീകരണമല്ല.

ഉത്തരവാദിത്ത ഉപയോഗത്തിൻ്റെ തത്വങ്ങൾ

ഈ മൊഡ്യൂളിൻ്റെ സാരാംശം നമുക്ക് ആറ് തത്വങ്ങളിലേക്ക് ചുരുക്കാം:

1. മാനുഷിക ഉത്തരവാദിത്തം: സുരക്ഷാ-നിർണ്ണായക അന്തിമ അംഗീകാരം യോഗ്യതയുള്ള വിദഗ്ധരിൽ നിക്ഷിപ്തമാണ്; AI-ക്ക് ഉത്തരവാദിത്തം വഹിക്കാനാവില്ല.
2. ലേയേർഡ് ആധികാരികത: ഓരോ ഘട്ടത്തിലും ഒരു മനുഷ്യ ഗേറ്റും പാസ് അവസ്ഥയും.
3. പ്രതിരോധ ഉപയോഗം: വിവരങ്ങൾ സംരക്ഷിക്കുന്നതിനും നിയന്ത്രിക്കുന്നതിനും; ചൂഷണം/കുടുക്കുകയല്ല.
4. രഹസ്യാത്മകത: അനുമതിയില്ലാതെ ഉപകരണങ്ങൾ തുറക്കുന്നതിന് ഉപഭോക്തൃ കോഡും ഡാറ്റയും നൽകുന്നില്ല.
5. സുതാര്യത: AI ഉപയോഗം സത്യസന്ധമായി റിപ്പോർട്ടിൽ പറഞ്ഞിരിക്കുന്നു; അതിശയോക്തിയോ തെറ്റായ ഉറപ്പോ നൽകുന്നില്ല.
6. സത്യസന്ധത: നിക്ഷേപകരെയും ഉപയോക്താക്കളെയും തെറ്റിദ്ധരിപ്പിക്കുന്നില്ല; അപകടസാധ്യത മറച്ചിട്ടില്ല, ഉപദേശം മറച്ചുവെക്കുന്നില്ല.

നുറുങ്ങ്: ഓരോ സുരക്ഷാ-നിർണ്ണായക തീരുമാനത്തിനും സ്വയം ഒരു ചോദ്യം ചോദിക്കുക: "ഇത് തെറ്റാണെങ്കിൽ പണം നഷ്‌ടപ്പെടുകയാണെങ്കിൽ, അതിന് പിന്നിൽ നിൽക്കാനും ഉത്തരവാദിത്തം ഏറ്റെടുക്കാനും കഴിവുള്ള മനുഷ്യ പരിശോധന നടന്നിട്ടുണ്ടോ?" ഉത്തരം "ഇല്ല, AI പറഞ്ഞു," പ്രക്രിയ അപൂർണ്ണമാണ്.

സാധാരണ തെറ്റുകൾ

• സ്വതന്ത്ര ഓഡിറ്റ് ഗേറ്റ് മറികടക്കുന്നു. അപ്രസക്തമായ മേഖലയിൽ ഇത് മാപ്പർഹിക്കാത്തതാണ്.
• AI-യുടെ വിശ്വാസപ്രകടനം സ്ഥിരീകരണമായി തെറ്റിദ്ധരിക്കുന്നു. "സേഫ് ഹാലൂസിനേഷൻ" ആണ് ഏറ്റവും അപകടകാരി.
• AI-യിൽ ഉത്തരവാദിത്തം ഏൽപ്പിക്കാൻ ശ്രമിക്കുന്നു. ഉത്തരവാദിത്തം ഒപ്പിട്ട വിദഗ്ദ്ധനാണ്.
• സമയബന്ധിതമായി കരുതുന്നു. പരിശീലന കട്ട്ഓഫ് തീയതിക്കപ്പുറം AI-ക്ക് അറിയില്ല.
• സമയ സമ്മർദ്ദം കാരണം വാതിലുകൾ ചെറുതാക്കുന്നു. ഏറ്റവും ചെലവേറിയ പിശകിൻ്റെ ഉറവിടം.
• ഒരു സംഭവ പ്രതികരണ പ്ലാൻ ഇല്ലാതെ വിടുന്നു. ഒരു ചോർച്ച സംഭവിക്കുമ്പോൾ, ഒരാൾ തയ്യാറാകാതെ അവശേഷിക്കുന്നു.

ചുരുക്കത്തിൽ

• ബ്ലോക്ക്ചെയിൻ സുരക്ഷാ നിർണായകമാണ്; തെറ്റുകൾ മാറ്റാനാവാത്തതും നേരിട്ട് പണമായി മാറുന്നതുമാണ്.
• AI-ക്ക് യഥാർത്ഥ പിശക് കാണാൻ കഴിയില്ല, തെറ്റായ ഉറപ്പ് നൽകുന്നു, കാലഹരണപ്പെട്ടതാണ്, ഉത്തരവാദിത്തം ഏറ്റെടുക്കാൻ കഴിയില്ല.
• അതുകൊണ്ടാണ് അന്തിമ സുരക്ഷാ-നിർണ്ണായക അംഗീകാരം എല്ലായ്പ്പോഴും യോഗ്യതയുള്ള വിദഗ്ദ്ധൻ്റെ പക്കലുള്ളത്.
• ഓരോ ഘട്ടത്തിലും ഒരു ഹ്യൂമൻ ഗേറ്റ് സ്ഥാപിച്ച് തത്സമയ പരിതസ്ഥിതിയിലേക്ക് ഒരൊറ്റ പിശക് ചോർന്നൊലിക്കുന്നത് ലേയേർഡ് വെരിഫിക്കേഷൻ തടയുന്നു.
• ഉത്തരവാദിത്തപരമായ ഉപയോഗം: മനുഷ്യൻ്റെ ഉത്തരവാദിത്തം, പ്രതിരോധ ലക്ഷ്യം, രഹസ്യാത്മകത, സുതാര്യത, സമഗ്രത.

ആപ്ലിക്കേഷൻ ടാസ്ക്

ഒരു മികച്ച കരാർ പ്രോജക്റ്റ് സങ്കൽപ്പിക്കുക (അല്ലെങ്കിൽ ഒരു യഥാർത്ഥ ഉദാഹരണം എടുക്കുക). ആശയത്തിൽ നിന്ന് മെയിൻനെറ്റിലേക്കുള്ള മുഴുവൻ യാത്രയ്ക്കും ഒരു ലേയേർഡ് വെരിഫിക്കേഷൻ പ്ലാൻ എഴുതുക: ഓരോ ഘട്ടത്തിലും AI എന്താണ് ചെയ്യുന്നത്, എന്താണ് ഹ്യൂമൻ ഗേറ്റ്, എന്താണ് ട്രാൻസിഷൻ അവസ്ഥ? തുടർന്ന് ഒരു "ടൈം പ്രഷർ" സാഹചര്യം ചേർക്കുക: ഏത് വാതിൽ ബൈപാസ് ചെയ്യാൻ ഏറ്റവും അപകടകരമാണ്, എന്തുകൊണ്ട്? ഒരു സംഭവ പ്രതികരണ രൂപരേഖയും ഉൾപ്പെടുത്തുക.

ചെക്ക്ലിസ്റ്റ്

• [ ] അന്തിമ സുരക്ഷാ-നിർണ്ണായക അംഗീകാരം വിദഗ്‌ധരുടേതാണെന്ന് ഞാൻ അംഗീകരിച്ചു.
• [ ] ഓരോ ഘട്ടത്തിലും ഞാൻ ഒരു ഹ്യൂമൻ വെരിഫിക്കേഷൻ ഗേറ്റ് ഇട്ടു.
• [ ] ഞാൻ AI യുടെ ആത്മവിശ്വാസം പ്രകടിപ്പിക്കുന്നത് സ്ഥിരീകരണമായി കണക്കാക്കിയില്ല.
• [ ] ഞാൻ സ്വതന്ത്ര ഓഡിറ്റ് വാതിൽ മറികടന്നില്ല.
• [ ] ഞാൻ കാലികപ്രസക്തി സ്വീകരിച്ചില്ല; മനുഷ്യനുമായുള്ള ഏറ്റവും പുതിയ വിവരങ്ങൾ ഞാൻ സ്ഥിരീകരിച്ചു.
• [ ] ഞാൻ AI യിൽ ഉത്തരവാദിത്തം വെച്ചിട്ടില്ല.
• [ ] ഞാൻ ഒരു സംഭവ പ്രതികരണ പദ്ധതി തയ്യാറാക്കി.