ಲಾಭಗಳು:
- ಬ್ಲಾಕ್ಚೈನ್ನ ಭದ್ರತೆ-ನಿರ್ಣಾಯಕ ಸ್ವರೂಪವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವುದು ಮತ್ತು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯು ಮೂಲ ದೋಷವನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಸಾಧ್ಯವಾಗದಿರಲು, ತಪ್ಪು ಭರವಸೆಯನ್ನು ನೀಡಲು, ಹಳೆಯದಾಗಿದೆ ಮತ್ತು ಜವಾಬ್ದಾರಿಯನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ವಿಫಲವಾದ ಕಾರಣಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವುದು.
- ಪ್ರತಿ ಹಂತದಲ್ಲೂ ಮಾನವ ಪರಿಶೀಲನೆ ಗೇಟ್ ಅನ್ನು ಇರಿಸುವ ಲೇಯರ್ಡ್ ಪರಿಶೀಲನೆಯೊಂದಿಗೆ ಲೈವ್ ಸಿಸ್ಟಮ್ಗೆ ಸೋರಿಕೆಯಾಗುವುದನ್ನು ತಡೆಯುವ ಸಾಮರ್ಥ್ಯ
- ಭದ್ರತೆ-ನಿರ್ಣಾಯಕ ಅಂತಿಮ ಅನುಮೋದನೆಯು ಸಮರ್ಥ ತಜ್ಞ ಮತ್ತು ಮಾನವ ಜವಾಬ್ದಾರಿ, ರಕ್ಷಣಾ ಉದ್ದೇಶ, ಗೌಪ್ಯತೆ, ಪಾರದರ್ಶಕತೆ ಮತ್ತು ಪ್ರಾಮಾಣಿಕತೆಯ ತತ್ವಗಳನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುವ ಸಾಮರ್ಥ್ಯಕ್ಕೆ ಸೇರಿದೆ.
ಇದು ಈ ಮಾಡ್ಯೂಲ್ನ ಪ್ರಮುಖ ಘಟಕವಾಗಿದೆ. ಸ್ಮಾರ್ಟ್ ಒಪ್ಪಂದದ ಬರವಣಿಗೆಯಿಂದ ಆನ್-ಚೈನ್ ವಿಶ್ಲೇಷಣೆಯವರೆಗೆ, ಟೋಕೆನಾಮಿಕ್ಸ್ನಿಂದ ವಂಚನೆ ಪತ್ತೆಗೆ ಎಲ್ಲವನ್ನೂ AI ಹೇಗೆ ವೇಗಗೊಳಿಸುತ್ತಿದೆ ಎಂಬುದನ್ನು ನಾವು ಇಲ್ಲಿಯವರೆಗೆ ನೋಡಿದ್ದೇವೆ. ಈ ಘಟಕದಲ್ಲಿ, ನಾವು ಹಿಂದೆ ಸರಿಯುತ್ತೇವೆ ಮತ್ತು ವಿಷಯದ ಹೃದಯವನ್ನು ನೋಡುತ್ತೇವೆ: ಸುರಕ್ಷತೆ-ನಿರ್ಣಾಯಕ ಕೆಲಸದಲ್ಲಿ ಸಮರ್ಥ ತಜ್ಞರ ಅನುಮೋದನೆಯನ್ನು AI ಔಟ್ಪುಟ್ ಏಕೆ ಬದಲಾಯಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ಮತ್ತು ಪರಿಣಿತರಾಗಿ, AI ಅನ್ನು ಜವಾಬ್ದಾರಿಯುತವಾಗಿ ಬಳಸುವ ಚೌಕಟ್ಟೇನು? ಬ್ಲಾಕ್ಚೈನ್ ಎಂಜಿನಿಯರಿಂಗ್ ಎನ್ನುವುದು ಭದ್ರತೆ-ನಿರ್ಣಾಯಕ ಕ್ಷೇತ್ರವಾಗಿದ್ದು, ತಪ್ಪುಗಳು ನೇರವಾಗಿ ಮತ್ತು ಬದಲಾಯಿಸಲಾಗದಂತೆ ಹಣಕ್ಕೆ ಅನುವಾದಿಸುತ್ತವೆ; ಈ ಘಟಕವು ಆ ವಾಸ್ತವದ ಅವಶ್ಯಕತೆಗಳೊಂದಿಗೆ ವ್ಯವಹರಿಸುತ್ತದೆ.
"ಭದ್ರತೆ-ನಿರ್ಣಾಯಕ" ಎಂದರೆ ಏನು ಮತ್ತು ಅದು ಏಕೆ ವಿಭಿನ್ನವಾಗಿದೆ?
ದೋಷದ ಪರಿಣಾಮವು ಬದಲಾಯಿಸಲಾಗದ ಮತ್ತು ಗಂಭೀರವಾಗಿದ್ದರೆ ಒಂದು ಪ್ರದೇಶವು ಸುರಕ್ಷತೆ-ನಿರ್ಣಾಯಕವಾಗಿದೆ: ಸೇತುವೆಯ ಇಂಜಿನಿಯರಿಂಗ್ನಲ್ಲಿನ ಜೀವಹಾನಿ, ವೈದ್ಯಕೀಯದಲ್ಲಿನ ದುರ್ಬಳಕೆ, ಬ್ಲಾಕ್ಚೈನ್ನಲ್ಲಿ ಲಕ್ಷಾಂತರ ಡಾಲರ್ಗಳ ತಕ್ಷಣದ ಮತ್ತು ಶಾಶ್ವತ ನಷ್ಟ. ಈ ಪ್ರದೇಶಗಳಲ್ಲಿ ಸ್ವೀಕರಿಸಿದ ಮಾನದಂಡವು ಸಾಮಾನ್ಯ ಸಾಫ್ಟ್ವೇರ್ಗಿಂತ ಸಂಪೂರ್ಣವಾಗಿ ಭಿನ್ನವಾಗಿದೆ:
- "ಇದು ಬಹುಶಃ ಕೆಲಸ ಮಾಡುತ್ತದೆ" ಸಾಕಾಗುವುದಿಲ್ಲ; ಸಾಬೀತು ಮಾಡಬೇಕು.
- "ನಾವು ಅದನ್ನು ನಂತರ ಸರಿಪಡಿಸುತ್ತೇವೆ" ಅಮಾನ್ಯವಾಗಿದೆ; ಬದಲಾಯಿಸಲಾಗದು ಕ್ಷಮಿಸುವುದಿಲ್ಲ.
- ಅಂತಿಮ ಅನುಮೋದನೆಯು ವೃತ್ತಿಪರ ಮತ್ತು ಕಾನೂನು ಜವಾಬ್ದಾರಿಯನ್ನು ತೆಗೆದುಕೊಳ್ಳುವ ಸಮರ್ಥ ತಜ್ಞರೊಂದಿಗೆ ಇರುತ್ತದೆ.
AI ಸಹಾಯಕ; ಜವಾಬ್ದಾರಿಯನ್ನು ವಹಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ, ಜವಾಬ್ದಾರರಾಗಿರಲು ಸಾಧ್ಯವಿಲ್ಲ ಮತ್ತು ಫಲಿತಾಂಶಗಳ ಹಿಂದೆ ನಿಲ್ಲಲು ಸಾಧ್ಯವಿಲ್ಲ. ಆಡಿಟ್ ವರದಿಯು ದುರ್ಬಲತೆಯನ್ನು ಕಳೆದುಕೊಂಡರೆ, ಜವಾಬ್ದಾರಿಯು ಸಹಿ ಮಾಡಿದ ತಜ್ಞರ ಮೇಲಿರುತ್ತದೆ, AI ಅಲ್ಲ. "AI ಹೀಗೆ ಹೇಳಿದೆ" ಎಂಬುದು ಎಂಜಿನಿಯರಿಂಗ್ನ ರಕ್ಷಣೆಯಲ್ಲ.
AI ತಜ್ಞರನ್ನು ಏಕೆ ಬದಲಾಯಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ: ನಾಲ್ಕು ಪ್ರಮುಖ ಕಾರಣಗಳು
1. AI ಮೂಲ ಮತ್ತು ಸಂದರ್ಭೋಚಿತ ದೋಷವನ್ನು ನೋಡಲು ಸಾಧ್ಯವಿಲ್ಲ. ತರಬೇತಿ ಡೇಟಾದಲ್ಲಿನ ಮಾದರಿಗಳನ್ನು AI ಗುರುತಿಸುತ್ತದೆ. ಹೊಸ ದುರ್ಬಲತೆ, ಪ್ರೋಟೋಕಾಲ್-ನಿರ್ದಿಷ್ಟ ವ್ಯಾಪಾರ ತರ್ಕ ದೋಷ, ಅಥವಾ ಘಟಕಗಳ ವಿಶಿಷ್ಟವಾದ ಪರಸ್ಪರ ಕ್ರಿಯೆಯು AI ನ ಬ್ಲೈಂಡ್ ಸ್ಪಾಟ್ ಆಗಿದೆ. ಅತ್ಯಂತ ದುಬಾರಿ Web3 ದಾಳಿಗಳು ನಿಖರವಾಗಿ ಈ ವಿಶಿಷ್ಟ ದುರ್ಬಲತೆಗಳಿಂದ ಬರುತ್ತವೆ.
2. AI ಸುಳ್ಳು ಭರವಸೆ ನೀಡುತ್ತದೆ. AI ನಿರರ್ಗಳವಾಗಿ ಮತ್ತು ವಿಶ್ವಾಸದಿಂದ "ಈ ಕೋಡ್ ಸುರಕ್ಷಿತವಾಗಿ ಕಾಣುತ್ತದೆ" ಎಂದು ಹೇಳಬಹುದು - ತಪ್ಪಾಗಿದ್ದರೂ. ಈ "ಸುರಕ್ಷತೆಯ ಭ್ರಮೆ" ಸುರಕ್ಷತೆ-ನಿರ್ಣಾಯಕ ಪ್ರದೇಶದಲ್ಲಿ ಅತ್ಯಂತ ಅಪಾಯಕಾರಿ ಔಟ್ಪುಟ್ ಆಗಿದೆ; ಏಕೆಂದರೆ ಇದು ಭದ್ರತೆಯ ತಪ್ಪು ಪ್ರಜ್ಞೆಯನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.
3. AI ಅವಧಿ ಮೀರಿದೆ. AI ನ ಜ್ಞಾನವು ಶೈಕ್ಷಣಿಕ ಕಟ್ಆಫ್ ದಿನಾಂಕದಲ್ಲಿ ನಿಲ್ಲುತ್ತದೆ. ಇತ್ತೀಚಿನ ದಾಳಿಗಳು, ಇತ್ತೀಚಿನ ಲೈಬ್ರರಿ ಆವೃತ್ತಿಗಳು, ಇತ್ತೀಚಿನ ಅತ್ಯುತ್ತಮ ಅಭ್ಯಾಸಗಳು ಅದರ ಹಾರಿಜಾನ್ ಅನ್ನು ಮೀರಿವೆ. ಭದ್ರತೆಯು ಸದಾ ಬದಲಾಗುತ್ತಿರುವ ಜನಾಂಗ; ನಿನ್ನೆಯ ಮಾಹಿತಿ ಇಂದು ಸಾಕಾಗದೇ ಇರಬಹುದು.
4. AI ಜವಾಬ್ದಾರಿಯನ್ನು ತೆಗೆದುಕೊಳ್ಳುವುದಿಲ್ಲ. ಇದು ಬಹುಶಃ ಅತ್ಯಂತ ಮೂಲಭೂತ ಕಾರಣ. ಎಂಜಿನಿಯರಿಂಗ್ ಅನುಮೋದನೆಯು ಕೇವಲ ತಾಂತ್ರಿಕವಲ್ಲ ಆದರೆ ಕಾನೂನು ಮತ್ತು ನೈತಿಕ ಬದ್ಧತೆಯಾಗಿದೆ. ಯಂತ್ರವು ಈ ಬದ್ಧತೆಯನ್ನು ಮಾಡಲು ಸಾಧ್ಯವಿಲ್ಲ.
ಎಚ್ಚರಿಕೆ: ಭದ್ರತೆ-ನಿರ್ಣಾಯಕ ಔಟ್ಪುಟ್ನಲ್ಲಿ, ಪ್ರಶ್ನೆಯು "AI ಏನು ಹೇಳಿದೆ?" ಆದರೆ "ಈ ಔಟ್ಪುಟ್ ಅನ್ನು ಪರಿಶೀಲಿಸುವ, ಮೌಲ್ಯೀಕರಿಸುವ ಮತ್ತು ಹಿಂದೆ ನಿಂತಿರುವ ಸಮರ್ಥ ವ್ಯಕ್ತಿ ಯಾರು?" ಇರಬೇಕು. ಯಾವುದೇ ತಜ್ಞರಲ್ಲದ ಅನುಮೋದನೆ-AI ಅಥವಾ ಉಪಕರಣದ ಮೂಲಕ-ಆಶ್ವಾಸನೆ ಎಂದು ಪರಿಗಣಿಸಲಾಗುವುದಿಲ್ಲ.
ಲೇಯರ್ಡ್ ಪರಿಶೀಲನೆ: ಒಂದೇ ಬಗ್ಗಳು ಲೈವ್ ಆಗಿ ಸೋರಿಕೆಯಾಗುವುದನ್ನು ತಡೆಯುವುದು
ಜವಾಬ್ದಾರಿಯುತ ಕೆಲಸದ ಹರಿವು ಪ್ರತಿ ಹಂತದಲ್ಲೂ ಮಾನವ ಪರಿಶೀಲನೆ ಗೇಟ್ ಅನ್ನು ಇರಿಸುತ್ತದೆ. ನೀವು ಒಂದು ಬಾಗಿಲಿನ ಮೂಲಕ ಇನ್ನೊಂದು ಬಾಗಿಲಿನ ಮೂಲಕ ಹಾದುಹೋಗಲು ಸಾಧ್ಯವಿಲ್ಲ:
ಹಂತ
AI ಕೊಡುಗೆ
ಮಾನವ ಪರಿಶೀಲನೆ ಗೇಟ್
ಕಾಗುಣಿತ
ಕರಡು ಕೋಡ್
ನಿರ್ಮಾಣ + ಪರೀಕ್ಷೆ + ವಿಮರ್ಶೆ
ಸ್ಕ್ಯಾನ್
ಅಭ್ಯರ್ಥಿಯ ದುರ್ಬಲತೆ
ಸ್ಥಿರ ವಿಶ್ಲೇಷಣೆ + ಆಡಿಟರ್ ದೃಢೀಕರಣ
ಆಡಿಟ್
ಸಲಹೆ, ಕರಡು ವರದಿ
ಸಮರ್ಥ ಲೆಕ್ಕ ಪರಿಶೋಧಕರ ಸಹಿ
ಪರೀಕ್ಷೆ
ಸ್ಕ್ರಿಪ್ಟ್ ಡ್ರಾಫ್ಟ್
ಟೆಸ್ಟ್ನೆಟ್ + ಫಜಿಂಗ್ + ಸಿಮ್ಯುಲೇಶನ್
ವಿತರಣೆ
ಪರಿಶೀಲನಾಪಟ್ಟಿ
ಬಹು-ಸಹಿ ದೃಢೀಕರಣ + ಕ್ರಮೇಣ ನಿರ್ಗಮನ
ಮಾನಿಟರಿಂಗ್
ಅಸಂಗತ ಚಿಹ್ನೆ
ಮಾನವ ಪ್ರತಿಕ್ರಿಯೆ ಯೋಜನೆ
ಈ ಲೇಯರ್ಡ್ ರಚನೆಯು ಒಂದೇ AI ದೋಷವನ್ನು ಮೈನ್ನೆಟ್ಗೆ ಸೋರಿಕೆಯಾಗದಂತೆ ತಡೆಯುತ್ತದೆ. ಪ್ರತಿ ಬಾಗಿಲು ಸ್ಪಷ್ಟವಾದ ಪಾಸ್ ಸ್ಥಿತಿಯನ್ನು ಹೊಂದಿದೆ: ಪರೀಕ್ಷೆಯು ಉತ್ತೀರ್ಣವಾಗಿದೆಯೇ, ಲೆಕ್ಕಪರಿಶೋಧಕರು ಸಹಿ ಮಾಡಿದ್ದಾರೆಯೇ, ಸಿಮ್ಯುಲೇಶನ್ ಹಿಡಿದಿಟ್ಟುಕೊಂಡಿದೆಯೇ?
ದುರ್ಬಲ ವಿಧಾನ / ಬಲವಾದ ವಿಧಾನ
ದುರ್ಬಲ ವಿಧಾನ:
AI ಕೋಡ್ ಅನ್ನು ರಚಿಸಿದೆ, ಅದು ಸ್ವಚ್ಛವಾಗಿ ಕಾಣುತ್ತದೆ, ಅದನ್ನು ಮೇನ್ನೆಟ್ನಲ್ಲಿ ಇರಿಸೋಣ.
ಇದು ಬದಲಾಯಿಸಲಾಗದ ಪ್ರದೇಶದಲ್ಲಿನ ವಿಪತ್ತಿನ ಪಾಕವಿಧಾನವಾಗಿದೆ.
ಶಕ್ತಿಯುತ ವಿಧಾನ:
1. AI ಡ್ರಾಫ್ಟ್ ಅನ್ನು ತಯಾರಿಸಿದೆ → ನಾವು ಅದನ್ನು ಸಂಕಲಿಸಿದ್ದೇವೆ, ಪರೀಕ್ಷಿಸಿದ್ದೇವೆ.2. ಸ್ಥಿರ ವಿಶ್ಲೇಷಣೆ + AI ಸ್ಕ್ಯಾನ್ → ಆಡಿಟರ್ ದೃಢೀಕರಿಸಲಾಗಿದೆ.3. ಸ್ವತಂತ್ರ ಭದ್ರತಾ ಲೆಕ್ಕಪರಿಶೋಧನೆ → ಸಹಿ ಮಾಡಿದ ವರದಿ.4. ಟೆಸ್ಟ್ನೆಟ್ + ಫಜಿಂಗ್ + ಸಿಮ್ಯುಲೇಶನ್ → ಸನ್ನಿವೇಶಗಳು ಸಹಿಸಿಕೊಂಡಿವೆ.5. ಬಹು-ಸಹಿ, ಕ್ಯಾಸ್ಕೇಡಿಂಗ್ ಮೈನ್ನೆಟ್ ನಿರ್ಗಮನ + ಮಾನಿಟರಿಂಗ್. ಪ್ರತಿ ಬಂದರಿನಲ್ಲಿ: ಪರಿವರ್ತನೆಯ ಸ್ಥಿತಿಯನ್ನು ಪೂರೈಸುವವರೆಗೆ ಯಾವುದೇ ಪ್ರಗತಿಯಿಲ್ಲ.
ನಾಲ್ಕು ನಕಲಿಸಬಹುದಾದ ಟೆಂಪ್ಲೇಟ್ಗಳು
1) ಪರಿಶೀಲನೆ ಗೇಟ್ ನಿಯಂತ್ರಣ:
ಈ ಭದ್ರತೆ-ನಿರ್ಣಾಯಕ ಔಟ್ಪುಟ್ಗಾಗಿ ಮೌಲ್ಯೀಕರಣ ಪರಿಶೀಲನಾಪಟ್ಟಿಯನ್ನು ರಚಿಸಿ: ಯಾವ ಸ್ವತಂತ್ರ ಹಂತಗಳ ಮೂಲಕ (ಸಂಕಲನ, ಸ್ಥಿರ ವಿಶ್ಲೇಷಣೆ, ಆಡಿಟಿಂಗ್, ಪರೀಕ್ಷೆ, ಸಿಮ್ಯುಲೇಶನ್) ಅದನ್ನು ಮೌಲ್ಯೀಕರಿಸಬೇಕು? ಪ್ರತಿ ಹಂತಕ್ಕೂ ಪರಿವರ್ತನೆಯ ಸ್ಥಿತಿಯನ್ನು ಬರೆಯಿರಿ. ಒಂದು ಹಂತವನ್ನು ಬಿಟ್ಟುಬಿಟ್ಟರೆ ಯಾವ ಅಪಾಯ ಉಂಟಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ತಿಳಿಸಿ.
2) AI ಔಟ್ಪುಟ್ ವಿಶ್ವಾಸಾರ್ಹ ಮಟ್ಟದ ಲೇಬಲಿಂಗ್:
ಕೆಳಗಿನ AI-ಉತ್ಪಾದಿತ ಔಟ್ಪುಟ್ ಅನ್ನು ಪರಿಶೀಲಿಸಿ ಮತ್ತು ಪ್ರತಿ ಸಮರ್ಥನೆಯನ್ನು ಗುರುತಿಸಿ: “ಪರಿಶೀಲಿಸಲಾಗಿದೆ / ಪರಿಶೀಲಿಸಬೇಕು / AI ದೌರ್ಬಲ್ಯ ಪ್ರದೇಶ”. ವಿಶೇಷವಾಗಿ ವ್ಯಾಪಾರ ತರ್ಕ ಮತ್ತು ಅನನ್ಯ ಅಪಾಯವನ್ನು ಒಳಗೊಂಡಿರುವ ಮಾನವ ಪರಿಣತಿಯ ಅಗತ್ಯವಿರುವ ಅಂಶಗಳನ್ನು ಹೈಲೈಟ್ ಮಾಡಿ.
3) ತಜ್ಞರ ವರ್ಗಾವಣೆ ಟಿಪ್ಪಣಿ:
ಈ ಔಟ್ಪುಟ್ ಅನ್ನು ಸಮರ್ಥ ತಜ್ಞರಿಗೆ ಹಸ್ತಾಂತರಿಸಲು, ಸಾರಾಂಶವನ್ನು ತಯಾರಿಸಿ: AI ಏನು ಮಾಡಿದೆ, ಯಾವ ಊಹೆಗಳೊಂದಿಗೆ, ಎಲ್ಲಿ ಖಚಿತವಾಗಿಲ್ಲ, ತಜ್ಞರು ನಿರ್ದಿಷ್ಟವಾಗಿ ಎಲ್ಲಿ ದೃಢೀಕರಿಸಬೇಕು? ಜವಾಬ್ದಾರಿಯು ತಜ್ಞರ ಮೇಲಿದೆ ಎಂದು ಸ್ಪಷ್ಟಪಡಿಸಿ.
4) ಘಟನೆಯ ಪ್ರತಿಕ್ರಿಯೆಯ ತಯಾರಿ:
ಈ ಪ್ರೋಟೋಕಾಲ್ಗಾಗಿ ತುರ್ತು/ಘಟನೆಯ ಪ್ರತಿಕ್ರಿಯೆಯ ರೂಪರೇಖೆಯನ್ನು ತಯಾರಿಸಿ: ಒಂದು ಜೀವಿಯಲ್ಲಿ ದುರ್ಬಲತೆಯನ್ನು ದುರ್ಬಳಕೆ ಮಾಡಿಕೊಂಡರೆ ಯಾವ ಹಂತಗಳು (ಪ್ರತಿಬಂಧಕ ಅಧಿಕಾರ, ಸಂವಹನ, ನಿಧಿ ರಕ್ಷಣೆ) ಒಳಗೊಂಡಿರುತ್ತವೆ? ಇದು ಕರಡು; ತಂಡ ಮತ್ತು ತಜ್ಞರು ಮಾಪನಾಂಕ ನಿರ್ಣಯಿಸಬೇಕು.
ಮೂರು ಸಣ್ಣ ಪ್ರಕರಣಗಳು (ಸಂಖ್ಯೆಗಳಲ್ಲಿ)
ಪ್ರಕರಣ 1 - ಬಾಗಿಲು ಹಾರಿ ದುರಂತವನ್ನು ತಂದಿತು. ಸಮಯದ ಒತ್ತಡದಿಂದಾಗಿ, ತಂಡವು ಸ್ವತಂತ್ರ ಲೆಕ್ಕಪರಿಶೋಧನೆಯನ್ನು ಬಿಟ್ಟುಬಿಟ್ಟಿತು ಮತ್ತು AI + ಸ್ವಂತ ಪರೀಕ್ಷೆಗಳನ್ನು ಅವಲಂಬಿಸಿದೆ ಮತ್ತು ಮೈನ್ನೆಟ್ಗೆ ಹೋಯಿತು. 11 ದಿನಗಳ ನಂತರ ~$4M ಅನ್ನು ವ್ಯಾಪಾರ ತರ್ಕ ದೋಷದಿಂದ ತೆಗೆದುಹಾಕಲಾಗಿದೆ. ತಪಾಸಣೆ ಗೇಟ್ ಬಹುಶಃ ಇದನ್ನು ಹಿಡಿಯಬಹುದು. ಪಾಠ: ಭದ್ರತೆ-ನಿರ್ಣಾಯಕ ಪ್ರದೇಶದಲ್ಲಿ ಬಾಗಿಲನ್ನು ಬೈಪಾಸ್ ಮಾಡಬೇಡಿ.
ಪ್ರಕರಣ 2 - ಲೇಯರ್ಡ್ ದೃಢೀಕರಣವನ್ನು ಉಳಿಸಲಾಗಿದೆ. ಮತ್ತೊಂದು ತಂಡವು ಪ್ರತಿ ಗೇಟ್ ಅನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ: AI ಬ್ಲೂಪ್ರಿಂಟ್ → ಸ್ಥಿರ ವಿಶ್ಲೇಷಣೆ → ಆಡಿಟ್ → ಟೆಸ್ಟ್ನೆಟ್ → ಸಿಮ್ಯುಲೇಶನ್. ಆಡಿಟ್ ಹಂತದಲ್ಲಿ, ಮರುಪ್ರವೇಶ, ಒರಾಕಲ್ ಅಪಾಯವು ಸಿಮ್ಯುಲೇಶನ್ನಲ್ಲಿ ಸಿಕ್ಕಿಬಿದ್ದಿದೆ. ಇವೆರಡೂ ಮೈನ್ನೆಟ್ನ ಮೊದಲು ಮುಚ್ಚಲ್ಪಟ್ಟವು. ಪಾಠ: ಪದರಗಳು ಒಂದೇ ದೋಷಗಳನ್ನು ಸೋರಿಕೆಯಾಗದಂತೆ ತಡೆಯುತ್ತದೆ.
ಪ್ರಕರಣ 3 - "ಸುರಕ್ಷಿತ ಭ್ರಮೆ." ಡೆವಲಪರ್ ಕೋಡ್ ಬಗ್ಗೆ AI ಅನ್ನು ಕೇಳಿದರು; "ಯಾವುದೇ ಮಹತ್ವದ ಭದ್ರತಾ ಸಮಸ್ಯೆಗಳು ಕಂಡುಬರುತ್ತಿಲ್ಲ" ಎಂದು ಎಐ ಹೇಳಿದೆ. ತಂಡವು ಹೇಗಾದರೂ ಅದನ್ನು ತಪಾಸಣೆಗೆ ಕಳುಹಿಸಿತು ಮತ್ತು ಎರಡು ಉನ್ನತ ಮಟ್ಟದ ಸಂಶೋಧನೆಗಳು ಹೊರಹೊಮ್ಮಿದವು. ನಾವು AI ಅನ್ನು ನಂಬಿದ್ದರೆ, ಇಬ್ಬರೂ ಜೀವಂತವಾಗುತ್ತಿದ್ದರು. ಪಾಠ: AI ನ ಆತ್ಮವಿಶ್ವಾಸದ ಅಭಿವ್ಯಕ್ತಿಯು ದೃಢೀಕರಣವಲ್ಲ.
ಜವಾಬ್ದಾರಿಯುತ ಬಳಕೆಯ ತತ್ವಗಳು
ನಾವು ಈ ಮಾಡ್ಯೂಲ್ನ ಸಾರವನ್ನು ಆರು ತತ್ವಗಳಿಗೆ ಕಡಿಮೆ ಮಾಡಬಹುದು:
- ಮಾನವ ಜವಾಬ್ದಾರಿ: ಸುರಕ್ಷತೆ-ನಿರ್ಣಾಯಕ ಅಂತಿಮ ಅನುಮೋದನೆಯು ಸಮರ್ಥ ತಜ್ಞರ ಬಳಿ ಇರುತ್ತದೆ; AI ಅನ್ನು ಹೊಣೆಗಾರರನ್ನಾಗಿ ಮಾಡಲಾಗುವುದಿಲ್ಲ.
- ಲೇಯರ್ಡ್ ದೃಢೀಕರಣ: ಪ್ರತಿ ಹಂತದಲ್ಲೂ ಮಾನವ ಗೇಟ್ ಮತ್ತು ಪಾಸ್ ಸ್ಥಿತಿ.
- ರಕ್ಷಣಾತ್ಮಕ ಬಳಕೆ: ಮಾಹಿತಿಯನ್ನು ರಕ್ಷಿಸಲು ಮತ್ತು ನಿಯಂತ್ರಿಸಲು; ದುರ್ಬಳಕೆ / ಬಲೆಗೆ ಬೀಳಿಸಲು ಅಲ್ಲ.
- ಗೌಪ್ಯತೆ: ಅನುಮತಿಯಿಲ್ಲದೆ ಪರಿಕರಗಳನ್ನು ತೆರೆಯಲು ಗ್ರಾಹಕ ಕೋಡ್ ಮತ್ತು ಡೇಟಾವನ್ನು ನೀಡಲಾಗುವುದಿಲ್ಲ.
- ಪಾರದರ್ಶಕತೆ: AI ಬಳಕೆಯನ್ನು ವರದಿಯಲ್ಲಿ ಪ್ರಾಮಾಣಿಕವಾಗಿ ಹೇಳಲಾಗಿದೆ; ಯಾವುದೇ ಉತ್ಪ್ರೇಕ್ಷೆ ಅಥವಾ ಸುಳ್ಳು ಭರವಸೆ ನೀಡಲಾಗುವುದಿಲ್ಲ.
- ಪ್ರಾಮಾಣಿಕತೆ: ಹೂಡಿಕೆದಾರರು ಮತ್ತು ಬಳಕೆದಾರರು ತಪ್ಪುದಾರಿಗೆಳೆಯುವುದಿಲ್ಲ; ಅಪಾಯವನ್ನು ಮರೆಮಾಡಲಾಗಿಲ್ಲ, ಸಲಹೆಯನ್ನು ಮರೆಮಾಡಲಾಗಿಲ್ಲ.
ಸಲಹೆ: ಪ್ರತಿ ಭದ್ರತೆ-ನಿರ್ಣಾಯಕ ನಿರ್ಧಾರಕ್ಕೆ ನೀವೇ ಒಂದು ಪ್ರಶ್ನೆಯನ್ನು ಕೇಳಿಕೊಳ್ಳಿ: "ಇದು ತಪ್ಪಾಗಿದ್ದರೆ ಮತ್ತು ಹಣ ಕಳೆದುಹೋದರೆ, ಅದರ ಹಿಂದೆ ನಿಂತು ಜವಾಬ್ದಾರಿಯನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ಸಮರ್ಥ ಮಾನವ ಪರಿಶೀಲನೆ ಇದೆಯೇ?" ಉತ್ತರವು "ಇಲ್ಲ, AI ಹೀಗೆ ಹೇಳಿದೆ," ಪ್ರಕ್ರಿಯೆಯು ಅಪೂರ್ಣವಾಗಿರುತ್ತದೆ.
ಸಾಮಾನ್ಯ ತಪ್ಪುಗಳು
- ಸ್ವತಂತ್ರ ಆಡಿಟ್ ಗೇಟ್ ಅನ್ನು ಬೈಪಾಸ್ ಮಾಡುವುದು. ಇದು ಬದಲಾಯಿಸಲಾಗದ ಪ್ರದೇಶದಲ್ಲಿ ಕ್ಷಮಿಸುವುದಿಲ್ಲ.
- AI ನ ನಂಬಿಕೆಯ ಅಭಿವ್ಯಕ್ತಿಯನ್ನು ದೃಢೀಕರಣ ಎಂದು ತಪ್ಪಾಗಿ ಗ್ರಹಿಸುವುದು. "ಸುರಕ್ಷಿತ ಭ್ರಮೆ" ಅತ್ಯಂತ ಅಪಾಯಕಾರಿ.
- AI ಮೇಲೆ ಜವಾಬ್ದಾರಿಯನ್ನು ಹಾಕಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದೆ. ಜವಾಬ್ದಾರಿಯು ಸಹಿ ಮಾಡಿದ ತಜ್ಞರ ಮೇಲಿರುತ್ತದೆ.
- ಸಮಯಪ್ರಜ್ಞೆಯನ್ನು ಊಹಿಸಿ. ತರಬೇತಿ ಕಟ್ಆಫ್ ದಿನಾಂಕದ ನಂತರ AI ಗೆ ತಿಳಿದಿಲ್ಲ.
- ಸಮಯದ ಒತ್ತಡದಿಂದಾಗಿ ಬಾಗಿಲುಗಳನ್ನು ಕಡಿಮೆಗೊಳಿಸುವುದು. ಅತ್ಯಂತ ದುಬಾರಿ ದೋಷದ ಮೂಲ.
- ಘಟನೆಯ ಪ್ರತಿಕ್ರಿಯೆಯ ಯೋಜನೆ ಇಲ್ಲದೆ ಬಿಡಲಾಗುತ್ತಿದೆ. ಸೋರಿಕೆ ಸಂಭವಿಸಿದಾಗ, ಒಬ್ಬರು ಸಿದ್ಧವಾಗಿಲ್ಲ.
ಸಾರಾಂಶದಲ್ಲಿ
- ಬ್ಲಾಕ್ಚೈನ್ ಭದ್ರತೆ-ನಿರ್ಣಾಯಕವಾಗಿದೆ; ತಪ್ಪುಗಳು ಬದಲಾಯಿಸಲಾಗದವು ಮತ್ತು ನೇರವಾಗಿ ಹಣವಾಗಿ ಬದಲಾಗುತ್ತವೆ.
- AI ಮೂಲ ದೋಷವನ್ನು ನೋಡುವುದಿಲ್ಲ, ತಪ್ಪು ಭರವಸೆ ನೀಡುತ್ತದೆ, ಹಳೆಯದು ಮತ್ತು ಜವಾಬ್ದಾರಿಯನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ಸಾಧ್ಯವಿಲ್ಲ.
- ಅದಕ್ಕಾಗಿಯೇ ಅಂತಿಮ ಸುರಕ್ಷತೆ-ನಿರ್ಣಾಯಕ ಅನುಮೋದನೆಯು ಯಾವಾಗಲೂ ಸಮರ್ಥ ತಜ್ಞರ ಬಳಿ ಇರುತ್ತದೆ.
- ಲೇಯರ್ಡ್ ಪರಿಶೀಲನೆಯು ಪ್ರತಿ ಹಂತದಲ್ಲಿ ಮಾನವ ಗೇಟ್ ಅನ್ನು ಇರಿಸುವ ಮೂಲಕ ನೇರ ಪರಿಸರಕ್ಕೆ ಸೋರಿಕೆಯಾಗುವುದನ್ನು ತಡೆಯುತ್ತದೆ.
- ಜವಾಬ್ದಾರಿಯುತ ಬಳಕೆ: ಮಾನವ ಜವಾಬ್ದಾರಿ, ರಕ್ಷಣಾತ್ಮಕ ಉದ್ದೇಶ, ಗೌಪ್ಯತೆ, ಪಾರದರ್ಶಕತೆ ಮತ್ತು ಸಮಗ್ರತೆ.
ಅಪ್ಲಿಕೇಶನ್ ಕಾರ್ಯ
ಸ್ಮಾರ್ಟ್ ಒಪ್ಪಂದದ ಯೋಜನೆಯನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳಿ (ಅಥವಾ ನಿಜವಾದ ಉದಾಹರಣೆಯನ್ನು ತೆಗೆದುಕೊಳ್ಳಿ). ಐಡಿಯಾದಿಂದ ಮೈನ್ನೆಟ್ಗೆ ಸಂಪೂರ್ಣ ಪ್ರಯಾಣಕ್ಕಾಗಿ ಲೇಯರ್ಡ್ ಪರಿಶೀಲನಾ ಯೋಜನೆಯನ್ನು ಬರೆಯಿರಿ: ಪ್ರತಿ ಹಂತದಲ್ಲಿ AI ಏನು ಮಾಡುತ್ತದೆ, ಯಾವ ಮಾನವ ಗೇಟ್ ಇದೆ, ಪರಿವರ್ತನೆಯ ಸ್ಥಿತಿ ಏನು? ನಂತರ "ಸಮಯದ ಒತ್ತಡ" ಸನ್ನಿವೇಶವನ್ನು ಸೇರಿಸಿ: ಬೈಪಾಸ್ ಮಾಡಲು ಯಾವ ಬಾಗಿಲು ಹೆಚ್ಚು ಅಪಾಯಕಾರಿ ಮತ್ತು ಏಕೆ? ಘಟನೆಯ ಪ್ರತಿಕ್ರಿಯೆಯ ರೂಪರೇಖೆಯನ್ನು ಸಹ ಸೇರಿಸಿ.
ಪರಿಶೀಲನಾಪಟ್ಟಿ
- [ ] ಅಂತಿಮ ಭದ್ರತೆ-ನಿರ್ಣಾಯಕ ಅನುಮೋದನೆಯು ತಜ್ಞರ ಬಳಿ ಇರುತ್ತದೆ ಎಂದು ನಾನು ಒಪ್ಪಿಕೊಂಡೆ.
- [ ] ನಾನು ಪ್ರತಿ ಹಂತದಲ್ಲಿ ಮಾನವ ಪರಿಶೀಲನೆಯ ಗೇಟ್ ಅನ್ನು ಹಾಕುತ್ತೇನೆ.
- [ ] ನಾನು AI ನ ಆತ್ಮವಿಶ್ವಾಸದ ಅಭಿವ್ಯಕ್ತಿಯನ್ನು ದೃಢೀಕರಣವೆಂದು ಪರಿಗಣಿಸಲಿಲ್ಲ.
- [ ] ನಾನು ಸ್ವತಂತ್ರ ಆಡಿಟ್ ಬಾಗಿಲನ್ನು ಬೈಪಾಸ್ ಮಾಡಲಿಲ್ಲ.
- [ ] ನಾನು ಸಾಮಯಿಕತೆಯನ್ನು ಊಹಿಸಲಿಲ್ಲ; ನಾನು ಮಾನವನೊಂದಿಗೆ ಇತ್ತೀಚಿನ ಮಾಹಿತಿಯನ್ನು ದೃಢಪಡಿಸಿದೆ.
- [ ] ನಾನು AI ಮೇಲೆ ಜವಾಬ್ದಾರಿಯನ್ನು ಹಾಕಿಲ್ಲ.
- [ ] ನಾನು ಘಟನೆಯ ಪ್ರತಿಕ್ರಿಯೆ ಯೋಜನೆಯನ್ನು ಸಿದ್ಧಪಡಿಸಿದೆ.