سود:
- امکان ایجاد یک گردش کار سرتاسر که یک گیت تأیید هوش مصنوعی + انسانی را در هر مرحله از ایده تا شبکه اصلی قرار می دهد.
- امکان ایجاد چارچوب حاکمیتی با لیست ابزار تایید شده، طبقه بندی داده ها، نظم و انضباط گزارش و امنیت کلید خصوصی
- توانایی تعبیه اصول مسئولیت انسانی، حمایت، محرمانه بودن، شفافیت و صداقت در هر مرحله از گردش کار
در این بخش نهایی، ما همه بخشهای ماژول را در یک گردش کار منسجم ترکیب میکنیم: نحوه استفاده مسئولانه از هوش مصنوعی، از یک ایده، از طریق نوشتن قرارداد هوشمند، حسابرسی، تجزیه و تحلیل زنجیرهای، توکنومیک و دفاع از تقلب. ما همچنین ایجاد یک چارچوب حاکمیتی را به عنوان یک تیم یا متخصص مستقل - رشته انتخاب ابزار، طبقهبندی دادهها، ثبت و تأیید - و گنجاندن اصول اخلاقی در جریان کار را پوشش خواهیم داد.
گردش کار پایان به انتها: از ایده تا شبکه اصلی
سفر یک پروژه Web3 با هوش مصنوعی و تایید شده توسط انسان:
1. طراحی و توکنومیک. هوش مصنوعی گزینه های مکانیزم و طرح کلی توکنومیک را تولید می کند. اقتصاددان و تیم آن را با سناریوهای منفی شبیه سازی می کنند. Door: آیا شبیه سازی چند سناریویی ادامه داشت؟
2. املا. هوش مصنوعی چارچوب های آزمایش شده مبتنی بر کتابخانه و قالب های آزمایشی را تولید می کند. توسعه دهنده کامل می کند. دروازه: ساخت + تست + بررسی.
3. اسکن. ابزارهای تجزیه و تحلیل استاتیک + اسکن هوش مصنوعی برای الگوهای آسیب پذیری شناخته شده. گیت: آیا مثبت کاذب حذف شده و نامزدهای واقعی به حسابرس منتقل شده اند؟
4. حسابرسی. حسابرس مستقل مستقل با استفاده از هوش مصنوعی به عنوان دستیار، به طور کلی بررسی می کند. انسان ها منطق کسب و کار را ارزیابی می کنند. درب: گزارش بازرسی امضا شده.
5. آزمایش و شبیه سازی. شبکه آزمایشی، فازی سازی و شبیه سازی اقتصادی. درب: آیا سناریوها پابرجا بودند؟
6. مستندات. کاغذ سفید هوش مصنوعی، NatSpec و پیشنویسهای افشای ریسک منصفانه؛ انسان حقیقت را تأیید می کند. گیت: آیا ادعاهای فنی با کد مطابقت دارند؟
7. توزیع. تایید چند امضایی، خروج تدریجی شبکه اصلی. در: آیا طرح واکنش به حادثه آماده است؟
8. نظارت. نظارت بر روی زنجیره، ناهنجاریها را با هوش مصنوعی نشان میدهد. مردم دخالت کنند درب: چه کسی و چگونه در یک ناهنجاری مداخله خواهد کرد؟
نکته: این جریان را به یک چک لیست تقسیم کنید و بپرسید "چه کسی تایید می کند، شرط قبولی چیست؟" برای هر در ستون ها را پر کنید. نه یک "ok" شفاهی، بلکه انضباط کتبی درب باعث ایجاد تفاوت در منطقه حیاتی امنیتی می شود.
ایجاد چارچوب حاکمیتی
حسن نیت فردی کافی نیست. یک چارچوب قابل تکرار مورد نیاز است. حداقل حاکمیت برای یک تیم یا متخصص:
لیست خودروهای مورد تایید از کدام ابزارهای هوش مصنوعی و امنیتی می توان برای چه وظایفی استفاده کرد؟ کدام ابزار مجزا/تجاری برای کد خرید مرموز؟ رانندگی رایگان خطر نشت دارد.
طبقه بندی داده ها چه داده هایی را می توان به یک ابزار هوش مصنوعی باز (کد عمومی) داد و کدام داده را هرگز نمی توان داد (کد مشتری حسابرسی نشده، کلید خصوصی، داده های شخصی)؟ این تمایز باید به وضوح نوشته شود.
رشته ثبت نام (پیش حسابرسی). کدام خروجی توسط هوش مصنوعی تولید شده است و چه کسی آن را تأیید کرده است، ثبت شده است. این امر هم برای شفافیت و هم برای پاسخگویی ضروری است.
تأیید مستمر هیچ ادعای امنیتی تولید شده توسط هوش مصنوعی بدون تأیید انجام نمی شود. این باید یک فرهنگ باشد.
عنصر حکمرانی
سوال
هدف
خودروهای مورد تایید
کدام ابزار، کدام شغل؟
سازگاری، جلوگیری از نشت
طبقه بندی داده ها
چه چیزی را می توان و نمی توان داد؟
حریم خصوصی
نظم و انضباط ثبت نام
چه کسی آن را تولید کرد، چه کسی آن را تایید کرد؟
پاسخگویی
دروازه های اعتبار سنجی
شرایط انتقال چیست؟
امنیت
امنیت کلید و حریم خصوصی
یک هشدار حیاتی مخصوص Web3: کلید خصوصی (کلید مخفی که دسترسی به کیف پول و وجوه را فراهم می کند) و عبارت اولیه (کلمات بازیابی) تحت هیچ شرایطی در ابزار هوش مصنوعی، اعلان یا هر جایی آنلاین نوشته نمی شوند. این به معنای از دست دادن مستقیم سرمایه است. به همین ترتیب، کد مشتری حسابرسی نشده را نمی توان بدون اجازه در ابزارهای هوش مصنوعی باز جایگذاری کرد.
احتیاط: ایده ای مانند "اجازه دهید کلید خصوصی خود را به هوش مصنوعی بدهم و از آن بخواهم کیف پولم را مدیریت کند" فاجعه است. کلید خصوصی فقط در یک کیف پول امن، آفلاین یا سخت افزاری نگهداری می شود. هوش مصنوعی هرگز نباید کلیدی را ببیند.
رویکرد ضعیف / رویکرد قوی
رویکرد ضعیف:
هر کس باید از هر ابزار هوش مصنوعی که میخواهد استفاده کند، هر چیزی که پیش میآید. کد مشتری را در سریعترین ابزار قرار دهید و مستقیماً از خروجی استفاده کنید.
رویکرد قدرتمند:
لیستی از خودروهای تایید شده وجود دارد. کد مخفی فقط در خودروی ایزوله و با تایید مشتری. هر خروجی هوش مصنوعی از گیت تأیید عبور می کند و چه کسی آن را تأیید کرده است ضبط می شود. کلید خصوصی وارد هیچ وسیله نقلیه ای نمی شود. هر ادعای امنیتی نیاز به تأیید مستقل دارد.
چهار قالب قابل کپی
1) طرح دروازه گردش کار:
برای یک پروژه Web3 از ایده تا شبکه اصلی، یک برنامه گردش کار تأیید شده با هوش مصنوعی تولید کنید. برای هر مرحله: هوش مصنوعی چه می کند، دروازه انسان چیست، شرایط انتقال چیست؟ آن را با جدول ارائه دهید. به وضوح تأییدیه کارشناسی را در مورد مراحل حیاتی ایمنی اعلام کنید.
2) خط مشی طبقه بندی داده ها:
خط مشی «چه چیزی را می توان به هوش مصنوعی داد» برای تیم حسابرسی بنویسید: قوانین جداگانه برای کد عمومی، کد مشتری حسابرسی نشده، داده های شخصی، کلید خصوصی. برای هر دسته، «صادرات/ایزوله در وسیله نقلیه/هرگز» را مشخص کنید. دلایل خود را بنویسید
3) یادداشت شفافیت استفاده از هوش مصنوعی:
تهیه پیش نویس یادداشت شفافیت برای خروجی ممیزی/اسناد: هوش مصنوعی چگونه و در چه مرحله ای استفاده می شود. کدام خروجی به صورت انسانی تأیید شده است. که مسئولیت نهایی را بر عهده دارد صادق و سنجیده باشید.
4) واکنش و طرح ارتباطی حادثه:
پیش نویس یک طرح پاسخ برای یک حادثه امنیتی زنده در یک پروتکل: مراحل فنی (توقف، حفاظت از صندوق)، ارتباط (جامعه، کاربر)، پست (تحلیل، بازیابی). این یک پیش نویس است. تیم باید کالیبره شود. استفاده از زبان وحشت؛ شفاف و آرام باشید.
سه کیف کوچک (به تعداد)
مورد 1 - حاکمیت از نشت جلوگیری کرد. یک مؤسسه حسابرسی به لطف خط مشی طبقه بندی داده های خود، از چسباندن کد محرمانه مشتری به یک ابزار در دسترس عموم جلوگیری کرد (این خط مشی ابزار مجزا را الزامی می کرد). از نقض احتمالی قرارداد و نشت جلوگیری شد. درس: خط مشی نوشته شده خطاهای فردی را تشخیص می دهد.
مورد 2 - نظم و انضباط دروازه ثبات را به ارمغان آورد. یک تیم همان جریان 8 پورت را برای هر پروژه در یک سه ماهه 6 پروژه اعمال کرد. تعداد یافتههایی که قبل از حسابرسی به دست آمد، 40 درصد افزایش یافت، در حالی که تعداد حوادث پس از شبکه اصلی صفر بود. درس: چارچوب قابل تکرار کیفیت را استاندارد می کند.
مورد 3 - بازگشت از فاجعه کلیدی. توسعهدهندهای قصد داشت کلید خصوصی یک کیف پول آزمایشی را در هنگام اشکالزدایی در اعلان هوش مصنوعی بچسباند. او متوقف شد و کلید را چرخاند زیرا سیاست تیم آن را ممنوع کرده بود. اگر بودجه واقعی بود، فاجعه بود. درس: کلید وارد هیچ وسیله نقلیه ای نمی شود، بدون استثنا.
گنجاندن اخلاق در گردش کار
اخلاق چیزی نیست که بعداً اضافه شود، بلکه نظمی است که در هر مرحله از جریان تعبیه شده است:
- مسئولیت انسانی در هر درب حیاتی ایمنی است.
- هدف دفاعی: حفاظت و کنترل وسایل نقلیه. هرگز برای استثمار یا به دام انداختن.
- حریم خصوصی: اطلاعات و کلیدهای مشتری محافظت می شوند.
- شفافیت: استفاده از هوش مصنوعی صادقانه بیان شده است.
- صداقت: کاربران و سرمایه گذاران گمراه نمی شوند، ریسک ها پنهان نمی شوند.
- بی طرفی و تأیید: هر ادعایی به منبع نسبت داده می شود، تضاد منافع لحاظ می شود.
این اصول انتزاعی نیستند; در هر لحظه، در هر دری و در هر خروجی به تصمیمات ملموس تبدیل می شود. ماهیت این ماژول این است: هوش مصنوعی قدرت متخصص Web3 را افزایش می دهد. اما جای قضاوت، مسئولیت و اخلاق را نمی گیرد.
اشتباهات رایج
- فقدان یک نظم و انضباط کتبی گردش کار/ دروازه. یک "خوب" کلامی کافی نیست.
- کار بدون ابزارهای تایید شده و سیاست داده. خطر نشت.
- پنهان کردن استفاده از هوش مصنوعی خلاف اصل شفافیت است.
- دادن کلید خصوصی/کد مخفی به وسیله نقلیه. فاجعه آشکار
- پخش زنده بدون طرح واکنش به حادثه. عدم آمادگی در بحران
- در نظر گرفتن اخلاق به عنوان موضوعی که تا آخر باقی مانده است. اخلاق باید در هر مرحله تعبیه شود.
به طور خلاصه
- جریان انتها به انتها یک دروازه تأیید هوش مصنوعی + انسانی را در هر مرحله، از ایده گرفته تا نظارت، قرار می دهد.
- چارچوب حاکمیت: ابزارهای تایید شده، طبقه بندی داده ها، نظم و انضباط ورود به سیستم، تایید مستمر.
- کلید خصوصی و کد مخفی به هیچ ابزار هوش مصنوعی داده نمی شود. این یک قانون بدون استثنا است.
- اصول اخلاقی (مسئولیت، حمایت، رازداری، شفافیت، صداقت) در هر مرحله تعبیه شده است.
- هوش مصنوعی قدرت متخصص را افزایش می دهد. جای قضاوت، مسئولیت و اخلاق را نمی گیرد.
وظیفه کاربردی
یک "چارچوب استفاده از هوش مصنوعی وب 3" یک صفحه ای برای خود یا تیمتان بنویسید: (1) دروازه 8 مرحله ای از ایده به شبکه اصلی، (2) خط مشی طبقه بندی داده ها، (3) قوانین کلید/حریم خصوصی، (4) فهرست اصول اخلاقی. سپس یک کار واقعی را که در این ماژول آموختهاید (مثلاً ممیزی قرارداد) را با توجه به این چارچوب کاملاً برنامهریزی کنید و مشخص کنید که هوش مصنوعی در کدام مرحله قابل اعتمادتر است و کدام مرحله کمتر قابل اعتماد است.
چک لیست
- [ ] من یک رشته گیت دارم که از ایده تا شبکه اصلی نوشته شده است.
- [ ] من یک خط مشی تایید شده طبقه بندی خودرو و داده ها دارم.
- [ ] من این یک قانون گذاشته ام که کلید خصوصی/کد مخفی هرگز به وسیله نقلیه داده نخواهد شد.
- [ ] من به طور شفاف استفاده از هوش مصنوعی را مستند می کنم.
- [ ] من هر ادعای امنیتی را از گیت تأیید عبور می دهم.
- [ ] من یک طرح واکنش به حادثه دارم.
- [ ] من اصول اخلاقی را در هر مرحله گنجانده ام. من پذیرفته ام که مسئولیت بر عهده مردم است.
امتحان ماژول
1. کدام یک از موارد زیر دقیق ترین موقعیت یابی هوش مصنوعی در Blockchain و Web3 است؟
- الف) هوش مصنوعی می تواند ممیزی امنیتی را به تنهایی کامل کند و کد را مستقیماً به شبکه اصلی وارد کند
- ب) هوش مصنوعی در Web3 کار نمی کند. تمام کارها باید کاملاً با دست انجام شود
- ج) هوش مصنوعی یک مولد پیش نویس و دستیار شتاب دهنده است. تایید نهایی ایمنی حیاتی با کارشناس ذیصلاح می باشد✔
- د) از آنجایی که هوش مصنوعی از انسان عینی تر است، تصمیم گیری های امنیتی باید به آن واگذار شود.
توضیحات: در Web3، خطاهای نرم افزاری به طور غیر قابل برگشت مستقیماً به پول تبدیل می شوند. هوش مصنوعی؛ این یک دستیار شتاب دهنده است که پیش نویس ها را تولید می کند، الگوها را علامت گذاری می کند و پرس و جوها را می نویسد. در ممیزی های حیاتی ایمنی، حرف آخر بر عهده متخصص ذیصلاح است که مسئولیت حرفه ای را بر عهده می گیرد. سهم هوش مصنوعی با کاهش هزینه خطا افزایش می یابد.
2. ایمن ترین رویکرد برای ایجاد کدنویسی هوش مصنوعی در هنگام توسعه یک قرارداد هوشمند چیست؟
- الف) یک چارچوب بر اساس کتابخانه های آزمایش شده/تأیید شده تولید کنید، کامپایل، آزمایش و تأیید کنید با testnet ✔
- ب) نوشتن مکانیسم های امنیتی در هوش مصنوعی از ابتدا، به روشی منحصر به فرد
- ج) به محض کامپایل شدن کد، آن را ایمن در نظر بگیرید و مستقیماً به شبکه اصلی انتقال دهید.
- د) کنترل های دسترسی را به انتها بسپارید و فقط روی عملکرد تمرکز کنید
توضیح: چاپ امنیت از ابتدا خطرناک است. هوش مصنوعی ممکن است در کد امنیتی اصلی اشتباه کند و داده های آموزشی ممکن است قدیمی باشند. رویکرد صحیح این است که چارچوبی بر اساس کتابخانه های آزمایش شده و آزمایش شده (مثلاً OpenZeppelin) تولید شود، سپس با testnet بسازید، آزمایش کنید و تأیید کنید.
3. وقتی حسابرس از هوش مصنوعی در مورد یک قرارداد می پرسد و پاسخ می دهد که "به نظر نمی رسد مشکل امنیتی مهمی وجود داشته باشد" چگونه باید این را تفسیر کند؟
- الف) اکنون می توان کد را ایمن در نظر گرفت و ممیزی را می توان کوتاه کرد
- ب) حسابرسی مستقل دیگر ضروری نیست
- ج) نتیجه قطعی است زیرا هوش مصنوعی هر دسته را به طور کامل اسکن می کند.
- د) این یک تضمین نیست. ممکن است هوش مصنوعی خطاهای منطقی اصلی و تجاری را از دست بدهد، حسابرسی کل نگر همچنان مورد نیاز است ✔
توضیح: این واقعیت که هوش مصنوعی نمی تواند چیزی را پیدا کند، وجود آن را ثابت نمی کند. ادله غیبت فقدان دلیل نیست. هوش مصنوعی به ویژه آسیب پذیری های منحصر به فرد و خطاهای منطق تجاری را از دست می دهد. بیان روان "ایمن" تضمینی نیست و نیاز به کنترل همه جانبه را از بین نمی برد.
4. کدام یک از موارد زیر ضعیف ترین حوزه هوش مصنوعی در پویش آسیب پذیری است؟
- الف) علامت گذاری الگوهای شناخته شده و واضح مانند Reentrancy
- ب) آسیب پذیری های منطق تجاری MEV/Front-Running و پروتکل خاص ✔
- ج) توضیح خروجی ابزار تحلیل استاتیک به زبان ساده
- د) توابع گمشده کنترل دسترسی را فهرست کنید
توضیحات: هوش مصنوعی در اسکن الگوهای شناخته شده و بدون ابهام مانند ورود مجدد، کنترل دسترسی و عملیات اعداد صحیح قدرتمند است. با این حال، آسیب پذیری های منطق تجاری MEV/Front-Ring و پروتکل خاص، متنی و اغلب منحصر به فرد هستند. اینها نقطه کور هوش مصنوعی هستند و نیاز به تخصص و شبیه سازی انسانی دارند.
5. ایمن ترین و خطرناک ترین راه ها برای استفاده از هوش مصنوعی در تجزیه و تحلیل داده های زنجیره ای چیست؟
- الف) امن ترین کار چاپ یک کوئری استخراج داده است. خطرناک ترین چیز این است که مستقیماً از هوش مصنوعی داده های زنده را درخواست کنید و آن را تأیید نکنید
- ب) امن ترین کار این است که داده های زنده را مستقیماً از هوش مصنوعی درخواست کنید. نوشتن پرس و جو غیر ضروری است
- ج) هش ها و آدرس های تولید شده توسط هوش مصنوعی همیشه قابل اعتماد هستند، نیازی به تایید نیست.
- د) پیوند دادن نظرات به منبع اتلاف وقت است. یک خلاصه روان کافی است
توضیح: هوش مصنوعی به زنجیره زنده وابسته نیست. درخواست مستقیم تراکنش/آدرس از آن یک هش و آدرس ساختگی (توهم آمیز) ایجاد می کند. ایمن ترین استفاده، چاپ پرس و جو است (به عنوان مثال Dune SQL) که داده ها را از منبع خارج می کند زیرا منبع داده نتیجه را تولید می کند. تفسیر رایگان خطرناک است و هر عدد باید در بلاک اکسپلورر تایید شود.
6. چه نوع آسیبپذیریهایی در پروتکلهای DeFi پرهزینهتر هستند و چرا برای هوش مصنوعی چالش برانگیز هستند؟
- الف) فقط اشتباهات املایی / تالیفی؛ هوش مصنوعی اینها را به راحتی می گیرد
- ب) فقط خطاهای رابط؛ طراحی اقتصادی ربطی به آن ندارد
- ج) شکاف های منطق اقتصادی/تجاری؛ حتی اگر کد به درستی کار کند، پروتکل را می توان از نظر اقتصادی مورد سوء استفاده قرار داد و هوش مصنوعی این را از دست می دهد ✔
- د) فقط اشتباهات املایی؛ به طور قطع با در نظر گرفتن امنیت اقتصادی ثابت شده است، نیازی به شبیه سازی نیست
توضیح: در DeFi، گران ترین اکسپلویت ها معمولاً نه از خطای فنی کد، بلکه از قابلیت بهره برداری منطق اقتصادی/تجاری (دستکاری اوراکل، اعوجاج قیمت وام فلش، سوء استفاده از انگیزه) ناشی می شوند. حتی اگر کد از نظر فنی "درست" کار کند، پروتکل را می توان از نظر اقتصادی فریب داد. در حالی که هوش مصنوعی در اسکن کدهای استاندارد خوب است، اغلب نمی تواند این آسیب پذیری های اقتصادی متنی و منحصر به فرد را ببیند. اینها نیاز به شبیه سازی و تخصص انسانی دارند.
7. خطرناک ترین اشتباه هوش مصنوعی در مدل سازی توکنومیک چیست و چگونه از آن اجتناب کنیم؟
- الف) بدبین بودن بیش از حد؛ راه حل اضافه کردن مفروضات خوش بینانه تر است
- ب) سناریویسم مجرد/خوشبینانه; راه حل تست استرس با سناریوهای منفی و اعتبارسنجی با شبیه سازی ✔
- ج) جداول بیش از حد تولید می کند. راه حل حذف جداول است
- د) عدم تهیه جدول توزیع. راه حل این است که توزیع را به هیچ وجه مدل نکنید
توضیح: هوش مصنوعی معمولاً یک سناریوی واحد و خوشبینانه را در نظر می گیرد که در آن قیمت همیشه افزایش می یابد، کاربر همیشه افزایش می یابد. این باعث می شود مدل های ناپایدار "پایدار" به نظر برسند و منجر به فروپاشی شوند. این معیار آزمایش استرس مدل با سناریوهای نامطلوب (بازار خرس، فرار شکارچی فضل، فروش نهنگ) و تأیید محاسبات انتشار با یک شبیهسازی واقعی است.
8. یک راهنمای کاربری که توسط هوش مصنوعی تهیه شده است میگوید «هر زمان که بخواهید وجوه شما قابل برداشت است»، اما یک قفل 7 روزه در قرارداد وجود دارد. این وضعیت نشان دهنده چیست؟
- الف) اشکالی ندارد. اگر سند روان باشد، می توان آن را همانطور که هست منتشر کرد
- ب) کد اشتباه است، سند صحیح است. کد باید مطابق با سند باشد
- ج) کاربر به هر حال به سند نگاه نمی کند. اختلاف بی ربط است
- د) سند با کد در تضاد است. هر ادعای فنی باید با کد واقعی تایید شود، اسناد نادرست کاربر را گمراه می کند ✔
توضیحات: مستندات کد را توصیف می کند. این خود کد نیست. هوش مصنوعی ممکن است رفتار واقعی کد را نادرست نشان دهد، که کاربر را گمراه می کند و به یک مشکل امنیتی تبدیل می شود. به همین دلیل است که هر ادعای فنی باید با کد واقعی تأیید شود. اسناد نادرست می تواند حتی خطرناک تر از کد صحیح باشد زیرا کاربر به اسناد اعتماد دارد.
9. هنگامی که هوش مصنوعی یک قرارداد رمزی را اسکن می کند و یک "پرچم قرمز" را علامت گذاری می کند (مثلاً مالک می تواند انتقال را متوقف کند) چگونه باید عمل کرد؟
- الف) پرچم به منبع متصل است و با زمینه و قضاوت انسانی آن ارزیابی می شود. از قضاوت نهایی / تهمت پرهیز می شود ✔
- ب) قرارداد قطعاً تقلب اعلام و بلافاصله اعلام می شود
- ج) از آنجایی که هوش مصنوعی پرچم را تعیین می کند، نیازی به تأیید بیشتر نیست
- د) پرچم نادیده گرفته می شود. امتیازات مالک هرگز خطری ایجاد نمی کند
توضیحات: هوش مصنوعی در نشان دادن الگوهای تقلب شناخته شده مفید است، اما نمی تواند قضاوت قطعی کند. برخی از قراردادهای مشروع (مثلاً با حاکمیت چند امضایی محافظت می شوند) ممکن است دارای قدرت توقف نیز باشند. هر پرچم باید به منبع (کد/زنجیره) مرتبط باشد و با زمینه و قضاوت انسانی آن ارزیابی شود. باید از زبان معتدل استفاده شود و از اتهامات تایید نشده (تهمت) پرهیز شود.
10. «بسیار حیاتی» بودن بلاک چین مستقیماً با کدام یک از دلایلی که خروجی هوش مصنوعی نمی تواند جایگزین تأیید متخصص شود، مرتبط است؟
- الف) هوش مصنوعی را نمی توان در عمل به کار برد زیرا بسیار کند عمل می کند
- ب) زیرا هوش مصنوعی همیشه خطاهای کامپایل تولید می کند
- ج) هوش مصنوعی به دلیل عدم مشاهده خطای اصلی، اطمینان کاذب، به روز نبودن و عدم مسئولیت پذیری نمی تواند ریسک غیر قابل برگشت را پوشش دهد.
- د) هوش مصنوعی را نمی توان در پروژه های ترکی استفاده کرد زیرا فقط به زبان انگلیسی کار می کند.
توضیح: خطاها در یک منطقه حیاتی امنیتی غیرقابل برگشت هستند و مستقیماً منجر به زیان جدی (میلیون ها دلار) می شوند. هوش مصنوعی نمیتواند خطای اصلی/مطالبی را ببیند، میتواند با زبانی روان اطمینان کاذب بدهد، دوره بعد از تاریخ پایان آموزش را نمیداند و مهمتر از همه، نمیتواند مسئولیتی را بر عهده بگیرد. تاییدیه مهندسی یک تعهد فنی، قانونی و اخلاقی است. یک ماشین نمی تواند این تعهد را انجام دهد، بنابراین تایید نهایی با کارشناس ذیصلاح است.
11. موثرترین راه برای محافظت از پروژه Web3 حیاتی از نظر امنیتی در برابر یک باگ AI که به شبکه اصلی نشت می کند چیست؟
- الف) واگذاری کل فرآیند به یک ابزار هوش مصنوعی و نگاهی به پایان
- ب) تایید لایه ای را اجرا کنید که در هر مرحله یک گیت و شرایط پاس انسانی قرار می دهد ✔
- ج) دور زدن دروازه حسابرسی مستقل برای صرفه جویی در زمان
- د) هر توسعه دهنده ای آزاد است که از ابزار خود بدون نگهداری هیچ گزارشی استفاده کند
توضیح: در راستیآزمایی لایهای، در هر مرحله (نوشتن، اسکن، ممیزی، آزمایش/شبیهسازی، استقرار، نظارت)، یک گیت تأیید انسانی و یک شرط پاس واضح (آیا آزمون قبول شد، آیا حسابرس امضا کرد، آیا شبیهسازی نگه داشته شد) قرار میگیرد. شما نمی توانید از یک در بدون عبور از در دیگری عبور کنید. این ساختار لایه ای از نشت یک خطای هوش مصنوعی به افراد زنده جلوگیری می کند.
12. قانون تغییرناپذیر در مورد کلید خصوصی یا عبارت seed هنگام کمک گرفتن از هوش مصنوعی در حین اشکال زدایی چیست؟
- الف) فقط کلیدهای تست کیف پول را می توان آزادانه به اشتراک گذاشت
- ب) اگر کلید رمزگذاری شده باشد، می توان آن را در اختیار هوش مصنوعی قرار داد
- ج) وقتی هوش مصنوعی قابل اعتماد باشد، مدیریت کیف پول را می توان به آن واگذار کرد
- د) کلید خصوصی و عبارت seed را نمی توان تحت هیچ شرایطی در هیچ ابزار هوش مصنوعی یا درخواستی وارد کرد ✔
توضیحات: کلید خصوصی و عبارات seed کل دسترسی به کیف پول و وجوه است. تحت هیچ شرایطی اینها در ابزار هوش مصنوعی، سریع یا هر مکان آنلاین دیگری نوشته نمیشوند. در غیر این صورت خطر از دست دادن مستقیم و غیرقابل جبران وجوه وجود دارد. کلیدها فقط در یک کیف پول امن و ترجیحا آفلاین/سختافزاری نگهداری میشوند.
13. بهترین رویکرد حاکمیتی برای تنظیم استفاده از هوش مصنوعی با کد مشتری محرمانه در یک موسسه حسابرسی چیست؟
- الف) کد محرمانه را فقط در خودروی ایزوله و با تایید مشتری، با خط مشی طبقه بندی داده پردازش کنید
- ب) چسباندن کد مخفی در هر ابزار عمومی برای سریعترین نتایج
- ج) مهم نیست که کد مخفی باشد. هر ابزاری برای هر داده ای رایگان است
- د) حتی در صورت وجود نشت، اقدامات احتیاطی غیرضروری است زیرا مسئولیت مربوط به ارائه دهنده هوش مصنوعی است.
توضیح: چسباندن کد مشتری منتشر نشده (منبع بسته) در ابزار هوش مصنوعی عمومی بدون اجازه، نقض قرارداد و خطر نشت است. حکمرانی صحیح؛ تنظیم قوانین جداگانه برای کد عمومی، کد مشتری محرمانه، داده های شخصی و کلید خصوصی با خط مشی طبقه بندی داده ها، پردازش کد محرمانه فقط در ابزارهای ایزوله/سازمانی و با تایید مشتری.