سير العمل الشامل والحوكمة والتحقق والأخلاق

المكاسب:

• القدرة على إنشاء سير عمل شامل يضع بوابة تحقق بشرية تعمل بالذكاء الاصطناعي + في كل مرحلة بدءًا من الفكرة وحتى الشبكة الرئيسية
• القدرة على إنشاء إطار حوكمة بقائمة الأدوات المعتمدة وتصنيف البيانات ونظام التسجيل وأمن المفتاح الخاص
• القدرة على تضمين مبادئ المسؤولية الإنسانية والدعوة والسرية والشفافية والنزاهة في كل خطوة من سير العمل

في هذه الوحدة النهائية، نقوم بدمج جميع أجزاء الوحدة في سير عمل واحد متماسك: كيفية استخدام الذكاء الاصطناعي بشكل مسؤول من البداية إلى النهاية، بدءًا من الفكرة، من خلال كتابة العقود الذكية، والتدقيق، والتحليل على السلسلة، وعلم الرموز والدفاع عن الاحتيال. سنغطي أيضًا إنشاء إطار للحوكمة كفريق أو خبير مستقل - نظام اختيار الأدوات وتصنيف البيانات والتسجيل والتحقق - وتضمين المبادئ الأخلاقية في سير العمل.

سير العمل الشامل: من الفكرة إلى الشبكة الرئيسية

الرحلة المدعومة بالذكاء الاصطناعي والتي تم التحقق منها بواسطة الإنسان لمشروع Web3:

1. التصميم والاقتصاد الرمزي. يقوم الذكاء الاصطناعي بإنشاء خيارات الآلية والمخطط الرمزي؛ الخبير الاقتصادي وفريق العمل يحاكيها بسيناريوهات سلبية. الباب: هل صمدت محاكاة السيناريوهات المتعددة؟

2. التهجئة. يقوم الذكاء الاصطناعي بإنشاء أطر عمل مستندة إلى المكتبات وقوالب اختبار؛ يكمل المطور. البوابة: بناء + اختبار + مراجعة.

3. المسح. أدوات التحليل الثابت + فحص الذكاء الاصطناعي لأنماط الثغرات المعروفة. البوابة: هل تم حذف النتائج الإيجابية الكاذبة وتم تحويل المرشحين الحقيقيين إلى المدقق؟

4. التدقيق. يقوم المدقق المختص المستقل بإجراء الفحص الشامل باستخدام الذكاء الاصطناعي كمساعد؛ يقوم البشر بتقييم منطق الأعمال. الباب: تقرير التفتيش الموقع.

5. الاختبار والمحاكاة. Testnet والمحاكاة الاقتصادية. الباب: هل صمدت السيناريوهات؟

6. التوثيق. ورقة عمل الذكاء الاصطناعي وNatSpec ومسودات الكشف عن المخاطر العادلة؛ الإنسان يؤكد الحقيقة. البوابة: هل تتطابق المطالبات الفنية مع الكود؟

7. التوزيع. تأكيد التوقيع المتعدد، والخروج التدريجي من الشبكة الرئيسية. الباب: هل خطة الاستجابة للحوادث جاهزة؟

8. المراقبة. تشير المراقبة على السلسلة إلى وجود حالات شاذة باستخدام الذكاء الاصطناعي؛ يتدخل الناس. الباب: من سيتدخل في حالة الشذوذ وكيف؟

نصيحة: قم بتقسيم هذا التدفق إلى قائمة مرجعية واسأل "من يوافق، ما هو شرط النجاح؟" لكل باب. املأ الأعمدة. ليست كلمة "موافق" شفهية ولكن انضباط الباب المكتوب يُحدث فرقًا في المجال الأمني ​​الحرج.

إنشاء إطار للحوكمة

حسن النية الفردية لا يكفي؛ مطلوب إطار قابل للتكرار. الحد الأدنى من الإدارة لفريق أو متخصص:

قائمة المركبات المعتمدة ما هي أدوات الذكاء الاصطناعي والأمان التي يمكن استخدامها لأية مهام؟ ما هي الأداة المعزولة/المؤسسية لرمز التسوق الخفي؟ القيادة الحرة هي خطر التسربات.

تصنيف البيانات. ما هي البيانات التي يمكن تقديمها لأداة الذكاء الاصطناعي المفتوحة (الرمز العام) والتي لا يمكن تقديمها أبدًا (رمز العميل غير المدقق، المفتاح الخاص، البيانات الشخصية)؟ وينبغي أن يكون هذا التمييز مكتوبا بوضوح.

نظام التسجيل (مسار التدقيق). يتم تسجيل المخرجات التي تم إنتاجها بواسطة الذكاء الاصطناعي ومن تحقق منها. وهذا ضروري لكل من الشفافية والمساءلة.

التحقق المستمر. لا يتم تقديم أي مطالبة أمنية صادرة عن منظمة العفو الدولية دون التحقق منها؛ يجب أن تكون هذه ثقافة.

عنصر الحوكمة

سؤال

الغرض

المركبات المعتمدة

أي أداة وأي وظيفة؟

الاتساق، ومنع التسرب

تصنيف البيانات

ما الذي يمكن وما لا يمكن تقديمه؟

الخصوصية

انضباط التسجيل

ومن أنتجه ومن أكد ذلك؟

المساءلة

بوابات التحقق

ما هو شرط التحول؟

حماية

أمن المفتاح والخصوصية

تحذير بالغ الأهمية خاص بـ Web3: لا تتم كتابة المفتاح الخاص (المفتاح السري الذي يوفر الوصول إلى المحفظة والأموال) والعبارة الأولية (كلمات الاسترداد) تحت أي ظرف من الظروف في أداة الذكاء الاصطناعي أو المطالبة أو في أي مكان عبر الإنترنت. وهذا يعني خسارة مباشرة للأموال. وبالمثل، لا يمكن لصق كود العميل غير المدقق في أدوات الذكاء الاصطناعي المفتوحة دون إذن.

تحذير: فكرة مثل "دعني أعطي الذكاء الاصطناعي مفتاحي الخاص وأطلب منه إدارة محفظتي" هي فكرة كارثية. يتم الاحتفاظ بالمفتاح الخاص فقط في محفظة آمنة أو غير متصلة بالإنترنت أو في محفظة الأجهزة. لا ينبغي للذكاء الاصطناعي رؤية المفتاح أبدًا.

نهج ضعيف / نهج قوي

منهج ضعيف:

يجب على الجميع استخدام أي أداة ذكاء اصطناعي يريدونها، مهما كانت متوفرة. الصق رمز العميل في أسرع أداة واستخدم الإخراج مباشرة.

نهج قوي:

هناك قائمة بالمركبات المعتمدة. الرمز السري فقط في السيارة المعزولة وبموافقة العميل. يمر كل مخرج للذكاء الاصطناعي عبر بوابة التحقق ويتم تسجيل من قام بالتحقق منه. المفتاح الخاص لا يدخل أي مركبة. تتطلب كل مطالبة أمنية تأكيدًا مستقلاً.

أربعة قوالب قابلة للنسخ

1) خطة بوابة سير العمل:

قم بإنتاج خطة سير عمل مدعومة بالذكاء الاصطناعي ويمكن التحقق منها بواسطة الإنسان لمشروع Web3 بدءًا من الفكرة وحتى الشبكة الرئيسية. لكل مرحلة: ماذا يفعل الذكاء الاصطناعي، ما هي بوابة الإنسان، ما هي حالة الانتقال؟ قدمها مع طاولة. اذكر بوضوح موافقة الخبراء على الخطوات الحاسمة للسلامة.

2) سياسة تصنيف البيانات:

اكتب سياسة "ما يمكن تقديمه للذكاء الاصطناعي" لفريق التدقيق: قواعد منفصلة للكود العام، وكود العميل غير المدقق، والبيانات الشخصية، والمفتاح الخاص. حدد "قابل للتصدير/معزول في السيارة/مطلقًا" لكل فئة. اكتب أسبابك.

3) ملاحظة شفافية استخدام الذكاء الاصطناعي:

إنتاج مسودة مذكرة شفافية لمخرجات التدقيق/التوثيق: كيف وفي أي مرحلة يتم استخدام الذكاء الاصطناعي؛ ما هو الناتج الذي تم التحقق منه إنسانيًا؟ الذي يتحمل المسؤولية النهائية. كن صادقًا ومقاسًا.

4) الاستجابة للحوادث وخطة الاتصال:

قم بصياغة خطة استجابة لحادث أمني مباشر في بروتوكول: الخطوات الفنية (التوقف، حماية الأموال)، التواصل (المجتمع، المستخدم)، النشر (التحليل، التعافي). هذه مسودة؛ يجب على الفريق المعايرة. استخدام لغة الذعر؛ كن واضحا وهادئا.

ثلاث حالات صغيرة (بالأرقام)

الحالة 1 - الحوكمة تمنع التسرب. منعت إحدى شركات التدقيق مدققًا من لصق رمز العميل السري في أداة متاحة للجمهور بفضل سياسة تصنيف البيانات الخاصة بها (السياسة تفرض الأداة المعزولة). تم منع حدوث خرق محتمل للعقد والتسرب. الدرس المستفاد: السياسة المكتوبة تكتشف الخطأ الفردي.

الحالة الثانية: انضباط البوابة أدى إلى الاتساق. قام فريق واحد بتطبيق نفس التدفق المكون من 8 منافذ على كل مشروع في ربع السنة المكون من 6 مشاريع. ارتفع عدد النتائج التي تم اكتشافها قبل التدقيق بنسبة 40%، في حين كان عدد الحوادث بعد الشبكة الرئيسية صفرًا. الدرس: الإطار القابل للتكرار يوحد الجودة.

الحالة 3 - العودة من الكارثة الرئيسية. كان أحد المطورين على وشك لصق المفتاح الخاص لمحفظة اختبارية في موجه الذكاء الاصطناعي أثناء تصحيح الأخطاء؛ لقد أوقف وأدار المفتاح لأن سياسة الفريق حظرت ذلك. لو كان التمويل حقيقيا لكانت كارثة. الدرس المستفاد: المفتاح لا يدخل إلى أي مركبة، ولا استثناءات.

تضمين الأخلاقيات في سير العمل

الأخلاق ليست عنصرًا يُضاف لاحقًا، ولكنها نظام مضمن في كل خطوة من خطوات التدفق:

• المسؤولية الإنسانية موجودة عند كل باب مهم للسلامة.
• الغرض الدفاعي: حماية المركبات والسيطرة عليها؛ أبدا للاستغلال أو الفخ.
• الخصوصية: بيانات العملاء ومفاتيحهم محمية.
• الشفافية: يتم ذكر استخدام الذكاء الاصطناعي بأمانة.
• الصدق: لا يتم تضليل المستخدمين والمستثمرين، ولا يتم إخفاء المخاطر.
• الحياد والتحقق: يتم نسب كل ادعاء إلى المصدر، مع مراعاة تضارب المصالح.

هذه المبادئ ليست مجردة. إنها تتحول إلى قرارات ملموسة عند كل موجه، وعند كل باب، وعند كل مخرج. جوهر هذه الوحدة هو: الذكاء الاصطناعي يزيد من قوة خبير Web3؛ لكنه لا يحل محل الحكم والمسؤولية والأخلاق.

الأخطاء الشائعة

• عدم وجود نظام مكتوب لسير العمل/البوابة. "حسنا" اللفظية ليست كافية.
• العمل بدون أدوات وسياسة بيانات معتمدة. خطر التسرب.
• إخفاء استخدام الذكاء الاصطناعي. وهو مخالف لمبدأ الشفافية.
• إعطاء المفتاح الخاص/الرمز السري للمركبة. كارثة صريحة.
• البث المباشر بدون خطة للاستجابة للحوادث. عدم الاستعداد في الأزمات.
• اعتبار الأخلاق بندًا متروكًا للنهاية. يجب أن تكون الأخلاق جزءا لا يتجزأ من كل خطوة.

باختصار

• يضع التدفق الشامل بوابة تحقق بشرية تعمل بالذكاء الاصطناعي + في كل مرحلة، بدءًا من الفكرة وحتى المراقبة.
• إطار الحوكمة: الأدوات المعتمدة، تصنيف البيانات، انضباط التسجيل، التحقق المستمر.
• لا يتم إعطاء المفتاح الخاص والرمز السري لأي أداة من أدوات الذكاء الاصطناعي؛ وهذه القاعدة بلا استثناء.
• يتم تضمين المبادئ الأخلاقية (المسؤولية، والدعوة، والسرية، والشفافية، والصدق) في كل خطوة.
• يعمل الذكاء الاصطناعي على تضخيم قوة الخبير؛ ولا يحل محل الحكم والمسؤولية والأخلاق.

مهمة التطبيق

اكتب "إطار استخدام Web3 AI" من صفحة واحدة لنفسك أو لفريقك: (1) بوابة مكونة من 8 مراحل من الفكرة إلى الشبكة الرئيسية، (2) سياسة تصنيف البيانات، (3) قواعد المفاتيح/الخصوصية، (4) قائمة المبادئ الأخلاقية. ثم قم بالتخطيط الدقيق لمهمة حقيقية تعلمتها في هذه الوحدة (مثل تدقيق العقد) وفقًا لهذا الإطار وحدد الخطوة الأكثر موثوقية للذكاء الاصطناعي والأقل موثوقية.

قائمة مرجعية

• [ ] لدي نظام بوابة مكتوب من الفكرة إلى الشبكة الرئيسية.
• [ ] لدي سياسة معتمدة لتصنيف المركبات والبيانات.
• [ ] لقد جعلت من القاعدة عدم إعطاء المفتاح الخاص/الرمز السري للمركبة أبدًا.
• [ ] أقوم بتوثيق استخدام الذكاء الاصطناعي بشفافية.
• [ ] أقوم بتمرير كل مطالبة أمنية عبر بوابة التحقق.
• [ ] لدي خطة للاستجابة للحوادث.
• [ ] لقد قمت بتضمين المبادئ الأخلاقية في كل خطوة؛ لقد تبنيت أن المسؤولية تقع على عاتق الناس.

امتحان الوحدة

1. أي مما يلي هو الموضع الأكثر دقة للذكاء الاصطناعي في Blockchain وWeb3؟

• أ) يمكن للذكاء الاصطناعي إكمال التدقيق الأمني من تلقاء نفسه واستيراد الكود مباشرة إلى الشبكة الرئيسية
• ب) الذكاء الاصطناعي لا يعمل على Web3؛ يجب أن يتم كل العمل يدويًا بالكامل
• ج) الذكاء الاصطناعي هو مولد مسودة ومساعد مسرع؛ الموافقة النهائية لضرورة السلامة تكون عند الخبير المختص ✔
• د) بما أن الذكاء الاصطناعي أكثر موضوعية من البشر، فيجب ترك القرارات الأمنية له.

الوصف: في Web3، تتحول أخطاء البرامج بشكل لا رجعة فيه إلى أموال مباشرة. الذكاء الاصطناعي؛ إنه مساعد مسرع يقوم بإنشاء المسودات ووضع علامات على الأنماط وكتابة الاستعلامات. في عمليات التدقيق الحرجة للسلامة، الكلمة الأخيرة تقع على عاتق الخبير المختص الذي يتحمل المسؤولية المهنية؛ تزداد مساهمة الذكاء الاصطناعي مع انخفاض تكلفة الخطأ.

2. ما هو النهج الأكثر أمانًا لجعل الذكاء الاصطناعي يكتب التعليمات البرمجية عند تطوير عقد ذكي؟

• أ) قم بإنتاج إطار عمل يعتمد على المكتبات التي تم اختبارها/التحقق منها، وتجميعها واختبارها والتحقق منها باستخدام testnet ✔
• ب) كتابة آليات الأمان في الذكاء الاصطناعي من الصفر، بطريقة فريدة
• ج) بمجرد تجميع الكود، اعتبره آمنًا وانقله مباشرة إلى الشبكة الرئيسية.
• د) اترك عناصر التحكم في الوصول إلى النهاية وركز فقط على الوظائف

شرح: طباعة الأمان من البداية أمر محفوف بالمخاطر؛ قد يرتكب الذكاء الاصطناعي أخطاء في رمز الأمان الأصلي وقد تكون بيانات التدريب قديمة. النهج الصحيح هو إنتاج إطار عمل بناءً على مكتبات مجربة ومختبرة (مثل OpenZeppelin)، ثم البناء والاختبار والتحقق باستخدام testnet.

3. كيف يجب على المدقق تفسير ذلك عندما يسأل الذكاء الاصطناعي عن عقد ويتلقى الإجابة بأنه "لا يبدو أن هناك مشكلة أمنية كبيرة"؟

• أ) يمكن الآن اعتبار الكود آمنًا ويمكن اختصار عملية التدقيق
• ب) لم تعد المراجعة المستقلة ضرورية
• ج) النتيجة مؤكدة لأن الذكاء الاصطناعي يقوم بمسح كل فئة بشكل كامل.
• د) هذا ليس ضمانًا؛ قد يفتقد الذكاء الاصطناعي الأخطاء الأصلية وأخطاء منطق الأعمال، ولا يزال التدقيق الشامل مطلوبًا ✔

الشرح: حقيقة عدم قدرة الذكاء الاصطناعي على العثور على شيء ما لا تثبت عدم وجوده؛ دليل الغياب ليس عدم وجود دليل. يفتقد الذكاء الاصطناعي بشكل خاص نقاط الضعف الفريدة وأخطاء منطق الأعمال. إن العبارة "الآمنة" بطلاقة ليست ضمانًا ولا تلغي الحاجة إلى التحكم الشامل.

4. أي مما يلي هو أضعف مجالات الذكاء الاصطناعي في فحص الثغرات؟

• أ) وضع علامة على الأنماط المعروفة والواضحة مثل Reentrancy
• ب) ثغرات منطق الأعمال MEV/التشغيل الأمامي والبروتوكولات الخاصة ✔
• ج) شرح مخرجات أداة التحليل الساكنة بلغة واضحة
• د) قائمة الوظائف المفقودة للتحكم في الوصول

الوصف: يتميز الذكاء الاصطناعي بالقوة في البحث عن الأنماط المعروفة التي لا لبس فيها مثل إعادة الدخول والتحكم في الوصول وعمليات الأعداد الصحيحة. ومع ذلك، فإن الثغرات الأمنية الخاصة بمنطق الأعمال MEV/front-running والبروتوكولات الخاصة هي سياقية وغالبًا ما تكون فريدة من نوعها؛ هذه هي النقطة العمياء للذكاء الاصطناعي وتتطلب الخبرة البشرية والمحاكاة.

5. ما هي الطرق الأكثر أمانًا وخطورة لاستخدام الذكاء الاصطناعي في تحليل البيانات الموجودة على السلسلة؟

• أ) الشيء الأكثر أمانًا هو طباعة استعلام استخراج البيانات؛ والأخطر هو طلب البيانات الحية مباشرة من الذكاء الاصطناعي وعدم التأكد منها✔
• ب) الشيء الأكثر أمانًا هو طلب البيانات المباشرة مباشرة من الذكاء الاصطناعي؛ كتابة الاستعلام غير ضرورية
• ج) التجزئة والعناوين التي ينتجها الذكاء الاصطناعي موثوقة دائمًا، ولا يلزم التأكيد.
• د) ربط التعليقات بالمصدر مضيعة للوقت؛ ملخص بطلاقة يكفي

شرح: الذكاء الاصطناعي لا يعتمد على السلسلة الحية؛ إن مطالبته مباشرة بالمعاملة/العنوان ينتج عنه تجزئة وعنوان مختلقين (هلوسة). الاستخدام الأكثر أمانًا هو طباعة الاستعلام (على سبيل المثال Dune SQL) الذي سيسحب البيانات من المصدر لأن مصدر البيانات ينتج النتيجة. الترجمة الفورية المجانية محفوفة بالمخاطر ويجب تأكيد كل رقم في مستكشف الكتل.

6. ما هو نوع الثغرات الأمنية الأكثر تكلفة في بروتوكولات DeFi ولماذا تشكل تحديًا للذكاء الاصطناعي؟

• أ) أخطاء إملائية/تجميعية فقط؛ الذكاء الاصطناعي يلتقط هذه الأشياء بسهولة
• ب) أخطاء الواجهة فقط؛ التصميم الاقتصادي لا علاقة له به
• ج) الفجوات الاقتصادية/المنطقية التجارية؛ حتى لو كان الكود يعمل بشكل صحيح، يمكن استغلال البروتوكول اقتصاديًا ويفتقد الذكاء الاصطناعي ذلك ✔
• د) الأخطاء الإملائية فقط؛ ثبت بشكل قاطع من خلال النظر في الأمن الاقتصادي، ولا حاجة للمحاكاة

شرح: في DeFi، لا تنشأ عادةً عمليات الاستغلال الأكثر تكلفة من الخطأ الفني في الكود، ولكن من قابلية استغلال المنطق الاقتصادي/التجاري (التلاعب في Oracle، وتشويه أسعار القروض السريعة، وإساءة استخدام الحوافز). حتى لو كان الكود يعمل تقنيًا "بشكل صحيح"، فمن الممكن خداع البروتوكول اقتصاديًا. وفي حين أن الذكاء الاصطناعي جيد في مسح التعليمات البرمجية القياسية، فإنه غالبا ما لا يتمكن من رؤية نقاط الضعف الاقتصادية السياقية والفريدة من نوعها؛ هذه تتطلب المحاكاة والخبرة البشرية.

7. ما هو أخطر خطأ الذكاء الاصطناعي في النمذجة الرمزية وكيفية تجنبه؟

• أ) الإفراط في التشاؤم؛ الحل هو إضافة افتراضات أكثر تفاؤلا
• ب) السيناريو الفردي/المتفائل؛ الحل هو اختبار التحمل بالسيناريوهات السلبية والتحقق من الصحة بالمحاكاة ✔
• ج) ينتج عددًا كبيرًا جدًا من الجداول؛ الحل هو إزالة الجداول
• د) الفشل في إنتاج جدول التوزيع. الحل هو عدم نموذج التوزيع على الإطلاق

شرح: يفترض الذكاء الاصطناعي عادة سيناريو واحد متفائل، حيث يرتفع السعر دائمًا، ويزداد المستخدم دائمًا؛ وهذا يجعل النماذج غير المستدامة تبدو "مستدامة"، مما يؤدي إلى الانهيار. يتمثل هذا الإجراء في التشديد على اختبار النموذج باستخدام السيناريوهات السلبية (السوق الهابطة، وهروب صائدي الجوائز، وبيع الحيتان) والتحقق من حسابات الانبعاثات باستخدام محاكاة حقيقية.

8. يقول دليل المستخدم الذي تم إنتاجه بواسطة الذكاء الاصطناعي: "يمكن سحب أموالك في أي وقت"، ولكن هناك قفل لمدة 7 أيام في العقد. ماذا تشير هذه الحالة؟

• أ) لا توجد مشكلة؛ إذا كانت الوثيقة واضحة، فيمكن نشرها كما هي
• ب) الرمز خاطئ، الوثيقة صحيحة؛ يجب أن يتوافق الرمز مع المستند
• ج) لا ينظر المستخدم إلى المستند على أي حال؛ التناقض غير ذي صلة
• د) يتعارض المستند مع الكود؛ يجب تأكيد كل مطالبة فنية برمز حقيقي، حيث أن التوثيق الكاذب سيؤدي إلى تضليل المستخدم ✔

الوصف: تصف الوثائق الكود؛ إنه ليس الكود نفسه. قد يحرف الذكاء الاصطناعي السلوك الفعلي للتعليمة البرمجية، مما يضلل المستخدم ويصبح مشكلة أمنية. ولهذا السبب يجب التحقق من كل مطالبة فنية مقابل الكود الفعلي؛ يمكن أن تكون الوثائق غير الصحيحة أكثر خطورة من التعليمات البرمجية الصحيحة لأن المستخدم يثق في الوثائق.

9. كيف تتصرف عندما يقوم الذكاء الاصطناعي بمسح عقد رمزي ويضع علامة "العلم الأحمر" (على سبيل المثال، يمكن للمالك إيقاف النقل)؟

• أ) أن العلم مرتبط بالمصدر ويتم تقييمه حسب سياقه وحكم الإنسان؛ يتم تجنب الحكم النهائي/التشهير ✔
• ب) سيتم بالتأكيد إعلان العقد مغشوشًا والإعلان عنه فورًا
• ج) بما أن الذكاء الاصطناعي هو من يحدد العلم، فلا داعي لمزيد من التحقق
• د) يتم تجاهل العلم؛ امتيازات المالك لا تشكل خطرا أبدا

الوصف: الذكاء الاصطناعي مفيد في تحديد أنماط الاحتيال المعروفة، لكنه لا يستطيع إصدار أحكام نهائية؛ قد تحتوي أيضًا بعض العقود المشروعة (على سبيل المثال، المحمية بموجب حوكمة متعددة التوقيع) على سلطة الإيقاف. يجب ربط كل علم بالمصدر (الكود/السلسلة) وتقييمه وفقًا لسياقه وحكمه البشري؛ وينبغي استخدام لغة معتدلة وتجنب الاتهامات غير المؤكدة (الافتراء).

10. إن كون تقنية Blockchain "ذات أهمية أمنية" يرتبط بشكل مباشر بأي من الأسباب التي تجعل مخرجات الذكاء الاصطناعي لا يمكن أن تحل محل موافقة الخبراء؟

• أ) لا يمكن استخدام الذكاء الاصطناعي عملياً لأنه يعمل ببطء شديد
• ب) لأن الذكاء الاصطناعي ينتج دائمًا أخطاء في الترجمة
• ج) لا يمكن للذكاء الاصطناعي تغطية المخاطر التي لا رجعة فيها بسبب عدم القدرة على رؤية الخطأ الأصلي والتأكيد الكاذب وعدم التحديث وعدم القدرة على تحمل المسؤولية ✔
• د) لا يمكن استخدام الذكاء الاصطناعي في المشاريع التركية لأنه يعمل باللغة الإنجليزية فقط.

توضيح: الأخطاء في مجال الأمان الحرج لا يمكن التراجع عنها وتؤدي مباشرة إلى خسارة جسيمة (ملايين الدولارات). لا يستطيع الذكاء الاصطناعي رؤية الخطأ الأصلي/السياق، ويمكنه تقديم تأكيدات كاذبة باستخدام لغة بطلاقة، ولا يعرف الفترة التي تلي الموعد النهائي للتدريب، والأهم من ذلك، لا يمكنه تحمل المسؤولية. الموافقة الهندسية هي التزام فني وقانوني وأخلاقي؛ لا يمكن للآلة أن تقوم بهذا الالتزام، لذا فإن الموافقة النهائية تقع على عاتق الخبير المختص.

11. ما هي الطريقة الأكثر فعالية لحماية مشروع Web3 ذي الأهمية الأمنية من تسرب خطأ ذكاء اصطناعي واحد إلى الشبكة الرئيسية؟

• أ) تفويض العملية برمتها إلى أداة واحدة للذكاء الاصطناعي وإلقاء نظرة على النهاية
• ب) تنفيذ التحقق الطبقي الذي يضع بوابة تحقق بشرية وحالة اجتياز في كل مرحلة✔
• ج) تجاوز بوابة التدقيق المستقلة لتوفير الوقت
• د) يتمتع كل مطور بحرية استخدام أداته الخاصة دون الاحتفاظ بأي سجلات

الشرح: في التحقق الطبقي، يتم وضع بوابة تحقق بشرية وشرط نجاح واضح (هل تم اجتياز الاختبار، هل قام المدقق بالتوقيع، هل تم تعليق المحاكاة) في كل مرحلة (الكتابة، المسح، التدقيق، الاختبار/المحاكاة، النشر، المراقبة). لا يمكنك المرور من باب دون المرور من باب آخر؛ يمنع هذا الهيكل متعدد الطبقات تسرب خطأ واحد من الذكاء الاصطناعي إلى الأحياء.

12. ما هي القاعدة الثابتة فيما يتعلق بالمفتاح الخاص أو العبارة الأولية عند الحصول على مساعدة من الذكاء الاصطناعي أثناء التصحيح؟

• أ) يمكن مشاركة مفاتيح اختبار المحافظ فقط بحرية
• ب) إذا كان المفتاح مشفراً فيمكن إعطاؤه للذكاء الاصطناعي
• ج) عندما يكون الذكاء الاصطناعي موثوقًا به، يمكن ترك إدارة المحفظة له
• د) لا يمكن إدخال المفتاح الخاص والعبارة الأولية في أي أداة ذكاء اصطناعي أو المطالبة تحت أي ظرف من الظروف ✔

الوصف: المفتاح الخاص والعبارات الأولية هي الوصول الكامل إلى المحفظة والأموال. ولا يتم كتابتها تحت أي ظرف من الظروف في أداة ذكاء اصطناعي أو رسالة نصية أو أي موقع آخر عبر الإنترنت؛ وبخلاف ذلك، هناك خطر حدوث خسارة مباشرة وغير قابلة للاسترداد للأموال. يتم الاحتفاظ بالمفاتيح فقط في محفظة آمنة، ويفضل أن تكون غير متصلة بالإنترنت/محفظة أجهزة.

13. ما هو أفضل نهج حوكمة لتنظيم استخدام الذكاء الاصطناعي مع رمز العميل السري في شركة التدقيق؟

• أ) معالجة الرمز السري فقط في مركبة معزولة وبموافقة العميل، مع سياسة تصنيف البيانات ✔
• ب) لصق الرمز السري في أي أداة عامة للحصول على أسرع النتائج
• ج) لا يهم إذا كان الرمز سريًا؛ كل أداة مجانية لكل البيانات
• د) حتى لو كان هناك تسرب، فإن الاحتياطات غير ضرورية لأن المسؤولية تقع على عاتق مزود الذكاء الاصطناعي

توضيح: يعد لصق كود العميل (مغلق المصدر) الذي لم يتم إصداره في أداة الذكاء الاصطناعي العامة دون إذن بمثابة انتهاك للعقد وخطر التسرب. الحكم السليم؛ وضع قواعد منفصلة للكود العام ورمز العميل السري والبيانات الشخصية والمفتاح الخاص مع سياسة تصنيف البيانات، ومعالجة الكود السري فقط في أدوات معزولة/مؤسسية وبموافقة العميل.