المكاسب:
- افهم ماهية الشك المهني ومخاطر الوقوع في التحيز التأكيدي والتحيز الآلي عند استخدام الذكاء الاصطناعي
- القدرة على اختبار مخرجات الذكاء الاصطناعي بأسلوب التساؤل الذي يحاول التفنيد (ابحث عن العكس)
- القدرة على فهم أن طلاقة الذكاء الاصطناعي لا تعني الدقة، وأن العقل المتشكك هو جوهر السيطرة ولا يمكن نقله.
هناك موقف عقلي واحد يميز التدقيق المستقل عن العديد من المهن الأخرى: الشك المهني. تُعرّف معايير التدقيق الدولية ذلك بأنه عمل المدقق "بعقل مستفسر، مع ملاحظة ما إذا كانت الأدلة تشير إلى وجود أخطاء محتملة، وإجراء تقييم نقدي للأدلة". وهذا يعني أن المدقق لا يقبل تلقائيا أي معلومات مقدمة إليه - لا بيان الإدارة، ولا الوثيقة، ولا حتى الحساب الذي "يبدو معقولا" - على أنها صحيحة. أتساءل باستمرار "هل الأمر كذلك حقًا؟" يسأل. وهذا الموقف هو جوهر السيطرة وهو غير قابل للتصرف.
وفي عصر الذكاء الاصطناعي، يواجه هذا المركز اختبارًا جديدًا تمامًا. لأن الذكاء الاصطناعي ماهر في إثارة نقطتي ضعف عميقتين في العقل البشري: التحيز الآلي والتحيز التأكيدي. في هذه الوحدة، سنغطي كيف يمكن للمدقق الذي يستخدم الذكاء الاصطناعي أن يحافظ على شكوكه أو حتى يعززها. الأطروحة الرئيسية هي أن طلاقة الذكاء الاصطناعي لا تعني الدقة؛ ويصبح العقل المتشكك أكثر أهمية في مواجهة الذكاء الاصطناعي.
اثنين من التحيزات الخطيرة
إنحياز الأتمتة هو ميل الأشخاص إلى الثقة في مخرجات الآلة/البرنامج أكثر من ثقتهم في أحكامهم الخاصة. "لقد حسبها الكمبيوتر، وهي صحيحة." ويتضاعف هذا الخطر عندما يتعلق الأمر بالذكاء الاصطناعي، لأن الذكاء الاصطناعي لا يقوم بالحسابات فحسب؛ يتكلم جملاً منطقية بطلاقة، وواثقة، وشبيهة بالبشر. النبرة الواثقة تكون مقنعة حتى لو كانت المعلومات غير دقيقة.
الانحياز التأكيدي هو ميل الأشخاص إلى البحث عن معلومات تدعم الاستنتاج الذي اعتقدوه أو كانوا يأملون فيه سابقًا وتجاهل المعلومات المتضاربة. هذا أمر قاتل في التدقيق: المدقق الذي يعتقد أن "هذا العميل يجب أن يكون نظيفًا" سيشعر بالارتياح عندما يسأل الذكاء الاصطناعي ويحصل على تأكيد، وسيتوقف عن البحث عن أدلة تشير إلى عكس ذلك. نظرًا لأن الذكاء الاصطناعي يميل إلى التركيز على السؤال المطروح (إذا سألت "لا بأس، أليس كذلك؟" فمن المرجح أن ينتج إجابة تتفق معك)، فقد يؤدي ذلك إلى تعزيز التحيز التأكيدي.
وهناك أيضًا ثالث: الهلوسة. لقد رأينا ذلك عدة مرات في الوحدة - يمكن للذكاء الاصطناعي أن يشكل رقمًا أو عنصرًا أو موردًا غير موجود بطلاقة. يتضاعف الخطر عندما يتم الجمع بين ثلاث نقاط ضعف: الذكاء الاصطناعي يختلق الأشياء (الهلوسة)، أنت تصدقه لأنه مائع (التحيز الآلي)، لا تشك فيه لأنه يخبرك بما تتوقعه (التحيز التأكيدي).
الأدوات الثلاث للعقل المتشكك ضد الذكاء الاصطناعي
دعونا نضع الشكوك في تقنيات ملموسة ضد الذكاء الاصطناعي:
- حاول الدحض وليس التأكيد. قد يسأل الذكاء الاصطناعي مخرجاته "هل هذا صحيح؟" وليس "كيف أعرف إذا كان هذا خطأ؟" سؤال. اسأل نفسك: "إذا كانت هذه العبارة كاذبة، فما هو الدليل الذي سيثبتها؟" وابحث عن تلك الأدلة. من السهل العثور على مثال مؤكد واحد؛ محاولة الدحض والفشل تعطي ضمانًا حقيقيًا.
- اسأل بشكل محايد وإلى الوراء. اسأل الذكاء الاصطناعي "لا توجد مشكلة هنا، أليس كذلك؟" لا تسأل؛ هذا يدعو إلى استجابة الموافقة. بدلًا من ذلك، "ما هي المخاطر التي ربما فاتتني في هذه البيانات؟" و"ما هي السيناريوهات الثلاثة الأكثر احتمالاً التي يمكن أن تكون فيها هذه النتيجة خاطئة؟" بسأل. اطرح نفس السؤال من طرفين متقابلين وقارن الإجابات.
- تحميل إلى المصدر وإعادة إنتاج. بالنسبة لكل قضية وإسناد واستنتاج، "أين يمكنني التحقق من ذلك بشكل مستقل؟" اطرح السؤال وتحقق بالفعل. عرض مخرجات الذكاء الاصطناعي كتأكيد؛ الأدلة خارجية بالنسبة للادعاء.
نصيحة: اتخذ عادة: بجوار كل نتيجة مهمة يقدمها الذكاء الاصطناعي، اكتب شيئين يدويًا - "(1) بماذا قمت بالتحقق من ذلك، (2) ما الدليل الذي سيظهر ذلك إذا كان كاذبًا." هاتان الملاحظتان تكسران كلا من الأتمتة والتحيز التأكيدي.
الأحكام التي لا يجوز لمراقب الحسابات تفويضها
تتطلب بعض الوظائف بطبيعتها الشك والحكم؛ لا يمكن تفويض هذه العناصر إلى الذكاء الاصطناعي، بل يتم دعمها فقط:
ولاية قضائية غير قابلة للتصرف
لماذا
ما إذا كانت الأدلة كافية ومناسبة
الحكم المهني؛ تعتمد على السياق
معقولية التفسير
يتطلب النظر في المؤسسة والنية
تقييم مخاطر الاحتيال
الشك والحدس. خارج نمط البيانات
القرار المادي والرأي
القضاء مسؤول أمام الجمهور
رأي حول صدق الإدارة
قراءة السلوك البشري؛ الذكاء الاصطناعي لا يمكنه فعل هذا
الفرق بين الشك والتحذلق: موقف محسوب
الشك المهني لا يعني عدم تصديق كل شيء أو إلقاء اللوم على الإدارة مقدما؛ سيكون هذا تجاوزًا وسيجعل السيطرة غير فعالة. الشك ليس ثقة خالصة (قبول كل ما يقال لك) ولا إنكارًا أعمى (رفض كل شيء)؛ وبينهما أنه موقف تحقيق يتناسب مع الأدلة. قد يقبل المدقق الإدارة على أنها صادقة، لكنه يختبر هذا القبول بالأدلة؛ قد يجد تفسيرا معقولا، لكنه يؤكد المعقولية. يمكن للذكاء الاصطناعي أن يخل بهذا التوازن؛ ومن ناحية أخرى، إذا طلبت منه "العثور على خطأ في كل شيء"، فسوف يقصفك بإيجابيات كاذبة لا نهاية لها. الموقف الصحيح هو الموازنة دائمًا بين النتيجة ووزن الأدلة، أثناء تشغيل الذكاء الاصطناعي لإنتاج الأدلة ودحض الأدلة. الشك ليس سمة شخصية، بل هو طريقة منضبطة للعمل؛ والمدقق هو الذي ينشئ هذا النظام ويحافظ عليه ويثبته، وليس الذكاء الاصطناعي.
ثلاث حالات صغيرة
الحالة 1 - تقنية الطعن ناجحة. قام أحد المدققين بطباعة الذكاء الاصطناعي قائلاً: "يبدو تقييم السهم هذا معقولاً". وبدلا من التأكيد، تساءل بشكل غير مباشر: "إذا كان هذا التقييم مبالغا فيه، فما هو الدليل الذي سيظهر ذلك؟" وقال YZ "العناصر التي تنخفض أسعار ما بعد البيع عنها عن التكلفة". قام المدقق بالبحث عن هذه العناصر فوجد مجموعة مقومة بأقل من قيمتها الحقيقية. كشف سؤال الطعن عن المخاطر التي يخفيها التأكيد.
الحالة الثانية – الوقوع في الانحياز التأكيدي. سأل أحد أعضاء الفريق الذكاء الاصطناعي خلال فترة الأزمة: "لا يوجد خطأ كبير في هذا الحساب، أليس كذلك؟" سأل. انحنى YZ على السؤال وقال: "وفقًا للمعلومات التي قدمتها، لا يبدو أن هناك مشكلة كبيرة". استرخى عضو الفريق وغطى القلم. لكنه لم يقدم أي دليل. لقد عكس الذكاء الاصطناعي جملته فقط. وأظهر الشخص المسؤول أن السؤال لم يُطرح بنزاهة. الدرس المستفاد: طريقة طرح السؤال تحدد الإجابة التي تحصل عليها؛ السؤال الذي يبحث عن التأكيد ينتج تأكيدًا.
الحالة 3 - السقوط في الطلاقة. اعتقد أحد المدققين أن تفسير التشريع الذي شرحه YZ في فقرة واضحة ومعللة للغاية كان صحيحًا وأدرجه في ورقة العمل. كان النص أنيقًا جدًا لدرجة أنه لم يخطر بباله التشكيك فيه. وبين المسؤول أن الإشارة ليس لها ما يعادلها في النص الرسمي. الدرس المستفاد: الطلاقة والثقة ليسا دليلاً على الدقة؛ والنتيجة التي تبدو أكثر إقناعا قد تكون الأكثر خطورة.
موجه ضعيف / موجه قوي
حث ضعيف:
هذا التحليل صحيح أليس كذلك؟ هل توافق؟
المشكلة: سؤال متحيز يبحث عن تأكيد. إنه يدفع الذكاء الاصطناعي للانضمام إليك؛ إنه يعزز التحيز التأكيدي ويخفي المخاطر الحقيقية.
مطالبة قوية:
دورك: أنت شريك الاستفسار النقدي لمدقق مستقل. مهمتك ليست الاتفاق معي، ولكن محاولة رفض مخرجاتي. السياق: فيما يلي استنتاجي لإجراء تحليلي واستنتاجي المبدئي. [نص النتيجة] المهمة: 1) قم بإدراج السيناريوهات الثلاثة الأكثر احتمالاً التي يمكن أن يكون فيها هذا الاستنتاج خطأ. 2) لكل سيناريو: "إذا كان هذا صحيحًا، ما هو الدليل الذي سيظهره؟" اقترح أدلة ملموسة وقابلة للبحث. 3) ضع علامة على أي بيانات أو افتراضات ربما فاتني. 4) لا تتلفظ بجمل تتفق معي؛ أنت مكلف بإيجاد نقاط الضعف. ضع علامة "غير معروف" عندما لا تكون متأكدًا.
تعتبر هذه المطالبة قوية لأنها تعكس دور الذكاء الاصطناعي (الدحض)، مما يتطلب سيناريوهات دحض وأدلة قابلة للبحث، ويحظر لغة البحث عن التأكيد. وهذا يضع الذكاء الاصطناعي في خدمة الشك بدلاً من كونه أداة للتحيز التأكيدي.
الأخطاء الشائعة
- طرح الأسئلة للحصول على الموافقة. "لا بأس، أليس كذلك؟" بالسؤال والتأكد من الإجابة المتفق عليها.
- الخلط بين الطلاقة والدقة. قبول المخرجات الواثقة والمكتوبة جيدًا دون سؤال.
- كن راضيًا بمثال تأكيدي واحد. وأختتم بالنتيجة الداعمة الأولى، دون محاولة تفنيدها.
- تفويض الاختصاص غير القابل للتصرف. ترك قرار كفاية الأدلة والمعقولية والرأي لمنظمة العفو الدولية.
- التخلص من الشكوك تحت ضغط الوقت. اللجوء إلى الإجابة المريحة للذكاء الاصطناعي عندما تكون عالقًا.
تحذير: ضغط الوقت هو العدو الأكبر للشك، ويصبح الذكاء الاصطناعي الأكثر خطورة في ظل هذا الضغط؛ لأنه يقدم لك إجابة سريعة وسلسة ومريحة. اجعل من الضروري طرح سؤال الطعن عندما تكون في عجلة من أمرك.
باختصار
إن الشك المهني هو جوهر التدقيق ويصبح أكثر أهمية في عصر الذكاء الاصطناعي. يثير الذكاء الاصطناعي ثلاث نقاط ضعف: الهلوسة (اختلاق الأمر)، والتحيز الآلي (نصدقه لأنه مائع)، والتحيز التأكيدي (لا نشكك فيه لأنه يقول ما نأمله). الترياق هو الإسراع في دحض الذكاء الاصطناعي، وليس تأكيده: "إذا كان هذا كاذبا، فما هو الدليل الذي سيثبته؟" "والبحث عن أدلة مخالفة، والسؤال بموضوعية ورجعية، وإعادة إنتاج كل مخرجات من المصدر. الأحكام مثل كفاية الأدلة، والمعقولية، وخطر الاحتيال، وحكم الرأي تتطلب الشك وغير قابلة للتحويل. الطلاقة ليست الدقة. العقل المتشكك هو لك.
مهمة التطبيق
احصل على نتيجة التدقيق (أو نتيجة افتراضية). اطرح على الذكاء الاصطناعي أولاً سؤالاً ضعيفًا "يبحث عن التأكيد"، ثم باستخدام نمط المطالبة القوي "الدحض" أعلاه. ضع النتيجتين جنبًا إلى جنب واكتب الفرق: ما هي المخاطر التي تم الكشف عنها فقط من خلال السؤال الدحض؟ ثم أضف ملاحظتين بجوار كل ادعاء رئيسي في مخرجاتك: "ما الذي قمت بالتحقق منه" و"ما الدليل الذي سيظهر إذا كان كاذبًا".
قائمة مرجعية
- [ ] لقد طرحت أسئلة دحض/محايدة على الذكاء الاصطناعي، وليس أسئلة تسعى إلى التأكيد.
- [ ] بالنسبة لكل نتيجة هامة، "إذا كان هذا كاذبا، ما هو الدليل الذي سيظهره؟" لقد طرحت السؤال وبحثت عن الأدلة.
- [ ] لقد اختبرت الإخراج، الذي بدا سلسًا وواثقًا، مع مزيد من الشك.
- [ ] ولم أتوقف عند مثال واحد مؤكد؛ حاولت دحض ذلك ولكني فشلت.
- [ ] لقد قمت باتخاذ أحكامي الخاصة مثل كفاية الأدلة والمعقولية والرأي.
- [ ] حتى في ظل ضغط الوقت، لم أتخطي سؤال الدحض.
- [ ] بجانب الادعاءات المهمة، قمت بتدوين ملاحظات حول "ما تم التحقق منه / ما الذي سيظهر إذا كان خطأ".