المكاسب:
- يمكن سرد أنواع المهام التي يكون الذكاء الاصطناعي فيها قويًا
- يتعرف على المجالات التي يكون فيها الذكاء الاصطناعي ضعيفًا من الناحية الهيكلية
- يمكن أن يقرر ما إذا كان من المناسب الاستعانة بمصادر خارجية لوظيفة الذكاء الاصطناعي
يكمن سر استخدام الذكاء الاصطناعي التوليدي بفعالية في رؤيته ليس باعتباره "صندوقًا سحريًا يعرف كل شيء" ولكن كمساعد قوي جدًا في مهام معينة وضعيف من الناحية الهيكلية في مهام معينة. إن إعطاء المهمة الخاطئة للأداة الخاطئة يضيع الوقت ويكون له عواقب محفوفة بالمخاطر. في هذه الوحدة، سنحدد نقاط القوة والضعف في الذكاء الاصطناعي بأمثلة ملموسة حتى تتمكن من اتخاذ القرار الصحيح قبل الاستعانة بمصادر خارجية لوظيفة ما. الجملة الأساسية هي: نقاط الضعف في الذكاء الاصطناعي ليست عشوائية؛ إنه ينبع مباشرة من كيفية عمله. تذكر الوحدة الثانية - يقوم النموذج بالتنبؤ بالاحتمالات، وليس بالتحقق من الواقع.
الوظائف التي يكون فيها الذكاء الاصطناعي قويًا
تتألق نماذج اللغة في المهام المتعلقة باللغة والتي "ليس لها إجابة واحدة واضحة":
- تحويل النص: قم بتلخيص تقرير طويل، وتبسيط النص الرسمي، وتغيير نغمة البريد الإلكتروني إلى نغمة ألطف.
- إنتاج المسودات: المسودة الأولى للبريد الإلكتروني، ومنشور المدونة، ونشر الوظيفة، وخطة العرض التقديمي. يحل مشكلة "الصفحة الفارغة".
- توليد الأفكار: 20 شعارًا للحملة، وعناوين الحلول الممكنة لمشكلة ما، واقتراحات جدول الأعمال لاجتماع ما.
- إعادة التنظيم والتنسيق: تحويل الملاحظات المتناثرة إلى نقاط نقطية، وتحويل النص إلى جدول.
- العمل اللغوي: الترجمة، التصحيح النحوي، تعديل النغمات.
- الشرح والتدريس: شرح مفهوم معقد من خلال تبسيطه وإنتاج الأمثلة.
نصيحة: الاستخدام الأكثر أمانًا وقوة للذكاء الاصطناعي هو في المهام التي تحدد مصدرها: "تلخيص هذا النص"، "تحرير تلك الملاحظات". هنا النموذج لا يناسب المعلومات، فهو فقط يحول ما تقدمه له. هذه هي المنطقة ذات المخاطر الأقل والأعلى فائدة.
الوظائف التي يكون فيها الذكاء الاصطناعي ضعيفًا
- الحساب الدقيق والرياضيات: قد يرتكب أخطاء في العمليات الحسابية المعقدة؛ لأنه لا يحسب، بل يخمن. (تعوض بعض الأدوات ذلك بإضافات الآلة الحاسبة، ولكن هذه هي طبيعة النموذج الأساسي.)
- المعلومات الحالية وفي الوقت الفعلي: معلومات النموذج محدثة حتى تاريخ تدريبه. إن سعر الصرف اليوم أو أخبار الأمس أو البيانات الداخلية لشركتك وحدها لا يمكن الاعتماد عليها.
- حقائق تتطلب اليقين: يمكن اختلاق (الهلوسة) معلومات يمكن التحقق منها مثل التاريخ والاسم والرقم والمصدر والاقتباس.
- الحكم والحكم الحقيقي: لا يمكن أن يكون له القول الفصل في القرارات الأخلاقية أو القانونية أو الاستراتيجية؛ يتحمل الناس السياق والمسؤولية.
- العالم المادي: إن القيام بالأعمال اليدوية والمراقبة في الميدان خارج نطاقه بالفعل.
تنبيه: أخطر ما في الذكاء الاصطناعي أنه يجيب بثقة، وكأنه قوي، حتى في موضوع يكون ضعيفاً فيه. يمكن أن ينتج تلفيقًا بطلاقة بدلاً من قول "لا أعرف". ولذلك فمن الضروري التحقق من الإخراج في المناطق الضعيفة.
دليل القرار: هل يجب أن أعطي هذه الوظيفة للذكاء الاصطناعي؟
سؤال
إذا كانت "نعم"
إذا "لا"
هل العمل في الغالب عمل لغوي/نصي؟
قد يكون الذكاء الاصطناعي مناسبًا
كن حذرا
هل هناك أكثر من إجابة مقبولة؟
الذكاء الاصطناعي قوي
محفوفة بالمخاطر إذا كانت الدقة مطلوبة
هل أقوم بتوفير المصدر/البيانات؟
آمنة
يزداد خطر التصنيع
هل سيتحكم الإنسان في الإخراج؟
آمن
الاستخدام غير الخاضع للرقابة
هل الخطأ مكلف (ماليا، صحة، قانونيا)؟
مطلوب التحقق الإضافي
يمكن استخدامها بشكل مريح
ثلاث حالات صغيرة
الحالة 1 - ملخص العقد (الاستخدام القوي). طلب أحد المديرين من الذكاء الاصطناعي تلخيص اتفاقية خدمة مكونة من 42 صفحة؛ وحصل على قائمة واضحة من 8 بنود، وانخفض وقت قراءته من 40 دقيقة إلى 6 دقائق. لكن "هل يجب أن نوقع هذا العقد؟" وترك القرار لفريقه القانوني. الحدود الصحيحة: يقوم الذكاء الاصطناعي بإعداد الملخص، والإنسان هو الذي يتخذ القرار.
الحالة 2 - الحساب المزيف (استخدام سيء). سأل أحد الموظفين: "سعر كل منتج من المنتجات الـ 12 هو 37.50 ليرة تركية، ما هو المبلغ الإجمالي مع ضريبة القيمة المضافة 18%؟" سأل ووضع الرقم الناتج مباشرة في العرض. الرقم كان خاطئا. النموذج لم يحسب، بل تنبأ. النتيجة: ذهب سعر خاطئ إلى العميل. الدرس المستفاد: استخدم جداول البيانات للدقة العددية، وليس الذكاء الاصطناعي.
الحالة 3 - معلومات قديمة. وسأل أحد المساعدين منظمة العفو الدولية عن الموعد النهائي لتقديم طلب الحصول على منحة حكومية؛ كان النموذج قديمًا وأعطى تاريخًا غير صحيح. وبما أن الموظف لم يؤكد ذلك على الموقع الرسمي للمؤسسة، فقد قام بمشاركة معلومات غير صحيحة في الاجتماع. الدرس المستفاد: يتم دائمًا التحقق من المعلومات الحالية/الرسمية من المصدر الأساسي.
موجه ضعيف / موجه قوي
موجه ضعيف: أعط أرقام التضخم لعام 2024 ومصدرها.
الخلاصة: يمكن أن يتناسب النموذج مع بيانات رقمية حديثة وقابلة للتحقق - وهي مخاطرة عالية.
مطالبة قوية: استنادًا إلى التقرير الرسمي الذي ألصقته أدناه، قم بإنشاء ملخص باستخدام البيانات الموجودة في هذا النص فقط. لا تضف أي أرقام غير موجودة في النص.<report>[الصق النص الرسمي هنا]</report>
النتيجة: يتم تقليل خطر التصنيع بشكل كبير لأنك قمت بتوفير المصدر.
قوالب قابلة للنسخ
فكر فيما إذا كان يجب أن أعطي المهمة التالية للذكاء الاصطناعي: المهمة: [مهمة الكتابة] أجب عن هذه الأسئلة: (1) مهمة اللغة؟ (2) هل هناك حقيقة واحدة فقط؟ (3) هل أقوم بتوفير المصدر؟ (4) هل تكلفة الخطأ مرتفعة؟ أخيرًا قرر "مناسب/حذر/غير مناسب للذكاء الاصطناعي".
لخص هذا النص. القواعد: - استخدم المعلومات الموجودة في النص فقط، ولا تضيف أي شيء من الخارج. - إذا لم تكن متأكدًا من شيء ما، فاكتب "غير محدد في النص". النص: [الصق هنا]
توليد (العصف الذهني) 10 أفكار حول هذا الموضوع. التنوع وليس الدقة هو المهم. الموضوع: [الموضوع]. قائمة الأفكار تحت عناوين قصيرة.
في المسودة أدناه، ضع علامة على جميع النقاط التي تحتاج إلى التحقق (الرقم، التاريخ، الاسم، المصدر) وستظهر قائمة "للتحقق". المسودة: [الصق هنا]
الأخطاء الشائعة
الأخطاء الشائعة
- استخدام الذكاء الاصطناعي للحساب والرقم الدقيق. الدقة الحسابية والمالية هي نقطة الضعف في الذكاء الاصطناعي؛ استخدم جدول بيانات أو مصدرًا رسميًا.
- تلقي المعلومات الحالية دون التحقق. معلومات النموذج قديمة؛ تأكد من البيانات الحالية مثل التاريخ والسعر والتشريعات من المصدر الأساسي.
- تفويض القرار إلى منظمة العفو الدولية. يقوم الذكاء الاصطناعي بإنشاء الخيارات والمسودات؛ تقع مسؤولية اتخاذ القرارات مثل التوظيف والتوقيع والاستثمار على عاتق الأشخاص.
- الثقة عندما ترى النغمة "الأكيدة" في المنطقة الضعيفة. اللغة الواثقة للنموذج ليست دليلاً على الدقة.
العقلية الصحيحة: الشريك، وليس السلطة
النهج الأكثر صحة هو النظر إلى الذكاء الاصطناعي باعتباره متدربًا ذكيًا ولكن عديم الخبرة. يعمل بسرعة، يعرف الكثير، لا يتعب؛ ولكن لا ينبغي القيام بعمل مهم دون التحقق منه، لأنه حتى لو بدا مؤكداً، فإنه يمكن أن يكون مخطئاً. عندما تضعه ليس كـ "سلطة" بل كـ "شريك" يعمل على تسريع أعمالك، فإنك ستحصل على الكفاءة وستكون محميًا من المخاطر.
باختصار
- منظمة العفو الدولية. قوي في المهام اللغوية مثل التلخيص والصياغة والخروج بالأفكار والترجمة وإعادة التنسيق.
- منظمة العفو الدولية. وهو ضعيف بطبيعته في المهام التي تتطلب حسابات دقيقة ومعلومات حديثة وحقائق يمكن التحقق منها وحكم نهائي.
- الخطر الأكبر هو أنه يبدو واثقًا حتى في المواضيع التي يكون ضعيفًا فيها.
- قبل تعيين وظيفة، اسأل: هل هي وظيفة لغوية، هل هناك طريقة واحدة صحيحة، هل سأقدم المصدر، هل سيتحقق الناس منه، هل تكلفة الخطأ مرتفعة؟
- ضع الذكاء الاصطناعي كشريك منظم، وليس كسلطة.
مهمة التطبيق
اختر 3 من وظائفك هذا الأسبوع. لكل مما سبق "هل يجب أن أعطيه للذكاء الاصطناعي؟" قم بتطبيق القالب وتصنيفه إلى "مناسب/دقيق/غير مناسب". جرب مهمة "مناسبة" واحدة على الأقل باستخدام الذكاء الاصطناعي وتحقق من الإخراج بنفسك.
قائمة التحقق
- [ ] يمكنني التفكير في 4 أنواع على الأقل من المهام التي يكون الذكاء الاصطناعي فيها قويًا.
- [ ] أعرف المناطق التي يكون فيها الذكاء الاصطناعي ضعيفًا من الناحية الهيكلية.
- [ ] يمكنني اتباع دليل القرار قبل تفويض المهمة.
- [ ] أعلم أنه لا يجب الاعتماد على الذكاء الاصطناعي لإجراء حسابات دقيقة ومعلومات حديثة.
- [ ] أعتبر الذكاء الاصطناعي "شريكًا خاضعًا للرقابة".