وحدة 4 / 11

موجه النظام ومعلمات النموذج

المكاسب:

  • يمكن تصميم كيفية توجيه موجه النظام للنموذج خلال المحادثة بأكملها
  • يفهم دور وتأثير التكلفة للتفكير التكيفي ومعايير الجهد
  • ينفذ عناصر التحكم في الإخراج مثل max_tokens وتسلسلات التوقف والإخراج المنظم

قد يتصرف منتجان مختلفان من نفس النموذج بشكل مختلف تمامًا. الفرق ليس في النموذج نفسه، ولكن في موجه النظام والمعلمات المعطاة له. موجه النظام هو "عقد العمل" الخاص بالنموذج والمعلمات هي "إعدادات العمل". في هذه الوحدة، ستتعلم كيفية تصميم موجه نظام قوي، وما تفعله إعدادات التفكير والجهد في النماذج الحديثة، وكيفية التحكم في الإخراج من حيث التنسيق/الطول. يتيح لك ضبط هذه الإعدادات بشكل صحيح إدارة الجودة والتكلفة في نفس الوقت.

موجه النظام: التوجيه الدائم للنموذج

موجه النظام هو تعليمات عالية المستوى يتم تطبيقها طوال المحادثة بأكملها. تظل هذه القواعد صالحة بغض النظر عن ما يكتبه المستخدم. يتضمن موجه النظام الجيد المكونات التالية:

  1. الدور/الهوية: من هو النموذج؟ ("أنت مساعد دعم الشركة.")
  2. النطاق والحدود: ماذا تفعل وماذا لا تفعل؟ ("تعتمد فقط على وثيقة السياسة المقدمة.")
  3. قواعد التنسيق: كيف يجب أن يبدو الإخراج؟ ("الحد الأقصى 3 مقالات، اللغة الرسمية.")
  4. السلوك في حالة عدم اليقين: ماذا يفعل الشخص عندما يكون غير متأكد؟ ("إذا لم تكن هناك معلومات، قم بتكوينها وتوجيهها إلى الوحدة المعنية.")
  5. الأمان/الخصوصية: ما الذي لا يريده/لا يريده؟ ("اطلب بيانات شخصية.")
نصيحة: حافظ على إصلاح موجه النظام. لا تقم بتضمين معلومات تتغير مع كل طلب (التاريخ الحالي، اسم المستخدم، معرف الجلسة). يؤدي هذا إلى كسر الاتساق وإبطال ذاكرة التخزين المؤقت للمطالبة في الوحدة 6. ضع معلومات المتغير في رسالة المستخدم.

فخ التعليمات المفرطة في العدوانية

النماذج الحديثة تتبع التعليمات عن كثب. العبارات العدوانية مثل "يجب"، "دائمًا"، "بالتأكيد افعل هذا"، وما إلى ذلك، والتي نجحت في النماذج القديمة، تؤدي اليوم إلى الإفراط في التحفيز: يستدعي النموذج الوكيل عندما لا تكون هناك حاجة إليه أو يعمل لفترة طويلة غير ضرورية. تليين القاعدة: بدلاً من عبارة "يجب استخدام أداة البحث"، تكون عبارة "إذا لم تكن الإجابة موجودة في المحادثة، استخدم أداة البحث" أكثر دقة.

معلمات النموذج: الفكر والجهد

كان لدى LLMs الكلاسيكية معلمة درجة الحرارة: القيمة المنخفضة تنتج مخرجات أكثر تحديدًا/اتساقًا، والقيمة الأعلى تنتج مخرجات أكثر تنوعًا/إبداعًا. نماذج الجيل الحديث (مثل Opus 4.8، Sonnet 5) تستبدل هذا النهج بآليتين أكثر قوة ولم تعد تقبل معلمات أخذ العينات مثل درجة الحرارة.

  • التفكير التكيفي: يقوم النموذج بالتفكير خطوة بخطوة في "رأسه" قبل الاستجابة. يقرر النموذج مقدار التفكير بناءً على صعوبة المهمة. تحسين الدقة بشكل كبير في حل المشكلات المعقدة والمتعددة الخطوات؛ يفكر بشكل أقل لتجنب التأخير غير الضروري في الأسئلة البسيطة.
  • الجهد: مقبض عالي المستوى يضبط مدى عمق تعمق النموذج في المهمة وعدد الرموز المميزة التي ينفقها إجمالاً. المستويات النموذجية: منخفضة، متوسطة، عالية وما فوق. قد يؤدي الجهد العالي إلى تحسين الجودة، ولكنه يزيد أيضًا من التأخير والتكلفة؛ الجهد المنخفض يجلب السرعة والتوفير.

الإعداد

ماذا يفعل

متى

التفكير خارج / جهد منخفض

سريعة ورخيصة وسطحية

تصنيف بسيط، استجابة قصيرة، تأخير المهام الحساسة

تفكير تكيفي+جهد متوسط

الجودة / التكلفة المتوازنة

معظم المهام للأغراض العامة

التفكير التكيفي + الجهد العالي

أعلى دقة

التفكير المعقد والترميز وعمل الوكيل بعيد المدى

تحذير: إن منعكس "أقصى جهد مهما كان" يؤدي إلى تضخيم التكاليف. ضبط الجهد على المهمة؛ في المهام البسيطة، غالبًا ما يعطي الجهد المنخفض نفس النتيجة الدقيقة بسعر أرخص بكثير. اذهب عاليًا حيث تكون هناك حاجة إلى الدقة الحرجة.

التحكم في الإخراج: التنسيق والطول والهيكل

إلى جانب المعلمات، يمكنك أيضًا التحكم في الإخراج نفسه:

  • max_tokens: السقف الصلب للإخراج (الوحدة الأولى والثالثة).
  • تسلسلات الإيقاف: إيقاف النموذج عندما يرى سلسلة معينة. مفيد لتحديد نقاط التوقف في الإنتاج المنظم.
  • الإخراج المنظم: فرض استجابة النموذج لتتوافق مع مخطط JSON الذي تقدمه. فهو يضمن أن الإخراج قابل للتحليل برمجيًا وصالح. إنه أكثر موثوقية من قول "فقط قم بإرجاع JSON" مع المطالبة.

{ "output_config": { "format": { "type": "json_schema"، "schema": { "type": "object"، "additionalProperties": false، "properties": { "category": { "type": "string"، "enum": ["invoice"، "technical"، "return"، "other"] }، "urgency": { "type": "string"، "enum": ["low"، "medium"، "high"] } }, "required": ["category", "urgency"] } } }}

قوالب موجه النظام القابلة للنسخ

# مساعد دعم الشركات أنت مساعد دعم الشركات. - اعتمد فقط على وثيقة السياسة المقدمة؛ إذا لم تكن موجودة في المستند، فقل "ليس لدي هذه المعلومات". - أعط إجابة رسمية وواضحة في 3 جمل كحد أقصى. - اطلب بيانات شخصية (رقم هوية TC، رقم البطاقة) ولا تكررها في إجابتك. - إذا لم تكن متأكدا، فلا تخمن.

# مصنف فرض الإخراج المنظم، أنت مصنف الطلب. الإدخال هو رسالة العميل. قم بإرجاع الحقول المطلوبة فقط، ولا تكتب تعليقات. إذا لم تكن متأكدًا، استخدم "أخرى".

# محلل ذو سلوك محدد للوقوف في حالة عدم اليقين، أنت محلل بيانات. ارسم استنتاجات يمكن التحقق منها فقط من الجدول المقدم. لا تتوصل أبدًا إلى استنتاج غير موجود في البيانات. إذا كان الاستدلال غير واضح، فاكتب "البيانات غير كافية".

# كاتب محتوى مع التحكم في النغمة والطول أنت كاتب محتوى. استخدم نغمة دافئة ولكن احترافية. حدد كل نص بـ 120 كلمة أو أقل. تجنب لغة التسويق المبتذلة.

موجه ضعيف / موجه قوي

# ضعيف كن مفيدًا وقدم إجابات جيدة. ابذل قصارى جهدك.

# الدور القوي: متخصص في الدعم الفني. النطاق: دليل المنتج متوفر فقط. التنسيق: خطوة بخطوة، قائمة مرقمة، 5 خطوات كحد أقصى. الحد: التوصية بالحل غير موجود في الدليل؛ قل "لم أتمكن من العثور عليه في الدليل". الخصوصية: لا تكرر الرقم التسلسلي الذي شاركه المستخدم في الرد.

نسخة قوية؛ ويحدد الدور والنطاق والشكل والحدود والسرية بشكل منفصل. يأتي اتساق الإخراج مباشرة من هذا الوضوح.

ثلاث حالات صغيرة

الحالة 1 - تخفيض التكلفة من خلال تعديل الجهد. كان فريق واحد يدير جميع مكالماته بجهد عالي + تفكير؛ حتى ملخصات البريد الإلكتروني البسيطة كانت باهظة الثمن وبطيئة الإنتاج. لقد قاموا بتعيين مهام بسيطة مثل ملخصات للجهد المنخفض وتحليل العقود للجهد العالي. وتم الحفاظ على الدقة، وانخفض متوسط ​​زمن الوصول إلى النصف، كما تم تخفيض التكلفة الشهرية بمقدار الثلث.

الحالة 2 - ضمان JSON. طلب فريق العمليات إخراج التصنيف بقول سريع "فقط أعط JSON"، لكن النموذج سيكتب أحيانًا "هذه هي النتيجة:" وسيتعطل المحلل اللغوي. عندما قمت بتوصيل مخطط الإخراج الذي تم تكوينه، أعاد الإخراج JSON صالحًا في كل مرة؛ تمت إعادة ضبط أخطاء التحليل.

الحالة 3 - الارتداد السريع العدواني. قال أحد المساعدين، "يجب البحث عن كل سؤال"؛ أجرى النموذج عمليات بحث غير ضرورية حتى عن الأسئلة البسيطة التي كان يعرف إجابتها بالفعل، مما أدى إلى تباطؤ التكاليف وزيادة التكاليف. لقد خففوا القاعدة إلى "إذا لم تكن الإجابة في السياق، فابحث"؛ انخفضت المكالمات غير الضرورية بنسبة 70% وتسارعت الاستجابات.

الأخطاء الشائعة

  • تضمين البيانات المتغيرة في موجه النظام: يكسر الاتساق ويبطل صلاحية ذاكرة التخزين المؤقت.
  • تعليمات شديدة العدوانية: التحفيز المفرط والتكلفة غير الضرورية في النماذج الحديثة.
  • جهد عالي في كل مهمة: يهدر في المهام البسيطة؛ ضبط الجهد على المهمة.
  • طلب JSON فقط عبر الموجه: ينقطع من حين لآخر؛ إذا كان الأمر بالغ الأهمية، استخدم المخرجات المنظمة.
  • عدم تحديد سلوك الحدود/الغموض: يملأ النموذج الفجوة بالتلفيق (الهلوسة).
  • عادة "درجة الحرارة" القديمة: النماذج الحديثة لا تقبل ذلك؛ توجيه السلوك بسرعة وجهد.

أعمق: كتابة الموجه مثل العقد

تتعامل الفرق ذات الخبرة مع النظام الموجه كعقد، وليس نصًا أدبيًا: بنود واضحة، وقواعد قابلة للقياس، وحدود لا لبس فيها. ولهذا النهج ثلاث فوائد ملموسة. الأول هو الاتساق: نفس المدخلات تعطي مخرجات مماثلة في أوقات مختلفة. الثاني هو قابلية الاختبار: يمكنك اختبار كل عنصر على حدة باستخدام عينة. ثالثًا، سهولة الصيانة: إذا كان السلوك خاطئًا، فأنت تعرف العنصر الذي يجب استبداله.

الممارسة الجيدة هي القيادة بأمثلة إيجابية. بدلاً من تقديم قائمة "لا تفعل هذا"، من الأكثر فاعلية في النماذج الحديثة تقديم مثال يقول "هذا هو بالضبط ما يبدو عليه الناتج المطلوب". على سبيل المثال، في أحد المصنفات، تؤدي إضافة عينة أو عينتين من JSON المتوقع إلى الموجه إلى تقليل أخطاء التنسيق بشكل كبير.

هناك أسلوب قوي آخر وهو كتابة سلوك عدم اليقين بشكل صريح. عبارة مثل "إذا لم تكن متأكدًا، فلا تخمن؛ قل "بيانات غير كافية"" تمنع ميل النموذج إلى ملء الفراغ بالتلفيق (الهلوسة). تعمل هذه الجملة الفردية على تفريغ طبقة التحقق، والتي سنغطيها في الوحدة 11: بمجرد أن يشير النموذج بالفعل إلى عدم اليقين، يصبح من الأسهل أن يؤدي إلى التحقق البشري.

أخيرًا، فكر في بذل الجهد والمبادرة معًا. وبجهد كبير، يستكشف النموذج المزيد، وفي بعض الأحيان يقوم "بعمل إضافي" غير مرغوب فيه (شرح غير ضروري، اقتراح إضافي). إن قول "أعط المخرجات المطلوبة فقط، ولا تضيف تعليقات إضافية" في الموجه يعوض هذا التأثير الجانبي للجهد العالي.

في ملخص

موجه النظام هو التوجيه الدائم للنموذج: فهو يحدد الدور والنطاق والشكل وسلوك الغموض والسرية. في النماذج الحديثة، يكون السلوك مدفوعًا بالتفكير التكيفي ومعايير الجهد بدلاً من درجة الحرارة؛ إن مواءمة الجهود مع المهمة يؤدي إلى إدارة الجودة والتكلفة في وقت واحد. يمكنك تأمين الإخراج باستخدام max_tokens ومصفوفات الإيقاف والإخراج المنظم.

مهمة التطبيق

اختر مهمة. (1) اكتب موجه نظام يتكون من خمسة مكونات (الدور، النطاق، التنسيق، الغموض، السرية). (2) اذكر مستوى الجهد الذي ستختاره لهذه المهمة ولماذا. (3) إذا كان يجب تنظيم المخرجات، قم برسم مخطط JSON صغير. (4) تحقق مما إذا كان هناك نمط عدواني مفرط في مطالبتك وقم بتخفيفه.

قائمة مرجعية

  • [ ] يمكنني تسمية خمسة مكونات لموجه النظام الجيد.
  • [ ] أستطيع أن أشرح ما يفعله التفكير التكيفي ومعلمات الجهد.
  • [ ] يمكنني تحقيق التوازن بين الجودة والتكلفة من خلال تعديل الجهد وفقًا للمهمة.
  • [ ] أعرف لماذا يعتبر الإخراج المنظم أكثر أمانًا من طلب JSON عبر المطالبة.
  • [ ] يمكنني التعرف على المخاطر الموجودة في النماذج الحديثة للتعليمات المفرطة في العدوانية.