ትርፍ፡
- የኤል ኤም ኤል ኤፒአይ ጥያቄ (የመጨረሻ ነጥብ፣ ሞዴል፣ መልእክቶች፣ max_tokens) መሰረታዊ መዋቅርን መግለጽ ይችላል።
- በስርዓት፣ በተጠቃሚ እና በረዳት ሚናዎች እና ሀገር አልባ የውይይት ታሪክ መካከል ያለውን ልዩነት ይረዳል
- የተመለሰውን ምላሽ መስኮች (የይዘት ብሎኮች፣ stop_reason፣ አጠቃቀም) ማንበብ እና መተርጎም ይችላል።
በቀደሙት ሞጁሎች ሰው ሰራሽ የማሰብ ችሎታን ከቻት መስኮት እንጠቀም ነበር። ነገር ግን በራስዎ ምርት፣ አውቶሜሽን ወይም የስራ ፍሰት ውስጥ AIን መክተት ከፈለጉ የውይይት በይነገጽ አይቀንስም። ከአምሳያው ጋር በፕሮግራም ማለትም በኮድ ወይም በአውቶሜሽን መሳሪያ መገናኘት ያስፈልግዎታል. የዚህ ድልድይ ስም ኤፒአይ (Application Programming Interface፣ ሁለት ሶፍትዌሮች ከተወሰኑ ሕጎች ጋር እንዲነጋገሩ የሚያስችል ውል) ነው። ይህን ክፍል ሲጨርሱ የኤል ኤም ኤል (ትልቅ የቋንቋ ሞዴል) ኤፒአይ ጥያቄ ምን እንደሆነ፣ የመልእክት ሚናዎች ምን እንደሆኑ እና ምላሹን እንዴት እንደሚያነቡ ያውቃሉ። ይህ የቀረው ሞጁል የሚገነባበት መሠረት ነው.
ኤፒአይ እንዴት ነው የሚሰራው?
በኤፒአይ ውስጥ ያለው መሠረታዊ ፍሰት ይህ ነው-ጥያቄን በተወሰነ ቅርጸት ይልካሉ; አገልጋዩ ምላሹን በተወሰነ ቅርጸት ይመልሳል። በኤል.ኤል.ኤም.ዎች ውስጥ፣ ይህ ብዙውን ጊዜ የኤችቲቲፒ ጥሪ ነው (ኤችቲቲፒ፡ መደበኛ ፕሮቶኮል የጥያቄ ምላሽ በድሩ ላይ) ወደ አንድ አድራሻ (የመጨረሻ ነጥብ፣ ጥያቄዎን የሚያስተናግደው አገልጋይ ላይ ያለው ቋሚ አድራሻ)። ለምሳሌ፣ በመልእክት መላላኪያ ኤፒአይ፣ ሁሉም ጥያቄዎች ወደ አንድ አድራሻ ይሄዳሉ እና በሰውነት ውስጥ እንደ JSON (ጃቫስክሪፕት የነገር ኖቴሽን - የጽሑፍ ቅርጸት በሰዎችና በማሽን ሊነበቡ የሚችሉ የቁልፍ/ዋጋ ጥንዶችን ያቀፈ)።
በጥያቄ ውስጥ፣ ቢያንስ እነዚህን ሶስት ነገሮች ይጠቅሳሉ፡-
- ሞዴል: የትኛውን ሞዴል እንደሚጠቀሙ (ለምሳሌ ፈጣን እና ርካሽ ሞዴል ወይም ኃይለኛ ሞዴል).
- max_tokens: ሞዴሉ ሊያወጣው የሚችለው ከፍተኛው የቶከኖች ብዛት (ጽሑፉ የሚሠራበት ትንሹ ክፍል፣ በሚቀጥለው ክፍል ውስጥ በዝርዝር ይከናወናል)። ማለትም የውጤት ገደብ።
- መልእክቶች፡ ውይይቱን የሚያካትቱ የመልእክቶች ዝርዝር።
ደረጃ በደረጃ፡ ጥያቄን እንዴት ማዋቀር እንደሚቻል
- የመጨረሻውን ነጥብ እና ምስክርነቶችን ያዘጋጁ. በአርዕስት ውስጥ የእርስዎን ኤፒአይ ቁልፍ (ማንነትዎን የሚያረጋግጥ ሚስጥራዊ ሕብረቁምፊ) ወደ ጥያቄው ያክላሉ። በኮዱ ውስጥ ቁልፉን በጭራሽ አልክተቱት; በክፍል 9 ውስጥ ደህንነቱ የተጠበቀ ማከማቻ እንሸፍናለን።
- የሞዴሉን እና የውጤት ገደብ ይምረጡ. ቀላል ክብደት ያለው ሞዴል + ለቀላል ተግባር አነስተኛ ማክስ_ቶከኖች; ኃይለኛ ሞዴል + ለአንድ ውስብስብ ተግባር ትልቅ ገደብ።
- የመልእክት ዝርዝሩን ያዘጋጁ። List the system instruction, user message, and past rounds (if any).
- ጥያቄውን ይላኩ እና ምላሹን ይተንትኑ። ከተመለሰው JSON የጽሑፍ ይዘትን፣ ምክንያትን አቁም እና የማስመሰያ አጠቃቀምን ያንብቡ።
የመልእክት ሚናዎች፡ ስርዓት፣ ተጠቃሚ፣ ረዳት
ውይይቱ በቅደም ተከተል የተደረደሩ መልእክቶችን ያቀፈ ነው፣ እና እያንዳንዱ መልእክት ሚና አለው። ሚናው ሞዴሉ ያንን ጽሑፍ እንዴት እንደሚይዝ ይወስናል።
ሚና
ማን ይጽፋል
ዓላማ
ስርዓት
ገንቢ/ኦፕሬተር
በጠቅላላው ውይይት ውስጥ የሚተገበሩ ቋሚ መመሪያዎች፣ ስብዕና እና ደንቦች
ተጠቃሚ
የመጨረሻ ተጠቃሚ
የተጠቃሚው ወቅታዊ ጥያቄ ወይም ግቤት
ረዳት
ሞዴል
በአምሳያው የተሰራ ምላሽ (እና ቀደምት ምላሾች)
የስርዓት ሚና በአብዛኛዎቹ አቅራቢዎች ውስጥ በጥያቄ አካል ውስጥ እንደ የተለየ የስርዓት መስክ ይገኛል። ተጠቃሚ እና ረዳት በመልእክቶች ዝርዝር ውስጥ በቅደም ተከተል ተዘርዝረዋል ። Critical point: the system instruction is the high-level instruction, the user message is the request to be answered at that moment.
{"model": "claude-opus-4-8", "max_tokens": 1024, "system": "እርስዎ የድርጅት ድጋፍ ሰጪ ረዳት ነዎት። አጭር፣ መደበኛ እና የተረጋገጠ ምላሽ ይስጡ። እርግጠኛ ያልሆኑትን መረጃ አያዘጋጁ።"፣ "መልእክቶች": } ]}
ንግግር አገር አልባ ነው።
በጣም የተለመደው የተሳሳተ ግንዛቤ ይኸውና፡ የኤልኤልኤም ኤፒአይ ጥሪዎች አገር አልባ ናቸው - አገልጋዩ በሁለት ጥያቄዎች መካከል ምንም ትውስታ አይይዝም። ሞዴሉ የቀደመውን ጥያቄዎን አያስታውስም። ባለብዙ ዙር ውይይት እያዘጋጁ ከሆነ፣ ያለፉትን ዙሮች በእያንዳንዱ አዲስ ጥያቄ እንደገና መላክ ያስፈልግዎታል። የአምሳያው "ማስታወሻ" እርስዎ የላኳቸውን መልዕክቶች ዝርዝር ያካትታል.
{"ሞዴል": "claude-opus-4-8", "max_tokens": 512, "መልእክቶች": [ {"ሮል": "ተጠቃሚ", "ይዘት": "ጤና ይስጥልኝ, ስሜ ዴኒዝ ነው." }, {"role": "ረዳት", "ይዘት": "ጤና ይስጥልኝ ዴኒዝ፣ እንዴት ልረዳህ እችላለሁ?" }, {"role": "ተጠቃሚ", "ይዘት": "አሁን ስሜን ተናግሬአለሁ፣ ታስታውሳለህ?" } ]}
የሶስተኛውን መልእክት በትክክል መመለስ ሁለቱንም የቀደሙት መልዕክቶች በመላክ ላይ ይወሰናል። ካልላኩት ሞዴሉ "ባህር" አያውቅም እና የተሳሳተ መልስ ይሰጣል. ይህ በቀጥታ ወጪውን ይነካል፡ ውይይቱ በረዘመ ቁጥር፣ ዝርዝሩ እየጨመረ ይሄዳል፣ እያንዳንዱ ጥያቄ ብዙ ምልክቶችን ይወስዳል።
ጠቃሚ ምክር፡ በረዥም ንግግሮች ውስጥ፣ አጠቃላይ ታሪክን ከመላክ ይልቅ የቆዩ ዙሮችን ማጠቃለል እና ማንቀሳቀስ ወጪን ይቀንሳል እና የአውድ መስኮቱን ይጠብቃል። ይህንን በክፍል 6 እና 11 ውስጥ እናጠናቅቃለን።
መልሱን ያንብቡ
ሞዴሉ ምላሹን ሲመልስ፣ የተዋቀረ ነገር ይቀበላሉ እንጂ ግልጽ ጽሑፍ አይደለም። የተለመዱ አካባቢዎች፡
{ "id": "msg_01ABC...", "model": "claude-opus-4-8", "role": "assistant", "content": [ {"type": "text", "text": "መልሶን ለመጀመር በመለያዎ ውስጥ ወዳለው 'የእኔ ትዕዛዞች' ገጽ ይሂዱ..." } ]፣ "ማቆሚያ_ምክንያት": "ለመጨረስ 47፣ "የውጤት_ቶከኖች"፡ 88 }}
- ይዘት: ምላሹ ራሱ; እሱ የይዘት እገዳዎች ዝርዝር ነው። የጽሑፍ እገዳው የጽሑፍ መስክ ትክክለኛው መልስ ነው.
- stop_reason: ሞዴሉ ለምን ቆሟል. end_turn = የተፈጥሮ መጨረሻ; max_tokens = በውጤት ገደብ ላይ ተጣብቋል (ምላሹ ያልተሟላ ሊሆን ይችላል); እምቢ ማለት = ለደህንነት ሲባል እምቢ ማለት ነው። ኮድህ ሁል ጊዜ stop_reasonን መጀመሪያ ማየት አለበት።
- አጠቃቀም፡ የግቤት እና የውጤት ማስመሰያ ቁጥሮች። የዋጋ እና ገደብ ክትትል መሰረት ነው.
ትኩረት፡ stop_reason max_tokens ከሆነ ምላሹ አልተጠናቀቀም። ይህንን እንደ "የተሳካ ምላሽ" መውሰድ እና ግማሽ ጽሑፍን ለተጠቃሚው ማሳየት በምርት ውስጥ በጣም የተለመዱ ስህተቶች አንዱ ነው። ወይ max_token ጨምር ወይም ዥረት ተጠቀም።
ደካማ ጥያቄ / ጠንካራ ጥያቄ
ከሁለት የተለያዩ የስርዓት ጥያቄዎች ጋር ተመሳሳይ ተግባር
# ደካማ አንተ ረዳት ነህ። ጥያቄዎቹን ይመልሱ።
# STRONG እርስዎ የድርጅት ድጋፍ ረዳት ነዎት። ደንቦች: - በተሰጠው የፖሊሲ ሰነድ ላይ ባለው መረጃ ላይ ብቻ ይደገፉ; በሰነዱ ውስጥ ከሌለ "ይህ መረጃ የለኝም ወደሚመለከተው ክፍል እየመራሁ ነው" ይበሉ። - መልሶች ከ 3 ዓረፍተ ነገሮች መብለጥ የለባቸውም, መደበኛ እና ግልጽ ይሁኑ. - የግል መረጃን (TC ID ቁጥር, የካርድ ቁጥር) አይጠይቁ እና አይድገሙ. - እርግጠኛ በማይሆኑበት ጊዜ አይገምቱ.
ኃይለኛ ስሪት; ወሰንን፣ ቅርፅን፣ የደህንነት ህዳግን እና ባህሪን በእርግጠኝነት ይገልፃል። የአምሳያው ውፅዓት ወጥነት በቀጥታ የሚመጣው ከዚህ ግልጽነት ነው.
ሶስት ሚኒ ጉዳዮች
ጉዳይ 1 - የድጋፍ ቦት (አገር አልባ ወጥመድ)። አንድ የኢ-ኮሜርስ ቡድን ቦት በቀጥታ ወሰደ; ተጠቃሚው "የቀድሞውን ትዕዛዝ ሰርዝ" ሲል, ቦት የትዕዛዝ ቁጥሩን "ረስቷል". ምክንያት፡ እያንዳንዱን ጥያቄ በመጨረሻው መልእክት ብቻ ይልኩ ነበር። መፍትሄ፡ የመጨረሻዎቹን 6 ዙሮች ወደ መልእክቶች ዝርዝር አክለዋል። ውጤት፡ አውድ ተጠብቆ፣ ነገር ግን የጥያቄ ግብአት ከ40 ቶከኖች ወደ ~600 ቶከኖች ጨምሯል — የወጪውን ትምህርት በክፍል 2 እንሸፍናለን።
ጉዳይ 2 - ያልተሟላ የኮንትራት ማጠቃለያ. አንድ የህግ ቡድን ባለ 10 ገጽ ኮንትራቶች ተዘርዝረዋል; max_tokens፡ 300 ዝቅተኛ ናቸው፣ ማጠቃለያዎች የአረፍተ ነገሩን መሀል እያቋረጡ ነበር። stop_reason በእያንዳንዱ ጊዜ ከፍተኛው_ቶከን ነበር ነገር ግን ማንም አይመለከትም ነበር። ከፍተኛው_ቶከን ወደ 1500 ጨምሯል እና የማቆሚያ_ምክንያት ማረጋገጫን ጨምሯል; የተቆረጠው ማጠቃለያ መጠን ከ18% ወደ 0% ቀንሷል።
ጉዳይ 3 - ሚናዎችን ማደባለቅ. የግብይት ቡድን ሁሉንም መመሪያዎች በተጠቃሚው መልእክት ውስጥ እየፃፈ ነበር፣ ይህም ስርዓቱ ባዶ ነው። የተጠቃሚ ግብዓት ከመመሪያው ጋር ሲደባለቅ፣ ሞዴሉ አንዳንድ ጊዜ የተጠቃሚውን "የቀደሙትን ህጎች እርሳ" የሚለውን ትዕዛዝ ያከብራል። ቋሚ ደንቦችን ወደ ስርዓቱ ተንቀሳቅሰዋል; የተጠቃሚ ግብአትን ከመመሪያው በመለየት፣የደንብ ጥሰቶች በከፍተኛ ሁኔታ ቀንሰዋል።
የተለመዱ ስህተቶች
- ያለፈውን ለመላክ መርሳት: ሞዴሉ "አላስታውሰውም" ተብሎ ይታሰባል; አገር አልባ ሆኖ ሳለ። አውድ ትሸከማለህ።
- `የማቆሚያ_ምክንያት'ን አለመመልከት፡- በከፍተኛ ቶከኖች የቆመው ምላሽ እንደተጠናቀቀ ይቆጠራል።
- መመሪያውን በ'ተጠቃሚ' ውስጥ መክተት፡ የማያቋርጥ ህጎች ወደ ስርዓት; ፈጣን ግቤት ወደ ተጠቃሚው ይሄዳል። መቀላቀል የደህንነት ድክመቶችን ይፈጥራል።
- ለአንድ ግልጽ ሕብረቁምፊ 'ይዘት'ን መሳሳት፡ መልሱ የብሎኮች ዝርዝር ነው፤ የመጀመሪያውን የጽሑፍ ብሎክ የጽሑፍ መስክ ያንብቡ ፣ ይዘቱን ከማግኘትዎ በፊት አይነቱን ያረጋግጡ[0] በዓይነ ስውር መረጃ ጠቋሚ።
- ቁልፉን በኮዱ ውስጥ መክተት፡ የአካባቢ ተለዋዋጭ ተጠቀም (ክፍል 9)።
ጥልቅ፡ የይዘት እገዳዎች እና ባለብዙ ክፍል መልሶች
በምላሹ ውስጥ ያለው የይዘት መስክ ለምን ዝርዝር እንደሆነ መረዳት በኋላ ላይ የሚያገኟቸውን የላቁ ባህሪያት መሰረታዊ ነው። አንዳንድ ጊዜ ሞዴሉ አንድ ጽሑፍ ብቻ ሳይሆን ብዙ ብሎኮችን ይመልሳል-የአስተሳሰብ እገዳ ፣ ከዚያ የጽሑፍ እገዳ; ወይም በመሳሪያ አጠቃቀም ብሎክ የተከተለ ጽሑፍ። ለዛ ነው በጭፍን ይዘት[0]ን እንደ "መልስ" መቁጠር ደካማ የሆነው። ትክክለኛው አቀራረብ በዝርዝሩ ውስጥ ማለፍ እና በአይነት መደርደር ነው፡ የብሎኮችን የጽሑፍ ይዘት የአይነታቸው መስክ ጽሑፍን ሰብስብ እና ሌሎች ዓይነቶችን (አስተሳሰብ ፣ መሳሪያ) ለየብቻ ማስተናገድ ነው።
ይህ ልዩነት በተግባር ላይ የሚውለው ለተጠቃሚው ሳይገለጽ የአምሳያውን ምክንያት (ካለ) ማስገባት ይችላሉ, የመሳሪያ ጥሪዎችን ወደ አመክንዮ ማዞር እና ትክክለኛውን መልስ በስክሪኑ ላይ ብቻ ማተም ይችላሉ. ሞጁሉ እየገፋ ሲሄድ (በተለይ በክፍል 4 እና 11) ይህ የማገጃ መዋቅር ውጤቱን ለማረጋገጥ እና ለመምራት ምን ያህል ጠቃሚ እንደሆነ ያያሉ።
ሌላ ተግባራዊ ነጥብ: ከተለያዩ የአቅራቢ መድረኮች (ቀጥታ ኤፒአይ, በደመና አቅራቢ በኩል) ተመሳሳይ ሞዴል ማግኘት ይችላሉ. ምንም እንኳን የመጨረሻው ነጥብ አድራሻ እና የማረጋገጫ ቅርፀት ሊለወጡ ቢችሉም መሰረታዊ ፅንሰ-ሀሳቦች እንደ የመልዕክት ሚናዎች፣ ሀገር አልባነት እና የምላሽ መዋቅር ያሉ ናቸው። ስለዚህ ምንም አይነት መድረክ ቢጠቀሙ በዚህ ክፍል ውስጥ ያሉት መሰረታዊ ነገሮች ይተገበራሉ።
በማጠቃለያው
የኤልኤልኤም ኤፒአይ ጥያቄ የሞዴሉን፣ የውጤት ገደብ እና የመልእክት ዝርዝርን ያካትታል። ሚናዎች (ስርዓት, ተጠቃሚ, ረዳት) የአምሳያው ባህሪን ይወስናሉ. ጥሪዎች አገር አልባ ናቸው፡ ከእያንዳንዱ ጥያቄ ጋር አውድ ይዘህ ነው። ምላሹ የተዋቀረ ነገር ነው; ይዘቱን ማንበብ እና መተርጎም የማቆሚያ_ምክንያት እና የአጠቃቀም መስኮች በምርት ውስጥ የመቆየት መሰረት ነው።
የመተግበሪያ ተግባር
ከራስህ ሙያ አንድ ተግባር ምረጥ (ለምሳሌ ገቢ ኢ-ሜይል መደርደር፣ አጭር ማጠቃለያ መፍጠር)። በወረቀት ላይ፡ (1) የስርዓት መጠየቂያውን ከ4-5 ህጎች ይፃፉ፣ (2) የናሙና ተጠቃሚ መልእክት እና ካለ ባለ 2-ዙር ታሪክ ያቀናብሩ፣ (3) ለ max_tokens ምክንያታዊ ዋጋን ይወስኑ እና ማረጋገጫውን ይፃፉ፣ (4) በተመለሰው ምላሽ እና እንዴት የሚይዙትን የማቆሚያ_ምክንያት ዋጋዎችን ይዘረዝሩ።
የማረጋገጫ ዝርዝር
- [] የጥያቄውን ሶስት አስገዳጅ ክፍሎች (ሞዴል፣ማክስ_ቶከኖች፣መልእክቶች) መቁጠር እችላለሁ።
- [] በስርዓት፣ በተጠቃሚ እና በረዳት ሚናዎች መካከል ያለውን ልዩነት ማብራራት እችላለሁ።
- [ ] ጥሪዎች አገር አልባ መሆናቸውን እና ያለፈውን መሸከም እንደሚያስፈልገኝ አውቃለሁ።
- በ [ ] ይዘት፣ ማቆሚያ_ምክንያት እና የአጠቃቀም መስኮች ላይ ማንበብ እና አስተያየት መስጠት እችላለሁ።
- [ ] በ max_tokens የተቆረጠውን ምላሽ ማስተዋል እና ማስተናገድ እችላለሁ።