Eto Tọ ati Awọn awoṣe awoṣe — API, Owo ati Integration

Awọn anfani:

Le ṣe apẹrẹ bawo ni itọka eto ṣe itọsọna awoṣe nipasẹ gbogbo ibaraẹnisọrọ
Loye ipa ati ipa idiyele ti ironu adaṣe ati awọn aye ipa
nmu awọn iṣakoso iṣelọpọ ṣiṣẹ gẹgẹbi max_tokens, awọn ilana iduro, ati igbejade ti a ṣeto

Awọn ọja oriṣiriṣi meji ti awoṣe kanna le huwa ni iyatọ patapata. Iyatọ ko si ninu awoṣe funrararẹ, ṣugbọn ninu eto eto ati awọn aye ti a fun ni. Itọkasi eto naa jẹ “adehun iṣẹ” awoṣe ati awọn paramita jẹ “awọn eto iṣẹ”. Ninu ẹyọ yii, iwọ yoo kọ ẹkọ bi o ṣe le ṣe apẹrẹ eto itọsi ti o lagbara, kini ero ati awọn eto igbiyanju ni awọn awoṣe ode oni ṣe, ati bii o ṣe le ṣakoso iṣelọpọ fun ọna kika / gigun. Ṣiṣeto awọn eto wọnyi ni deede gba ọ laaye lati ṣakoso didara mejeeji ati idiyele ni akoko kanna.

Eto Tọ: Itọsọna Yẹ ti Awoṣe naa

Itọkasi eto jẹ itọnisọna ipele giga ti o kan jakejado gbogbo ibaraẹnisọrọ naa. Awọn ofin wọnyi wa wulo laibikita iru iru olumulo. Itọkasi eto to dara pẹlu awọn paati wọnyi:

Ipa/idanimọ: Tani awoṣe? ("Iwọ jẹ oluranlọwọ atilẹyin ile-iṣẹ.")
Dopin ati aala: Kini o ṣe ati kini ko ṣe? ("Ipilẹ nikan lori iwe eto imulo ti a pese.")
Awọn ofin kika: Kini o yẹ ki iṣẹjade dabi? ("Awọn nkan 3 ti o pọju, ede osise.")
Iwa ni aidaniloju: Kini eniyan ṣe nigbati ko ba ni idaniloju? ("Ti ko ba si alaye, ṣe soke, darí rẹ si ẹyọkan ti o yẹ.")
Aabo/aṣiri: Kini ko/ko fẹ? ("Beere data ti ara ẹni.")

Imọran: Jeki eto kiakia ti o wa titi. Ma ṣe fi sii alaye ti o yipada pẹlu ibeere kọọkan (ọjọ lọwọlọwọ, orukọ olumulo, ID igba). Eleyi mejeji fi opin si aitasera ati invalidates awọn tọ kaṣe lori kuro 6. Fi oniyipada alaye ninu awọn olumulo ifiranṣẹ.

Pakute Itọnisọna Aṣeju Aṣeju

Awọn awoṣe ode oni tẹle itọnisọna ni pẹkipẹki. Awọn gbolohun ọrọ ibinu gẹgẹbi "MUST", "GBOGBO", "DEFINITELY ṣe eyi", ati bẹbẹ lọ, eyiti o ṣiṣẹ ni awọn awoṣe agbalagba, loni yorisi ikọlu: awoṣe n pe oluranlowo nigbati ko nilo tabi nṣiṣẹ fun igba pipẹ ti ko ni dandan. Rirọ ofin naa: Dipo “GBỌDỌ lo ohun elo wiwa”, “Ti idahun ko ba si ninu ibaraẹnisọrọ, lo ohun elo wiwa” jẹ deede diẹ sii.

Awọn awoṣe awoṣe: Ero ati igbiyanju

Awọn LLM kilasika ni paramita iwọn otutu: iye kekere ti o ṣe agbejade ni pato diẹ sii/ijade ni ibamu, iye ti o ga julọ ti a ṣe agbejade oniruuru diẹ sii/iṣelọpọ iṣelọpọ. Awọn awoṣe iran ode oni (bii Opus 4.8, Sonnet 5) rọpo ọna yii pẹlu awọn ọna ṣiṣe agbara meji diẹ sii ko si gba awọn aye iṣapẹẹrẹ bii iwọn otutu.

Iṣatunṣe ironu: Awọn idi awoṣe ni igbese nipa igbese ni “ori” rẹ ṣaaju idahun. Awọn awoṣe pinnu bi o ṣe le ronu da lori iṣoro ti iṣẹ-ṣiṣe naa. Ti o ṣe pataki ni ilọsiwaju deede lori eka, awọn iṣoro-igbesẹ pupọ; O ronu kere si lati yago fun awọn idaduro ti ko ni dandan lori awọn ibeere ti o rọrun.
Igbiyanju: Bọtini ipele giga ti o ṣatunṣe bi awoṣe ṣe jinna sinu iṣẹ-ṣiṣe ati iye awọn ami-ami ti o na lapapọ. Awọn ipele aṣoju: kekere, alabọde, giga ati loke. Igbiyanju giga le mu didara dara, ṣugbọn o tun mu idaduro ati iye owo pọ si; Igbiyanju kekere n mu iyara ati ifowopamọ.

Eto

Kini o ṣe

nigbawo

Lerongba pa / kekere akitiyan

Yara, poku, Egbò

Iyasọtọ ti o rọrun, idahun kukuru, idaduro awọn iṣẹ ṣiṣe ifura

Adaptive ero + alabọde akitiyan

Didara iwontunwonsi / iye owo

Julọ gbogboogbo idi awọn iṣẹ-ṣiṣe

Adaptive ero + ga akitiyan

ga yiye

Idiyele eka, ifaminsi, iṣẹ aṣoju gigun

Išọra: “Igbiyanju ti o pọju laibikita kini” reflex nfa awọn idiyele. Ṣatunṣe igbiyanju si iṣẹ-ṣiṣe; Ni awọn iṣẹ ṣiṣe ti o rọrun, igbiyanju kekere nigbagbogbo n fun abajade deede kanna ni idiyele ti o din owo pupọ. Lọ giga nibiti o nilo deede deede.

Iṣakoso Ijade: Ọna kika, Gigun, Eto

Yato si awọn paramita, o tun ṣakoso iṣelọpọ funrararẹ:

max_tokens: Lile orule ti o wu (1. ati 3. kuro).
Duro awọn ilana: Idaduro awoṣe nigbati o rii okun kan. Wulo fun a ṣeto breakpoints ni ti eleto gbóògì.
Iṣẹjade ti a ṣeto: Fi ipa mu esi awoṣe lati ni ibamu si ero JSON ti o pese. O ṣe idaniloju pe abajade jẹ parsable ti eto ati wulo. O jẹ igbẹkẹle diẹ sii ju sisọ “pada JSON kan” pẹlu itọka kan.

{"output_config": {"kika": {"type": "json_schema", "schema": {"type": "ohun", "afikun Properties": false, "properties": {"category": {"type": "string", "enum": ["risiti", "imọ-ẹrọ", "pada", "oriṣi: "omiiran]"}" gency "enum": ["kekere", "alabọde", "giga"]}}, "beere": ["ẹka", "ikanju"] }}}

Copiable System Tọ Awọn awoṣe

# Oluranlọwọ atilẹyin ile-iṣẹO jẹ oluranlọwọ atilẹyin ile-iṣẹ kan.- Gbẹkẹle nikan lori iwe eto imulo ti a pese; Ti ko ba si ninu iwe, sọ "Emi ko ni alaye yii." - Fun kan lodo ati ki o ko o idahun ni o pọju 3 awọn gbolohun ọrọ. - Beere fun data ti ara ẹni (nọmba ID TC, nọmba kaadi) ati maṣe tun ṣe ni idahun rẹ. - Ti o ko ba ni idaniloju, maṣe gboju.

# Ti eleto iṣelọpọ muwon classifierO jẹ olutọpa eletan. Iṣawọle jẹ ifiranṣẹ alabara. Pada awọn aaye ti o beere nikan, maṣe kọ awọn asọye. Ti o ko ba ni idaniloju, lo "miiran".

# Oluyanju pẹlu ihuwasi asọye ti iduro ni aidanilojuO jẹ atunnkanka data. Fa nikan verifiable inferences lati awọn tabili pese. Maṣe ṣe ipinnu kan ti ko si ninu data naa. Ti itọkasi kan ko ba han, kọ “data ko to.”

# Onkọwe akoonu pẹlu ohun orin ati iṣakoso gigun Iwọ jẹ onkọwe akoonu. Lo gbona ṣugbọn ohun orin alamọdaju. Fi opin si ọrọ kọọkan si awọn ọrọ 120 tabi kere si. Yago fun cliché ede tita.

Ailagbara kiakia / Alagbara kiakia

# WEAKBe iranlọwọ ki o fun awọn idahun to dara. Ṣe ohun ti o dara julọ.

# Ipa STRONG: Onimọran atilẹyin imọ-ẹrọ.Iwọn: Itọsọna ọja ti a pese nikan.kika: Igbesẹ-igbesẹ, atokọ nọmba, awọn igbesẹ 5 ti o pọju.Iwọn: Ṣeduro ojutu ko si ninu itọsọna naa; Sọ "Emi ko le rii ninu itọnisọna." Aṣiri: Maṣe tun nọmba ni tẹlentẹle ti olumulo pin ninu idahun naa.

Alagbara ti ikede; O ṣe ipinnu ipa, iwọn, ọna kika, awọn aala ati asiri lọtọ. Aitasera Abajade ba wa taara lati yi wípé.

Mẹta Mini igba

Ọran 1 - Idinku idiyele nipasẹ atunṣe igbiyanju. Ẹgbẹ kan nṣiṣẹ gbogbo awọn ipe wọn lori igbiyanju giga + ero; Paapaa awọn iṣiro imeeli ti o rọrun jẹ gbowolori ati lọra lati gbejade. Wọn yàn awọn iṣẹ-ṣiṣe ti o rọrun gẹgẹbi awọn akojọpọ si igbiyanju kekere ati iṣeduro adehun si igbiyanju giga. Ipeye ni a tọju, aropin aropin jẹ idaji, ati pe iye owo oṣooṣu ti dinku nipasẹ idamẹta.

Case 2 - JSON ẹri. Ẹgbẹ iṣiṣẹ kan beere fun iṣelọpọ isọdi pẹlu iyara kan ti o sọ pe “fun JSON nikan”, ṣugbọn awoṣe yoo kọ lẹẹkọọkan “Eyi ni abajade:” ati pe olutọpa yoo jamba. Nigbati mo ti sopọ ni tunto o wu ero, awọn esi pada wulo JSON ni gbogbo igba; awọn aṣiṣe itọka ti tunto.

Irú 3 - Ibinu ipadasẹhin kiakia. Ibere oluranlọwọ kan sọ pe, "GBỌdọ wa fun GBOGBO IBEERE"; Awoṣe naa ṣe awọn wiwa ti ko ni dandan paapaa fun awọn ibeere ti o rọrun si eyiti o ti mọ idahun tẹlẹ, fa fifalẹ ati awọn idiyele pọ si. Wọn sinmi ofin naa si “Ti idahun ko ba si ni ọrọ, wa”; Awọn ipe ti ko wulo ti dinku nipasẹ 70% ati awọn idahun ni iyara.

Awọn aṣiṣe ti o wọpọ

Ifibọ data oniyipada sinu tọ eto: Fọ aitasera ati invalidates awọn kaṣe.
Ilana ibinu pupọju: Nfa pupọ ati idiyele ti ko wulo ni awọn awoṣe ode oni.
Igbiyanju giga ni gbogbo iṣẹ-ṣiṣe: Egbin ni awọn iṣẹ-ṣiṣe ti o rọrun; ṣatunṣe akitiyan si iṣẹ-ṣiṣe.
Beere JSON nikan nipasẹ tọ: O fọ lẹẹkọọkan; ti o ba ti lominu ni, lo ti eleto o wu.
Ko ṣe asọye aala / ihuwasi aibikita: Awoṣe naa kun aafo pẹlu iṣelọpọ (hallucination).
Iwa 'otutu' atijọ: Awọn awoṣe ode oni ko gba eyi; Iwa itọsọna pẹlu iyara ati igbiyanju.

Ti o jinle: Kikọ lẹsẹkẹsẹ Bi Adehun kan

Awọn ẹgbẹ ti o ni iriri tọju eto naa tọ bi iwe adehun, kii ṣe ọrọ iwe-kikọ: awọn gbolohun ọrọ ti o han gbangba, awọn ofin iwọnwọn, awọn aala ti ko ni idaniloju. Yi ona ni o ni meta nja anfani. Ohun akọkọ jẹ aitasera: titẹ sii kanna n fun irujade ni awọn akoko oriṣiriṣi. Ẹlẹẹkeji jẹ idanwo: o le ṣe idanwo ohun kọọkan lọtọ pẹlu apẹẹrẹ kan. Kẹta ni irọrun ti itọju: ti ihuwasi ba jẹ aṣiṣe, o mọ iru nkan lati rọpo.

Iwa ti o dara ni lati ṣe itọsọna pẹlu awọn apẹẹrẹ rere. Dipo ki o pese atokọ ti “maṣe ṣe eyi”, o munadoko diẹ sii ni awọn awoṣe ode oni lati pese apẹẹrẹ ti o sọ “eyi ni deede ohun ti abajade ti o fẹ dabi”. Fun apẹẹrẹ, ninu olutọpa kan, fifi ọkan tabi meji awọn ayẹwo ti JSON ti a reti si kiakia dinku awọn aṣiṣe kika.

Ilana ti o lagbara miiran ni lati kọ ihuwasi aidaniloju ni gbangba. Abala kan gẹgẹbi "Ti ko ba ni idaniloju, maṣe gboju; sọ 'data ti ko to'" npa ifarahan awoṣe naa lati kun ofo pẹlu irọra (hallucination). Gbólóhùn ẹyọkan yii ṣe agbejade ipele ijẹrisi, eyiti a yoo bo ni ẹyọkan 11: ni kete ti awoṣe ti ṣe afihan aidaniloju tẹlẹ, o di rọrun lati yorisi afọwọsi eniyan.

Nikẹhin, ronu igbiyanju ati iyara papọ. Ni igbiyanju giga, awoṣe n ṣawari diẹ sii ati nigbamiran ṣe aifẹ "afikun iṣẹ" (alaye ti ko wulo, imọran afikun). Wipe "nikan fun o wu ti o fẹ, ma ṣe fi awọn afikun comments" ni kiakia aiṣedeede yi ẹgbẹ ipa ti ga akitiyan.

Ni soki

Itọkasi eto naa jẹ itọsọna titilai ti awoṣe: o ṣe asọye ipa, iwọn, ọna kika, ihuwasi aibikita, ati aṣiri. Ni awọn awoṣe ode oni, ihuwasi wa ni idari nipasẹ ironu adaṣe ati awọn aye igbiyanju kuku ju iwọn otutu lọ; Ṣiṣe deedee igbiyanju si iṣẹ-ṣiṣe n ṣakoso didara ati iye owo ni nigbakannaa. O ṣe aabo iṣẹjade pẹlu max_tokens, da awọn ohun elo duro, ati iṣelọpọ iṣeto.

Ohun elo iṣẹ-ṣiṣe

Yan iṣẹ-ṣiṣe kan. (1) Kọ itọsi eto pẹlu awọn paati marun (ipa, iwọn, ọna kika, aibikita, asiri). (2) Sọ ipele igbiyanju ti iwọ yoo yan fun iṣẹ yii ati idi. (3) Ti abajade yẹ ki o wa ni iṣeto, ṣe aworan apẹrẹ JSON kekere kan. (4) Ṣayẹwo boya apẹrẹ ibinu pupọju wa ninu itọsẹ rẹ ki o jẹ ki o rọ.

akojọ ayẹwo

[] Mo ti le lorukọ marun irinše ti kan ti o dara eto tọ.
[] Mo ti le se alaye ohun ti aṣamubadọgba ero ati akitiyan sile.
[] Mo le ṣe iwọntunwọnsi didara / idiyele nipasẹ ṣiṣe atunṣe igbiyanju gẹgẹbi iṣẹ-ṣiṣe naa.
[] Mo mọ idi ti iṣelọpọ iṣeto jẹ ailewu ju bibeere JSON nipasẹ kiakia.
[] Mo le mọ ewu ni awọn awoṣe ode oni ti awọn itọnisọna ibinu pupọju.