Samar da Tsari da Ma'auni — API, Kuɗi da Haɗin kai

Riba:

Za a iya tsara yadda tsarin faɗakarwa ke jagorantar samfurin ta cikin duka tattaunawar
Ya fahimci rawar da tasirin farashi na tunanin daidaitawa da sigogin ƙoƙari
yana aiwatar da sarrafawar fitarwa kamar max_tokens, jerin dakatarwa, da ingantaccen fitarwa

Samfura guda biyu daban-daban na samfurin iri ɗaya na iya yin hali gaba ɗaya daban. Bambanci ba a cikin samfurin kanta ba, amma a cikin tsarin tsarin da kuma sigogi da aka ba shi. Matsakaicin tsarin shine "kwangilar aiki" na samfurin kuma ma'auni shine "saitunan aiki". A cikin wannan naúrar, za ku koyi yadda ake tsara tsarin faɗakarwa mai ƙarfi, abin da saitunan tunani da ƙoƙari a cikin ƙirar zamani suke yi, da yadda ake sarrafa fitarwa don tsari / tsayi. Saita waɗannan saitunan daidai yana ba ku damar sarrafa inganci da farashi a lokaci guda.

Tsari Tsari: Umarnin Dindindin na Samfurin

Matsakaicin tsarin shine babban matakin umarni wanda ya shafi gaba dayan tattaunawar. Waɗannan ƙa'idodin sun kasance masu aiki ko da menene nau'in mai amfani. Kyakkyawan tsarin faɗakarwa ya haɗa da abubuwa masu zuwa:

Matsayi/Asali: Wanene abin koyi? ("Kai mataimakin tallafi ne na kamfani.")
Iyaka da iyaka: Menene yake yi kuma menene ba ya yi? ("Tsarin kawai akan takaddun manufofin da aka bayar.")
Ka'idojin tsari: Yaya abin fitarwa ya yi kama? ("Mafi girman labarai 3, harshen hukuma.")
Hali a cikin rashin tabbas: Menene mutum yayi lokacin da babu tabbas? ("Idan babu bayani, gyara shi, tura shi zuwa sashin da ya dace.")
Tsaro / keɓantawa: Menene baya/ba ya so? ("Nemi bayanan sirri.")

Tukwici: Ci gaba da gyara saurin tsarin. Kar a sanya bayanan da ke canzawa tare da kowace buƙata (kwanan wata, sunan mai amfani, ID na zaman). Wannan duka yana karya daidaito kuma yana lalata ma'ajin gaggawa akan raka'a 6. Sanya bayanan masu canji a cikin saƙon mai amfani.

Tarkon Umurni Mai Mutuwar Zuciya

Samfuran zamani suna bin umarnin sosai. M jimloli kamar "DOLE", "ko da yaushe", "SHAKKA yi wannan", da dai sauransu, wanda aiki a cikin mazan model, a yau kai ga overtriggering: model ya kira wakili a lokacin da ba a bukata ko gudu na wani lokaci mai tsawo ba dole ba. Tausasa ƙa'idar: Maimakon "DOLE a yi amfani da kayan aikin bincike", "Idan ba a cikin tattaunawar ba, yi amfani da kayan aikin bincike" ya fi daidai.

Sigar Samfura: Tunani da Ƙoƙari

LLMs na gargajiya suna da ma'aunin zafin jiki: ƙaramin ƙima ya samar da ƙarin ƙayyadaddun fitarwa/daidaitacce, ƙimar mafi girma ta samar da ƙarin bambance-bambancen fitarwa. Samfuran tsararru na zamani (kamar Opus 4.8, Sonnet 5) sun maye gurbin wannan tsarin tare da wasu ingantattun hanyoyi guda biyu kuma ba su ƙara karɓar sigogin samfur kamar zafin jiki ba.

Tunanin daidaitawa: Samfurin yana dalilai mataki-mataki a cikin "kai" kafin amsawa. Samfurin ya yanke shawarar yadda za a yi tunani bisa ga wahalar aikin. Mahimmanci inganta daidaito akan hadaddun, matsalolin matakai da yawa; Yana tunanin ƙasa don guje wa jinkirin da ba dole ba akan tambayoyi masu sauƙi.
Ƙoƙari: Ƙoƙari mai girma wanda ke daidaita yadda zurfin ƙirar ke nutsewa cikin ɗawainiya da adadin alamun da yake kashewa gabaɗaya. Matakan al'ada: ƙananan, matsakaici, babba da sama. Babban ƙoƙari na iya inganta inganci, amma kuma yana ƙara jinkiri da farashi; Ƙananan ƙoƙari yana kawo sauri da tanadi.

Saita

Me yake aikatawa

yaushe

Yin tunani a kashe / ƙananan ƙoƙari

Mai sauri, arha, na zahiri

Rabewa mai sauƙi, gajeriyar amsawa, jinkirta ayyuka masu mahimmanci

Daidaitaccen tunani + matsakaicin ƙoƙari

Daidaitaccen inganci / farashi

Yawancin ayyuka na manufa gaba ɗaya

Tunani mai dacewa + babban ƙoƙari

mafi girman daidaito

Matsakaicin tunani, coding, aikin wakili mai tsayi

Tsanaki: "mafi girman ƙoƙarin komai" reflex yana haɓaka farashi. Daidaita ƙoƙari zuwa aiki; A cikin ayyuka masu sauƙi, ƙananan ƙoƙari sau da yawa yana ba da sakamako daidai daidai a farashi mai rahusa. Tafi sama inda ake buƙatar daidaito mai mahimmanci.

Ikon fitarwa: Tsara, Tsayi, Tsari

Bayan sigogin, kuna kuma sarrafa abubuwan fitarwa da kanta:

max_tokens: Hard rufin fitarwa (raka'a 1 da 3).
Tsaida jeri: Tsaida samfurin lokacin da ya ga wani kirtani. Mai amfani don saita wuraren karya a cikin samarwa da aka tsara.
Fitowar da aka tsara: Tilasta martanin samfurin don dacewa da tsarin JSON da kuka bayar. Yana tabbatar da cewa fitarwar ta kasance mai kwatancen shirye-shirye da inganci. Ya fi aminci fiye da faɗin "kawai dawo JSON" tare da faɗakarwa.

{"output_config": {"tsarin": {"nau'in": "json_schema", "schema": {"nau'in": "abu", "ƙarin Properties": ƙarya, "kayayyakin": {"category": {"nau'in": "string", "enum": ["taswirar", "fasaha", "dawowa", "kirtani:"}" gency "enum": ["ƙananan", "matsakaici", "high"]}}, "an buƙata": ["categori", "gaggawa"]}}}}

Samfuran Sauƙaƙe Tsarin Tsarin Kwafi

# Mataimakin tallafi na kamfaniKai mataimaki ne na tallafi na kamfani.- Dogara kawai akan takaddun manufofin da aka bayar; Idan ba a cikin takardar ba, a ce "Ba ni da wannan bayanin." - Ba da cikakkiyar amsa kuma bayyananne a cikin matsakaicin jimloli 3. - Nemi bayanan sirri (lambar ID TC, lambar katin) kuma kar a maimaita a cikin amsar ku. - Idan ba ku da tabbas, kada ku yi tsammani.

# Tsarin fitarwa mai tilastawa mai ƙimaKai mai rarraba buƙatu ne. Shigar saƙon abokin ciniki ne. Mayar da filayen da aka nema kawai, kar a rubuta sharhi. Idan ba ku da tabbas, yi amfani da "sauran".

# Manazarci tare da ƙayyadaddun hali na tsaye a cikin rashin tabbasKai masharhancin bayanai ne. Zana abubuwan da za a iya tabbatarwa kawai daga teburin da aka tanadar. Kada ku taɓa yanke shawarar da ba ta wanzu a cikin bayanan ba. Idan ba'a sani ba, rubuta "bayanai bai isa ba."

# Marubucin abun ciki tare da sautin murya da sarrafa tsayi Kai marubucin abun ciki ne. Yi amfani da sautin dumi amma ƙwararru. Iyakance kowane rubutu zuwa kalmomi 120 ko ƙasa da haka. Guji yaren tallan cliché.

Rauni mai ƙarfi / Ƙarfi mai ƙarfi

# WEAKBe taimako kuma ba da amsoshi masu kyau. Ka yi iya ƙoƙarinka.

# KARFI Matsayi: Ƙwararrun tallafi na fasaha.Kwarai: Jagorar samfurin da aka bayar kawai.Tsarin: Mataki-mataki, jerin ƙididdiga, matsakaicin matakai 5. Iyakance: Ba da shawarar mafita ba a cikin jagorar ba; Tace "Ban iya samunsa a cikin littafin ba." Keɓantawa: Kar a maimaita lambar serial ɗin da mai amfani ya raba a cikin amsa.

Sigar mai ƙarfi; Yana ƙayyade rawar, iyaka, tsari, iyakoki da sirri daban. Daidaiton fitowar yana zuwa kai tsaye daga wannan tsabta.

Mini Cases guda uku

Case 1 - Rage farashi ta hanyar daidaitawa kokarin. Ƙungiya ɗaya tana gudanar da duk kiran su akan babban ƙoƙari + tunani; Ko da sauƙi na narkar da imel sun kasance masu tsada da jinkirin samarwa. Sun sanya ayyuka masu sauƙi irin su taƙaitawa zuwa ƙananan ƙoƙari da bincike na kwangila zuwa babban ƙoƙari. An kiyaye daidaito, matsakaicin jinkiri ya ragu, kuma an rage farashin kowane wata da kashi uku.

Case 2 - JSON garanti. Wata ƙungiyar aiyuka ta nemi fitowar rarrabuwa tare da faɗakarwa da sauri tana cewa "kawai a ba JSON", amma ƙirar za ta rubuta lokaci-lokaci "Ga sakamakon:" kuma mai binciken zai fadi. Lokacin da na haɗa madaidaicin tsarin fitarwa, fitarwar ta dawo da inganci JSON kowane lokaci; an sake saita kurakurai na tantancewa.

Case na 3 - Ƙaddamar da hanzari. Wani mataimaki ya ce, "DOLE ne a nemi kowace TAMBAYA"; Samfurin ya yi binciken da ba dole ba har ma don tambayoyi masu sauƙi wanda ya riga ya san amsar, raguwa da haɓaka farashi. Sun sassauta dokar zuwa "Idan amsar ba ta cikin mahallin, bincika"; Kiran da ba dole ba ya ragu da kashi 70% kuma an kara saurin amsawa.

Kuskuren gama gari

Haɗa madaidaicin bayanai a cikin faɗakarwar tsarin: Yana karya daidaito kuma yana lalata cache.
Koyarwa mai wuce gona da iri: Tsanani mai yawa da tsadar da ba dole ba a cikin ƙirar zamani.
Babban ƙoƙari a cikin kowane ɗawainiya: Sharar gida a cikin ayyuka masu sauƙi; daidaita ƙoƙarin zuwa ɗawainiya.
Neman JSON ta hanyar gaggawa: Yana karya lokaci-lokaci; idan mai mahimmanci, yi amfani da ingantaccen fitarwa.
Ba ma'anar iyakoki/dabi'a: Samfurin ya cika gibin da ƙirƙira (hallucination).
Tsohuwar yanayin 'zazzabi': Samfuran zamani ba su yarda da wannan ba; Jagorar hali tare da gaggawa da ƙoƙari.

Zurfafa: Rubutun Gaggawa Kamar Kwangila

Ƙungiyoyin ƙwararrun ƙwararrun suna ɗaukar tsarin da sauri kamar kwangila, ba rubutun wallafe-wallafe ba: cikakkun bayanai, ƙa'idodi masu aunawa, iyakoki marasa ma'ana. Wannan hanya tana da fa'idodi guda uku. Na farko shine daidaito: shigarwa iri ɗaya yana ba da fitarwa iri ɗaya a lokuta daban-daban. Na biyu shine gwadawa: zaka iya gwada kowane abu daban tare da samfurin. Na uku shine sauƙin kulawa: idan hali yayi kuskure, kun san abin da za ku maye gurbin.

Kyakkyawan aiki shine jagoranci tare da misalai masu kyau. Maimakon samar da jerin "kada ku yi wannan", yana da tasiri sosai a cikin tsarin zamani don samar da misali wanda ya ce "wannan shine ainihin abin da ake so ya yi kama". Misali, a cikin mai rarrabawa, ƙara samfurori ɗaya ko biyu na JSON da ake tsammanin zuwa ga gaggawa yana rage kurakuran tsarawa sosai.

Wata dabara mai ƙarfi ita ce rubuta halin rashin tabbas a sarari. Wani sashe kamar "Idan ba ku da tabbas, kar ku yi tsammani; a ce 'rashin wadataccen bayanai'" yana danne dabi'un samfurin na cika komai tare da ƙirƙira (hallucination). Wannan jimla guda ɗaya tana sauke layin tabbatarwa, wanda zamu rufe a cikin raka'a 11: da zarar ƙirar ta riga ta nuna rashin tabbas, zai zama da sauƙi don haifar da ingantaccen ɗan adam.

A ƙarshe, yi la'akari da ƙoƙari da faɗakarwa tare. A babban ƙoƙari, samfurin yana bincika ƙarin kuma wani lokacin yana yin "karin aikin" maras so (bayani mara amfani, ƙarin shawara). Faɗin "kawai ba da fitarwar da ake so, kar a ƙara ƙarin sharhi" a cikin gaggawa yana daidaita wannan sakamako na babban ƙoƙarin.

a takaice

Tsarin tsarin shine umarnin dindindin na ƙirar: yana bayyana rawar, iyaka, tsari, yanayin duhu, da sirri. A cikin sifofin zamani, halayen suna motsawa ta hanyar tunani mai dacewa da ma'aunin ƙoƙari maimakon zafin jiki; Daidaita ƙoƙari zuwa aikin yana sarrafa inganci da farashi lokaci guda. Kuna tabbatar da fitarwa tare da max_tokens, tsaida tsararru, da ingantaccen fitarwa.

Aikin aikace-aikace

Zaɓi aiki. (1) Rubuta tsarin faɗakarwa tare da abubuwa biyar (rawar aiki, iyaka, tsari, shubuha, sirri). (2) Bayyana matakin ƙoƙarin da za ku zaɓa don wannan aikin kuma me yasa. (3) Idan ya kamata a tsara kayan aiki, zana ƙaramin tsarin JSON. (4) Bincika idan akwai abin da ya wuce kima a cikin hanzarin ku kuma ku sassauta shi.

jerin abubuwan dubawa

[ ] Zan iya sunaye sassa biyar na ingantaccen tsarin faɗakarwa.
[ ] Zan iya bayyana abin da madaidaicin tunani da sigogin ƙoƙari suke yi.
[ ] Zan iya daidaita inganci / farashi ta hanyar daidaita ƙoƙari bisa ga aikin.
[ ] Na san dalilin da ya sa ingantaccen fitarwa ya fi aminci fiye da neman JSON ta hanyar gaggawa.
[ ] Zan iya gane haɗari a cikin ƙirar zamani na umarnin wuce gona da iri.