Qligħ:
- Twaqqaf kontroll tal-aċċess (ACL) li jiffiltra l-irkupru bbażat fuq l-awtorità tal-utent
- Kitba ta' mudell solidu fil-pront li jpoġġi l-kuntest u l-mistoqsija tal-utent b'mod korrett
- Tipprattika l-indipendenza tal-mistoqsija u l-ġestjoni tal-istorja f'konversazzjonijiet b'ħafna rawnds
Aħna stabbilixxew l-arkitettura; Issa ejja nagħmluha sigura, konsistenti u konversazzjonali. Hemm tliet suġġetti kritiċi f'din l-unità: (1) kontroll tal-aċċess li jiffiltra l-irkupru bbażat fuq l-awtorità tal-utent, (2) mudell robust fil-pront li jpoġġi l-kuntest u l-mistoqsija b'mod korrett, (3) l-indipendenza tal-mistoqsijiet u l-ġestjoni tal-istorja tal-konversazzjoni f'chat multi-round. Mingħajr dawn it-tlieta, assistent jew joħroġ id-dejta, jagħti tweġibiet inkonsistenti, jew jaqa' f'biċċiet fuq mistoqsijiet ta' segwitu.
Kontroll tal-Aċċess: Data Mhux Awtorizzata Qatt M'għandha Jasal
L-akbar riskju tal-intrapriża: Dokument li utent m'għandux jara tnixxijiet fir-rispons. Żball tal-bidu komuni ħafna huwa li "għid lill-mudell biex 'juri dokumenti moħbija' fil-pront." Dan mhux sikur. Il-mudell jista 'jinsa istruzzjoni jew injezzjoni fil-pront tista' tevitaha. Il-post korrett huwa l-fażi tal-irkupru: il-biċċa mhux awtorizzata m'għandha tiddaħħal xejn.
Il-mod kif tagħmel dan huwa li tapplika l-metadata tal-awtorità (dipartiment, rwol, livell ta’ privatezza) li tpoġġi fuq kull parti bħala filtru waqt it-tfittxija. Inti tiddetermina b'mod sikur min hu l-utent (identità u rwoli) fis-saff tal-applikazzjoni u żżid filtru ACL (Lista ta' Kontroll tal-Aċċess) mas-sejħa.
# Iffiltrat mill-irkupru tal-awtorità (kunċettwali) utent = awtentika (sessjoni) # awtentikata minn sors affidabbli = user.roles + ["kulħadd"] # eż. ["HR", "admin"]result = vektor_db.search( vektor=embed(mistoqsija), top_k=20, filter={"permission_group": {"in": allowed}, # permessi biss partijiet "privatezza": {"lte": user.level}} # taħt il-livell)
Attenzjoni: Qatt ma titlob lill-mudell għall-awtorità jew tistrieħ fuq il-pront. L-identità u l-awtorità huma determinati fis-saff fdat tal-applikazzjoni; Il-filtru ta 'rkupru huwa obbligatorju, l-istruzzjoni fil-pront hija biss saff addizzjonali. "Ktibtu fil-pront" mhix sigurtà.
Mudell solidu fil-pront
Il-mudell fil-pront huwa l-iskeletru li jiġbor flimkien il-kuntest, il-mistoqsija tal-utent, u l-istruzzjonijiet tal-imġieba mill-irkupru. Partijiet minn mudell tajjeb: deskrizzjoni rwol/kompitu, regoli ta’ kondotta (grounding, ma nafx permess, talba tar-riżorsi, ton), kuntest, mistoqsija.
Inti assistent HR korporattiv. Ix-xogħol tiegħek hu li twieġeb il-mistoqsijiet tal-impjegati BISS ibbażati fuq il-KUNTEST li ġej. Regoli:- Jekk it-tweġiba mhix ċara fil-kuntest ikteb "Ma stajtx insib informazzjoni dwar dan fid-dokumentazzjoni, iċċekkja mat-tim tal-HR". Taqtax, tpattix.- Jekk is-sorsi fil-kuntest jikkonfliġġu, ħu l-politika uffiċjali bħala bażi u ddikjara l-kontradizzjoni.- Żid is-sors li tistrieħ fuqu bħala [Sors: fajl, taqsima] fl-aħħar ta’ kull talba.- Wieġeb b’lingwaġġ qasir, ċar u professjonali. KUNTEST:{numbered_parts}MISTOQSIJA: {user_question}
In-numerazzjoni tal-partijiet tal-kuntest ([1], [2], ...) tagħmilha aktar faċli li tiċċita l-mudell. Ukoll, ikteb is-sors fil-bidu ta 'kull biċċa sabiex il-mudell ikun jista' jikkwotaha b'mod korrett.
Tip: Żomm il-mudell fil-pront kostanti u dejjem poġġi varjabbli (kuntest, mistoqsija) fl-istess postijiet. Mudell fiss iżid it-testabilità u jnaqqas l-ispejjeż grazzi għall-caching fil-pront f'xi sistemi.
KUNTEST:[1] (Sors: ik_el_kitabi.pdf, Taqsima 5.2) Il-leave annwali mħallas huwa ta' 14-il jum...[2] (Sors: ik_el_kitabi.pdf, Taqsima 5.4) Il-leave huwa ta' 20 jum għal nies b'aktar minn 5 snin ta' servizz...
Prompt Dgħajjef / Prompt Qawwija
Dgħajjef (l-ebda ertjar, l-ebda sors, l-identità mħallta):
Uża dawn id-dokumenti u wieġeb il-mistoqsija: {partijiet}Utent: {mistoqsija}# Problema: mudell joħroġ mill-kuntest, jagħmel tajjeb, ma jiċċitax sorsi, # iġib ruħu b'mod arbitrarju f'kontradizzjoni.
Qawwija (rwol + regoli + kuntest numerat + sors obbligatorju):
Inti... Tistrieħ biss fuq KUNTEST. Inkella, għid "Ma nafx". F'kunflitt, agħżel politika uffiċjali. Żid [Sors: ...] ma’ kull talba.KUNTEST: [1]... [2]... MISTOQSIJA: {mistoqsija}# Riżultat: tweġiba li hija fidila għall-kuntest, li tkun ġejja, u tmexxi l-kontradizzjoni b’mod korrett.
Ġestjoni ta' Konversazzjoni Multi-Tour
Utent reali ma jistaqsix mistoqsija waħda u jħalliha waħedha; titkellem. "Kemm ġranet ta' leave annwali għandi?" → “Xi ngħidu għall-impjegat ta’ 6 snin?” → “Kif napplika għaliha?” It-tieni u t-tielet domandi biss huma bla sens; jiddependi fuq il-kuntest preċedenti.
Għandek bżonn issolvi żewġ problemi. L-ewwel hija għall-irkupru: tagħmel il-mistoqsija ta' segwitu indipendenti (kitba mill-ġdid tal-mistoqsija). "Xi ngħidu għall-impjegat ta' 6 snin?" → "Kemm ġranet ta' leave annwali huwa intitolat għal impjegat ta' 6 snin?" Inti tfittex b'din il-mistoqsija indipendenti. It-tieni huwa għall-produzzjoni: tagħti wkoll l-istorja tal-konversazzjoni lill-mudell sabiex ikompli b'mod konsistenti.
# F'żewġ stadji: indipendenti → tfittxija → iġġeneraw bl-istorja (kunċettwali) indipendenti = model.uret( "Uża l-istorja tal-konversazzjoni biex il-mistoqsija tinftiehem waħedha:\nStorja: {storja}\nMistoqsija: {follow_question}") kuntest = irkupru (indipendenti) # tfittxija b'mistoqsija indipendenti = model.uret (prompt(context) history, follow_
Hekk kif l-istorja tikber (konverżazzjoni twila), li tibgħatha kollha kull darba ssir għalja u timla t-tieqa tal-kuntest. Soluzzjoni: agħmel fil-qosor ir-rawnds preċedenti jew żomm l-aħħar N rawnds u naqqas dawk preċedenti għas-sommarju. Għalhekk, l-ispejjeż jibqgħu taħt kontroll u tinżamm il-konsistenza.
Status
problema
Soluzzjoni
Mistoqsija ta' segwitu m'għandha l-ebda kuntest
Tfittxijiet ta 'rkupru bla sens
Agħmel il-mistoqsija indipendenti (kitba mill-ġdid)
chat twil
L-ispiża u t-twieqi jintefħu
Sommarju tat-tours tal-passat
L-utent inbidel is-suġġett
Il-kuntest antik jiġi infettat
Naqqas l-influwenza tal-passat fuq suġġett ġdid
L-awtorità tista' tvarja bejn it-tours
Riskju ta' tnixxija
Erġa' applika l-filtru ACL kull rawnd
Tliet Każijiet Mini
Każ 1 — fallacy “Sigurtà” bil-pront. Kumpanija poġġiet dokumenti kunfidenzjali dwar is-salarji fuq assistent li kulħadd jista’ jistaqsi, iżda kitbet biss “ma tagħtix informazzjoni dwar is-salarju” fuq il-pront. Il-mudell nixxew il-firxa tas-salarji meta utent staqsa l-mistoqsija b'mod roundabout. Meta l-filtru ACL ġie miżjud mal-irkupru (partijiet tas-salarju biss għar-rwol HR), it-tnixxija kienet magħluqa kompletament; għax il-parti ma tinġieb qatt aktar.
Każ 2 — Stalking bla kuntest. F'assistent ta 'appoġġ, l-utent jistaqsi "perjodu ta' ritorn?" → "xi ngħidu dwar il-prodott miksur?" Is-sistema ġabet partijiet irrilevanti għall-"prodott miksur". Meta ġiet miżjuda l-indipendenza tal-mistoqsija ("Kemm huwa twil il-perjodu ta' ritorn għal prodott miksur?"), ir-rata ta' tweġiba korretta żdiedet minn 44% għal 90%.
Każ 3 — Passat minfuħ. Fi 30 rawnd ta 'chats ma' assistent, kull sejħa bagħtet l-istorja kollha; L-ispiża kienet qed tiżdied 3 darbiet kull rawnd, u r-risponsi kienu qed jonqsu. Meta qlibna għal struttura li żammet l-aħħar rawnds 6 u ġabret fil-qosor dawk ta 'qabel, l-ispiża tat-token naqset b'62% u nżammet il-konsistenza.
Żbalji komuni
- Tħalli l-awtorità għall-pront: Mudell jinsa/bypasses; Il-filtru ACL huwa obbligatorju mal-irkupru.
- Mhux enumerar il-kuntest: Il-mudell ma jistax jiċċita s-sors korrett.
- Mhux indipendenti l-mistoqsija ta 'segwitu: Tfittxijiet ta' rkupru bla sens.
- Tibgħat l-istorja kollha blind: Tisplodi fl-ispiża u dewmien; sommarju.
- Li ma tiktebx ir-regola tal-kontradizzjoni: Il-mudell jista' jippreżenta s-sors mhux affidabbli bħala uffiċjali.
Fil-qosor
- Il-kontroll tal-aċċess huwa implimentat b'filtru tal-metadata matul il-fażi tal-irkupru; Partijiet mhux awtorizzati qatt ma għandhom jinġiebu.
- L-identità u l-awtorità huma determinati fis-saff tal-applikazzjoni fdati; L-istruzzjoni fil-pront hija biss saff addizzjonali ta 'difiża.
- Mudell robust fil-pront jinkludi rwol, regoli ta 'kondotta (grounding, don't know permess, sors, kunflitt), kuntest numerat, u mistoqsija.
- F'konverżazzjoni multi-round, il-mistoqsijiet ta 'segwitu huma diżakkoppjati u l-mudell jipproduċi tweġibiet konsistenti mal-istorja.
- Billi tiġbor fil-qosor l-istorja twila, it-tieqa tal-ispiża u tal-kuntest tinżamm taħt kontroll; L-ACL jerġa' jiġi applikat kull rawnd.
Kompitu ta' applikazzjoni
(1) Iddefinixxi mill-inqas tliet gruppi ta' awtorizzazzjoni għall-assistent tiegħek stess (eż. kulħadd, dipartiment, maniġer) u ikteb f'tabella liema tip ta' dokument huwa miftuħ għal liema grupp. (2) Adatta u ikteb il-mudell fil-pront ta 'hawn fuq skont ir-rwol u t-ton tiegħek stess; Agħmel il-kuntest numerat u akkwistat. (3) Ikteb xenarju ta' konverżazzjoni realistiku ta' tliet rawnds (mistoqsija → segwitu → segwitu) u ġġenera manwalment verżjonijiet indipendenti ta' kull mistoqsija ta' segwitu. (4) Spjega f'sentenza waħda għaliex il-filtru ACL għandu jerġa' jiġi applikat kull rawnd f'dan ix-xenarju.
lista ta' kontroll
- [ ] Nimplimenta kontroll ta' aċċess b'filtru ta' rkupru, sempliċement ma noqgħodx fuq il-pront.
- [ ] Inżid l-ertjar, ma nafx il-permess, is-sors u r-regola tal-kunflitt mal-mudell fil-pront tiegħi.
- [ ] Nagħti l-partijiet tal-kuntest numerati u referenzjati.
- [ ] Nagħmel il-mistoqsijiet ta' segwitu indipendenti qabel l-irkupru.
- [ ] Niġġestixxi l-ispiża u t-tieqa billi niġbor fil-qosor l-istorja twila tal-konversazzjoni.