Nyereség:
- Könnyű, kiegyensúlyozott és erőteljes modellszínpadok és érvelési mód felismerése
- A megfelelő modellszint kiválasztása a feladat nehézsége alapján
- Képes tudatosan megteremteni az egyensúlyt a késleltetés, a pontosság és a költség között
Megtanultuk kiszámítani az árat; Most beszéljünk arról, hogy mit kapunk ezért az árért, nevezetesen a modellszintekről és a képességekről. Három erő verseng folyamatosan a modell kiválasztásakor: minőség (pontosság), sebesség (latencia) és költség. E három közül kettő javítása gyakran a harmadik kompromisszumát jelenti. Az egységben megismerheti a könnyű, kiegyensúlyozott és erőteljes szinteket, az érvelési módot és a kis/nagy modell preferenciáit; Tudod tudatosan kialakítani a megfelelő egyensúlyt a feladat nehézségének megfelelően.
Három szint, három különböző munkakarakter
Szinte minden szolgáltató három szintet kínál ugyanazon a családon belül. Párosítsuk ezeket a feladat jellegével:
- Könnyű réteg (kis modell): Nagyon gyors, nagyon olcsó, "elég jó". Ideális egyszerű, ismétlődő, nagy volumenű feladatokhoz: osztályozás, eligazítás, címkézés, adattisztítás, egyszerű válaszvázlatok.
- Kiegyensúlyozott szint (közepes modell): Jó minőség, ésszerű sebesség, ésszerű költség. Az „alapértelmezett” választás a legtöbb napi munkához: tartalomkészítés, középtávú elemzés, vásárlói válaszok.
- Erőteljes szint (nagy modell): A legjobb minőségű, leglassabb, legdrágább. Összetett érveléshez, hosszú és többlépcsős elemzéshez, nehéz kódexhez, precíz jogi/pénzügyi értékeléshez.
Tipp: Egy jó kezdési szabály: Kezdje kiegyensúlyozott szinttel. Ha a minőség gyenge, lépjen fel az erős szintre; Ha a minőség rendkívül jó és a hangerő magas, menjen le a fényszintre. A „kezdje elég jóval” megközelítés, nem pedig a „kezdje a legerősebbel” megközelítés pénzt és időt takarít meg.
Mi az az érvelési mód?
Egyes modellek először lépésről lépésre „gondolják” a választ, ahelyett, hogy közvetlenül generálnák azt. Ezt nevezzük érvelési módnak. A modell egy problémát részekre bont, a közbenső lépéseket magában dolgozza fel, és csak ezután adja meg a végső választ. Ez olyan, mintha egy diák lépésről lépésre oldana meg egy matematikai feladatot papíron.
Mikor értékes? Többlépcsős logikai feladatokban: bonyolult számítás, ellentmondás-felismerés, hosszú következtetési lánc, nehéz kódhiba. Az ilyen típusú munkákban az érvelés jelentősen növeli a pontosságot.
Mennyibe kerül? Az érvelés növeli a költségeket és a késleltetést, mivel a modell több „gondolkodási tokent” generál. Tehát drágább és lassabb is lesz. Egy egyszerű „Pozitív ez az értékelés?” A kérdés okoskodása olyan, mintha kalapáccsal megölnénk a legyet; szükségtelen költségeket és késéseket okoz.
Figyelem: Ne hagyja nyitva az érvelési módot minden feladatnál. Gyorsabb és olcsóbb is, ha egyszerű feladatokhoz zárva tartjuk. A modern modellek egy része "adaptív" gondolkodási móddal rendelkezik, amely maga dönti el, mikor kell gondolkodnia; Ennek tudatos kezelése azonban az Ön feladata.
Minőség, sebesség, költség háromszög
prioritás
Megfelelő szint
érvelés
Legalacsonyabb költség, nagy mennyiség
könnyű
Zárva
Egyenleg (a legtöbb állás)
kiegyensúlyozott
helyzettől függően
Legnagyobb pontosság, kritikus döntés
erős
nyitva
Azonnali válasz, alacsony késleltetés (csevegés)
Könnyű/kiegyensúlyozott
Zárva
Összetett, többlépcsős elemzés
erős
nyitva
Ahogy ezt a táblázatot nézi, tedd fel magadnak a kérdést: „Mibe kerül, ha hibázok ebben a feladatban?” Ha az ár magas (rossz jogi értékelés, hibás pénzügyi döntés), az erős kaliberű és érvelés befektetése indokolt. Ha alacsony az ár (a termékcímke rossz besorolása), akkor elegendő egy könnyű és gyors modell.
Kis modell vagy nagy modell?
A közhiedelemmel ellentétben nem minden munkához kell nagy modell. A kisebb modellek meglepően alkalmassá váltak, számos feladatot tizedannyi költséggel és többszörös sebességgel látnak el, mint a nagyobb modell. Három kérdés a döntéshez:
- A feladat egyszerű és képletes? (Osztályozás, kinyerés, rövid összefoglalás) → Kismodell.
- Túl nagy a hangerő és a sebesség kritikus? → Kis modell, mert a nagy modell drága és lassú.
- A feladat árnyalt érvelést, kiterjesztett kontextust vagy kreativitást igényel? → Nagy modell.
Három reális eset
1. eset – A könnyű modell elegendő. Egy e-kereskedelmi csapat naponta 40 000 vásárlói megjegyzést választ pozitív/negatív/semleges kategóriába. Kipróbálják az erős modellel, majd összehasonlítják a könnyű modellel: a pontosság közel azonos (96% vs 94%), de a könnyű modell 8-szor olcsóbb és 3-szor gyorsabb. A könnyű modell messzemenően a megfelelő választás erre a feladatra; Az extra 2%-os pontosság nem indokolja a költségek nyolcszorosát.
2. eset – Erős modell + érvelés kötelező. Egy adótanácsadó cég összetett, többlépcsős adózási forgatókönyvet szeretne kiszámítani. A könnyű modell közbenső lépésekben hibázik, és helytelen eredményeket ad. Ha az erőteljes modellt bekapcsolt érvelési mód mellett használják, a modell lépésről lépésre halad előre, és eljut a helyes következtetésre. Itt a többletköltségek és a késések elfogadhatók, mivel a hiba költsége magas; Egy szakértő azonban megerősíti az eredményt.
3. eset – Vegyes használat. A call center két lépésben dolgozza fel a hívások átiratait: először röviden összefoglal minden hívást egy könnyű modellel (nagy volumenű, egyszerű feladat), majd csak a "panaszként" megjelölt hívásokat adja át a hatékony modellnek, és elvégzi a kiváltó ok elemzését (kis mennyiség, összetett feladat). Így olcsón dolgozzák fel a kötet nagy részét, miközben az erős minta erejét a néhány igazán számító hívás számára tartják fenn.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Oldja meg ezt az adózási forgatókönyvet. [komplex forgatókönyv]
Nem világos, hogy a modell mennyire veszi figyelembe.
Erőteljes felszólítás:
Az Ön szerepköre: vezető adószakértő. Feladat: Oldja meg lépésről lépésre a következő többlépcsős forgatókönyvet! Először sorolja fel a feltételezéseket, majd számítsa ki és mutassa meg az egyes lépéseket külön-külön, végül adja meg a nettó eredményt. Ha van olyan pont, amiben nem biztos, vagy amely a jogszabályoktól függ, jelölje be, hogy "szakértői megerősítés szükséges". A közbenső lépések kihagyása.[forgatókönyv]
Az erőteljes felszólítás lépésről lépésre végigvezeti a modellt (bátorítja az érvelést), és láthatóvá teszi a közbenső lépéseket az ellenőrizhetőség érdekében.
Másolható sablonok
1. stádiumú diagnózis:
Küldetésem: [FELADAT]. Mennyiség: [SZÁM/nap]. Hiba költsége: [ALACSONY/KÖZEPES/MAGAS]. Sebességprioritás: [ALACSONY/MAGAS]. E profil alapján milyen szintet (könnyű/kiegyensúlyozott/erős) és érvelést (nyitott/zárt) javasolna? Indokolja meg.
2. Kis/nagy modell döntés:
A következő feladatot határozom meg: [TASK]. Megoldható ez a probléma kis (könnyű) modellel, vagy nagy modell szükséges? Javasoljon 3 tesztesetet és egy sikerküszöböt, hogy megpróbáljam megoldani a kis modellel.
3. Az érvelés megfelelősége:
Előnyös vagy költséges lenne az érvelés (lépésről lépésre gondolkodás) a következő feladatban: [FELADAT]? Indokolja döntését a lépések száma és a feladat logikai összetettsége alapján.
4. Kétlépcsős munkafolyamat-tervezés:
Tervezzen kétlépcsős folyamatot a következő nagy volumenű feladat költségeinek csökkentése érdekében [FELADAT]: melyik része legyen a könnyű modellnek, melyik a nagy teljesítményű modellnek? Írja le az egyes lépések szintjét és indoklását.
Gyakori hibák
- Erőteljes modell minden munkához: Szükségtelen költségeket és késéseket generál a leghatékonyabb modell használatával az egyszerű és terjedelmes munkákhoz.
- Az érvelést mindig bekapcsolva hagyva: A gondolkodási mód bekapcsolva tartása egyszerű feladatoknál, és hiábavaló idő- és pénzpazarlás.
- Döntéshozatal minőség mérése nélkül: Feltételezi, hogy „a nagyobb, annál jobb” anélkül, hogy összehasonlítana két szintet a saját adataival.
- Felejtsd el a sebesség szükségességét: Olyan helyeken, ahol azonnali válaszra van szükség, mint például a chat, a lassú, erős modell kiválasztása és a felhasználó várakozása.
- Egyáltalán nem gondolva a kétlépcsős áramlásra: Nem egyetlen modellel építik fel a teljes kötetet, és nem spórolnak az olcsón kivitelezhető részen.
Összefoglalva
- A modellválasztás a minőség, a sebesség és a költség háromszögében egyensúlyozó lépés; A kettő javítása gyakran megköveteli a harmadik kompromisszumát.
- A könnyű színpad egyszerű/terjedt munkákhoz, az erős színpad összetett/kritikus munkákhoz alkalmas; A kiegyensúlyozott szakasz jó kezdet a legtöbb munkához.
- Az érvelési mód javítja a pontosságot a többlépéses problémáknál, de növeli a költségeket és a késleltetést; Nem szabad minden feladatra nyitva hagyni.
- – Mennyibe kerül a kudarc ebben a küldetésben? A kérdés a szint és az érvelés döntésének iránytűje. A kétlépcsős folyamatok jelentős megtakarítást jelentenek a volumenű munkák terén.
Pályázati feladat
Válasszon ki egy feladatot a munkájában, és határozza meg, hogy melyik szakasz és érvelési beállítás a megfelelő az 1. sablonnal (szakaszdiagnózis). Ha a feladat nagy volumenű, dolgozzon ki egy olyan kialakítást, amely a kötet egy részét a könnyű modellre, a kritikus részt pedig a 4. sablonnal rendelkező erős modellre irányítja (kétlépcsős munkafolyamat). Ezt a kialakítást fogjuk használni a 9. egység modellportfólió-tanulmányában.
ellenőrző lista
- [ ] A könnyed, kiegyensúlyozott és erőteljes színpadok munkakarakteréhez tudok illeszkedni.
- [ ] Meg tudom magyarázni, hogy mit csinál az érvelési mód és mennyibe kerül.
- [ ] Tudatosan tudom kialakítani egy feladat minőség-sebesség-költség egyensúlyát.
- [ ] A kicsi vagy nagy modellkérdésre három kérdéssel tudok válaszolni.
- [ ] Nagy volumenű munkához kétlépcsős áramlást tudok tervezni.