Enota 9 / 10

Izbira pravega modela: drevo odločanja in portfelj modelov

Dobički:

  • Spreminjanje izbire modela v strukturirano drevo odločitev s sedmimi ključnimi vprašanji
  • Sposobnost predlaganja modelov z uporabo odločitvenega drevesa v realnih poslovnih scenarijih
  • Vrednotenje prednosti in bremen vzpostavitve modelnega portfelja namesto odvisnosti od enega samega modela

Dele smo zbrali v osmih enotah: ponudniki, implicitna/eksplicitna teža, kontekst, multimodalnost, stroški, stopnje in suverenost podatkov. Zdaj je čas, da te dele združimo v en sam mehanizem odločanja. Namen te enote je odgovoriti na vprašanje "kateri model?" Na vprašanje ne morete več odgovoriti z intuicijo, ampak s strukturiranim odločitvenim drevesom. Videli boste tudi, zakaj zrele organizacije gravitirajo k portfelju modelov, ne le enemu. Ko bo enota končana, boste lahko drevo odločitev uporabili v resničnih poslovnih scenarijih in pripravili svoj portfelj.

Sedem vprašanj Odločitveno drevo

Izbor modela lahko skrčimo na sedem vprašanj. Če odgovorite na ta vprašanja po vrsti, vas bo skoraj samodejno pripeljalo do pravega kandidata.

  1. Ali so podatki občutljivi? Če obdelujete osebne/zaupne podatke → se najprej določi suverenost podatkov (čista teža, regionalno, ničelna hramba). V nasprotnem primeru se bo vaša fleksibilnost povečala.
  2. Kako težka je naloga? Enostavno/izjemno → raven svetlobe. Kompleksno/večstopenjsko → močan korak + sklepanje.
  3. Kolikšna je prostornina? Zelo velika glasnost → v ospredju sta hitrost in cena, nagnite se k svetlobnemu območju. Majhen obseg → lahko vlagate v kakovost.
  4. Kako velik je dokument/kontekst? Dolgi dokumenti → široko kontekstno okno je obvezno. Kratka besedila → majhno okence je dovolj.
  5. Ali obstaja vizualni/avdio? Če je na voljo → multimodalni model je obvezen. V nasprotnem primeru zadostuje besedilni model.
  6. Kaj je proračunska občutljivost? Če je visoka → postopna optimizacija, predpomnilnik, serija; morda odprta teža. Če je nizka → prednost kakovosti.
  7. Kakšna je ekipa in infrastruktura? Če ni tehnične ekipe → zaprta teža, pripravljen vmesnik. Če obstaja močna ekipa → je na mizi možnost odprte teže.
Namig: Ko odgovorite na teh sedem vprašanj, se skupina kandidatov za modele običajno zoži na enega ali dva modela. Namen odločitvenega drevesa ni, da vam vsili en sam »pravi odgovor«, ampak da hitro izloči možnosti in vam olajša preizkus preostalih z malim pilotom.

Postavitev odločitvenega drevesa v tabelo

vprašanje

Odgovor → Preusmeri

Ali so podatki občutljivi?

Da → odprta teža / regionalno / nič pred skladiščenjem

Je naloga težka?

Da → močno + obrazložitev / Ne → blago

Je glasnost visoka?

Da → prioriteta hitrosti in stroškov (lahka)

Je dokument velik?

Da → širši kontekst

Ali obstaja vizualizacija?

Da → multimodalno obvezno

Je proračun omejen?

Da → optimizacija + morda odprta teža

Ali obstaja tehnična ekipa?

Brez → zaprt/pripravljen vmesnik

Ta tabela deluje kot kontrolni seznam: označite vsako vrstico in sestavite nastali profil. Na primer, profil »podatkovno občutljiv + težka naloga + majhen obseg + na voljo tehnična ekipa« vas bo verjetno usmeril na močan odprti model, ki se izvaja na vašem strežniku.

Ne en model, portfelj

Izkušene ustanove čez nekaj časa ugotovijo, da narediti vse z enim modelom ni niti najcenejši niti najboljši način. Namesto tega sestavijo portfelj modelov: z uporabo različnih modelov glede na nalogo. Logika je preprosta:

  • Preprosta, obsežna dela → lahek in poceni model.
  • Kompleksno, kritično delo → močan model.
  • Delovna mesta obdelava zaupnih podatkov → odprta teža/regionalni model.
  • Vizualna dela → multimodalni model.

Portfeljski pristop ima dve veliki prednosti. Prvi je optimizacija stroškov: vsako delo opravite s tako zmogljivim modelom, kot ga potrebuje, in ne plačate več. Drugič, neodvisnost ponudnika: niste odvisni od enega samega ponudnika; Če nekdo zviša cene, spremeni politiko ali zmanjša storitve, imate pripravljeno alternativo. To se imenuje "izogibanje zaklepanju prodajalca".

Pozor: portfeljski pristop ni brezplačen; Upravljanje in spremljanje več modelov ter zagotavljanje dosledne kakovosti povzroča dodatne stroške. Če ste majhna ekipa, je pogosto pametneje začeti z enim uravnoteženim modelom in se premakniti na portfelj, ko vaše podjetje dozoreva. Vzpostavitev portfelja prej, kot je potrebno, lahko povzroči zmedo pri upravljanju.

Primer portfelja

Spodaj je vzorec portfelja, ki bi ga lahko zgradilo srednje veliko storitveno podjetje:

poslovni tip

vzorčna naloga

Izbrana vrsta modela

zakaj

Razvrščanje velike količine

Komentar/označevanje vstopnice

rahlo stran

Poceni, hitro, zadosti

Proizvodnja splošne vsebine

E-pošta, osnutek opisa

uravnoteženo

dobro ravnotežje

kompleksna analiza

Pregled pogodbenega tveganja

Močno izključeno (širši kontekst)

Natančnost kritična

Zaupna obdelava podatkov

Analiza finančnih/pacientovih podatkov

Odprta teža (lastni strežnik)

Podatki ne gredo ven

vizualna obdelava

Branje računa/fotografije

multimodalni

vizualna zahteva

Ta tabela temelji na enostavčnem vprašanju "kateri model uporabljate?" To kaže, da je vprašanje pravzaprav napačno vprašanje. Pravilen odgovor je: "Kateri model za katero delo?"

Trije realistični primeri: uporaba odločitvenega drevesa

Primer 1 – Mala odvetniška pisarna. Pisarna petih ljudi želi povzeti pogodbo. Odločitveno drevo: podatkovno občutljivo (da, vendar obvladljivo z izrecnim soglasjem in pogodbo) → težka naloga (da) → nizek obseg (~100 na mesec) → velik dokument (da, 40+ strani) → brez slik → proračunski medij → brez tehnične ekipe. Rezultat: izkoriščanje zmogljivega, zaprtega modela z velikim kontekstom iz že pripravljenega vmesnika z ničelnimi pogodbami o zadrževanju. Zaradi nizke glasnosti so stroški zmogljivega odra obvladljivi.

Primer 2 – E-poslovanje. Ekipa dvajsetih ljudi ima tri naloge: opis izdelka (velika količina), klasifikacija pregledov strank (zelo velika količina), pridobivanje podatkov iz slike računa (srednja količina, vizualno). Portfelj namesto enega samega modela: uravnotežen model za izjave, lahek model za komentarje, večmodalni model za račune. Tako pade ustrezen strošek in talent za vsako delo; skupni račun se zmanjša na približno tretjino zneska, ki bi bil, če bi zmogljivi model naredil vse.

Primer 3 – Javna ustanova. Javni zavod želi vloge občanov povzemati, vendar so podatki osebni in niso namenjeni odhodu v tujino. Odločitveno drevo se zruši pri prvem vprašanju: podatki so občutljivi in ​​suverenost je obvezna → eksplicitna teža/regionalni model je na prvem mestu. Ker imajo tehnično ekipo, izvajajo model odprte teže na lastni infrastrukturi. Druga vprašanja (težavnost, obseg) natančno prilagodijo, katero raven izberejo.

Šibek poziv / močan poziv

Šibek poziv:

Kateri model nam priporočate?

Močan poziv:

Vaša vloga: arhitekt rešitev AI. Odgovoril sem na teh sedem vprašanj za svoje delo: 1) Ali so podatki občutljivi: [ODGOVOR] 2) Težavnost naloge: [ODGOVOR] 3) Glasnost: [ODGOVOR] 4) Velikost dokumenta: [ODGOVOR] 5) Vizualno/zvočno: [ODGOVOR] 6) Občutljivost proračuna: [ODGOVOR] 7) Tehnična ekipa: [ODGOVOR] Naloga: Zožite vrsto modela kandidata glede na ti odgovori (oder, vrsta teže, kontekst, multimodalnost). Predlagajte 2 konkretna kandidata. Nato utemelji, ali naj to težavo rešim z enim samim modelom ali s portfeljem 2-3 modelov.

Zmogljiv poziv prenaša odgovore odločitvenega drevesa neposredno v model; Tako model ne ugiba, temveč se zoži glede na vaš resnični profil.

Predloge, ki jih je mogoče kopirati

1. Izvajanje odločitvenega drevesa:

Naj definiram svoje delo: [OPIS]. Zastavite mi sedem odločitvenih vprašanj (občutljivost podatkov, težavnost naloge, obseg, velikost dokumenta, slika, proračun, ekipa), po vsakem odgovoru zožite skupino kandidatov in na koncu priporočite 2 vrsti modela.

2. Oris portfelja:

Imam naslednja delovna mesta: [JOB LIST]. Uporabite drevo odločanja za vsako delovno mesto, uskladite ustrezno vrsto modela in ustvarite portfeljsko tabelo (delovno mesto / vrsta modela / utemeljitev). V enem stavku ocenite breme upravljanja portfelja.

3. En model ali portfelj:

Velikost moje ekipe [NUM], raznolikost mojega dela [NIZKA/SREDNJA/VISOKA], moj mesečni proračun za umetno inteligenco [RANGE]. Naj začnem z enim uravnoteženim modelom ali takoj preidem na portfelj? Primerjajte prednosti in slabosti, predlagajte postopno pot.

4. Ocena tveganja zasvojenosti:

Trenutno smo odvisni od enega samega ponudnika [PROVIDER]. Kakšna so tveganja te odvisnosti (cena, politika, motnje)? Katerega sekundarnega ponudnika naj imam pripravljenega kot rezervnega za zmanjšanje tveganja? Predlagajte 3 ukrepe, ki bodo olajšali prehod.

Pogoste napake

  • Izbira po intuiciji: Preskok odločitvenega drevesa in izbira modela, ker "se dobro sliši"; Kasneje se pojavi nekompatibilnost.
  • Pustimo vprašanje podatkov za konec: pri občutljivih podatkih je na prvem mestu vprašanje suverenosti; Če ga postavite na konec, se zaklenete v napačen model.
  • Prenos vsakega opravila na en sam model: izguba kakovosti ali proračuna, ker se dela različnih težavnosti in obsega izvajajo z enim samim modelom.
  • Prezgodnja vzpostavitev portfelja: ustvarjanje nepotrebne zapletenosti s poskušanjem upravljanja treh ali štirih modelov kot majhna ekipa.
  • Sploh ne razmišljati o odvisnosti: Biti popolnoma odvisen od enega samega ponudnika in ostati brez druge možnosti pri spremembah cen/politike.

Če povzamem

  • Izbira modela se lahko skrči na sedem vprašanj (podatki, izziv, obseg, kontekst, vizualno, proračun, ekipa); ta vprašanja hitro zožijo krog kandidatov.
  • Pri občutljivih podatkih je vprašanje suverenosti na prvem mestu in oblikuje druge odločitve.
  • Namesto enega modela, zrele organizacije vzpostavijo portfelj različnih modelov, odvisno od naloge; To obenem optimizira stroške in zmanjša odvisnost.
  • Portfelj ima režijske stroške upravljanja; Majhne ekipe bi morale začeti z enim uravnoteženim modelom in postopoma napredovati.

Aplikacijska naloga

Zberite vse opombe, ki ste jih naredili v prejšnjih enotah (profil potreb, nastavitev teže, žeton/ocena stroškov, diagnostika ravni, zemljevid podatkov). Z vzorcem 1 v tej enoti (izvajanje odločitvenega drevesa) odgovorite na sedem vprašanj za svoje podjetje in pridite do dveh možnih vrst modelov. Če imate več kot eno vrsto dela, ustvarite tabelo portfelja s predlogo 2 (oris portfelja). Ta osnutek bo prispevek k študiji vrednotenja in validacije v končni enoti.

kontrolni seznam

  • [ ] Z uporabo sedmih odločitvenih vprašanj po vrstnem redu lahko zožim skupino kandidatov.
  • [ ] Vem, zakaj je vprašanje suverenosti na prvem mestu, ko gre za občutljive podatke.
  • [ ] Odločitveno drevo lahko uporabim v realnem poslovnem scenariju in predlagam model.
  • [ ] Znam oceniti prednosti in obremenitev upravljanja modelnega portfelja.
  • [ ] Poznam tveganje odvisnosti od enega samega ponudnika in načine, kako ga zmanjšati.