Vienība 9 / 10

Pareizā modeļa izvēle: lēmumu koks un modeļu portfelis

Ieguvumi:

  • Modeļa atlases pārvēršana par strukturētu lēmumu koku ar septiņiem galvenajiem jautājumiem
  • Spēja piedāvāt modeļus, piemērojot lēmumu koku reāliem biznesa scenārijiem
  • Modeļa portfeļa izveides priekšrocību un slogu novērtēšana, nevis atkarība no viena modeļa

Mēs apkopojām elementus astoņās vienībās: pakalpojumu sniedzēji, netiešais/tiešais svars, konteksts, multimodalitāte, izmaksas, līmeņi un datu suverenitāte. Tagad ir pienācis laiks apvienot šīs daļas vienā lēmumu pieņemšanas mehānismā. Šīs vienības mērķis ir atbildēt uz jautājumu "kurš modelis?" Uz jautājumu vairs nevar atbildēt ar intuīciju, bet gan ar strukturētu lēmumu koku. Jūs arī redzēsit, kāpēc nobriedušas organizācijas izvēlas modeļu portfeli, nevis tikai vienu. Kad vienība būs pabeigta, varēsiet piemērot lēmumu koku reālajiem biznesa scenārijiem un izveidot savu portfeli.

Septiņu jautājumu lēmumu koks

Modeļu atlasi varam samazināt līdz septiņiem jautājumiem. Atbildot uz šiem jautājumiem secībā, gandrīz automātiski tiksiet pie īstā kandidāta.

  1. Vai dati ir sensitīvi? Ja apstrādājat personas/konfidenciālus datus → vispirms nosaka datu suverenitāti (tīrais svars, reģionālais, nulles saglabāšana). Ja nē, jūsu elastība palielināsies.
  2. Cik grūts ir uzdevums? Vienkāršs/briesmīgs → gaismas līmenis. Sarežģīts/daudzpakāpju → spēcīgs solis + argumentācija.
  3. Cik ir apjoms? Ļoti liels skaļums → priekšplānā izvirzās ātrums un izmaksas, sliecas uz gaismas diapazonu. Mazs apjoms → varat ieguldīt kvalitātē.
  4. Cik liels ir dokuments/konteksts? Gari dokumenti → ir nepieciešams plašs konteksta logs. Īsi teksti → pietiek ar nelielu logu.
  5. Vai ir vizuāls/audio? Ja pieejams → obligāts multimodālais modelis. Pretējā gadījumā pietiek ar teksta modeli.
  6. Kas ir budžeta jutīgums? Ja augsta → soļa optimizācija, kešatmiņa, partija; varbūt atvērts svars. Ja zems → prioritāte kvalitātei.
  7. Kā ir ar komandu un infrastruktūru? Ja nav tehniskās komandas → slēgts svars, gatavs interfeiss. Ja ir spēcīga komanda → uz galda ir atvērta svara opcija.
Padoms. Kad esat atbildējis uz šiem septiņiem jautājumiem, modeļu kandidātu kopums parasti sašaurinās līdz vienam līdz diviem modeļiem. Lēmumu koka mērķis nav uzspiest jums vienu "pareizo atbildi", bet gan ātri novērst iespējas un atvieglot atlikušo testēšanu ar mazo pilotu.

Lēmumu koka ievietošana tabulā

Jautājums

Atbilde → Novirzīt

Vai dati ir sensitīvi?

Jā → atvērts svars / reģionālais / nulle pirms uzglabāšanas

Vai uzdevums ir grūts?

Jā → spēcīga + argumentācija / Nē → viegla

Vai skaļums ir liels?

Jā → ātruma un izmaksu prioritāte (gaisma)

Vai dokuments ir liels?

Jā → plašāks konteksts

Vai ir vizuāls?

Jā → multimodāls obligāti

Vai budžets ir ierobežots?

Jā → optimizācija + varbūt atvērts svars

Vai ir tehniskā komanda?

Nav → slēgts/gatavs interfeiss

Šī tabula darbojas kā kontrolsaraksts: atzīmējiet katru rindu, salieciet iegūto profilu. Piemēram, profils “sensitīvs + uzdevums sarežģīts + mazs apjoms + pieejama tehniskā komanda”, visticamāk, novirzīs jūs uz spēcīgu atvērtā svara modeli, kas darbojas jūsu serverī.

Nevis viens modelis, portfelis

Pieredzējušās iestādes pēc kāda laika saprot, ka visu darīt ar vienu modeli nav ne lētākais, ne labākais veids. Tā vietā viņi veido modeļu portfeli: izmantojot dažādus modeļus atkarībā no uzdevuma. Loģika ir vienkārša:

  • Vienkārši, apjomīgi darbi → viegls un lēts modelis.
  • Sarežģīts, kritisks darbs → spēcīgs modelis.
  • Darbi, kas apstrādā konfidenciālus datus → atvērts svars/reģionālais modelis.
  • Vizuālie darbi → multimodāls modelis.

Portfeļa pieejai ir divas galvenās priekšrocības. Pirmā ir izmaksu optimizācija: katrs darbs ir veikts ar tik jaudīgu modeli, cik tam nepieciešams, un jums nav jāmaksā par vairāk. Otrkārt, pakalpojumu sniedzēja neatkarība: jūs neesat atkarīgs no viena pakalpojumu sniedzēja; Ja kāds paaugstina cenas, maina politiku vai samazina pakalpojumu, jums ir gatava alternatīva. To sauc par "izvairīšanos no pārdevēja bloķēšanas".

Uzmanību: portfeļa pieeja nav bezmaksas; Vairāku modeļu pārvaldīšana un pārraudzība un nemainīgas kvalitātes nodrošināšana palielina papildu izmaksas. Ja esat maza komanda, bieži vien ir gudrāk sākt ar vienu līdzsvarotu modeli un pāriet uz portfeli, kad jūsu bizness attīstās. Portfeļa izveide agrāk, nekā nepieciešams, var radīt neskaidrības vadībā.

Portfeļa piemērs

Tālāk ir sniegts portfeļa paraugs, ko varētu izveidot vidēja lieluma pakalpojumu uzņēmums.

biznesa veids

uzdevuma paraugs

Izvēlētais modeļa tips

Kāpēc

Liela apjoma šķirošana

Komentāru/biļešu marķēšana

nedaudz izslēgts

Lēti, ātri, pietiekami

Vispārējā satura veidošana

E-pasts, apraksta melnraksts

līdzsvarots

labs līdzsvars

sarežģīta analīze

Līguma risku pārskatīšana

Strong off (plašāks konteksts)

Precizitāte kritiska

Konfidenciāla datu apstrāde

Finanšu/pacientu datu analīze

Atvērtais svars (savs serveris)

Dati neizdziest

vizuālā apstrāde

Rēķinu/foto lasīšana

multimodāls

vizuālā prasība

Šīs tabulas pamatā ir viena teikuma jautājums "kuru modeli jūs izmantojat?" Tas parāda, ka jautājums patiesībā ir nepareizs jautājums. Pareizā atbilde ir: "Kāds modelis kuram darbam?"

Trīs reāli gadījumi: Lēmumu koka piemērošana

1. lieta — mazs advokātu birojs. Piecu cilvēku birojs vēlas apkopot līgumu. Lēmumu koks: datu jutīgums (jā, bet pārvaldāms ar nepārprotamu piekrišanu un līgumu) → uzdevums sarežģīts (jā) → apjoms mazs (~100 mēnesī) → dokuments liels (jā, 40+ lapas) → nav attēlu → budžeta vidējs → nav tehniskās komandas. Rezultāts: liela konteksta, jaudīga, slēgta svara modeļa izmantošana no gatavās saskarnes ar nulles saglabāšanas līgumiem. Zemais skaļums padara jaudīgās skatuves izmaksas pārvaldāmas.

2. gadījums — e-komercijas darbība. Divdesmit cilvēku komanda, viņiem ir trīs darbi: produkta apraksts (liels apjoms), klientu atsauksmju klasifikācija (ļoti liels apjoms), datu iegūšana no rēķina attēla (vidējs apjoms, vizuāls). Portfelis viena modeļa vietā: sabalansēts modelis uz pārskatiem, vieglais modelis komentāriem, multimodāls modelis rēķiniem. Tādējādi katram darbam atbilstošās izmaksas un talants krītas; kopējais rēķins ir aptuveni trešdaļa no tā, kas būtu, ja visu darītu jaudīgais modelis.

3. lieta — Valsts iestāde. Valsts iestāde vēlas apkopot iedzīvotāju iesniegumus, taču dati ir personiski un nav paredzēti izbraukšanai uz ārzemēm. Lēmumu koks avarē pie pirmā jautājuma: dati ir sensitīvi un suverenitāte ir obligāta → pirmajā vietā ir skaidrs svara/reģionālais modelis. Tā kā viņiem ir tehniskā komanda, viņi izmanto atvērto svara modeli savā infrastruktūrā. Citi jautājumi (grūtības, apjoms) precīzi noregulē, kuru līmeni viņi izvēlas.

Vāja uzvedne / spēcīga uzvedne

Vāja uzvedne:

Kādu modeli jūs mums ieteiktu?

Spēcīga uzvedne:

Jūsu loma: AI risinājumu arhitekts. Es atbildēju uz šiem septiņiem sava darba jautājumiem: 1) Vai dati ir sensitīvi: [ATBILDE]2) Uzdevuma grūtības: [ATBILDE]3) Apjoms: [ATBILDE]4) Dokumenta lielums: [ATBILDE]5) Vizuālais/audio: [ATBILDE]6) Budžeta jutīgums: [ATBILDE]7) Tehniskā komanda, pamatojoties uz šiem modeļiem: [ANSWER] (posms, svara veids, konteksts, multimodalitāte). Iesakiet 2 konkrētus kandidātus. Pēc tam pamatojiet, vai man šī problēma jāatrisina ar vienu modeli vai 2-3 modeļu portfeli.

Spēcīgā uzvedne pārnes lēmumu koka atbildes tieši uz modeli; Tādējādi modelis neizdara minējumus, tas sašaurinās atbilstoši jūsu reālajam profilam.

Kopējamas veidnes

1. Lēmumu koka palaišana:

Ļaujiet man definēt savu darbu: [DESCRIPTION]. Uzdodiet man secībā septiņus lēmumu pieņemšanas jautājumus (datu jutīgums, uzdevuma grūtības, apjoms, dokumenta lielums, attēls, budžets, komanda), sašauriniet kandidātu kopu pēc katras atbildes un, visbeidzot, iesakiet 2 modeļu veidus.

2. Portfeļa izklāsts:

Man ir šādi darbi: [DARBU SARAKSTS]. Katram darbam izmantojiet lēmumu koku, saskaņojiet atbilstošo modeļa veidu un izveidojiet portfeļa tabulu (darba / modeļa veids / pamatojums). Vienā teikumā novērtējiet portfeļa pārvaldības slogu.

3. Atsevišķs modelis vai portfelis:

Manas komandas lielums [NUM], mana darba dažādība [LOW/MEDIUM/HIGH], mans mēneša AI budžets [RANGE]. Vai man sākt ar vienu līdzsvarotu modeli vai nekavējoties pāriet uz portfeli? Salīdziniet plusus un mīnusus, iesakiet pakāpenisku ceļu.

4. Atkarības riska novērtējums:

Pašlaik esam atkarīgi no viena pakalpojumu sniedzēja [PROVIDER]. Kādi ir šīs atkarības riski (cena, politika, traucējumi)? Kuram sekundārajam pakalpojumu sniedzējam vajadzētu būt gatavam kā rezerves kopijai, lai samazinātu risku? Iesakiet 3 pasākumus, kas atvieglos pāreju.

Biežas kļūdas

  • Izvēle pēc intuīcijas: lēmumu koka izlaišana un modeļa izvēle, jo "tas izklausās labi"; Vēlāk rodas nesaderība.
  • Jautājumu par datiem atstājot uz pēdējo: sensitīvos datos jautājums par suverenitāti ir pirmajā vietā; Ievietojot to beigās, tiek fiksēts nepareizs modelis.
  • Katra darba deleģēšana vienam modelim: tiek zaudēta kvalitāte vai budžets, veicot dažādas grūtības pakāpes un apjoma darbus vienam modelim.
  • Pārāk agra portfeļa izveidošana: nevajadzīgas sarežģītības radīšana, mēģinot pārvaldīt trīs vai četrus modeļus kā neliela komanda.
  • Nemaz nedomājot par atkarību: būt pilnībā atkarīgam no viena pakalpojumu sniedzēja un jums nav alternatīvas cenu/politikas izmaiņām.

Rezumējot

  • Modeļa atlasi var reducēt līdz septiņiem jautājumiem (dati, izaicinājums, apjoms, konteksts, vizuālais, budžets, komanda); šie jautājumi ātri sašaurina kandidātu loku.
  • Sensitīvos datos jautājums par suverenitāti ir pirmajā vietā un nosaka citus lēmumus.
  • Tā vietā, lai izveidotu vienu modeli, nobriedušas organizācijas atkarībā no uzdevuma izveido dažādu modeļu portfeli; Tas gan optimizē izmaksas, gan samazina atkarību.
  • Portfelim ir pieskaitāmas pārvaldības izmaksas; Mazām komandām jāsāk ar vienu līdzsvarotu modeli un jāvirzās pakāpeniski.

Lietojumprogrammas uzdevums

Apkopojiet visas iepriekšējās vienībās veiktās piezīmes (vajadzību profils, svara preference, marķiera/izmaksu aprēķins, līmeņa diagnostika, datu karte). Izmantojot šīs vienības 1. modeli (lēmumu koka palaišana), atbildiet uz septiņiem jautājumiem par savu uzņēmumu un atrodiet divus iespējamos modeļu veidus. Ja jums ir vairāk nekā viens darba veids, izveidojiet portfeļa tabulu ar 2. veidni (portfeļa izklāsts). Šis projekts tiks izmantots galīgajā vienībā novērtējuma un apstiprināšanas pētījumā.

kontrolsaraksts

  • [ ] Piemērojot septiņus lēmuma jautājumus secībā, es varu sašaurināt kandidātu loku.
  • [ ] Es zinu, kāpēc jautājums par suverenitāti ir pirmajā vietā, kad runa ir par sensitīviem datiem.
  • [ ] Es varu piemērot lēmumu koku reālam biznesa scenārijam un piedāvāt modeli.
  • [ ] Es varu novērtēt modeļa portfeļa priekšrocības un pārvaldības slogu.
  • [ ] Es zinu atkarības risku no viena pakalpojumu sniedzēja un veidus, kā to samazināt.