Pelnas:
- Modelio pasirinkimo pavertimas struktūrizuotu sprendimų medžiu su septyniais pagrindiniais klausimais
- Gebėjimas siūlyti modelius, taikant sprendimų medį realiems verslo scenarijams
- Įvertinti modelio portfelio sudarymo privalumus ir naštą, o ne priklausomybę nuo vieno modelio
Surinkome duomenis iš aštuonių vienetų: teikėjų, numanomo / aiškaus svorio, konteksto, daugiarūšiškumo, kainos, pakopų ir duomenų suverenumo. Dabar atėjo laikas sujungti šias dalis į vieną sprendimo mechanizmą. Šio skyriaus tikslas – atsakyti į klausimą "koks modelis?" Į klausimą galite atsakyti jau ne intuicija, o struktūrizuotu sprendimų medžiu. Taip pat pamatysite, kodėl brandžios organizacijos renkasi modelių portfelį, o ne vieną. Kai vienetas bus baigtas, galėsite pritaikyti sprendimų medį realiam verslo scenarijui ir sudaryti savo portfelį.
Septynių klausimų sprendimų medis
Modelio pasirinkimą galime sumažinti iki septynių klausimų. Atsakydami į šiuos klausimus eilės tvarka, beveik automatiškai būsite prie tinkamo kandidato.
- Ar duomenys yra jautrūs? Jei tvarkote asmeninius/konfidencialius duomenis → pirmiausia nustatomas duomenų suverenitetas (aiškus svoris, regioninis, nulinis saugojimas). Jei ne, jūsų lankstumas padidės.
- Kiek sudėtinga užduotis? Paprastas / didžiulis → šviesos lygis. Sudėtingas/daugiapakopis → stiprus žingsnis + samprotavimas.
- Kiek yra tūris? Labai didelis garsumas → greitis ir kaina išryškėja, linkstama į šviesos diapazoną. Maža apimtis → galite investuoti į kokybę.
- Kokio dydžio dokumentas/kontekstas? Ilgi dokumentai → būtinas platus konteksto langas. Trumpi tekstai → užtenka mažo langelio.
- Ar yra vaizdo/garso? Jei yra → multimodalinis modelis privalomas. Kitu atveju pakanka teksto modelio.
- Kas yra biudžeto jautrumas? Jei aukštas → žingsnis optimizavimas, talpykla, paketas; gal atviras svoris. Jei žema → pirmenybė kokybei.
- Kaip komanda ir infrastruktūra? Jei nėra techninės komandos → uždaras svoris, paruošta sąsaja. Jei yra stipri komanda → atviras svorio variantas yra ant stalo.
Patarimas: kai atsakysite į šiuos septynis klausimus, kandidatų modelių grupė paprastai susiaurėja iki vieno ar dviejų modelių. Sprendimų medžio tikslas yra ne primesti jums vieną „teisingą atsakymą“, o greitai pašalinti parinktis ir palengvinti likusių testavimą su mažuoju pilotu.
Sprendimų medžio sudėjimas į lentelę
Klausimas
Atsakymas → Peradresuoti
Ar duomenys yra jautrūs?
Taip → atidarykite svorį / regioninį / nulį prieš sandėliavimą
Ar užduotis sunki?
Taip → stiprus + samprotavimas / Ne → švelnus
Ar garsas didelis?
Taip → greičio ir kainos prioritetas (lengvas)
Ar dokumentas didelis?
Taip → platesnis kontekstas
Ar yra vizualumas?
Taip → multimodalinis privalomas
Ar biudžetas ribotas?
Taip → optimizavimas + galbūt atviras svoris
Ar yra techninė komanda?
Nėra → uždara/parengta sąsaja
Ši lentelė veikia kaip kontrolinis sąrašas: pažymėkite kiekvieną eilutę, surinkite gautą profilį. Pavyzdžiui, profilis „Duomenims jautrus + sudėtinga užduotis + mažas kiekis + pasiekiama techninė komanda“ greičiausiai nukreips jus į stiprų atvirą modelį, veikiantį jūsų serveryje.
Ne vienas modelis, o portfelis
Patyrusios institucijos po kurio laiko supranta, kad viską daryti su vienu modeliu nėra nei pigiausias, nei geriausias būdas. Vietoj to, jie kuria modelių portfelį: naudoja skirtingus modelius, priklausomai nuo užduoties. Logika paprasta:
- Paprasti, didelių gabaritų darbai → lengvas ir pigus modelis.
- Sudėtingas, kritiškas darbas → galingas modelis.
- Konfidencialių duomenų apdorojimo darbai → atviras svoris/regioninis modelis.
- Vizualiniai darbai → multimodalinis modelis.
Portfelio metodas turi du pagrindinius privalumus. Pirmasis yra išlaidų optimizavimas: kiekvieną darbą atlieka toks galingas modelis, kokio jam reikia, ir jūs nemokėsite daugiau. Antra, teikėjo nepriklausomumas: nesate priklausomas nuo vieno teikėjo; Jei kas nors padidina kainas, keičia politiką ar sumažina paslaugą, turite pasiruošę alternatyvą. Tai vadinama „vengiama pardavėjo užrakinimo“.
Atsargiai: portfelio metodas nėra nemokamas; Kelių modelių valdymas ir stebėjimas bei nuoseklios kokybės užtikrinimas padidina išlaidas. Jei esate maža komanda, dažnai protingiau pradėti nuo vieno subalansuoto modelio ir verslui bręstant pereiti prie portfelio. Portfelio sukūrimas anksčiau nei būtina gali sukelti painiavą vadovybei.
Portfelio pavyzdys
Žemiau pateikiamas pavyzdinis portfelis, kurį gali sukurti vidutinio dydžio paslaugų įmonė:
verslo tipas
užduoties pavyzdys
Pasirinktas modelio tipas
Kodėl
Didelės apimties rūšiavimas
Komentarų / bilietų žymėjimas
šiek tiek nukrypęs
Pigu, greita, pakankamai
Bendra turinio gamyba
El. paštas, aprašymo juodraštis
subalansuotas
geras balansas
sudėtinga analizė
Sutarties rizikos peržiūra
Stiprus (platesnis kontekstas)
Kritinis tikslumas
Konfidencialių duomenų tvarkymas
Finansų/paciento duomenų analizė
Atviras svoris (nuosavas serveris)
Duomenys neišnyksta
vizualinis apdorojimas
Sąskaitos faktūros/nuotraukų skaitymas
multimodalinis
vizualinis reikalavimas
Ši lentelė sudaryta remiantis vieno sakinio klausimu "kokį modelį naudojate?" Tai rodo, kad klausimas iš tikrųjų yra neteisingas. Teisingas atsakymas yra: "Kokiam modeliui kuriam darbui?"
Trys realūs atvejai: sprendimų medžio taikymas
1 atvejis – maža advokatų kontora. Penkių žmonių biuras nori apibendrinti sutartį. Sprendimų medis: jautrūs duomenims (taip, bet tvarkoma su aišku sutikimu ir sutartimi) → užduotis sudėtinga (taip) → maža apimtis (~100 per mėnesį) → dokumentas didelis (taip, 40 ir daugiau puslapių) → nėra vaizdų → biudžetas vidutinis → nėra techninės komandos. Rezultatas: didelio konteksto, galingo, uždaro svorio modelio panaudojimas iš paruoštos sąsajos su nulinėmis saugojimo sutartimis. Mažas garsumas leidžia valdyti galingos scenos kainą.
2 atvejis – elektroninės prekybos operacija. Dvidešimties žmonių komanda, jie turi tris darbus: prekės aprašymas (didelė apimtis), klientų atsiliepimų klasifikacija (labai didelė apimtis), duomenų ištraukimas iš sąskaitos faktūros vaizdo (vidutinės apimties, vizualinis). Portfelis vietoj vieno modelio: subalansuotas modelis prie ataskaitų, lengvas modelis komentarams, multimodalinis modelis sąskaitoms faktūroms. Taigi, atitinkamos išlaidos ir talentas kiekvienam darbui krenta; bendra sąskaita sumažėja iki maždaug trečdalio to, kas būtų, jei viską padarytų galingas modelis.
3 atvejis – Viešoji įstaiga. Viešoji įstaiga nori apibendrinti piliečių prašymus, tačiau duomenys yra asmeniniai ir neketinama vykti į užsienį. Sprendimų medis sugenda po pirmojo klausimo: duomenys yra jautrūs, o suverenitetas yra privalomas → aiškus svorio / regioninis modelis yra pirmiausia. Kadangi jie turi techninę komandą, jie naudoja atvirą svorio modelį savo infrastruktūroje. Kiti klausimai (sunkumas, apimtis) patikslina, kurią pakopą jie pasirenka.
Silpnas raginimas / stiprus raginimas
Silpnas raginimas:
Kokį modelį mums rekomenduotumėte?
Galingas raginimas:
Jūsų vaidmuo: AI sprendimų architektas. Atsakiau į šiuos septynis savo darbo klausimus: 1) Ar duomenys neskelbtini: [ATSAKYMAS] 2) Užduočių sunkumas: [ATSAKYMAS] 3) Apimtis: [ATSAKYMAS] 4) Dokumento dydis: [ATSAKYMAS] 5) Vaizdas / garsas: [ATSAKYMAS] 6) Biudžeto jautrumas: [ATSAKYMAS] 7) Techninė komanda: Sumažinkite šiuos modelius: [ATSAKYMAI: tipas] (stadija, svorio tipas, kontekstas, multimodalumas). Pasiūlykite 2 konkrečius kandidatus. Tada pagrįskite, ar šią problemą turėčiau išspręsti su vienu modeliu, ar su 2–3 modelių portfeliu.
Galingas raginimas perkelia sprendimų medžio atsakymus tiesiai į modelį; Taigi modelis nedaro spėlionių, susiaurėja pagal jūsų tikrąjį profilį.
Kopijuojami šablonai
1. Sprendimų medžio vykdymas:
Leiskite apibrėžti savo darbą: [DESCRIPTION]. Užduokite man septynis sprendimo klausimus (duomenų jautrumas, užduoties sudėtingumas, apimtis, dokumento dydis, vaizdas, biudžetas, komanda), po kiekvieno atsakymo susiaurinkite kandidatų grupę ir galiausiai rekomenduokite 2 modelių tipus.
2. Portfelio metmenys:
Turiu šiuos darbus: [DARBŲ SĄRAŠAS]. Kiekvienam darbui pritaikykite sprendimų medį, suderinkite atitinkamą modelio tipą ir sukurkite aplanko lentelę (darbo / modelio tipas / pagrindimas). Vienu sakiniu įvertinkite portfelio valdymo naštą.
3. Vienas modelis arba portfelis:
Mano komandos dydis [NUM], mano darbo įvairovė [LOW/MEDIUM/HIGH], mano mėnesinis AI biudžetas [RANGE]. Ar turėčiau pradėti nuo vieno subalansuoto modelio ar nedelsiant pereiti prie portfelio? Palyginkite privalumus ir trūkumus, pasiūlykite laipsnišką kelią.
4. Priklausomybės rizikos įvertinimas:
Šiuo metu esame priklausomi nuo vieno teikėjo [PROVIDER]. Kokia yra šios priklausomybės rizika (kaina, politika, sutrikimas)? Kurį antrinį tiekėją turėčiau pasirengti kaip atsarginę kopiją, kad sumažinčiau riziką? Pasiūlykite 3 priemones, kurios palengvins perėjimą.
Dažnos klaidos
- Pasirinkimas pagal intuiciją: praleisti sprendimų medį ir pasirinkti modelį, nes „skamba gerai“; Vėliau atsiranda nesuderinamumas.
- Duomenų klausimą paliekame paskutiniam: neskelbtinuose duomenyse suverenumo klausimas yra pirmiausia; Įdėjus jį gale, užsifiksuojama netinkamame modelyje.
- Kiekvieno darbo pavedimas vienam modeliui: prarandama kokybė arba biudžetas, kai vienas modelis atlieka skirtingo sudėtingumo ir apimties darbus.
- Per anksti sukurti portfelį: sukurti nereikalingą sudėtingumą bandant valdyti tris ar keturis modelius kaip mažą komandą.
- Visiškai negalvoju apie priklausomybę: esate visiškai priklausomas nuo vieno tiekėjo ir nelieka jokios alternatyvos keičiant kainas / politiką.
Apibendrinant
- Modelio pasirinkimas gali būti sutrumpintas iki septynių klausimų (duomenys, iššūkis, apimtis, kontekstas, vaizdas, biudžetas, komanda); šie klausimai greitai susiaurina kandidatų grupę.
- Kalbant apie jautrius duomenis, suvereniteto klausimas yra pirmoje vietoje ir lemia kitus sprendimus.
- Brandžios organizacijos, atsižvelgdamos į užduotį, sukuria skirtingų modelių portfelį, o ne vieną modelį; Tai optimizuoja išlaidas ir sumažina priklausomybę.
- Portfelis turi valdymo pridėtines išlaidas; Mažos komandos turėtų pradėti nuo vieno subalansuoto modelio ir judėti palaipsniui.
Taikymo užduotis
Surinkite visas pastabas, kurias padarėte ankstesniuose vienetuose (poreikių profilis, svorio pasirinkimas, prieigos raktas / išlaidų sąmata, pakopos diagnostika, duomenų žemėlapis). Šiame skyriuje naudodami 1 modelį (sprendimų medžio vykdymą), atsakykite į septynis klausimus apie savo verslą ir nustatykite du modelio tipus. Jei turite daugiau nei vieno tipo darbus, sukurkite portfelio lentelę su 2 šablonu (portfelio kontūras). Šis projektas bus įvestis į vertinimo ir patvirtinimo tyrimą galutiniame skyriuje.
kontrolinis sąrašas
- [ ] Taikydamas septynis sprendimo klausimus iš eilės, galiu susiaurinti kandidatų grupę.
- [ ] Žinau, kodėl suvereniteto klausimas yra pirmasis, kai kalbama apie neskelbtinus duomenis.
- [ ] Galiu pritaikyti sprendimų medį realiam verslo scenarijui ir pasiūlyti modelį.
- [ ] Gebu įvertinti modelio portfelio privalumus ir valdymo naštą.
- [ ] Žinau priklausomybės nuo vieno teikėjo riziką ir būdus, kaip ją sumažinti.