Добивки:
- Претворање на изборот на модел во структурирано дрво на одлуки со седум клучни прашања
- Способност да се предлагаат модели со примена на дрвото на одлуки на реални деловни сценарија
- Оценување на предностите и оптоварувањата од воспоставување модел портфолио наместо зависност од еден модел
Ги собравме парчињата низ осум единици: даватели, имплицитна/експлицитна тежина, контекст, мултимодалност, цена, нивоа и суверенитет на податоците. Сега е време да се комбинираат овие делови во единствен механизам за одлучување. Целта на оваа единица е да одговори на прашањето "кој модел?" Веќе не можете да одговорите на прашањето со интуиција, туку со структурирано дрво на одлуки. Исто така, ќе видите зошто зрелите организации гравитираат кон портфолио на модели, а не само кон еден. Откако ќе заврши единицата, ќе можете да го примените дрвото на одлуки на вистински бизнис сценарија и да подготвите сопствено портфолио.
Дрво за одлучување со седум прашања
Можеме да го намалиме изборот на модел на седум прашања. Редоследното одговарање на овие прашања речиси автоматски ќе ве доведе до вистинскиот кандидат.
- Дали податоците се чувствителни? Ако обработувате лични/доверливи податоци → прво се одредува суверенитетот на податоците (јасна тежина, регионална, нулта задржување). Ако не, вашата флексибилност ќе се зголеми.
- Колку е тешка задачата? Едноставно/застрашувачко → ниво на светлина. Комплексен/повеќе чекор → силен чекор + расудување.
- Колку е волуменот? Многу голема јачина → брзината и цената доаѓаат до израз, навалете се кон опсегот на светлина. Низок волумен → можете да инвестирате во квалитет.
- Колку е голем документот/контекстот? Долги документи → прозорец со широк контекст е задолжителен. Доволно е кратки текстови → мал прозорец.
- Дали има визуелно/аудио? Доколку е достапно → мултимодален модел задолжително. Во спротивно, текстуалниот модел е доволен.
- Што е буџетска чувствителност? Ако е висока → чекор оптимизација, кеш, серија; можеби отворена тежина. Ако е низок → приоритет на квалитетот.
- Како е тимот и инфраструктурата? Ако нема технички тим → затворена тежина, подготвен интерфејс. Ако има силен тим → опцијата за отворена тежина е на маса.
Совет: Откако ќе одговорите на овие седум прашања, бројот на модели кандидати обично се намалува на еден до два модели. Целта на дрвото на одлуки не е да ви наметне еден „вистински одговор“, туку брзо да ги елиминира опциите и да ви го олесни тестирањето на останатите со малку пилот.
Ставање на стеблото на одлуки во табела
Прашање
Одговори → Пренасочи
Дали податоците се чувствителни?
Да → отворена тежина / регионална / нула пред складирање
Дали задачата е тешка?
Да → силно + расудување / Не → благо
Дали јачината на звукот е висока?
Да → приоритет на брзина и цена (лесен)
Дали документот е голем?
Да → поширок контекст
Дали има визуелно?
Да → мултимодална задолжително
Дали буџетот е ограничен?
Да → оптимизација + можеби отворена тежина
Дали има технички тим?
Нема → затворен/подготвен интерфејс
Оваа табела работи како листа за проверка: штиклирајте го секој ред, составете го добиениот профил. На пример, профилот „чувствителни на податоци + тешка задача + мал обем + достапен технички тим“ најверојатно ќе ве упати кон силен модел со отворена тежина што работи на вашиот сопствен сервер.
Ниту еден модел, портфолио
Искусните институции по некое време сфаќаат дека да се прави се со еден модел не е ниту најевтин ниту најдобар начин. Наместо тоа, тие градат портфолио на модели: користејќи различни модели во зависност од задачата. Логиката е едноставна:
- Едноставни, обемни работни места → лесен и евтин модел.
- Комплексна, критичка работа → моќен модел.
- Работни места за обработка на доверливи податоци → отворен модел на тежина/регионален модел.
- Визуелни дела → мултимодален модел.
Пристапот на портфолио има две главни придобивки. Првата е оптимизација на трошоците: секоја работа ја вршите модел толку моќен колку што му треба, а не плаќате повеќе. Второ, независност на провајдерот: не сте зависни од еден провајдер; Ако некој ги зголеми цените, ја промени политиката или ја намали услугата, имате подготвена алтернатива. Ова се нарекува „избегнување на заклучување на продавачот“.
Внимание: Пристапот за портфолио не е бесплатен; Управувањето и следењето на повеќе модели и обезбедувањето конзистентен квалитет додава дополнителни трошоци. Ако сте мал тим, често е попаметно да започнете со единствен избалансиран модел и да преминете во портфолио додека вашиот бизнис созрева. Воспоставувањето на портфолиото порано од потребното може да создаде конфузија во менаџментот.
Пример за портфолио
Подолу е примерок од портфолио што може да го изгради услужна компанија со средна големина:
тип на бизнис
примерок задача
Избран тип на модел
Зошто
Сортирање со висок волумен
Означување на коментари/билет
малку исклучен
Евтино, брзо, доволно
Производство на општа содржина
Е-пошта, нацрт опис
избалансиран
добра рамнотежа
комплексна анализа
Преглед на ризикот од договорот
Силно исклучено (поширок контекст)
Точноста е критична
Обработка на доверливи податоци
Анализа на податоци за финансиски/пациент
Отворена тежина (сопствен сервер)
Податоците не се гасат
визуелна обработка
Фактура/читање на фотографија
мултимодален
визуелно барање
Оваа табела се заснова на еднореченичкото прашање „кој модел го користите? Тоа покажува дека прашањето е всушност погрешно прашање. Точниот одговор е: „Кој модел за која работа?
Три реални случаи: Примена на стеблото на одлуки
Случај 1 - Мала адвокатска канцеларија. Канцеларија од пет луѓе сака да го сумира договорот. Дрво на одлуки: чувствителни на податоци (да, но може да се управува со експлицитна согласност и договор) → тешка задача (да) → мал волумен (~100 месечно) → голем документ (да, 40+ страници) → нема слики → буџетски медиум → нема технички тим. Резултат: искористување на модел со голем контекст, моќен и затворен модел од интерфејсот што се наоѓа на полица со нула договори за задржување. Нискиот волумен ги прави трошоците за моќната сцена податливи.
Случај 2 - Операција за е-трговија. Тим од дваесет луѓе, тие имаат три работни места: опис на производот (голем обем), класификација за преглед на клиенти (многу висок волумен), екстракција на податоци од слика на фактура (среден волумен, визуелен). Портфолио наместо единечен модел: избалансиран модел до изјави, лесен модел до коментари, мултимодален модел до фактури. Така, соодветниот трошок и талент за секоја работа паѓа; вкупната сметка се сведува на приближно една третина од она што би било доколку моќниот модел направи сè.
Случај 3 - Јавна институција. Јавна институција сака да ги сумира барањата на граѓаните, но податоците се лични и не се наменети за заминување во странство. Дрвото на одлуки паѓа на првото прашање: податоците се чувствителни и суверенитетот е задолжителен → на прво место е експлицитната тежина/регионален модел. Бидејќи имаат технички тим, тие водат модел со отворена тежина на сопствената инфраструктура. Останатите прашања (тежина, волумен) прецизно подесете кое ниво ќе го изберат.
Слаба навестување / Силен навестување
Слаба навестување:
Кој модел ни го препорачувате?
Моќен потсетник:
Вашата улога: архитект на решенија за вештачка интелигенција. Одговорив на овие седум прашања за мојата работа:1) Дали податоците се чувствителни: [ОДГОВОР] 2) Тежина на задачата: [ОДГОВОР] 3) Јачина: [ОДГОВОР]4) Големина на документ: [ОДГОВОР]5) Визуелно/аудио: [ОДГОВОР]6) Чувствителност на буџетот: [ОДГОВОР] 7) Технички тим заснован на моделот: НС] на овие одговори (фаза, тип на тежина, контекст, мултимодалност). Предложете 2 конкретни кандидати. Тогаш оправдај дали треба да го решам овој проблем со еден модел или портфолио од 2-3 модели.
Моќниот промпт ги носи одговорите на дрвото на одлуки директно до моделот; Така, моделот не прави нагаѓања, се стеснува според вашиот реален профил.
Шаблони за копирање
1. Водење дрво на одлуки:
Дозволете ми да ја дефинирам мојата работа: [ОПИС]. Поставете ги седумте прашања за одлучување (чувствителност на податоци, тешкотија на задача, волумен, големина на документ, слика, буџет, тим) за мене со редослед, стеснете го бројот на кандидати по секој одговор и на крајот препорачајте 2 типа модели.
2. Преглед на портфолиото:
Ги имам следните работни места: [СПИСОК НА РАБОТА]. Применете го дрвото на одлуки за секоја работа, усогласете го соодветниот тип на модел и креирајте табела за портфолио (работа / тип на модел / оправдување). Оценете го товарот на управување на портфолиото во една реченица.
3. Поединечен модел или портфолио:
Големина на мојот тим [NUM], мојата разновидност на работа [НИСКО/СРЕДЕН/ВИСОК], мојот месечен буџет за вештачка интелигенција[ОПЕГА]. Дали треба да започнам со единствен избалансиран модел или веднаш да преминам на портфолио? Споредете ги добрите и лошите страни, предложете фазен пат.
4. Проценка на ризикот од зависност:
Во моментов зависиме од еден давател [ПРОВИДЕР]. Кои се ризиците од оваа зависност (цена, политика, нарушување)? Кој секундарен провајдер треба да го чувам подготвен како резервна копија за да го намалам ризикот? Предложете 3 мерки кои ќе ја олеснат транзицијата.
Вообичаени грешки
- Избор по интуиција: Прескокнување на дрвото на одлуки и избор на модел затоа што „звучи добро“; Подоцна, се појавува некомпатибилност.
- Оставајќи го прашањето за податоци за последно: во чувствителните податоци, прашањето за суверенитетот е на прво место; Ставањето на крајот води до заклучување во погрешен модел.
- Делегирање на секоја работа на еден модел: губење на квалитетот или буџетот со тоа што работи со различна тежина и обем ќе ги извршува еден модел.
- Воспоставување на портфолиото премногу рано: Создавање непотребна сложеност со обид да се управува со три или четири модели како мал тим.
- Воопшто не размислувам за зависност: да се биде целосно зависен од еден провајдер и да се остане без алтернатива во промените на цената/политиката.
Сумирано
- Изборот на модел може да се сведе на седум прашања (податоци, предизвик, волумен, контекст, визуелен, буџет, тим); овие прашања брзо го стеснуваат базенот на кандидати.
- Во чувствителните податоци, прашањето за суверенитетот е на прво место и ги врамува другите одлуки.
- Наместо единствен модел, зрелите организации воспоставуваат портфолио на различни модели во зависност од задачата; Ова и ги оптимизира трошоците и ја намалува зависноста.
- Портфолиото има надземни трошоци за управување; Малите тимови треба да започнат со единствен избалансиран модел и да се движат постепено.
Задача за апликација
Соберете ги сите белешки што сте ги направиле во претходните единици (профил на потреби, претпочитање тежина, токен/проценка на трошоци, дијагностика на нивоа, мапа на податоци). Со шема 1 во оваа единица (водење дрво на одлуки), одговорете на седум прашања за вашиот бизнис и дојдете до два типа на кандидатски модели. Ако имате повеќе од еден тип на работа, креирајте табела за портфолио со шаблон 2 (преглед на портфолиото). Овој нацрт ќе биде влез во студијата за евалуација и валидација во последната единица.
листа за проверка
- [ ] Со примена на седумте прашања за одлучување по редослед, можам да го стеснам базенот на кандидати.
- [ ] Знам зошто прашањето за суверенитетот е на прво место кога станува збор за чувствителни податоци.
- [ ] Можам да го применам дрвото на одлуки на вистинско деловно сценарио и да предложам модел.
- [ ] Можам да ги проценам предностите и товарот на управување на моделот портфолио.
- [ ] Го знам ризикот од зависност од еден давател на услуги и начините за негово намалување.