Добици:
- Способност заштите података у четири слоја (класификација, анонимизација, избор возила, минимални подаци) и испуњавање КВКК одговорности
- Способност верификације резултата у складу са нивоом ризика и филтрирања препорука које утичу на људе кроз праведност и пристрасност
- Способност успостављања једноставног оквира управљања АИ и осигуравања да излаз АИ не замени одобрење стручњака у финансијским/правним/ХР/одлукама о усклађености
Као менаџер, научили сте да користите вештачку интелигенцију у сваком углу свог пословања: извештавање, КПИ, аутоматизација, операције, набавке, комуникација, резиме, сценарио. Сада успостављамо оквир за одговорно коришћење ове моћи. Јер када се вештачка интелигенција користи погрешно, брзина и погодност се претварају у озбиљне ризике: процурела листа купаца, одлука заснована на измишљеном броју, дискриминаторски предлог, кршење КВКК-а. Ова јединица је заштитна мрежа која држи цео модул заједно. Главни принцип у једној реченици: АИ је помоћник; Поверљивост података, тачност резултата и етичност одлуке су увек одговорност менаџера.
Приватност података: четири слоја заштите
Пословни подаци су вредни и велики део је поверљив. Заштитите приватност у четири слоја. Први слој — класификација: означите сваки податак као „јавно/интерно коришћење/поверљиво/лично“. Поверљиви и лични подаци захтевају посебну пажњу. Други слој — анонимизација: Преведите идентификаторе као што су име, ИД, име купца, цена добављача у кодове пре него што их дате АИ (запослени А, купац 1). Трећи слој — избор алата: ако је могуће, користите корпоративне АИ алате које је одобрила компанија која не чува податке за обуку модела; Немојте давати поверљиве податке бесплатним јавно доступним алатима. Четврти слој — минимални подаци: дајте минимум података потребних за обављање посла, не више.
КВКК (Закон о заштити података о личности) регулише вашу обраду личних података запослених и купаца; Кршење доноси и законске санкције и губитак угледа. Лепљење листе клијената или платног списка у отворени оквир за ћаскање је као остављање закључане датотеке на улици.
Опрез: „Овај алат изгледа безбедно“ није гаранција. Пре него што дате било какве податке АИ, питајте: „Каква би била штета за компанију ако би ова информација процурила?“ Ако је штета озбиљна, или анонимизирајте податке или их уопште немојте објављивати. Ако сумњате, немојте давати.
Валидација: непотписани излаз није одлука
Дисциплина која се понавља кроз модул је овде окупљена под једним кровом. Потврдите сваки излаз АИ у три корака: извор (да ли је број из података које сам дао?), поново израчунајте (проверите аритметику), менаџерски филтер (да ли се поклапа са мојим знањем о индустрији и пољу?). АИ може произвести халуцинације — измишљајући непостојеће бројеве, изворе или чињенице уверљивим језиком. Течност није тачност. Што је одлука важнија, верификација мора бити ригорознија.
Размотрите ризик на три нивоа. Испоруке са ниским ризиком (интерни оквир, форматирање, резиме): довољан је брзи преглед. Резултати средњег ризика (извештај менаџменту, коментар КПИ): сваки број је валидиран. Високоризични резултати (финансијска одлука, уговор, документ о усклађености, ХР трансакција): АИ производи само нацрте; Надлежни стручни преглед, правна/финансијска контрола и потпис су обавезни. У овим областима, АИ излаз никада не може да замени одобрење компетентног стручњака.
Етика и пристрасност: брзо, али поштено
АИ учи из историјских података; Ако постоји пристрасност у прошлости, АИ ће је поновити или чак појачати. Препорука о запошљавању, унапређењу или одређивању приоритета клијената може несвесно да доведе групу у неповољан положај. Зато ставите сваки предлог вештачке интелигенције који утиче на људе кроз филтер правичности: „Да ли овај предлог неправедно искључује групу? Да ли је оправдање одбрањиво?“ Питајте АИ експлицитно „које групе би могле бити у неповољном положају због овог предлога?“ питати.
Још два етичка принципа: Транспарентност — Не скривајте значајне резултате генерисане вештачком интелигенцијом; Требало би да можете да објасните како је одлука донета. Одговорност — „АИ је тако рекао“ није изговор. Одговорност лежи на менаџеру који користи алат. Када АИ направи грешку, сматрате одговорним; па га користите као надгледаног помоћника, а не као слепог ауторитета.
Управљање вештачком интелигенцијом: институционални оквир
Индивидуална добра воља није довољна; Успоставите једноставан оквир управљања вештачком интелигенцијом за пословање: који подаци се могу дати ком алату, које одлуке може да подржи АИ, које припадају само стручњаку, како се валидирају резултати, ко је одговоран. Писана, једноставна политика штити цео тим и спречава катастрофу на следећој јединици.
три мини кофера
Случај 1 — Повратак са ивице цурења. Менаџер продаје би налепио листу са стварним именима купаца и прометом у бесплатни алат за вештачку интелигенцију. У тренутку оклевања, упитао је: "Шта би се догодило да ово процури?" упитао је, кодирајући имена купаца и претварајући промет у траку. Анализа је изашла са истим квалитетом; нису изашли прави подаци. Мала навика спречила је велики КВКК ризик.
Случај 2 — Цена измишљеног броја. Главни финансијски директор представио је цифру о „индустријском просеку од 23 процента“ коју је ИЗ дао одбору, а да то није потврдио. Број је измишљен; АИ је убедљиво произвела број који није имао извор. Уследила је контроверза око улагања заснована на погрешној цифри и требало је времена да се преокрене. Поука: не може се користити сваки број који тврди да долази споља без повезивања са правим извором.
Случај 3 — Ухватити пристрасну препоруку. Менаџер људских ресурса је затражио од АИ да рангира кандидате. АИ би истакао дипломце из одређене школе на основу историјских података. Менаџер пита „које групе овај предлог искључује?“ упитао је; Открио је да АИ понавља пристрасност из прошлости. Он је рангирање заснивао искључиво на критеријумима везаним за посао, одбрањивим критеријумима и препустио је коначну одлуку народном одбору.
Четири шаблона за копирање
1) Провера приватности података:
Ваша улога: саветник за приватност података. За тренутак ћу вам дати скуп података. Прво наведите лична/поверљива поља (име, ИД, купац, цена, плата) и предложите како да анонимизирате свако од њих. Укратко запишите ризике давања ових података АИ у смислу КВКК. Немојте још анализирати.
2) Контролна листа за верификацију:
Морам да проверим следеће АИ излаз пре него што га представим управи. Наведите сваку нумеричку тврдњу и тврдњу екстерног извора у излазу. За сваки од њих питајте „да ли је извор података које сам дао или су то информације које је АИ можда сама произвела/израдила?“ Сакупите оне са непознатим изворима под насловом 'ВЕРИФИ'.
3) Филтер етике/правде:
Следећи предлог вештачке интелигенције утиче на људе: [предлог]. Које групе би овај предлог могао неправедно ставити у неповољнији положај? Да ли препорука може бити пристрасна историјским подацима? Шта треба да променим да бих одлуку засновао искључиво на пословним, одбрањивим критеријумима? Будите искрени, немојте бранити сугестију.
4) Класификација ризика коришћења АИ:
Урадићу следећи задатак са АИ: [задатак]. Ставите га на ниво ризика: низак (интерни нацрт), средњи (одлаже се менаџменту), висок (финансијска/правна/последица за људске ресурсе). Реците ми који су кораци верификације и одобрења потребни на основу нивоа ризика. Ако је висок ризик, подсетите да је стручно одобрење обавезно.
Слаби промпт / Јаки промпт
Слабо обавештење:
Дајте ми анализу са овим подацима о клијентима. [подаци са правим именом]
Пружа стварне личне податке отвореном алату; Носи ризик од кршења КВКК-а и цурења. Такође не постоји план за валидацију резултата.
Снажан упит:
Ваша улога: аналитичар. У подацима које сам вам дао, сва имена су кодирана (Купац 1-50) и износи су конвертовани у траку. Извршите анализу сегмента са овим анонимним подацима. Само користите бројеве које сам дао, немојте додавати бројеве екстерних сектора; Ако га додате, јасно наведите извор како бих могао да га проверим.
Величина
лош приступ
Снажан приступ
Подаци
право име
анонимни
КВКК ризик
висока
ниско
контрола извора
Ниједан
обавезна
Проверљивост
ниско
висока
Одговорност
неизвесно
разјашњено
Уобичајене грешке
- Давање правих поверљивих/личних података отвореном алату. Прво класификујте и анонимизујте.
- Не проверавамо тврдње спољних извора. АИ може да направи бројке попут „просека индустрије“; повежите се са извором.
- Игнорисање предрасуда. Ставите предлоге који утичу на људе кроз филтер поштења.
- Изговор "АИ је тако рекао". Одговорност је на кориснику; Претпоставите одговорност.
- Прескакање стручног одобрења за одлуку високог ризика. Финансијски/правни/ХР/усклађеност резултата захтева стручно одобрење.
Опрез: Најважнија реченица овог модула: АИ излаз у последичним областима као што су усклађеност, финансије, правни и људски ресурси НИЈЕ замена за одобрење компетентног стручњака. АИ повећава вашу брзину, не отпушта вашег стручњака. Непроверени излаз вештачке интелигенције је ризичан као и непотписана одлука.
Укратко
Одговорно коришћење вештачке интелигенције почива на три стуба: приватности, аутентификације и етике. Заштитите податке у четири слоја (класификација, анонимизација, избор алата, минимални подаци) и запамтите КВКК одговорност. Потврдите сваки излаз повезивањем извора, поновним израчунавањем и административним филтрирањем; Повећајте марљивост на основу нивоа ризика. Ставите предлоге који утичу на људе кроз филтер правичности и одржавајте транспарентност и одговорност. Једноставан оквир управљања вештачком интелигенцијом штити цео тим. И увек: у високоризичним, последичним областима, АИ није замена за одобрење компетентног стручњака.
Задатак апликације
Напишите нацрт на пола странице „Смерница за коришћење АИ“ за свој посао. Укључује: који подаци се могу дати ком алату, како ће подаци бити анонимизовани, које резултате треба потврдити, које одлуке припадају искључиво стручњаку и ко је одговоран. Користећи горњи шаблон „АИ користи класификацију ризика“, ставите 5 задатака које сте урадили са вештачком интелигенцијом прошле недеље у ниво ризика и напишите исправан корак верификације за сваки.
контролна листа
- [ ] Да ли сам класификовао и анонимизовао податке?
- [ ] Да ли сам користио алатку одобрену/безбедну од компаније и минималне податке?
- [ ] Да ли сам проверио сваки излаз у односу на ниво ризика?
- [ ] Да ли сам филтрирао предлоге који утичу на људе кроз поштење?
- [ ] Да ли ми је потребно стручно одобрење за одлуке високог ризика?
Модул Екам
1. Које питање менаџер треба да постави да би одредио ниво посла (механички/аналитички/одлучивање) и ригорозност верификације пре него што преда посао АИ?
- А) Шта ће бити резултат ако је овај излаз погрешан? ✔
- Б) Може ли вештачка интелигенција да заврши овај посао што је пре могуће?
- Ц) Да ли је овај алат бесплатан?
- Д) Да ли је овај посао икада раније обављен?
Опис: Основа правилне употребе је класификовати посао према степену ризика. 'Шта ће бити последица ако је овај излаз нетачан?' Питање одређује да ли је рад механички, аналитички или одговорна одлука и самим тим колико је провера потребно.
2. Цифра о „индустријском просеку од 23 одсто“ коју је дала вештачка интелигенција је представљена управном одбору без провере и испоставило се да је цифра измишљена. Која је основна дисциплина занемарена у овом случају?
- А) Правило да се вештачка интелигенција користи само у јутарњим сатима
- Б) Дисциплина верификације излаза повезивањем са извором ✔
- Ц) Конвертовање извештаја у табелу боја
- Д) Писање дужег упутства
Објашњење: Вештачка интелигенција понекад произведе непостојећи број на убедљивом језику (халуцинације). Корак повезивања излаза са извором проверава да ли сваки број долази из стварног извора или је можда измишљен. Када се ово изостави, постоји ризик од погрешних одлука.
3. Док се укупан промет у компанији за е-трговину чини стабилним, анализа по сегментима открива да је високопрофитна категорија смањена за 22 процента, а нископрофитна продаја то маскира. Који принцип илуструје овај пример?
- А) Укупан број је увек најпоузданији показатељ
- Б) Профитабилност је неважна, важан је само промет
- Ц) Укупни бројеви могу сакрити преокрете; слом сегмента открива истину ✔
- Д) Анализа сегмената важи само за велике компаније
Објашњење: Укупни бројеви могу сакрити унутрашње преокрете. Посматрање рашчламбе (анализа сегмената) уместо укупног у раду подршке одлучивању открива истину; Велике варијације могу бити скривене испод фиксног укупног износа.
4. Менаџер кафића тумачи откриће да се „продаја викендом креће са температуром“ као „вруће време повећава продају“ и угађа клима уређај; Међутим, прави разлог је био повећан промет купаца током викенда. Шта је ово грешка?
- А) Погрешна корелација за узрочност ✔
- Б) Не прикупља довољно података
- Ц) Избор погрешног типа графикона
- Д) Без анонимизације података
Објашњење: Само зато што две ствари делују заједно (корелација) не значи да једна изазива другу (узрочност). Температура и продаја су се случајно кретали у истом правцу; Чест разлог је био саобраћај викендом. Односи које је открила вештачка интелигенција нису докази, већ хипотезе које треба тестирати.
5. Шта је на врху 'пирамидалне' структуре доброг менаџерског извештаја?
- А) Табеле необрађених података
- Б) Резиме ✔
- Ц) Додатни документи и фусноте
- Д) Све бројке из претходних година
Објашњење: Добар извештај је пирамида: на врху, резиме (3-5 тачака) дизајниран да најзапосленији читалац разуме за 30 секунди; критични налази у наставку; На дну је пратећи детаљ. Дакле, топ менаџер само чита врх, а свако ко је радознао силази.
6. Када позивни центар направи „број позива на које је одговорено дневно“ као КПИ, представници пожурују са позивима и смањују задовољство корисника. Који принцип илуструје ова ситуација?
- А) Што је више КПИ, то је боље управљање
- Б) КПИ се не могу користити у позивним центрима
- Ц) Брзина је увек испред квалитета
- Д) КПИ којим се може манипулисати може подстаћи неповољно понашање, а не исход који треба да мери ✔
Објашњење: Када индикатор постане мета, људи проналазе начине да га преваре (Гудхартов закон). „Бројом позива“ се лако манипулише и не мери стварни исход (резолуција, задовољство). Дакле, пре него што изаберете КПИ, требало би да питате „које негативно понашање подстиче?“ треба питати.
7. Који је разлог за правило „прво поједностави процес, а касније аутоматизуј“ у аутоматизацији процеса?
- А) Аутоматизација такође убрзава неуспех у поквареном процесу; Процес се прво мора исправити ✔
- Б) Поједностављење онемогућава аутоматизацију
- Ц) Поједностављење је само законска обавеза
- Д) Аутоматизација је увек јефтинија од поједностављења
Опис: Аутоматизација повећава брзину процеса; Такође убрзава грешку ако је процес оштећен. Када је процес од 5 непотребних корака у рачуноводственој јединици аутоматизован, непотребни кораци су радили брже. Прво процес треба поједноставити, а затим убрзати.
8. Која је сврха дизајна „људи у петљи“ у аутоматским одговорима купцу?
- А) Потпуно заустављање аутоматизације
- Б) Повећање ауторитета за одлучивање вештачке интелигенције
- Ц) Спречавање да грешка побегне уз људско одобрење у критичној тачки уз задржавање већине брзине ✔
- Д) Потпуно елиминисање људске радне снаге
Објашњење: Дизајн човека у петљи је људско одобрење у критичној тачки аутоматизованог процеса. АИ производи нацрт, човек га брзо одобрава, а затим се шаље. Ово спречава да грешка изађе право напоље уз очување већине брзине; Када је тим уклонио ово одобрење, нетачне информације су стигле до клијента.
9. Производња је спора у радионици намештаја; Менаџер жели да замени најскупљу машину (резање), али анализа показује да је уско грло корак бојење-сушивање. Који је основни принцип анализе операција?
- А) Најскупљи корак увек треба побољшати
- Б) Побољшање треба да буде усмерено на уско грло које успорава цео ток ✔
- Ц) Све кораке треба убрзати подједнако
- Д) Концепт уског грла важи само на производним линијама
Објашњење: Брзина процеса је брзина његовог најспоријег корака (уско грло). Убрзавање корака изван уског грла је губитак новца и труда; Једина ствар која ради је да се прошири уско грло. Када је управник уместо клања уложио у другу сушару, брзина је порасла за 28 одсто.
10. У куповини, менаџер прелази на најјефтинијег добављача сировина, али игнорише лошу поузданост испоруке добављача; Два велика кашњења заустављају производњу. Која је поука из ове ситуације?
- А) Увек треба изабрати најскупљег добављача
- Б) Поузданост испоруке је небитна
- Ц) Снабдевача не треба процењивати у једној димензији (само цена), већ у више димензија, укључујући поузданост и ризик ✔
- Д) Одлуке добављача треба препустити искључиво вештачкој интелигенцији
Опис: Избор добављача је вишедимензионалан: цена, квалитет, време испоруке, поузданост, финансијска стабилност и ризик морају се проценити заједно. Само гледање на цену може довести до губитака много пута већих од зарађеног попуста; изгубљена производња избрисала је попуст.
11. Шта је најбоље да менаџер уради пре него што пошаље љуту, оштру е-пошту тиму који стално касни?
- А) Слање поруке онаквом каква јесте, јер су емоције стварне
- Б) Прављење тонског решења оријентисаног на вештачку интелигенцију, а затим пропуштање кроз људски филтер ✔
- Ц) Не шаљете поруку уопште и игноришете проблем
- Д) Учинити поруку јачом
Објашњење: Поруке написане када сте љути не треба слати одмах. Рећи вештачкој интелигенцији да 'промени тон у тон поштовања и оријентисан на решење уз задржавање истих очекивања и граница' чува суштину поруке, исправља њен тон и спречава тешко повратне озлојеђености; Излаз се затим филтрира од стране људи.
12. Сажетак састанка каже да је АИ „одобрен повећање буџета“; Међутим, на састанку је речено да ће се „процењивати повећање буџета“. Који је прави начин да се избегне ова опасност?
- А) Одмах дистрибуирајте резиме без читања
- Б) Провери резиме, одвоји одлуку од могућности и да је потврде учесници ✔
- Ц) Уопште не прави резиме састанка
- Г) Сматрајући само најдужу казну као одлуку
Опис: АИ може погрешно приписати одлуке; Разлика између „треба да се процени“ и „одобри“ је кључна. Резиме састанка је често 'званично памћење', тако да сваки резиме треба прочитати, разликовати од одлуке и потврдити са учесницима пре него што буде подељен.
13. У планирању сценарија, која је сврха успостављања најмање три сценарија (оптимистички, основни, песимистички) уместо везивања будућности за једно предвиђање (на пример, „раст ћемо за 15 процената“)?
- А) Вештачка интелигенција може прецизно предвидети будућност
- Б) Без обзира у ком правцу иде истина, да не будете затечени и спроведите план у акцију уместо панике ✔
- Ц) Прикупите мање података
- Д) Бирање једне исправне будућности унапред
Објашњење: Реалност је интервал; Ако се план заснован на једној претпоставци не оствари, он ће се урушити. Припремање одговора на више сценарија унапред осигурава да се план може успоставити, а не паника, без обзира на то на који начин се стварност креће. Циљ није знати будућност, већ да не будете ухваћени неспремни.
14. Шта је од следећег тачно о употреби вештачке интелигенције у управљању бизнисом?
- А) Излаз вештачке интелигенције не замењује компетентно стручно одобрење у одлукама које имају финансијске, правне и кадровске последице ✔
- Б) Ако је излаз вештачке интелигенције тачан, нема потребе за одобрењем стручњака
- Ц) Стварни подаци о клијентима могу се дати отвореним алатима све док се чине сигурним
- Д) „АИ је тако рекао“ је ваљано оправдање за одговорност
Откривање: АИ излаз није замена за компетентно стручно одобрење у последичним областима као што су усклађеност, финансије, правни и људски ресурси. Вештачка интелигенција је помоћник за повећање брзине; Поверљивост података, тачност резултата и етичност одлуке су увек одговорност менаџера. Непроверени излаз је ризичан као и непотписана одлука.