Квалитет, усклађеност и поверљивост: Не пружање лажних информација — Пријаве одељења: Служба за кориснике и продаја

Добици:

Способност успостављања сигурних граница које смањују ризик од дезинформација о ценама, посвећености и питањима политике
Способност дизајнирања сигурних упита и процеса који штите личне податке клијената (усаглашено са КВКК)
Способност успостављања циклуса осигурања квалитета (КА) који укључује људско одобрење и ревизију

Вештачка интелигенција (АИ) окренута клијентима је и велика прилика и велики ризик за пословање. Грешка у маркетиншкој копији се може исправити; Али погрешна цена дата купцу, погрешне информације о политици или обећање које се не може одржати значи директан губитак поверења, финансијску штету и правне проблеме. Одбрана "бот ми је рекао" неће вас спасити; То је одговорност компаније према купцу.

У овој последњој јединици градимо оквир који обезбеђује све што сте научили у претходних 11 јединица. Она се састоји од три стуба: тачности (не давање лажних информација), приватности (заштита личних података) и контроле (људска сагласност). Ова три су сигурносни појас који претвара АИ из извора ризика у поуздано пословно средство.

Напомена: Ова јединица пружа општи оквир. Прописи ваше сопствене индустрије (права потрошача, КВКК, правила комерцијалних порука) могу наметнути додатне обавезе; Коначну одговорност за усклађеност сноси ваша институција.

Три ризика, три стуба

Дезинформације (халуцинације): Модел измишља цену/политику/обавезу. Колона: верификован извор + људско одобрење.
Кршење приватности: Лични подаци корисника (име, број телефона, ИД, плаћање) улазе у необезбеђен алат. Колона: маскирање + одобрено возило (усаглашеност са КВКК).
Прекорачење овлашћења: бот/агент даје обећање које не може да испуни (попуст, тачан датум, гаранција). Колона: јасна надлежност + заштитна ограда.

Сваки ток АИ за контакт са клијентом мора истовремено да управља ова три ризика.

Избегавајте дезинформације: слој тачности

Златно правило тачности: критичне информације (цена, политика, обавеза) долазе из провереног извора (запамтите РАГ јединицу), а не из меморисања модела, а када није сигуран, модел ћути и предаје. Принцип „обезбеди или пренеси даље“ уклања дезинформације на извору.

Корак по корак: циклус безбедног квалитета (КА)

Класификујте према ризику. Да ли је одговор низак ризик (опште информације) или висок ризик (цена, обавеза, износ повраћаја)?
Ставите људска врата на висок ризик. Ови одговори захтевају људско одобрење пре слања.
Повежите се са извором. Критичне информације треба да буду засноване на верификованом документу, а не измишљене.
Маскирајте личне податке. Не улазите ако није потребно; Анонимизирајте ако је потребно.
Проверите узорковањем. Неки од аутоматизованих одговора се редовно проверавају од стране људи.
Повратак. Сакупљајте грешке и ажурирајте упите и заштитне ограде.

Копирајућа упутства

Промпт који скенира ризике пре слања одговора:

Проверите и означите овај одговор корисника пре објављивања:- Да ли постоји непроверена ЦЕНА, цена или износ?- Да ли је тврдња о политици/правилу изворна или би могла бити измишљена?- Да ли постоје ОБАВЕЗЕ (тачан датум, гаранција, попуст) које превазилазе овлашћење?- Да ли су лични подаци (име, телефон, ИД, адреса, плаћање) непотребно укључени? Наведите сваки налаз са ознаком „висок/средњи/низак ризик“ и предлогом за исправку. Одговор: {{ одговор }}

Брзо маскирање личних података (пре уласка у возило):

Маскирајте личне податке у следећи текст: име-презиме -> [ИМЕ], телефон-> [ТЕЛЕФОН], е-маил -> [ЕМАИЛ], ТР/ИД -> [ИД], адреса -> [АДРЕСА], картица/уплата -> [ПЛАЋАЊЕ]. Сачувајте значење и техничке детаље проблема. Текст: {{ текст }}

Гуардраил промпт који упућује на проблеме високог ризика на људе:

НИКАДА не одговарајте на ова питања сами; уместо тога реците „Ово прослеђујем представнику“: тачна цена/попуст, спор око уговора/повраћаја новца, правни/медицински/финансијски савет, промена личних података, безбедност/сумња на превару. На питања општег знања можете одговорити ван ове листе.

Упит за узорковање за редовну ревизију квалитета (КА):

Испод је 10 насумичних одговора из последњих Кс одговора. За сваки, процените: тачност (да ли је прикладан извору), тон (да ли је емпатичан/прикладан), однос (да ли постоји злоупотреба/цурење личних података). Поредајте проблематична питања по редоследу важности и резимирајте образац грешке који се понавља (нпр. „он стално измишља рокове“) у једној реченици. Одговори: {{ примери }}

Слаб приступ / јак приступ

лош приступ

Снажан приступ

Пошаљите све одговоре без одобрења

Људска капија за одобравање високог ризика

Усклађивање цене/политике са моделом

Линк до провереног извора

Уношење личних података у возило као што јесу

Маскирајте се и возите са одобрењем

Исправљање грешака једну по једну када се појаве

Затварање основног узрока ревизијом + повратним информацијама

Разлика је у томе што јак приступ успоставља систем који „спречава грешку пре него што се појави“ уместо да је „поправља када се појави“.

Три мини кућишта

Случај 1 — Измишљени износ повраћаја. Бот је рекао: „Добићеш 850 ТЛ назад када вратиш свој производ“; док је стварни износ био другачији и бот то није могао знати. Промпт за скрининг ризика је открио такав излаз „непотврђене количине“ у претходним тестовима. Тим је повезао све одговоре који садрже износе са капијом за људско одобрење; Погрешна цифра за повраћај никада више није послата купцу.

Случај 2 — Маскирање заштићене приватности. Представник је желео да сумира дугачку жалбу која је укључивала име купца, телефон и информације о поруџбини. Прво је покренуо промпту за маскирање; лична поља су постала ознаке [НАМЕ], [ПХОНЕ]. Сажетак је био истог квалитета, али лични подаци нису непотребно унесени у алат; Створен је сигуран ток у смислу КВКК.

Случај 3 — Ревизијом је пронађен основни узрок. У месечном узорковању КА, АИ је открио образац који се понавља: бот је питао „када ће стићи?“ Стално је у глави измишљао рокове за своја питања. Ово није била јединствена грешка, већ основни узрок. Тим је додао питање датума испоруке на заштитну ограду и направио правило „само пренесите датум у систем, у супротном пренесите“. Једна поправка спречила је десетине будућих грешака.

Савет: Нека листа „високог ризика“ буде кратка и јасна; али мора да садржи: новац (цена, повраћај, попуст), време (тачна обавеза испоруке), изузеци од политике и промене личних података. Ове четири области су места где се најчешће и најскупље грешке јављају у АИ контакту са клијентима.

Где престаје одговорност?

Најважнији принцип је последњи: АИ је множилац брзине и квалитета, а не обавеза. Свако обећање, свака цена, свака обавеза дата купцу обавезује компанију правно и комерцијално. Због тога се вештачка интелигенција држи у позицији да „производи нацрте и преноси информације“ уместо да „доноси одлуке“; У критичним одлукама, људско одобрење није луксуз већ неопходност. У добро успостављеном систему, АИ се бави 90% рутине, човек доноси 10% критичних одлука и сноси сву одговорност.

Опрез: Идеја да "када је модел довољно развијен, нема потребе за људским надзором" је опасна. Без обзира колико је модел добар, повремено може произвести лажни самопоуздани тон; а у пословању са клијентима, потребна је само једна погрешна цена или обавеза. Људска капија одобравања није жртва брзине, већ цена поверења.

Уобичајене грешке

Слање одговора високог ризика (цена, обавеза, повраћај) без људског одобрења.
Не приписивање критичних информација провереном извору и ослањање на памћење модела.
Улазак у необезбеђено возило без маскирања личних података (кршење КВКК).
Не дефинишете Гуардраил (листа субјеката високог ризика).
Исправљање грешака једну по једну и прескакање ажурирања основног узрока (промпт/правило).
Сматрајући да то ставља терет на АИ или добављача алата.

Укратко

АИ за контакт са клијентима мора истовремено да управља са три ризика: дезинформације, кршење приватности, прекомерна овлашћења.
За тачност: повежите критичне информације са верификованим извором, делегирајте када нисте сигурни.
За приватност: маскирајте личне податке, користите само одобрена и безбедна возила (КВКК).
Повежите питања високог улога (новац, време, политика, лични подаци) са капијом за одобравање људи.
Проверите грешке узорковањем и затворите основни узрок; Коначна одговорност увек лежи на људском бићу.

Задатак апликације

Припремите „сигурносни пакет“ за сопствени ток контакта са клијентима: (1) напишите заштитну листу тема високог ризика (минимум новца, време, политика, лични подаци), (2) покрените узорак одговора клијента кроз упитник за скрининг ризика и означите налазе, (3) очистите текст који садржи личне податке са маскирним упитом, (4) ко проверава одговор на питање где дефинише ритуални одговор грешке се евидентирају). На крају, наведите које врсте одлука никада неће проћи без људског одобрења.

контролна листа

[ ] Дефинисао сам листу заштитних ограда за теме високог ризика.
[ ] Повезао сам критичне информације са провереним извором.
[ ] Маскирам личне податке и користим само одобрена возила.
[ ] Ставио сам капију људског одобравања на високоризичне одговоре.
[ ] Успоставио сам редовно узорковање КА и петљу повратних информација.
[ ] Јасно сам ставио до знања у процесу да коначна одговорност лежи на човеку.

Модул Екам

1. Шта је најкритичнији елемент када се пише системски промпт за цхат бот за корисничку подршку?

А) Јасно дефинисати улогу бота, обим, границе и предати га човеку кога не зна ✔
Б) Захтевање од бота да пружи одговор на свако могуће питање
Ц) Одржавање системског промпта што је могуће краће и не давање детаља
Д) Учинити бота духовитим и пријатељским у свим ситуацијама

Објашњење: Улога бота, обим и посебно његова ограничења (шта не може, када ће бити предата људима) треба да буду јасно дефинисани. У супротном, бот може направити неовлашћене обавезе или произвести лажне информације о теми коју не познаје.

2. Који је најбољи начин да добијете конзистентне и аутоматизоване резултате када класификујете карте са вештачком интелигенцијом?

А) Да сумирамо сваки захтев као слободан текст, без наметања формата
Б) Давање унапред дефинисаних категорија, фиксних нивоа хитности и непроменљивог излазног формата ✔
Ц) Оставите листу категорија моделу и нека је сваки пут сам пронађе.
Д) Сортирање захтева само по дужини

Опис: Давање моделу унапред дефинисане листе категорија, фиксних нивоа хитности и непроменљивог излазног формата (нпр. ЈСОН) обезбеђује конзистентан и машински обрадив резултат за различите захтеве. Испуштање категорије у модел производи различите ознаке сваки пут.

3. Која је главна сврха РАГ (производња заснована на знању / Ретриевал-Аугментед Генератион) приступа?

А) Омогућавање модела да даје креативније и оригиналније одговоре
Б) Скраћивање времена одзива модела
Ц) Засновати одговор модела на достављеној ажурној и верификованој изворној документацији ✔
Д) Захтевање да се модел повеже на интернет у свим околностима

Објашњење: РАГ не памти одговор модела; Омогућава му да произведе ажуриране и верификоване изворне документе преузете у време постављања питања. Ово повећава прецизност и у великој мери смањује измишљене информације (халуцинације).

4. Приликом генерисања одговора из базе знања, шта модел треба да уради ако одговор на питање није доступан у датим ресурсима?

А) Измишљање нагађања које се чини разумним на основу његовог општег знања
Б) Преписивање и давање готовог одговора на сличну тему
Ц) Остављање питања без одговора и тихо затварање разговора
Д) Изјавом да он/она нема информације и упућивање купца на тачан извор/ауторитет ✔

Објашњење: Модел не треба да фабрикује информације које нису у извору; Требало би јасно навести да нема информације и упутити купца на званичник или прави извор. Ово елиминише ризик од дезинформација.

5. Који је најбољи приступ састављању одговора подршке љутом купцу?

А) Ићи директно на техничко решење и игнорисати емоцију
Б) Објашњавање на одбрамбени начин да је купац крив
Ц) Одржавање одговора што је више могуће формалног и удаљеног
Д) Прво препознајте емоцију са емпатијом, а затим понудите јасно решење или следећи корак ✔

Образложење: Потребно је прво препознати емоцију и показати емпатију, а затим јасно представити конкретно решење или следећи корак. Скакање право на техничко решење или игнорисање емоција повећава напетост.

6. Која је најбоља промена када се одговор подршке прилагођава ћаскању уживо уместо е-поште?

А) Дословно копирање текста, без промене, у ћаскање
Б) Учините текст формалнијим и додајте блок потписа и наслов теме
Ц) Скраћивање и подела текста да би се прилагодио темпу говора и следећем кораку ✔
Д) Наведите што више техничких детаља у једној поруци

Опис: ћаскање уживо је кратко, брзо и разговорно. Дуги блокови е-поште; Претварање порука у кратке, фрагментиране и фокусиране на један следећи корак је прикладно за канал. Премјештање истог текста са канала на канал без промјене квари искуство.

7. Који је најздравији приступ када се квалификује потенцијални купац (леад) уз подршку вештачке интелигенције?

А) Уоквиривање АИ излаза (ИЦП/БАНТ) и означавање претпоставки које треба проверити ✔
Б) Обрада свих информација генерисаних вештачком интелигенцијом у ЦРМ као стварних без њихове верификације.
Ц) Израда квалификације само на основу броја запослених у компанији
Д) Слање исте опште поруке сваком потенцијалном клијенту и прескакање квалификација

Опис: АИ може произвести структурирани брифинг из јавно доступних информација; али овај излаз може садржати претпоставке. Исправно је користити резултат квалификације означавањем претпоставки које треба проверити и стављањем у оквир као што је ИЦП/БАНТ. Ризично је прихватити излаз као стваран без сумње.

8. Који је најважнији принцип у ефикасној хладној продајној е-поруци?

А) Детаљно објашњење свих карактеристика и достигнућа компаније
Б) Фокусирајте се на проблем/циљ купца, нека буде кратак и дајте један јасан позив на акцију ✔
Ц) Слање истог општег текста што већем броју људи
Д) Поделите детаљан ценовник одмах у првом мејлу

Опис: Ефективни продајни е-поруци су фокусирани на примаоца, а не на пошиљаоца: они се баве проблемом или циљем корисника, кратки су и персонализовани и укључују један јасан следећи корак (ЦТА). Навођење свих карактеристика компаније ће пропустити купца.

9. Када припремате текст понуде/предлога са вештачком интелигенцијом, који је елемент који највише повећава убедљивост резултата?

А) Само набрајање дугачке листе спецификација
Б) Одржавање понуде опште и довољно нејасне да одговара сваком купцу
Ц) Уопште не пишите цену и само додајте комплементарне реченице
Д) Успостављање наратива оријентисаног на корист који се повезује са потребама и циљевима корисника ✔

Објашњење: Писање понуде на језику оријентисаном на корист који се повезује са потребама и циљевима купца повећава њену моћ убеђивања. Достављање само листе спецификација натераће купца да се запита „шта ми ово доноси?“ оставља на миру са својим питањем.

10. Који је најбољи приступ када се припрема АИ одговор на приговор продаје („Ваша цена је превисока“)?

А) Занемарите приговор и пређите на другу тему
Б) Нуђење великог попуста одмах и безусловно
Ц) Одговорите конкретно на купца тако што ћете препознати приговор и преформулисати вредност/корист ✔
Д) Оптуживање купца да не разуме производ

Појашњење: Ефикасно је прво препознати приговор, затим преформулисати вредност/корист и понудити одговор специфичан за купца. Давање великог попуста одмах смањује вредност; Игнорисање приговора уништава поверење.

11. Који је највреднији резултат који се очекује од вештачке интелигенције приликом обраде белешки са интервјуа у ЦРМ?

А) Структурирање белешки као резимеа, одлука, наредних корака и одговорности ✔
Б) Копирање белешки какве јесу, без икаквих промена
Ц) Само да белешке буду дуже и елегантније
Д) Забележите само трајање и време разговора

Опис: Разбацане белешке; Стављање у структурирани формат као што су резиме, донете одлуке, следећи кораци (радње) и одговорни, олакшава тиму да прати. Копирање белешке каква јесте или једноставно њено проширење не производи вредност.

12. Који је најбољи начин да се осигура 'недавање лажних информација' у излазу вештачке интелигенције који долази у контакт са клијентом?

А) Дати моделу пуна овлашћења и дозволити му да сам преузме сваку обавезу
Б) Ограничавање критичних информација на проверене изворе, делегирање када нисте сигурни и додавање нивоа људског одобрења ✔
Ц) Уклоните све провере брзине и директно пошаљите излаз
Д) Чекање на исправку касније ако се открију нетачне информације

Опис: Модел; Критичне информације као што су цена, политика и обавеза не би требало да се измишљају, већ их треба добијати само из проверених извора и треба их предати људима када нису сигурни. Критички одговори треба да имају слој људске валидације.

13. Шта треба да уради стручњак за подршку ако жели да алатка за вештачку интелигенцију сумира жалбу клијента која садржи име, број телефона и информације о поруџбини?

А) Залепите информације какве јесу и добијте најбржи резултат
Б) Под претпоставком да је додавање фразе 'поверљиво' на крају текста довољно
Ц) Маскирање и анонимизација личних података и/или коришћење одобреног алата са корпоративним осигурањем ✔
Д) Размишљање да слање информација, а затим брисање разговора елиминише ризик.

Објашњење: Лични подаци (у оквиру КВКК) не би требало да се непотребно уносе у алате треће стране. Прави приступ; маскирање и анонимизација информација о идентитету и/или коришћење одобреног алата са осигурањем корпоративних података (не коришћење података у образовању, политика складиштења).

14. Који је најбољи принцип при дизајнирању секвенце продаје у више корака?

А) Слање исте поруке подсетника сваки дан
Б) Додајте нову вредност у сваку поруку и наставите у разумним интервалима ✔
Ц) Континуирано повећавајте учесталост поруке док се не добије одговор.
Д) Ако не добијете први одговор, ставите целу серију у једну дугачку е-пошту.

Опис: Свака следећа порука треба да се настави додавањем нове вредности (садржај, случај, другачији угао) и треба да се шаље у разумним интервалима. Понављање исте поруке 'само подсетник' у кратким рафалима је неодољиво и смањује стопу одговора.

15. Каква би требала бити улога АИ приликом успостављања циклуса осигурања квалитета (КА) за тимове подршке и продаје?

А) АИ генерише нацрт; Критичне одговоре прегледавају и одобравају људи, одговорност је на људима ✔
Б) АИ шаље све одговоре без потврде; Људи гледају само када има притужби
Ц) Ако је вештачка интелигенција довољно напредна, неће бити потребе за људским надзором.
Д) Одговорност лежи на софтверској компанији која обезбеђује алат

Опис: АИ генерише нацрте одговора и побољшава конзистентност; међутим, критичке одговоре купцу, посебно оне који укључују цену/обавезу/политику, треба да прегледа и одобри човек. Коначна одговорност увек лежи на људском тиму.