Kasu:
- Võimalus analüüsida tehisintellekti toega tagastamismustreid ja pettusesignaale ning koostada riskiskoori mustand
- Võimalus ära tunda tagasimaksete, konto ülevõtmise ja tagasimaksete kuritarvitamise stsenaariume ning koostada ennetavaid reegleid ja kontrollnimekirju
- Võimalus näha valepositiivsete tulemuste (ebaõiglane blokeerimine) ja diskrimineerimise ohtu ning omistada iga suure mõjuga otsus inimese heakskiidule ja õigustamisele
E-kaubanduse nähtamatu, kuid valus pool on tagastus ja pettused. Tagastamine on tarbija õigus ja kui seda hästi hallatakse, loob see usaldust; Kuid mõned tagastamised muutuvad kuritarvitamiseks: selle kandmine ja tagastamine, toote vahetamine ja tagastamine, nii toote kui ka raha võtmine, öeldes "ei jõudnud". Pettus on tõsisem: varastatud kaardiga tellimine, konto ülevõtmine, võlts tagasimaksetaotlus, tagasimakse kuritarvitamine. Tehisintellekt (AI) fikseerib need mustrid miljonite tehingutega kiiremini kui inimesed; tekitab riskiskoori, kahtlasi märke. Kuid seadkem piir algusest peale: tehisintellekti loodud riskiskoor on signaal, mitte lõplik tõend. Tellimuse tühistamine, konto sulgemine, tagastamisest keeldumine on suure mõjuga otsused; Sellega kaasneb oht ausat klienti ebaõiglaselt takistada (valepositiivne). Sellepärast peab iga suure mõjuga otsus saama inimeste heakskiidu ja õigustuse.
Kolm terminit. Tagasimakse on siis, kui klient võtab oma pangaga ühendust ja keeldub maksest; See võib olla õigustatud, kuid seda võib ka kuritarvitada. Konto ülevõtmine on siis, kui pettur siseneb kellegi teise kontole ja sooritab oste. Valepositiivne on see, kui süsteem märgib ausa tehingu ekslikult "pettuseks"; See on kõige kallim viga, mis põhjustab klientide kaotust.
Tagasimakse kuritarvitamise mustrid
Enamik tagastamisi on ausad. Kuid tehisintellekt võib tuvastada, kas klient või muster on "ebatavaline". Tüüpilised signaalid: sama kliendi liiga kõrge tagastusmäär; tagastab, mis tuleb alati "nagu oleks neid kasutatud"; Pretensiooni "pakk oli tühi / ei jõudnud" sagedus; kallite toodete korduv tagastamine; Tarneaadressi ja tagastamiskäitumise mittevastavus. AI teisendab need signaalid riskiskooriks; Kuid kõrge skoor ei tähenda, et ta on süüdi. Võib-olla ei sobi kliendi suurus, võib-olla põhjustab veos tegelikult kahju. Seetõttu algatab skoor läbivaatamise, mitte otsuse tegemise.
Järgmine tabel näitab tagastamise ja pettuse signaale ning õiget vastust:
signaali
Võimalik seletus
AI roll
Õige vastus
Kõrge tagastusmäär
Suuruse/sobivuse probleem või kuritarvitamine
toodab partituure
Uurige, vaadake mustrit
Sage "ei tulnud" väide
Tarneprobleem või kuritarvitamine
märgid
Kinnitus lastiregistriga
Uus konto + kallis tellimus
Tavaline või varastatud kaart
riskiskoor
Taotlege täiendavat kinnitust
Erinev aadress + kiire saatmine
Kingitus või pettus
märgid
Käsitsi ülevaatus
Palju ebaõnnestunud makseid
kaardiproovi rünnak
hoiatab
Ajutine piirang, kontrolli
Õiglase otsuse põhimõte
Pettuste ennetamisel on ka varjukülg: diskrimineerimine ja ebaõiglus. Riskimudel võib süstemaatiliselt pidada teatud piirkondi, teatud maksetüüpe või teatud kliendirühmi "riskantseks", kuna see põhineb ajaloolistel andmetel. See on nii eetiliselt vale kui ka äriliselt kahjulik (kaotate ausaid kliente) ja võib põhjustada diskrimineerimisnõudeid. Neli õiglase otsuse põhimõtet:
- Inimese heakskiit: suure mõjuga otsused (tühistamine, konto sulgemine, tagasimakse tagasilükkamine) tehakse inimese ülevaatuse teel, mitte automaatselt.
- Põhjendus: Iga otsus registreeritakse ja põhjendatakse; Küsimus "miks see tagasi lükati?" tuleks vastata.
- Vastuväidete esitamise meetod: Kliendil peab olema võimalik otsusele vastuväiteid esitada; Viga tuleks parandada.
- Täiendav kontrollimine enne: Võimaluse korral proovitakse enne tagasilükkamist täiendavat kontrolli (identiteet, kood, kontakt); Ust kohe kinni ei panda.
Ettevaatust: "See tellimus võib olla pettus" ja "see tellimus on pettus" vahel on erinev. AI ütleb esimest; Viimase üle otsustaja peab tuginema tõenditele ja põhjendustele. Süütu kliendi süüdistamine on nii eetiline kui ka juriidiline risk.
Neli kopeeritavat malli
1) Tagastusmustri analüüs:
Teie roll: tagastab toimingute analüütiku assistent.Allpool on anonüümsed tagastusandmed (kliendikood, tellimuste arv, tagastamiste arv, tagastamise põhjus, tootekategooria).Andmed: [tabel].Ülesanne: loetlege ebatavalised tagastusmustrid (kõrge määr, korduv "ei näita", konkreetne kategooria); Kirjutage mõlema kohta nii süütu kui ka väärkohtlemise avaldus. Märkus. See ei ole tuvastamine, vaid signaal uurimise algatamiseks.
2) Tellimuse riskiskoori ülevaade:
Tellimuse kontekst (anonüümne): konto vanus, makse tüüp, tellimuse summa, aadressi järjepidevus, ebaõnnestunud maksete arv.Andmed: [väljad].Ülesanne: hinnake selle tellimuse madalat/keskmist/kõrge riski ja selgitage, MIS signaalidel see põhineb.Soovitage kohest tagasilükkamist kõrge riski korral; Kirjutage üles, millist täiendavat kinnitust võidakse kõigepealt taotleda.
3) Tagasimakse vastuse fail:
Tagasimakse (makse vastuväide) on saabunud. Kontekst: [tellimus, tarneregister, kontakt].Ülesanne: koostage tõendid, mida saab esitada vastuväite vastu (tarnekinnitus, IP, kontaktandmed), korrastatud faili. Reegel: tuginege ainult tegelikele dokumentidele; tõendeid fabritseerima.
4) õiglane otsuste kontroll:
Auditeerida õigluse huvides järgmisi pettuse/tagastamise reegleid.Reeglid: [loend].Ülesanne: hinnata, kas iga reegel seab süstemaatiliselt teatud rühma (piirkond, makseliik, uus klient) ebasoodsasse olukorda; märgistada valepositiivsete tulemuste ja diskrimineerimise oht; Märkige, kas on olemas õigustus- ja vastuväidete mehhanism.
Pettustevastase võitluse operatiivkihid
Hea süsteem põhineb järkjärgulistel reageeringutel, mitte ühelgi "sain" otsusel. Madal risk: ärge kunagi segage voolu, kinnitage tehing. Keskmine risk: taotlege täiendavat kontrolli (SMS-kood, isikukinnitus, erinev makse). Suur risk: vaadake käsitsi üle, vajadusel hoidke ajutiselt ja võtke ühendust. Väga kõrge + tõend: peatage tehing, salvestage koos põhjendusega. Selline järkjärguline struktuur häirib vähem ausat klienti ja püüab kinni tõelise petturi. AI genereerib signaale igal etapil; Inimene otsustab, millisele tasemele liikuda.
Näpunäide. Mõõtke valepositiivsuse määra regulaarselt. Kui te ei tea, kui palju ausaid kliente olete kogemata blokeerinud, võib teie pettusemuster maksta teile rohkem kui pettus ise. "Kui palju süütuid me röövisime" on sama näitaja kui "kui palju pettureid me tabasime".
kolm minikarpi
Juhtum 1 – astmeline kontrollimine. Üks pood lükkas uuelt kontolt suured tellimused tagasi ja kaotas palju kliente. See läks üle järkjärgulisele süsteemile: kõrge riskiskooriga tellimuse tagasilükkamise asemel taotles ta SMS-i teel täiendavat kontrolli. Enamik ausaid kliente on kontrolli läbinud; tõelised pettusekatsed kõrvaldati. Vähenenud on nii kahju kui ka pettus.
Juhtum 2 – valepositiivne lõks. Üks süsteem märgistas konkreetsest linnast pärit tellimused ajalooliste andmete põhjal automaatselt kui "kõrge riskiga". Selle tulemusena blokeeriti ausaid kliente selles linnas pidevalt; Oli tunda kaebusi ja diskrimineerimist. Reeglit parandati auditi käigus ja ainuüksi geograafia ei olnud enam tagasilükkamise põhjuseks.
Juhtum 3 – väljaandmise kuritarvitamine. Klient ostis kalleid elektroonikatooteid ja sai regulaarselt tagastusi, öeldes, et "karp saabus tühjaks". AI märkis mustri (sama väite kordamine); Meeskond uuris lasti kaalurekordeid, ebakõla leidis kinnitust ja see peatati kuritarvitamise tõttu. Signaal tuli tehisintellektilt, otsus ja tõendid tulid inimeselt.
Nõrk viip / Tugev viip
Nõrk viip:
Uurige seda korraldust ja otsustage, kas see on pettus või mitte.
Mudel ei saa ega tohi teha lõplikke otsuseid; see viip annab valepositiivseid tulemusi ja ebaõiglast süüdistamist.
Võimas viip:
Sinu roll: riskianalüütiku assistent. Tellimuse kontekst (anonüümne): konto avati 2 päeva tagasi, tellimus on 8500 TL, tarneaadress erineb arveldusaadressist, 3 ebaõnnestunud maksekatset. Ülesanne: hinnake madalat/keskmist/kõrge riski ja selgitage, millistele signaalidele tuginete. Ärge pakkuge kohest tagasilükkamist; Sisestage kõigepealt, millist täiendavat kinnitust (SMS, ID) soovite küsida. Lõpliku otsuse teevad inimesed.
Levinud vead
- Riskiskoori eksimine lõplikuks tõendiks. Hinne algatab ülevaatuse, kuid ei tee otsust.
- Suure mõjuga otsuste tegemise automatiseerimine. Tühistamine, konto sulgemine, tagasimakse tagasilükkamine nõuab inimese nõusolekut.
- Valepositiivsust ei mõõdeta. Kui te ei tea, kui palju süütuid blokeerite, jääb kahju nähtamatuks.
- Pimedad reeglid geograafial/grupil. See tekitab diskrimineerimist ja ebaõiglust.
- Otsus ilma põhjenduste ja vastuväideteta. Ilma läbipaistvuseta kasvavad nii eetilised kui ka juriidilised riskid.
- Pigem üks "saak" kui järkjärguline reageerimine. Kui sulgete ukse, andmata neile täiendavat kontrolli, kaotate kliente.
Kokkuvõttes
Tagastamise ja pettuste haldamisel jäädvustab tehisintellekt mustrid, millest inimsilm märkamata jääb, ja loob riskiskoori; Kuid see skoor on signaal, mitte tõend. Suure mõjuga otsused, nagu tellimuse tühistamine, konto sulgemine, tagasimakse tagasilükkamine, peaksid põhinema inimeste heakskiidul, põhjendusel ja õigusel esitada vastuväiteid. Järk-järguline reageerimine (kõigepealt täiendav kontrollimine, viimasena tagasilükkamine) kaitseb nii ausat klienti kui ka kõrvaldab petturi. Mõõtke valepositiivne; Vältige geograafial või rühmal põhinevaid pimedaid reegleid. Õiglane, läbipaistev ja auditeeritav otsus on nii eetiline kohustus kui ka äritarkus.
Rakenduse ülesanne
Eemaldage oma anonüümsetest tagastamisandmetest 5 ebatavalist mustrit (kõrge määr, korduvad mitteilmumised jne). Kirjutage mõlema kohta nii süütu kui ka väärkohtlemise kirjeldus malliga „Tagastusmustri analüüs”. Seejärel käivitage kõrge riskiga tellimuse näidise jaoks mall „Tellimuse mustandi riskiskoor” ja määrake, millist täiendavat kinnitust soovite kohese tagasilükkamise asemel. Lõpuks vaadake üle oma olemasolevad reeglid valepositiivsete tulemuste ja diskrimineerimise osas malliga „Õiglase otsuse audit”.
kontrollnimekiri
- [ ] Käsitlesin riskiskoori kui signaali, mitte lõplikku otsust.
- [ ] Suure mõjuga otsused omistan inimeste heakskiidule ja põhjendamisele.
- [ ] Seadistasin astmelise vastuse: esmalt täiendav valideerimine, viimasena tagasilükkamine.
- [ ] Plaanisin mõõta valepositiivsuse määra.
- [ ] Vältisin pimesi diskrimineerivaid reegleid, mis põhinevad geograafial/rühmal.
- [ ] Lisasin otsustele edasikaebamise viisi ja kirje (põhjenduse).