Ieguvumi:
- Spēja analizēt atgriešanās modeļus un krāpšanas signālus ar mākslīgā intelekta atbalstu un sagatavot riska punktu uzmetumu
- Spēja atpazīt atmaksas, konta pārņemšanas un atmaksas ļaunprātīgas izmantošanas scenārijus un izveidot preventīvus noteikumus un kontrolsarakstus
- Spēja saskatīt viltus pozitīvu rezultātu (negodīga bloķēšana) un diskriminācijas risku un ikvienu ļoti ietekmīgu lēmumu attiecināt uz cilvēka apstiprinājumu un pamatojumu
E-komercijas neredzamā, bet sāpīgā puse ir atgriešana un krāpšana. Atgriešana ir patērētāja tiesības, un, ja to pārvalda labi, tā rada uzticību; Taču dažas atgriešanas pārvēršas par ļaunprātīgu izmantošanu: valkājot un atgriežot, mainot preci un atgriežot to, paņemot gan preci, gan naudu, sakot "tā nesanāca". Krāpšana ir daudz nopietnāka: pasūtīšana ar nozagtu karti, konta pārņemšana, viltots atmaksas pieprasījums, atmaksas ļaunprātīga izmantošana. Mākslīgais intelekts (AI) tver šos modeļus ātrāk nekā cilvēki miljonos darījumu; rada riska rādītāju, aizdomīgas pazīmes. Bet noteiksim ierobežojumu jau pašā sākumā: AI radītais riska rādītājs ir signāls, nevis galīgs pierādījums. Pasūtījuma atcelšana, konta slēgšana, atgriešanas atteikums ir ļoti ietekmīgi lēmumi; Tas rada risku negodīgi traucēt godīgam klientam (viltus pozitīvs). Tāpēc katram lielas ietekmes lēmumam ir jāsaņem cilvēka apstiprinājums un pamatojums.
Trīs termini. Maksājuma atdošana ir tad, kad klients sazinās ar savu banku un atsaka maksājumu; Tas var būt pamatoti, bet to var arī ļaunprātīgi izmantot. Konta pārņemšana ir tad, kad krāpnieks ieiet kāda cita kontā un veic pirkumus. Kļūdaini pozitīvs rezultāts ir tad, kad sistēma kļūdaini atzīmē godīgu darījumu kā "krāpšanu"; Tā ir visdārgākā kļūda, kas izraisa klientu zaudējumus.
Atmaksas ļaunprātīgas izmantošanas modeļi
Lielākā daļa atdevi ir godīgas. Taču AI var noteikt, vai klients vai modelis ir “neparasts”. Tipiski signāli: pārāk augsts viena un tā paša klienta atdeves līmenis; atgriežas, kas vienmēr nāk "it kā tās būtu izmantotas"; Pretenzijas biežums "paka bija tukša / nepienāca"; atkārtota dārgu produktu atgriešana; Piegādes adreses un atgriešanas uzvedības neatbilstība. AI pārvērš šos signālus riska rādītājā; Bet augsts rādītājs nenozīmē, ka viņš ir vainīgs. Varbūt klienta izmērs neatbilst, varbūt krava patiešām rada bojājumus. Tāpēc vērtējums ierosina pārskatīšanu, nevis lēmumu.
Šajā tabulā parādīti atgriešanas un krāpšanas signāli un pareizā atbilde:
signāls
Iespējamais skaidrojums
AI loma
Pareiza atbilde
Augsts atdeves līmenis
Izmēra/piemērotības problēma vai ļaunprātīga izmantošana
rada partitūras
Pārbaudi, apskati modeli
Bieža "neatbrauca" pretenzija
Piegādes problēma vai ļaunprātīga izmantošana
zīmes
Apstiprinājums ar kravas ierakstu
Jauns konts + dārgs pasūtījums
Parasta vai nozagta karte
riska rādītājs
Pieprasiet papildu verifikāciju
Atšķirīga adrese + steidzama piegāde
Dāvana vai krāpšana
zīmes
Manuāla pārskatīšana
Daudz neveiksmīgu maksājumu
karšu izmēģinājuma uzbrukums
brīdina
Pagaidu ierobežojums, pārbaudi
Godīga lēmuma princips
Krāpšanas novēršanai ir arī ēnas puse: diskriminācija un netaisnība. Riska modelis var sistemātiski uzskatīt noteiktus reģionus, noteiktus maksājumu veidus vai noteiktas klientu grupas par riskantiem, jo tas ir balstīts uz vēsturiskiem datiem. Tas ir gan ētiski nepareizi, gan komerciāli kaitīgi (jūs zaudēsit godīgus klientus), kā arī var tikt izvirzītas prasības par diskrimināciju. Četri taisnīga lēmuma principi:
- Cilvēka apstiprinājums: spēcīgi lēmumi (konta atcelšana, slēgšana, atmaksas noraidīšana) tiek pieņemti, pārbaudot cilvēkus, nevis automātiski.
- Pamatojums: Katrs lēmums tiek reģistrēts un pamatots; Jautājums "kāpēc tas tika noraidīts?" būtu jāatbild.
- Iebildumu metode: klientam ir jābūt iespējai iebilst pret lēmumu; Kļūda ir jālabo.
- Papildu pārbaude pirms: Ja iespējams, pirms noraidīšanas tiek mēģināts veikt papildu pārbaudi (identitāte, kods, kontaktpersona); Durvis netiek uzreiz aizvērtas.
Uzmanību! Pastāv atšķirība starp "šis pasūtījums var būt krāpniecība" un "šis pasūtījums ir krāpniecība". AI saka pirmo; Personai, kas pieņem lēmumu par pēdējo, jāpaļaujas uz pierādījumiem un pamatojumu. Vainot nevainīgu klientu ir gan ētisks, gan juridisks risks.
Četras kopējamas veidnes
1) Atdeves modeļa analīze:
Jūsu loma: atgriešanas operāciju analītiķa palīgs.Zemāk ir anonīmi atgriešanas dati (klienta kods, pasūtījumu skaits, atgriešanas reižu skaits, atgriešanas iemesls, produktu kategorija).Dati: [tabula].Uzdevums: uzskaitīt neparastus atgriešanas modeļus (augsts rādītājs, atkārtots "nerādīt", konkrēta kategorija); Uzrakstiet gan nevainīgu, gan ļaunprātīgas izmantošanas paziņojumu par katru. Piezīme. Tas nav noteikšana, bet signāls izmeklēšanas uzsākšanai.
2) Pasūtījuma riska rādītāja izklāsts:
Pasūtījuma konteksts (anonīms): konta vecums, maksājuma veids, pasūtījuma summa, adreses konsekvence, neveiksmīgo maksājumu skaits.Dati: [lauki].Uzdevums: novērtēt zemu/vidēju/augstu risku šim pasūtījumam un paskaidrot, KĀDIEM signāliem tas ir balstīts.Ieteikt tūlītēju noraidīšanu augsta riska gadījumā; Vispirms pierakstiet, kāda papildu pārbaude var tikt pieprasīta.
3) Atbildes fails par atdošanu:
Ir saņemta atmaksa (maksājuma iebildums). Konteksts: [pasūtījums, piegādes ieraksts, kontaktpersona].Uzdevums: sastādīt pierādījumus, ko var iesniegt pret iebildumu (piegādes apstiprinājums, IP, kontaktu ieraksts), sakārtotā failā.Noteikums: paļauties tikai uz faktiskajiem ierakstiem; safabricēt pierādījumus.
4) Godīga lēmumu kontrole:
Revidējiet šādus krāpšanas/atgriešanas noteikumus, lai nodrošinātu godīgumu.Noteikumi: [saraksts].Uzdevums: novērtējiet, vai katrs noteikums sistemātiski rada neizdevīgus apstākļus konkrētai grupai (reģions, maksājuma veids, jauns klients); atzīmēt viltus pozitīvu rezultātu un diskriminācijas risku; Norādiet, vai pastāv pamatojuma un iebildumu mehānisms.
Krāpšanas apkarošanas operatīvie slāņi
Laba sistēma ir balstīta uz pakāpeniskām atbildēm, nevis uz vienu "gotcha" lēmumu. Zems risks: nekad netraucējiet plūsmu, apstipriniet darījumu. Vidējs risks: pieprasiet papildu pārbaudi (SMS kods, identitātes apstiprinājums, cits maksājums). Augsts risks: pārskatiet manuāli, vajadzības gadījumā īslaicīgi aizturiet un sazinieties. Ļoti augsts + pierādījums: pārtraukt darījumu, saglabāt ar pamatojumu. Šī pakāpeniskā struktūra gan mazāk traucē godīgam klientam, gan pieķer īsto krāpnieku. AI ģenerē signālus katrā posmā; Cilvēks izlemj, uz kuru līmeni pāriet.
Padoms: regulāri mēriet viltus pozitīvo rādītāju. Ja nezināt, cik godīgu klientu esat nejauši bloķējis, jūsu krāpšanas veids var jums izmaksāt vairāk nekā pati krāpšana. "Cik nevainīgu mēs nolaupījām" ir tikpat liela metrika kā "cik daudz krāpnieku mēs noķērām".
trīs mini futrāļi
1. gadījums — pakāpeniska pārbaude. Veikals tieši noraidīja liela apjoma pasūtījumus no jaunā konta un zaudēja daudz klientu. Tā pārgāja uz pakāpenisku sistēmu: tā vietā, lai noraidītu pasūtījumu ar augstu riska rādītāju, tā pieprasīja papildu pārbaudi, izmantojot SMS. Lielākā daļa godīgo klientu ir izturējuši pārbaudi; patiesi krāpšanas mēģinājumi tika novērsti. Samazinājušies gan zaudējumi, gan krāpšana.
2. gadījums — viltus pozitīvs slazds. Viena sistēma, pamatojoties uz vēsturiskajiem datiem, automātiski atzīmēja pasūtījumus no konkrētas pilsētas kā "augsta riska". Tā rezultātā godīgie klienti šajā pilsētā tika pastāvīgi bloķēti; Bija priekšstats par sūdzībām un diskrimināciju. Revīzijas laikā noteikums tika labots, un ģeogrāfija vien vairs nebija pamats noraidījumam.
3. gadījums — ļaunprātīga izdošana. Kāds klients iegādājās dārgus elektroniskos izstrādājumus un regulāri atgriež, sakot, ka "kaste ieradās tukša". AI iezīmēja modeli (tā paša apgalvojuma atkārtojums); Komanda pārbaudīja kravas svara rekordus, neatbilstība tika pierādīta un tika pārtraukta ļaunprātīgas izmantošanas dēļ. Signāls nāca no AI, lēmums un pierādījumi nāca no cilvēka.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Izskatiet šo rīkojumu un izlemiet, vai tā ir krāpšana vai nē.
Modelis nevar un nedrīkst pieņemt galīgus lēmumus; šī uzvedne rada viltus pozitīvus rezultātus un negodīgu vainu.
Spēcīga uzvedne:
Jūsu loma: riska analītiķa palīgs. Pasūtījuma konteksts (anonīms): konts tika atvērts pirms 2 dienām, pasūtījums ir 8500 TL, piegādes adrese atšķiras no norēķinu adreses, ir 3 neveiksmīgi maksājuma mēģinājumi. Uzdevums: novērtējiet zemu/vidēju/augstu risku un paskaidrojiet, uz kādiem signāliem paļaujaties. Nepiedāvā tūlītēju noraidījumu; Vispirms ierakstiet, kādu papildu verifikāciju (SMS, ID) vēlaties pieprasīt. Galīgo lēmumu pieņems cilvēki.
Biežas kļūdas
- Riska rādītāja kļūdaina noteikšana kā galīgs pierādījums. Vērtējums ierosina pārskatīšanu, bet nepieņem lēmumu.
- Lielas ietekmes lēmumu pieņemšanas automatizācija. Atcelšanai, konta slēgšanai, atmaksas noraidīšanai ir nepieciešams cilvēka apstiprinājums.
- Nepareizi pozitīvas vērtības mērīšana. Ja nezināt, cik nevainīgus bloķējat, bojājumi paliek neredzami.
- Aklie noteikumi, kuru pamatā ir ģeogrāfija/grupa. Tas rada diskrimināciju un netaisnību.
- Lēmums bez pamatojuma un iebildumiem. Bez caurskatāmības pieaug gan ētiskie, gan juridiskie riski.
- Viena "nozveja", nevis pakāpeniska reakcija. Aizverot durvis, nedodot viņiem iespēju veikt papildu pārbaudi, jūs zaudēsiet klientus.
Rezumējot
Atgriešanas un krāpšanas pārvaldībā AI fiksē modeļus, kurus cilvēka acs nepamana, un rada riska rādītāju; Bet šis rādītājs ir signāls, nevis pierādījums. Ietekmīgi lēmumi, piemēram, pasūtījuma atcelšana, konta slēgšana, atmaksas noraidīšana, būtu jābalsta uz cilvēka apstiprinājumu, pamatojumu un tiesībām iebilst. Pakāpeniska reakcija (vispirms papildu pārbaude, pēdējā noraidījums) gan aizsargā godīgu klientu, gan novērš krāpnieku. Izmēriet viltus pozitīvu; Izvairieties no akliem noteikumiem, kuru pamatā ir ģeogrāfija vai grupa. Taisnīgs, pārredzams un pārbaudāms lēmums ir gan ētisks pienākums, gan komerciāla gudrība.
Lietojumprogrammas uzdevums
Noņemiet 5 neparastus modeļus no saviem anonīmajiem atgriešanas datiem (augsts rādītājs, atkārtotas "neierašanās" utt.). Uzrakstiet gan nevainīgu, gan ļaunprātīgas izmantošanas aprakstu katram, izmantojot veidni “Atgriešanas modeļa analīze”. Pēc tam palaidiet augsta riska pasūtījuma parauga veidni “Pasūtījuma projekta riska rādītājs” un nosakiet, kādu papildu verifikāciju vēlaties tūlītējas noraidīšanas vietā. Visbeidzot, izmantojot veidni “Godīga lēmuma audits”, pārskatiet savus esošos noteikumus, lai noteiktu kļūdaini pozitīvu rezultātu un diskrimināciju.
kontrolsaraksts
- [ ] Es uztvēru riska rādītāju kā signālu, nevis galīgu lēmumu.
- [ ] Spēcīgus lēmumus es attiecinu uz cilvēku apstiprinājumu un pamatojumu.
- [ ] Es iestatīju daudzpakāpju atbildi: vispirms papildu validācija, pēdējā - noraidīšana.
- [ ] Es plānoju izmērīt viltus pozitīvo rādītāju.
- [ ] Es izvairījos no akliem diskriminējošiem noteikumiem, kuru pamatā ir ģeogrāfija/grupa.
- [ ] Lēmumiem pievienoju pārsūdzības metodi un ierakstu (pamatojumu).