Fitimet:
- Aftësia për të analizuar modelet e kthimit dhe sinjalet e mashtrimit me mbështetjen e inteligjencës artificiale dhe për të prodhuar një draft të rezultatit të rrezikut
- Aftësia për të njohur skenarët e rimbursimit, marrjes së llogarisë dhe rimbursimit të keqpërdorimit dhe krijimit të rregullave parandaluese dhe listave kontrolluese
- Aftësia për të parë rrezikun e rezultateve false (bllokim të padrejtë) dhe diskriminim dhe t'ia atribuojë çdo vendim me ndikim të lartë miratimit dhe justifikimit njerëzor
Ana e padukshme por e dhimbshme e e-commerce është kthimi dhe mashtrimi. Kthimi është një e drejtë konsumatore dhe nëse menaxhohet mirë, krijon besim; Por disa kthime kthehen në abuzim: veshja dhe kthimi i tij, ndryshimi i produktit dhe kthimi i tij, marrja e produktit dhe parave duke thënë "nuk ka ardhur". Mashtrimi është më serioz: porositja me një kartë të vjedhur, marrja e llogarisë, kërkesa e rreme për rimbursim, abuzimi me rimbursimin. Inteligjenca artificiale (AI) kap këto modele më shpejt se njerëzit në miliona transaksione; gjeneron pikë rreziku, shenja të dyshimta. Por le të vendosim kufirin që në fillim: Rezultati i rrezikut i prodhuar nga AI është një sinjal, jo provë përfundimtare. Anulimi i një porosie, mbyllja e një llogarie, refuzimi i një kthimi janë vendime me ndikim të lartë; Ajo mbart rrezikun e pengimit të padrejtë të një klienti të ndershëm (false pozitiv). Kjo është arsyeja pse çdo vendim me ndikim të lartë duhet t'i nënshtrohet miratimit dhe justifikimit njerëzor.
Tre mandate. kthimi i pagesës është kur klienti kontakton bankën e tij dhe refuzon pagesën; Mund të justifikohet, por edhe mund të abuzohet. Marrja e llogarisë është kur një mashtrues hyn në llogarinë e dikujt tjetër dhe bën blerje. Një pozitiv i rremë është kur sistemi gabimisht shënon një transaksion të ndershëm si "mashtrim"; Është gabimi më i shtrenjtë që shkakton humbjen e klientit.
Modelet e abuzimit të rimbursimit
Shumica e kthimeve janë të sinqerta. Por AI mund të kuptojë nëse një klient ose një model është "i pazakontë". Sinjalet tipike: norma shumë e lartë e kthimit të të njëjtit klient; kthime që vijnë gjithmonë “sikur janë përdorur”; Frekuenca e pretendimit "paketa ishte bosh / nuk mbërriti"; kthime të përsëritura të produkteve të shtrenjta; Mospërputhja e adresës së dorëzimit dhe sjelljes së kthimit. AI i përkthen këto sinjale në një rezultat rreziku; Por një rezultat i lartë nuk do të thotë se ai është fajtor. Ndoshta madhësia e klientit nuk i përshtatet, ndoshta ngarkesa në të vërtetë po shkakton dëm. Prandaj, rezultati fillon rishikimin, jo vendimin.
Tabela e mëposhtme tregon sinjalet e kthimit dhe mashtrimit dhe përgjigjen e saktë:
sinjal
Shpjegimi i mundshëm
Roli i AI
Përgjigje e saktë
Shkalla e lartë e kthimit
Problem ose abuzim me madhësinë/përshtatjen
prodhon pikë
Ekzaminoni, shikoni modelin
Pretendimi i shpeshtë "nuk erdhi".
Problem me transportin ose abuzim
shenjat
Konfirmimi me regjistrimin e ngarkesave
Llogari e re + porosi e shtrenjtë
Kartë e rregullt ose e vjedhur
rezultati i rrezikut
Kërkoni verifikim shtesë
Adresa e ndryshme + dërgesa e shpejtë
Dhuratë ose mashtrim
shenjat
Rishikim manual
Shumë pagesa të dështuara
sulmi i provës me karta
paralajmëron
Kufizo përkohësisht, verifiko
Parimi i vendimit të drejtë
Parandalimi i mashtrimit ka gjithashtu një anë të errët: diskriminimin dhe padrejtësinë. Një model rreziku mund të konsiderojë sistematikisht rajone të caktuara, lloje të caktuara pagesash ose grupe të caktuara klientësh si "të rrezikshëm", sepse bazohet në të dhëna historike. Kjo është edhe e gabuar nga pikëpamja etike dhe e dëmshme komerciale (ju do të humbni klientët e ndershëm) dhe mund të çojë në pretendime diskriminimi. Katër parime për një vendim të drejtë:
- Miratimi njerëzor: Vendimet me ndikim të lartë (anulimi, mbyllja e llogarisë, refuzimi i rimbursimit) merren përmes shqyrtimit njerëzor, jo automatikisht.
- Arsyetimi: Çdo vendim regjistrohet dhe arsyetohet; Pyetja "pse u refuzua?" duhet pergjigjur.
- Metoda e kundërshtimit: Klienti duhet të jetë në gjendje të kundërshtojë vendimin; Gabimi duhet korrigjuar.
- Verifikimi shtesë përpara: Nëse është e mundur, tentohet verifikimi shtesë (identiteti, kodi, kontakti) përpara refuzimit; Dera nuk mbyllet menjëherë.
Kujdes: Ka një botë ndryshimi midis "ky urdhër mund të jetë një mashtrim" dhe "ky urdhër është një mashtrim". AI thotë i pari; Personi që vendos për këtë të fundit duhet të mbështetet në prova dhe justifikim. Fajësimi i një klienti të pafajshëm është një rrezik etik dhe ligjor.
Katër shabllone të kopjueshëm
1) Analiza e modelit të kthimit:
Roli juaj: asistent i analistit të operacioneve të kthimit. Më poshtë janë të dhënat anonime të kthimeve (kodi i klientit, numri i porosive, numri i kthimeve, arsyeja e kthimit, kategoria e produktit).Të dhënat: [tabela]. Detyra: listoni modele të pazakonta kthimi (normë e lartë, "pa shfaqje" të përsëritur, kategori specifike); Shkruani një deklaratë të pafajshme dhe një abuzimi për secilën. Shënim: Ky nuk është një zbulim, por një sinjal për të filluar një hetim.
2) Renditja e rezultateve të rrezikut:
Konteksti i porosisë (anonim): mosha e llogarisë, lloji i pagesës, shuma e porosisë, konsistenca e adresës, numri i pagesave të dështuara. Të dhënat: [fushat]. Detyra: vlerësoni rrezikun e ulët/mesatar/të lartë për këtë porosi dhe shpjegoni ÇFARË sinjale bazohet. Rekomandoni refuzim të menjëhershëm me rrezik të lartë; Shkruani se çfarë verifikimi shtesë mund të kërkohet së pari.
3) Skedari i përgjigjes së rimbursimit:
Është marrë një rimbursim (kundërshtim pagese). Konteksti: [porosi, regjistrimi i dorëzimit, kontakti]. Detyra: hartoni provat që mund të paraqiten kundër kundërshtimit (konfirmimi i dorëzimit, IP, regjistrimi i kontaktit) në një dosje të rregullt. Rregulli: mbështetuni vetëm në të dhënat aktuale; sajojnë prova.
4) Kontrolli i drejtë i vendimit:
Kontrolloni rregullat e mëposhtme të mashtrimit/kthimit për drejtësi.Rregullat: [lista].Detyra: vlerësoni nëse secili rregull në mënyrë sistematike paraqet disavantazhe të një grupi të caktuar (rajon, lloji i pagesës, klienti i ri); shënoni rrezikun e rezultateve false dhe diskriminimit; Tregoni nëse ekziston një mekanizëm justifikimi dhe kundërshtimi.
Shtresat operative të anti-mashtrimit
Një sistem i mirë bazohet në përgjigje graduale, jo në një vendim të vetëm "gotë". Rrezik i ulët: mos e prishni kurrë rrjedhën, konfirmoni transaksionin. Rreziku mesatar: kërkoni verifikim shtesë (kod SMS, konfirmim identiteti, pagesë të ndryshme). Rrezik i lartë: rishikoni manualisht, mbajeni përkohësisht nëse është e nevojshme dhe kontaktoni. Shumë e lartë + provë: ndaloni transaksionin, kurseni me arsyetim. Kjo strukturë graduale shqetëson më pak klientin e ndershëm dhe kap mashtruesin e vërtetë. AI gjeneron sinjale në çdo fazë; Personi vendos në cilin nivel të kalojë.
Këshillë: Matni rregullisht normën false pozitive. Nëse nuk e dini se sa klientë të ndershëm keni bllokuar aksidentalisht, modeli juaj i mashtrimit mund t'ju kushtojë më shumë sesa vetë mashtrimi. "Sa të pafajshëm kemi rrëmbyer" është po aq metrikë sa "sa mashtrues kapëm".
tre mini kuti
Rasti 1 — Verifikimi në rritje. Një dyqan po refuzonte drejtpërdrejt porositë me sasi të mëdha nga llogaria e re dhe po humbte shumë klientë. Ai kaloi në një sistem gradual: në vend që të refuzonte porosinë me një rezultat të lartë rreziku, kërkoi verifikim shtesë me SMS. Shumica e klientëve të ndershëm e kanë kaluar verifikimin; përpjekjet e vërteta të mashtrimit u eliminuan. Si humbjet ashtu edhe mashtrimet janë ulur.
Rasti 2 — Kurthi i rremë pozitiv. Një sistem shënoi automatikisht porositë nga një qytet i caktuar si "rrezik të lartë" bazuar në të dhënat historike. Si rezultat, klientët e ndershëm në atë qytet bllokoheshin vazhdimisht; Kishte një perceptim të ankesave dhe diskriminimit. Rregulli u korrigjua gjatë auditimit dhe vetëm gjeografia nuk ishte më një arsye për refuzim.
Rasti 3 - Abuzimi me ekstradimin. Një klient po blinte produkte elektronike të shtrenjta dhe merrte kthime të rregullta, duke thënë se "kutia mbërriti bosh". AI shënoi modelin (përsëritja e të njëjtit pretendim); Ekipi ekzaminoi të dhënat e peshës së ngarkesës, u vërtetua mospërputhja dhe u ndalua për shkak të abuzimit. Sinjali erdhi nga AI, vendimi dhe provat erdhën nga njeriu.
Prompt i dobët / Prompt i fortë
Njoftim i dobët:
Shqyrtoni këtë urdhër dhe vendosni nëse është mashtrim apo jo.
Modeli nuk mund dhe nuk duhet të marrë vendime përfundimtare; kjo nxitje prodhon pozitive false dhe fajësim të padrejtë.
Njoftim i fuqishëm:
Roli juaj: asistent analist i rrezikut. Konteksti i porosisë (anonim): llogaria është hapur 2 ditë më parë, porosia është 8,500 TL, adresa e dorëzimit është e ndryshme nga adresa e faturimit, ka 3 përpjekje të pasuksesshme për pagesë. Detyra: vlerësoni rrezikun e ulët/mesatar/të lartë dhe shpjegoni se në cilat sinjale mbështeteni. Mos ofroni refuzim të menjëhershëm; Shkruani se çfarë verifikimi shtesë (SMS, ID) dëshironi të kërkoni së pari. Vendimi përfundimtar do të merret nga njerëzit.
Gabimet e zakonshme
- Gabimi i rezultatit të rrezikut si provë përfundimtare. Rezultati fillon rishikimin, por nuk merr vendimin.
- Automatizimi i vendimmarrjes me ndikim të lartë. Anulimi, mbyllja e llogarisë, refuzimi i rimbursimit kërkojnë miratim njerëzor.
- Mos matja e pozitivit të rremë. Nëse nuk e dini sa të pafajshëm po bllokoni, dëmi mbetet i padukshëm.
- Rregulla të verbër bazuar në gjeografi/grup. Ajo prodhon diskriminim dhe padrejtësi.
- Vendim pa arsyetim dhe kundërshtim. Pa transparencë rriten edhe rreziqet etike edhe ato ligjore.
- Një "kapur" e vetme dhe jo një përgjigje graduale. Mbyllja e derës pa u dhënë atyre një shans për verifikim shtesë do të bëjë që ju të humbni klientët.
Në përmbledhje
Në menaxhimin e kthimit dhe mashtrimit, AI kap modelet që syrit të njeriut i mungojnë dhe prodhon një rezultat rreziku; Por ky rezultat është një sinjal, jo provë. Vendimet me ndikim të lartë si anulimi i porosisë, mbyllja e llogarisë, refuzimi i rimbursimit duhet të bazohen në miratimin njerëzor, justifikimin dhe të drejtën për të kundërshtuar. Përgjigja graduale (verifikimi shtesë i pari, refuzimi i fundit) mbron klientin e ndershëm dhe eliminon mashtruesin. Matni pozitivitetin e rremë; Shmangni rregullat e verbër të bazuara në gjeografi ose grup. Një vendim i drejtë, transparent dhe i auditueshëm është një detyrim etik dhe një urtësi tregtare.
Detyra e aplikimit
Hiqni 5 modele të pazakonta nga të dhënat tuaja anonime të kthimit (normë e lartë, "mos-shfaqje" të përsëritura, etj.). Shkruani një përshkrim të pafajshëm dhe abuzimi për secilin me shabllonin "Analiza e modelit të kthimit". Më pas ekzekutoni shabllonin “Draft order risk score” për një mostër të porosisë me rrezik të lartë dhe përcaktoni se çfarë verifikimi shtesë do të dëshironit në vend të një refuzimi të menjëhershëm. Më në fund, rishikoni rregullat tuaja ekzistuese për pozitive false dhe diskriminim me shabllonin "Auditimi i vendimeve të drejta".
listë kontrolli
- [ ] Unë e trajtova rezultatin e rrezikut si një sinjal, jo një vendim përfundimtar.
- [ ] Unë ia atribuoj vendimet me ndikim të lartë miratimit dhe justifikimit njerëzor.
- [ ] Vendosa një përgjigje të shkallëzuar: vlefshmëria shtesë së pari, refuzimi i fundit.
- [ ] Kam planifikuar të masë normën false pozitive.
- [ ] I shmanga rregullat e verbër diskriminuese bazuar në gjeografi/grup.
- [ ] Unë shtova një metodë ankimimi dhe procesverbal (arsyetim) në vendime.