Riba:
- Ikon gane ƙayyadaddun hatsarori na AI kamar su hallucination, son rai, yabo bayanai, ɗimbin ƙira, dogaro, da rashin fa'ida tare da tasirin kasuwanci
- Ƙididdiga haɗari a cikin yuwuwar yuwuwar tasiri da girman tasiri da kiyaye su cikin haɗarin ci na cibiyar tare da matakan ragewa.
- Ikon daidaita sa ido bisa ga matakin haɗari maimakon daidaituwa, tabbatar da faɗin ƙarshe na ɗan adam da ci gaba da sa ido a cikin yanke shawara masu haɗari.
Ƙimar da haɗari bangarori biyu ne na tsabar kuɗi ɗaya. AI yana buɗe sabbin hanyoyin ƙima, amma kuma yana gabatar da sabbin nau'ikan haɗari waɗanda software na gargajiya ba sa ɗauka. Ga babban manajan, batun ba don guje wa haɗari ba ne, amma don kula da haɗari da hankali (gudanar da haɗari, horo na ganewa, aunawa, rage haɗari da kuma kiyaye su a iyakar yarda). A cikin wannan rukunin, zaku koyi game da haɗarin takamaiman ga AI, tasirin kasuwancin su, da hanyoyin rage aiki. Manufar ba shine "kada ku yi shi ba saboda akwai haɗari" ko "yi kamar babu haɗari"; Shi ne aiwatar da kowane shiri tare da sanin haɗarin ci; matakin hadarin da cibiyar ke son ɗauka.
Hatsari na musamman na AI
Hadarin IT na al'ada (rauni, rashin ƙarfi) har yanzu yana aiki; Amma hankali na wucin gadi yana ƙara haɗarinsa:
Nau'in haɗari
Me kuke nufi?
Misali tasirin kasuwanci
hallucination
An yi shi amma ya zama abin yarda
Bayanan da ba daidai ba ga abokin ciniki, alhaki na doka
son zuciya
Nunin rashin adalci a cikin bayanai akan fitarwa
Hukuncin daukar aiki/bashi na wariya
zubewar data
Bayanan sirri na yawo a cikin abin hawa
Cin zarafin KVKK, asarar suna
Motsawa Model
Lalacewar ayyuka akan lokaci
Juyar da yanke shawara a hankali
jaraba
Kulle cikin mai kaya guda ɗaya
Farashin / isa ga girgiza
rashin fahimta
Rashin sanin dalilin yanke hukuncin
Audit da ƙin yarda
Sharuɗɗa biyu suna da mahimmanci a nan: son zuciya shine lokacin da hankali na wucin gadi ya koyi tsarin rashin adalci a cikin bayanan horo kuma ya nuna su a cikin yanke shawara; Misali, idan bayanan daukar ma'aikata na tarihi sun fi son rukuni guda, samfurin kuma yayi. Model drift shine lokacin da samfurin ya zama wanda ba a daina aiki ba kuma aikinsa yana raguwa cikin shiru yayin da duniya ta canza (sababbin samfura, sabbin halaye).
Tukwici: Yi la'akari da haɗari ba cikin sharuddan "maiyuwa / ba zai faru ba" amma a cikin nau'i biyu: yuwuwar (yaya) da tasiri (nawa lahani idan ya faru). Wadanda ke da babban tasiri + babban yuwuwar ana magance su da farko; waɗanda ke da ƙananan ƙima + ana karɓa kuma ana kula da su.
Sa ido bisa ga matakin haɗari
Ba kowane yanki da ake amfani da shi ke ɗaukar haɗari iri ɗaya ba. Hanya mai wayo ita ce daidaita sa ido zuwa matakin haɗari:
- Ƙananan haɗari (daftarin shigarwa, ƙwaƙwalwar ƙwaƙwalwa): kulawar haske, fifikon sauri.
- Haɗarin matsakaici (abun ciki ga abokin ciniki, goyan bayan yanke shawara): amincewar ɗan adam, sarrafa samfur.
- Babban haɗari (bashi, daukar ma'aikata, lafiya, doka): hukuncin ɗan adam na wajibi, cikakken rajista, dubawa na yau da kullun.
Wannan tsarin "tushen haɗari" kuma shine kashin bayan Dokar AI ta EU (Saka ta 9).
Mataki zuwa mataki: sake zagayowar gudanar da haɗari
1. Gane kasada. Yi lissafin takamaiman haɗarin AI don kowane shiri.
2. Yi alama da tasiri. Yi ƙima da ba da fifiko ga kowane haɗari ta fuskoki biyu.
3. Ƙayyade ma'aunin ragewa. Kamar amincewar ɗan adam, ɓoye bayanan, sa ido, rarrabuwar kayayyaki.
4. Karɓa ko dakatar da sauran haɗarin. Hadarin da ya rage bayan raguwa an yarda da shi idan yana cikin ci; Idan ba haka ba, yunkurin ya tsaya.
5. Kalli da bita. Hadarin ba a tsaye ba; Saka idanu akai-akai don ɓatanci da sabbin barazana yana da mahimmanci.
uku mini lokuta
Case 1 - Kudin hallucination. Abokin ciniki na chatbot na kamfanin jirgin sama ya "yi" manufar mayar da kuɗin da ba ta wanzu ba ga fasinja; Abokin ciniki ya amince da wannan kuma ya yi ciniki. Kotun ta kama kamfanin da alhakin furucin nasa na bot. Darasi: fitowar AI ga abokin ciniki shine matsakaici / babban haɗari; tabbatarwa da iyakancewa sun kasance masu mahimmanci. Sannan an taƙaita bot ɗin don amsawa kawai daga rubutun manufofin da aka amince dasu.
Case 2 - Rashin son zuciya. Samfurin tantance aikin daukar ma'aikata daya na kamfani ya fi son daukar ma'aikata daga wasu makarantu saboda rashin daidaiton bayanan tarihi. An bayyana bambamcin a cikin bincike; Akwai haɗari na mutunci da doka. An cire samfurin daga halaye masu kariya kuma an danganta shi da sa ido kan adalci na yau da kullun. Da a ce an yi gwajin son zuciya tun farko, da hakan bai faru ba.
Case na 3 - Kama Drift. Samfurin gano zamba na banki ya yi rauni a hankali lokacin da sabon tsarin zamba ya fito; Adadin rashin nasara ya karu daga 8% zuwa 19% a cikin watanni 3. Labari mai dadi: Hukumar ta aiwatar da sa ido kan ayyukan kowane wata, an gano tudu da wuri, kuma an sake horar da samfurin. Ba tare da sa ido ba, da asarar ta ninka.
Samfura huɗu masu kwafi
1) Abubuwan haɗari:
Matsayinku: Manajan hadarin AI. Lissafa takamaiman hatsarori na AI don yanayin amfani mai zuwa: hallucination, son rai, yabo bayanai, faifai, dogaro, rashin fahimta. Ga kowane haɗari, rubuta a cikin jumla ɗaya yuwuwar bayyanarsa da tasirin kasuwancinta a cikin wannan yanayin. Wurin amfani: [rubutu]
2) Yiwuwar / tasiri mai ƙima:
Ba da fifikon haɗari masu zuwa ta hanyar ƙira da ninka su azaman yuwuwar (1-5) da tasiri (1-5). Bayyana dalilin da yasa kuke ba da fifiko kan manyan haɗari guda uku. Hatsari: [jeri]
3) Tsarin Ragewa:
Ba da shawarar matakan rage aiki mai amfani don haɗarin fifiko masu zuwa: [hadari]. Ga kowane ma'auni: abin da za a yi, wanda ke da alhakin, a wane matakin haɗari ya zama wajibi. Yi amfani da sa ido na ɗan adam, ɓoye bayanan, sa ido da rarraba kayan kaya a inda ya dace.
4) Matrix na tushen haɗari:
Sanya wuraren da ake amfani da su zuwa matakin haɗari (ƙananan / matsakaici / babba) kuma ƙayyade kulawar da ake buƙata don kowane matakin: ana buƙatar amincewar ɗan adam, za a adana bayanan, menene mitar dubawa? Amfani: [list]
Rauni mai ƙarfi / Ƙarfi mai ƙarfi
Rauni: "Mene ne illar wannan aikin AI?"
Ƙarshe: Jerin haɗari na gaba ɗaya; yuwuwar, tasiri kuma babu raguwa, ba za ku iya yanke shawara ba.
Güçlü: "Za mu yi amfani da AI a farkon kimantawa na aikace-aikacen lamuni a banki (mutum zai yanke shawara ta ƙarshe). Yi lissafin haɗarin takamaiman wannan yanayin ( son zuciya, rashin fa'ida, hallucination, sirrin bayanan); maki kowanne ta alama da tasiri; bayar da shawarar rage ƙayyadaddun ƙayyadaddun ƙayyadaddun ƙayyadaddun lamuni da buƙatun kulawa ga uku mafi mahimmanci.
Sakamakon: ƙayyadaddun yanayi, ƙididdigewa, ragewa da ƙididdigar haɗari masu alaƙa.
Kuskuren gama gari
- Aiwatar da sa ido iri ɗaya ga duk wani shiri. Rage aikin ƙananan haɗari yana da illa kamar rashin kula da aikin haɗari mai girma; Ya kamata sa ido ya dogara da matakin haɗari.
- Kuskure hallucination a matsayin "karamin kuskure". Fitowar da ba daidai ba ga abokin ciniki na iya haifar da alhaki na doka.
- Ba gwada son zuciya ba. Samfurin da aka tura ba tare da gwajin gaskiya ba na iya haifar da wariya na shiru.
- Ba kallon Drift ba. Samfurin da ke aiki da kyau sau ɗaya ba ya aiki da kyau har abada; Ana buƙatar sa ido akai-akai.
- Kulle a cikin mai kaya guda ɗaya. Ba tare da shirin fita ba, jaraba yana barin ku buɗe don farashi da samun girgiza.
Tsanaki: Gudanar da haɗari ba sau ɗaya ba ne; Tsarin hankali na wucin gadi tsarin rayuwa ne. Don kawai abin ƙira yana da aminci a yau ba ya ba da tabbacin cewa zai kasance lafiya gobe. Ci gaba da sa ido, dubawa na yau da kullun da madaidaicin kashe kashe ya kamata su kasance cikin kowane tsarin haɗari.
A takaice
A saman hatsarori na IT na al'ada, AI yana ƙara haɗari na musamman kamar su hallucination, son rai, ɗigon bayanai, drift, dogaro, da rashin fa'ida. Ya kamata a kimanta waɗannan haɗari tare da ba da fifiko dangane da yuwuwar da tasiri, kuma yakamata a kiyaye su cikin haɗarin ci na cibiyoyi tare da matakan ragewa. Sa ido ba iri ɗaya bane amma yakamata a daidaita shi zuwa matakin haɗari; A cikin yanke shawara masu haɗari, ya kamata mutane su yi magana ta ƙarshe. Gudanar da haɗari shine ci gaba da zagayowar; ba ya cika ba tare da kulawa da sarrafawa ba. A cikin kashi na gaba, za mu kafa tsarin mulki da tsarin manufofin da ke sa wannan horon haɗarin ya zama dindindin.
Aikin aikace-aikace
Zaɓi shari'ar amfani da AI kuma jera takamaiman haɗarinsa tare da samfuri 1. Yi ƙima kowane haɗari da yuwuwar da tasiri, gano uku mafi mahimmanci. Rubuta ainihin matakan ragewa da matakin sa ido da ake buƙata don waɗannan haɗari guda uku. A ƙarshe, rarraba amfani azaman ƙananan / matsakaici / babban haɗari kuma lura da yadda wannan ke canza buƙatun sa ido.
jerin abubuwan dubawa
- [ ] Na lissafta hatsarori musamman ga takamaiman yanayin hankali na wucin gadi.
- [ ] Na ci kowane haɗari ta hanyar yiwuwar da tasiri.
- [ ] Na ayyana matakan ragewa don mafi girman haɗari.
- [ ] Na rarraba yankin da ake amfani da shi gwargwadon matakin haɗari.
- [ ] Na daidaita sa ido bisa ga matakin haɗari.
- [ ] Na shirya gwaji/sa ido don son zuciya da tuƙi.
- [ ] Na saita ikon tsayawa don babban tsarin haɗari.