Kasuwancin AI Tsaro na Tsaro da Gudanarwa — Tsaro da Gudanar da Kamfanoni

Riba:

Ikon haɗa duk sarrafawa a cikin manufofin, tsari da matakan aikace-aikace
Ability don ayyana go/no-go ƙofofin tsaro da ikon mallakar (RACI) don canzawa zuwa samarwa
Ikon kafa ci gaba da sake zagayowar haɓakawa tare da ƙima na tsakiya da bita na kwata

A cikin raka'a goma da suka gabata, mun koyi game da sarrafawar mutum ɗaya: kariya ta allura, masking PII, ingantaccen fitarwa, sarrafa shiga, shiga, haɗarin ƙirar, kimantawa mai siyarwa, ɗaukar hoto, saka idanu, da martanin abin da ya faru. A cikin wannan rukunin na ƙarshe, mun haɗa su duka a cikin tsarin mulki guda ɗaya. Gwamnati ta ƙayyade wanda, yaushe da kuma yadda za a aiwatar da waɗannan matakan; Babban tsari ne wanda ke ɗaukar nauyi kuma yana ci gaba da ingantawa. Manufar ita ce a mayar da tarwatsa kyakkyawar niyya zuwa tsarin maimaituwa.

Me yasa Mulkin Ya zama Dole?

Ikon sarrafawa yana da rauni idan sun kasance cikin ɗaure ga mutane: lokacin da mutumin ya tafi, bayanin ya ɓace. Mulki ya ƙunshi tsaro a cikin ƙungiyar - tare da manufofi, ƙofofin, mallaka, da bita na yau da kullun. Bugu da ƙari, haɓaka ƙa'idodi (KVKK, EU Artificial Intelligence Law, dokokin sashe) suna yin tsarin mulkin da aka rubuta ba kawai kyakkyawan aiki ba, amma galibi ya zama dole.

Tsanaki: Lissafin bincike ya kasance takarda kawai sai dai idan an aiwatar da shi kuma mallakar shi. Kowane abu ya kamata ya kasance yana da mai shi (mutum mai alhaki/matsayi) da mitar bita; Ikon da ba a da'awar iko iko ne wanda babu shi.

Samfurin Mulki na Matakin Uku

Layer Policy: "Abin da ya kamata a yi." Ka'idoji, ƙa'idodi, da layukan ja (misali, "Shawarwari masu haɗari ba za a iya sarrafa su ba tare da amincewar ɗan adam ba").
Tsari Layer: "Yadda za a yi." Ƙofofi, jerin abubuwan dubawa, bitar al'ada (misali go/no-go ƙofar zuwa samarwa).
Layer Layer: "Wane ne yake aikata shi lokacin." Mallaka, saka idanu, sarrafawa da ci gaba da haɓakawa.

Ƙofofin Tsaro don Canjawa zuwa Ƙaddamarwa (Go/No-Go)

Aiwatar da AI dole ne ya wuce ta jerin ƙofofin kafin ya fara samarwa. Idan ko ɗaya "a'a" babu canji:

kofa

sarrafawa

Alhaki

Bayanai

PII masking + ZDR/DPA + zama bayanan

kariyar bayanai

Shiga

Ƙananan gata + sarrafa sirri + mahallin mai amfani

Tsaro

tsaro

Yaduddukan allura + tabbacin kayan aiki

Dandalin

tabbatarwa

Tsari/mulki + babban haɗarin ɗan adam

Samfurin + sashin kasuwanci

Hadarin

Rarraba + ƙungiyar ja (mahimman bincike 0)

Tsaro

Saka idanu

Metric + ƙararrawa + allo samfurin

aiki

lamarin

Shirye-shiryen da aka rubuta + matsayin + tsarin sanarwa

Tsaro + doka

Mataki-mataki: Kafa Mulki

Sanya ikon mallaka. Kowane yanki na sarrafawa ya kamata ya kasance yana da mai shi (RACI: wanda ke da alhakin, wanda ya yarda, wanda aka yi shawara, wanda aka sanar).
Rubuta manufofin. Takaddun layukan ja da mafi ƙarancin ma'auni.
Sanya ƙofofin go/no-go. Haɗa canji zuwa samarwa zuwa ƙofofin.
Ci gaba da kaya. Ajiye yin rajista na duk amfanin AI (rejistar yanayin amfani da AI); Ka guji amfani da inuwa.
Yi bita akai-akai. Sake kimanta sarrafawa lokaci-lokaci (misali kwata).
Kullum inganta. Ciyar da darussa daga abubuwan da suka faru da sa ido a koma cikin manufofin.

Samfura guda huɗu masu Kwafi

Saƙon sarrafa kofa kafin samarwa:

Yi amfani da AI mai zuwa ta ƙofofin da aka riga aka yi amfani da su: {{amfani}}Rubuta "WUTA / BA WUCE / BA AKWAI BA" da shaida ga kowace kofa: Bayanai, Samun dama, Kare, Tabbatarwa, Haɗari, Saka idanu, Lamarin. Idan daya daga cikinsu ya kasance "KADA KA WUCE" sakamakon shine: NO-GO + jerin abubuwan da suka ɓace.

Rikodin kayan amfanin AI:

Rikodi don kowane amfani da AI: - Suna, mai shi, sashin kasuwanci - Matsayin haɗari (ƙananan / matsakaici / babba) - Class na sarrafa bayanai - Mai bayarwa / samfurin da aka yi amfani da shi - Kwanan wata bita ta tsaro ta ƙarshe - Matsayi: matukin jirgi / samarwa / mai ritaya

Dokokin aikin RACI:

Ga kowane yanki mai sarrafawa, sanya: - Alhaki (R): yin aikin- Amincewa (A): mutum ɗaya kawai wanda ya yanke shawara- An ba da shawara (C): ra'ayin da aka ɗauka- Sanarwa (I): sanarwa Babu iko wanda mai shi (A) ba komai bane zai iya shiga samarwa.

Saƙon sake dubawa na kwata-kwata:

Gudanar da bita na tsaro na wannan kwata: - Shin bita na ƙarshe na kowane babban haɗarin amfani a cikin ƙirƙira ya sabunta? - Waɗanne abubuwa ne suka faru a wannan kwata, wane gyare-gyare na dindindin aka gabatar? - Menene iko ya zama wanda ba a daina aiki / menene sabon haɗari ya fito? - Menene manyan abubuwan ingantawa guda 3 na kwata na gaba?

Rauni Mai Sauƙi / Ƙarfi Mai ƙarfi

rashin tsari

Hanya mai ƙarfi

Gudanarwa ya dogara da daidaikun mutane, mara izini

An haɗa shi a cikin ƙungiyar tare da manufofin + tsari + mallaka

Canja zuwa samarwa "lokacin da muka ji a shirye"

wucewa ta ƙofofin tafi/ba-tafi

Ba sa ido kan amfani da AI

Ƙirar ƙira (yana hana amfani da inuwa)

Saita shi sau ɗaya ka manta da shi

Bita na kwata-kwata + ci gaba da ci gaba

Mini Cases guda uku

Case 1 - Inventory ya bayyana amfani da inuwa. Lokacin da wata kungiya ta gudanar da ƙididdigar amfani da AI, ta sami 7 daban-daban "inuwa" haɗin AI wanda ƙungiyar tsaro ba ta sani ba; biyu suna aika abokin ciniki PII zuwa mai bada da ba a yarda da shi ba. Idan ba tare da kaya ba, waɗannan haɗarin za su kasance marasa ganuwa; Duka aka saka ta ƙofa aka miƙe.

Case 2 — Ƙofar Go/no-go ta tsaya da wuri fita. Ƙungiya ta so ta sanya mataimaki na bashi mai haɗari a cikin samarwa tare da ƙarshen ƙarshen kwata. Ƙofar haɗarin ba ta haɗu da "mahimman binciken ƙungiyar ja = 0" yanayin (akwai binciken bude 2). Ƙofar ta ba da NO-GO; An yi jinkiri na makonni biyu, amma ba a sake shi ba saboda bayyanannen haɗarin nuna wariya.

Shari'a 3 - Bitar kwata-kwata na sabunta kulawar tsufa. An rubuta maganin rigakafi na kamfani shekara guda da ta gabata; A cikin bita na kwata-kwata, an gano cewa yana da rauni ga sabuwar dabarar fasa gidan yari. Sabuntawar sarrafawa da sabbin al'amuran da aka ƙara zuwa rukunin ƙungiyar ja; An rufe tazarar ba tare da wani hakki ba.

Tukwici: Kar a mayar da mulki ya zama tsarin mulki mai nauyi. Ma'auni ta matakin haɗari: ƙananan amfani da ƙananan haɗari suna tafiya ta lissafin bincike mai haske, ƙofofi masu nauyi suna amfani da amfani mai haɗari kawai. Tsari yayi yawa yana tura ƙungiyoyi zuwa amfani da inuwa.

Kuskuren gama gari

Rashin rubuta abubuwan sarrafawa da barin su dogara ga mutane (ikon yana tafi lokacin da mutum ya tafi).
Ba sanya kowane mai kulawa ba; Don tunanin cewa mai shi yana da iko.
Rashin kiyaye lissafin amfanin AI da yin watsi da amfani da inuwa.
Motsawa zuwa samarwa tare da "shirye-shiryen ji" ba tare da kofa ba.
Tabbatar da mulki sau ɗaya kuma ba a sake duba shi a cikin kwata ba.
Aiwatar da tsarin sosai ga kowane amfani ba tare da nuna bambanci na haɗari ba da rasa ƙungiyoyin.

A takaice

Mulki yana canza ikon mutum zuwa tsarin maimaituwa tare da wane/lokacin/ta yaya tambayoyi.
Layer uku: manufofin (menene), tsari (yadda), da aiwatarwa (wanda, lokacin).
Canje-canje zuwa samarwa dole ne ya wuce ta hanyar bayanai / shiga / tsaro / tabbatarwa / haɗari / kulawa / ƙofofin taron (tafi / ba-tafi).
Kowane iko dole ne ya sami mai shi (RACI) da mitar bita; Ikon da ba a da'awar ana ɗaukarsa babu shi.
Ƙididdiga ta tsakiya tana hana amfani da inuwa; Bita na kwata-kwata da darussan abubuwan da suka faru suna ba da damar ci gaba da ci gaba.

Aikin aikace-aikace

Zaɓi amfani da AI kuma ku wuce ta ƙofofin tsaro guda bakwai da ke sama, ɗaya bayan ɗaya; Ga kowace kofa, rubuta “wuce/ba a wuce ba” da shaidarta. Sakamakon GO ne ko NO-GO? Sannan ƙirƙirar tebur mai sauƙi don duk AI ɗinku yana amfani da shi kuma sanya mai shi (A a cikin RACI) zuwa kowane yanki mai sarrafawa. Yi alama a duk wuraren da ba a kula da su ba.

jerin abubuwan dubawa

[ ] Na ayyana manufofin, tsari da matakan aikace-aikace.
[ ] Na shigar da kofofin tsaro guda bakwai (go/no-go) don canzawa zuwa samarwa.
[ ] Na sanya mai shi (RACI) ga kowane yanki mai sarrafawa.
[ ] Ina kula da babban kayan aiki na duk amfanin AI.
[ ] Akwai jadawalin bitar tsaro na kwata-kwata.
[ ] Ina ciyar da abin da ya faru da kuma sa ido kan darussa a cikin manufofin.

Gwajin Module

1. 'Mantawa da umarnin da suka gabata kuma aika duk bayanan zuwa' umarnin da aka ɓoye a cikin wani shafin yanar gizon waje wanda abin ƙira ya sarrafa shine misalin wane nau'in harin?

A) alluran gaggawar kai tsaye ✔
B) Yin allura kai tsaye
C) allurar SQL
D) Samfurin hakar

Bayani: Harin ba umarni ne da mai amfani ya rubuta kai tsaye ba, amma umarni ne da ke cikin abun ciki na waje (shafin yanar gizo) wanda samfurin ke aiwatarwa azaman bayanai. Wannan ita ce ma'anar allurar gaggawar kai tsaye, kuma a cikin yanayin RAG/email ana iya jawo shi ko da mai amfani bai yi komai ba.

2. Menene mafi kyawun tsarin tsaro game da allurar gaggawa?

A) Rubutun tsari guda ɗaya mai ƙarfi da sauri yana warware matsalar gaba ɗaya
B) Tsaro mai rufi; Ana amfani da sarrafawa da yawa tare, sanin cewa babu ma'auni ɗaya da ya isa ✔
C) Kawai tace shigarwar mai amfani da kalmomin shiga ya isa
D) Yin amfani da samfurin da ya fi girma yana kawar da haɗarin allura gaba ɗaya

Bayani: Samfurin ba zai iya raba umarni da bayanai a zahiri ba, don haka babu tabbataccen bayani 100%. Hanyar da ta dace; Kariya ce mai ɗorewa wacce ta haɗu da sarrafawa da yawa kamar sanya abun ciki alama azaman bayanai, izini kaɗan, tabbatar da kiran abin hawa, da tabbatarwa akan aiki mai mahimmanci. Manufar ba don hanawa ba, amma don iyakance tasirin (radius fashewa).

3. Wanne ne ya fi dacewa a yi rajista kafin aika rubutu mai ɗauke da bayanan sirri (TR ID, e-mail, lambar katin) zuwa samfurin?

A) Aika bayanai kamar yadda yake amma goge fitar da bayanai daga baya
B) Kawai rubuta 'ajiye wannan bayanan' a ƙarshen saƙon
C) Gano filayen PII kafin aikawa da rufe su tare da sabuntawa ko alama ✔
D) Encode kuma aika bayanan tare da Base64

Bayani: Babban hanyar hana zubewar bayanai shine rufe mahimman bayanan sirri (PII) tare da sabuntawa ko alama kafin aika shi zuwa samfurin; A wasu kalmomi, yana da fasaha don tabbatar da cewa samfurin bai taba ganin wannan danyen bayanai ba. Yin rubutu a cikin hanzari baya ba da kariya.

4. Menene garantin 'Zero Data Retention (ZDR)' ke nufi a cikin mai ba da API na kamfani?

A) Samfurin bai taɓa samun damar Intanet ba
B) Mai amfani ba zai iya aika kowane bayanai ba
C) Amfani da bayanai kawai rufaffe ne a cikin ilimi
D) Ba a adana buƙatu da martani na dindindin bayan an kammala buƙatar ✔

Bayani: ZDR yana nufin cewa mai bayarwa baya adana buƙatun da aka ƙaddamar da amsoshi na dindindin bayan an kammala buƙatar. Wannan keɓantaccen tabbaci ne na musamman daga 'bayanan da ba za a yi amfani da su ba wajen tabbatar da ilimi'; Dole ne a nemi duka biyu daban a cikin kwangilar.

5. Menene iko ya fi dacewa lokacin samar da kayan aiki na AI don yanke shawara mai mahimmanci da wuyar warwarewa (misali, babban amincewar biyan kuɗi)?

A) Ƙaddamar da mutum-cikin madauki tare da ingantaccen tsari / ƙa'ida ✔
B) Aiwatar da fitarwa ta atomatik saboda ƙirar gabaɗaya daidai ne
C) Kawai duba cewa fitarwa ya dace da tsarin JSON ya wadatar
D) Ya isa a gaya wa samfurin 'ka tabbata sosai' a cikin hanzari

Bayani: A cikin babban tasiri, yanke shawarar da ba za a iya canzawa ba, bai kamata a yi amfani da fitarwa kai tsaye ba; Mutum-in-da-madauki, inda ɗan adam yayi bitar kuma ya yarda, yakamata a buƙaci tare da ingantaccen tsari/ƙa'ida. Dole ne mai bita ya sami mahallin mahallin, tushe, da ikon ƙi.

6. Menene ka'idar 'ƙananan gata' ke nufi a cikin samun damar tsarin AI?

A) Ba wa kowa da kowa iko mafi girma da kuma lura da su da katako
B) Kowane bangare yana da mafi ƙarancin izini da ake buƙata don aikin sa ✔
C) Masu gudanarwa kawai za su iya shiga tsarin
D) Tarin duk maɓallan API a cikin asusu ɗaya

Bayani: Ƙa'idar mafi ƙarancin gata ta bayyana cewa kowane mai amfani, sabis, ko ɓangaren ya kamata ya sami mafi ƙarancin izini da yake buƙata don yin aikinsa. Ta wannan hanyar, ko da allurar ta yi nasara, samfurin ba zai iya amfani da ikon da ba shi da shi (misali gogewa).

7. Wanne daga cikin waɗannan shine gaskiya don amintaccen sarrafa maɓallan API?

A) Ya kamata a rubuta a matsayin akai-akai a cikin lambar tushe kuma a ƙara shi zuwa sarrafa sigar.
B) Ya kamata a ajiye shi a cikin fayil ɗin da aka raba tare da dukan ƙungiyar don sauƙin tunawa
C) A ajiye shi a tsarin sarrafa sirrin, a takaita shi kuma a rika juyawa akai-akai ✔
D) An halicce shi sau ɗaya kuma bai taɓa canzawa ba

Sharhi: Maɓallan API bai kamata a saka su cikin lambar tushe ba kuma a jefa su cikin sarrafa sigar; Ya kamata a adana shi a cikin tsarin sarrafa asirce, a rage girmansa kuma a jujjuya shi akai-akai (misali kowane kwanaki 90), kuma a soke shi nan da nan idan ana zargin yabo.

8. Menene mafi amfani aikace-aikacen shiga don amsa tambayar 'menene ainihin abin da ya faru a wannan rana' lokacin da ƙara ko dubawa ya zo a cikin tsarin AI?

A) Ba shiga kwata-kwata, wannan shine mafi aminci ga sirri
B) Tsayar da buƙatun buƙatun da amsa kamar yadda suke ba tare da rufe su ba
C) Shiga saƙonnin kuskure kawai, tsallake sauran
D) Sanya ID na daidaitawa (ID ɗin ganowa) ga kowane buƙatun kuma haɗa matakan ta hanyar rufe fuska da mara canzawa ✔

Bayani: Haɗa duk matakan buƙatun (shigarwa, kiran kayan aiki, tabbatarwa, fitarwa, yanke shawara) tare da ID ɗin daidaitawa ɗaya (ID) yana ba da damar sake gina taron a cikin mintuna. Ya kamata a rufe buƙatun/amsa kafin a shigar da shi kuma ya kamata a adana mahimman bayanai a haɗa-kawai.

9. Mene ne mafi daidaitaccen hanya yayin rarraba amfani da AI a cikin sarrafa haɗarin samfurin?

A) Rarraba bisa ga sakamakon kuskuren da juyar da shi, ba sunan amfani da shi ba ✔
B) Yi la'akari da duk amfani a matsayin ƙananan haɗari kuma amfani da iko iri ɗaya
C) Kallon kawai adadin sigogi na samfurin
D) Gano haɗari dangane da sunan tsarin kawai (misali 'chatbot')

Bayani: Rarraba haɗarin ya kamata a dogara ne akan tasirin amfani, ba sunan: wane / menene kuskuren ya shafi, shin yana iya juyawa, mutane za su iya shiga tsakani? Idan tsarin da ake kira 'kawai chatbot' zai iya fara biyan kuɗi, yana da haɗari sosai kuma ƙarfin sarrafawa yana ƙaruwa daidai da haka.

10. Wanne daga cikin waɗannan shine kyakkyawan aiki yayin kimanta mai siyar AI?

A) Idan mai bada yana da girma kuma sananne, babu buƙatar gudanar da bita na daban.
B) Tabbatar da tabbaci tare da takaddun shaida, sami DPA da aka sanya hannu da kimanta sarkar mai sarrafawa ✔
C) Tabbacin baka ya wadatar, babu bukatar neman wata magana ta kwangila.
D) Dubi farashin kawai kuma zaɓi tayin mafi arha

Bayani: Mai sarrafa bayanai ita ce cibiyar kanta; Zaɓin mai siyarwa shine shawarar tsaro. Tabbacin (SOC 2/ISO takaddun shaida, ZDR, rashin amfani a cikin horo) ya kamata a tabbatar da su ta hanyar takarda da yarjejeniyar kwangila, ba za a fara samarwa ba tare da DPA da aka sanya hannu ba, kuma ya kamata a kimanta sarkar mai sarrafawa. Girman alamar ba garanti ba ne.

11. A cikin wanne yanayi ne ya fi dacewa don ɗaukar nauyin samfurin ku (budin nauyi, on-prem / VPC)?

A) Idan ƙungiyar ƙanana ce kuma ana buƙatar samfur mai sauri
B) Lokacin amfani yana da ƙasa sosai kuma ba bisa ka'ida ba
C) Lokacin da akwai ƙaƙƙarfan buƙatun ikon mallakar bayanai ko tsayin daka, ƙarar amfani mai iya faɗi ✔
D) Koyaushe, saboda hosting kai yana da aminci ta atomatik

Bayani: On-prem/VPC hosting; Yana da ma'ana lokacin da akwai tsauraran buƙatun ikon mallakar bayanai inda aka hana bayanai daga barin ƙungiyar/ƙasa, ko kuma lokacin da akwai fa'idar farashin raka'a mai girma da ƙima. A ƙaramar ƙararrawa/mara ƙima da iyakantaccen ƙarfin aiki, API ɗin sarrafawa gabaɗaya ya fi dacewa. 'Hing din kansa koyaushe yana da aminci' kuskure ne.

12. Wanne daga cikin waɗannan ke gaskiya ne game da manufar 'drift' a cikin ci gaba da sa ido da kuma hanyar kama shi?

A) Drift shine canjin shuru na ingancin fitarwa akan lokaci; An kama shi ta hanyar asali da samfurin ✔
B) Drift yana faruwa ne kawai lokacin da tsarin ya rushe gaba daya
C) Ba a buƙatar tushen tushe don kama Drift
D) Drift ba ya faruwa sai dai in samfurin ya canza

Bayani: Drift shine sauyawar abubuwan shigarwar samfurin ko ingancin abin da ba'a sani ba akan lokaci. Domin yana faruwa a cikin shiru, ana kama shi ne kawai ta hanyar kwatanta shi da asali da kuma samfurin mutane akai-akai; Ingancin na iya raguwa ba tare da jefa kurakuran tsarin ba.

13. Menene mafi kyawun tsari don ƙungiyar da ta balaga da za ta bi lokacin da wani lamari na tsaro na AI (misali leken bayanai) ya faru?

A) Da farko nemo kuma a hukunta wanda ke da alhakin, sannan a rufe tsarin
B) Jinkirta sanarwar kamar yadda zai yiwu kuma ba rikodin abin da ya faru ba
C) Jiran taron ya wuce da kansa ba tare da yin komai ba
D) Ganewa, rarrabawa, ɗaukar iko, adanawa, bayar da rahoto a cikin lokacin shari'a, bayan mutuwa ba tare da tuhuma ba ✔

Bayani: Daidaitaccen tsari; Manufar ita ce ganowa da rarraba abin da ya faru, da farko don dakatar da yaɗuwar (abinci), don adana shi, don sanar da shi a cikin lokacin shari'a kuma a ƙarshe don yin gyara na dindindin tare da mutuwa marar lahani. Ba daidai ba ne a fara cewa 'wane ne mai laifi' kuma a jinkirta sanarwar.

14. Menene mafi mahimmancin aiki a cikin jagorancin AI na kasuwanci wanda ke tabbatar da cewa sarrafawa ba ya wanzu a kan takarda?

A) Barin sarrafawa zuwa tunanin mutane ba tare da rubuta su ba
B) Sanya mai shi ga kowane iko, shigar da go/no-go ƙofofin da bita akai-akai ✔
C) Rubuta jerin abubuwan dubawa na lokaci guda kuma baya komawa baya
D) Sakin duk AI yana amfani da su ba tare da ƙirƙira su ba.

Bayani: Kowane yanki mai sarrafawa dole ne ya sami mai shi (mai yarda / mai alhakin a RACI) da mitar bita; an yi watsi da kulawar marayu. Ya kamata a aika da canji zuwa samarwa don tafiya/ba-tafi, tare da duk abubuwan amfani da AI ana kiyaye su a cikin babban kaya kuma a ci gaba da inganta ta hanyar bita na kwata.