AI-የተወሰኑ አደጋዎች እና ስጋት አስተዳደር

ትርፍ፡

• እንደ ቅዠት፣ አድልዎ፣ የውሂብ መፍሰስ፣ የሞዴል መንሸራተት፣ ጥገኝነት እና ከንግድ ተጽዕኖ ጋር የማይገለጽ እንደ AI-ተኮር አደጋዎችን የማወቅ ችሎታ።
• በፕሮባቢሊቲ እና ተጽዕኖ ልኬቶች ውስጥ አደጋዎችን ማስቆጠር እና በተቋሙ የአደጋ የምግብ ፍላጎት ውስጥ እንዲቆዩ በመቀነስ እርምጃዎች
• ከወጥነት ይልቅ ክትትልን እንደ ስጋት ደረጃ የማስተካከል ችሎታ፣ የሰውን የመጨረሻ ቃል ማረጋገጥ እና ከፍተኛ ስጋት በሚፈጥሩ ውሳኔዎች ላይ የማያቋርጥ ክትትል ማድረግ።

ዋጋ እና ስጋት የአንድ ሳንቲም ሁለት ገጽታዎች ናቸው። AI አዲስ የእሴት ምንጮችን ይከፍታል, ነገር ግን ባህላዊ ሶፍትዌሮች የማይሸከሙትን አዳዲስ አደጋዎችን ያስተዋውቃል. ለከፍተኛ ሥራ አስኪያጅ ጉዳዩ አደጋን ለማስወገድ አይደለም, ነገር ግን አደጋን በንቃት መቆጣጠር (የአደጋ አስተዳደር, አደጋዎችን የማወቅ, የመለኪያ, አደጋዎችን የመቀነስ እና ተቀባይነት ባለው ገደብ ውስጥ የማስቀመጥ). በዚህ ክፍል ውስጥ፣ ስለ AI ልዩ አደጋዎች፣ ስለ ንግድ ስራቸው ተጽእኖ እና ተግባራዊ የመቀነስ ዘዴዎች ይማራሉ ። ዓላማው "አደጋ ስላለ አታድርጉ" ወይም "ምንም አደጋ እንደሌለ አድርጎ መሥራት" አይደለም; እያንዳንዱን ተነሳሽነት በንቃት አደጋ የምግብ ፍላጎት ማከናወን ነው; ተቋሙ ለመውሰድ ፈቃደኛ የሆነበት የአደጋ ደረጃ.

AI-ተኮር አደጋዎች

ባህላዊ የአይቲ ስጋቶች (ተጋላጭነት፣ መቋረጥ) አሁንም ተግባራዊ ይሆናሉ። ግን ሰው ሰራሽ የማሰብ ችሎታ የራሱን አደጋዎች ይጨምራል።

የአደጋ ዓይነት

ምን ማለትህ ነው?

ምሳሌ የንግድ ተጽዕኖ

ቅዠት

የተሰራ ነበር ግን የሚታመን ሆነ

ለደንበኛው የተሳሳተ መረጃ, ህጋዊ ተጠያቂነት

ጭፍን ጥላቻ

በውጤቱ ላይ ባለው መረጃ ውስጥ የፍትሕ መጓደል ነጸብራቅ

አድሎአዊ የቅጥር/የክሬዲት ውሳኔ

የውሂብ መፍሰስ

በተሽከርካሪው ውስጥ ሚስጥራዊ መረጃ እየፈሰሰ ነው።

የ KVKK ጥሰት, መልካም ስም ማጣት

ሞዴል ተንሸራታች

ከጊዜ ወደ ጊዜ የአፈጻጸም ውድቀት

ውሳኔዎችን በጸጥታ መሻር

ሱስ

ወደ ነጠላ አቅራቢ ተቆልፏል

የዋጋ / የመዳረሻ ድንጋጤ

ሊገለጽ የማይችል

የውሳኔውን ምክንያት ባለማወቅ

ኦዲት እና ተቃውሞ አስቸጋሪ

እዚህ ሁለት ቃላት አስፈላጊ ናቸው: አድልዎ ሰው ሰራሽ የማሰብ ችሎታ በስልጠና መረጃ ውስጥ ፍትሃዊ ያልሆኑ ንድፎችን ሲያውቅ እና በውሳኔዎቹ ውስጥ ሲያንጸባርቅ; ለምሳሌ፣ ታሪካዊ የቅጥር መረጃ ለአንድ ቡድን የሚጠቅም ከሆነ፣ ሞዴሉ እንዲሁ ያደርጋል። የሞዴል ተንሳፋፊ ሞዴሉ ጊዜው ያለፈበት ሲሆን እና ዓለም ሲቀየር አፈፃፀሙ በፀጥታ ሲቀንስ ነው (አዲስ ምርቶች ፣ አዲስ ባህሪዎች)።

ጠቃሚ ምክር፡ አደጋን “ሊሆን/ላይሆን ይችላል” ከሚለው አንፃር ሳይሆን በሁለት መመዘኛዎች፡ ፕሮባቢሊቲ (ምን ያህል ሊሆን እንደሚችል) እና ተፅዕኖ (ከተከሰተ ምን ያህል ጉዳት እንደሚደርስ አስብ)። ከፍተኛ ተጽዕኖ + ከፍተኛ ዕድል ያላቸው በመጀመሪያ መፍትሄ ያገኛሉ; ዝቅተኛ + ዝቅተኛ እሴቶች ያላቸው ተቀባይነት እና ቁጥጥር ይደረግባቸዋል.

በአደጋ ደረጃ ላይ በመመርኮዝ ክትትል

እያንዳንዱ የአጠቃቀም አካባቢ ተመሳሳይ አደጋ አይኖረውም. ብልህ አካሄድ ክትትልን ከአደጋ ደረጃ ጋር ማበጀት ነው፡-

• ዝቅተኛ ስጋት (የማስገባት ረቂቅ, የአእምሮ ማጎልበት): የብርሃን ቁጥጥር, የፍጥነት ቅድሚያ.
• መካከለኛ አደጋ (ይዘት ለደንበኛ, የውሳኔ ድጋፍ): የሰው ማፅደቅ, የናሙና ቁጥጥር.
• ከፍተኛ አደጋ (ክሬዲት, ቅጥር, ጤና, ህጋዊ): የግዴታ የሰው ፍርድ, ሙሉ ምዝገባ, መደበኛ ኦዲት.

ይህ "በአደጋ ላይ የተመሰረተ" አካሄድ የአውሮፓ ህብረት AI ህግ (ክፍል 9) የጀርባ አጥንት ነው.

ደረጃ በደረጃ፡ የአደጋ አስተዳደር ዑደት

1. አደጋዎችን ይወቁ. ለእያንዳንዱ ተነሳሽነት AI-ተኮር አደጋዎችን ይዘርዝሩ።

2. እድልን እና ተፅእኖን ያስመዝግቡ። እያንዳንዱን አደጋ በሁለት አቅጣጫዎች ይገምግሙ እና ቅድሚያ ይስጡ።

3. የመቀነስ መለኪያን ይግለጹ. እንደ የሰው ማጽደቅ፣ የውሂብ ማንነትን መደበቅ፣ ክትትል፣ የአቅራቢ ልዩነትን የመሳሰሉ።

4. የቀረውን አደጋ ይቀበሉ ወይም ያቁሙ። ከተቀነሰ በኋላ የሚቀረው አደጋ በምግብ ፍላጎት ውስጥ ከሆነ ተቀባይነት አለው; ካልሆነ ሙከራው ይቆማል።

5. ይመልከቱ እና ይገምግሙ. አደጋዎች ቋሚ አይደሉም; ለተንሸራታች እና ለአዳዲስ አደጋዎች የማያቋርጥ ክትትል አስፈላጊ ነው።

ሶስት ጥቃቅን ጉዳዮች

ጉዳይ 1 - የቅዠት ዋጋ. የአየር መንገዱ ደንበኛ ቻትቦት ለተሳፋሪ የማይገኝ ተመላሽ ፖሊሲ "አዘጋጀ"; ደንበኛው ይህንን አምኖ ግብይቱን አደረገ። ፍርድ ቤቱ ኩባንያውን ለራሱ bot መግለጫ ተጠያቂ አድርጓል። ትምህርት: AI ለደንበኛ የሚወጣው መካከለኛ / ከፍተኛ አደጋ; ማረጋገጥ እና መገደብ አስፈላጊ ነበር። ቦቱ ከጸደቁ የመመሪያ ጽሑፎች ብቻ ምላሽ እንዲሰጥ ተገድቧል።

ጉዳይ 2 - ጸጥ ያለ አድልዎ። በታሪካዊ መረጃ አለመመጣጠን ምክንያት የአንድ ኩባንያ የቅጥር ማጣሪያ ሞዴል ከተወሰኑ ትምህርት ቤቶች የተማሩትን ስልታዊ በሆነ መንገድ ይመርጣል። ልዩነቱ በኦዲት ውስጥ ተገለጠ; ስም እና ህጋዊ አደጋ ነበር. ሞዴሉ ከተጠበቁ ባህሪያት የተላቀቀ እና ከመደበኛ የፍትህ ክትትል ጋር የተያያዘ ነው. አድሏዊ ፈተናው ከመጀመሪያው ጀምሮ ቢሆን ኖሮ ይህ ባልሆነ ነበር።

ጉዳይ 3 - ተንሸራታች መያዝ. አዲስ የማጭበርበር ዘዴ ሲፈጠር የባንክ የማጭበርበር ማወቂያ ሞዴል በጸጥታ ተዳክሟል። የጠፋው መጠን በ3 ወራት ውስጥ ከ8% ወደ 19% አድጓል። የምስራች፡ ኤጀንሲው ወርሃዊ የስራ አፈጻጸም ክትትል አድርጓል፣ ተንሳፋፊው ቀደም ብሎ ተገኝቷል እና ሞዴሉ እንደገና ሰልጥኗል። ክትትል ባይደረግ ኖሮ ኪሳራው ይበዛ ነበር።

አራት ሊገለበጡ የሚችሉ አብነቶች

1) የአደጋ ክምችት;

የእርስዎ ሚና፡ AI ስጋት አስተዳዳሪ። ለሚከተለው የአጠቃቀም ጉዳይ AI-ተኮር ስጋቶችን ይዘርዝሩ፡ ቅዠት፣ አድልዎ፣ የውሂብ መፍሰስ፣ መንሸራተት፣ ጥገኝነት፣ ሊገለጽ የማይችል። ለእያንዳንዱ አደጋ፣ በዚህ ሁኔታ ውስጥ ያለውን መገለጫ እና የንግድ ተጽዕኖ በአንድ ዓረፍተ ነገር ይፃፉ። የአጠቃቀም አካባቢ፡ [ጽሑፍ]

2) የማስቆጠር እድል/ተፅእኖ፡

የሚከተሉትን አደጋዎች በማስቆጠር እና እንደ እድል (1-5) እና ተፅዕኖ (1-5) በማባዛት ቅድሚያ ይስጧቸው። ለሦስቱ ዋና ዋና አደጋዎች ለምን ቅድሚያ እንደምትሰጥ ያብራሩ። አደጋዎች፡ [ዝርዝር]

3) የመቀነስ እቅድ;

ለሚከተሉት የቅድሚያ ስጋቶች ተግባራዊ የመቀነስ እርምጃዎችን ያቅርቡ፡ [አደጋዎች]። ለእያንዳንዱ መለኪያ: ምን ማድረግ እንዳለበት, ተጠያቂው ማን ነው, በየትኛው የአደጋ ደረጃ ላይ አስገዳጅ ነው. አስፈላጊ ሆኖ ሲገኝ የሰውን ክትትል፣ የውሂብ ማንነትን መደበቅ፣ ክትትል እና የአቅራቢ ልዩነትን ይጠቀሙ።

4) በስጋት ላይ የተመሰረተ የስለላ ማትሪክስ፡-

የሚከተሉትን የአጠቃቀም ቦታዎች ለአደጋ ደረጃ (ዝቅተኛ/መካከለኛ/ከፍተኛ) ይመድቡ እና ለእያንዳንዱ ደረጃ አስፈላጊውን ቁጥጥር ይወስኑ፡ የሰው ፈቃድ ያስፈልጋል፣ መዝገቦች ይያዛሉ፣ የፍተሻ ድግግሞሽ ምን ያህል ነው? ይጠቀማል፡ [ዝርዝር]

ደካማ ጥያቄ / ጠንካራ ጥያቄ

ደካማ፡ "የዚህ AI ፕሮጀክት ስጋቶች ምንድን ናቸው?"

ማጠቃለያ: አጠቃላይ የአደጋዎች ዝርዝር; ፕሮባቢሊቲ, ተጽዕኖ እና ምንም ቅነሳ, እርስዎ መወሰን አይችሉም.

Güçlü: "በባንክ የብድር ማመልከቻ የመጀመሪያ ደረጃ ግምገማ AI እንጠቀማለን (የሰው ልጅ የመጨረሻውን ውሳኔ ይወስዳል) ለዚህ ሁኔታ ልዩ የሆኑትን አደጋዎች ዘርዝር (አድልዎ, ግልጽነት, ቅዠት, የውሂብ ግላዊነት); እያንዳንዱን በአጋጣሚ እና ተፅእኖ ያስመዘግቡ, ተጨባጭ ቅነሳን እና የቁጥጥር መስፈርቶችን ለሦስቱ በጣም አስፈላጊ የሆኑትን ይግለጹ. ይህ አደጋ ምን ማለት እንደሆነ ይግለጹ.

ውጤቱ፡- ሁኔታ-ተኮር፣ ውጤት ማስመዝገብ፣ መቀነስ እና ከማክበር ጋር የተያያዘ የአደጋ ትንተና።

የተለመዱ ስህተቶች

• በሁሉም ተነሳሽነት ላይ ተመሳሳይ ቁጥጥርን ተግባራዊ ማድረግ. ዝቅተኛ የአደጋ ስራን ማቀዝቀዝ ከፍተኛ አደጋን የሚያስከትል ስራን ችላ ማለትን ያህል ጎጂ ነው; ክትትል በአደጋ ደረጃ ላይ የተመሰረተ መሆን አለበት.
• ቅዠትን እንደ "ትንሽ ስህተት" ስህተት. ለደንበኛው የተሳሳተ ውጤት ህጋዊ ተጠያቂነትን ሊያስከትል ይችላል.
• ለአድልዎ አለመሞከር። ያለ ፍትሃዊነት ሙከራ የተዘረጋው ሞዴል ጸጥ ያለ መድልዎ ሊያመጣ ይችላል።
• ድሪፍትን አለመመልከት። አንድ ጊዜ በደንብ የሚሰራ ሞዴል ለዘለዓለም አይሰራም; የማያቋርጥ ክትትል ያስፈልጋል.
• በአንድ አቅራቢ ውስጥ መቆለፍ. ያለ መውጫ እቅድ፣ ሱስ ለዋጋ እና ድንጋጤ ለመድረስ ክፍት ያደርገዋል።

ጥንቃቄ: የአደጋ አስተዳደር ለአንዴና ለመጨረሻ ጊዜ አይደለም; አርቴፊሻል ኢንተለጀንስ ሥርዓቶች ሕያው ሥርዓቶች ናቸው። ሞዴሉ ዛሬ ደህና ስለሆነ ብቻ ነገ ለደህንነቱ ዋስትና አይሆንም። ቀጣይነት ያለው ክትትል፣ መደበኛ ቁጥጥር እና ግልጽ የሆነ የግድያ መቀየሪያ የእያንዳንዱ ከፍተኛ ስጋት ስርዓት አካል መሆን አለበት።

በማጠቃለያው

ከተለምዷዊ የአይቲ ስጋቶች በላይ፣ AI እንደ ቅዠት፣ አድልዎ፣ የውሂብ መፍሰስ፣ መንሸራተት፣ ጥገኝነት እና ግልጽ አለመሆን ያሉ ልዩ ስጋቶችን ይጨምራል። እነዚህ አደጋዎች ሊገመገሙ እና ቅድሚያ ሊሰጣቸው ከሚችሉት ዕድል እና ተፅእኖ አንፃር እና በተቋሙ የአደጋ የምግብ ፍላጎት ውስጥ ሊቆዩ ይገባል ። ክትትል አንድ ወጥ አይደለም ነገር ግን ከአደጋው ደረጃ ጋር የተጣጣመ መሆን አለበት; ከፍተኛ ስጋት በሚፈጥሩ ውሳኔዎች ውስጥ ሰዎች የመጨረሻውን አስተያየት መስጠት አለባቸው. የአደጋ አስተዳደር ቀጣይነት ያለው ዑደት ነው; ያለ ቁጥጥር እና ቁጥጥር የተሟላ አይደለም. በሚቀጥለው ክፍል ይህንን የአደጋ ዲሲፕሊን ዘላቂ የሚያደርገውን የአስተዳደር እና የፖሊሲ መዋቅር እናቋቁማለን።

የመተግበሪያ ተግባር

የ AI መጠቀሚያ መያዣን ይምረጡ እና ልዩ ስጋቶቹን በአብነት ይዘርዝሩ 1. እያንዳንዱን አደጋ በአጋጣሚ እና ተፅእኖ ያስመዝግቡ, ሦስቱን በጣም ወሳኝ የሆኑትን በመለየት. የኮንክሪት ቅነሳ እርምጃዎችን እና ለእነዚህ ሶስት አደጋዎች የሚያስፈልገውን የክትትል ደረጃ ይፃፉ። በመጨረሻም አጠቃቀሙን እንደ ዝቅተኛ/መካከለኛ/ከፍተኛ ስጋት መድቡ እና ይህ የክትትል መስፈርቶችን እንዴት እንደሚቀይር ልብ ይበሉ።

የማረጋገጫ ዝርዝር

• [ ] ለአርቴፊሻል ኢንተለጀንስ ልዩ የሆኑ አደጋዎችን ዘርዝሬአለሁ።
• [ ] እያንዳንዱን አደጋ በእድል እና በተጽዕኖ አስቆጥሬያለሁ።
• [] በጣም ወሳኝ ለሆኑ አደጋዎች የመቀነስ እርምጃዎችን ገለጽኩ ።
• [ ] የአጠቃቀም ቦታን እንደ ስጋት ደረጃ መደብኩት።
• [ ] በአደጋው ​​ደረጃ መሰረት ክትትልን አስተካክያለሁ።
• [ ] ለአድሎአዊነት እና ለመንሸራተት መሞከር/መከታተል አቅጄ ነበር።
• [ ] ለከፍተኛ ስጋት ስርዓት የማቆም ስልጣን አዘጋጅቻለሁ።