লাভ:
- এআই-নির্দিষ্ট ঝুঁকিগুলি যেমন হ্যালুসিনেশন, পক্ষপাত, ডেটা ফাঁস, মডেল ড্রিফ্ট, নির্ভরতা এবং ব্যবসায়িক প্রভাবের সাথে ব্যাখ্যাযোগ্যতা সনাক্ত করার ক্ষমতা
- সম্ভাব্যতা এবং প্রভাব মাত্রায় ঝুঁকি স্কোর করা এবং প্রশমন ব্যবস্থা সহ প্রতিষ্ঠানের ঝুঁকির ক্ষুধার মধ্যে রাখা
- অভিন্নতার পরিবর্তে ঝুঁকির মাত্রা অনুযায়ী নজরদারি সামঞ্জস্য করার ক্ষমতা, মানুষের চূড়ান্ত বক্তব্য নিশ্চিত করা এবং উচ্চ-ঝুঁকিপূর্ণ সিদ্ধান্তে অবিচ্ছিন্ন পর্যবেক্ষণ
মূল্য এবং ঝুঁকি একই মুদ্রার দুটি দিক। এআই মূল্যের নতুন উত্স উন্মুক্ত করে, তবে এটি নতুন ধরণের ঝুঁকিও প্রবর্তন করে যা ঐতিহ্যগত সফ্টওয়্যার বহন করে না। একজন সিনিয়র ম্যানেজারের জন্য, সমস্যাটি ঝুঁকি এড়ানোর জন্য নয়, কিন্তু সচেতনভাবে ঝুঁকি পরিচালনা করা (ঝুঁকি ব্যবস্থাপনা; ঝুঁকি সনাক্তকরণ, পরিমাপ করা, ঝুঁকি হ্রাস করা এবং তাদের গ্রহণযোগ্য সীমাতে রাখা)। এই ইউনিটে, আপনি AI এর জন্য নির্দিষ্ট ঝুঁকি, তাদের ব্যবসায়িক প্রভাব এবং ব্যবহারিক প্রশমন পদ্ধতি সম্পর্কে শিখবেন। উদ্দেশ্য "ঝুঁকি আছে বলে এটি করবেন না" বা "কোন ঝুঁকি নেই এমনভাবে কাজ করা" নয়; এটি একটি সচেতন ঝুঁকি ক্ষুধা সঙ্গে প্রতিটি উদ্যোগ বহন করা হয়; প্রতিষ্ঠানটি যে ঝুঁকি নিতে ইচ্ছুক।
এআই-নির্দিষ্ট ঝুঁকি
ঐতিহ্যগত আইটি ঝুঁকি (দুর্বলতা, বিভ্রাট) এখনও প্রযোজ্য; কিন্তু কৃত্রিম বুদ্ধিমত্তা তার নিজস্ব ঝুঁকি যোগ করে:
ঝুঁকির ধরন
মানে কি?
ব্যবসায়িক প্রভাবের উদাহরণ
হ্যালুসিনেশন
এটি তৈরি করা হয়েছিল তবে এটি বিশ্বাসযোগ্য হয়ে উঠেছে
গ্রাহকের কাছে ভুল তথ্য, আইনি দায়
কুসংস্কার
আউটপুট ডেটাতে অবিচারের প্রতিফলন
বৈষম্যমূলক নিয়োগ/ক্রেডিট সিদ্ধান্ত
তথ্য ফাঁস
গাড়ির মধ্যে গোপন তথ্য ফাঁস
KVKK লঙ্ঘন, খ্যাতি ক্ষতি
মডেল প্রবাহ
সময়ের সাথে সাথে কর্মক্ষমতার অবনতি
সিদ্ধান্তের শান্ত উল্টে যাওয়া
আসক্তি
একটি একক সরবরাহকারীর মধ্যে তালাবদ্ধ
মূল্য/অ্যাক্সেস শক
ব্যাখ্যাযোগ্যতা
সিদ্ধান্তের কারণ না জেনে
অডিট এবং আপত্তি অসুবিধা
দুটি শর্ত এখানে গুরুত্বপূর্ণ: পক্ষপাত হল যখন কৃত্রিম বুদ্ধিমত্তা প্রশিক্ষণের ডেটাতে অন্যায্য প্যাটার্ন শিখে এবং তাদের সিদ্ধান্তে প্রতিফলিত করে; উদাহরণস্বরূপ, যদি ঐতিহাসিক নিয়োগের ডেটা একটি গ্রুপের পক্ষে থাকে, মডেলটিও তা করে। মডেল ড্রিফ্ট হল যখন মডেলটি অপ্রচলিত হয়ে যায় এবং বিশ্বের পরিবর্তনের সাথে সাথে এর কার্যকারিতা নিঃশব্দে হ্রাস পায় (নতুন পণ্য, নতুন আচরণ)।
টিপ: "হতে পারে/ঘটবে না" এর পরিপ্রেক্ষিতে ঝুঁকির কথা ভাবুন না কিন্তু দুটি মাত্রায়: সম্ভাবনা (কতটা সম্ভব) এবং প্রভাব (যদি এটি ঘটে তবে কতটা ক্ষতি হয়)। উচ্চ প্রভাব + উচ্চ সম্ভাবনা আছে যারা আগে সম্বোধন করা হয়; যাদের কম+নিম্ন মান আছে তাদের গ্রহণ করা হয় এবং পর্যবেক্ষণ করা হয়।
ঝুঁকির মাত্রা অনুযায়ী নজরদারি
প্রতিটি ব্যবহারের ক্ষেত্রে একই ঝুঁকি বহন করে না। স্মার্ট পন্থা হল ঝুঁকির স্তরে নজরদারি তৈরি করা:
- কম ঝুঁকি (ইনসেট ড্রাফ্ট, ব্রেনস্টর্মিং): হালকা তদারকি, গতি অগ্রাধিকার।
- মাঝারি ঝুঁকি (গ্রাহকের বিষয়বস্তু, সিদ্ধান্ত সমর্থন): মানুষের অনুমোদন, নমুনা নিয়ন্ত্রণ।
- উচ্চ ঝুঁকি (ক্রেডিট, নিয়োগ, স্বাস্থ্য, আইনি): বাধ্যতামূলক মানব রায়, সম্পূর্ণ নিবন্ধন, নিয়মিত অডিট।
এই "ঝুঁকি-ভিত্তিক" পদ্ধতিটিও EU AI আইনের (ইউনিট 9) মেরুদণ্ড।
ধাপে ধাপে: ঝুঁকি ব্যবস্থাপনা চক্র
1. ঝুঁকি স্বীকৃতি. প্রতিটি উদ্যোগের জন্য AI-নির্দিষ্ট ঝুঁকির তালিকা করুন।
2. স্কোরের সম্ভাবনা এবং প্রভাব। প্রতিটি ঝুঁকিকে দুটি মাত্রায় মূল্যায়ন করুন এবং অগ্রাধিকার দিন।
3. প্রশমন পরিমাপ সংজ্ঞায়িত করুন। যেমন মানুষের অনুমোদন, ডেটা বেনামীকরণ, ট্র্যাকিং, সরবরাহকারী বৈচিত্র্যকরণ।
4. বাকি ঝুঁকি গ্রহণ বা বন্ধ করুন। হ্রাস করার পরে অবশিষ্ট ঝুঁকি গ্রহণ করা হয় যদি এটি ক্ষুধা মধ্যে থাকে; যদি না হয়, প্রচেষ্টা থেমে যায়।
5. দেখুন এবং পর্যালোচনা করুন. ঝুঁকি স্থির নয়; প্রবাহ এবং নতুন হুমকির জন্য অবিরাম পর্যবেক্ষণ অপরিহার্য।
তিনটি মিনি কেস
কেস 1 - হ্যালুসিনেশনের খরচ। একটি এয়ারলাইন্সের গ্রাহক চ্যাটবট একজন যাত্রীর জন্য একটি অস্তিত্বহীন ফেরত নীতি "তৈরি করে"; গ্রাহক এটি বিশ্বাস করে এবং লেনদেন করেছে। আদালত তার নিজের বটের ঘোষণার জন্য কোম্পানিকে দায়ী করেছে। পাঠ: গ্রাহকের কাছে এআই আউটপুট মাঝারি/উচ্চ ঝুঁকি; যাচাইকরণ এবং সীমাবদ্ধতা অপরিহার্য ছিল। বটটি তখন শুধুমাত্র অনুমোদিত নীতি পাঠ্য থেকে সাড়া দেওয়ার জন্য সীমাবদ্ধ ছিল।
কেস 2 - নীরব পক্ষপাত। ঐতিহাসিক তথ্যে ভারসাম্যহীনতার কারণে একটি কোম্পানির নিয়োগের স্ক্রীনিং মডেল পদ্ধতিগতভাবে নির্দিষ্ট স্কুল থেকে নিয়োগের পক্ষে। একটি নিরীক্ষায় পার্থক্যটি প্রকাশিত হয়েছিল; একটি সম্মানজনক এবং আইনি ঝুঁকি ছিল. মডেলটিকে সুরক্ষিত বৈশিষ্ট্য থেকে বিচ্ছিন্ন করা হয়েছে এবং নিয়মিত বিচার পর্যবেক্ষণের সাথে সংযুক্ত করা হয়েছে। শুরু থেকেই যদি পক্ষপাতিত্ব পরীক্ষা করা যেত, তাহলে এমনটা হতো না।
কেস 3 — ড্রিফ্ট এর ক্যাপচার। একটি নতুন জালিয়াতি প্যাটার্ন আবির্ভূত হলে একটি ব্যাংকের জালিয়াতি সনাক্তকরণ মডেলটি শান্তভাবে দুর্বল হয়ে পড়ে; মিস রেট 3 মাসে 8% থেকে 19% বেড়েছে। সুসংবাদ: সংস্থাটি মাসিক কর্মক্ষমতা নিরীক্ষণ প্রয়োগ করেছে, ড্রিফটটি প্রাথমিকভাবে সনাক্ত করা হয়েছিল এবং মডেলটিকে পুনরায় প্রশিক্ষণ দেওয়া হয়েছিল। মনিটরিং না হলে ক্ষতি বহুগুণ বেড়ে যেত।
চারটি অনুলিপিযোগ্য টেমপ্লেট
1) ঝুঁকি তালিকা:
আপনার ভূমিকা: এআই ঝুঁকি ব্যবস্থাপক। নিম্নলিখিত ব্যবহারের ক্ষেত্রে AI-নির্দিষ্ট ঝুঁকির তালিকা করুন: হ্যালুসিনেশন, পক্ষপাত, ডেটা ফাঁস, প্রবাহ, নির্ভরতা, ব্যাখ্যাযোগ্যতা। প্রতিটি ঝুঁকির জন্য, এই দৃশ্যে এর সম্ভাব্য প্রকাশ এবং ব্যবসায়িক প্রভাব এক বাক্যে লিখুন। ব্যবহারের এলাকা: [পাঠ্য]
2) সম্ভাব্যতা/ইমপ্যাক্ট স্কোরিং:
নিম্নলিখিত ঝুঁকিগুলিকে সম্ভাব্যতা (1-5) এবং প্রভাব (1-5) হিসাবে স্কোর এবং গুণ করে অগ্রাধিকার দিন। ব্যাখ্যা করুন কেন আপনি শীর্ষ তিনটি ঝুঁকিকে অগ্রাধিকার দেন। ঝুঁকি: [তালিকা]
3) প্রশমন পরিকল্পনা:
নিম্নলিখিত অগ্রাধিকার ঝুঁকির জন্য ব্যবহারিক প্রশমন ব্যবস্থা প্রস্তাব করুন: [ঝুঁকি]। প্রতিটি পরিমাপের জন্য: কী করতে হবে, কে দায়ী, ঝুঁকির কোন স্তরে বাধ্যতামূলক। যেখানে উপযুক্ত সেখানে মানব নজরদারি, ডেটা বেনামীকরণ, পর্যবেক্ষণ এবং সরবরাহকারী বৈচিত্র্য ব্যবহার করুন।
4) ঝুঁকি-ভিত্তিক নজরদারি ম্যাট্রিক্স:
ঝুঁকির স্তরে (নিম্ন/মাঝারি/উচ্চ) ব্যবহারের জন্য নিম্নলিখিত ক্ষেত্রগুলি বরাদ্দ করুন এবং প্রতিটি স্তরের জন্য প্রয়োজনীয় তদারকি নির্ধারণ করুন: মানুষের অনুমোদন কি প্রয়োজন, রেকর্ড রাখা হবে, পরিদর্শনের ফ্রিকোয়েন্সি কী? ব্যবহার: [তালিকা]
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল: "এই AI প্রকল্পের ঝুঁকিগুলি কী কী?"
উপসংহার: ঝুঁকির একটি সাধারণ তালিকা; সম্ভাবনা, প্রভাব এবং কোন প্রশমন, আপনি সিদ্ধান্ত নিতে পারবেন না.
Güçlü: "আমরা একটি ব্যাঙ্কে একটি ঋণ আবেদনের প্রাথমিক মূল্যায়নে AI ব্যবহার করব (মানুষই চূড়ান্ত সিদ্ধান্ত নেবে)। এই পরিস্থিতির জন্য নির্দিষ্ট ঝুঁকিগুলি তালিকাভুক্ত করুন (পক্ষপাত, অব্যক্ততা, হ্যালুসিনেশন, ডেটা গোপনীয়তা); সম্ভাব্যতা এবং প্রভাব দ্বারা প্রতিটি স্কোর করুন; কংক্রিট প্রশমন এবং তত্ত্বাবধানের পরামর্শ দিন। এছাড়াও এই তিনটি রাষ্ট্রের জন্য সবচেয়ে বেশি ঝুঁকি বিবেচনা করা প্রয়োজন।"
ফলাফল: একটি দৃশ্যকল্প-নির্দিষ্ট, স্কোর, প্রশমন এবং সম্মতি-সম্পর্কিত ঝুঁকি বিশ্লেষণ।
সাধারণ ভুল
- সমস্ত উদ্যোগের জন্য একই তত্ত্বাবধান প্রয়োগ করা। কম-ঝুঁকিপূর্ণ কাজকে ধীর করাটা উচ্চ-ঝুঁকির কাজকে অবহেলা করার মতোই ক্ষতিকর; নজরদারি ঝুঁকি স্তরের উপর ভিত্তি করে করা উচিত.
- হ্যালুসিনেশনকে "সামান্য ভুল" বলে ভুল করা। গ্রাহকের কাছে ভুল আউটপুট আইনি দায় হতে পারে।
- পক্ষপাতের জন্য পরীক্ষা না. ন্যায্যতা পরীক্ষা ছাড়াই মোতায়েন করা মডেল নীরব বৈষম্য তৈরি করতে পারে।
- ড্রিফ্ট দেখছেন না। একটি মডেল যা একবার ভাল কাজ করে তা চিরকাল ভাল কাজ করে না; অবিরাম পর্যবেক্ষণ প্রয়োজন.
- একটি একক সরবরাহকারী মধ্যে লকিং. একটি প্রস্থান পরিকল্পনা ছাড়া, আসক্তি আপনি মূল্য এবং অ্যাক্সেস শক খোলা রেখে.
সতর্কতা: ঝুঁকি ব্যবস্থাপনা একবার এবং সব জন্য নয়; কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলি জীবন্ত সিস্টেম। একটি মডেল আজ নিরাপদ বলেই আগামীকাল যে এটি নিরাপদ হবে তার নিশ্চয়তা দেয় না। ক্রমাগত পর্যবেক্ষণ, নিয়মিত পরিদর্শন এবং একটি পরিষ্কার কিল সুইচ প্রতিটি উচ্চ-ঝুঁকির সিস্টেমের অংশ হওয়া উচিত।
সংক্ষেপে
ঐতিহ্যগত আইটি ঝুঁকির উপরে, AI অনন্য ঝুঁকি যোগ করে যেমন হ্যালুসিনেশন, পক্ষপাতিত্ব, ডেটা ফাঁস, ড্রিফট, নির্ভরতা এবং অবর্ণনীয়তা। সম্ভাব্যতা এবং প্রভাবের পরিপ্রেক্ষিতে এই ঝুঁকিগুলি মূল্যায়ন করা উচিত এবং অগ্রাধিকার দেওয়া উচিত এবং প্রশমন ব্যবস্থা সহ প্রতিষ্ঠানের ঝুঁকির ক্ষুধার মধ্যে রাখা উচিত। নজরদারি অভিন্ন নয় কিন্তু ঝুঁকির মাত্রা অনুযায়ী হওয়া উচিত; উচ্চ-ঝুঁকিপূর্ণ সিদ্ধান্তে, লোকেদের চূড়ান্ত বলা উচিত। ঝুঁকি ব্যবস্থাপনা একটি ক্রমাগত চক্র; পর্যবেক্ষণ এবং নিয়ন্ত্রণ ছাড়া সম্পূর্ণ হয় না. পরবর্তী ইউনিটে, আমরা শাসন ও নীতি কাঠামো প্রতিষ্ঠা করব যা এই ঝুঁকি শৃঙ্খলাকে স্থায়ী করে তোলে।
আবেদন টাস্ক
একটি AI ব্যবহারের কেস চয়ন করুন এবং টেমপ্লেট 1 এর সাথে এর নির্দিষ্ট ঝুঁকিগুলি তালিকাভুক্ত করুন। তিনটি সবচেয়ে গুরুত্বপূর্ণ চিহ্নিত করে সম্ভাব্যতা এবং প্রভাব দ্বারা প্রতিটি ঝুঁকি স্কোর করুন। কংক্রিট প্রশমনের ব্যবস্থা এবং এই তিনটি ঝুঁকির জন্য প্রয়োজনীয় তদারকির স্তর লিখুন। অবশেষে, ব্যবহারকে নিম্ন/মাঝারি/উচ্চ ঝুঁকি হিসাবে শ্রেণীবদ্ধ করুন এবং নোট করুন যে এটি কীভাবে তদারকির প্রয়োজনীয়তাগুলিকে পরিবর্তন করে।
চেকলিস্ট
- [ ] আমি কৃত্রিম বুদ্ধিমত্তার পরিস্থিতি-নির্দিষ্ট ঝুঁকির তালিকা করেছি।
- আমি সম্ভাব্যতা এবং প্রভাব দ্বারা প্রতিটি ঝুঁকি স্কোর.
- আমি সবচেয়ে জটিল ঝুঁকির জন্য প্রশমন ব্যবস্থা সংজ্ঞায়িত করেছি।
- [ ] আমি ঝুঁকির মাত্রা অনুযায়ী ব্যবহারের এলাকা শ্রেণীবদ্ধ করেছি।
- [ ] আমি ঝুঁকির মাত্রা অনুযায়ী নজরদারি সামঞ্জস্য করেছি।
- আমি পক্ষপাতিত্ব এবং প্রবাহের জন্য পরীক্ষা/নিরীক্ষণের পরিকল্পনা করেছি।
- আমি উচ্চ ঝুঁকি ব্যবস্থার জন্য স্টপিং অথরিটি সেট করেছি।