লাভ:
- মূল্য এবং আন্ডাররাইটিং-এ বৈষম্য, পক্ষপাত এবং পরোক্ষ বৈষম্যের ঝুঁকি চিনতে এবং কৃত্রিম বুদ্ধিমত্তা আউটপুটে পরীক্ষা করার ক্ষমতা
- SEDDK প্রবিধান, KVKK এবং স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণের নীতিগুলির কাঠামোর মধ্যে ব্যাখ্যাযোগ্যতা এবং আপত্তির অধিকার পর্যবেক্ষণ করার ক্ষমতা
- উচ্চ ঝুঁকিপূর্ণ স্বয়ংক্রিয় সিদ্ধান্তে মানুষের নিয়ন্ত্রণ এবং ন্যায্যতা বাধ্যবাধকতা প্রয়োগ করার ক্ষমতা
বীমা এমন একটি ব্যবসা যা গ্রুপ এবং মূল্য ঝুঁকি; কিন্তু এই গ্রুপিং ন্যায্য হতে হবে. কোনো ব্যক্তিকে উচ্চ প্রিমিয়াম দেওয়া বা তাদের লিঙ্গ, জাতি, বিশ্বাস, বসবাসের অঞ্চলের মতো সুরক্ষিত বৈশিষ্ট্যের কারণে কভারেজ অস্বীকার করা অন্যায্য বৈষম্য এবং এটি নিষিদ্ধ। কৃত্রিম বুদ্ধিমত্তা (সফ্টওয়্যার যা ঐতিহাসিক ডেটা থেকে শেখে এবং মূল্য এবং সিদ্ধান্তের সুপারিশ তৈরি করে) এই ক্ষেত্রে একটি বিশেষ বিপদ ডেকে আনে: এটি ঐতিহাসিক ডেটাতে অন্যায্য নিদর্শন শিখতে পারে এবং অনিচ্ছাকৃতভাবে স্থায়ী বা এমনকি বৈষম্য লুকিয়ে রাখতে পারে। অধিকন্তু, এটি সরাসরি নয় কিন্তু পরোক্ষভাবে (একটি প্রক্সি ভেরিয়েবলের মাধ্যমে) এটি করতে পারে। এই ইউনিটে, আপনি শিখবেন কীভাবে মূল্য নির্ধারণ এবং আন্ডাররাইটিংয়ের ক্ষেত্রে পক্ষপাত ও বৈষম্যের ঝুঁকিগুলিকে চিনতে হয়, কীভাবে ন্যায্যতার জন্য কৃত্রিম বুদ্ধিমত্তার আউটপুট পরীক্ষা করতে হয় এবং কীভাবে SEDDK (বীমা এবং ব্যক্তিগত পেনশন নিয়ন্ত্রণ ও তত্ত্বাবধান এজেন্সি), KVKK-এর কাঠামোর মধ্যে ব্যাখ্যাযোগ্যতা এবং আপত্তির অধিকার পালন করতে হয় এবং স্বয়ংক্রিয় সিদ্ধান্তের নীতি। এই ইউনিট একটি আইনি পরামর্শ নয়; এটি সাধারণ নীতিগুলি ব্যাখ্যা করে, যে কোনও নির্দিষ্ট ক্ষেত্রে, আইনি/সম্মতি ইউনিটের সাথে পরামর্শ করতে ভুলবেন না।
কুসংস্কার এবং বৈষম্য কোথা থেকে আসে?
এআই পক্ষপাত তিনটি প্রধান উত্স থেকে উদ্ভূত হয়:
- ডেটা পক্ষপাত: মডেলটি ঐতিহাসিক ডেটাতে অন্যায় সম্পর্কে শেখে। উদাহরণস্বরূপ, যদি একটি নির্দিষ্ট গোষ্ঠীকে অতীতে নিয়মতান্ত্রিকভাবে উচ্চ প্রিমিয়াম দেওয়া হয়, মডেলটি এটিকে "স্বাভাবিক" হিসাবে বিবেচনা করে।
- সারোগেট ভেরিয়েবল (প্রক্সি): এমনকি মডেলটি সরাসরি সুরক্ষিত বৈশিষ্ট্য (লিঙ্গ, উত্স) ব্যবহার না করলেও, এটি একটি ভেরিয়েবল ব্যবহার করে পরোক্ষভাবে বৈষম্য করে যা এটির সাথে দৃঢ়ভাবে সম্পর্কিত (প্রতিবেশী, নাম, শপিং প্যাটার্ন)।
- স্যাম্পলিং পক্ষপাত: যেহেতু কিছু গোষ্ঠী ডেটাতে উপস্থাপিত হয়, মডেল তাদের সম্পর্কে অবিশ্বস্ত এবং অন্যায্য রায় তৈরি করে।
বৈষম্য দুই প্রকার। প্রত্যক্ষ বৈষম্য: একটি সুরক্ষিত বৈশিষ্ট্যের নির্লজ্জ ব্যবহার। পরোক্ষ বৈষম্য: যখন একটি আপাতদৃষ্টিতে নিরপেক্ষ মানদণ্ড অসমতলভাবে একটি নির্দিষ্ট গোষ্ঠীকে প্রভাবিত করে। দ্বিতীয়টি আরও প্রতারক কারণ এটি উদ্দেশ্য ছাড়াই ঘটে এবং সনাক্ত করা কঠিন।
সতর্কতা: প্রতিরক্ষা যে "মডেলটি পরিসংখ্যানের উপর ভিত্তি করে, তাই এটি উদ্দেশ্যমূলক" ভুল। পরিসংখ্যান অতীতের অন্যায়ও অন্তর্ভুক্ত; মডেল এটিকে বৈধতা দেয় না, এটি স্থায়ী করে। ন্যায্যতা এমন কিছু যা সক্রিয়ভাবে পরীক্ষা করা দরকার।
ন্যায্যতার জন্য পরীক্ষা আউটপুট
ন্যায্যতার জন্য তিনটি প্রশ্ন সহ AI আউটপুট (মূল্য সুপারিশ, প্রত্যাখ্যানের কারণ, ঝুঁকি স্কোর) পরীক্ষা করুন:
- কারণটি কি বৈধ? সিদ্ধান্তটি কি সেই মানদণ্ডের উপর ভিত্তি করে যা ঝুঁকির সাথে একটি বাস্তব এবং ন্যায়সঙ্গত সম্পর্ক রয়েছে, নাকি সুরক্ষিত সম্পত্তি বা এর প্রক্সির উপর?
- একটি প্রক্সি আছে? ব্যবহৃত ভেরিয়েবলগুলির একটি (প্রতিবেশী, নাম, পেশা, বৈবাহিক অবস্থা) একটি সুরক্ষিত বৈশিষ্ট্যের সাথে দৃঢ়ভাবে যুক্ত হতে পারে?
- এটা ব্যাখ্যা করা যাবে? আপনি কি ক্লায়েন্ট এবং অডিটরকে একটি পরিষ্কার এবং প্রতিরক্ষামূলক পদ্ধতিতে সিদ্ধান্ত ব্যাখ্যা করতে পারেন? "মডেল তাই বলেছে" একটি বিবৃতি নয়.
যদি একটি ন্যায্যতা এই তিনটি পরীক্ষায় উত্তীর্ণ না হয়, তবে এটি প্রত্যাখ্যান করা হয় এবং সিদ্ধান্তটি বৈধ মানদণ্ডের উপর ভিত্তি করে।
টিপ: এই বাক্যটি দিয়ে প্রত্যাখ্যান বা উচ্চ প্রিমিয়ামের যৌক্তিকতা পরীক্ষা করুন: "আমি যদি ক্লায়েন্ট এবং একজন অডিটরকে এটি ব্যাখ্যা করি তবে আমি কি বিব্রত হব?" একটি লজ্জাজনক বা অপ্রতিরোধ্য ন্যায্যতা (প্রতিবেশী, নাম, উত্স) ব্যবহার করা উচিত নয়।
আইনী কাঠামো: SEDDK, KVKK, স্বয়ংক্রিয় সিদ্ধান্ত
বীমায় কৃত্রিম বুদ্ধিমত্তার ব্যবহার বিভিন্ন প্রবিধান সাপেক্ষে। প্রধান নীতি:
- SEDDK নীতিগুলি: বীমা কার্যক্রম একটি ন্যায্য, স্বচ্ছ এবং ভোক্তা-সুরক্ষামূলক পদ্ধতিতে পরিচালিত হওয়া উচিত; মূল্য অবশ্যই ন্যায়সঙ্গত হতে হবে এবং কোন অন্যায় বৈষম্য থাকতে হবে না।
- KVKK: ব্যক্তিগত তথ্য আইন অনুযায়ী প্রক্রিয়া করা আবশ্যক, উদ্দেশ্য এবং নিরাপদে সীমাবদ্ধ। বিশেষ তথ্য, যেমন স্বাস্থ্য, সর্বোচ্চ সুরক্ষা সাপেক্ষে।
- স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণের নীতিগুলি: যে সিদ্ধান্তগুলি শুধুমাত্র স্বয়ংক্রিয় প্রক্রিয়াকরণের উপর ভিত্তি করে এবং উল্লেখযোগ্যভাবে ব্যক্তিকে প্রভাবিত করে (উদাহরণস্বরূপ, শুধুমাত্র কৃত্রিম বুদ্ধিমত্তা দ্বারা প্রত্যাখ্যান করা), ব্যক্তি; সিদ্ধান্তের বিরুদ্ধে আপত্তি জানানো, মানুষের হস্তক্ষেপের অনুরোধ জানানো এবং সিদ্ধান্তের যৌক্তিকতা শেখার অধিকারগুলি সামনে আসে।
অতএব, ব্যাখ্যাযোগ্যতা, মানুষের নিয়ন্ত্রণ এবং ন্যায্যতা উচ্চ-প্রভাবিত সিদ্ধান্তগুলিতে অপরিহার্য। একটি "ব্ল্যাক বক্স" মডেলের অযৌক্তিক সিদ্ধান্ত উভয়ই অনিয়ন্ত্রিত এবং এই অধিকারগুলির সাথে সাংঘর্ষিক।
ধাপে ধাপে: ন্যায্য এবং সুরেলা সিদ্ধান্ত
- সুরক্ষিত বৈশিষ্ট্য সনাক্ত করুন। লিঙ্গ, উত্স, বিশ্বাস, স্বাস্থ্য, বসবাসের অঞ্চল ইত্যাদি
- একটি প্রক্সি স্ক্যান করুন। সুরক্ষিত বৈশিষ্ট্যের সাথে ব্যবহৃত ভেরিয়েবলের সম্পর্ক নিয়ে প্রশ্ন করুন।
- বৈধতার পরীক্ষায় ন্যায্যতা রাখুন। ঝুঁকি সঙ্গে একটি বাস্তব সম্পর্ক আছে? এটা ব্যাখ্যা করা যাবে?
- মানুষের নিয়ন্ত্রণ যোগ করুন। একজন মানুষকে উচ্চ-প্রভাবিত সিদ্ধান্তে স্বয়ংক্রিয় ফলাফল পর্যালোচনা করতে দিন।
- যুক্তি দলিল. সিদ্ধান্তটি কোন বৈধ মানদণ্ডের ভিত্তিতে ছিল তা রেকর্ড করুন।
- আপিল করার উপায় জেনে নিন। গ্রাহককে আপত্তি করার অধিকার, মানবিক পর্যালোচনা এবং ন্যায্যতা প্রদান করুন।
তিনটি মিনি কেস
কেস 1 - প্রক্সি প্রত্যাখ্যান করা। একটি আবাসন মূল্যের মডেল একটি নির্দিষ্ট জিপ কোডের জন্য একটি পদ্ধতিগতভাবে উচ্চ প্রিমিয়ামের পরামর্শ দিয়েছে৷ বিশেষজ্ঞ পরীক্ষা করেছেন: পোস্টকোড একটি নির্দিষ্ট জাতিগত ঘনত্ব সহ একটি এলাকার সাথে ওভারল্যাপ করা হয়েছে; এটি একটি প্রক্সি ভেরিয়েবল ছিল। যখন প্রকৃত ঝুঁকি (বিল্ডিং বয়স, কাঠামোর ধরন, ক্ষতির ইতিহাস) ভেঙে ফেলা হয়, তখন বেশিরভাগ বৃদ্ধি আর যুক্তিযুক্ত হয় না। বৈধ ঝুঁকির মানদণ্ডের ভিত্তিতে মূল্য পুনঃস্থাপন করা হয়েছে।
কেস 2 - উপস্থাপিত গ্রুপ। একটি স্বাস্থ্যসেবা পণ্যের জন্য, মডেলটি একটি ছোট বয়সের জন্য একটি অত্যধিক উচ্চ প্রিমিয়াম অফার করে। কারণ: এই গোষ্ঠীটিকে ডেটাতে এতটাই কম উপস্থাপন করা হয়েছিল যে কয়েকটি উচ্চ ক্ষয়ক্ষতির কারণে পুরো গোষ্ঠীটিকে "ঝুঁকিতে" দেখানো হয়েছিল। বিশেষজ্ঞ একটি বিশ্বাসযোগ্যতা (পরিসংখ্যানগত নির্ভরযোগ্যতা) সংশোধন করেছেন এবং নথিভুক্ত করেছেন যে সুপারিশটি অবিশ্বস্ত ছিল; অন্যায্য বৃদ্ধি প্রয়োগ করা হয়নি.
কেস 3 - আপত্তি করার অধিকার। একটি এআই-চালিত স্কোর সহ একটি আবেদন স্বয়ংক্রিয়ভাবে প্রত্যাখ্যান করা হয়েছিল। গ্রাহক আপত্তি জানায়। অভিযোজন প্রক্রিয়ার অংশ হিসাবে, সিদ্ধান্তটি একজন বিশেষজ্ঞ দ্বারা পুনরায় পরীক্ষা করা হয়েছিল; স্কোরটি অনুপস্থিত ডেটার উপর ভিত্তি করে বলে মনে হয়েছে (অমিল অতীতের ক্ষতি)। সিদ্ধান্ত সংশোধন করা হয়েছে। মানুষের নিয়ন্ত্রণ এবং আপত্তি করার অধিকার ছাড়া, অন্যায্য প্রত্যাখ্যান স্থায়ী হবে।
চারটি অনুলিপিযোগ্য প্রম্পট
1) প্রক্সি এবং বৈষম্য স্ক্যানিং:
ন্যায্যতার জন্য নিম্নলিখিত মূল্য/সিদ্ধান্তের ন্যায্যতা পরীক্ষা করুন: [ন্যায়ত্ব] সন্ধান করুন: সুরক্ষিত বৈশিষ্ট্য (লিঙ্গ, উত্স, বিশ্বাস, স্বাস্থ্য, বসবাসের অঞ্চল) প্রত্যক্ষ বা পরোক্ষভাবে ব্যবহৃত হয় (প্রক্সি: প্রতিবেশী, নাম, পেশা, ইত্যাদি)? প্রতিটি সন্দেহজনক পরিবর্তনশীলের জন্য, কেন এটি একটি প্রক্সি হতে পারে তা ব্যাখ্যা করুন এবং একটি বৈধ বিকল্প প্রস্তাব করুন৷
2) ন্যায্যতা বৈধতা পরীক্ষা:
তিনটি প্রশ্ন সহ নিম্নলিখিত অস্বীকৃতি/উচ্চ বোনাস যৌক্তিকতা পরীক্ষা করুন: [যৌক্তিকতা]1. ঝুঁকির সাথে কি একটি বাস্তব এবং ন্যায্য সম্পর্ক আছে? 2. এটি কি সুরক্ষিত সম্পত্তি বা এর প্রক্সির উপর ভিত্তি করে? এটি কি ক্লায়েন্ট এবং অডিটরকে ব্যাখ্যা করা যেতে পারে? প্রতিটি প্রশ্নের স্পষ্ট উত্তর দিন; পরীক্ষায় উত্তীর্ণ না হওয়ার কারণটিকে "প্রত্যাখ্যান" হিসাবে চিহ্নিত করুন।
3) ব্যাখ্যাযোগ্য ন্যায্যতা খসড়া:
নিম্নলিখিত যাচাইকৃত, বৈধ ঝুঁকির মানদণ্ডের উপর ভিত্তি করে সিদ্ধান্তের জন্য ক্লায়েন্টের কাছে একটি স্পষ্ট যুক্তি খসড়া করুন: [বৈধ মানদণ্ড] স্বর: সম্মানজনক, পরিষ্কার। সুরক্ষিত সম্পত্তি/প্রক্সি ব্যবহার করা। আপত্তি করার এবং মানবিক পর্যালোচনার অনুরোধ করার গ্রাহকের অধিকারের কথা বলুন। এটি একটি খসড়া; বিশেষজ্ঞ নিশ্চিত করে।
4) মানব পরিদর্শন চেকলিস্ট:
একটি উচ্চ-প্রভাবিত স্বয়ংক্রিয় সিদ্ধান্তের জন্য একটি মানব অডিট চেকলিস্ট তৈরি করুন:সিদ্ধান্তের ধরন: [প্রত্যাখ্যান/উচ্চ প্রিমিয়াম/সমর্থক সীমাবদ্ধতা] তালিকা: যোগ্য বিশেষজ্ঞ পর্যালোচনা, ডেটা চেক করা, ন্যায্যতা/প্রক্সিকন্ট্রোল, ন্যায্যতা নথি, গ্রাহক আপিল বিজ্ঞপ্তি, ট্রেল রেকর্ড।
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল: "এই ডেটা দিয়ে সবচেয়ে লাভজনক মূল্য নির্ধারণ করুন এবং ন্যায্যতা লিখুন।"
সমস্যা: ন্যায্যতা, প্রক্সি এবং ব্যাখ্যাযোগ্যতাকে সম্মান করা হয় না; মডেলটি অতীতের বৈষম্যকে স্থায়ী ও ন্যায্যতা দিতে পারে।
শক্তিশালী: "প্রক্সি এবং বৈষম্যের জন্য এই ন্যায্যতা পরীক্ষা করুন; ফ্ল্যাগ পয়েন্ট যা সুরক্ষিত বৈশিষ্ট্য বা এর প্রক্সির উপর নির্ভর করে এবং বৈধ ঝুঁকির মাপকাঠি দিয়ে প্রতিস্থাপন করুন। একটি ব্যাখ্যাযোগ্য ন্যায্যতার রূপরেখা করুন।"
কেন এটি ভাল: বৈষম্য সক্রিয়ভাবে পরীক্ষা করা হয়, সিদ্ধান্তটি বৈধ এবং ব্যাখ্যাযোগ্য মানদণ্ডের উপর ভিত্তি করে।
তুলনা চার্ট
বিষয়
ঝুঁকিপূর্ণ পদ্ধতি
সঠিক পদ্ধতি
মডেল আউটপুট
"পরিসংখ্যান উদ্দেশ্যমূলক"
সক্রিয়ভাবে ন্যায়বিচার পরীক্ষা
পরিবর্তনশীল নির্বাচন
প্রতিটি ডেটা ব্যবহার করুন
প্রক্সি এক্সট্র্যাক্ট করুন
ন্যায্যতা
"এমনটাই বললেন মডেল"
বৈধ, ব্যাখ্যাযোগ্য মানদণ্ড
উচ্চ প্রভাব সিদ্ধান্ত
সম্পূর্ণ স্বয়ংক্রিয়
মানুষের তত্ত্বাবধান বাধ্যতামূলক
গ্রাহকের অধিকার
রিপোর্ট করা হয়নি
আপত্তি + মানবিক পর্যালোচনা + ন্যায্যতা
সাধারণ ভুল
- "পরিসংখ্যান বস্তুনিষ্ঠ" প্রতিরক্ষা. অতীতের অন্যায়কে জায়েজ করা।
- প্রক্সি উপেক্ষা করা. প্রতিবেশী/নাম/পেশার ভিত্তিতে পরোক্ষ বৈষম্য।
- অপ্রস্তুত গোষ্ঠীর জন্য অবিশ্বস্ত সিদ্ধান্ত। ধরে নিচ্ছি যে একটি ছোট নমুনা থেকে প্রাপ্ত হার সঠিক।
- ব্ল্যাক বক্সের সিদ্ধান্ত। একটি স্বয়ংক্রিয় সিদ্ধান্ত বাস্তবায়ন করা যার জন্য কারণ ব্যাখ্যা করা যাবে না।
- আপত্তি করার অধিকারকে স্বীকৃতি না দেওয়া। গ্রাহককে মানবিক পর্যালোচনা এবং ন্যায্যতার অধিকার না দেওয়া।
সংক্ষেপে
কৃত্রিম বুদ্ধিমত্তা ঐতিহাসিক তথ্যে বৈষম্য শিখতে পারে এবং মূল্য এবং আন্ডাররাইটিং এর ক্ষেত্রে পরোক্ষভাবে (প্রক্সির মাধ্যমে) এটি চালিয়ে যেতে পারে। সক্রিয়ভাবে ন্যায্যতা পরীক্ষা করুন: সুরক্ষিত বৈশিষ্ট্য এবং প্রক্সি সনাক্ত করুন, বৈধতা এবং ব্যাখ্যাযোগ্যতার জন্য ন্যায্যতা পরীক্ষা করুন। SEDDK, KVKK এবং স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণের নীতি; ন্যায্য মূল্যের জন্য ব্যাখ্যাযোগ্যতা, মানুষের পর্যালোচনা এবং আপত্তি করার অধিকার প্রয়োজন। উচ্চ-প্রভাবিত সিদ্ধান্তে মানুষের নিয়ন্ত্রণ অপরিহার্য। নির্দিষ্ট ক্ষেত্রে, আইনি/সম্মতি বিভাগের সাথে পরামর্শ করুন; বৈষম্য লাল রেখা।
আবেদন টাস্ক
একটি মূল্য মডেল ব্যবহার করে 10টি ভেরিয়েবলের একটি তালিকা লিখুন (প্রকৃত বা উদাহরণ)। প্রত্যেকের জন্য, "এটি কি সুরক্ষিত সম্পত্তির জন্য একটি প্রক্সি হতে পারে" প্রশ্নের উত্তর দিন; সন্দেহজনকদের ফ্ল্যাগ করুন। তারপরে বৈধতা পরীক্ষা #2 এর মাধ্যমে একটি নমুনা প্রত্যাখ্যানের ন্যায্যতা রাখুন: এটি কি পরীক্ষায় উত্তীর্ণ হয়, এবং যদি না হয়, তাহলে আপনি কীভাবে এটিকে একটি বৈধ মানদণ্ড দিয়ে প্রতিস্থাপন করবেন?
চেকলিস্ট
- [] আমি সুরক্ষিত বৈশিষ্ট্য উল্লেখ করেছি।
- [ ] আমি প্রক্সির জন্য ভেরিয়েবল স্ক্যান করেছি।
- আমি বৈধতা এবং ব্যাখ্যাযোগ্যতার পরীক্ষায় ন্যায্যতা রেখেছি।
- [ ] আমি কম প্রতিনিধিত্বকারী গোষ্ঠীগুলির জন্য নির্ভরযোগ্যতা পরীক্ষা করেছি৷
- [ ] আমি উচ্চ প্রভাবের সিদ্ধান্তে মানব নিয়ন্ত্রণ যুক্ত করেছি।
- [ ] আমি যৌক্তিকতা নথিভুক্ত করেছি এবং গ্রাহককে আপত্তি/মানব পর্যালোচনা করার অধিকার দিয়েছি।
- [] সন্দেহ হলে, আমি আইনি/সম্মতি বিভাগের সাথে পরামর্শ করেছি।