ইউনিট
1. জনপ্রশাসনে কৃত্রিম বুদ্ধিমত্তার ভূমিকা: ভূমিকা, সীমানা, যাচাইকরণ এবং পাবলিক এথিক্স 2. নাগরিক পরিষেবা এবং চ্যাটবট: 24/7 অ্যাক্সেসযোগ্য, সঠিক এবং ন্যায্য পরিষেবা 3. পিটিশন, অফিসিয়াল চিঠিপত্র এবং প্রশাসনিক পাঠ্য: খসড়া থেকে অনুমোদন পর্যন্ত 4. আইনী গবেষণা এবং যাচাইকরণ: আইন, নিয়ন্ত্রণ, মামলা আইন 5. নীতি বিশ্লেষণ এবং প্রভাব মূল্যায়ন 6. রিপোর্ট লেখা এবং কর্পোরেট নথি উত্পাদন 7. ডেটা-ভিত্তিক সিদ্ধান্ত এবং পাবলিক ডেটা বিশ্লেষণ 8. ই-গভর্নমেন্ট এবং প্রক্রিয়া অটোমেশন: অ্যাপ্লিকেশন থেকে ফলাফল পর্যন্ত 9. স্বচ্ছতা, উন্মুক্ত ডেটা এবং তথ্য অ্যাক্সেস 10. ন্যায্যতা, বৈষম্য এবং অ্যালগরিদমিক জবাবদিহিতা 11. KVKK, গোপনীয়তা এবং দায়িত্বশীল পাবলিক কৃত্রিম বুদ্ধিমত্তা শাসন
ইউনিট 10 / 11

ন্যায্যতা, বৈষম্য এবং অ্যালগরিদমিক জবাবদিহিতা

লাভ:

  • এটি অ্যালগরিদমিক পক্ষপাতের ডেটা, ডিজাইন এবং ব্যবহারের উত্সগুলিকে স্বীকৃতি দেয় এবং একটি গ্রুপ ভিত্তিতে আউটপুট পরীক্ষা করে।
  • ব্যাখ্যা করে কিভাবে ফিডব্যাক লুপ এবং উপস্থাপনা ত্রুটি অসমতাকে বড় করে এবং প্রভাব নিয়ন্ত্রণ প্রতিষ্ঠা করে।
  • এটি প্রতিটি স্বয়ংক্রিয় সিদ্ধান্তে ব্যাখ্যাযোগ্যতা এবং আপিল নিশ্চিত করে জবাবদিহিতা নিশ্চিত করে।

জনসাধারণকে অবশ্যই তার ক্ষমতা সবার জন্য সমানভাবে প্রয়োগ করতে হবে: একই পরিস্থিতিতে দুই নাগরিকের সাথে একই আচরণ, বিভিন্ন পরিস্থিতিতে আনুপাতিক পার্থক্য। সমতার এই নীতি একটি সাংবিধানিক বাধ্যবাধকতা। কৃত্রিম বুদ্ধিমত্তা এই ক্ষেত্রের উন্নতি করতে পারে এবং শান্তভাবে ব্যাহত করতে পারে। এটি উন্নতি করতে পারে কারণ একটি ধারাবাহিকভাবে প্রয়োগ করা নিয়ম স্বেচ্ছাচারিতা এবং মানুষের পক্ষপাত কমাতে পারে। এটি দূষিত হতে পারে কারণ এআই মডেলগুলি অতীতের ডেটা থেকে শেখে এবং অতীতের ডেটা অতীতের বৈষম্য বহন করে। যদি একটি সিস্টেমকে এমন ডেটার উপর প্রশিক্ষিত করা হয় যা ঐতিহাসিকভাবে একটি নির্দিষ্ট গোষ্ঠীকে ক্ষতিগ্রস্থ করেছে, তবে এটি সেই অসুবিধাটিকে ভবিষ্যতে বহন করে-এবং এমন একটি ফর্ম যা সনাক্ত করা আরও কঠিন, একটি "উদ্দেশ্য অ্যালগরিদম" এর আড়ালে। এই ইউনিটে, আপনি শিখবেন কীভাবে অ্যালগরিদমিক পক্ষপাত (নির্দিষ্ট গোষ্ঠীর বিরুদ্ধে মডেল আউটপুটের পদ্ধতিগত পক্ষপাত) সরকারী ক্ষেত্রে AI ব্যবহার করার সময়, কীভাবে এটি হ্রাস করা যায় এবং সবচেয়ে গুরুত্বপূর্ণভাবে, কীভাবে অ্যালগরিদমিক জবাবদিহিতা নিশ্চিত করা যায় (একটি স্বয়ংক্রিয় সিদ্ধান্তের যুক্তি ব্যাখ্যাযোগ্য, নিরীক্ষাযোগ্য এবং প্রতিদ্বন্দ্বিতাযোগ্য)।

পক্ষপাত কোথা থেকে আসে?

অ্যালগরিদমিক পক্ষপাতের বেশ কয়েকটি উত্স রয়েছে এবং সেগুলির সমস্তই জনসাধারণের মধ্যে ঝুঁকিপূর্ণ:

  • ঐতিহাসিক পক্ষপাত: প্রশিক্ষণের তথ্য অতীতের অসমতা ধারণ করে। উদাহরণস্বরূপ, যদি একটি এলাকায় অতীতে কম পরিষেবা থাকে, "চাহিদা ডেটা" সেই এলাকাটিকে কম চাহিদা হিসাবে দেখাতে পারে — যখন আসলে চাহিদা কম ছিল কারণ কোনও পরিষেবা ছিল না৷
  • প্রতিনিধিত্বের পক্ষপাতিত্ব: কিছু গোষ্ঠীকে ডেটাতে উপস্থাপিত করা হয়েছে (যাদের ডিজিটাল অ্যাক্সেস নেই, সংখ্যালঘু ভাষা গোষ্ঠী) এবং মডেল তাদের জন্য খারাপভাবে কাজ করে।
  • প্রক্সি পক্ষপাত: এমনকি যদি মডেলটি সরাসরি একটি নিষিদ্ধ মাপকাঠি (জাতিগত, ধর্ম) না দেখে তবে এটি এর সাথে যুক্ত একটি প্রক্সি (প্রতিবেশী, নাম, জিপ কোড) দেখে একই বৈষম্য তৈরি করতে পারে।
  • পরিমাপের পক্ষপাত: আমরা যা পরিমাপ করি তা আসলে আমরা যা পরিমাপ করতে চাই তা নয়। "অভিযোগের সংখ্যা" প্রয়োজনের চেয়ে অভিযোগ করার ক্ষমতা পরিমাপ করে।
সতর্কতা: "আমি মডেল থেকে সংবেদনশীল তথ্য (লিঙ্গ, জাতিগত) সরিয়ে দিয়েছি, এখন এটি ন্যায্য" বলা বিভ্রান্তিকর। প্রক্সি ভেরিয়েবলের মাধ্যমে বৈষম্য চলতে পারে। ইনপুট মুছে ফেলার মাধ্যমে নয়, গোষ্ঠীর মধ্যে আউটপুট পরীক্ষা করে ন্যায্যতা অর্জন করা হয়।

ন্যায্যতা পরীক্ষা করা: আউটপুট দেখুন

একটি সিস্টেম ন্যায্য কি না তা তার ফলাফল দেখে বোঝা যায়, তার উদ্দেশ্য নয়। মৌলিক পদ্ধতি: সিদ্ধান্তকে দলে ভাগ করুন এবং তুলনা করুন। আউটপুট যেমন গ্রহণ/প্রত্যাখ্যান হার, ত্রুটির হার, অপেক্ষার সময় বিভিন্ন গোষ্ঠীর (লিঙ্গ, বয়স, অঞ্চল, আয়) মধ্যে উল্লেখযোগ্যভাবে আলাদা? যদি কোন পার্থক্য থাকে তবে এই পার্থক্যটি কি কোন বৈধ কারণের উপর ভিত্তি করে নাকি এটি বৈষম্য? যেহেতু এই বিশ্লেষণের জন্য ব্যক্তিগত ডেটার প্রয়োজন হতে পারে, তাই এটি অবশ্যই KVKK-এর সাথে একত্রিত এবং বাহিত হতে হবে।

টিপ: একটি নতুন এআই-চালিত সিদ্ধান্ত ব্যবস্থা চালু করার আগে, জনসংখ্যার গোষ্ঠীগুলির দ্বারা এর সিদ্ধান্তগুলি ভেঙে দিন এবং একটি "ন্যায্যতা প্রতিবেদন" তৈরি করুন। আপনি যদি একটি পার্থক্য খুঁজে পান, "এই পার্থক্য ব্যাখ্যা করা যাবে?" প্রশ্নটি মানুষের একটি কমিটির কাছে নিয়ে যান।

ব্যাখ্যাযোগ্যতা এবং আবেদন: জবাবদিহিতার হৃদয়

পাবলিক সেক্টরে, কোনও নাগরিককে তার অধিকার থেকে বঞ্চিত করা যাবে না উত্তর দিয়ে "ব্যবস্থা তাই সিদ্ধান্ত নিয়েছে।" প্রতিটি স্বয়ংক্রিয় বা এআই-সহায়তা সিদ্ধান্তের জন্য, তিনটি জিনিস নিশ্চিত করতে হবে:

  1. ব্যাখ্যাযোগ্যতা: সিদ্ধান্তটি কিসের ভিত্তিতে ছিল, কোন কারণগুলি কার্যকর ছিল, তা সরল ভাষায় ব্যাখ্যা করা উচিত।
  2. আপিল করার উপায়: নাগরিকদের সিদ্ধান্তে আপত্তি জানাতে সক্ষম হওয়া উচিত এবং একজন মানুষকে এটি পর্যালোচনা করতে বলা উচিত।
  3. অডিট ট্রেইল: কোন ডেটা, কোন মডেল/সংস্করণ এবং কোন দায়িত্বশীল ব্যক্তির সাথে সিদ্ধান্ত নেওয়া হয়েছে তা রেকর্ড করা উচিত।

তিনটি মিনি কেস

কেস 1 — সারোগেট বৈকল্পিক ক্যাপচার করা হয়েছে। একটি সাহায্য অগ্রাধিকার মডেল সংবেদনশীল ডেটা ব্যবহার করেনি কিন্তু "জিপ কোড" দেখেছে। ন্যায্যতা পরীক্ষায়, নির্দিষ্ট কিছু এলাকাকে পদ্ধতিগতভাবে কম অগ্রাধিকার পাওয়া গেছে — জিপ কোড, আয় এবং জাতিগত ঘনত্বের সাথে সম্পর্কযুক্ত। পরিবর্তনশীলটি সরানো হয়েছে এবং অগ্রাধিকারটি সরাসরি প্রয়োজন সূচকের সাথে সংযুক্ত করা হয়েছে।

কেস 2 — প্রতিনিধিত্বের ফাঁক। একটি চ্যাটবট একটি অ-তুর্কি স্থানীয় ভাষা সহ নাগরিকদের কাছ থেকে প্রশ্ন বিভ্রান্ত করার সম্ভাবনা 41% বেশি ছিল; প্রশিক্ষণের তথ্যে এই গোষ্ঠীর সামান্যই ছিল। যখন বহুভাষিক সমর্থন এবং মানব হস্তান্তর থ্রেশহোল্ড যোগ করা হয়, তখন ব্যবধান বন্ধ হয়ে যায়।

কেস 3 - ব্যাখ্যাতীত প্রত্যাখ্যান। একটি প্রতিষ্ঠান স্বয়ংক্রিয়ভাবে একটি আবেদন প্রত্যাখ্যান করেছে; নাগরিক "কেন?" জানতে চাইলে ওই কর্মকর্তা মডেল হওয়ার কারণ বোধগম্য না হওয়ায় ব্যাখ্যা করতে পারেননি। ঘটনাটি দেখিয়েছে যে দুর্বল ব্যাখ্যাযোগ্য মডেলগুলি অধিকার-বহনকারী সিদ্ধান্ত নেওয়ার জন্য ব্যবহার করা যায় না; সিস্টেমটিকে একটি মডেলে রূপান্তরিত করা হয়েছে যা ন্যায্যতা তৈরি করে এবং মানুষের অনুমোদনের প্রয়োজন হয়।

চারটি অনুলিপিযোগ্য টেমপ্লেট

1) পক্ষপাত স্ক্যানিং এর উৎস:

আপনার ভূমিকা: অ্যালগরিদমিক ন্যায্যতা বিশেষজ্ঞ। নীচে এআই-চালিত সিদ্ধান্ত প্রক্রিয়াটি দেখুন। পক্ষপাতের সম্ভাব্য উত্সগুলি তালিকাভুক্ত করুন: (1) ঐতিহাসিক পক্ষপাত, (2) প্রতিনিধিত্ব পক্ষপাত (আন্ডারপ্রেজেন্টেড গ্রুপ), (3) প্রক্সি ভেরিয়েবল (নিষিদ্ধ মানদণ্ডের সাথে যুক্ত কলাম), (4) পরিমাপের পক্ষপাত। প্রতিটির জন্য একটি কংক্রিট উদাহরণ দিন এবং আমাকে বলুন কিভাবে এটি পরীক্ষা করা যায়। প্রক্রিয়া: [সিদ্ধান্ত প্রক্রিয়া এবং ডেটা ব্যবহৃত]

2) ন্যায্যতা পরীক্ষার পরিকল্পনা:

নিম্নলিখিত সিদ্ধান্তের আউটপুটের জন্য একটি ন্যায্যতা পরীক্ষার পরিকল্পনা তৈরি করুন: কোন গোষ্ঠীগুলি (বয়স, লিঙ্গ, অঞ্চল, আয়) আমার ভেঙে ফেলা উচিত, কোন মেট্রিক্স (গ্রহণযোগ্যতার হার, ত্রুটির হার, অপেক্ষার সময়) আমার তুলনা করা উচিত, পার্থক্যটি বৈধ বা বৈষম্যমূলক কিনা তা আমি কীভাবে সিদ্ধান্ত নেব? KVKK সতর্কতা যোগ করুন। সিদ্ধান্ত: [কি সিদ্ধান্ত]

3) সিদ্ধান্ত বিবৃতি (নাগরিকের কাছে):

নিম্নলিখিত সিদ্ধান্তের জন্য একটি নাগরিক-বোধগম্য খসড়া ব্যাখ্যা লিখুন: সরল ভাষায় কোন কারণগুলি প্রভাবশালী ছিল। শেষে আপিল করার অধিকার এবং একটি মানবিক পর্যালোচনা করার সম্ভাবনা যোগ করুন [সময়ের সাথে নিশ্চিত করা হবে]। অস্পষ্ট অভিব্যক্তি ব্যবহার করা যেমন "সিস্টেম তাই সিদ্ধান্ত নিয়েছে।" সিদ্ধান্ত: [সারাংশ এবং প্রভাবক কারণগুলি]

4) প্রচারের আগে জবাবদিহিতা পরীক্ষা:

এআই-চালিত সিদ্ধান্ত ব্যবস্থা চালু করার আগে একটি জবাবদিহিতার চেকলিস্ট তৈরি করুন: এটি কি ব্যাখ্যাযোগ্য, আপিল করার একটি উপায় আছে, একটি অডিট ট্র্যাল (ডেটা/মডেল সংস্করণ/জবাবদিহিযোগ্য) রক্ষণাবেক্ষণ করা হয়েছে, ন্যায্যতা পরীক্ষা করা হয়েছে, মানব অনুমোদন বিন্দু কোথায়। অনুপস্থিত আইটেমগুলিকে লাল পতাকা হিসাবে চিহ্নিত করুন৷ সিস্টেম: [রেসিপি]

দুর্বল প্রম্পট / শক্তিশালী প্রম্পট

দুর্বল: "এই সিদ্ধান্তের মডেলটি কি ন্যায্য?"

দৃঢ়: "আপনার ভূমিকা হল অ্যালগরিদমিক ন্যায্যতা বিশেষজ্ঞ৷ এই সহায়তা অগ্রাধিকার মডেলের জন্য, প্রথমে পক্ষপাতের উত্সগুলির জন্য স্ক্যান করুন (ঐতিহাসিক, উপস্থাপনা, সারোগেট পরিবর্তনশীল, পরিমাপ) এবং প্রতিটির জন্য সুনির্দিষ্ট উদাহরণ দিন৷ তারপরে একটি ন্যায্যতা পরীক্ষার পরিকল্পনা নিয়ে আসুন: কোন গোষ্ঠীর দ্বারা ভাঙ্গন, কোন মেট্রিক্স, কীভাবে সিদ্ধান্ত নেওয়া যায়; KV এর বৈধতা যোগ করার আগে, KV এর বৈধতা নির্ধারণ করা। সিস্টেম, ব্যাখ্যাযোগ্যতার জন্য একটি চেকলিস্ট দিন, আবেদনের পথ এবং অডিট ট্রেইল এবং ত্রুটিগুলিকে লাল পতাকা দিন।"

পার্থক্য: একটি শক্তিশালী প্রম্পট তার উত্সে পক্ষপাতের সন্ধান করে, গোষ্ঠী দ্বারা আউটপুট পরীক্ষা করে এবং জবাবদিহিতাকে ব্যাপক করে তোলে।

ন্যায়বিচারের মাত্রা এবং নিয়ন্ত্রণ

আকার

ঝুঁকি

নিয়ন্ত্রণ

ঐতিহাসিক তথ্য

অতীত বৈষম্য বহন করে

গ্রুপ দ্বারা পরীক্ষা আউটপুট

প্রতিনিধিত্ব

কিছু দলের জন্য খারাপভাবে কাজ করে

গ্রুপ ভিত্তিক ত্রুটি হার

সারোগেট পরিবর্তনশীল

গোপন বৈষম্য

পরিবর্তনশীল-সংবেদনশীল মানদণ্ড সম্পর্ক

ব্যাখ্যাযোগ্যতা

অযৌক্তিক সিদ্ধান্ত

সহজ ব্যাখ্যা তৈরি করুন

আপত্তি

বাজেয়াপ্ত করা

মানুষের পর্যালোচনা পাথ

প্রতিক্রিয়া লুপ এবং প্রতিনিধিত্ব ত্রুটি

অ্যালগরিদমিক বৈষম্যের সবচেয়ে কপট রূপটি একটি একক ভুল সিদ্ধান্তে নয় বরং একটি প্রতিক্রিয়া লুপে ঘটে যা সময়ের সাথে সাথে নিজেকে শক্তিশালী করে (একটি মডেলের আউটপুট পরবর্তী প্রশিক্ষণের ডেটাকে প্রভাবিত করে, বিদ্যমান পক্ষপাতকে শক্তিশালী করে)। উদাহরণস্বরূপ, যদি একটি পরিদর্শন মডেল একটি নির্দিষ্ট আশেপাশকে "ঝুঁকিপূর্ণ" হিসাবে পতাকাঙ্কিত করে, তত বেশি পরিদর্শন সেখানে যায়, তত বেশি রেকর্ড তৈরি হয়, মডেলটি সেই আশেপাশের এলাকাটিকে ঝুঁকিপূর্ণ হিসাবে দেখে — যদিও পার্থক্যটি প্রকৃত ঝুঁকিতে নয়, যে অবস্থানের দিকে তাকানো হয়েছে তাতে বেড়েছে৷ এটির জন্য যা পথ প্রশস্ত করে তা প্রায়শই একটি প্রতিনিধিত্ব ত্রুটি (প্রশিক্ষণের ডেটা কিছু গোষ্ঠীকে অসম্পূর্ণ বা বিকৃতভাবে প্রতিফলিত করে)। পাবলিক সেক্টরে, এই চক্রগুলি সুবিধাবঞ্চিত গোষ্ঠীগুলিকে ক্রমবর্ধমান কঠোর নজরদারি এবং নিষেধাজ্ঞার অধীনে রাখতে পারে। নিজেকে রক্ষা করার উপায় হল মডেলের প্রভাব নিরীক্ষণ করা, শুধুমাত্র এর আউটপুট নয়: নিয়মিতভাবে সিদ্ধান্তের গ্রুপ-ভিত্তিক বন্টন পর্যবেক্ষণ করা এবং মডেলের সুপারিশগুলি অন্ধভাবে বাস্তবায়ন না করা।

মিনি কেস — স্ব-বৃদ্ধিমূলক সন্দেহ। একটি কল্যাণ জালিয়াতি সনাক্তকরণ মডেল এমন একটি অঞ্চলকে পতাকাঙ্কিত করেছে যা অতীতে উচ্চ ঝুঁকি হিসাবে আরও বেশি পরিদর্শন করা হয়েছিল৷ যখন দলটি ডেটা থেকে প্রয়োগের তীব্রতা বের করে এবং "জনসংখ্যার সাথে সম্পর্কিত সত্য সনাক্তকরণের হার" পরিমাপ করে, তখন তারা দেখতে পায় যে অঞ্চলগুলির মধ্যে পার্থক্যগুলি মূলত অদৃশ্য হয়ে গেছে; মডেলটি বাস্তব ঝুঁকির জন্য অসমতাকে ভুল করেছে।

গ্রুপ ভিত্তিক প্রভাব নিয়ন্ত্রণ টেমপ্লেট:

টাস্ক: গ্রুপ দ্বারা নিম্নলিখিত সিদ্ধান্তের ডেটা পরীক্ষা করুন (কোন ব্যক্তিগত ডেটা, শ্রেণীগত সারাংশ নেই)। ডেটা: [গ্রুপ | মোট সিদ্ধান্ত | নেতিবাচক সিদ্ধান্তের হার | পরিদর্শন তীব্রতা]আউটপুট: 1) নেতিবাচক সিদ্ধান্ত হার গ্রুপ মধ্যে একটি উল্লেখযোগ্য পার্থক্য দেখায়? 2) পার্থক্য কি প্রকৃত ঝুঁকি বা নিয়ন্ত্রণ/প্রতিনিধিত্বের তীব্রতার কারণে হতে পারে? 3) একটি প্রতিক্রিয়া লুপের কোন চিহ্ন আছে? 4) মানুষের নিয়ন্ত্রণের জন্য সুপারিশ। নিয়ম: একটি কার্যকারণ দাবি প্রতিষ্ঠা করা; সম্ভাব্য ব্যাখ্যা এবং পরীক্ষা করার উপায় তালিকাভুক্ত করুন।

সতর্কতা: "মডেলটি নিরপেক্ষ কারণ এটি সবার জন্য একই নিয়ম প্রযোজ্য" এই যুক্তিটি বিভ্রান্তিকর। একই নিয়ম, যখন তির্যক ডেটাতে প্রয়োগ করা হয়, তখন অসমতা রক্ষা করে এবং বড় করে। ন্যায়বিচার পরিমাপ করা হয় ফলাফলের সমতা দ্বারা, নিয়ম নয়।

সাধারণ ভুল

  • সংবেদনশীল ডেটা মুছে ফেলা এবং "এটি ন্যায্য" চিন্তা করা। সারোগেট ভেরিয়েবল বৈষম্যকে স্থায়ী করে; আউটপুট পরীক্ষা করুন।
  • অভিপ্রায় দ্বারা ন্যায়বিচার পরিমাপ. বিচার শেষ পর্যন্ত দেখা দেয়; সিদ্ধান্তগুলিকে দলে সাজান এবং তুলনা করুন।
  • নিম্নবর্ণিত গোষ্ঠীকে ভুলে যাওয়া। মডেলটি একটি সংখ্যালঘু গোষ্ঠীর জন্য শান্তভাবে খারাপভাবে কাজ করতে পারে; গ্রুপ ভিত্তিক ত্রুটি দেখুন.
  • অধিকার প্রদানের সিদ্ধান্তে অব্যক্ত মডেল ব্যবহার করা। যে সিস্টেম ন্যায্যতা তৈরি করতে পারে না তা জনসাধারণের সিদ্ধান্ত নিতে পারে না।
  • আপত্তির কোন উপায় প্রদান না. প্রতিটি স্বয়ংক্রিয় সিদ্ধান্ত মানুষের পর্যালোচনা সাপেক্ষে হওয়া উচিত।
  • একটি অডিট ট্রেল রাখা না. কোন ডেটা/মডেল/দায়িত্বশীল ব্যক্তির সাথে সিদ্ধান্ত নেওয়া হয়েছে তা রেকর্ড করা উচিত।

সংক্ষেপে

পাবলিক সেক্টরে, AI ধারাবাহিকতা বাড়াতে পারে কিন্তু অতীতের বৈষম্যকে শান্তভাবে বহন করতে পারে। পক্ষপাত ঐতিহাসিক তথ্য, উপস্থাপনা ফাঁক, প্রক্সি ভেরিয়েবল, এবং ভুল পরিমাপ থেকে আসে; সংবেদনশীল তথ্য মুছে ফেলা এটি সমাধান করবে না. গোষ্ঠী জুড়ে ফলাফল পরীক্ষা করে ন্যায্যতা অর্জন করা হয়। এবং "ব্যবস্থা তাই বলেছে" দ্বারা কোনও নাগরিককে ভোটাধিকার থেকে বঞ্চিত করা যাবে না: প্রতিটি সিদ্ধান্ত অবশ্যই ব্যাখ্যাযোগ্য, প্রতিদ্বন্দ্বিতাযোগ্য এবং নিরীক্ষাযোগ্য হতে হবে। এটি প্রতিষ্ঠান যা দায়বদ্ধ, অ্যালগরিদম নয়।

আবেদন টাস্ক

আপনার ইউনিটে একটি এআই-চালিত বা স্বয়ংক্রিয় সিদ্ধান্ত প্রক্রিয়া বেছে নিন। সম্ভাব্য পক্ষপাতের তালিকা করুন এবং "পক্ষপাত স্ক্যানের উত্স" টেমপ্লেটের সাথে কমপক্ষে একটি সারোগেট পরিবর্তনশীল ঝুঁকি খুঁজুন। "ফ্যায়ারনেস টেস্ট প্ল্যান" দিয়ে কোন গ্রুপ ব্রেকডাউনগুলি দেখতে হবে তা নির্ধারণ করুন। একটি নমুনা সিদ্ধান্তের জন্য, "সিদ্ধান্ত ব্যাখ্যা" টেমপ্লেট সহ একটি নাগরিক-মুখী ব্যাখ্যা তৈরি করুন।

চেকলিস্ট

  • [ ] আমি পক্ষপাতের উৎসগুলির জন্য স্ক্যান করেছি (ঐতিহাসিক, উপস্থাপনা, প্রক্সি, পরিমাপ)।
  • [ ] আমি শুধু সংবেদনশীল তথ্য মুছে ফেলিনি; আমি গ্রুপ দ্বারা আউটপুট পরীক্ষা.
  • [ ] আমি উপস্থাপিত গোষ্ঠীগুলির জন্য ত্রুটির হার নিয়ন্ত্রণ করেছি৷
  • আমি প্রতিটি সিদ্ধান্তের জন্য সহজ, ব্যাখ্যাযোগ্য ন্যায্যতা প্রদান করেছি।
  • [] আমি আপত্তি এবং মানুষের পর্যালোচনা পথ সংজ্ঞায়িত করেছি.
  • [] অডিট ট্রেইল (ডেটা/মডেল সংস্করণ/দায়িত্বশীল) বজায় রাখা হয়।