মানব নিয়ন্ত্রণ, স্বচ্ছতা, পক্ষপাত এবং নৈতিকতা

লাভ:

• মানব নিয়ন্ত্রণের তিনটি মডেলকে আলাদা করা (লুপে, লুপে, কমান্ডে)
• AI আউটপুটে পক্ষপাত ও বৈষম্যের ঝুঁকিগুলিকে স্বীকৃতি দেওয়া এবং প্রশমিত করা
• স্বচ্ছতা এবং ব্যাখ্যাযোগ্যতার নীতিগুলিকে কংক্রিট অ্যাপ্লিকেশনগুলিতে অনুবাদ করা

একটি AI সিস্টেম প্রযুক্তিগতভাবে নিখুঁতভাবে কাজ করতে পারে কিন্তু তবুও ভুল হতে পারে: এটি পদ্ধতিগতভাবে একটি গোষ্ঠীকে নির্মূল করতে পারে, তার সিদ্ধান্তের কারণ ব্যাখ্যা করতে ব্যর্থ হতে পারে, অথবা মানুষকে প্রশ্ন ছাড়াই এটি গ্রহণ করতে পরিচালিত করতে পারে। এই ইউনিটে, আমরা শাসনের "নরম" কিন্তু সবচেয়ে নির্ধারক দিক-মানুষের নিয়ন্ত্রণ, পক্ষপাতিত্ব ব্যবস্থাপনা, স্বচ্ছতা এবং নৈতিকতা-কে কংক্রিট অনুশীলনে অনুবাদ করি। লক্ষ্য অস্পষ্ট স্লোগান যেমন "এআই বিশ্বাস করবেন না" নয়; তারা কাজ করার পদ্ধতি যা দেখায় কিভাবে একটি আউটপুট অডিট করা যায়, পক্ষপাত কমানো যায় এবং স্বচ্ছতা প্রতিষ্ঠা করা যায়।

মানুষের নিয়ন্ত্রণের তিনটি মডেল

মানুষের তত্ত্বাবধান মানে AI দ্বারা নেওয়া সিদ্ধান্তগুলির উপর মানুষ নিয়ন্ত্রণ বজায় রাখে। তিনটি মৌলিক মডেল আছে এবং ঝুঁকি অনুযায়ী সঠিক মডেল নির্বাচন করা প্রয়োজন।

মডেল

অর্থ

যেখানে মানানসই

লুপে মানুষ

একজন ব্যক্তি প্রতিটি সিদ্ধান্ত অনুমোদন করেন

উচ্চ-ঝুঁকিপূর্ণ, প্রভাবশালী সিদ্ধান্ত

লুপে মানুষ

এআই কাজ করে, মানুষ নিরীক্ষণ করে এবং প্রয়োজনে হস্তক্ষেপ করে

মাঝারি ঝুঁকি, উচ্চ ভলিউম লেনদেন

ম্যান ইন কমান্ড

মানুষ সিস্টেমটি ডিজাইন করে, এর সীমা নির্ধারণ করে, এটি বন্ধ করতে পারে

সামগ্রিক শাসন স্তর

ব্যক্তিকে উল্লেখযোগ্যভাবে প্রভাবিত করে এমন সিদ্ধান্তগুলির জন্য (কর্মসংস্থান, ঋণ, স্বাস্থ্যসেবা), হিউম্যান-ইন-লুপ মডেলটি পছন্দ করা হয়: এআই পরামর্শ দেয়, কিন্তু একজন যোগ্য মানুষ চূড়ান্ত সিদ্ধান্ত নেয়। "এআই তাই বলেছে" কখনও অজুহাত নয়; দায়িত্ব সর্বদা ব্যক্তির উপর বর্তায়।

মনোযোগ: মানুষের নিয়ন্ত্রণের জন্য "কাগজে" থাকা যথেষ্ট নয়। যদি মানুষ স্বয়ংক্রিয়ভাবে এআই-এর পরামর্শ (রাবার-স্ট্যাম্পিং) অনুমোদন করে, তাহলে কোনো বাস্তব নিয়ন্ত্রণ নেই। অডিটিং অর্থবহ হওয়ার জন্য, একজনকে অবশ্যই যৌক্তিকতা দেখতে, প্রশ্ন করতে এবং সত্যিকার অর্থে "না" বলতে সক্ষম হতে হবে।

কুসংস্কার এবং বৈষম্যের ঝুঁকি

পক্ষপাত হল যখন AI পদ্ধতিগতভাবে কিছু নির্দিষ্ট গোষ্ঠীকে অসুবিধা বা সুবিধা দেয়। এর উত্স প্রায়শই ডেটা প্রশিক্ষণ দেয়: ঐতিহাসিক ডেটাতে বৈষম্য থাকলে, AI এটি শেখে এবং বজায় রাখে - এমনকি এটিকে স্কেলও করে।

পক্ষপাত কমাতে ব্যবহারিক পদক্ষেপ:

1. সংবেদনশীল ভেরিয়েবল পর্যালোচনা করুন: সিদ্ধান্তে লিঙ্গ, বয়স, জাতিগততার মতো ক্ষেত্রের প্রভাব পরীক্ষা করুন।
2. গোষ্ঠী দ্বারা পরীক্ষার ফলাফল: সিস্টেমটি কি বিভিন্ন গোষ্ঠীতে বিভিন্ন প্রত্যাখ্যান/গ্রহণযোগ্যতার হার তৈরি করে?
3. প্রক্সি ভেরিয়েবল থেকে সতর্ক থাকুন: “প্রতিবেশী” বা “স্কুল”-এর মতো ক্ষেত্রগুলি নিহিতভাবে জাতিগত/শ্রেণীগত পার্থক্য প্রকাশ করতে পারে।
4. নিয়মিত মনিটরিং স্থাপন করুন: পক্ষপাতিত্ব ক্রমাগত পরীক্ষা করা হয়, শুধু একবার নয়; ডেটা পরিবর্তনের সাথে সাথে এটি ফিরে আসতে পারে।

তিনটি মিনি কেস

কেস 1 - রাবার স্ট্যাম্প। একটি ব্যাংকে, ঋণ কর্মকর্তারা AI স্কোর পর্যালোচনা না করেই অনুমোদন করে; তারা বলে "সিস্টেম ইতিমধ্যে এটি গণনা করেছে"। একটি নিরীক্ষা দেখায় যে 500টি জমা দেওয়ার মধ্যে 498টিতে, মানুষ AI-এর মতোই ঠিক একই সিদ্ধান্ত নিয়েছিল - তাই কোনও বাস্তব পর্যালোচনা নেই। সমাধান: লোকেদের যুক্তি দেখতে হবে, একটি নির্দিষ্ট পরিমাণে সিদ্ধান্তটি দ্বিতীয় অনুমান করতে হবে এবং একটি "কেন একমত/অসম্মতি" নোট প্রয়োজন।

কেস 2 — অন্তর্নিহিত পক্ষপাত। একটি নিয়োগকারী AI মহিলা প্রার্থীদের কম স্কোর করে, যদিও এটি মোটেও লিঙ্গ ব্যবহার করে না। কোথা থেকে? যেহেতু অতীতের ডেটাতে একটি নির্দিষ্ট অবস্থানে বেশিরভাগ পুরুষ অন্তর্ভুক্ত ছিল, মডেলটি প্রক্সি ভেরিয়েবলের মাধ্যমে পরোক্ষ বৈষম্য শিখেছিল যেমন "নিরবচ্ছিন্ন ক্যারিয়ার"। গ্রুপ ভিত্তিক পরীক্ষা এটি প্রকাশ করে; দলটি সারোগেট ভেরিয়েবল বের করে এবং ফলাফল নিরীক্ষণ করে।

কেস 3 - স্বচ্ছতার সাথে বিশ্বাস করুন। তার এআই-চালিত ক্ষতির মূল্যায়নে, একটি বীমা কোম্পানি প্রতিটি গ্রাহককে জানায় যে "সিদ্ধান্তটি এআই-চালিত, তারা আপিল করতে এবং মানব পর্যালোচনার অনুরোধ করতে পারে।" আপত্তির হার প্রত্যাশার চেয়ে কম কারণ গ্রাহকরা প্রক্রিয়াটি বোঝেন এবং বিশ্বাস করেন। ঝুঁকি হ্রাস করার সময় স্বচ্ছতা বিশ্বাস বাড়ায়।

স্বচ্ছতা এবং ব্যাখ্যাযোগ্যতা

স্বচ্ছতা হল প্রাসঙ্গিক লোকেদের কাছে এটা স্পষ্ট করে দেওয়া যে একটি AI কাজ করছে এবং এটি কীভাবে কাজ করে। ব্যাখ্যাযোগ্যতা মানে বোধগম্য উপায়ে সিদ্ধান্তের কারণ ব্যাখ্যা করতে সক্ষম হওয়া। কংক্রিট অ্যাপ্লিকেশন:

• "আপনি একটি AI-এর সাথে কথা বলছেন" AI-এর বিজ্ঞপ্তি ব্যক্তির সাথে যোগাযোগ করছে৷
• "এই সিদ্ধান্তটি নিম্নোক্ত বিষয়গুলির উপর ভিত্তি করে ছিল" স্বয়ংক্রিয় সিদ্ধান্তে ব্যাখ্যা।
• আপীল করার পথ স্পষ্টভাবে উপস্থাপন করুন এবং মানুষের পর্যালোচনার অনুরোধ করুন।
• অভ্যন্তরীণ দলগুলির জন্য: মডেল যা করে তার ডকুমেন্টেশন এবং রেকর্ডিং।

ইঙ্গিত: একটি AI সিদ্ধান্তকে জিজ্ঞাসা করুন "শীর্ষ তিনটি কারণ কী ছিল যা এই সিদ্ধান্তকে প্রভাবিত করেছিল?" প্রশ্ন দিয়ে পরীক্ষা করুন। যদি সিস্টেম এটিকে বোধগম্য করতে না পারে এবং সিদ্ধান্তটি ব্যক্তিকে উল্লেখযোগ্যভাবে প্রভাবিত করে, তবে সেই সিস্টেমটি এখনও দায়িত্বশীল ব্যবহারের জন্য প্রস্তুত নয়।

অটোমেশন পক্ষপাত: নিজের ফাঁদ

এমনকি যদি স্বচ্ছতা এবং মানুষের তত্ত্বাবধান প্রতিষ্ঠিত হয়, তবে মানুষের পক্ষে একটি প্রতারণামূলক ঝুঁকি রয়েছে: অটোমেশন পক্ষপাত। এটি একটি প্রবণতা যা মানুষ তাদের নিজস্ব বিচারের চেয়ে মেশিনের আউটপুটকে বেশি বিশ্বাস করে। কারণ অন-স্ক্রিন এআই প্রস্তাবটি "উদ্দেশ্যমূলক এবং গণনাকৃত" বলে মনে হয়, কেউ প্রশ্ন ছাড়াই এটি গ্রহণ করতে প্রলুব্ধ হয় - এটি রাবার স্ট্যাম্পের মনস্তাত্ত্বিক উত্স।

এটা কমাতে কংক্রিট উপায় আছে. প্রথমে পাল্টা মতামতকে উৎসাহিত করুন: সিদ্ধান্তটি অনুমোদনকারী ব্যক্তিকে জিজ্ঞাসা করুন "কেন আমি AI এর সাথে একমত হতে পারি?" তাকে প্রশ্নটি নিয়ে ভাবতে বলুন। তারপরে আত্মবিশ্বাসের স্কোর দেখান: AI কতটা আত্মবিশ্বাসী তা নির্দেশ করুন; কম আত্মবিশ্বাসের আউটপুট আলাদাভাবে চিহ্নিত করুন। তারপরে একটি দ্বন্দ্ব সতর্কতা সেট আপ করুন: যদি AI সুপারিশ প্রতিষ্ঠানের নিয়ম বা মানুষের কাছে উপলব্ধ ডেটা লঙ্ঘন করে, সিস্টেম এটি হাইলাইট করবে। অবশেষে, সমালোচনামূলক সিদ্ধান্তে দুটি মানব নীতি প্রয়োগ করুন; একজন একক অনুমোদনকারী অটোমেশন পক্ষপাতের জন্য বেশি সংবেদনশীল।

সতর্কতা: "মানুষের অনুমোদন আছে" বলার অর্থ অটোমেশন পক্ষপাত থেকে মুক্ত হওয়া নয়। এআইকে প্রশ্ন করার জন্য মানুষের অবশ্যই কর্তৃত্ব, সময় এবং সঠিক তথ্য উভয়ই থাকতে হবে। একটি সিস্টেম যা অনুমোদনকারীকে 3 সেকেন্ডে 200টি সিদ্ধান্ত নিতে বাধ্য করে তা আসলে সত্যিকারের মানব নিয়ন্ত্রণের প্রস্তাব দেয় না।

অনুলিপিযোগ্য টেমপ্লেট

টেমপ্লেট 1 — মানব নিয়ন্ত্রণ মডেল নির্বাচন: "নিম্নলিখিত AI ব্যবহারের জন্য কোন মানব নিয়ন্ত্রণ মডেলটি উপযুক্ত [ব্যবহার বর্ণনা করুন]: লুপে, লুপে বা কমান্ডে? ব্যক্তির ঝুঁকি এবং প্রভাব বিবেচনা করে যুক্তিযুক্ততার সাথে সুপারিশ করুন। রাবার স্ট্যাম্প ঝুঁকি এড়াতে আমার কী নিয়ন্ত্রণ যোগ করা উচিত তা উল্লেখ করুন।"

টেমপ্লেট 2 — পক্ষপাত পরীক্ষার পরিকল্পনা: "নিম্নলিখিত সিদ্ধান্ত সমর্থন AI এর জন্য একটি [ব্যবহার বর্ণনা করুন] পক্ষপাতিত্ব পরীক্ষার পরিকল্পনা আঁকুন: আমি কোন গোষ্ঠীগুলির তুলনা করব, কোন মেট্রিকটি আমার পরিমাপ করা উচিত (প্রত্যাখ্যান/গ্রহণযোগ্যতা হার, ইত্যাদি), কোন সারোগেট ভেরিয়েবলগুলি আমার সন্ধান করা উচিত, কত ঘন ঘন আমি পরীক্ষাটি পুনরাবৃত্তি করব? এটি ধাপে ধাপে লিখুন।"

টেমপ্লেট 3 — সিদ্ধান্তের বর্ণনা পাঠ্য: "একটি ব্যক্তিগতকৃত স্বয়ংক্রিয় সিদ্ধান্তের জন্য একটি সাধারণ বর্ণনা পাঠ্য লিখুন: সিদ্ধান্তটি এআই-চালিত কিনা, সিদ্ধান্তকে প্রভাবিত করে এমন মূল কারণগুলি, আপিল করার এবং মানুষের পর্যালোচনার অনুরোধ করার উপায়। অ-অভিযোগমূলক, সম্মানজনক স্বর, 120 শব্দ বা তার কম।"

টেমপ্লেট 4 — নৈতিক পর্যালোচনা চেকলিস্ট: "এআই ব্যবহার প্রকাশ করার আগে একটি নীতিশাস্ত্র পর্যালোচনা চেকলিস্ট প্রস্তুত করুন: ন্যায্যতা/বৈষম্য, স্বচ্ছতা, মানব নিয়ন্ত্রণ, গোপনীয়তা, নিরাপত্তা, জবাবদিহিতা। প্রতিটি শিরোনামের অধীনে উত্তর দিতে 1-2টি স্পষ্ট প্রশ্ন অন্তর্ভুক্ত করুন।"

দুর্বল প্রম্পট / শক্তিশালী প্রম্পট

দুর্বল: "এটি কি এআই নিয়োগ করা ন্যায্য?"-> মডেলটি একটি সাধারণ উত্তর দেয় যেমন 'এটি ন্যায্য হওয়া উচিত'; একটি পরীক্ষাযোগ্য পদ্ধতি এবং পক্ষপাত পরিমাপ প্রদান করে না। স্ট্রং: "এই নিয়োগ সমর্থন AI-এর জন্য একটি পক্ষপাতিত্ব পরীক্ষার পরিকল্পনা সেট আপ করুন: লিঙ্গ এবং বয়স গোষ্ঠীর মধ্যে গ্রহণযোগ্যতার হার তুলনা করার একটি পদ্ধতি, বিবেচনা করার জন্য প্রক্সি ভেরিয়েবল, গ্রহণযোগ্য পার্থক্য থ্রেশহোল্ড এবং পর্যবেক্ষণের ফ্রিকোয়েন্সি। এছাড়াও মানুষ চূড়ান্ত সিদ্ধান্ত নেয় তা নিশ্চিত করতে নিয়ন্ত্রণ যোগ করুন।" -> মডেলটি একটি পরিমাপযোগ্য, পুনরাবৃত্তিযোগ্য ন্যায্যতা প্রক্রিয়া তৈরি করে।

সাধারণ ভুল

• মানুষের নিয়ন্ত্রণ "কাগজে" ছেড়ে দেওয়া এবং স্বয়ংক্রিয়ভাবে এআই সুপারিশ (রাবার স্ট্যাম্প) অনুমোদন করা।
• লুপের পরিবর্তে তত্ত্বাবধানে থাকা ব্যক্তিকে উল্লেখযোগ্যভাবে প্রভাবিত করে এমন সিদ্ধান্ত ত্যাগ করা।
• "আমি সংবেদনশীল ভেরিয়েবল মুছে ফেলেছি" বলে পক্ষপাতিত্বের সমাধান করা হয়েছে; প্রক্সি ভেরিয়েবল এড়িয়ে যাওয়া।
• পক্ষপাত একবার পরীক্ষা করা এবং ক্রমাগত এটি নিরীক্ষণ না।
• স্বচ্ছতা এড়িয়ে যাওয়া কারণ "এটি একটি প্রযুক্তিগত বিশদ, ব্যবহারকারী বুঝতে পারবে না"।
• এমন একটি সিস্টেম ব্যবহার করা যা সমালোচনামূলক সিদ্ধান্তে সিদ্ধান্তের কারণ ব্যাখ্যা করতে পারে না।
• "আমরা পরে দেখব" বলে প্রকাশের পর পর্যন্ত নৈতিক মূল্যায়ন ছেড়ে দেওয়া।

সংক্ষেপে

• মানব নিয়ন্ত্রণ তিনটি মডেল প্রয়োগ করা হয়; মানুষকে প্রভাবিত করে এমন সিদ্ধান্তে, চক্রের মধ্যে লোকেরা পছন্দ করে।
• নিয়ন্ত্রণ অর্থবহ হতে হবে; রাবার স্ট্যাম্প (স্বয়ংক্রিয়ভাবে অনুমোদন) প্রকৃত অডিট নয়।
• পক্ষপাত প্রায়ই প্রশিক্ষণ তথ্য থেকে আসে; সংবেদনশীল এবং সারোগেট ভেরিয়েবল পরীক্ষা করা উচিত এবং ক্রমাগত নিরীক্ষণ করা উচিত।
• স্বচ্ছতা এবং ব্যাখ্যাযোগ্যতার জন্য ব্যবহারকারীর কাছে স্পষ্টভাবে উপস্থাপন করা প্রয়োজন যে AI কার্যকরী এবং সিদ্ধান্তের কারণ।
• নৈতিক পর্যালোচনা প্রকাশের আগে ঘটে; দায়িত্ব সর্বদা মানুষের উপর বর্তায়, "এআই তাই বলেছে" কোন অজুহাত নেই।

আবেদন টাস্ক

একটি AI সিদ্ধান্তের প্রক্রিয়া বেছে নিন যা আপনার প্রতিষ্ঠানের লোকেদের প্রভাবিত করে (উদাহরণস্বরূপ, অ্যাপ্লিকেশন মূল্যায়ন)। ন্যায্যতা সহ এই প্রক্রিয়ার জন্য উপযুক্ত মানব নিয়ন্ত্রণ মডেল নির্ধারণ করুন এবং রাবার স্ট্যাম্পিং প্রতিরোধ করার জন্য একটি কংক্রিট নিয়ন্ত্রণ ডিজাইন করুন (উদাঃ ন্যায্যতা দেখার জন্য প্রয়োজনীয়তা, নমুনা পর্যালোচনা)। তারপরে একটি পক্ষপাত পরীক্ষার পরিকল্পনা লিখুন: আপনি কোন গ্রুপের সাথে তুলনা করবেন, কোন মেট্রিকের সাথে, কত ঘন ঘন এবং কোন প্রক্সি ভেরিয়েবলের দিকে আপনি মনোযোগ দেবেন তা নির্দিষ্ট করুন। অবশেষে, একটি সিদ্ধান্তের ব্যাখ্যামূলক পাঠ্য খসড়া করুন যা এই প্রক্রিয়া চলাকালীন ব্যক্তিকে দেখানো হবে এবং একটি আপিল/মানব পর্যালোচনার পথ অন্তর্ভুক্ত করবে।

চেকলিস্ট

• [ ] আমি প্রক্রিয়ার জন্য উপযুক্ত মানব নিয়ন্ত্রণ মডেল বেছে নিয়েছি।
• আমি একটি কংক্রিট নিয়ন্ত্রণ ডিজাইন করেছি যা রাবার স্ট্যাম্প প্রতিরোধ করবে।
• [ ] আমি একটি পক্ষপাত পরীক্ষার পরিকল্পনা প্রস্তুত করেছি (গ্রুপ, মেট্রিক, ফ্রিকোয়েন্সি)।
• [ ] আমি সারোগেট ভেরিয়েবলের ঝুঁকি মূল্যায়ন করেছি।
• [ ] আমি ব্যক্তির জন্য একটি সিদ্ধান্ত ব্যাখ্যা টেক্সট লিখেছি.
• আমি স্পষ্টভাবে আপিল এবং মানবিক পর্যালোচনার পথ উপস্থাপন করেছি।
• [ ] আমি প্রকাশের আগে নীতিশাস্ত্র পর্যালোচনা পরিচালনা করেছি৷