লাভ:
- বোঝে যে ডেটা AI পক্ষপাতের প্রাথমিক উত্স
- কর্মক্ষেত্রে পক্ষপাত যে ঝুঁকি তৈরি করতে পারে তা স্বীকার করে
- কুসংস্কার কমাতে যে ব্যবস্থা নেওয়া যেতে পারে তা বাস্তবায়ন করে
AI একটি নিরপেক্ষ, বস্তুনিষ্ঠ মেশিন হিসাবে উপস্থিত হয়; কিন্তু সত্য অনেক বেশি জটিল। এআই সিস্টেমগুলি তাদের প্রশিক্ষণপ্রাপ্ত ডেটাতে মানুষের পক্ষপাতগুলি শিখে এবং কখনও কখনও সেগুলিকে বড় করে এবং পুনরুত্পাদন করে। কুসংস্কার হল একটি সিস্টেমের প্রবণতা যা পদ্ধতিগতভাবে নির্দিষ্ট কিছু ব্যক্তি বা গোষ্ঠীর পক্ষে বা বাদ দেওয়া। এই ইউনিটে, আমরা বিবেচনা করব যে কুসংস্কার কোথা থেকে আসে, এটি কর্মক্ষেত্রে কী কী সুনির্দিষ্ট ঝুঁকি তৈরি করে এবং এর বিরুদ্ধে কী করা যেতে পারে। এটি কেবল "নৈতিকতার" বিষয় নয়; এটি একটি ব্যবহারিক ব্যবসায়িক বিষয় যা অব্যবস্থাপিত হলে আইনি, বাণিজ্যিক এবং সুনামগত ঝুঁকি বহন করে।
কুসংস্কার কোথা থেকে আসে?
একটি ভাষার মডেলের তথ্য মানুষের তৈরি বিশাল পাঠ্য থেকে আসে। এই গ্রন্থগুলিতে মানব সমাজের সমস্ত জ্ঞানের পাশাপাশি এর সমস্ত স্টেরিওটাইপ, ভারসাম্যহীনতা এবং ঐতিহাসিক অসমতা রয়েছে। মডেলটি "ভাল" এবং "খারাপ" নিদর্শনগুলির মধ্যে পার্থক্য করে না; ডেটাতে যা আছে তা শেখে।
উদাহরণ: যদি কিছু পেশা প্রধানত অতীতের পাঠ্যগুলিতে একটি লিঙ্গের সাথে যুক্ত থাকে (যেমন "নার্স" মহিলার সাথে, "প্রকৌশলী" পুরুষের সাথে), মডেল এই সংযোগটি শিখে। তিনি বাক্যটি শেষ করার সময় একটি পুরুষ সর্বনাম বেছে নেওয়ার প্রবণতা দেখাতে পারেন, "একজন প্রকৌশলী অফিসে গিয়েছিলেন, তিনি..." মডেলটি দূষিত নয়; এটি শুধুমাত্র তথ্যের ভারসাম্যহীনতা প্রতিফলিত করে।
সুতরাং পক্ষপাত বেশিরভাগই এটি ডেটার আয়না হওয়ার কারণে, সচেতন প্রোগ্রামিং ত্রুটি নয়। "কেউ খারাপ কোড লিখেছেন" বলে সমস্যাটি ব্যাখ্যা করা বিভ্রান্তিকর; সমস্যা হল যে বিশ্বের ভারসাম্যহীনতা ডেটা এবং সেখান থেকে মডেলে বাহিত হয়।
কর্মক্ষেত্রে বাস্তব ঝুঁকি
এলাকা
পক্ষপাতিত্বের ঝুঁকি
সম্ভাব্য ক্ষতি
নিয়োগ
ঐতিহাসিক তথ্যের প্রবণতা জানুন এবং নির্দিষ্ট গোষ্ঠীগুলিকে নির্মূল করুন
আইনি মামলা, সক্ষমতা হারানো
গ্রাহক যোগাযোগ
স্টেরিওটাইপিকাল বা বর্জনীয় ভাষা
খ্যাতি হানি, গ্রাহক ফ্লাইট
ক্রেডিট/ঝুঁকি
অতীত অসমতা চিরস্থায়ী
বৈষম্য, নিষেধাজ্ঞা
কর্মক্ষমতা মূল্যায়ন
সিদ্ধান্তে ডেটাতে পক্ষপাতিত্ব বহন করা
অন্যায্য প্রচার/বোনাস
বিষয়বস্তু/বিপণন
নির্দিষ্ট গ্রুপ অদৃশ্য করুন
ব্র্যান্ড ক্ষতি
তিনটি মিনি কেস
কেস 1 - বিজ্ঞাপনটি ভাষাকে সংকুচিত করে তুলছিল। একটি কোম্পানি AI দিয়ে চাকরির পোস্টিং ছাপানো শুরু করেছে। কিছুক্ষণ পরে, এটি লক্ষ্য করা গেল যে বিজ্ঞাপনগুলি "তরুণ এবং গতিশীল", "আক্রমনাত্মক লক্ষ্য" এর মতো অভিব্যক্তি সহ একটি নির্দিষ্ট প্রোফাইলে আবেদন করেছে এবং এইভাবে অ্যাপ্লিকেশনগুলির বৈচিত্র্য হ্রাস করেছে। দলটি একটি পদক্ষেপ যোগ করেছে যা প্রতিটি পোস্টিং পরীক্ষা করে "অন্তর্ভুক্ত ভাষা" জন্য; আবেদনকারীদের বৈচিত্র্য কয়েক মাসের মধ্যে উল্লেখযোগ্যভাবে বৃদ্ধি পেয়েছে।
কেস 2 — সারাংশে লুকানো পক্ষপাত। একজন ব্যবস্থাপকের কাছে AI সংক্ষিপ্ত 30 জন কর্মচারীর প্রতিক্রিয়া ছিল। রিক্যাপটি একটি নির্দিষ্ট দলের প্রতি নেতিবাচক মন্তব্যকে কেন্দ্রীভূত করে বলে মনে হচ্ছে; অপরিশোধিত তথ্যে পরিস্থিতি ভারসাম্যপূর্ণ ছিল। মডেল বেশ কিছু শক্তিশালী বিবৃতি অতিরঞ্জিত. ম্যানেজার ফিরে গিয়ে কাঁচা তথ্য পরীক্ষা করলে তিনি ভুল ধারণা এড়িয়ে যান।
কেস 3 — অন্তর্ভুক্তি আদেশ কাজ করেছে। একটি বিপণন দল প্রচারাভিযানের অনুলিপিতে নির্দেশনাকে প্রমিত করেছে যাতে "অন্তর্ভুক্ত, অ-নির্দিষ্ট লিঙ্গ/বয়স/গোষ্ঠীর ভাষা ব্যবহার করুন এবং আপনার অনুমানগুলি শেষ পর্যন্ত তালিকাভুক্ত করুন।" উত্পাদিত গ্রন্থে সূত্রগত অভিব্যক্তি লক্ষণীয়ভাবে হ্রাস পেয়েছে; দলটিকে ম্যানুয়ালি প্রতিটি আউটপুট বারবার সংশোধন করতে হয়নি।
কেন পক্ষপাত সনাক্ত করা কঠিন?
কুসংস্কার সম্পর্কে সবচেয়ে ছদ্মবেশী জিনিস এটি প্রায়ই অদৃশ্য হয়. আউটপুট মসৃণ, পেশাদার এবং যুক্তিসঙ্গত দেখায়; এর মধ্যে প্রবণতা তখনই স্পষ্ট হয় যখন কেউ মনোযোগ দিয়ে দেখে বা বিভিন্ন গোষ্ঠীর উপর এর প্রভাব পরিমাপ করে। একটি মাত্র উদাহরণ দেখে "এখানে কোন পক্ষপাত নেই" বলাটা বিভ্রান্তিকর; পক্ষপাত প্রায়ই স্বতন্ত্র উদাহরণে নয় বরং সিস্টেমের সাধারণ প্রবণতায় নিজেকে প্রকাশ করে।
সতর্কতা: "আমি নিরপেক্ষ, তাই আমি যে টুলটি ব্যবহার করি সেটিও নিরপেক্ষ" এই ধারণা বিপজ্জনক। টুলটির নিরপেক্ষতা নির্ভর করে প্রশিক্ষণের তথ্যের উপর এবং এটি কিভাবে পরিদর্শন করা হয়, আপনার উদ্দেশ্যের উপর নয়।
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল প্রম্পট: এই পদের জন্য আদর্শ প্রার্থী বর্ণনা করুন।
ফলাফল: মডেলটি স্টেরিওটাইপের উপর নির্ভর করতে পারে এবং একটি নির্দিষ্ট প্রোফাইলকে "আদর্শ" হিসাবে উপস্থাপন করতে পারে।
শক্তিশালী প্রম্পট: এই পদের জন্য শুধুমাত্র পরিমাপযোগ্য দক্ষতার তালিকা করুন যা সত্যিই কাজের সাথে প্রাসঙ্গিক। চাকরির সাথে সম্পর্কিত নয় এমন কোনো বৈশিষ্ট্য ব্যবহার করবেন না, যেমন লিঙ্গ, বয়স, বৈবাহিক অবস্থা, হোমটাউন। সবশেষে, "অনুমান আমি এড়িয়ে যাই" শিরোনামে আপনি যা রেখে গেছেন তা লিখুন।
ফলাফল: মূল্যায়ন চাকরি-সম্পর্কিত মানদণ্ডের মধ্যে সীমাবদ্ধ, অপ্রাসঙ্গিক বৈশিষ্ট্যগুলি বাদ দেওয়া হয়েছে।
পক্ষপাত কমানোর টেমপ্লেট
অন্তর্ভুক্ত ভাষার জন্য নীচের পাঠ্য পরীক্ষা করুন. ফ্ল্যাগ স্টেটমেন্ট যা লিঙ্গ, বয়স, জাতিগত, অক্ষমতা, বা একটি নির্দিষ্ট গোষ্ঠীকে বোঝায় এবং প্রতিটির জন্য একটি নিরপেক্ষ বিকল্প প্রস্তাব করে। পাঠ্য: [এখানে পেস্ট করুন]
শুধুমাত্র এই উদ্দেশ্যমূলক মানদণ্ডের উপর ভিত্তি করে এই মূল্যায়ন করুন: [মাপদণ্ড]। এই মানদণ্ড (নাম, লিঙ্গ, বয়স) ব্যতীত অন্য কোনও তথ্য বিবেচনা করবেন না।
শেষে একটি পৃথক শিরোনামের অধীনে তালিকা করুন যা আপনি আপনার উত্পাদিত পাঠ্যটিতে অনুমান করেছেন। তাই আমি লুকানো পক্ষপাত দেখতে পারি।
পাঠকদের তিনটি ভিন্ন গোষ্ঠীর দৃষ্টিতে এই বিষয়বস্তুটির মূল্যায়ন করুন এবং তাদের মধ্যে যে কাউকে আপত্তি/আপত্তি করতে পারে এমন কোনো বিবৃতি চিহ্নিত করুন। বিষয়বস্তু: [এখানে পেস্ট করুন]
সাধারণ ভুল
সাধারণ ভুল
- "নিরপেক্ষ" এআই আউটপুট ধরে নেওয়া হচ্ছে। যদিও আউটপুট নিরপেক্ষ দেখায়, এটি ডেটাতে পক্ষপাত বহন করতে পারে; সক্রিয় তত্ত্বাবধান প্রয়োজন.
- একটি উদাহরণের দিকে তাকিয়ে বলছে "কোন পক্ষপাত নেই"। সিস্টেমের সাধারণ প্রবণতার মধ্যেই কুসংস্কার লুকিয়ে থাকে।
- তত্ত্বাবধানহীন AI-তে উচ্চ-প্রভাবিত সিদ্ধান্ত নেওয়া ছেড়ে দেওয়া। নিয়োগ, পদোন্নতি এবং ঋণের মতো সিদ্ধান্তে মানব কর্তৃত্ব অপরিহার্য।
- অন্তর্ভুক্তির দাবি ভুলে যাওয়া। আপনি প্রম্পটে স্পষ্টভাবে অনুরোধ না করলে, মডেলটি ডিফল্ট প্যাটার্নে ফিরে আসে।
- এর মানে "মেশিন এটা বলেছে।" যে ব্যক্তি সিদ্ধান্তটি ব্যবহার করে সেও পরিণতির জন্য দায়ী।
ন্যায়বিচার সবার দায়িত্ব
কুসংস্কারের বিরুদ্ধে লড়াই করা কেবল প্রযুক্তিগত দলের কাজ নয়। AI আউটপুট ব্যবহার করা প্রত্যেক কর্মচারীর সেই আউটপুট ন্যায্য কিনা তা নিয়ে প্রশ্ন তোলার দায়িত্ব রয়েছে। "মেশিন আমাকে বলেছে" একটি অজুহাত নয়; সিদ্ধান্ত গ্রহণকারী ব্যক্তিও পরিণতির জন্য দায়ী।
সংক্ষেপে
- AI পক্ষপাতিত্বের প্রাথমিক উৎস হল অসভ্যতা নয়, তবে প্রশিক্ষণের ডেটাতে বিদ্যমান ভারসাম্যহীনতা এবং স্টেরিওটাইপগুলি।
- কুসংস্কার; এটি নিয়োগ, গ্রাহক যোগাযোগ, অর্থ এবং মূল্যায়নের মতো ক্ষেত্রগুলিতে প্রকৃত আইনি এবং সুনামমূলক ঝুঁকি তৈরি করে।
- পক্ষপাত প্রায়ই অদৃশ্য এবং সিস্টেমের সামগ্রিক স্বভাবের মধ্যে এমবেড করা হয়; একটি একক উদাহরণের দিকে তাকানো বিভ্রান্তিকর।
- কমাতে: সচেতন হোন, চাকরি-সম্পর্কিত মানদণ্ডে সিদ্ধান্ত সীমাবদ্ধ করুন, স্পষ্টভাবে অন্তর্ভুক্তির জন্য জিজ্ঞাসা করুন, উচ্চ-প্রভাবিত সিদ্ধান্তের উপর মানুষের নিয়ন্ত্রণ রাখুন।
- "মেশিন আমাকে বলেছে" একটি অজুহাত নয়; ন্যায্যতা প্রত্যেকের দায়িত্ব যারা আউটপুট ব্যবহার করে।
অ্যাপ্লিকেশন টাস্ক
AI কে বলুন "একজন আদর্শ [যেকোন পেশা] কর্মী বর্ণনা করুন" এবং আউটপুটে কী (সম্ভবত অপ্রয়োজনীয়) অনুমান করা হয়েছে তা চিহ্নিত করুন। তারপর উপরের "চাকরি-সম্পর্কিত মানদণ্ড" টেমপ্লেটের সাথে পুনরাবৃত্তি করুন এবং ন্যায্যতার জন্য দুটি আউটপুট তুলনা করুন।
চেকলিস্ট
- [ ] আমি বুঝতে পারি যে পক্ষপাতের প্রাথমিক উত্স হল প্রশিক্ষণ ডেটা৷
- [ ] কর্মক্ষেত্রে পক্ষপাতিত্ব হতে পারে এমন কংক্রিট ঝুঁকির নাম বলতে পারি।
- [ ] আমি জানি যে পক্ষপাত প্রায়ই অদৃশ্য এবং একটি একক উদাহরণের দিকে তাকানো বিভ্রান্তিকর।
- [ ] আমি স্পষ্টভাবে প্রম্পটে অন্তর্ভুক্তি এবং চাকরি-সম্পর্কিত মানদণ্ডের জন্য জিজ্ঞাসা করতে পারি।
- আমি উচ্চ-প্রভাবিত সিদ্ধান্তের মানুষের তদারকি চাই।