লাভ:
- প্রশিক্ষণ ডেটা, ফ্রেমিং, ডবল স্ট্যান্ডার্ড এবং চাটুকারিতার মাধ্যমে যখন AI পক্ষপাতিত্ব তৈরি করে তখন স্বীকৃতি
- নিরপেক্ষ প্রশ্ন, প্রমাণ-স্টেরিওটাইপ বৈষম্য এবং বিপরীত কোণ পরীক্ষা দিয়ে পক্ষপাতের বিরুদ্ধে একটি নিয়ন্ত্রণ প্রতিষ্ঠা করার ক্ষমতা
- একটি নির্দিষ্ট নিয়মের পরিবর্তে মনোযোগের বিন্দু হিসাবে সাংস্কৃতিক জ্ঞান ব্যবহার করে কলঙ্কজনক ভাষাকে বর্ণনামূলক এবং সম্মানজনক ভাষায় অনুবাদ করার ক্ষমতা
সমাজকর্মের মূল ভিত্তি ন্যায়বিচার এবং মানবিক মর্যাদা; পেশার মূলে একটি প্রতিশ্রুতি যে প্রত্যেক ব্যক্তি সমান মূল্যের, বৈষম্যের বিরোধিতা করা হয় এবং দুর্বল গোষ্ঠীগুলিকে সুরক্ষিত করা হয়। কৃত্রিম বুদ্ধিমত্তা একটি ঝুঁকি বহন করে যা নীরবে এই মানগুলিকে সঠিকভাবে ক্ষতি করতে পারে: পক্ষপাতিত্ব। AI ঐতিহাসিক তথ্য থেকে শেখে; যদি সেই ডেটাতে সমাজে অসমতা, স্টেরিওটাইপ এবং বৈষম্য অন্তর্ভুক্ত থাকে, তাহলে AI সেগুলি শিখে এবং একটি সাবলীল, "উদ্দেশ্য"-মুখী ভাষায় পুনরুত্পাদন করে। একজন সমাজকর্মীর হাতে, এটি একটি গোষ্ঠীর একটি পদ্ধতিগতভাবে আরও নেতিবাচক মূল্যায়ন, একটি পরিবারের একটি স্টেরিওটাইপিং বা একটি সংস্কৃতির ভুল বোঝাবুঝিতে অনুবাদ করতে পারে। এই ইউনিটে, আপনি AI পক্ষপাতিত্ব চিনতে, এর বিরুদ্ধে নিয়ন্ত্রণ করতে এবং ন্যায্যতা এবং সাংস্কৃতিক সংবেদনশীলতার সাথে AI ব্যবহার করতে শিখবেন।
শুরু থেকে একটি সত্য: এআই নিরপেক্ষ নয়, এটি নিরপেক্ষ বলে মনে হয়। সবচেয়ে বিপজ্জনক পক্ষপাত হ'ল আত্মবিশ্বাসী এবং পেশাদার ভাষায় উপস্থাপন করা; কারণ এটা প্রশ্ন ছাড়াই গৃহীত হয়। একজন সমাজকর্মী হিসেবে আপনার কাজ হল এই অদৃশ্য পক্ষপাতকে দৃশ্যমান করা এবং আউটপুটটি আপনার পেশাগত মূল্যবোধের সাথে সাংঘর্ষিক কিনা তা নিরীক্ষণ করা।
এআই পক্ষপাত কোথা থেকে আসে এবং এটি দেখতে কেমন?
- প্রশিক্ষণ তথ্য পক্ষপাত. AI পাঠ্য থেকে শেখে যা সমাজে অসমতা প্রতিফলিত করে। নির্দিষ্ট জাতিগত গোষ্ঠী, দরিদ্র, প্রতিবন্ধী, নির্দিষ্ট পাড়া বা লিঙ্গ সম্পর্কে স্টেরিওটাইপগুলি আউটপুটে ফাঁস হতে পারে।
- ভাষা এবং ফ্রেমিং পক্ষপাত। AI একটি গোষ্ঠীকে প্যাসিভ, "সমস্যাযুক্ত" বা "সাহায্যের প্রয়োজনে বস্তু" হিসাবে ফ্রেম করতে পারে; বিষয় হিসাবে আরেকটি গ্রুপ। একই আচরণকে এক গোষ্ঠীর দ্বারা "সাংস্কৃতিক" এবং অন্য গোষ্ঠীর দ্বারা "সমস্যামূলক" হিসাবে ব্যাখ্যা করা যেতে পারে।
- প্রতিনিধিত্বের অভাব। AI ভুলভাবে বা উপরিভাগে এমন গোষ্ঠীগুলি বুঝতে পারে যেগুলি ডেটাতে উপস্থাপিত নয় (ছোট জনসংখ্যা, বিরল ক্ষেত্রে)।
- চাটুকারিতা এআই আপনার উহ্য দৃষ্টিভঙ্গি নিশ্চিত করতে থাকে; একটি পক্ষপাতমূলক প্রশ্ন একটি পক্ষপাতমূলক নিশ্চিতকরণ নিয়ে আসে।
এই পক্ষপাতগুলি সামাজিক কাজে বিশেষত বিপজ্জনক কারণ আউটপুট সরাসরি প্রকৃত মানুষের জীবনকে স্পর্শ করে—একটি মূল্যায়ন, একটি প্রতিবেদন, একটি রেফারেল৷
সতর্কতা: "এআই এটিকে সেভাবে মূল্যায়ন করেছে" এটি একটি সতর্কতা চিহ্ন, ন্যায্যতা নয়। যখন আপনি আউটপুট দেখেন যা একটি গোষ্ঠী বা ব্যক্তিকে নেতিবাচকভাবে চিত্রিত করে, প্রথম প্রশ্নটি হল "এটি কি প্রমাণের উপর ভিত্তি করে নাকি স্টেরিওটাইপের উপর ভিত্তি করে?" হওয়া উচিত
ধাপে ধাপে: পক্ষপাতের বিরুদ্ধে অডিটিং
- নিরপেক্ষভাবে জিজ্ঞাসা করুন। এমন প্রশ্ন জিজ্ঞাসা করুন যা বোঝায় না বা নেতৃত্ব দেয় না; "এই পরিবারটি কেন অবহেলিত তা ব্যাখ্যা করুন না," তবে "এই পর্যবেক্ষণগুলির অর্থ কী হতে পারে, বিকল্প ব্যাখ্যাগুলি কী?" জিজ্ঞাসা
- প্রমাণ এবং স্টেরিওটাইপের মধ্যে পার্থক্য করুন। প্রতিটি নেতিবাচক বিবৃতির জন্য, জিজ্ঞাসা করুন: এটি কি আমার সামনের দৃঢ় প্রমাণের উপর ভিত্তি করে, নাকি এটি একটি গোষ্ঠী সম্পর্কে সাধারণ ধারণার উপর ভিত্তি করে?
- বিপরীত কোণ থেকে পরীক্ষা করুন। একটি ভিন্ন গোষ্ঠীর জন্য একই পরিস্থিতি বিবেচনা করুন: "ক্লায়েন্ট যদি একটি ভিন্ন আর্থ-সামাজিক/জাতিগত পটভূমি থেকে হয়, তাহলে AI কি একই ভাষায় লিখবে?"
- সাংস্কৃতিক সংবেদনশীলতা সন্ধান করুন। একটি আচরণের সাংস্কৃতিক প্রেক্ষাপট সম্পর্কে জিজ্ঞাসা করুন; তবে সাংস্কৃতিক জ্ঞানকে একটি সম্ভাবনা এবং সতর্কতার একটি বিন্দু হিসাবে নিন, একটি পরম নিয়ম নয় (স্টিরিওটাইপ এড়িয়ে চলুন)।
- ছাপযুক্ত জিহ্বা পরিষ্কার করুন। এটিকে এমন একটি ভাষায় অনুবাদ করুন যা পরিস্থিতি বর্ণনা করে, ব্যক্তি নয়, এবং শক্তিগুলিও দেখে।
তিনটি মিনি কেস
কেস 1 - বিপরীত কোণ পক্ষপাত প্রকাশ করেছে। একজন বিশেষজ্ঞ এআই দুটি অনুরূপ ক্ষেত্রে সংক্ষিপ্ত করেছেন; শুধুমাত্র পার্থক্য ছিল পরিবারের আর্থ-সামাজিক অবস্থা। ওয়াইজেড নিম্ন আয়ের পরিবারের জন্য "অবহেলার উচ্চ ঝুঁকি" এবং উচ্চ-আয়ের পরিবারের জন্য "অভিভাবক আচরণ করতে বাধ্য" এর সুরে লিখেছেন। বিশেষজ্ঞ এই দ্বৈত মানকে স্বীকৃতি দিয়েছেন এবং উভয় মূল্যায়নকে প্রমাণ-ভিত্তিক, সমান ভাষায় পাতিয়েছেন।
কেস 2 — সাংস্কৃতিক ভুল ব্যাখ্যা সংশোধন করা হয়েছে। YZ বর্ধিত পরিবারের সাথে বসবাসকারী একটি শিশুর পরিস্থিতিকে "সীমানা সমস্যা এবং একটি মিশ্র বাড়ির পরিবেশ" হিসাবে তৈরি করেছে। বিশেষজ্ঞ জানতেন যে পরিবারের সাংস্কৃতিক প্রেক্ষাপটে, বর্ধিত পরিবার সমর্থন এবং সুরক্ষার একটি শক্তিশালী উত্স। এআই একটি সাংস্কৃতিক শক্তিকে একটি সমস্যায় পরিণত করেছিল। এই সমর্থনটিকে একটি সম্পদ হিসাবে স্বীকৃতি দেওয়ার জন্য পর্যালোচনাটি সংশোধন করা হয়েছে৷
কেস 3 - প্রধান প্রশ্ন পক্ষপাত তৈরি করেছে। "লিখুন কেন এই বাবা অবিশ্বস্ত," একজন ইন্টার্ন এআইকে জিজ্ঞাসা করেছিলেন। এআই এমন একটি পাঠ্য তৈরি করেছে যা কোনও প্রমাণ ছাড়াই পিতাকে নেতিবাচকভাবে (চাটুকার) চিত্রিত করেছে। সুপারভাইজার প্রশ্নটি পরিবর্তন করেছেন: "বাবা সম্পর্কে পর্যবেক্ষণগুলি কী, তার শক্তি এবং দুর্বলতাগুলি কী হতে পারে?" আউটপুট সুষম এবং প্রমাণ-ভিত্তিক হয়ে উঠেছে। পাঠ: পক্ষপাতমূলক প্রশ্ন পক্ষপাতদুষ্ট উত্তর তৈরি করে।
চারটি অনুলিপিযোগ্য টেমপ্লেট
1) একটি নিরপেক্ষ, সুষম মূল্যায়নের অনুরোধ করুন:
নিম্নলিখিত পর্যবেক্ষণগুলির সংক্ষিপ্তসারে, আপনি সম্ভাব্য শক্তি এবং সম্ভাব্য উদ্বেগ উভয়ই একটি ভারসাম্যপূর্ণ পদ্ধতিতে এবং শুধুমাত্র প্রমাণের ভিত্তিতে উপস্থাপন করেন। স্টেরিওটাইপের উপর ভিত্তি করে কোন অনুমান করবেন না। যদি একটি মন্তব্য পর্যবেক্ষণের উপর নির্ভর না করে তবে লিখুন "অপ্রতুল প্রমাণ।" পর্যবেক্ষণ: [পেস্ট পর্যবেক্ষণ]
2) বায়াস চেক (বিপরীত কোণ পরীক্ষা):
নীচের পর্যালোচনা পাঠ্য দেখুন. ক্লায়েন্টের আর্থ-সামাজিক অবস্থা, জাতিসত্তা, ধর্ম, লিঙ্গ, অক্ষমতা বা প্রতিবেশীর কারণে একটি অপ্রমাণিত স্টেরিওটাইপ প্রকাশ করে এমন বিবৃতি আছে কি? প্রত্যেকের জন্য, জিজ্ঞাসা করুন: "ক্লায়েন্ট যদি অন্য গ্রুপ থেকে হয় তবে কি এটি একই ভাষায় লেখা হবে?" ফ্ল্যাগ সমস্যা বাক্য। পাঠ্য: [টেক্সট পেস্ট করুন]
3) সাংস্কৃতিক প্রেক্ষাপট (নন-স্টিরিওটাইপ):
বিভিন্ন সাংস্কৃতিক প্রেক্ষাপটে নিম্নলিখিত আচরণ/পরিস্থিতির অর্থ কী হতে পারে তার জন্য সম্ভাব্যতা প্রদান করুন। এগুলিকে বিবেচ্য বিষয় হিসাবে দিন, পরম নিয়ম হিসাবে নয়; জোর দিন যে প্রতিটি সম্প্রদায়ের মধ্যে পৃথক পার্থক্য রয়েছে। একটি একক গ্রুপ সম্পর্কে সাধারণীকরণ করবেন না. পরিস্থিতি: [পরিস্থিতি লিখুন]
4) ইমপ্রিন্টিং জিহ্বা পরিষ্কার করা:
নীচের পাঠ্যটিতে, এমন বিশেষণ খুঁজুন যা ব্যক্তিকে বিচার বা কলঙ্কিত করে (যেমন, "অবহেলায়," "অসহযোগী," "সমস্যাপূর্ণ")। প্রত্যেকের জন্য, একই সত্যকে একটি বিকল্প দিয়ে প্রতিস্থাপন করুন যা বর্ণনামূলক, সম্মানজনক এবং শক্তির স্বীকৃতি দেয়। নতুন তথ্য যোগ করা হচ্ছে। পাঠ্য: [টেক্সট পেস্ট করুন]
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল প্রম্পট:
ব্যাখ্যা করুন কেন এই পরিবার সন্তান লালন-পালনের ক্ষেত্রে অপর্যাপ্ত।
এই প্রশ্নটি শুরু থেকে ফলাফল অনুমান করে ("অপ্রতুল")। AI, চাটুকারের প্রবণতা সহ, একটি প্রমাণ-মুক্ত এবং পক্ষপাতমূলক পাঠ্য তৈরি করবে যা এই অনুমানকে নিশ্চিত করে। প্রশ্ন পক্ষপাতদুষ্ট হলে উত্তরও হবে পক্ষপাতমূলক।
শক্তিশালী প্রম্পট:
নিম্নলিখিত পর্যবেক্ষণের উপর ভিত্তি করে, এই পরিবারের সন্তান লালন-পালনের শক্তি এবং উদ্বেগের ক্ষেত্রগুলিকে একটি ভারসাম্যপূর্ণ এবং শুধুমাত্র প্রমাণ পদ্ধতিতে তালিকাভুক্ত করুন। শুরু থেকেই ফলাফল অনুমান করবেন না; যদি প্রমাণ অপর্যাপ্ত হয়, তাই বলুন। স্টেরিওটাইপ এড়িয়ে চলুন। পর্যবেক্ষণ: [পেস্ট পর্যবেক্ষণ]
পার্থক্য: একটি ভারসাম্যপূর্ণ প্রশ্ন যা ফলাফল অনুমান করে না এবং প্রমাণের জন্য জিজ্ঞাসা করে প্রথম স্থানে পক্ষপাত রোধ করে।
পক্ষপাতিত্ব এবং পাল্টা ব্যবস্থার ধরন
পক্ষপাতের ধরন
দেখতে কেমন লাগে
পাল্টা ব্যবস্থা
প্রশিক্ষণ তথ্য
গ্রুপ স্টেরিওটাইপ
প্রমাণ-প্যাটার্ন পার্থক্য
ফ্রেমিং
প্যাসিভ/নেতিবাচক ভাষা
ভারসাম্যপূর্ণ, বিষয়-কেন্দ্রিক ভাষা
ডবল স্ট্যান্ডার্ড
একই আচরণ, ভিন্ন সুর
বিপরীত কোণ পরীক্ষা
সাংস্কৃতিক অন্ধত্ব
সাংস্কৃতিক শক্তিকে সমস্যায় পরিণত করা
সাংস্কৃতিক প্রসঙ্গ প্রশ্ন
চাটুকারিতা
প্রভাব নিশ্চিত করুন
নিরপেক্ষ প্রশ্ন জিজ্ঞাসা করবেন না
প্রতিনিধিত্বের অভাব
অতিমাত্রায়/ভুল বোঝাবুঝি
স্থানীয়/বিশেষজ্ঞ নিশ্চিতকরণ
সাধারণ ভুল
- পক্ষপাতদুষ্ট প্রশ্ন করা। একটি প্রশ্ন যা একটি উপসংহার অনুমান করে একটি পক্ষপাতমূলক উত্তর তৈরি করে; নিরপেক্ষ সমস্যা।
- আত্মবিশ্বাসী ভাষার উপর নির্ভর করা। পেশাদার টোন পক্ষপাত সঠিক করে না; প্রমাণ দেখুন।
- সাংস্কৃতিক জ্ঞানকে একটি নির্দিষ্ট নিয়ম হিসাবে বিবেচনা করা। এটিকে সম্ভাবনা এবং মনোযোগের একটি বিন্দু হিসাবে নিন; স্টেরিওটাইপ এড়িয়ে চলুন।
- ডবল স্ট্যান্ডার্ড লক্ষ্য না করা. পরীক্ষা করুন কিভাবে একই আচরণ বিভিন্ন গ্রুপে লেখা হয়।
- প্রমাণ হিসাবে স্ট্যাম্প ভুল করা. এটি একটি "অবহেলা" রায়; ঘটনাটি বর্ণনা করুন, ব্যক্তির বিচার করবেন না।
সংক্ষেপে
এআই নিরপেক্ষ নয়, এটি নিরপেক্ষ বলে মনে হয়; এটি একটি সাবলীল ভাষায় শিক্ষাগত ডেটাতে অসমতা এবং স্টেরিওটাইপগুলি পুনরুত্পাদন করে। সামাজিক কাজে, এটি প্রকৃত মানুষের অন্যায্য মূল্যায়ন হতে পারে। পক্ষপাত স্বীকার করুন (প্রশিক্ষণের ডেটা, ফ্রেমিং, দ্বৈত মান, সাংস্কৃতিক অন্ধত্ব, চাটুকারিতা), এটির বিরুদ্ধে পরীক্ষা করুন (নিরপেক্ষ প্রশ্ন, প্রমাণ-প্যাটার্ন বিচ্ছেদ, কোণ পরীক্ষা, সাংস্কৃতিক সংবেদনশীলতা, কলঙ্ক ক্লিয়ারিং), এবং প্রতিটি আউটপুট ফিল্টার করুন পেশার ন্যায্যতা এবং সম্মানের মূল্যবোধের মাধ্যমে। চূড়ান্ত নৈতিক ফিল্টার সবসময় আপনি.
আবেদন টাস্ক
AI-কে দুটি ভিন্ন গোষ্ঠী প্রোফাইলের (যেমন ভিন্ন আর্থ-সামাজিক অবস্থা) সাথে কাল্পনিক পর্যবেক্ষণের একই সেট সংক্ষিপ্ত করতে বলুন এবং টোন/ভাষা আলাদা কিনা তা "রিভার্স অ্যাঙ্গেল টেস্ট" এর সাথে তুলনা করুন। তারপর একটি সচেতনভাবে পক্ষপাতদুষ্ট প্রশ্ন সহ একটি নিরপেক্ষ প্রশ্ন চেষ্টা করুন ("এটি কেন অপর্যাপ্ত তা ব্যাখ্যা করুন") এবং ফলাফলের পার্থক্য পরীক্ষা করুন। অবশেষে, একটি পাঠ্যে "ওয়াটারমার্কার ভাষা পরিষ্কার" টেমপ্লেটটি প্রয়োগ করুন।
চেকলিস্ট
- [ ] আমি ফলাফল অনুমান না করে নিরপেক্ষভাবে আমার প্রশ্নগুলি তৈরি করেছি৷
- [ ] আমি প্রমাণ-স্টিরিওটাইপ পার্থক্য ব্যবহার করে প্রতিটি নেতিবাচক বিবৃতি পরীক্ষা করেছি।
- [ ] আমি বিপরীত কোণ পরীক্ষা দিয়ে ডাবল স্ট্যান্ডার্ড পরীক্ষা করেছি।
- [ ] আমি সাংস্কৃতিক জ্ঞানকে সতর্কতার একটি বিন্দু হিসাবে ব্যবহার করেছি, একটি পরম নিয়ম নয়।
- আমি কলঙ্কজনক ভাষাকে বর্ণনামূলক, সম্মানজনক ভাষা দিয়ে প্রতিস্থাপন করেছি।