লাভ:
- কৃত্রিম বুদ্ধিমত্তা মডেলগুলিতে সাংস্কৃতিক, লিঙ্গ এবং ডায়াগনস্টিক পক্ষপাত কীভাবে মনোবিজ্ঞানের প্রেক্ষাপটে ক্ষতি করে তা উদাহরণ সহ চিনুন
- বিভিন্ন গোষ্ঠী, ভাষা এবং সংস্কৃতির জন্য আউটপুট পরীক্ষা করে এমন একটি পক্ষপাতি পরীক্ষা বাস্তবায়নের ক্ষমতা
- পশ্চিমা-কেন্দ্রিক আদর্শ এবং কলঙ্কজনক ভাষাকে সংশোধন করে এমন প্রম্পট এবং যাচাইকরণ কৌশলগুলি বিকাশ করার ক্ষমতা
কৃত্রিম বুদ্ধিমত্তা (AI) নিরপেক্ষ নয়। একটি AI মডেল ইন্টারনেটে প্রচুর পাঠ্যের স্তূপ থেকে শেখে এবং মডেলের "ওয়ার্ল্ড ভিউ" কার ভয়েস বেশি এবং কার কন্ঠ কম রয়েছে তার দ্বারা তির্যক। এই বিকৃতিকে পক্ষপাত বলে। মনোবিজ্ঞানে পক্ষপাত একটি সাধারণ প্রযুক্তিগত ত্রুটি নয়; এটি সরাসরি একজন ব্যক্তির মূল্যায়ন, রোগ নির্ণয় এবং চিকিত্সাকে প্রভাবিত করতে পারে। একটি উপসর্গ একটি সংস্কৃতিতে "স্বাভাবিক" এবং অন্য সংস্কৃতিতে "প্যাথলজিকাল" হিসাবে পড়তে পারে; একটি আচরণকে একটি লিঙ্গে "দৃঢ়তা" এবং অন্যটিতে "আগ্রাসন" হিসাবে তৈরি করা যেতে পারে। AI এই ঐতিহাসিক পক্ষপাতগুলি শিখতে এবং প্রতিলিপি করতে পারে। এই ইউনিটে আপনি মনোবিজ্ঞানের প্রেক্ষাপটে AI-তে পক্ষপাতিত্ব চিনতে শিখবেন এবং বিভিন্ন গোষ্ঠী, ভাষা এবং সংস্কৃতির আউটপুট নিরীক্ষণ করতে পারবেন।
কুসংস্কার কোথা থেকে আসে এবং এটি কীভাবে ক্ষতি করে?
এআই পক্ষপাতের তিনটি প্রাথমিক উত্স রয়েছে:
- প্রশিক্ষণ ডেটা ভারসাম্যহীনতা। মডেলগুলিকে প্রধানত একটি নির্দিষ্ট ভাষা, সংস্কৃতি এবং সময়ের পাঠ্য দিয়ে প্রশিক্ষিত করা হয়। মনোবিজ্ঞানের সাহিত্যের সিংহভাগ আসে পাশ্চাত্য, শিক্ষিত, শিল্পোন্নত সমাজ থেকে; তাই AI এর "স্বাভাবিক মানব" অনুমান এই সংকীর্ণ নমুনাকে প্রতিফলিত করে।
- ঐতিহাসিক পক্ষপাতের অন্তর্ভুক্তি। অতীতে কিছু গোষ্ঠীকে প্যাথলজিজ এবং কলঙ্কিত করা পাঠ্যগুলিও ডেটাতে অন্তর্ভুক্ত করা হয়েছে; মডেল এই নিদর্শন শেখে.
- প্রতিনিধিত্বের অভাব। মডেলটিতে অপ্রস্তুত গোষ্ঠী (ভিন্ন জাতি, ভাষা, যৌন অভিযোজন, অক্ষমতা) সম্পর্কে অপর্যাপ্ত বা স্টেরিওটাইপিক্যাল তথ্য রয়েছে।
ক্ষতিটি স্পষ্ট: এআই একটি উপসর্গকে একটি গ্রুপে আরও গুরুতর এবং অন্য গ্রুপের তুলনায় হালকা হিসাবে মূল্যায়ন করতে পারে; ভুলভাবে একটি সাংস্কৃতিক অভিব্যক্তি (শোক অনুষ্ঠান, ধর্মীয় অভিজ্ঞতা) একটি উপসর্গ হিসাবে বিবেচনা করতে পারে; এটি কলঙ্কজনক, ক্লিচড ভাষা তৈরি করতে পারে।
সতর্কতা: এমনকি যদি AI থেকে একটি আউটপুট "উদ্দেশ্য বিজ্ঞান" বলে মনে হয়, তবে এটি সেই পক্ষপাতগুলি বহন করতে পারে যা এটি শিখেছে। বিশেষ করে যখন বিভিন্ন সংস্কৃতি, লিঙ্গ, যৌন অভিযোজন এবং আর্থ-সামাজিক গোষ্ঠীর কথা আসে, তখন আমরা প্রতিটি ফলাফলকে "সব গোষ্ঠীর জন্য ন্যায্য?" হিসাবে বিবেচনা করি। প্রশ্ন দিয়ে ফিল্টার করুন।
মনোবিজ্ঞানের জন্য নির্দিষ্ট পক্ষপাতের প্রকারগুলি
পক্ষপাতের ধরন
মনোবিজ্ঞানে দেখুন
ঝুঁকি
সাংস্কৃতিক পক্ষপাত
পশ্চিমা নিয়মগুলিকে সর্বজনীন হিসাবে বিবেচনা করা
প্যাথলজির জন্য সাংস্কৃতিক অভিব্যক্তিকে ভুল করবেন না
লিঙ্গ পক্ষপাত
লিঙ্গের উপর নির্ভর করে একই আচরণকে ভিন্নভাবে ব্যাখ্যা করা
ডায়গনিস্টিক বৈষম্য
ডায়গনিস্টিক পক্ষপাত
নির্দিষ্ট রোগ নির্ণয়ের জন্য নির্দিষ্ট গ্রুপকে "প্রবণ" হিসাবে চিত্রিত করা
নির্ণয়ের উপর / অধীনে
ভাষার পক্ষপাত
প্রভাবশালী ভাষায় আরও "দক্ষ", অন্য ভাষায় অতিশয়
অসম মূল্যায়ন
স্ট্যাম্পিং
ভাষা যা ব্যক্তিকে তাদের রোগ নির্ণয়ের মাধ্যমে সনাক্ত করে
অবমাননাকর ফ্রেমিং
ধাপে ধাপে: পক্ষপাত নিয়ন্ত্রণ
- আপনি আউটপুট পরিবর্তন করতে পারেন "এটি কার জন্য লেখা হয়েছিল?" প্রশ্ন ডিফল্ট বিষয় কে? তিনি সাধারণত একজন শিক্ষিত, পশ্চিমা, "গড়" লোক।
- বিভিন্ন গ্রুপের সাথে পরীক্ষা করুন। বিভিন্ন সাংস্কৃতিক, লিঙ্গ এবং বয়স প্রসঙ্গে একই প্রম্পট পুনরাবৃত্তি করুন; মন্তব্য পরিবর্তন হয়?
- কলঙ্কজনক জিহ্বা স্ক্যান করুন। সঠিক শব্দ যা ব্যক্তিকে তার রোগ নির্ণয়ের সাথে সনাক্ত করে ("সিজোফ্রেনিক" এর পরিবর্তে "সিজোফ্রেনিয়ায় আক্রান্ত ব্যক্তি")।
- সাংস্কৃতিক প্রসঙ্গ যোগ করুন। AI কে ক্লায়েন্টের সাংস্কৃতিক/ভাষাগত প্রেক্ষাপট বলুন এবং "এই প্রসঙ্গে স্বাভাবিক হতে পারে এমন অভিব্যক্তিগুলিকে প্যাথলজি হিসাবে বিবেচনা করবেন না।"
- বিশেষজ্ঞ এবং সম্প্রদায়ের চোখ। আপনি যদি একটি সাংস্কৃতিক সমস্যা সম্পর্কে অনিশ্চিত হন, তাহলে সেই সংস্কৃতি জানেন এমন একজন সহকর্মীর সাথে পরামর্শ করুন।
- মানুষকে সিদ্ধান্ত নিতে দিন। এমনকি বায়াস চেকিংও এআই-এর হাতে ছেড়ে দেওয়া হয়নি; বিচারের চূড়ান্ত বিচার আপনার।
টিপ: একটি আউটপুট পক্ষপাতদুষ্ট কিনা তা পরীক্ষা করার একটি ব্যবহারিক উপায়: প্রম্পটে একটি একক বৈশিষ্ট্য (লিঙ্গ, সংস্কৃতি, বয়স) পরিবর্তন করুন এবং একই প্রশ্ন আবার জিজ্ঞাসা করুন৷ এই পরিবর্তনের সাথে যদি ব্যাখ্যাটি "অন্যায়ভাবে" পরিবর্তিত হয় তবে পক্ষপাত রয়েছে।
তিনটি মিনি কেস
কেস 1 - প্যাথলজিজিং সাংস্কৃতিক অভিব্যক্তি। একজন পেশাদার এআইকে বলে যে একটি ভিন্ন সংস্কৃতির একজন ক্লায়েন্ট শোক প্রক্রিয়ার সময় "মৃত ব্যক্তির সাথে কথা বলছে"। AI এটিকে "একটি মানসিক উপসর্গ হতে পারে।" যাইহোক, এটি সেই ক্লায়েন্টের সংস্কৃতিতে দুঃখের একটি সাধারণ এবং স্বাভাবিক প্রকাশ। বিশেষজ্ঞ AI এর আউটপুট প্রত্যাখ্যান করেন কারণ তিনি সাংস্কৃতিক প্রেক্ষাপট জানেন। প্রসঙ্গটি জানেন না এমন কেউ একটি গুরুতর ভুল ধারণা করতে পারে।
কেস 2 — লিঙ্গ পক্ষপাত পরীক্ষা। একজন তদন্তকারী একই মামলার সারাংশ এআইকে দুবার দেয়; এটা শুধু ব্যক্তির লিঙ্গ পরিবর্তন. "মহিলা" সংস্করণে, AI "মানসিক অস্থিরতার" উপর জোর দেয়, যখন "পুরুষ" সংস্করণে, এটি "স্ট্রেস প্রতিক্রিয়া" হিসাবে একই আচরণকে ফ্রেম করে। এটি স্পষ্টভাবে মডেলের লিঙ্গ পক্ষপাত দেখায়। গবেষক এই পার্থক্য নথিভুক্ত করে এবং এই সচেতনতার সাথে আউটপুট ব্যবহার করে।
কেস 3 — কলঙ্কজনক ভাষা সংশোধন করা। এআই একটি "অসুস্থ সীমান্তরেখা," একটি প্রতিবেদনের খসড়া বলে। বিশেষজ্ঞ এটিকে একটি কলঙ্কজনক ভাষা হিসাবে দেখেন যা ব্যক্তিকে তার রোগ নির্ণয়ের সাথে সনাক্ত করে এবং এটিকে এমন ভাষায় অনুবাদ করে যা ব্যক্তির উপর ফোকাস করে, যেমন "একটি সংজ্ঞায়িত সীমারেখা ব্যক্তিত্বের প্যাটার্ন সহ একজন ব্যক্তি"। ভাষার একটি ছোট পরিবর্তন ক্লায়েন্টের মর্যাদা রক্ষা করে একটি বড় পার্থক্য করে।
অনুলিপিযোগ্য প্রম্পট এবং টেমপ্লেট
পক্ষপাতের জন্য নিম্নলিখিত পাঠ্যটি পরীক্ষা করুন: পতাকা বিবৃতি যা সাংস্কৃতিক, লিঙ্গ, যৌন অভিযোজন, বয়স, বা আর্থ-সামাজিক পক্ষপাত নির্দেশ করে। এছাড়াও অনুমানগুলি দেখান যা পশ্চিমা নিয়মগুলিকে সর্বজনীন বলে মনে করে। প্রতিটির জন্য একটি সুন্দর বিকল্প প্রস্তাব করুন। পাঠ্য: [পাঠ্য]
নিম্নলিখিত পরিস্থিতি মূল্যায়ন করতে আমাকে সাহায্য করুন, কিন্তু ক্লায়েন্টের সাংস্কৃতিক প্রসঙ্গ হল [সংস্কৃতি/ভাষা]। এই প্রসঙ্গে, প্যাথলজি হিসাবে স্বাভাবিক হতে পারে এমন অভিব্যক্তি উপস্থাপন করা; আপনি যদি একটি সাংস্কৃতিক পয়েন্ট সম্পর্কে অনিশ্চিত হন তবে বলুন "এটি সাংস্কৃতিকভাবে পরিবর্তিত হতে পারে, একজন বিশেষজ্ঞের সাথে পরামর্শ করুন।" স্ট্যাটাস: [বেনামী স্ট্যাটাস]
এই পাঠ্যের কলঙ্কজনক অভিব্যক্তিগুলিকে অনুবাদ করুন যা ব্যক্তিকে তাদের রোগ নির্ণয়ের সাথে সনাক্ত করে (যেমন, "সিজোফ্রেনিক,","একটি সীমান্তরেখা") এমন ভাষায় যা ব্যক্তিকে কেন্দ্র করে এবং তার মর্যাদা রক্ষা করে। বিষয়বস্তু পরিবর্তন করবেন না, শুধু ভাষা মানবিক. পাঠ্য: [পাঠ্য]
আমি নিম্নলিখিত কেস সারাংশটি দুইবার মূল্যায়ন করব: একবার বিষয় [বৈশিষ্ট্য A], অন্যটি [বৈশিষ্ট্য B]। দুটি মূল্যায়নের মধ্যে একটি অন্যায্য পার্থক্য আছে, এবং যদি তাই হয়, এটি পক্ষপাতের কারণে? তুলনা. বিমূর্ত: [বেনামী বিমূর্ত]
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল প্রম্পট: "এই ক্লায়েন্টের আচরণ কি স্বাভাবিক নাকি অস্বাভাবিক?"
এই প্রম্পটটি "স্বাভাবিক" কার জন্য তা জিজ্ঞাসা করে না; AI একটি পাশ্চাত্য-কেন্দ্রিক, অসংস্কৃতিহীন "স্বাভাবিক" ধরে নেয় এবং সাংস্কৃতিক অভিব্যক্তিকে প্যাথলজি করতে পারে।
দৃঢ় প্রম্পট: "এই ক্লায়েন্টটি [সাংস্কৃতিক/ভাষাগত প্রেক্ষাপটে]৷ এই আচরণটি সেই সাংস্কৃতিক প্রেক্ষাপটে একটি স্বাভাবিক অভিব্যক্তি হতে পারে বা একটি চিহ্ন যা মনোযোগের প্রয়োজন, উভয়কে আলাদাভাবে আলোচনা করে ব্যাখ্যা করুন৷ একটি নির্দিষ্ট রায় করবেন না; সাংস্কৃতিক প্রেক্ষাপট জানেন এমন একজন বিশেষজ্ঞের সাথে পরামর্শ করতে আমাকে মনে করিয়ে দিন৷"
এই প্রম্পটটি প্রসঙ্গটিকে কেন্দ্রে রাখে, সাংস্কৃতিক ভুল পাঠ প্রতিরোধ করে এবং সিদ্ধান্তটি বিশেষজ্ঞের উপর ছেড়ে দেয়।
সাধারণ ভুল
- "উদ্দেশ্য" এর জন্য AI আউটপুট ভুল করা। ভুলে যাওয়া যে মডেলটি পক্ষপাতিত্ব বহন করে এবং আউটপুটটিকে বৈজ্ঞানিক সত্য হিসাবে গ্রহণ করে।
- পশ্চিমা আদর্শকে সর্বজনীন হিসাবে বিবেচনা করা। একটি একক সংস্কৃতি অনুযায়ী "স্বাভাবিক" সংজ্ঞায়িত করা এবং বিভিন্ন অভিব্যক্তি প্যাথলজিজ করা।
- কলঙ্কজনক ভাষা লক্ষ্য করা যাচ্ছে না। "প্রযুক্তিগত ভাষা" হিসাবে তার নির্ণয়ের সাথে ব্যক্তিকে চিহ্নিত করে এমন ভাষাকে ভুল করা।
- পক্ষপাতের জন্য পরীক্ষা না. বিভিন্ন গোষ্ঠীর সাথে একই প্রম্পট চেষ্টা না করা এবং ধারাবাহিকতা পরীক্ষা করা।
- আপনি জানেন না এমন একটি সংস্কৃতিতে একা সিদ্ধান্ত নেওয়া। সেই সংস্কৃতি জানেন এমন একজন সহকর্মীর সাথে পরামর্শ না করেই সিদ্ধান্ত নেওয়া।
সংক্ষেপে
AI পক্ষপাতদুষ্ট কারণ এটি একটি পক্ষপাতদুষ্ট বিশ্বের পাঠ্য থেকে শেখে; মনোবিজ্ঞানে, এই পক্ষপাতটি সাংস্কৃতিক, লিঙ্গ, নির্ণয়, ভাষা এবং কলঙ্কের আকারে বাস্তব ক্ষতিতে অনুবাদ করে। প্রতিটি আউটপুট "এটি কি সব দলের জন্য ন্যায্য?" প্রশ্নের সাথে তুলনা করুন এটা স্ট্রেন; বিভিন্ন গ্রুপের সাথে একই প্রম্পট পরীক্ষা করুন; আপনার প্রম্পটে সাংস্কৃতিক প্রসঙ্গ যোগ করুন; কলঙ্কজনক ভাষাকে ব্যক্তিকেন্দ্রিক ভাষায় পরিবর্তন করুন; আপনি অপরিচিত এমন একটি সংস্কৃতিতে বিশেষজ্ঞ/সম্প্রদায়ের চোখ রাখুন। পক্ষপাতের নিয়ন্ত্রণ সহ ন্যায়বিচারের বিচার মানুষের মধ্য থেকেই উৎপন্ন হয়।
আবেদন টাস্ক
একটি কেস সারাংশ প্রস্তুত করুন (বেনামী)। এটি এআইকে দুবার দিন; শুধুমাত্র একটি বৈশিষ্ট্য পরিবর্তন করুন (লিঙ্গ, সংস্কৃতি বা বয়স)। দুটি প্রিন্টআউট পাশাপাশি রাখুন এবং অন্যায্য পার্থক্যের জন্য পরীক্ষা করুন। এছাড়াও AI-কে একটি রিপোর্ট অনুচ্ছেদে কলঙ্কজনক বাক্যাংশগুলিকে ব্যক্তি-কেন্দ্রিক ভাষায় অনুবাদ করুন এবং পার্থক্যটি নোট করুন।
চেকলিস্ট
- [ ] আউটপুট পরিবর্তন করুন "এটি কি সব দলের জন্য ন্যায্য?" প্রশ্ন করলাম।
- [ ] আমি বিভিন্ন গোষ্ঠী/সংস্কৃতির সাথে একই প্রম্পট পরীক্ষা করেছি।
- [ ] আমি প্রম্পটে সাংস্কৃতিক প্রসঙ্গ যোগ করেছি; আমি সাংস্কৃতিক অভিব্যক্তি pathologize না.
- আমি কলঙ্কজনক ভাষাকে ব্যক্তিকেন্দ্রিক ভাষায় পরিবর্তন করেছি।
- আমি অপরিচিত একটি সাংস্কৃতিক বিষয়ে একজন বিশেষজ্ঞ/সহকর্মীর পরামর্শ চেয়েছিলাম।
- [ ] আমি ন্যায্যতার চূড়ান্ত সিদ্ধান্ত আমার নিজের বিচারের উপর ছেড়ে দিয়েছি, এআই নয়।