লাভ:
- দায়বদ্ধ এআই নীতিগুলি (ন্যায্যতা, স্বচ্ছতা, জবাবদিহিতা, গোপনীয়তা, মানুষের তদারকি, নিরাপত্তা, স্থায়িত্ব) সুনির্দিষ্ট সিদ্ধান্তের সাথে সংযুক্ত করার ক্ষমতা
- আইনি সম্মতি থেকে নৈতিকতাকে আলাদা করে এবং 'আমরা পারি' এবং 'আমাদের উচিত' এর মধ্যে পার্থক্য করে প্রভাবিত পক্ষ এবং পক্ষপাত পরীক্ষা করার ক্ষমতা
- ডিজাইনে স্বচ্ছতা, মানব পর্যবেক্ষণ এবং আবেদন এম্বেড করে আগে থেকে অপব্যবহারের পরিস্থিতি কমানোর ক্ষমতা
একটি AI স্টার্টআপ প্রযুক্তিগতভাবে নিখুঁত, আর্থিকভাবে লাভজনক এবং আইনিভাবে কার্যকর হতে পারে; কিন্তু এটা এখনও ভুল হতে পারে. নৈতিকতা হল "আমরা পারি" এবং "আমাদের উচিত" এর মধ্যে পার্থক্য। একজন সিনিয়র ম্যানেজারের জন্য, নৈতিকতা শোভা বা জনসম্পর্কের বিষয় নয়; এটি সেই ভিত্তি যা প্রতিষ্ঠানের দীর্ঘমেয়াদী নির্ভরযোগ্যতা, খ্যাতি এবং সামাজিক বৈধতা বজায় রাখে। এই ইউনিটে, আপনি দায়িত্বশীল AI (কৃত্রিম বুদ্ধিমত্তাকে ন্যায্য, স্বচ্ছ, জবাবদিহিমূলক এবং মানব মর্যাদার প্রতি শ্রদ্ধাশীল উপায়ে কৃত্রিম বুদ্ধিমত্তার বিকাশ এবং ব্যবহার করার একটি পদ্ধতি) এবং কীভাবে তাদের দৈনন্দিন সিদ্ধান্তে প্রতিফলিত করবেন তা শিখবেন।
দায়ী AI এর মৌলিক নীতি
বিভিন্ন ফ্রেমওয়ার্ক একই নীতিতে মিলিত হয়। একজন পরিচালকের জন্য ব্যবহারিক সারাংশ:
নীতি
মানে কি?
অ্যাডমিন প্রশ্ন
ন্যায়বিচার
অ-বৈষম্য
এটি কি অন্যায়ভাবে একটি গোষ্ঠীকে প্রভাবিত করে?
স্বচ্ছতা
বোধগম্য হতে
আমরা কি সিদ্ধান্তের কারণ ব্যাখ্যা করতে পারি?
জবাবদিহিতা
কারা দায়ী তা চিহ্নিত করা
কোন ত্রুটি ঘটলে দায়ী কে?
গোপনীয়তা
ব্যক্তিগত তথ্যের জন্য সম্মান
আমাদের কি ডেটা ব্যবহার করার অধিকার আছে?
মানুষের নজরদারি
নিয়ন্ত্রণে থাকা
এক আপত্তি এবং এটা বন্ধ করতে পারেন?
নিরাপত্তা
কোন ক্ষতি করবেন না
এই অপব্যবহার করা যেতে পারে?
স্থায়িত্ব
পরিবেশগত/সামাজিক প্রভাব
আমরা কার কাছে খরচ আরোপ করব?
এই নীতিগুলি বিমূর্ত নয়; তাদের প্রতিটি একটি সুনির্দিষ্ট সিদ্ধান্তের সাথে যুক্ত করা যেতে পারে। উদাহরণস্বরূপ, "স্বচ্ছতা" মানে একজন গ্রাহককে জানানো যে তারা AI এর সাথে কথা বলছে; "মানব তদারকি" মানে একটি মানবিক পর্যালোচনা একটি ঋণ অস্বীকার করা এবং আপিলের জন্য উন্মুক্ত রাখা।
টিপ: প্রতিটি উচ্চ-প্রভাবিত AI সিদ্ধান্তের সাথে, একটি প্রশ্ন জিজ্ঞাসা করুন: "আমি কি স্পষ্টভাবে ব্যাখ্যা করতে পারি এবং সবচেয়ে নেতিবাচকভাবে প্রভাবিত ব্যক্তিকে এই সিদ্ধান্তের পিছনে দাঁড়াতে পারি?" প্রতিক্রিয়া আপত্তিজনক হলে, একটি নৈতিক সমস্যা আছে।
নৈতিকতা আইন থেকে আলাদা
একটি গুরুত্বপূর্ণ পার্থক্য: আইনি সম্মতি (ইউনিট 9) হল সর্বনিম্ন; নৈতিকতা একটি উচ্চতর লাইন। কিছু আইনি কিন্তু অনৈতিক হতে পারে. উদাহরণস্বরূপ, একটি অ্যাপ ব্যবহারকারীর আচরণে হেরফের করার জন্য কৃত্রিম বুদ্ধিমত্তা ব্যবহার করা নিষিদ্ধ নাও হতে পারে, তবে এটি অনৈতিক। দায়িত্বশীল প্রতিষ্ঠান "এটা কি হারাম?" না "এটা কি সত্যি?" সে জিজ্ঞেস করে
ধাপে ধাপে: সিদ্ধান্তে নৈতিকতা এম্বেড করা
1. ক্ষতিগ্রস্ত পক্ষগুলি চিহ্নিত করুন৷ কারা এই উদ্যোগ দ্বারা প্রভাবিত হয়? (গ্রাহক, কর্মচারী, সমাজ, সুবিধাবঞ্চিত গোষ্ঠী)
2. পলিসি দিয়ে স্ক্যান করুন। উপরের প্রতিটি নীতির পরিপ্রেক্ষিতে উদ্যোগকে প্রশ্ন করুন।
3. পক্ষপাত এবং ক্ষতির জন্য পরীক্ষা করুন। মডেল কি অন্যায়ভাবে নির্দিষ্ট গ্রুপ প্রভাবিত করে? অপব্যবহারের দৃশ্যকল্প কি?
4. স্বচ্ছতা এবং তদারকি যোগ করুন। কৃত্রিম বুদ্ধিমত্তার ব্যবহার সম্পর্কে রিপোর্ট করুন, মানুষের আপত্তির কোন উপায় নেই।
5. নথি এবং পর্যালোচনা. নৈতিক মূল্যায়ন সংরক্ষণ করুন; পর্যায়ক্রমে ফিরে চেক করুন.
তিনটি মিনি কেস
কেস 1 - আইনি কিন্তু ভুল। একটি অ্যাপ কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে আসক্তিমূলক বিজ্ঞপ্তি তৈরি করে যাতে ব্যবহারকারীদের অ্যাপে বেশিক্ষণ রাখতে হয়। কোন আইনি বাধা ছিল না, কিন্তু যখন সংবাদপত্রে রিপোর্ট করা হয়েছিল, তখন সুনামের মারাত্মক ক্ষতি হয়েছিল; বিশেষ করে তরুণ ব্যবহারকারীদের লক্ষ্য করে এটি সমালোচনার জন্ম দিয়েছে। সংস্থাটি বৈশিষ্ট্যটি সরিয়ে দিয়েছে। শুরু থেকেই নৈতিক ফিল্টার থাকলে এই ঝুঁকি দেখা যেত।
কেস 2 — ন্যায্যতা পরীক্ষার মান। একটি ব্যাঙ্কের ক্রেডিট স্কোরিং মডেল পদ্ধতিগতভাবে সংরক্ষিত গোষ্ঠীর আবেদনগুলিতে কম স্কোর দেয়। বিচার নিরীক্ষায় এটি ধরা পড়ে। ফলাফলে আন্তঃগ্রুপ ইক্যুইটি নিশ্চিত করতে মডেলটিকে পুনরায় ডিজাইন করা হয়েছে এবং নিয়মিত পরীক্ষা করা হয়েছে। নৈতিক নীতি (ন্যায়বিচার) একটি কংক্রিট পরীক্ষায় পরিণত হয়েছে এবং প্রকৃত ক্ষতি প্রতিরোধ করেছে।
কেস 3 — স্বচ্ছতা বিশ্বাস তৈরি করেছে। একটি ই-কমার্স কোম্পানি তার গ্রাহক সহায়তা চ্যাটবটের শুরুতে "একজন কৃত্রিম বুদ্ধিমত্তা সহকারী আপনাকে সাহায্য করে, আপনি যেকোনো সময় একজন মানব প্রতিনিধির সাথে সংযোগ স্থাপন করতে পারেন" বাক্যটি রেখেছেন। স্বচ্ছতা এবং মানুষের প্রস্থান সন্তুষ্টি হ্রাস করেনি; বিপরীতে, এটি আত্মবিশ্বাস বাড়িয়েছে এবং অভিযোগ 15% কমেছে। সঠিকভাবে করা স্বচ্ছতা ছিল মূল্য, খরচ নয়।
চারটি অনুলিপিযোগ্য টেমপ্লেট
1) নৈতিক স্ক্রীনিং:
আপনার ভূমিকা: দায়িত্বশীল এআই পরামর্শদাতা। 7টি নীতির জন্য এই উদ্যোগটি স্ক্যান করুন: ন্যায্যতা, স্বচ্ছতা, জবাবদিহিতা, গোপনীয়তা, মানুষের তত্ত্বাবধান, নিরাপত্তা, স্থায়িত্ব। প্রতিটি নীতির জন্য, একটি ঝুঁকি এবং একটি সুপারিশ লিখুন। উদ্যোগ: [পাঠ্য]
2) প্রভাবিত দলের বিশ্লেষণ:
এই AI উদ্যোগের দ্বারা প্রভাবিত সমস্ত পক্ষের তালিকা করুন (গ্রাহক, কর্মচারী, সমাজ, সুবিধাবঞ্চিত গোষ্ঠী)। প্রতিটি পক্ষের জন্য সম্ভাব্য ইতিবাচক এবং নেতিবাচক প্রভাবগুলি লিখুন; গোষ্ঠীটিকে সবচেয়ে বেশি ক্ষতিগ্রস্ত হওয়ার সম্ভাবনা চিহ্নিত করুন। উদ্যোগ: [পাঠ্য]
3) অপব্যবহারের দৃশ্য:
5টি পরিস্থিতি তৈরি করুন যেখানে নিম্নলিখিত AI বৈশিষ্ট্যটি অপব্যবহার করা যেতে পারে (যার মধ্যে হেরফের, বৈষম্য, গোপনীয়তা লঙ্ঘন, প্রতারণা সহ)। প্রতিটি দৃশ্যের জন্য একটি প্রতিরোধমূলক নকশা সিদ্ধান্ত প্রস্তাব করুন. বৈশিষ্ট্য: [পাঠ্য]
4) স্বচ্ছতা এবং নজরদারি নিয়ন্ত্রণ:
গ্রাহক-মুখী AI-এর জন্য একটি স্বচ্ছতা এবং মানবিক তত্ত্বাবধানের পরিকল্পনা লিখুন যে: ব্যবহারকারীকে কী জানানো হবে এবং কীভাবে; কিভাবে এটি মানুষের মধ্যে স্থানান্তর করা যেতে পারে? সে সিদ্ধান্তে আপত্তি করবে কিভাবে? ব্যবহার: [পাঠ্য]
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল: "এটি কি এআই নৈতিক?"
ফলাফল: একটি সুপারফিশিয়াল "হ্যাঁ/না"; কোন নীতি, কে প্রভাবিত, কি পরিমাপ অস্পষ্ট.
দৃঢ়: "আমরা নিয়োগের প্রাক-স্ক্রীনিং টুলে AI ব্যবহার করার কথা বিবেচনা করছি (মানুষই চূড়ান্ত সিদ্ধান্ত নেবে)। ন্যায্যতা, স্বচ্ছতা, জবাবদিহিতা এবং মানবিক তত্ত্বাবধানের নীতির জন্য এটিকে স্ক্রিন করুন। প্রার্থীদের কোন দলগুলি অন্যায়ভাবে প্রভাবিত হতে পারে, আমাকে কোন পক্ষপাতমূলক পরীক্ষা করতে হবে এবং প্রার্থীরা কীভাবে সিদ্ধান্তের বিরুদ্ধে আপিল করতে পারেন তা লিখুন।"
ফলাফল: একটি নীতি-ভিত্তিক, ব্যবহারিক মূল্যায়ন যা ক্ষতিগ্রস্ত পক্ষকে চিহ্নিত করে এবং পরীক্ষা ও আপিলের পরামর্শ দেয়।
সাধারণ ভুল
- আইনি সম্মতি সঙ্গে বিভ্রান্তিকর নৈতিকতা. আইনগত সবকিছু নৈতিক নয়; নৈতিকতা একটি উচ্চতর লাইন।
- নৈতিকতাকে শেষ পর্যন্ত ছেড়ে দেওয়া। নকশার পরে "নৈতিকতার অনুমোদন" প্রাপ্তি অনেক দেরি হয়ে গেছে; নৈতিকতা শুরু থেকে নকশা এমবেড করা আবশ্যক.
- ন্যায়বিচার পরীক্ষা না. "আমাদের মডেল নিরপেক্ষ" এই ধারণা বিপজ্জনক; পরিমাপ ছাড়া জানা যাবে না।
- খরচ জন্য স্বচ্ছতা ভুল. সঠিকভাবে করা স্বচ্ছতা বিশ্বাস এবং মূল্য বৃদ্ধি করে।
- আক্রান্ত দিকগুলো সরু করে রাখা। শুধুমাত্র গ্রাহকের কথা চিন্তা করা এবং কর্মচারী, সমাজ এবং সুবিধাবঞ্চিত গোষ্ঠীকে উপেক্ষা করা একটি অন্ধ স্পট তৈরি করে।
সতর্কতা: নৈতিক মূল্যায়ন সম্পূর্ণরূপে কৃত্রিম বুদ্ধিমত্তার উপর ছেড়ে দেওয়া স্ববিরোধী এবং বিপজ্জনক। AI নৈতিক প্রশ্ন উত্থাপন করতে সাহায্য করতে পারে, কিন্তু মূল্য বিচার, সাংস্কৃতিক প্রেক্ষাপট এবং চূড়ান্ত নৈতিক দায়িত্ব মানুষের উপর নির্ভর করে। একটি সংস্থার নৈতিক অবস্থান জনগণের সচেতন পছন্দ দ্বারা নির্ধারিত হয়, "এআই বলেছে" দ্বারা নয়।
সংক্ষেপে
নীতিশাস্ত্র হল "আমরা পারি" এবং "আমাদের উচিত" এর মধ্যে পার্থক্য এবং সংস্থার দীর্ঘমেয়াদী বিশ্বাসযোগ্যতা রক্ষা করে। দায়ী এআই; এটি ন্যায়বিচার, স্বচ্ছতা, জবাবদিহিতা, গোপনীয়তা, মানুষের তত্ত্বাবধান, নিরাপত্তা এবং স্থায়িত্বের নীতির উপর ভিত্তি করে। এই নীতিগুলি বিমূর্ত নয়; এটি প্রভাবিত পক্ষ সনাক্তকরণ, পক্ষপাতের জন্য পরীক্ষা, স্বচ্ছতা প্রদান এবং মানুষের তত্ত্বাবধান যোগ করার মতো দৃঢ় সিদ্ধান্তে অনুবাদ করে। নীতিশাস্ত্র আইন থেকে আলাদা এবং একটি উচ্চতর লাইন; এটি শেষ পর্যন্ত ছেড়ে দেওয়া যাবে না, এটি ডিজাইনে এমবেড করা আবশ্যক। পরবর্তী ইউনিটে, আমরা সম্মতি নিয়ে আলোচনা করব, যা নৈতিকতার আইনি সমতুল্য, বিশেষ করে EU AI আইন এবং KVKK।
আবেদন টাস্ক
একটি উচ্চ-প্রভাব AI স্টার্টআপ চয়ন করুন৷ টেমপ্লেট 2 দিয়ে, সমস্ত প্রভাবিত পক্ষের তালিকা করুন এবং গোষ্ঠীটিকে সবচেয়ে বেশি ক্ষতিগ্রস্ত হওয়ার সম্ভাবনা চিহ্নিত করুন। টেমপ্লেট 1 দিয়ে, সাতটি নীতির জন্য উদ্যোগটি স্ক্যান করুন। দুটি সবচেয়ে গুরুত্বপূর্ণ নৈতিক ঝুঁকির জন্য একটি কংক্রিট পরিমাপ (ন্যায্যতা পরীক্ষা, স্বচ্ছতা বিজ্ঞপ্তি, আপিল রুট, ইত্যাদি) সংজ্ঞায়িত করুন। অবশেষে, "আমি কি এই সিদ্ধান্তটি সবচেয়ে নেতিবাচকভাবে প্রভাবিত ব্যক্তিকে ব্যাখ্যা করতে পারি?" সততার সাথে প্রশ্নের উত্তর দিন।
চেকলিস্ট
- [ ] আমি সমস্ত ক্ষতিগ্রস্ত পক্ষকে চিহ্নিত করেছি৷
- [ ] আমি দায়িত্বশীল AI এর সাতটি নীতির সাথে স্টার্টআপটি স্ক্রীন করেছি।
- আমি পক্ষপাত/ন্যায্যতার জন্য একটি পরীক্ষার পরিকল্পনা করেছি।
- আমি স্বচ্ছতা বিবৃতি ডিজাইন করেছি।
- [ ] আমি মানুষের তদারকি এবং আপিলের জন্য কোন পথ ছেড়ে দেইনি।
- [ ] আমি অপব্যবহারের পরিস্থিতি সম্পর্কে চিন্তা করেছি৷
- [ ] "আমি কি এটি সবচেয়ে নেতিবাচকভাবে প্রভাবিত একজনকে ব্যাখ্যা করতে পারি?" পরীক্ষায় পাশ করলাম।