লাভ:
- কৃত্রিম বুদ্ধিমত্তা সহ ঝুঁকি এবং প্রতিরক্ষামূলক ফ্যাক্টর চেকলিস্ট এবং সুরক্ষা পরিকল্পনা কঙ্কাল প্রস্তুত করার ক্ষমতা এবং কোনও এলাকা এড়িয়ে না গিয়ে কাজ
- বুঝুন যে ঝুঁকির স্তর/স্কোর এবং নিরাপত্তা সিদ্ধান্তগুলি শুধুমাত্র বিশেষজ্ঞ, দল, তত্ত্বাবধান এবং আইনি প্রক্রিয়া দ্বারা নেওয়া হয় এবং কৃত্রিম বুদ্ধিমত্তা সিদ্ধান্তগুলি তৈরি করতে পারে না।
- কৃত্রিম বুদ্ধিমত্তা সুবিধাবঞ্চিত গোষ্ঠীগুলির জন্য পদ্ধতিগত পক্ষপাতকে দায়ী করতে পারে এবং সিদ্ধান্ত হিসাবে এর আউটপুট ব্যবহার না করার শৃঙ্খলা প্রয়োগ করতে পারে এবং শুধুমাত্র একটি সুরক্ষিত সিস্টেমে সবচেয়ে সংবেদনশীল ডেটা প্রক্রিয়াকরণ করতে পারে তা দেখে
সামাজিক কাজের সবচেয়ে গুরুতর দায়িত্ব হ'ল ঝুঁকি মূল্যায়ন - রায় যা সরাসরি জীবনের নিরাপত্তার সাথে সম্পর্কিত, যেমন একটি শিশু অবহেলিত বা নির্যাতিত কিনা, একজন ব্যক্তির নিজের বা অন্য কারো ক্ষতি করার সম্ভাবনা আছে কিনা, একজন বয়স্ক ব্যক্তি নিরাপদ কিনা বা সহিংসতার শিকার কতটা বিপন্ন। এই ইউনিটের প্রথম এবং সবচেয়ে সাহসী নিয়ম হল: ঝুঁকির সিদ্ধান্ত নেওয়া AI এর অন্তর্গত নয়, পারে না এবং উচিত নয়। একজন ব্যক্তির নিরাপত্তা সম্পর্কে সিদ্ধান্ত; এর জন্য প্রয়োজন পেশাদার কর্তৃত্ব, ক্লিনিকাল রায়, বহু-বিভাগীয় দলের মতামত, তত্ত্বাবধান এবং আইনি দায়িত্ব। AI এখানে শুধুমাত্র একটি প্রস্তুতি এবং অনুস্মারক সরঞ্জাম: এটি আপনাকে মনে করিয়ে দেয় যে কোন ঝুঁকি এবং প্রতিরক্ষামূলক কারণগুলি পর্যালোচনা করতে হবে, আপনার নোটগুলি সংগঠিত করবে, একটি সুরক্ষা পরিকল্পনার রূপরেখা দেবে৷ এটি একটি স্কোর দেয় না, এটি বলে না "ঝুঁকি কম/উচ্চ", এটি একটি সিদ্ধান্ত নেয় না।
কেন আমরা এত কঠোরভাবে এই জোর? কারণ ঝুঁকির ক্ষেত্রে, এআই ভুলের মূল্য অপরিবর্তনীয়। AI এর ঝুঁকি "নিম্ন" হিসাবে রেটিং একটি শিশুকে অরক্ষিত রাখে; একটি ঝুঁকিকে অপ্রয়োজনীয়ভাবে "উচ্চ" বলে মনে করা একটি পরিবারকে অন্যায়ভাবে বিচ্ছিন্ন হতে পারে। অতিরিক্তভাবে, AI প্রশিক্ষণের ডেটাতে পক্ষপাতিত্ব বহন করে: অ্যালগরিদমগুলি যেগুলি পদ্ধতিগতভাবে নির্দিষ্ট আর্থ-সামাজিক গোষ্ঠী, জাতিসত্তা বা আশেপাশের অঞ্চলগুলির জন্য উচ্চ ঝুঁকির কারণ সারা বিশ্বে নথিভুক্ত করা হয়েছে৷ সুতরাং AI এর আউটপুট একটি ইনপুট হলেও, এটি কখনই আপনার স্বাধীন বিচারকে ওভাররাইড করতে পারে না।
AI এর বৈধ ভূমিকা: অনুস্মারক এবং নিয়ন্ত্রণ
তিনটি জায়গা আছে যেখানে আপনি ঝুঁকিতে নিরাপদে AI ব্যবহার করতে পারেন:
1. ফ্যাক্টর রিমাইন্ডার। ঝুঁকির কারণগুলি (যেমন, সহিংসতার অতীত ইতিহাস, পদার্থের ব্যবহার, সামাজিক বিচ্ছিন্নতা, পূর্ববর্তী ভর্তি) এবং প্রতিরক্ষামূলক কারণগুলি (যেমন, একজন সহায়ক প্রাপ্তবয়স্ক, নিয়মিত স্কুলে উপস্থিতি, একটি শক্তিশালী সামাজিক নেটওয়ার্ক) যা ঝুঁকি মূল্যায়নে বিবেচনা করা উচিত; AI আপনাকে একটি চেকলিস্ট রিকল করার মাধ্যমে যেকোন ক্ষেত্র মিস করা এড়াতে সাহায্য করে যা আপনার প্রতিষ্ঠানের ব্যবহার করা কাঠামোর সাথে খাপ খায়।
2. নোট সম্পাদনা। এটি আপনার পর্যবেক্ষণ এবং ক্লায়েন্টের বিবৃতিগুলিকে একটি সংগঠিত, বাস্তবিক পাঠ্যে অনুবাদ করে — যাতে আপনি পরিষ্কার ডেটার উপর ভিত্তি করে আপনার বিচার করতে পারেন।
3. খসড়া নিরাপত্তা পরিকল্পনা। একটি সুরক্ষা পরিকল্পনা (একটি সুনির্দিষ্ট পরিকল্পনা যা নির্ধারণ করে যে বিপদের ক্ষেত্রে শিকার কী করবে, সে কার সাথে যোগাযোগ করবে, সে কোথায় যাবে) একটি নির্দিষ্ট কাঠামো রয়েছে। AI ক্লায়েন্টের সাথে পূরণ করার জন্য একটি খসড়া কঙ্কাল তৈরি করতে পারে; কিন্তু আপনি এবং ক্লায়েন্ট বাস্তবতা অনুযায়ী পরিকল্পনার বিষয়বস্তু পূরণ করুন।
সতর্কতা: AI কে কখনই জিজ্ঞাসা করবেন না "এই ক্ষেত্রে ঝুঁকির মাত্রা কী?" বা "বাচ্চাটি কি বাড়িতে নিরাপদ?" জিজ্ঞাসা করবেন না। আপনি জিজ্ঞাসা করলেও সিদ্ধান্ত হিসাবে আউটপুট ব্যবহার করবেন না। এই প্রশ্নের উত্তর শুধুমাত্র অনুমোদিত বিশেষজ্ঞ, দল এবং প্রতিষ্ঠানের অফিসিয়াল রিস্ক টুলের মাধ্যমে তদারকি করে।
ধাপে ধাপে: ঝুঁকি প্রক্রিয়ায় সঠিকভাবে AI-কে অবস্থান করা
- নিরাপত্তা আগে। যদি একটি অবিলম্বে এবং গুরুতর বিপদ (জীবন নিরাপত্তা) হয়, তাহলে এটি প্রতিষ্ঠানের জরুরী পদ্ধতি পরিচালনা করা প্রয়োজন, AI মোকাবেলা করার জন্য নয়। AI কোনো জরুরিতা বিলম্ব করা উচিত নয়.
- চিহ্নিত করুন। ঝুঁকি রেটিং সবচেয়ে সংবেদনশীল তথ্য; ক্লায়েন্ট সনাক্তকারী তথ্য খোলা টুলে প্রবেশ করা হয় না, শুধুমাত্র নিরাপদ প্রতিষ্ঠান টুল ব্যবহার করা হয়।
- ফ্যাক্টর তালিকা আমাকে মনে করিয়ে দিন. প্রাতিষ্ঠানিক কাঠামোর জন্য উপযুক্ত একটি ঝুঁকি এবং প্রতিরক্ষামূলক ফ্যাক্টর চেকলিস্টের জন্য অনুরোধ করুন।
- নিজের বিচার করুন। আপনি কারণগুলি ওজন করুন, দলের সাথে মূল্যায়ন করুন এবং সুপারভাইজারের সাথে পরামর্শ করুন। আপনি AI "মূল্যায়ন" করতে চান না।
- ক্লায়েন্টের সাথে নিরাপত্তা পরিকল্পনা সম্পূর্ণ করুন। খসড়া কঙ্কাল AI থেকে আসতে পারে; বিষয়বস্তু ক্লায়েন্টের প্রকৃত নেটওয়ার্ক, সংস্থান এবং পছন্দগুলির সাথে জনবহুল।
তিনটি মিনি কেস
কেস 1 - মিসড প্রতিরক্ষামূলক ফ্যাক্টর। একজন বিশেষজ্ঞ গার্হস্থ্য সহিংসতার ক্ষেত্রে ঝুঁকির কারণগুলির উপর দৃষ্টি নিবদ্ধ করেছেন। যে ফ্যাক্টর চেকলিস্টের জন্য তিনি AI এর কাছে জিজ্ঞাসা করেছিলেন তাকে "প্রতিরক্ষামূলক উপাদান" বিভাগে কর্মরত ক্লায়েন্টের সুরক্ষিত সহায়তা নেটওয়ার্ক সম্পর্কে জিজ্ঞাসা করতে হয়েছিল—একটি এলাকা যা বিশেষজ্ঞ মিস করেছিলেন। এই নেটওয়ার্ক নিরাপত্তা পরিকল্পনার সবচেয়ে বাস্তবসম্মত অংশ হয়ে উঠেছে। সিদ্ধান্ত আবার বিশেষজ্ঞের উপর ছিল; এআই কেবল প্রশ্নটি মনে করিয়ে দিয়েছে।
কেস 2 - ভুল স্কোর বিশ্বস্ত ছিল না। একটি এজেন্সি একটি ট্রায়াল এআই টুল কেসকে "কম ঝুঁকি" হিসাবে লেবেল দেখেছে। তবে বিশেষজ্ঞের পর্যবেক্ষণ এবং ক্লায়েন্টের বক্তব্য গুরুতর বিপদের দিকে ইঙ্গিত করেছে। দলটি এআই লেবেল প্রত্যাখ্যান করেছে এবং তার নিজস্ব মূল্যায়নের ভিত্তিতে প্রতিরক্ষামূলক পদক্ষেপ শুরু করেছে। পরে নিশ্চিত হওয়া গেল বিপদটাই আসল। পাঠ: এআই স্কোর কোনো সিদ্ধান্ত নয়; মানুষের বিচার প্রাধান্য পায়।
কেস 3 - পক্ষপাতিত্ব ধরা পড়েছে। একটি বিচারে, একই মামলা এআইকে দুবার দেওয়া হয়েছিল; শুধুমাত্র পার্থক্য ছিল আশেপাশের যেখানে ক্লায়েন্ট থাকতেন। AI পদ্ধতিগতভাবে সুবিধাবঞ্চিত বলে পরিচিত আশেপাশের জন্য উচ্চতর "ঝুঁকির ভাষা" তৈরি করেছে। এটি এআই-এর প্রশিক্ষণের ডেটাতে পক্ষপাতিত্ব প্রদর্শন করেছে এবং ঝুঁকির সিদ্ধান্ত গ্রহণে এআই ব্যবহার না করার এজেন্সির নীতিকে শক্তিশালী করেছে।
চারটি অনুলিপিযোগ্য টেমপ্লেট
1) ঝুঁকি/প্রতিরক্ষামূলক ফ্যাক্টর অনুস্মারক:
আপনার ভূমিকা: সমাজকর্ম তত্ত্বাবধায়কের সহকারী। ঝুঁকির কারণ এবং প্রতিরক্ষামূলক কারণগুলির একটি চেকলিস্ট প্রস্তুত করুন যেগুলি [গার্হস্থ্য সহিংসতা] ক্ষেত্রে ঝুঁকি মূল্যায়নে পর্যালোচনা করার জন্য সুপারিশ করা হয়। অনুস্মারকগুলির একটি তালিকা হিসাবে এটি উপস্থাপন করুন; কোনো স্কোর, সিদ্ধান্ত বা "ঝুঁকির মাত্রা" তৈরি করবেন না। মূল্যায়ন এবং সিদ্ধান্ত বিশেষজ্ঞের অন্তর্গত।
2) নিরাপত্তা পরিকল্পনা খসড়া কঙ্কাল:
আপনার ভূমিকা: সম্পাদক। গার্হস্থ্য সহিংসতার শিকার একজনকে দিয়ে পূরণ করার জন্য একটি নিরাপত্তা পরিকল্পনার একটি খালি রূপরেখা প্রস্তুত করুন: সতর্কতা চিহ্ন, নিরাপদ স্থান, যোগাযোগের জন্য ব্যক্তি এবং প্রতিষ্ঠান, গুরুত্বপূর্ণ নথি, শিশুদের জন্য পরিকল্পনা, ডিজিটাল নিরাপত্তা। বিষয়বস্তু পূরণ করা; ক্লায়েন্ট দিয়ে পূরণ করতে প্রতিটি শিরোনামের নীচে ফাঁকা স্থান ছেড়ে দিন।
3) একটি ঝুঁকি নোট সম্পাদনা করা (সিদ্ধান্ত না নিয়ে):
নিম্নলিখিত পর্যবেক্ষণ এবং বিবৃতি নোটগুলিকে একটি বাস্তবসম্মত, সংগঠিত পাঠ্যে অনুবাদ করুন। আলাদাভাবে লেবেল পর্যবেক্ষণ এবং ক্লায়েন্ট বিবৃতি। ঝুঁকির মাত্রা উল্লেখ করে, একটি সিদ্ধান্ত নেওয়া, একটি মন্তব্য যোগ করা। নোটে যা আছে শুধুমাত্র তা সম্পাদনা করুন এবং অনুপস্থিত/অস্পষ্ট এলাকা চিহ্নিত করুন। দ্রষ্টব্য: [ডি-আইডেন্টিফাইড নোট পেস্ট করুন]
4) পক্ষপাত আত্মনিয়ন্ত্রণ:
নীচের খসড়া ঝুঁকি নোটে, এমন একটি বিবৃতি আছে যা ক্লায়েন্টের আর্থ-সামাজিক অবস্থা, জাতিসত্তা, প্রতিবেশী বা অনুরূপ বৈশিষ্ট্যের কারণে অপ্রমাণিত পক্ষপাতিত্ব প্রকাশ করে? প্রমাণের পরিবর্তে স্টেরিওটাইপের উপর ভিত্তি করে প্রতিটি বাক্যকে চিহ্নিত করুন। পাঠ্য পরিবর্তন করবেন না, শুধু সতর্ক করুন। দ্রষ্টব্য: [নোট পেস্ট করুন]
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল প্রম্পট:
এই কেসটি পড়ুন এবং সিদ্ধান্ত নিন যে শিশুর বাড়িতে থাকা নিরাপদ কিনা এবং ঝুঁকির মাত্রা কী।
এটি একটি সফ্টওয়্যার একটি মানুষের জীবন সম্পর্কে সবচেয়ে ভারী সিদ্ধান্ত আউটসোর্সিং হয়. এটি অনৈতিক, পেশাগত দায়িত্বের পরিপন্থী এবং AI এর পক্ষপাতকে সরাসরি একটি শিশুর ভাগ্যে নিয়ে যায়।
শক্তিশালী প্রম্পট:
আপনার ভূমিকা: অনুস্মারক সহকারী। নীচের ডি-আইডেন্টিফাইড নোট পড়ার আগে, [শিশু অবহেলা] ক্ষেত্রে মূল্যায়নের জন্য ঝুঁকি এবং সুরক্ষামূলক কারণগুলির একটি চেকলিস্ট প্রস্তুত করুন। সিদ্ধান্ত, স্কোর বা ঝুঁকি স্তর উত্পাদন. আমি আমার দলের সাথে মূল্যায়ন করব; আপনি শুধু আমাকে মনে করিয়ে দেবেন যে কোন ক্ষেত্রগুলো এড়িয়ে যাওয়া উচিত নয়।
পার্থক্য: সিদ্ধান্তের জন্য জিজ্ঞাসা করার পরিবর্তে "কোন প্রশ্নগুলি আমার ভুলে যাওয়া উচিত নয়" বলা AI কে নিরাপদ এবং নৈতিক সীমান্তে রাখে।
ঝুঁকি ক্ষেত্রে ভূমিকা সীমানা
কোয়েস্ট
AI এটা করতে পারে?
কে করে?
ফ্যাক্টর চেকলিস্ট অনুস্মারক
হ্যাঁ
এআই (অনুস্মারক)
তথ্যগতভাবে নোট সম্পাদনা করা
হ্যাঁ
AI + বিশেষজ্ঞের অনুমোদন
নিরাপত্তা পরিকল্পনা ফাঁকা কঙ্কাল
হ্যাঁ
এআই; বিষয়বস্তু ক্লায়েন্ট + বিশেষজ্ঞ
ঝুঁকির স্তর/স্কোর নির্ধারণ
না
বিশেষজ্ঞ + দল + তত্ত্বাবধান
"এটা কি নিরাপদ?" সিদ্ধান্ত
না
দক্ষ বিশেষজ্ঞ, আইনি প্রক্রিয়া
প্রতিরক্ষামূলক ব্যবস্থা শুরু করা
না
প্রতিষ্ঠান, উপযুক্ত কর্তৃপক্ষ
সাধারণ ভুল
- ঝুঁকির স্কোর/সিদ্ধান্তের জন্য এআইকে জিজ্ঞাসা করা। সবচেয়ে বিপজ্জনক ভুল; সিদ্ধান্ত পেশাদার কর্তৃপক্ষ এবং আইনি দায়িত্ব প্রয়োজন.
- AI লেবেল বিশ্বাস করা। একটি "কম ঝুঁকি" উপসংহার বিপরীতে আপনার পর্যবেক্ষণ বাতিল করবে না।
- কুসংস্কার উপেক্ষা করে। AI সুবিধাবঞ্চিত গোষ্ঠীগুলির জন্য পদ্ধতিগত উচ্চ ঝুঁকির কারণ হতে পারে; আত্মনিয়ন্ত্রণ অপরিহার্য।
- বিলম্বিত জরুরী. জীবনের নিরাপত্তা থাকলে, জরুরী পদ্ধতি আগে; AI এর সাথে ডিল করা অপেক্ষা করতে পারে না।
- ওপেন টুলে সবচেয়ে সংবেদনশীল ডেটা দেওয়া। ঝুঁকি নোট শুধুমাত্র নিরাপদ প্রতিষ্ঠান টুল প্রক্রিয়া করা হয়.
সংক্ষেপে
ঝুঁকি মূল্যায়ন হল সামাজিক কাজের সবচেয়ে বড় দায়িত্ব, এবং সিদ্ধান্তটি সম্পূর্ণভাবে ব্যক্তির উপর নির্ভর করে — পেশাদার, দল, তত্ত্বাবধান, আইনি কর্তৃপক্ষ। এখানে, AI শুধুমাত্র মনে করিয়ে দেওয়ার জন্য একটি টুল (ঝুঁকি/প্রতিরক্ষামূলক ফ্যাক্টর তালিকা), সংগঠিত করা (ফ্যাকচুয়াল নোট) এবং খসড়া তৈরি (নিরাপত্তা পরিকল্পনা কঙ্কাল); এটি স্কোর করে না, এটি সিদ্ধান্ত নেয় না। মনে রাখবেন যে AI পক্ষপাতিত্ব বহন করে, এর আউটপুটকে কখনই সিদ্ধান্ত হিসাবে ব্যবহার করবেন না এবং শুধুমাত্র সুরক্ষিত সিস্টেমে সবচেয়ে সংবেদনশীল ডেটা প্রক্রিয়া করুন।
আবেদন টাস্ক
একটি কাল্পনিক কেস টাইপ চয়ন করুন. একটি "ঝুঁকি/প্রতিরক্ষামূলক ফ্যাক্টর অনুস্মারক" টেমপ্লেট সহ একটি চেকলিস্ট পান এবং যাচাই করুন যে AI কোনো "ঝুঁকির মাত্রা" তৈরি করে না। তারপর "নিরাপত্তা পরিকল্পনা আউটলাইন কঙ্কাল" টেমপ্লেট সহ একটি ফাঁকা পরিকল্পনা কঙ্কাল ধরুন। সচেতনভাবে এআইকে জিজ্ঞাসা করা "ঝুঁকির স্তর কী?" এবং একটি বাক্যে লিখুন কেন আপনি সিদ্ধান্ত হিসাবে আউটপুট ব্যবহার করবেন না।
চেকলিস্ট
- [ ] আমি AI কে শুধুমাত্র একটি ফ্যাক্টর রিমাইন্ডার চেয়েছি, সিদ্ধান্ত/স্কোর নয়।
- [ ] আমি শুধুমাত্র নিরাপদ এন্টারপ্রাইজ টুলে সবচেয়ে সংবেদনশীল ডেটা প্রক্রিয়া করেছি।
- [ ] আমি ক্লায়েন্টের সাথে একসাথে নিরাপত্তা পরিকল্পনার বিষয়বস্তু পূরণ করার পরিকল্পনা করেছি।
- [] আমি পক্ষপাতের জন্য AI আউটপুট পরীক্ষা করেছি।
- [ ] আমি নিশ্চিত করেছি যে চূড়ান্ত ঝুঁকির সিদ্ধান্ত টিম, তত্ত্বাবধান এবং যথাযথ প্রক্রিয়ার উপর নির্ভর করে।