লাভ:
- বোঝে যে মডেলটি হ্যালুসিনেশন তৈরি করতে পারে এবং প্রতিটি আউটপুট অবশ্যই যাচাই করা উচিত
- প্রম্পটে গোপনীয় এবং ব্যক্তিগত ডেটা রাখার ঝুঁকি এবং নিরাপদ বিকল্পগুলি জানে৷
- কৃত্রিম বুদ্ধিমত্তা ব্যবহারে নীতিশাস্ত্র, কপিরাইট এবং দায়বদ্ধতার সীমা প্রয়োগ করে
কিভাবে প্রম্পট লিখতে হয় তা আয়ত্ত করা যথেষ্ট নয়; কৃত্রিম বুদ্ধিমত্তাকে দায়িত্বশীলভাবে ব্যবহার করতে শেখাও প্রয়োজন। এই ইউনিট নিরাপত্তার স্তর যা প্রযুক্তিগত দক্ষতার উপরে স্থাপন করা আবশ্যক। AI দ্রুত, বিশ্বাসযোগ্য এবং প্রায়ই নির্ভুল উত্তর তৈরি করে; কিন্তু কখনও কখনও এটি একই আত্মবিশ্বাসের সাথে সম্পূর্ণ মিথ্যা তথ্য তৈরি করে, সংবেদনশীল ডেটাকে ঝুঁকিতে ফেলতে পারে এবং নৈতিক সীমানা ঠেলে দিতে পারে। এই ইউনিটে আমরা যাচাইকরণের আউটপুট, মডেলের সীমাবদ্ধতা, গোপনীয়তা এবং নৈতিক দায়িত্ব কভার করব। এই জ্ঞান ছাড়া, অন্যান্য সমস্ত কৌশল অসম্পূর্ণ থেকে যায়।
হ্যালুসিনেশন: মডেল ফিটিং
একটি হ্যালুসিনেশন হল যখন মডেলটি একটি আত্মবিশ্বাসী ভাষায় অবাস্তব তথ্য তৈরি করে। একটি অস্তিত্বহীন উত্স, একটি ভুল তারিখ, একটি বানোয়াট পরিসংখ্যান, বা একটি আইন যা কখনও লেখা হয়নি এগুলোর উদাহরণ। কেন এটা ঘটবে? কারণ মডেলটি "সত্য জানার" জন্য নয় বরং "সম্ভাব্য ধারাবাহিকতা তৈরি করার" জন্য ডিজাইন করা হয়েছে (প্রথম ইউনিটের যুক্তি মনে রাখবেন)। শুধু একটি বাক্য ব্যাকরণগতভাবে সম্ভব এর অর্থ এই নয় যে এটি বাস্তবিকভাবে সত্য।
এর ব্যবহারিক তাৎপর্য স্পষ্ট: স্বাধীনভাবে যাচাই না হওয়া পর্যন্ত AI দ্বারা উত্পাদিত প্রতিটি তথ্যই একটি দাবি, সত্য নয়। বিশেষ করে, সর্বদা পরীক্ষা করুন:
- সংখ্যা এবং পরিসংখ্যান
- নাম, তারিখ, স্থানের নাম
- উদ্ধৃতি এবং উত্স রেফারেন্স
- আইনি ধারা, প্রযুক্তিগত মান, চিকিৎসা/আর্থিক তথ্য
বৈধতা অভ্যাস
আপনি একটি প্রম্পট কৌশলের মাধ্যমে যাচাইকরণ হ্রাস করতে পারেন কিন্তু পুনরায় সেট করতে পারবেন না। দুটি স্তরে কাজ করুন:
- প্রম্পট লেয়ার: মডেলের সীমাবদ্ধতা দিন যেমন "শুধুমাত্র আমার দেওয়া উৎসের উপর নির্ভর করুন, বিদ্যমান নেই এমন তথ্য যোগ করবেন না, আপনি নিশ্চিত না হলে 'আমি জানি না' লিখুন, প্রতিটি দাবির উৎস দেখান।" এতে ফিটিং কমে যায়।
- মানব স্তর: উৎস থেকে প্রতিটি সমালোচনামূলক তথ্য নিজেই যাচাই করুন। এই পদক্ষেপ অ-আলোচনাযোগ্য; এটি এমন বিষয়বস্তুর জন্য বিশেষভাবে বাধ্যতামূলক যা প্রকাশিত হবে, সিদ্ধান্তের ভিত্তি হবে বা অন্যদের প্রভাবিত করবে৷
সীমা: মডেলটি কী ভাল করে না
এলাকা
ঝুঁকি
সঠিক পদ্ধতি
বর্তমান ঘটনা
প্রশিক্ষণ তথ্য পুরানো হতে পারে
তারিখ/বর্তমান উৎস থেকে যাচাই করুন
সঠিক সংখ্যা
ফিটিং একটি উচ্চ সম্ভাবনা আছে
ক্যালকুলেটর/সোর্স দিয়ে চেক করুন
আইনি/চিকিৎসা/আর্থিক
মারাত্মক ক্ষতির আশঙ্কা
একজন প্রকৃত বিশেষজ্ঞের সাথে পরামর্শ করুন, একা এটির উপর নির্ভর করবেন না
উৎস/উদ্ধৃতি
অস্তিত্বহীন সম্পদ উৎপাদন করতে পারে
উৎসের সত্যতা নিজেই পরীক্ষা করুন
বিরল/কুলুঙ্গি বিষয়
উপরিভাগের বা ভুল
বিশেষজ্ঞ জ্ঞানের সাথে তুলনা করুন
মডেল একজন সহকারী, চূড়ান্ত কর্তৃপক্ষ নয়। দায়িত্বটি সর্বদা এটি ব্যবহারকারী ব্যক্তির উপর বর্তায়।
গোপনীয়তা এবং ব্যক্তিগত তথ্য
আপনি একটি পাবলিক AI টুলে যে টেক্সট টাইপ করেন তা সেই টুলের প্রসেসিং পলিসির বিষয় এবং আপনার প্রতিষ্ঠানের নিয়ন্ত্রণের বাইরে হতে পারে। অতএব, চিন্তা না করে গোপনীয় এবং ব্যক্তিগত ডেটা প্রবেশ করা একটি গুরুতর ঝুঁকি। Türkiye ব্যক্তিগত ডেটা প্রক্রিয়াকরণ KVKK (ব্যক্তিগত ডেটা সুরক্ষা আইন) দ্বারা নিয়ন্ত্রিত হয়; প্রতিষ্ঠানগুলির প্রায়শই তাদের নিজস্ব ডেটা নীতি থাকে।
কাজের নিরাপদ উপায়:
- বেনামী/মাস্ক: আসল নামের পরিবর্তে "গ্রাহক" লিখুন, প্রকৃত সংখ্যার পরিবর্তে "[অ্যাকাউন্ট নম্বর]" লিখুন। বেশিরভাগ সময়, "3 বছরের কর্পোরেট গ্রাহক" বলে কৌশলটি করবে।
- একটি প্রতিষ্ঠান-অনুমোদিত টুল ব্যবহার করুন: কিছু প্রতিষ্ঠান চুক্তিবদ্ধ/প্রাতিষ্ঠানিক টুল অফার করে যা ডেটা ফাঁস করে না। শুধুমাত্র তাদের উপর সংবেদনশীল তথ্য প্রক্রিয়া.
- যা প্রয়োজন নেই তা দেবেন না: এমন কোনো সংবেদনশীল বিশদ অন্তর্ভুক্ত করবেন না যা আসলে কাজটি করার জন্য অপরিহার্য নয়।
- নীতিটি জানুন: আপনার প্রতিষ্ঠানের কৃত্রিম বুদ্ধিমত্তা ব্যবহারের নিয়মগুলি জানুন এবং মেনে চলুন।
নৈতিকতা এবং কপিরাইট
দায়িত্বশীল ব্যবহার গোপনীয়তার সাথে শেষ হয় না। তিনটি নীতি:
- স্বচ্ছতা: যদি প্রেক্ষাপটের প্রয়োজন হয় (উদাহরণস্বরূপ, যেখানে মানব শ্রম প্রত্যাশিত) উপযুক্তভাবে AI-উত্পাদিত সামগ্রীকে ক্রেডিট করুন। প্রতারণামূলক ব্যবহার এড়িয়ে চলুন।
- কপিরাইট এবং মৌলিকতা: মডেলের আউটপুট অন্যান্য কাজের অনুরূপ হতে পারে। বাণিজ্যিক ব্যবহারের আগে মৌলিকতা এবং অধিকারের অবস্থা পর্যালোচনা করুন; অন্য কারো ব্র্যান্ড/কাজ অনুকরণ করবেন না।
- নন-মালিফিসেন্স: বিভ্রান্তিকর, বৈষম্যমূলক, কারসাজি বা লক্ষ্যবস্তু তৈরি করতে ব্যবহার করবেন না। হাতিয়ারের শক্তি দায়িত্ব বাড়ায়।
চারটি অনুলিপিযোগ্য টেমপ্লেট
1) সীমাবদ্ধতা সীমিত ফিটিং:
শুধু নিচের উৎসের উপর নির্ভর করুন। উৎসে নেই এমন কোনো তথ্য যোগ করবেন না। যেখানে আপনি নিশ্চিত নন সেখানে "উৎসটিতে নয়" লিখুন। প্রতিটি গুরুত্বপূর্ণ দাবির পাশে, এটির উপর ভিত্তি করে লাইনটি নির্দেশ করুন। সূত্র: [পাঠ্য]
2) যাচাইকরণের তালিকা বের করুন:
নীচের পাঠ্যে যাচাই করা প্রয়োজন এমন সমস্ত তথ্য (নম্বর, তারিখ, নাম, দাবি) তালিকাভুক্ত করুন। সংক্ষেপে প্রস্তাব করুন কিভাবে আমি প্রতিটির জন্য যাচাই করতে পারি। পাঠ্য: [আউটপুট]
3) বেনামীকরণ:
নিম্নলিখিত পাঠ্যে সমস্ত ব্যক্তিগত/গোপনীয় ডেটা মাস্ক করুন: নাম [ব্যক্তি], কোম্পানি [কম্পানি], নম্বর [NUMBER] করুন৷ অক্ষত অর্থ সহ বেনামী সংস্করণ দিন। পাঠ্য: [পাঠ্য]
4) নৈতিক পর্যালোচনা:
এই বিষয়বস্তুটি প্রকাশ করার আগে নৈতিকভাবে মূল্যায়ন করুন: এটি কি বিভ্রান্তিকর, বৈষম্যমূলক বা অন্যায্য? যদি তাই হয় তাহলে এটি ফ্ল্যাগ করুন এবং সংশোধনের পরামর্শ দিন। বিষয়বস্তু: [পাঠ্য]
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল (ঝুঁকিপূর্ণ):
Ahmet Yılmaz's (TC: ...) চুক্তিতে সমস্যাগুলি খুঁজুন এবং শিল্পের গড়গুলির সাথে এটির তুলনা করুন।
শক্তিশালী (নিরাপদ):
নীচের চুক্তির পাঠ্যে ঝুঁকিপূর্ণ ধারাগুলি খুঁজুন। - ব্যক্তিগত তথ্য ব্যবহার; দলগুলিকে [কম্পানি-এ] এবং [ব্যক্তি] হিসাবে উল্লেখ করা হোক।- শুধুমাত্র পাঠ্যে যা লেখা আছে তার উপর নির্ভর করুন; শিল্প গড় তৈরি, "ডেটা উপলব্ধ নয়" লিখুন।- প্রতিটি ঝুঁকি তার আইটেম সহ দেখান। পাঠ্য (বেনামী): [পাঠ্য]
শক্তিশালী সংস্করণ উভয় ব্যক্তিগত ডেটা রক্ষা করে এবং জাল শিল্প ডেটা ব্লক করে; আউটপুট আইনি দল দ্বারা পর্যালোচনার জন্য প্রস্তুত.
তিনটি মিনি কেস
কেস 1 - বানোয়াট উৎস। একজন গবেষক মডেল দ্বারা প্রদত্ত 3টি "একাডেমিক উত্স" তাদের যাচাই না করে উপস্থাপনায় রেখেছেন; দুটি সূত্র আদৌ পাওয়া যায়নি। উপস্থাপনার আগে একজন সহকর্মী এটি লক্ষ্য করেছিলেন। পরে, দলটি "প্রকাশের আগে ব্যক্তিগতভাবে প্রতিটি সংস্থান খুঁজুন এবং খুলুন" নিয়মটি গ্রহণ করে।
কেস 2 - গোপনীয়তা। একজন কর্মচারী প্রকৃত গ্রাহক চুক্তিটি একটি পাবলিক টুলে পেস্ট করেছেন এবং একটি সারসংক্ষেপ চেয়েছেন। যখন প্রতিষ্ঠানের তথ্য সুরক্ষা দল এটি সনাক্ত করে, প্রক্রিয়াটি পর্যালোচনা করা হয়েছিল; সংবেদনশীল নথিগুলি এখন শুধুমাত্র প্রতিষ্ঠান দ্বারা অনুমোদিত কর্পোরেট টুলে প্রক্রিয়া করা হয় এবং বেনামী করা হয়।
কেস 3 — সিদ্ধান্তের দায়িত্ব। মডেল দ্বারা প্রদত্ত ট্যাক্স ব্যাখ্যার উপর ভিত্তি করে একটি ছোট ব্যবসার মালিক পদক্ষেপ নিতে চলেছেন; মন্তব্যটি বর্তমান আইন মেনে চলেনি। তিনি তার আর্থিক উপদেষ্টার সাথে পরামর্শ করলে ভুলটি ধরা পড়ে। পাঠটি পরিষ্কার: এআই প্রস্তুত করে, বিশেষজ্ঞ এবং মানুষ সিদ্ধান্ত নেয়।
পরামর্শ: একটি সত্যকে "যাচাই করা হয়নি" হিসাবে চিহ্নিত করার অভ্যাস করুন। আপনি এটি নিশ্চিত না হওয়া পর্যন্ত আউটপুটে প্রতিটি সংখ্যা এবং উত্সের পাশে একটি চেক মার্ক রাখুন; এই সাধারণ শৃঙ্খলা ভুল তথ্যকে নীরবে ছড়িয়ে পড়া থেকে বাধা দেয়।
সতর্কতা: "এআই তাই বলেছে" একটি অজুহাত নয়। আপনি যে কোন বিষয়বস্তু প্রকাশ করেন, পাঠান বা আপনার সিদ্ধান্তের উপর ভিত্তি করে তার জন্য দায়ী। গাড়ির গতি আপনাকে আপনার পরিদর্শনের বাধ্যবাধকতা থেকে মুক্তি দেয় না।
সাধারণ ভুল
- সঠিক হিসাবে সাবলীল আউটপুট ভুল. সত্যের প্রমাণের জন্য প্ররোচক ভাষা ভুল করা।
- এটি পরীক্ষা না করে উৎস ব্যবহার করা. একটি অস্তিত্বহীন উৎস প্রকাশ করা।
- চিন্তা না করে গোপনীয় তথ্য প্রবেশ করান। সংবেদনশীল নথিগুলি বেনামী না করে আটকানো।
- দক্ষতা একা মডেলের উপর ছেড়ে দেওয়া। আইনি/চিকিৎসা/আর্থিক সিদ্ধান্ত যাচাই করতে ব্যর্থতা।
- গাড়ির উপর দায়িত্ব চাপানো। "AI বলেছেন তাই" বলে নিয়ন্ত্রণ এড়িয়ে যাওয়া।
সংক্ষেপে
- হ্যালুসিনেশন হল যখন মডেল আত্মবিশ্বাসের সাথে এমন কিছু তৈরি করে যা বাস্তব নয়; যাচাই না হওয়া পর্যন্ত প্রতিটি সত্যই একটি দাবি।
- যাচাইকরণ দ্বি-গুণ: প্রম্পট সীমাবদ্ধতা বানোয়াট হ্রাস করে, মানুষের পরীক্ষা এটি ধরা দেয়।
- মডেলটি বর্তমান, সুনির্দিষ্ট, আইনি/চিকিৎসা/আর্থিক বিষয়ে সীমাবদ্ধ; চূড়ান্ত কর্তৃপক্ষ নয়।
- গোপনীয় এবং ব্যক্তিগত তথ্য বা প্রক্রিয়া শুধুমাত্র প্রতিষ্ঠান দ্বারা অনুমোদিত টুলে (KVKK এবং প্রতিষ্ঠান নীতি) বেনামী করুন।
- নৈতিক, কপিরাইট এবং অ-দুর্নীতির নীতিগুলি মেনে চলুন; বিষয়বস্তুর দায়িত্ব সর্বদা ব্যক্তির উপর বর্তায়।
আবেদন টাস্ক
আপনি সম্প্রতি উত্পাদিত একটি প্রিন্টআউট নিন এবং যাচাইকরণ তালিকা হিসাবে এতে সমস্ত তথ্য (নম্বর, তারিখ, নাম, উত্স, দাবি) বের করুন। প্রতিটির জন্য যাচাইকরণ পদ্ধতি লিখুন এবং প্রকৃতপক্ষে তাদের মধ্যে অন্তত তিনটি পরীক্ষা করুন। এছাড়াও, একই আউটপুটের ইনপুটটিতে গোপনীয়/ব্যক্তিগত ডেটা আছে কিনা তা পরীক্ষা করুন এবং প্রয়োজনে এটি বেনামী করুন।
চেকলিস্ট
- [ ] আমি ব্যাখ্যা করতে পারি হ্যালুসিনেশন কী এবং কেন এটি ঘটে।
- [ ] আমি স্বাধীন উৎস থেকে বাস্তবিক আউটপুট যাচাই করি।
- [ ] আমি গোপনীয়/ব্যক্তিগত ডেটা বেনামী করি বা এটি একটি নিরাপদ টুলে প্রক্রিয়া করি।
- আমি আইনি/চিকিৎসা/আর্থিক বিষয়ে একজন প্রকৃত বিশেষজ্ঞের সাথে পরামর্শ করি।
- [ ] আমি স্বীকার করছি যে আমি বিষয়বস্তুর জন্য দায়ী৷