লাভ:
- ব্যাখ্যা করার ক্ষমতা কেন হ্যালুসিনেশন (বানোয়াট উত্স, উদ্ধৃতি, ঘটনা) এবং অ্যানাক্রোনিজম ইতিহাসের সবচেয়ে বিপজ্জনক ভুল
- ক্যাটালগের প্রতিটি রেফারেন্স যাচাই করার শৃঙ্খলা প্রয়োগ করার ক্ষমতা, নথির সাথে বিষয়বস্তুর তুলনা করা এবং সমালোচনামূলক তথ্য ক্রস-নিশ্চিত করা।
- কৃত্রিম বুদ্ধিমত্তা জিজ্ঞাসা করে উত্সগুলিতে পক্ষপাত এবং অনুপস্থিত ভয়েস প্রশ্ন করার ক্ষমতা আসল উত্সের পরিবর্তে কোথায় দেখতে হবে
এই মডিউলের প্রতিটি ইউনিটে একটি সতর্কতা পুনরাবৃত্তি করা হয়েছে: AI এর আউটপুট একটি দাবি, সত্য নয়, যতক্ষণ না যাচাই করা হয়। এই ইউনিট সেই সতর্কতাকে একটি শৃঙ্খলায় পরিণত করে। ইতিহাস এবং সংরক্ষণাগার সহজাতভাবে প্রমাণ-ভিত্তিক ক্ষেত্র; একজন ঐতিহাসিকের সবচেয়ে মৌলিক দক্ষতা হল উৎস সমালোচনা (প্রশ্ন করা যে কার দ্বারা, কখন, কোন উদ্দেশ্যে একটি উৎস উত্পাদিত হয়েছিল এবং এটি কতটা নির্ভরযোগ্য)। এআই-এর যুগে, এই দক্ষতা আরও বেশি সমালোচনামূলক হয়ে উঠেছে কারণ উৎস নিজেই এখন বানোয়াট হতে পারে।
এখানে আমরা তিনটি বিপদকে গভীরভাবে কভার করব: হ্যালুসিনেশন (এআই তৈরি করে বানোয়াট তথ্য, উত্স বা উদ্ধৃতি), অ্যানাক্রোনিজম (পর্যায়ক্রমিক উপাদানগুলি ভুল সময়ে স্থানান্তরিত হচ্ছে), এবং সাধারণভাবে উত্স যাচাইয়ের শৃঙ্খলা। আমরা অতীতে ভুল বা পক্ষপাতদুষ্ট উত্স থেকে AI শেখারও দেখব, তাই এটি পক্ষপাত পুনরুত্পাদন করতে পারে।
হ্যালুসিনেশন: সবচেয়ে বিপজ্জনক ভুল
একটি হ্যালুসিনেশন হল যখন একটি AI আত্মবিশ্বাসের সাথে এমন কিছু উপস্থাপন করে যা আসলে নেই। ঐতিহাসিকভাবে, এটি সাধারণত নিম্নলিখিত ফর্মগুলিতে দেখা যায়:
- বানোয়াট উৎস/রেফারেন্স: একটি অস্তিত্বহীন আর্কাইভ তহবিল, ফাইল নম্বর, বই বা নিবন্ধ।
- তৈরি উদ্ধৃতি: এমন একটি শব্দ যা আসলে বলা হয়নি, একটি বাক্য যা নথিতে নেই।
- মেড-আপ ইভেন্ট/তারিখ/ব্যক্তি: একটি ঘটনা যা ঘটেনি, একটি মিথ্যা তারিখ, একটি ব্যক্তি যার অস্তিত্ব নেই।
- কাল্পনিক সংযোগ: দুটি বাস্তব ঘটনার মধ্যে একটি অস্তিত্বহীন কারণ-প্রভাব সম্পর্ক।
হ্যালুসিনেশনকে যা বিপজ্জনক করে তোলে তা হল এটি বিশ্বাসযোগ্য বলে মনে হয়। একটি তৈরি রেফারেন্স একটি বাস্তব রেফারেন্স হিসাবে একই বিন্যাস আছে: ফান্ডের নাম, সংখ্যা, তারিখ। সুতরাং "ফরম্যাট সঠিক দেখাচ্ছে" এর অর্থ কখনই "সঠিক" নয়।
মনোযোগ: YZ দ্বারা উত্পাদিত কোন সম্পদ যাচাই করা ছাড়া এবং ক্যাটালগ বা একটি নির্ভরযোগ্য জায়গায় পাওয়া যাবে না। একটি রেফারেন্স বিদ্যমান তা প্রমাণ করার একমাত্র উপায় হল আসল উৎসটি কোথায় অবস্থিত তা দেখা (আর্কাইভ ক্যাটালগ, লাইব্রেরি, প্রকাশনা)। "এআই দিয়েছে" প্রমাণ নয়।
অ্যানাক্রোনিজম: সময়ের চশমা
নৈরাজ্যবাদ আজকের চশমা দিয়ে অতীতকে দেখছে। যেহেতু AI আজকের ভাষায় প্রশিক্ষিত, এটির একটি শক্তিশালী প্রবণতা রয়েছে:
- টার্ম অ্যানাক্রোনিজম: এমন একটি শব্দ, প্রতিষ্ঠান বা ধারণা ব্যবহার করা যা সময়ের সাথে সম্পর্কিত নয়।
- কনসেপ্ট অ্যানাক্রোনিজম: অতীতে বর্তমানের একটি ধারণা (যেমন একটি আধুনিক আদর্শ বা পরিচয়) তুলে ধরা।
- মূল্যহীনতা: শুধুমাত্র আজকের মান দ্বারা অতীত আচরণ বিচার করা।
অতীতকে তার প্রেক্ষাপটে বোঝাই ঐতিহাসিকের কাজ। এআই-এর এই প্রসঙ্গ সংবেদনশীলতার অভাব রয়েছে; আপনি নিজেই এটি প্রদান করতে হবে.
হ্যালুসিনেশন কেন প্রায়শই ঘটে তা বোঝা এটি থেকে রক্ষা করা সহজ করে তোলে। AI একটি সিস্টেম যা "পরবর্তী সম্ভাব্য শব্দ" তৈরি করতে কাজ করে; এটার "সত্য জানার" মত কোন উদ্দেশ্য নেই। একটি প্রশ্ন জিজ্ঞাসা করা হলে, তিনি উত্তর জানেন কি না, তিনি এমন পাঠ্য তৈরি করেন যা পরিসংখ্যানগতভাবে বিশ্বাসযোগ্য বলে মনে হয়। একটি আর্কাইভাল রেফারেন্সের বিন্যাস (ফান্ডের নাম, সংখ্যা, তারিখ) একটি শেখা প্যাটার্ন; AI একটি বাস্তব রেফারেন্স ছাড়া এই প্যাটার্ন পূরণ করতে পারেন. তাহলে "কেন এআই এটি তৈরি করে?" প্রশ্নের উত্তরটি সহজ: "না জানা" এর চেয়ে এটি তৈরি করা তার পক্ষে সহজ। প্রকৃত সম্পদ দিয়ে এই ছাঁচগুলি পূরণ করার দায়িত্ব আপনার উপর পড়ে।
উত্স যাচাইকরণ শৃঙ্খলা: ধাপে ধাপে
1. সম্পদের অস্তিত্ব যাচাই করুন। ক্যাটালগ/প্রকাশনায় AI দ্বারা প্রদত্ত প্রতিটি রেফারেন্স খুঁজুন। আপনি যদি এটি খুঁজে না পান তবে এটি ব্যবহার করবেন না।
2. উৎসের সাথে বিষয়বস্তুর তুলনা করুন। একটি নথিতে AI বৈশিষ্ট্যযুক্ত তথ্য কি আসলে নথিতে বিদ্যমান? উদ্ধৃতি ঠিক একই?
3. ক্রস-নিশ্চিত. একটি সমালোচনামূলক তথ্যের জন্য, কমপক্ষে দুটি স্বাধীন নির্ভরযোগ্য উত্স দেখুন।
4. উত্স সমালোচনা প্রয়োগ করুন. উৎস নিজেই নির্ভরযোগ্য? কে, কখন এবং কী উদ্দেশ্যে এটি তৈরি করেছে? এটা কি পক্ষপাতদুষ্ট?
5. অ্যানাক্রোনিজম ফিল্টারের মাধ্যমে এটি পাস করুন। আউটপুটে সময়কালের সাথে খাপ খায় না এমন কোন পদ, ধারণা বা মূল্য বিচার আছে?
6. প্রশ্ন কুসংস্কার. এআই কি ঐতিহাসিক উৎসে পক্ষপাতদুষ্টতা পুনরুত্পাদন করতে পারে (একটি গোষ্ঠীকে উপেক্ষা করে, একটি দৃষ্টিভঙ্গির পক্ষে)?
প্রমাণীকরণ স্তর
প্রশ্ন
যারা করে
সত্তা
এই সম্পদ সত্যিই বিদ্যমান?
আপনি ক্যাটালগ.
বিষয়বস্তু
এটা কি সত্যিই নথিতে বলা আছে?
নথিতে আপনি
নিশ্চিতকরণ
অন্য কোন উৎস কি এটা সমর্থন করে?
আপনি, ক্রস
নির্ভরযোগ্যতা
উৎস কি নির্ভরযোগ্য?
বিশেষজ্ঞের রায়
সময়কাল
কোন anachronisms আছে?
বিশেষজ্ঞের রায়
কুসংস্কার
কার ভয়েস অনুপস্থিত/বিকৃত?
বিশেষজ্ঞের রায়
তিনটি মিনি কেস
কেস 1 - ছয়টি বানোয়াট রেফারেন্স। একজন গবেষক এআইকে একটি বিষয়ে উৎসের তালিকা চেয়েছিলেন। YZ নিখুঁত বিন্যাস সহ 6 টি আর্কাইভ রেফারেন্স প্রদান করেছে। ক্যাটালগ অনুসন্ধানে, 6 টির মধ্যে 4 জন অনুপস্থিত, তাদের মধ্যে 2 জনের ভুল নম্বর ছিল। যদি গবেষক যাচাই না করে থাকেন, তাহলে একটি গবেষণা যা অস্তিত্বহীন উত্স উদ্ধৃত করে উদ্ধৃত হতো। পাঠ: প্রতিটি রেফারেন্স ক্যাটালগে যাচাই করা হয়।
কেস 2 - তৈরি করা উদ্ধৃতি। একজন লেখক একটি আকর্ষণীয় উদ্ধৃতি ব্যবহার করবেন যেটি এআই একটি ঐতিহাসিক ব্যক্তিত্বকে দায়ী করে। যখন তিনি উত্সটি তদন্ত করেছিলেন, তখন তিনি দেখেন যে এমন কোনও নথি নেই যা প্রমাণ করে যে সেই ব্যক্তি এমন কিছু বলেছেন এবং বিবৃতিটি AI দ্বারা "তৈরি করা হয়েছে"৷ পাঠ: প্রাথমিক বা নির্ভরযোগ্য উৎস থেকে যাচাই না করে উদ্ধৃতি ব্যবহার করা যাবে না।
কেস 3 - কুসংস্কারের প্রজনন। একজন শিক্ষার্থী AI দিয়ে একটি অঞ্চলের ইতিহাস ব্যাখ্যা করেছিলেন। আউটপুটটি সেই এলাকার একটি নির্দিষ্ট সম্প্রদায়কে সম্পূর্ণরূপে উপেক্ষা করেছিল কারণ এআই যে উত্সগুলি থেকে শিখেছিল সেগুলিও তাদের উপেক্ষা করেছিল। ছাত্রটি ক্রস-রেফারেন্স সহ এই ফাঁকটি লক্ষ্য করেছে এবং সংশোধন করেছে। পাঠ: এআই উত্সগুলিতে নীরবতা এবং পক্ষপাত পুনরুত্পাদন করে; একজনকে অবশ্যই জিজ্ঞাসা করতে হবে যে কার কণ্ঠ অনুপস্থিত।
চারটি অনুলিপিযোগ্য টেমপ্লেট
1) রেফারেন্স যাচাই তালিকা:
নীচের টেক্সটে সমস্ত উত্স, রেফারেন্স, উদ্ধৃতি, তারিখ এবং ব্যক্তির নাম একটি পৃথক তালিকায় প্রদর্শিত হবে। প্রতিটির জন্য একটি নোট যোগ করুন: "এই পাঠ্যে দাবি করা হয়েছে, স্বাধীনভাবে যাচাই করা আবশ্যক।" যদি আপনি কোনটি নির্বাচন না করেন, "যাচাই করুন"; যাচাই করার জন্য শুধু একটি তালিকা তৈরি করুন যাতে আমি ক্যাটালগ/উৎস থেকে এটি পরীক্ষা করতে পারি। পাঠ্য: [এখানে]
2) অ্যানাক্রোনিজম স্ক্যানিং:
নীচে [পিরিয়ড] সম্পর্কে পাঠ্য পরীক্ষা করুন। শর্তাবলী, প্রতিষ্ঠান, ধারণা এবং মানগুলি হাইলাইট করুন যা এই সময়ের অন্তর্গত নাও হতে পারে। প্রতিটির জন্য, সংক্ষেপে লিখুন কেন আপনি সন্দেহজনক। চূড়ান্ত বিচার করা; সন্দেহের একটি তালিকা তৈরি করুন যা বিশেষজ্ঞ পরীক্ষা করবেন। পাঠ্য: [এখানে]
3) উত্স সমালোচনা কাঠামো:
নিম্নলিখিত উত্স সম্পর্কে একটি উত্স সমালোচনা খসড়া তৈরি করা হয়েছে: (1) কে এটি তৈরি করতে পারে, (2) কখন, (3) কী উদ্দেশ্যে, (4) এর সম্ভাব্য পক্ষপাতগুলি কী, (5) কোন বিষয়ে বিশ্বাস করা উচিত এবং কোনটি সতর্ক হওয়া উচিত। চূড়ান্ত রায় আরোপ করা; প্রশ্ন এবং সম্ভাব্য উত্তর বিকল্প প্রদান করুন. সূত্র: [এখানে]
4) অনুপস্থিত ভলিউম/পক্ষপাত নিয়ন্ত্রণ:
নিম্নলিখিত ঐতিহাসিক সারাংশে কার ভয়েস এবং কোন দলের অভিজ্ঞতা অনুপস্থিত বা একতরফা হতে পারে? কোন দৃষ্টিভঙ্গি প্রভাবশালী, কোনটি অদৃশ্য? প্রশ্নগুলির একটি তালিকা হিসাবে এটি তৈরি করুন; আমি ক্রস-রেফারেন্স দিয়ে এটি পূরণ করব। সারাংশ: [এখানে]
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল:
আমাকে এই বিষয়ে নির্ভরযোগ্য ঐতিহাসিক সূত্র এবং উদ্ধৃতি দিন।
"উৎস" এবং "উদ্ধৃতি" চাওয়া হলে এআই এমন রেফারেন্স তৈরি করতে প্রবণ যা আকারে সঠিক কিন্তু বিষয়বস্তুতে বানোয়াট। এই প্রম্পট হ্যালুসিনেশনের সরাসরি আমন্ত্রণ।
শক্তিশালী:
এই বিষয়ে আমার গবেষণায় আমার কী ধরনের উত্স (আর্কাইভ ফান্ডের ধরন, প্রকাশনার ধরন, প্রতিষ্ঠান) সন্ধান করা উচিত তা পরামর্শ দিন। একটি নির্দিষ্ট রেফারেন্স, ফাইল নম্বর বা উদ্ধৃতি ফিটিং; শুধু কোথায় তাকান বলুন. তারপর আমি ক্যাটালগ থেকে আসল সূত্র খুঁজে পাব।
পার্থক্য: AI কে "কোথায় দেখতে হবে" বলা হয়েছে, "প্রকৃত রেফারেন্স" নয়; হ্যালুসিনেশনের ঝুঁকি আমূলভাবে হ্রাস পায় এবং যাচাইকরণ মানুষের উপর ছেড়ে দেওয়া হয়।
সাধারণ ভুল
- সঠিক রেফারেন্সের উপর নির্ভর করা। তৈরি করা রেফারেন্সটিও ত্রুটিহীন বলে মনে হয়; ক্যাটালগ যাচাই করা আবশ্যক.
- এআই থেকে সরাসরি উদ্ধৃতি নেওয়া। প্রাথমিক/নির্ভরযোগ্য উৎস থেকে নিশ্চিতকরণ ছাড়া উদ্ধৃতি ব্যবহার করা যাবে না।
- অনাক্রম্যতা উপেক্ষা করা. আজকের শর্তাবলী এবং ধারণাগুলি নীরবে অতীতে প্রবেশ করে।
- কুসংস্কার পুনরুত্পাদন. এআই উৎস থেকে নীরবতা কপি করে; অনুপস্থিত শব্দ সম্পর্কে জিজ্ঞাসা করা প্রয়োজন।
- একক উৎসের উপর নির্ভর করা। সমালোচনামূলক তথ্য অন্তত দুটি স্বাধীন উত্স দ্বারা নিশ্চিত করা আবশ্যক.
সংক্ষেপে
উত্স যাচাইকরণ ইতিহাস এবং সংরক্ষণাগারের কেন্দ্রবিন্দুতে রয়েছে এবং AI এর যুগে এটি আরও বেশি গুরুত্বপূর্ণ। হ্যালুসিনেশন সূত্র, উদ্ধৃতি এবং ঘটনা তৈরি করে যার ফর্ম নিখুঁত কিন্তু যার বিষয়বস্তু কাল্পনিক; আজকের লেন্সের মাধ্যমে অনাক্রম্যতা অতীতকে বিকৃত করে; এবং AI উত্সগুলিতে পক্ষপাত পুনরুত্পাদন করে৷ প্রতিরক্ষা একটি শৃঙ্খলা: ক্যাটালগের প্রতিটি রেফারেন্স যাচাই করুন, নথির সাথে বিষয়বস্তুর তুলনা করুন, সমালোচনামূলক তথ্যগুলি ক্রস-চেক করুন, সময়কাল এবং পক্ষপাতের মাধ্যমে ফিল্টার করুন। AI কে জিজ্ঞাসা করুন "কোথায় দেখতে হবে," "আসল উৎস" নয়। সত্যের অভিভাবক সর্বদাই বিশেষজ্ঞ।
আবেদন টাস্ক
আপনি যে বিষয়ে কাজ করছেন সে বিষয়ে AI-কে সম্পদের একটি তালিকা তৈরি করতে বলুন (ইচ্ছাকৃতভাবে "দুর্বল প্রম্পট" সহ)। তারপর এই আউটপুট থেকে "রেফারেন্স ভ্যালিডেশন লিস্ট" টেমপ্লেটের সাথে সমস্ত রেফারেন্স বের করুন এবং প্রতিটি একটি ক্যাটালগে অনুসন্ধান করুন। কতগুলি প্রকৃতপক্ষে বিদ্যমান এবং কতগুলি গঠিত বা ভুল তা গণনা করুন। একটি "শক্তিশালী প্রম্পট" ("কোথায় তাকাতে হবে") দিয়ে একই বিষয়ের পুনরাবৃত্তি করুন এবং পার্থক্যটি অনুভব করুন।
চেকলিস্ট
- [ ] আমি ক্যাটালগ/বিশ্বস্ত উৎসে প্রতিটি রেফারেন্স যাচাই করেছি।
- [ ] আমি প্রাথমিক/নির্ভরযোগ্য উৎস দিয়ে প্রতিটি উদ্ধৃতি যাচাই করেছি।
- [ ] আমি অন্তত দুটি স্বাধীন উত্সের সাথে সমালোচনামূলক তথ্যগুলি ক্রস-চেক করেছি৷
- [ ] আমি অ্যানাক্রোনিজমের জন্য আউটপুট ফিল্টার করেছি।
- [] আমি অনুপস্থিত/বিকৃত কণ্ঠস্বর এবং পক্ষপাত নিয়ে প্রশ্ন করেছি।