পেশাগত সংশয়বাদ এবং কৃত্রিম বুদ্ধিমত্তা: নিশ্চিতকরণ পক্ষপাত, হ্যালুসিনেশন এবং সমালোচনামূলক তদন্ত

লাভ:

• কৃত্রিম বুদ্ধিমত্তা ব্যবহার করার সময় পেশাদার সংশয়বাদ কী এবং নিশ্চিতকরণ পক্ষপাতিত্ব এবং অটোমেশন পক্ষপাতের মধ্যে পড়ার ঝুঁকিগুলি বুঝুন
• কৃত্রিম বুদ্ধিমত্তার আউটপুটকে প্রশ্ন করার কৌশল দিয়ে পরীক্ষা করার ক্ষমতা যা খণ্ডন করার চেষ্টা করে (বিপরীতভাবে দেখুন)
• বুঝতে সক্ষম হওয়া যে কৃত্রিম বুদ্ধিমত্তার সাবলীলতার অর্থ সঠিকতা নয়, সন্দেহপ্রবণ মন নিয়ন্ত্রণের মূল এবং স্থানান্তর করা যায় না।

একটি মানসিক মনোভাব আছে যা অন্য অনেক পেশা থেকে স্বাধীন নিরীক্ষাকে আলাদা করে: পেশাদার সংশয়বাদ। আইএসএগুলি এটিকে অডিটর হিসাবে সংজ্ঞায়িত করে "একটি অনুসন্ধানী মন নিয়ে কাজ করে, প্রমাণগুলি সম্ভাব্য ভুল বিবৃতির ইঙ্গিত দেয় কিনা এবং প্রমাণগুলিকে সমালোচনামূলকভাবে মূল্যায়ন করে।" অর্থাৎ, নিরীক্ষক স্বয়ংক্রিয়ভাবে তার কাছে উপস্থাপিত কোনো তথ্য গ্রহণ করেন না—ব্যবস্থাপনার বিবৃতি নয়, কোনো নথি নয়, এমনকি কোনো অ্যাকাউন্টও নয় যা "যুক্তিসঙ্গত বলে মনে হয়"—সত্য হিসেবে। আমি ক্রমাগত বিস্মিত "এটা কি সত্যিই তাই?" সে জিজ্ঞেস করে এই মনোভাব নিয়ন্ত্রণের মূল এবং অনির্বাণযোগ্য।

কৃত্রিম বুদ্ধিমত্তার যুগে, এই কোরটি একেবারে নতুন পরীক্ষার মুখোমুখি। কারণ AI মানুষের মনের দুটি গভীর-উপস্থিত দুর্বলতাকে ট্রিগার করতে পারদর্শী - অটোমেশন পক্ষপাত এবং নিশ্চিতকরণ পক্ষপাত। এই ইউনিটে, আমরা কভার করব কিভাবে একজন অডিটর AI ব্যবহার করে তার সংশয় বজায় রাখতে বা শক্তিশালী করতে পারে। মূল থিসিস হল যে AI এর সাবলীলতা সঠিকতা নয়; এআই-এর মুখে সন্দেহপ্রবণ মন আরও গুরুত্বপূর্ণ হয়ে ওঠে।

দুটি বিপজ্জনক পক্ষপাত

স্বয়ংক্রিয়তা পক্ষপাত হল মানুষের নিজস্ব সিদ্ধান্তের চেয়ে একটি মেশিন/সফ্টওয়্যারের আউটপুটকে বিশ্বাস করার প্রবণতা। "কম্পিউটার এটি গণনা করেছে, এটি সঠিক।" এআই-এর ক্ষেত্রে এই বিপদ আরও বৃদ্ধি পায়, কারণ AI শুধু গণনা করে না; সাবলীল, আত্মবিশ্বাসী, মানুষের মতো, যুক্তিযুক্ত বাক্য বলে। তথ্য সঠিক না হলেও একটি আত্মবিশ্বাসী টোন প্ররোচিত হয়।

নিশ্চিতকরণ পক্ষপাতিত্ব হল মানুষের এমন তথ্য খোঁজার প্রবণতা যা তারা পূর্বে বিশ্বাস করেছিল বা আশা করেছিল এমন সিদ্ধান্তকে সমর্থন করে এবং পরস্পরবিরোধী তথ্য উপেক্ষা করে। এটি নিরীক্ষার ক্ষেত্রে মারাত্মক: একজন নিরীক্ষক যিনি মনে করেন "এই ক্লায়েন্টকে অবশ্যই পরিষ্কার হতে হবে" যখন তিনি এআইকে জিজ্ঞাসা করবেন এবং নিশ্চিতকরণ পাবেন, তখন তিনি স্বস্তি পাবেন এবং বিপরীতে প্রমাণ খোঁজা বন্ধ করবেন। যেহেতু AI জিজ্ঞাসা করা প্রশ্নের দিকে ঝুঁকতে থাকে (যদি আপনি জিজ্ঞাসা করেন "এটি ঠিক আছে, তাই না?" এটি আপনার সাথে একমত এমন একটি উত্তর তৈরি করার সম্ভাবনা বেশি), এটি নিশ্চিতকরণ পক্ষপাতকে উত্সাহিত করতে পারে।

তৃতীয় একটি আছে: হ্যালুসিনেশন। আমরা এটি মডিউলে অনেকবার দেখেছি — AI সাবলীলভাবে একটি সংখ্যা, আইটেম, সংস্থান তৈরি করতে পারে যা বিদ্যমান নেই। বিপদ আরও বেড়ে যায় যখন তিনটি দুর্বলতা একত্রিত হয়: AI জিনিসগুলি তৈরি করে (হ্যালুসিনেশন), আপনি এটি বিশ্বাস করেন কারণ এটি তরল (অটোমেশন পক্ষপাত), আপনি এটিকে প্রশ্ন করেন না কারণ এটি আপনাকে বলে যে আপনি কী আশা করেন (নিশ্চিতকরণ পক্ষপাত)।

এআই-এর বিরুদ্ধে সন্দেহপ্রবণ মনের তিনটি হাতিয়ার

আসুন AI এর বিরুদ্ধে কংক্রিট কৌশলগুলিতে সংশয় রাখি:

1. খন্ডন করার চেষ্টা করুন, নিশ্চিত নয়। একটি AI তার আউটপুট জিজ্ঞাসা করতে পারে "এটি কি সত্য?" না "এটি ভুল হলে আমি কিভাবে জানব?" প্রশ্ন নিজেকে জিজ্ঞাসা করুন: "যদি এই বিবৃতিটি মিথ্যা হয় তবে কোন প্রমাণ এটি দেখাবে?" এবং সেই প্রমাণের সন্ধান করুন। একটি একক নিশ্চিত উদাহরণ খুঁজে পাওয়া সহজ; খন্ডন করার চেষ্টা করা এবং ব্যর্থ হওয়া প্রকৃত নিশ্চয়তা দেয়।
2. নিরপেক্ষভাবে এবং পিছনের দিকে জিজ্ঞাসা করুন। AI কে জিজ্ঞাসা করুন "এখানে কোন সমস্যা নেই, তাই না?" জিজ্ঞাসা করবেন না; এটি একটি অনুমোদনমূলক প্রতিক্রিয়া আমন্ত্রণ জানায়। পরিবর্তে, "এই ডেটাতে আমি কোন ঝুঁকিগুলি মিস করতে পারি?" এবং "এই ফলাফলটি ভুল হতে পারে এমন তিনটি সম্ভাব্য পরিস্থিতি কী?" জিজ্ঞাসা দুটি বিপরীত দিক থেকে একই প্রশ্ন জিজ্ঞাসা করুন এবং উত্তরগুলি তুলনা করুন।
3. উৎস থেকে ডাউনলোড করুন এবং পুনরুত্পাদন করুন। প্রতিটি সমস্যা, অ্যাট্রিবিউশন এবং উপসংহারের জন্য, "আমি স্বাধীনভাবে এটি কোথায় যাচাই করব?" প্রশ্ন জিজ্ঞাসা করুন এবং আসলে যাচাই করুন. একটি দাবি হিসাবে AI এর আউটপুট দেখুন; প্রমাণ দাবীর বাহ্যিক।

টিপ: একটি অভ্যাস করুন: AI প্রদান করে প্রতিটি উল্লেখযোগ্য আউটপুটের পাশে, দুটি জিনিস হাতে লিখুন - "(1) আমি এটি কী দিয়ে যাচাই করেছি, (2) এটি মিথ্যা হলে কোন প্রমাণ দেখাবে।" এই দুটি নোট অটোমেশন এবং নিশ্চিতকরণ পক্ষপাত উভয় ভঙ্গ করে।

বিচার যে অডিটর অর্পণ করতে পারে না

কিছু কাজ সহজাতভাবে সংশয় এবং রায় প্রয়োজন; এগুলি AI-তে অর্পণ করা যাবে না, শুধুমাত্র সমর্থিত:

অবিচ্ছেদ্য এখতিয়ার

কেন

প্রমাণ যথেষ্ট এবং উপযুক্ত কিনা

পেশাগত রায়; প্রসঙ্গ নির্ভর

একটি ব্যাখ্যার যুক্তিসঙ্গততা

এন্টারপ্রাইজ এবং অভিপ্রায় বিবেচনা প্রয়োজন

জালিয়াতি ঝুঁকি মূল্যায়ন

সংশয়বাদ এবং অন্তর্দৃষ্টি; ডেটা প্যাটার্নের বাইরে

বস্তুগততা এবং মতামত সিদ্ধান্ত

জনগণের কাছে দায়বদ্ধ বিচার বিভাগ

ব্যবস্থাপনার সততা সম্পর্কে মতামত

মানুষের আচরণ পড়া; AI এটা করতে পারে না

সংশয়বাদ এবং পেডানট্রির মধ্যে পার্থক্য: একটি পরিমাপিত মনোভাব

পেশাগত সংশয় মানে সবকিছুকে অবিশ্বাস করা বা ব্যবস্থাপনাকে আগেই দোষারোপ করা নয়; এটি একটি ওভাররিচ হবে এবং নিয়ন্ত্রণকে অকার্যকর করে দেবে। সংশয়বাদ বিশুদ্ধ বিশ্বাস নয় (আপনাকে যা বলা হয়েছে তা গ্রহণ করা) বা অন্ধ অস্বীকার (সবকিছু প্রত্যাখ্যান করা); এর মধ্যে, এটি প্রমাণের সাথে সামঞ্জস্যপূর্ণ তদন্তের একটি মনোভাব। নিরীক্ষক ব্যবস্থাপনাকে সৎ হিসেবে গ্রহণ করতে পারে, কিন্তু প্রমাণ সহ এই গ্রহণযোগ্যতা পরীক্ষা করে; একটি ব্যাখ্যা যুক্তিসঙ্গত খুঁজে পেতে পারে, কিন্তু বিশ্বাসযোগ্যতা নিশ্চিত করে। এআই এই ভারসাম্যকে বিপর্যস্ত করতে পারে: এক দিক থেকে, এটি আপনাকে তার তরল আউটপুট দিয়ে অতিরিক্ত আত্মবিশ্বাসের দিকে নিয়ে যায়; অন্যদিকে, আপনি যদি এটিকে "সবকিছুর মধ্যে দোষ খুঁজে বের করতে" বলেন তবে এটি আপনাকে অবিরাম মিথ্যা ইতিবাচক বোমা বর্ষণ করবে। সঠিক মনোভাব হ'ল প্রমাণের ওজনের বিপরীতে ফলাফলকে সর্বদা ওজন করা, প্রমাণ তৈরি করতে এবং প্রমাণগুলিকে অস্বীকার করার জন্য AI চালানোর সময়। সংশয়বাদ একটি ব্যক্তিত্বের বৈশিষ্ট্য নয়, তবে কাজ করার একটি সুশৃঙ্খল উপায়; এবং এটি নিরীক্ষক যিনি এই শৃঙ্খলা প্রতিষ্ঠা করেন, বজায় রাখেন এবং প্রমাণ করেন, এআই নয়।

তিনটি মিনি কেস

কেস 1 - খণ্ডন কৌশল কাজ করে। একজন নিরীক্ষক এআই প্রিন্ট করে বলেছেন যে "এই স্টক মূল্যায়ন যুক্তিসঙ্গত দেখাচ্ছে।" নিশ্চিত করার পরিবর্তে, তিনি উল্টোদিকে জিজ্ঞাসা করলেন: "যদি এই মূল্যায়নকে অতিরঞ্জিত করা হয়, তাহলে কোন প্রমাণ এটি দেখাবে?" "যে আইটেমগুলির জন্য বিক্রয়োত্তর দাম খরচের নিচে নেমে যায়," YZ বলেছেন। নিরীক্ষক এই আইটেমগুলির জন্য অনুসন্ধান করেছেন এবং একটি গোষ্ঠী খুঁজে পেয়েছেন যা আসলে অবমূল্যায়িত ছিল। প্রত্যাখ্যান প্রশ্নটি সেই ঝুঁকিকে প্রকাশ করেছে যে নিশ্চিতকরণটি গোপন ছিল।

কেস 2 — নিশ্চিতকরণ পক্ষপাতিত্বের মধ্যে পড়া। দলের একজন সদস্য একটি সংকটের সময় এআইকে জিজ্ঞাসা করেছিলেন, "এই অ্যাকাউন্টে কোনও বড় ভুল নেই, তাই না?" তিনি জিজ্ঞাসা. ওয়াইজেড প্রশ্নটির দিকে ঝুঁকে পড়ে এবং বলেন, "আপনার দেওয়া তথ্য অনুযায়ী, কোনও উল্লেখযোগ্য সমস্যা আছে বলে মনে হয় না।" দলের সদস্য শিথিল এবং কলম ক্যাপ. তবে তিনি কোনো প্রমাণ উপস্থাপন করেননি; এআই কেবল তার বাক্যকে প্রতিফলিত করেছে। দায়িত্বশীল ব্যক্তি দেখিয়েছেন যে প্রশ্নটি নিরপেক্ষভাবে করা হয়নি। পাঠ: আপনি কীভাবে প্রশ্ন করবেন তা নির্ধারণ করে আপনি কী উত্তর পাবেন; নিশ্চিতকরণ চাওয়া একটি প্রশ্ন নিশ্চিতকরণ তৈরি করে।

কেস 3 - সাবলীলতার জন্য পড়ে যাওয়া। একজন নিরীক্ষক ভেবেছিলেন যে আইনের একটি ব্যাখ্যা যা ওয়াইজেড খুব সাবলীল এবং যুক্তিযুক্ত অনুচ্ছেদে ব্যাখ্যা করেছে এবং এটি কার্যপত্রে অন্তর্ভুক্ত করেছে। পাঠ্যটি এতই পরিপাটি ছিল যে এটি নিয়ে প্রশ্ন করা তার মনে হয়নি। দায়িত্বশীল ব্যক্তি দেখিয়েছেন যে রেফারেন্সের অফিসিয়াল পাঠ্যের কোন সমতুল্য নেই। পাঠ: সাবলীলতা এবং আত্মবিশ্বাস সঠিকতার প্রমাণ নয়; যে ফলাফলটি সবচেয়ে বিশ্বাসযোগ্য বলে মনে হয় তা সবচেয়ে বিপজ্জনক হতে পারে।

দুর্বল প্রম্পট / শক্তিশালী প্রম্পট

দুর্বল প্রম্পট:

এই বিশ্লেষণ সঠিক, তাই না? আপনি কি অনুমোদন করেন?

সমস্যা: একটি পক্ষপাতমূলক প্রশ্ন যা নিশ্চিতকরণ চায়। এটি এআইকে আপনার সাথে যোগ দিতে চাপ দেয়; এটি নিশ্চিতকরণ পক্ষপাতিত্বকে উৎসাহিত করে এবং প্রকৃত ঝুঁকি লুকায়।

শক্তিশালী প্রম্পট:

আপনার ভূমিকা: আপনি একজন স্বাধীন নিরীক্ষকের সমালোচনামূলক অনুসন্ধানের অংশীদার। আপনার কাজ আমার সাথে একমত হওয়া নয়, কিন্তু আমার আউটপুট প্রত্যাখ্যান করার চেষ্টা করা। প্রসঙ্গ: নীচে একটি বিশ্লেষণমূলক পদ্ধতির আমার উপসংহার এবং আমার অস্থায়ী উপসংহার। কংক্রিট, অনুসন্ধানযোগ্য প্রমাণ প্রস্তাব করুন। 3) আমি মিস করেছি এমন কোনো ডেটা বা অনুমান চিহ্নিত করুন। 4) আমার সাথে একমত এমন বাক্য তৈরি করবেন না; আপনাকে দুর্বল পয়েন্ট খুঁজে বের করার দায়িত্ব দেওয়া হয়েছে। যেখানে আপনি নিশ্চিত নন সেখানে "অজানা" চিহ্নিত করুন।

এই প্রম্পটটি শক্তিশালী কারণ এটি AI (খণ্ডন) এর ভূমিকাকে বিপরীত করে, খণ্ডন পরিস্থিতি এবং অনুসন্ধানযোগ্য প্রমাণের প্রয়োজন হয় এবং নিশ্চিতকরণ-সন্ধানী ভাষা নিষিদ্ধ করে। এটি নিশ্চিতকরণ পক্ষপাতের একটি উপকরণের পরিবর্তে AI-কে সংশয়বাদের সেবায় রাখে।

সাধারণ ভুল

• অনুমোদন চেয়ে প্রশ্ন জিজ্ঞাসা. "ঠিক আছে, তাই না?" জিজ্ঞাসা করে এবং সম্মত উত্তর নিশ্চিত করে।
• নির্ভুলতার জন্য সাবলীলতা ভুল। প্রশ্ন ছাড়াই ভাল-লিখিত, আত্মবিশ্বাসী আউটপুট গ্রহণ করা।
• একটি একক নিশ্চিত উদাহরণ দিয়ে সন্তুষ্ট থাকুন। এটি খণ্ডন করার চেষ্টা না করে প্রথম সমর্থনকারী অনুসন্ধানের সাথে বন্ধ করা হচ্ছে।
• অবিচ্ছেদ্য এখতিয়ার অর্পণ করা. প্রমাণের পর্যাপ্ততা, যুক্তিসঙ্গততা, মতামতের সিদ্ধান্ত এআই-এর উপর ছেড়ে দেওয়া।
• সময়ের চাপে সংশয় ছেড়ে দেওয়া। আপনি আটকে গেলে AI এর সান্ত্বনাদায়ক উত্তরের আশ্রয় নেওয়া।

সতর্কতা: সময়ের চাপ হল সংশয়বাদের সবচেয়ে বড় শত্রু, এবং এই চাপে AI সবচেয়ে বিপজ্জনক হয়ে ওঠে; কারণ এটি আপনাকে একটি দ্রুত, সাবলীল এবং আরামদায়ক উত্তর দেয়। আপনি যখন তাড়াহুড়ো করেন তখন খণ্ডন প্রশ্ন জিজ্ঞাসা করা আবশ্যক করুন।

সংক্ষেপে

পেশাগত সংশয় নিরীক্ষার মূলে রয়েছে এবং AI এর যুগে এটি আরও বেশি সমালোচনামূলক হয়ে ওঠে। AI তিনটি দুর্বলতাকে ট্রিগার করে: হ্যালুসিনেশন (এটি তৈরি করে), অটোমেশন পক্ষপাত (আমরা এটি বিশ্বাস করি কারণ এটি তরল), নিশ্চিতকরণ পক্ষপাত (আমরা এটিকে প্রশ্ন করি না কারণ এটি বলে যে আমরা যা আশা করি)। প্রতিষেধক হল AI কে অস্বীকার করার জন্য তাড়াহুড়ো করা, এটি নিশ্চিত না করা: "যদি এটি মিথ্যা হয় তবে কোন প্রমাণ এটি দেখাবে?" ' এবং বিপরীত প্রমাণের সন্ধান করে, বস্তুনিষ্ঠভাবে এবং পিছনের দিকে জিজ্ঞাসা করে, উত্স থেকে প্রতিটি আউটপুট পুনরুত্পাদন করে। সাক্ষ্যের পর্যাপ্ততা, যুক্তিসঙ্গততা, জালিয়াতির ঝুঁকি, এবং মতামতের রায়ের মত বিচারের জন্য সন্দেহের প্রয়োজন হয় এবং হস্তান্তরযোগ্য নয়। সাবলীলতা সঠিকতা নয়; সন্দিহান মন তোমার।

আবেদন টাস্ক

আপনার অডিট ফলাফল (বা একটি অনুমানমূলক ফলাফল) পান। AI কে প্রথমে একটি "নিশ্চিতকরণ-সন্ধানী" দুর্বল প্রশ্ন জিজ্ঞাসা করুন, তারপরে উপরের "খণ্ডন" শক্তিশালী প্রম্পট প্যাটার্ন সহ। দুটি ফলাফল পাশাপাশি রাখুন এবং পার্থক্যটি লিখুন: শুধুমাত্র খণ্ডন প্রশ্ন দ্বারা কোন ঝুঁকি প্রকাশ করা হয়েছিল? তারপরে আপনার আউটপুটে প্রতিটি মূল দাবির পাশে দুটি নোট যুক্ত করুন: "আমি কী দিয়ে যাচাই করেছি" এবং "এটি মিথ্যা হলে কী প্রমাণ দেখাবে"।

চেকলিস্ট

• [ ] আমি AI খণ্ডন/নিরপেক্ষ প্রশ্ন জিজ্ঞাসা করেছি, নিশ্চিতকরণ-সন্ধানী প্রশ্ন নয়।
• [] প্রতিটি গুরুত্বপূর্ণ ফলাফলের জন্য, "যদি এটি মিথ্যা হয়, তাহলে কোন প্রমাণ এটি দেখাবে?" আমি প্রশ্ন জিজ্ঞাসা করলাম এবং প্রমাণ খুঁজলাম।
• [ ] আমি আউটপুট পরীক্ষা করেছি, যা মসৃণ এবং আত্মবিশ্বাসী বলে মনে হয়েছিল, অতিরিক্ত সন্দেহের সাথে।
• [ ] আমি একটি নিশ্চিত উদাহরণ দিয়ে থামিনি; আমি এটি খণ্ডন করার চেষ্টা করেছি কিন্তু ব্যর্থ হয়েছে।
• [ ] আমি আমার নিজের বিচার করেছি যেমন প্রমাণের পর্যাপ্ততা, যুক্তিসঙ্গততা এবং মতামত।
• এমনকি সময়ের চাপেও, আমি খণ্ডন প্রশ্নটি এড়িয়ে যাইনি।
• [ ] গুরুত্বপূর্ণ দাবিগুলির পাশে, আমি "আমি যা যাচাই করেছি/ ভুল হলে কী দেখাবে" এর নোট তৈরি করেছি৷