লাভ:
- MLOps পর্যায়গুলি বোঝার ক্ষমতা (মুক্তি, স্থাপনা, পর্যবেক্ষণ, পুনরায় প্রশিক্ষণ, রোলব্যাক) এবং মডেল ড্রিফ্ট এবং একটি মনিটর করা স্থাপনার পরিকল্পনা করার ক্ষমতা
- মডেল ন্যায্যতা, স্বচ্ছতা এবং জবাবদিহিতার নীতিগুলি প্রয়োগ করার ক্ষমতা এবং নৈতিক গ্রহণযোগ্যতা থেকে পরিসংখ্যানগত নির্ভুলতাকে আলাদা করার ক্ষমতা
- কেভিকেকে/জিডিপিআর নীতির সাথে ব্যক্তিগত ডেটা সুরক্ষিত করার ক্ষমতা এবং উচ্চ-প্রভাবিত সিদ্ধান্তে একজন মানুষকে চূড়ান্ত দায়িত্ব অর্পণ করার ক্ষমতা
একটি মডেলকে প্রশিক্ষণ দেওয়া এবং একটি উচ্চ স্কোর পাওয়া শেষ নয়, তবে মধ্যম। প্রকৃত মূল্য আসে যখন মডেলটি উৎপাদনে রাখা হয় এবং নির্ভরযোগ্যভাবে কাজ করে, সময়ের সাথে সাথে কোনো অবনতি ছাড়াই পর্যবেক্ষণ করা হয় এবং পুরো প্রক্রিয়াটি নৈতিক ও আইনি সীমার মধ্যে সম্পন্ন করা হয়। এই ক্লোজিং ইউনিটটি তিনটি বিষয়কে একত্রিত করে: MLOps (লাইভ চলার নিয়ম, মডেল পর্যবেক্ষণ এবং রক্ষণাবেক্ষণ), নীতিশাস্ত্র (ন্যায্যতা, স্বচ্ছতা, অ-অপরাধ) এবং গোপনীয়তা (ব্যক্তিগত ডেটা সুরক্ষা)। এআই এই এলাকায় কোড, চেকলিস্ট এবং ব্লুপ্রিন্ট তৈরি করে; কিন্তু মানুষ স্থির করে যে একটি মডেল লাইভ হবে কিনা, কে প্রভাবিত হবে এবং কোন ডেটা ব্যবহার করা যেতে পারে। এই সিদ্ধান্তগুলি প্রযুক্তিগত নয়, কিন্তু দায়িত্বের সিদ্ধান্ত।
MLOps: মডেল একটি পণ্যের মত বাস করে
MLOps (মেশিন লার্নিং অপারেশনস - উৎপাদনে মেশিন লার্নিং মডেল চালানো, পর্যবেক্ষণ এবং আপডেট করার অনুশীলন) হল সফ্টওয়্যার ডেভেলপমেন্টে DevOps-এর সাথে ডেটা সায়েন্সের অভিযোজন। মৌলিক ধারণা: একটি মডেল এমন একটি ফাইল নয় যা একবার প্রশিক্ষিত এবং ভুলে যাওয়া হয়, তবে একটি জীবন্ত পণ্য যার ধ্রুবক রক্ষণাবেক্ষণ প্রয়োজন। প্রধান পর্যায়:
1. সংস্করণ: কোড (Git), ডেটা এবং মডেল একসাথে সংস্করণ করা হয়; কোন মডেলটি কোন ডেটা এবং কোড দিয়ে তৈরি করা হয়েছিল তা রেকর্ড করা হয়।
2. স্থাপনা: মডেলটিকে একটি API বা ব্যাচ কাজ হিসাবে লাইভ করা হয়। এটি সাধারণত একটি ছোট দর্শকদের প্রথমে দেওয়া হয় (ছায়া/ক্যানারি বিতরণ)।
3. মনিটরিং: মডেলের কর্মক্ষমতা এবং ইনপুট ডেটা ক্রমাগত পর্যবেক্ষণ করা হয়।
4. পুনঃপ্রশিক্ষণ: যখন কর্মক্ষমতা কমে যায়, মডেলটিকে আপডেট করা ডেটা দিয়ে পুনরায় প্রশিক্ষণ দেওয়া হয়।
প্যাটার্ন শিফট: নীরব বিকৃতি
উৎপাদনে সবচেয়ে বড় বিপদ হল মডেল ড্রিফট (মডেল ড্রিফ্ট/ডেটা ড্রিফ্ট)। পৃথিবী বদলে যায়; যে শর্তে আপনি আপনার মডেলকে প্রশিক্ষণ দিয়েছেন (গ্রাহকের আচরণ, দাম, ঋতু, আইন) সময়ের সাথে সাথে পরিবর্তন হয় এবং মডেলটি অপ্রচলিত হতে শুরু করে। উদাহরণস্বরূপ, মহামারীর আগে প্রশিক্ষিত একটি চাহিদা মডেল মহামারী চলাকালীন সম্পূর্ণ ভুল। ড্রিফ্ট দুটি আকারে ঘটে: ডেটা ড্রিফ্ট (ইনপুট ডেটা পরিবর্তনের বিতরণ) এবং ধারণা ড্রিফ্ট (ইনপুট এবং লক্ষ্য পরিবর্তনের মধ্যে সম্পর্ক)। এইগুলি ক্যাপচার করার উপায় হল পর্যবেক্ষণ: ক্রমাগত ইনপুট বিতরণ, ভবিষ্যদ্বাণী বিতরণ এবং (যদি সম্ভব) প্রকৃত ফলাফলের তুলনায় কর্মক্ষমতা ট্র্যাক করুন।
সতর্কতা: উৎপাদনে রাখা একটি মডেল নিজে থেকেই খারাপ হয়ে যাবে; এটা "যদি" কিন্তু "কখন" বিষয় নয়। মনিটরিং সেট আপ না করেই মডেল স্থাপন করা একটি গাড়ির ইঞ্জিন নিয়ন্ত্রণ না করেই চালানোর মতো; একদিন এটি চুপচাপ বসে থাকে এবং আপনি লক্ষ্য করেন না।
MLOps উপাদান
উদ্দেশ্য
যদি অবহেলিত হয়
সংস্করণ করা
কি উৎপন্ন হয় তা জেনে
অ-প্রজননযোগ্য, অ-আবিষ্কৃত
মনিটরিং
তাড়াতাড়ি স্লিপ দেখে
মডেল নীরবে ভেঙে পড়ে
পুনরায় প্রশিক্ষণ
আপ টু ডেট থাকুন
ভবিষ্যদ্বাণী পুরানো হয়
রোলব্যাক
খারাপ মডেলে ফিরে যান
ত্রুটিপূর্ণ মডেল লাইভ থাকে
ডকুমেন্টেশন
স্বচ্ছতা, টার্নওভার
তথ্য এক ব্যক্তির মধ্যে আটকে যায়
নীতিশাস্ত্র: মডেল সিদ্ধান্ত মানুষকে প্রভাবিত করে
ডেটা মডেলগুলি মানুষের জীবনকে প্রভাবিত করে এমন সিদ্ধান্তগুলিতে ক্রমবর্ধমানভাবে ব্যবহৃত হয়: ক্রেডিট, নিয়োগ, বীমা, ন্যায়বিচার। এই শক্তির সাথে দায়িত্ব আসে। প্রধান নৈতিক ঝুঁকি:
পক্ষপাত ও বৈষম্য: মডেলটি ঐতিহাসিক তথ্যে অন্যায় শিখতে এবং স্থায়ী করতে পারে। যদি একটি নির্দিষ্ট গোষ্ঠীকে অতীতে কম ক্রেডিট দেওয়া হয়, মডেলটি অনুমান করে এটি একটি "নিয়ম" এবং বৈষম্য স্বয়ংক্রিয় করে। এই কারণেই ন্যায্যতা বিশ্লেষণ - মডেলটি বিভিন্ন গোষ্ঠীর (লিঙ্গ, বয়স, অঞ্চল) জন্য একইভাবে কাজ করে কিনা তা পরীক্ষা করা - অপরিহার্য।
স্বচ্ছতা এবং ব্যাখ্যাযোগ্যতা: আপনি ব্যাখ্যা করতে সক্ষম হবেন কেন একজন মডেল একজন ব্যক্তিকে প্রত্যাখ্যান করেছে। "ব্ল্যাক বক্স তাই বলেছে" নৈতিকভাবে এবং প্রায়ই আইনত অগ্রহণযোগ্য। সেজন্য ব্যাখ্যাযোগ্য টুল (বৈশিষ্ট্যের গুরুত্ব, SHAP মান) মূল্যবান।
জবাবদিহিতা: মডেল ভুল সিদ্ধান্ত নিলে দায়ী কে? উত্তরটি সর্বদা একটি ব্যক্তি/প্রতিষ্ঠান, একটি মডেল নয়। মানব তত্ত্বাবধান (হিউম্যান-ইন-দ্য-লুপ — চূড়ান্ত সিদ্ধান্তের অনুমোদনকারী একজন মানুষ) উচ্চ-প্রভাবিত সিদ্ধান্তগুলিতে সংরক্ষণ করা উচিত।
সতর্কতা: একটি মডেল পরিসংখ্যানগতভাবে "সঠিক" হতে পারে কিন্তু নৈতিকভাবে অগ্রহণযোগ্য। একটি অত্যন্ত নির্ভুল মডেল যা পদ্ধতিগতভাবে একটি গোষ্ঠীর ক্ষতি করে তা একটি ভাল মডেল নয়। ন্যায়ের জন্য সততার বিকল্প নেই।
গোপনীয়তা: ব্যক্তিগত তথ্য সাবধানে সুরক্ষিত
ডেটা সায়েন্সের কাঁচামাল প্রায়শই ব্যক্তিগত ডেটা, এবং এই ডেটা আইন দ্বারা সুরক্ষিত: Türkiye-তে KVKK, ইউরোপে GDPR। মূল নীতিগুলি হল: উদ্দেশ্য সীমাবদ্ধতা (ডাটা যে উদ্দেশ্যে এটি সংগ্রহ করা হয়েছিল তা ছাড়া অন্য উদ্দেশ্যে ব্যবহার করা হয় না), ডেটা মিনিমাইজেশন (প্রয়োজনীয়তার চেয়ে বেশি ডেটা সংগ্রহ/ধারণ করা হয় না), বেনামীকরণ (তথ্য সনাক্তকরণ সরানো হয়) এবং নিরাপত্তা (ডেটা এনক্রিপ্ট করা হয় এবং অ্যাক্সেস সীমাবদ্ধ)। AI সরঞ্জামগুলির সাথে কাজ করার সময় গুরুত্বপূর্ণ নিয়ম: কোনও পাবলিক AI সরঞ্জামে প্রকৃত ব্যক্তিগত ডেটা পেস্ট করবেন না৷ বেশিরভাগ সময়, একটি ডায়াগ্রাম এবং একটি বেনামী/সিন্থেটিক নমুনা বিশ্লেষণের জন্য যথেষ্ট।
তথ্য সুরক্ষার প্রসঙ্গে একটি অতিরিক্ত জোর দেওয়া: প্রতিরক্ষামূলক এবং বৈধ বিশ্লেষণের উদ্দেশ্যে শুধুমাত্র ডেটা এবং সিস্টেমগুলিতে ডেটা বিজ্ঞানের সরঞ্জাম এবং কৌশলগুলি ব্যবহার করুন যার জন্য আপনার কর্তৃত্ব রয়েছে৷ অন্য কারও ডেটাতে অননুমোদিত অ্যাক্সেস, ব্যক্তিদের পুনরায় সনাক্তকরণ (বেনামী ডেটা থেকে পরিচয় বের করা) বা অননুমোদিত প্রোফাইলিং উভয়ই অবৈধ এবং অনৈতিক।
তিনটি মিনি কেস
কেস 1 - আনট্র্যাকড পতন। একটি ই-কমার্স কোম্পানি তার সুপারিশ মডেলের সাথে লাইভ হয়েছে এবং ট্র্যাকিং সেট আপ করেনি। 4 মাস পরে পণ্য ক্যাটালগ ব্যাপকভাবে পরিবর্তিত হয়েছে; মডেলটি পুরানো পণ্যের সুপারিশ করতে থাকে এবং রূপান্তর হার শান্তভাবে 30% কমে যায়। মাসের পর মাস কেউ খেয়াল করেনি। পাঠ: পর্যবেক্ষণ ছাড়া স্থাপনা অন্ধ হয়ে যাচ্ছে।
কেস 2 - লুকানো বৈষম্য। একটি নিয়োগের স্ক্রীনিং মডেল ঐতিহাসিক তথ্যে লিঙ্গ ভারসাম্যহীনতা এবং পদ্ধতিগতভাবে মহিলা প্রার্থীদের নিম্নমানের বিষয়ে শিখেছে। ন্যায্যতা বিশ্লেষণ না থাকায় তা নজরে পড়েনি; এটি একটি নিরীক্ষায় প্রকাশিত হয়েছিল এবং প্রতিষ্ঠানটি গুরুতর সুনামগত/আইনি ঝুঁকির সম্মুখীন হয়েছিল। পাঠ: উচ্চ-প্রভাবিত মডেলগুলিতে গোষ্ঠী-ভিত্তিক ন্যায্যতা নিয়ন্ত্রণ অপরিহার্য।
কেস 3 - গোপনীয়তার লঙ্ঘন। একজন বিশ্লেষক একটি পাবলিক এআই টুলে প্রকৃত গ্রাহকের ইমেল এবং ক্রয়ের ইতিহাস সম্বলিত একটি ফাইল লোড করেছেন এবং বলেছেন, "বিভাগগুলিকে সংক্ষিপ্ত করুন।" ব্যক্তিগত তথ্য প্রতিষ্ঠান ছেড়ে গেছে; KVKK প্রক্রিয়া শুরু হয়েছে। সঠিক উপায় ছিল পরিচয় ক্ষেত্র মুছে ফেলা এবং শুধুমাত্র বেনামী সম্পত্তি শেয়ার করা। পাঠ: প্রকৃত ব্যক্তিগত ডেটা খোলা টুলে প্রবেশ করে না।
চারটি অনুলিপিযোগ্য টেমপ্লেট
1) প্রি-ডিপ্লয়মেন্ট চেকলিস্ট:
আপনার ভূমিকা: MLOps পরামর্শদাতা. একটি মডেলকে প্রোডাকশনে রাখার আগে আমার যে জিনিসগুলি পরীক্ষা করা দরকার তা তালিকাভুক্ত করুন: সংস্করণকরণ, পর্যবেক্ষণ মেট্রিক্স, রোলব্যাক প্ল্যান, কর্মক্ষমতা থ্রেশহোল্ড, ডেটা ড্রিফ্ট সতর্কতা, দায়িত্বশীল ব্যক্তি৷ প্রতিটি আইটেমের জন্য একটি এক-বাক্য "কেন এটি গুরুত্বপূর্ণ" ব্যাখ্যা যোগ করুন। আমি সিদ্ধান্ত নেব।
2) মডেল শিফট ট্র্যাকিং ডিজাইন:
উৎপাদনে একটি শ্রেণিবিন্যাস মডেলের জন্য একটি ড্রিফট মনিটরিং পরিকল্পনার পরামর্শ দিন: (1) কোন ইনপুট ডিস্ট্রিবিউশনগুলি আমি নিরীক্ষণ করব, (2) ভবিষ্যদ্বাণী বিতরণের জন্য কী অ্যালার্ম করব, (3) বাস্তব ফলাফল আসার সময় কীভাবে কর্মক্ষমতা তুলনা করতে হবে, (4) কোন থ্রেশহোল্ডে পুনরায় প্রশিক্ষণ শুরু করা উচিত৷ এছাড়াও একটি কোড কঙ্কাল প্রদান.
3) ন্যায্যতা নিয়ন্ত্রণ:
কোড লিখুন যা বিভিন্ন গোষ্ঠীর জন্য আমার মডেলের কর্মক্ষমতা তুলনা করে (যেমন বয়স ব্যান্ড, অঞ্চল): প্রতিটি গ্রুপের জন্য রিকল/নির্ভুলতা এবং ইতিবাচক সিদ্ধান্তের হার। গ্রুপের মধ্যে উল্লেখযোগ্য পার্থক্য থাকলে সতর্ক করুন। কার্যকারণ/রাজনৈতিক ব্যাখ্যা করা; শুধু আমাকে পার্থক্য দেখান এবং আমি সিদ্ধান্ত বিবেচনা করব।
4) গোপনীয়তা প্রি-চেক:
একটি AI টুলে ডেটা দেওয়ার আগে, চেক করুন: নীচের কলাম তালিকায় ব্যক্তিগত/পরিচয় ডেটা (নাম, ইমেল, আইডি, ফোন, ঠিকানা, আইপি) আছে কি? যদি তাই হয়, কোনটি সরানো বা বেনামী করা উচিত তা তালিকাভুক্ত করুন। কলাম: [তালিকা]। উদ্দেশ্য: শুধুমাত্র বেনামী স্কিমা শেয়ার করা।
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল প্রম্পট:
আমার মডেল প্রস্তুত, লাইভ যান.
স্থাপনা একক পদক্ষেপ নয়; মনিটরিং, রোলব্যাক, ন্যায্যতা এবং গোপনীয়তা নিয়ন্ত্রণ ছাড়াই লাইভ হওয়া দুর্যোগের জন্য একটি নীরব আমন্ত্রণ।
শক্তিশালী প্রম্পট:
আপনার ভূমিকা: দায়িত্বশীল MLOps পরামর্শদাতা। আমার মডেল প্রশিক্ষিত হয়েছে, লাইভে যাওয়ার আগে আমি পূর্ণ প্রস্তুতি চাই। জেনারেট করুন: (1) প্রি-ডিপ্লয়মেন্ট চেকলিস্ট, (2) ড্রিফ্ট মনিটরিং প্ল্যান, (3) গ্রুপ-ভিত্তিক ফেয়ারনেস চেক কোড, (4) গোপনীয়তা চেক (ব্যক্তিগত ডেটা আছে)। উচ্চ-প্রভাবিত সিদ্ধান্তে কীভাবে মানুষের সম্মতি রক্ষা করা যায় তারও পরামর্শ দিন। চূড়ান্ত সিদ্ধান্ত আমার.
এখানে বিতরণ, পর্যবেক্ষণ, ন্যায্যতা এবং গোপনীয়তা একটি একক দায়িত্বশীল প্রক্রিয়া হিসাবে বিবেচিত হয়।
সাধারণ ভুল
- মনিটরিং সেট আপ না করে একটি মডেল স্থাপন করা। মডেল নিঃশব্দে স্লিপ এবং বিকৃত; এটি লক্ষ্য করতে কয়েক মাস সময় লাগতে পারে।
- বিচার চেক বাইপাস. একটি উচ্চ-বিশ্বস্ততা মডেল পদ্ধতিগতভাবে একটি গোষ্ঠীকে ক্ষতিগ্রস্থ করতে পারে।
- একটি ব্যাখ্যাতীত ব্ল্যাক বক্সের সিদ্ধান্ত নেওয়া। উচ্চ-প্রভাবিত সিদ্ধান্ত অবশ্যই ব্যাখ্যাযোগ্য হতে হবে; "মডেল তাই বলেছেন" যথেষ্ট নয়।
- এআই টুল খোলার জন্য প্রকৃত ব্যক্তিগত ডেটা দেওয়া। KVKK/GDPR লঙ্ঘন; ডায়াগ্রাম এবং বেনামী উদাহরণ যথেষ্ট।
- মডেলের কাছে সিদ্ধান্ত অর্পণ করা। দায়িত্ব সবসময় একজন ব্যক্তির সাথে থাকে; উচ্চ প্রভাব মানব নজরদারি বজায় রাখা হয়.
টিপ: আপনি প্রতিটি মডেলের সাথে লাইভ করার আগে, উচ্চস্বরে একটি প্রশ্ন জিজ্ঞাসা করুন: "যদি এই মডেলটি আগামীকাল চুপচাপ ভেঙে যায় বা অন্যায়ভাবে একটি গোষ্ঠীকে শাস্তি দেয়, তাহলে আমি কীভাবে এটিকে লক্ষ্য করব এবং ফিরিয়ে আনব?" যদি আপনার কাছে এই প্রশ্নের একটি স্পষ্ট উত্তর না থাকে, তবে মডেলটি এখনও উৎপাদনের জন্য প্রস্তুত নয়।
সংক্ষেপে
একটি মডেলের কাজ একটি উচ্চ স্কোর দিয়ে শেষ হয় না, কিন্তু উত্পাদনে নির্ভরযোগ্যভাবে এবং দায়িত্বের সাথে কাজ করে। MLOps হল লাইভে যাওয়া, ড্রিফটের জন্য মনিটরিং, পুনঃপ্রশিক্ষণ এবং মডেলটিকে ফিরিয়ে আনার শৃঙ্খলা; ট্র্যাকিং ছাড়া স্থাপনা নীরব পতন হয়. নৈতিকতার ন্যায্যতা, স্বচ্ছতা এবং মডেলের জবাবদিহিতা প্রয়োজন; পরিসংখ্যানগত নির্ভুলতা নৈতিক গ্রহণযোগ্যতার বিকল্প নয়। গোপনীয়তা মানে KVKK/GDPR নীতির সাথে ব্যক্তিগত ডেটা রক্ষা করা এবং প্রকৃত ডেটা খোলা টুল থেকে দূরে রাখা। এই সমস্ত সিদ্ধান্তগুলি প্রযুক্তিগত নয় কিন্তু দায়িত্বের সিদ্ধান্ত এবং সর্বদা একজন মানুষের অন্তর্গত।
আবেদন টাস্ক
এটিকে এমনভাবে মনে করুন যেন আপনি একটি মডেল তৈরি করতে যাচ্ছেন (বা অনুমানমূলক) উৎপাদনে এবং চারটি তালিকা পূরণ করতে যাচ্ছেন: (1) প্রাক-নিয়োজন চেকলিস্ট, (2) ড্রিফ্ট মেট্রিক্স যা আপনি ট্র্যাক করবেন, (3) গ্রুপ-ভিত্তিক ন্যায্যতা নিয়ন্ত্রণ পরিকল্পনা, (4) গোপনীয়তা নিয়ন্ত্রণ৷ তারপর প্রশ্নের একটি সুনির্দিষ্ট উত্তর লিখুন "আগামীকাল যদি এটি নিঃশব্দে ভেঙ্গে যায় এবং এটি ফিরে পায় তবে আমি কীভাবে লক্ষ্য করব?"
চেকলিস্ট
- [ ] আমি কি একটি মনিটরিং (স্লিপ সতর্কতা) এবং রোলব্যাক পরিকল্পনার সাথে মডেলটি স্থাপন করছি?
- [ ] আমি কি বিভিন্ন দলের জন্য ন্যায্যতা/কর্মক্ষমতা ব্যবধান পরীক্ষা করেছি?
- [ ] আমি কি উচ্চ-প্রভাবিত সিদ্ধান্তে মানব-ইন-দ্য-লুপ বজায় রেখেছি?
- [ ] আমি কি KVKK/GDPR নীতির সাথে ব্যক্তিগত ডেটা সুরক্ষিত করেছি এবং সেগুলিকে খোলা টুল থেকে দূরে রেখেছি?
- আমি কি একজন মানুষের উপর চূড়ান্ত দায়িত্ব দিয়েছি, মডেল নয়?
মডিউল পরীক্ষা
1. একজন তথ্য বিজ্ঞানী কৃত্রিম বুদ্ধিমত্তাকে জিজ্ঞাসা করেছেন, "এই ডেটাতে র্যান্ডম ফরেস্ট কতটা সঠিক?" মডেলটিকে মোটেও প্রশিক্ষণ না দিয়ে, এবং সরাসরি উপস্থাপনায় "89%" এর উত্তর রাখে। এই পদ্ধতির মৌলিক ভুল কি?
- ক) কৃত্রিম বুদ্ধিমত্তাকে ডেটা এবং মডেল না দিয়ে মেট্রিক্সের জন্য অপেক্ষা করা; উপেক্ষা করে যে এটি যে নম্বরটি তৈরি করে তা জাল এবং আসল মেট্রিক শুধুমাত্র প্রশিক্ষণ এবং পরীক্ষার মাধ্যমে পাওয়া যেতে পারে ✔
- খ) এলোমেলো বনের পরিবর্তে লজিস্টিক রিগ্রেশন ব্যবহার করতে হবে
- গ) নির্ভুলতার হার সর্বদা 90% এর উপরে হতে হবে।
- ঘ) উপস্থাপনায় মেট্রিক্স অন্তর্ভুক্ত করা কঠোরভাবে নিষিদ্ধ
ব্যাখ্যা: কৃত্রিম বুদ্ধিমত্তা মডেল এবং ডেটা অ্যাক্সেস না করে একটি মেট্রিক তৈরি করতে পারে না; তিনি যে নম্বর দিয়েছেন তা হল হ্যালুসিনেশন (বানোয়াট)। মডেলটি প্রকৃতপক্ষে প্রশিক্ষিত এবং পরীক্ষিত হওয়ার পরেই ডেটা সায়েন্টিস্টের নিজস্ব গণনা দ্বারা মেট্রিক পাওয়া যায়। অসমাপ্ত আউটপুট একটি স্বাক্ষরবিহীন রিপোর্টের মত।
2. একটি মন্থন পূর্বাভাসের জন্য ডেটা সংগ্রহ করার সময় 'অ্যাকাউন্ট বন্ধের কারণ' কলামটি অন্তর্ভুক্ত করা হয়; গ্রাহক চলে যাওয়ার পরই এই কলামটি পূরণ করা হয়। মডেলটি পরীক্ষা সেটে 97% দেয়, তবে উত্পাদনে কাজ করে না। এই অবস্থার নাম এবং কারণ কি?
- ক) ওভারলার্নিং; মডেলটি খুব জটিল
- খ) তথ্য ফাঁস; ✔ এমন তথ্য ব্যবহার করা যা ভবিষ্যদ্বাণী করার সময় উপলব্ধ হবে না, তবে বৈশিষ্ট্য হিসাবে লক্ষ্যের ফলাফল
- গ) অপর্যাপ্ত শিক্ষা; মডেল খুব সহজ
- ঘ) নির্বাচন পক্ষপাত; ছোট নমুনা আকার
ব্যাখ্যা: এটি একটি ক্লাসিক ডেটা লিক: 'ক্লোজিং কারণ' টার্গেটের ফলাফল এবং ভবিষ্যদ্বাণী করার সময় এখনও খালি। মডেলটি এই ভবিষ্যত জ্ঞানের সাথে কৌশলটি করে, এটি পরীক্ষার সেটে দুর্দান্ত দেখায় কিন্তু কলামটি খালি থাকার কারণে উত্পাদনে ক্র্যাশ হয়। প্রশ্ন 'আমার কাছে কি ভবিষ্যদ্বাণী করার সময় এটি আছে' প্রতিটি কলামে জিজ্ঞাসা করা উচিত।
3. একজন বিশ্লেষক গড় সহ রাজস্ব কলামে অনুপস্থিত মান পূরণ করেন; কিন্তু নিখোঁজ ব্যক্তিরা প্রকৃতপক্ষে নিম্ন-আয়ের অংশের অন্তর্ভুক্ত যারা কখনও আয় ঘোষণা করেনি (সিস্টেমেটিক মিসিং)। কেন এই ভরাট ভুল?
- ক) গড় সর্বদা মধ্যকের চেয়ে বড়, তাই এটি ভুল
- খ) অনুপস্থিত মানগুলি কখনই পূরণ করা উচিত নয়, সেগুলি সর্বদা মুছে ফেলা উচিত
- গ) গড় দিয়ে পদ্ধতিগত ফাঁক পূরণ করা কৃত্রিমভাবে সেই গোষ্ঠীর প্রতিনিধিত্ব করে ডেটা বিকৃত করে; 'এটা খালি কেন?' প্রশ্ন না করেই ভরাট করা হয়েছিল? ✔
- ঘ) গড় গণনা একটি কর্মক্ষমতা সমস্যা তৈরি করে কারণ এটি খুব ধীর
ব্যাখ্যা: অভাবের কারণ সমাধান নির্ধারণ করে। যখন পদ্ধতিগত অনুপস্থিত (একটি নির্দিষ্ট গোষ্ঠীতে কেন্দ্রীভূত ব্যবধান) গড় দিয়ে পূর্ণ হয়, তখন সেই দলটি কৃত্রিমভাবে 'গড় আয়' হয়ে যায় এবং ডেটা বিকৃত হয়। এটি পূরণ করার আগে, 'এটি খালি কেন' প্রশ্নটি জিজ্ঞাসা করা উচিত; পদ্ধতিগত/উল্লেখযোগ্য অনুপস্থিত গড় পূরণ করা উচিত নয়।
4. একটি দল 'বিজ্ঞাপন ব্যয়' এবং 'বিক্রয়'-এর মধ্যে একটি 0.78 পারস্পরিক সম্পর্ক খুঁজে পায় এবং বাজেট দ্বিগুণ করে; যাইহোক, যা আসলে উভয়কেই ট্রিগার করে তা হল মৌসুমী প্রচারণা। পরিসংখ্যানের কোন নীতি এই ত্রুটি ব্যাখ্যা করে?
- ক) পারস্পরিক সম্পর্ক কার্যকারণ নয়; একটি লুকানো তৃতীয় ভেরিয়েবল উভয় ভেরিয়েবলকে প্রভাবিত করতে পারে ✔
- খ) যেহেতু 0.78 এর পারস্পরিক সম্পর্ক খুব কম, তাই সম্পর্কটিকে উপেক্ষা করা উচিত
- গ) পারস্পরিক সম্পর্ক সর্বদা কার্যকারণ প্রমাণ করে, দল এটি ঠিক করেছে
- ঘ) বিজ্ঞাপন এবং বিক্রয়ের মধ্যে পারস্পরিক সম্পর্ক গাণিতিকভাবে গণনা করা যায় না।
ব্যাখ্যা: পারস্পরিক সম্পর্ক কার্যকারণ নয়। দুটি ভেরিয়েবল একসাথে কাজ করতে পারে কারণ একটি লুকানো তৃতীয় পরিবর্তনশীল (এখানে মৌসুমী প্রচারণা) তাদের উভয়কেই প্রভাবিত করে। উপসংহার যে একটি কারণ অন্য কারণ শুধুমাত্র পরীক্ষা এবং ক্ষেত্রের জ্ঞান দ্বারা প্রতিষ্ঠিত করা যেতে পারে; শুধুমাত্র পারস্পরিক সম্পর্কের সংখ্যা কার্যকারিতার প্রমাণ নয়।
5. একটি জালিয়াতি সনাক্তকরণ মডেল 99.2% নির্ভুলতা দেখায় এবং দল উদযাপন করে; যাইহোক, ডেটাতে জাল লেনদেনের হার মাত্র 0.8% এবং মডেলের প্রত্যাহার 6%। এই টেবিল কি দেখায়?
- ক) মডেলটি নিখুঁত কারণ নির্ভুলতা 99% এর বেশি
- খ) ভারসাম্যহীন ডেটা সহ সঠিকতা বিভ্রান্তিকর; মডেলটি প্রায় সমস্ত জাল মিস করে (কম প্রত্যাহার), উপযুক্ত মেট্রিকটি দেখা উচিত ✔
- গ) মডেলের রিকল বেশি হওয়ায় কোন সমস্যা নেই
- ঘ) নকলের হার কম হওয়ায় মডেল নির্মাণের প্রয়োজন ছিল না
ব্যাখ্যা: ভারসাম্যহীন ডেটাতে 'নির্ভুলতা' বিভ্রান্তিকর। যখন মডেলটি প্রায় প্রতিটি লেনদেনকে 'ক্লিন' বলে, তখন এটি উচ্চ নির্ভুলতা পায় কারণ জাল খুব কম, কিন্তু এটি জাল ধরতে ব্যর্থ হয়, যা এর মূল উদ্দেশ্য (6% প্রত্যাহার)। অতএব, ভারসাম্যহীন সমস্যায়, ফোকাস নির্ভুলতার উপর নয়, কিন্তু কাজের উদ্দেশ্যের জন্য উপযুক্ত বিভ্রান্তি ম্যাট্রিক্স এবং মেট্রিক্সের উপর, যেমন প্রত্যাহার/নির্ভুলতা।
6. একটি চাহিদা পূর্বাভাস প্রকল্পে, সময়-নির্ভর ডেটা এলোমেলোভাবে প্রশিক্ষণ/পরীক্ষায় বিভক্ত করা হয়। মডেলটি 93% নির্ভুলতা দেয় কিন্তু উৎপাদনে ক্র্যাশ হয়। সঠিক বিভাগ পদ্ধতি কি হওয়া উচিত?
- ক) পরীক্ষার সেট বড় করা, যেমন বিভাজন 50%/50%
- খ) আরও জটিল মডেল ব্যবহার করা
- গ) সম্পূর্ণরূপে পার্টিশন মুছে ফেলুন এবং সমস্ত ডেটা সহ ট্রেন করুন
- ঘ) কালানুক্রমিক বিভাজন: পুরানো সময়ের সাথে প্রশিক্ষণ এবং নতুন সময়ের সাথে পরীক্ষা, এইভাবে মডেলটিকে ভবিষ্যত দেখতে বাধা দেয় ✔
ব্যাখ্যা: যদি সময় সিরিজের ডেটাতে এলোমেলো বিভাজন করা হয়, মডেলটি ভবিষ্যত দেখে এবং প্রশিক্ষণে অতীতের ভবিষ্যদ্বাণী করে; এটি একটি ফাঁস এবং এমন সাফল্য তৈরি করে যা আসলে বিদ্যমান নেই। সঠিক পন্থা হল কালানুক্রমিক বিভাজন: পুরানো সময়ের সাথে প্রশিক্ষণ এবং নতুন সময়ের সাথে পরীক্ষা করা, উত্পাদনের বাস্তব পরিস্থিতি অনুকরণ করা (অতীত থেকে ভবিষ্যতের ভবিষ্যদ্বাণী করা)।
7. ফিচার ইঞ্জিনিয়ারিং-এ কোন ডেটা থেকে স্কেলিং (স্ট্যান্ডার্ডস্ক্যালার) প্যারামিটারগুলি গণনা করা উচিত এবং সেগুলি কীভাবে প্রয়োগ করা উচিত?
- ক) এটি সমস্ত ডেটা থেকে গণনা করা উচিত (প্রশিক্ষণ + পরীক্ষা একসাথে) যাতে এটি আরও সঠিক হয়
- খ) সেই সারির নিজস্ব মান থেকে প্রতিটি সারির জন্য আলাদাভাবে গণনা করা উচিত
- গ) শুধুমাত্র পরীক্ষার তথ্য থেকে গণনা করা উচিত
- ঘ) এটি শুধুমাত্র প্রশিক্ষণের ডেটা থেকে গণনা করা উচিত, তারপর একই পরামিতিগুলি পরীক্ষার ডেটাতে প্রয়োগ করা উচিত; অন্যথায় এটি লিক হবে ✔
ব্যাখ্যা: সমস্ত রূপান্তরের পরামিতি (গড়, মানক বিচ্যুতি, ইত্যাদি) যেমন স্কেলিং, এনকোডিং এবং প্যাডিং শুধুমাত্র প্রশিক্ষণের ডেটা থেকে শেখা উচিত, তারপর পরীক্ষার ডেটাতেও একই প্রয়োগ করা উচিত। পরীক্ষার ডেটা বিবেচনায় নেওয়ার ফলে পরীক্ষার তথ্য প্রশিক্ষণে হস্তক্ষেপ করে, অর্থাৎ ফাঁস হয় এবং মডেলটিকে এটির চেয়ে আরও ভাল দেখায়। পাইপলাইন ব্যবহার করা এটি নিশ্চিত করে।
8. একটি মডেল প্রশিক্ষণ সেটে 98% নির্ভুলতা এবং পরীক্ষার সেটে 72% নির্ভুলতা দেয়। এই লক্ষণটি কী নির্দেশ করে এবং কী করা উচিত?
- ক) অপর্যাপ্ত শিক্ষা; মডেল আরো জটিল করা উচিত
- খ) তথ্য ফাঁস; পরীক্ষার সেট পরিবর্তন করতে হবে
- গ) ওভারফিটিং; মডেলটি সরলীকৃত করা উচিত, নিয়মিতকরণ এবং ক্রস-ভ্যালিডেশন প্রয়োগ করা উচিত ✔
- ঘ) একটি স্বাভাবিক পরিস্থিতি; যেভাবেই হোক শিক্ষার স্কোর সবসময় বেশি, সতর্কতা অপ্রয়োজনীয়
ব্যাখ্যা: প্রশিক্ষণে একটি খুব উচ্চ স্কোর এবং পরীক্ষায় উল্লেখযোগ্যভাবে কম স্কোর হল ওভারফিটিং এর একটি ক্লাসিক লক্ষণ: মডেলটি আসল প্যাটার্নের পরিবর্তে প্রশিক্ষণের ডেটার শব্দ মুখস্থ করেছে। সমাধানগুলির মধ্যে রয়েছে মডেলটিকে সরলীকরণ, আরও ডেটা, নিয়মিতকরণ এবং ক্রস-ভ্যালিডেশনের মাধ্যমে রাষ্ট্র যাচাই করা। শুধুমাত্র শিক্ষার স্কোরের উপর নির্ভর করা এই ক্ষতি লুকিয়ে রাখে।
9. একটি ম্যানেজমেন্ট প্রেজেন্টেশনে, একটি বার চার্টের y-অক্ষ যেখানে বিক্রয় 1,000 থেকে 1,020 পর্যন্ত বৃদ্ধি পায় তা 980 এ শুরু হয় যাতে বৃদ্ধিকে বিশাল আকারে দেখা যায়। প্রকৃত বৃদ্ধি 2%। কেন এটি একটি নৈতিক সমস্যা?
- ক) একটি ছোট y-অক্ষ দৃশ্যত একটি ছোট পার্থক্যকে অতিরঞ্জিত করে এবং দর্শককে বিভ্রান্ত করে; ন্যায্যতার জন্য, তুলনা দণ্ডের অক্ষটি 0 ✔ থেকে শুরু হওয়া উচিত
- খ) বার চার্ট কখনই বিক্রয় ডেটার জন্য ব্যবহার করা যাবে না
- গ) কোন সমস্যা নেই; চার্টটিকে চিত্তাকর্ষক দেখানো সবসময়ই ভালো
- D) Y-অক্ষ সর্বদা ডেটার বৃহত্তম মান থেকে শুরু করা উচিত
ব্যাখ্যা: তুলনামূলক উদ্দেশ্যে বার চার্টে, y-অক্ষটি সাধারণত 0 থেকে শুরু হওয়া উচিত। অক্ষটি কেটে 980 এ শুরু করলে একটি ছোট 2% পার্থক্য দৃশ্যত বিশাল বলে মনে হয় এবং দর্শককে বিভ্রান্ত করে। ডেটা পেশাদারের নৈতিক দায়িত্ব হ'ল সৎ গ্রাফ আঁকা যা ডেটাকে অতিরিক্ত বা অবমূল্যায়ন করে না।
10. একজন বিশ্লেষক পণ্য টেবিলের সাথে অর্ডার যোগ করার পর মোট টার্নওভার 3 বার খুঁজে পান; লাইনের সংখ্যা 240 হাজার থেকে 690 হাজারে বেড়েছে। এই নীরব ত্রুটি প্রতিরোধ করার জন্য কি করা উচিত ছিল?
- ক) মোট টার্নওভারকে 3 দ্বারা ভাগ করুন
- খ) সর্বদা JOIN এর পরিবর্তে পৃথক প্রশ্ন ব্যবহার করুন
- গ) পণ্য টেবিল সম্পূর্ণরূপে মুছে ফেলা
- ঘ) মার্জ/যোগদানের পর সারির সংখ্যা পরীক্ষা করা এবং সঠিক কী-এর মাধ্যমে তারা যুক্ত হয়েছে কিনা তা যাচাই করা; তাড়াতাড়ি প্রতিলিপি ধরা ✔
ব্যাখ্যা: যখন পণ্য টেবিলে প্রতিটি পণ্যের জন্য একাধিক সারি (উদাহরণস্বরূপ, ভিন্ন রঙ) থাকে, তখন ভুল কী-এর মাধ্যমে যোগদান করা প্রতিটি অর্ডারকে ডুপ্লিকেট করবে এবং মোট সংখ্যা বৃদ্ধি করবে। কোডটি ত্রুটি ছাড়াই চলে কিন্তু ফলাফলটি ভুল। এটি এড়ানোর উপায় হল প্রতিটি একত্রিত/যোগদানের পরে সারির সংখ্যা পরীক্ষা করা এবং সঠিক কী দিয়ে মার্জ করা।
11. একটি নিয়োগের স্ক্রীনিং মডেল ঐতিহাসিক তথ্যে লিঙ্গ ভারসাম্যহীনতা সম্পর্কে এবং পদ্ধতিগতভাবে স্কোর মহিলা প্রার্থীদের অধীনে শিখেছে, তবে এর সামগ্রিক নির্ভুলতা উচ্চ। এর মানে কি?
- ক) কোন সমস্যা নেই কারণ মডেলটির উচ্চ নির্ভুলতা রয়েছে
- খ) পরিসংখ্যানগত নির্ভুলতা নৈতিক গ্রহণযোগ্যতার বিকল্প নয়; মডেল অতীতের বৈষম্য সম্পর্কে শিখেছে, গ্রুপ-ভিত্তিক ন্যায্যতা পরীক্ষা প্রয়োজন ✔
- গ) মডেলের আরও নির্ভুলতা বৃদ্ধি সমস্যার সমাধান করে
- ঘ) ন্যায্যতা তথ্য বিজ্ঞানের সুযোগের বাইরে
ব্যাখ্যা: একটি মডেল পরিসংখ্যানগতভাবে সঠিক হলেও, এটি নৈতিকভাবে অগ্রহণযোগ্য হতে পারে। মডেলটি অতীতের ডেটাতে অবিচার শিখে এবং বৈষম্যকে স্বয়ংক্রিয় করে। উচ্চ সততা ন্যায়বিচারের কোন বিকল্প নয়; উচ্চ-প্রভাবিত মডেলগুলিতে, ন্যায্যতা নিয়ন্ত্রণ, যা বিভিন্ন গোষ্ঠীর জন্য কর্মক্ষমতা/সিদ্ধান্তের পার্থক্য পরিমাপ করে, অপরিহার্য এবং চূড়ান্ত দায়িত্ব মানুষের উপর বর্তায়।
12. একজন কর্মচারী একটি পাবলিক এআই টুলে প্রকৃত গ্রাহকের ইমেল এবং ক্রয়ের ইতিহাস সম্বলিত একটি ফাইল আপলোড করে এবং বলে 'সেগমেন্টের সারসংক্ষেপ'। কেন এটি একটি গুরুতর ভুল এবং সঠিক উপায় কি?
- ক) কোন সমস্যা নেই; এআই টুল কখনোই ডেটা সঞ্চয় করে না
- খ) ত্রুটি হল যে ফাইলটি খুব বড়; কমানো উচিত ছিল
- গ) একটি খোলা টুলে প্রকৃত ব্যক্তিগত তথ্য প্রদান করা KVKK/GDPR এর লঙ্ঘন; পরিচয় ক্ষেত্রগুলি সরানো উচিত ছিল এবং শুধুমাত্র বেনামী স্কিমা/সম্পত্তি ভাগ করা উচিত ✔
- ঘ) শুধু এক্সেলের পরিবর্তে CSV ব্যবহার করা উচিত ছিল
ব্যাখ্যা: যখন সত্যিকারের ব্যক্তিগত তথ্য (যেমন ই-মেইল, নাম, ইত্যাদি) একটি সর্বজনীনভাবে উপলব্ধ কৃত্রিম বুদ্ধিমত্তার সরঞ্জামকে দেওয়া হয়, তখন KVKK/GDPR এর সুযোগের মধ্যে একটি গোপনীয়তা লঙ্ঘন হবে; তথ্য সংস্থা ছেড়ে যায়। বেশিরভাগ সময়, একটি ডায়াগ্রাম এবং একটি বেনামী/সিন্থেটিক নমুনা বিশ্লেষণের জন্য যথেষ্ট। সঠিক উপায় হল পরিচয় ক্ষেত্র মুছে ফেলা এবং শুধুমাত্র বেনামী সম্পত্তি শেয়ার করা।
13. একটি সুপারিশ মডেল উত্পাদন করা হয় কিন্তু ট্র্যাকিং প্রতিষ্ঠিত হয় না; যখন পণ্যের ক্যাটালগ 4 মাস পরে পরিবর্তিত হয়, মডেলটি পুরানো পণ্যগুলির সুপারিশ করতে থাকে এবং রূপান্তর হার নীরবে 30% কমে যায়। এই ঘটনার নাম কি?
- ক) ওভারলার্নিং; মডেল প্রশিক্ষণ সেট মুখস্থ
- খ) মডেল ড্রিফট; বিশ্বের পরিবর্তনের সাথে সাথে, মডেলটি নিঃশব্দে অপ্রচলিত হয়ে যায়, অলক্ষিত হয় কারণ পর্যবেক্ষণ প্রতিষ্ঠিত হয়নি ✔
- গ) নির্বাচন পক্ষপাত; নমুনা পক্ষপাত
- D) ডেটা মিনিমাইজেশন লঙ্ঘন
ব্যাখ্যা: এটি মডেল ড্রিফ্ট (মডেল/ডেটা ড্রিফ্ট): যখন বিশ্ব পরিবর্তিত হয় (ক্যাটালগ, আচরণ, ঋতু) যে অবস্থার অধীনে মডেলটি প্রশিক্ষিত স্থানান্তরিত হয় এবং মডেলটি নীরবে ভেঙে যায়। উৎপাদনে রাখা একটি মডেল তার নিজের থেকে খারাপ হয়; এটা 'কখন' ব্যাপার। নিরীক্ষণ (ইনপুট এবং কর্মক্ষমতা ট্র্যাকিং) ছাড়া স্থাপনা অবনতি সনাক্ত করা অসম্ভব করে তোলে।
14. একটি মডেল যা একটি একক প্রশিক্ষণ/পরীক্ষা বিভাজনে 88% নির্ভুলতা পায় 5-গুণ ক্রস-ভ্যালিডেশন স্কোর 88%, 71%, 83%, 64%, 79%। এটি কী নির্দেশ করে এবং কেন ক্রস-ভ্যালিডেশন গুরুত্বপূর্ণ?
- ক) মডেল স্থিতিশীল; 88% বাস্তব কর্মক্ষমতা
- খ) ক্রস-বৈধকরণ অপ্রয়োজনীয়; একটি বগি যথেষ্ট
- গ) স্কোরের বড় অস্থিরতা নির্দেশ করে যে মডেলটি অস্থির; ক্রস-ভ্যালিডেশন বেস পারফরম্যান্স গড়ে এবং একাধিক বিনের বিতরণ, একটি ভাগ্যবান বিন নয় ✔
- ডি) সর্বোচ্চ স্কোর রিপোর্ট করা ভাল (88%)
ব্যাখ্যা: একটি একক বগি ভাগ্যবান বা দুর্ভাগ্যজনক হতে পারে; 88% ছিল সেই সহজ বিভাগের ফলাফল। ক্রস-ভ্যালিডেশন ডেটাকে একাধিকবার বিভক্ত করে, গড় কার্যক্ষমতার উপর ভিত্তি করে (এখানে ~77%) এবং স্কোরের অস্থিরতা দেখায়। এখানে উচ্চ অস্থিরতা প্রস্তাব করে যে মডেলটি অস্থির; একটি একক বগির উপর নির্ভর করা বিভ্রান্তিকর।