লাভ:
- KVKK/গোপনীয়তার সুযোগের মধ্যে রোগীর পরীক্ষাগার ডেটা বেনামী করার ক্ষমতা এবং নিরাপদ সরঞ্জাম এবং ডেটা প্রক্রিয়াকরণের নিয়ম প্রয়োগ করার ক্ষমতা
- কৃত্রিম বুদ্ধিমত্তা মডেলের ক্লিনিকাল ব্যবহারে কেন বৈধতা, কর্মক্ষমতা মেট্রিক্স এবং পক্ষপাত নিয়ন্ত্রণ বাধ্যতামূলক তা বুঝুন।
- কৃত্রিম বুদ্ধিমত্তার প্রতিটি ব্যবহারে চারটি নৈতিক নীতি এবং দায়িত্বের চেইন বুননের মাধ্যমে চূড়ান্ত দায়িত্ব গ্রহণ করার ক্ষমতা
একটি পরীক্ষাগার স্বাস্থ্যসেবা ব্যবস্থার সবচেয়ে ডেটা-নিবিড় পয়েন্টগুলির মধ্যে একটি। প্রতিটি রোগী, প্রতিটি পরীক্ষা, প্রতিটি ফলাফল একটি ডেটার টুকরো, এবং এই টুকরোগুলির বেশিরভাগই সংবেদনশীল ব্যক্তিগত ডেটা - অর্থাৎ স্বাস্থ্য ডেটার সুযোগের মধ্যে রয়েছে। কৃত্রিম বুদ্ধিমত্তা এই ডেটাতে কাজ করে অনেক মূল্য তৈরি করতে পারে, কিন্তু অসতর্কভাবে ব্যবহার করা হলে, একই কৃত্রিম বুদ্ধিমত্তা গুরুতর গোপনীয়তা লঙ্ঘন, আইনি দায়বদ্ধতা এবং রোগীর বিশ্বাসের ক্ষতি হতে পারে। তদুপরি, এটি কেবল গোপনীয়তার বিষয়ে নয়: এটি একটি পেশাদার এবং নৈতিক বাধ্যবাধকতা প্রমাণ করা যে একটি কৃত্রিম বুদ্ধিমত্তার মডেল ক্লিনিকাল ব্যবহারের জন্য সত্যই নির্ভরযোগ্য — অর্থাৎ, বৈধতা — এবং নিশ্চিত করা যে সেই মডেলটি নির্দিষ্ট রোগী গোষ্ঠীর (পক্ষপাত) জন্য অন্যায় নয়।
এই ইউনিটে, আপনি KVKK/গোপনীয়তার সুযোগের মধ্যে রোগীর পরীক্ষাগার ডেটা কীভাবে রক্ষা করবেন তা শিখবেন; বৈধতা, কর্মক্ষমতা মেট্রিক্স, এবং ক্লিনিকাল এআই মডেলের পক্ষপাত নিয়ন্ত্রণ; এবং প্রতিটি ব্যবহারে কীভাবে নৈতিক নীতিগুলি বুনতে হয়। মৌলিক নীতি: বেনামী না হয়ে কোনো যানবাহনে ডেটা প্রবেশ করে না; কোনো মডেল ক্লিনিকাল সিদ্ধান্তে অংশগ্রহণ করে না যতক্ষণ না এটি আপনার নিজের ডেটাতে যাচাই করা হয়; এবং চূড়ান্ত দায়িত্ব সর্বদা বিশেষজ্ঞের উপর বর্তায়।
গোপনীয়তা: কি ডেটা, কীভাবে এটি রক্ষা করা যায়
রোগীর পরীক্ষাগার ডেটা (ফলাফল, রোগ নির্ণয়, প্রোটোকল নম্বর, পরিচয়) কেভিকেকে (পার্সোনাল ডেটা প্রোটেকশন ল) তুরকিয়ে, ইউরোপের জিডিপিআর-এর অধীনে সুরক্ষিত এবং স্বাস্থ্য ডেটা "বিশেষ প্রকৃতির" হওয়ায় অতিরিক্ত সুরক্ষা প্রয়োজন৷ কৃত্রিম বুদ্ধিমত্তা ব্যবহার করার সময় তিনটি মৌলিক নিয়ম:
- বেনামী. নাম, টিআর আইডি, প্রোটোকল/ফাইল নম্বর, জন্ম তারিখ, যোগাযোগ এবং প্রতিষ্ঠানের তথ্য সরান। "68 বছর বয়সী মহিলা রোগী" যথেষ্ট; "Ayşe Yılmaz, 12.03.1957" নয়। মনে রাখবেন যে বিরল রোগ + ছোট অবস্থানের মতো সংমিশ্রণগুলি পরোক্ষভাবে পরিচয় প্রকাশ করতে পারে।
- ন্যূনতম ডেটা নীতি। টাস্কের জন্য প্রয়োজনীয় ন্যূনতম ডেটা ভাগ করুন। একটি রেফারেন্স পরিসীমা প্রশ্নের সম্পূর্ণ রোগীর ফাইলের প্রয়োজন হয় না।
- নিরাপদ যানবাহন নির্বাচন। কর্পোরেট সরঞ্জামগুলি বেছে নিন যেগুলির একটি ডেটা প্রসেসিং চুক্তি রয়েছে এবং মডেল প্রশিক্ষণে আপনার ডেটা ব্যবহার করবেন না৷ একটি পাবলিক টুলে একটি কাঁচা রোগীর ফাইল আপলোড করা সবচেয়ে সাধারণ এবং সবচেয়ে গুরুতর লঙ্ঘন।
ডেটা টাইপ
ঝুঁকি
সঠিক আচরণ
নাম, টিআর আইডি, প্রোটোকল নম্বর
সরাসরি সনাক্তকরণ
নির্যাস, বেনামী
জন্ম তারিখ, ঠিকানা
পরোক্ষ সনাক্তকরণ
বয়স সীমাতে ডাউনলোড করুন, ঠিকানা সরান
ফলাফলের মান
স্বাস্থ্য তথ্য
বেনামে শেয়ার করুন, ন্যূনতমভাবে
ছবি (স্মিয়ার, প্যাথলজি)
স্বাস্থ্য তথ্য + আইডি ক্লু
এটি বৈধ ক্লিনিকাল সিস্টেমে রাখুন; খোলা যানবাহনে লোড হচ্ছে
মনোযোগ: "আমি এটি এনক্রিপ্ট করেছি, তাই আমি নামটিও পাঠাতে পারি" ভুল। এনক্রিপশন পরিবহনকে সুরক্ষিত করে, কিন্তু কোনো এআই টুলে পরিচয় ডেটা পাঠানোকে সমর্থন করে না। পরিচয় তথ্য বের করা হয়.
মডেলের বৈধতা: কেন "প্রকাশিত" যথেষ্ট নয়
শুধুমাত্র একটি AI মডেল (যেমন একটি ইমেজ ক্লাসিফায়ার বা একটি ইন্টারপ্রেটেশন ইঞ্জিন) এক জায়গায় ভাল কাজ করে, তার মানে এই নয় যে এটি আপনার ল্যাবে ভাল কাজ করবে। মডেলটি অন্য জনসংখ্যা, অন্য ডিভাইস, অন্য স্টেনিং প্রোটোকলের উপর প্রশিক্ষিত হতে পারে; এর কর্মক্ষমতা আপনার নমুনা ভিন্ন হতে পারে. একে বন্টন শিফট বলে। অতএব, ক্লিনিকাল ব্যবহারের জন্য প্রতিটি মডেল আপনার নিজস্ব ডেটাতে যাচাই করা উচিত, এর কার্যকারিতা পরিমাপ করা উচিত এবং নিয়মিত পর্যবেক্ষণ করা উচিত।
বৈধকরণে ব্যবহৃত মূল কর্মক্ষমতা মেট্রিক্স:
- সংবেদনশীলতা: যে হারে মডেলটি সঠিকভাবে তাদের ক্যাপচার করে যারা সত্যিকারের অসুস্থ/ইতিবাচক। কম সংবেদনশীলতা = মিসড সত্য ইতিবাচক (মিথ্যা নেতিবাচক) = সমালোচনামূলক ফলাফলগুলি হারিয়ে যাওয়ার ঝুঁকি।
- নির্দিষ্টতা: সত্যিকারের সুস্থ/নেতিবাচকদের নির্মূল করার সঠিক হার। নিম্ন নির্দিষ্টতা = অনেক মিথ্যা অ্যালার্ম।
- মিথ্যা নেতিবাচক/মিথ্যা ইতিবাচক হার: পরীক্ষাগারে, একটি মিথ্যা নেতিবাচক (একটি সমালোচনামূলক অনুসন্ধান অনুপস্থিত) সাধারণত একটি মিথ্যা পজিটিভের চেয়ে বেশি বিপজ্জনক; এই ভারসাম্য মডেলের উদ্দেশ্য ব্যবহার অনুযায়ী সামঞ্জস্য করা হয়.
একবার মডেলটি যাচাই হয়ে গেলে, এটি ভুলে যাওয়া হয় না; সময়ের সাথে সাথে, ডিভাইস, বিকারক, জনসংখ্যা পরিবর্তিত হতে পারে এবং কর্মক্ষমতা পরিবর্তন হতে পারে। অতএব, ক্রমাগত পর্যবেক্ষণ এবং পর্যায়ক্রমিক পুনর্মূল্যায়ন প্রয়োজন।
পক্ষপাত: কার প্রতি অন্যায় মডেল?
একটি মডেল প্রশিক্ষণের ডেটাতে ভারসাম্যহীনতা সম্পর্কে শেখে। যদি একটি ইমেজ মডেল একটি নির্দিষ্ট রোগীর গোষ্ঠীর উদাহরণগুলির উপর বেশি করে প্রশিক্ষিত হয়, তবে এটি নিম্নরূপে উপস্থাপন করা গোষ্ঠীতে আরও ত্রুটি করতে পারে। একটি পরীক্ষাগারের প্রেক্ষাপটে, এর মানে হল মডেলটি একটি নির্দিষ্ট বয়স, লিঙ্গ বা ক্লিনিকাল গ্রুপের জন্য কম ভাল পারফর্ম করে — এবং এটি একটি ইক্যুইটি/নৈতিকতার সমস্যা। যাচাই করার সময়, শুধুমাত্র সাধারণভাবে নয়, উপগোষ্ঠীতেও কর্মক্ষমতা পরীক্ষা করা প্রয়োজন। পক্ষপাত উপেক্ষা করার অর্থ নীরবে কিছু রোগীদের আরও খারাপ পরিষেবা প্রদান করা।
নৈতিক চার নীতি এবং দায়িত্বের শৃঙ্খল
স্বাস্থ্য নৈতিকতার চারটি মৌলিক নীতি ল্যাবরেটরি AI-তেও প্রযোজ্য:
- উপকারিতা: কৃত্রিম বুদ্ধিমত্তা রোগীর সুবিধার জন্য ব্যবহার করা উচিত; ত্বরণ নিরাপত্তা আপস করা উচিত নয়.
- নন-মালিফিসেন্স: অযাচাইকৃত আউটপুট, বানোয়াট সমালোচনামূলক মান, মিস ফাইন্ডিং ক্ষতির কারণ হতে পারে; তাদের প্রতিরোধ করা একটি নৈতিক দায়িত্ব।
- স্বায়ত্তশাসন: তার ডেটার উপর রোগীর অধিকার সুরক্ষিত; গোপনীয়তা এবং সম্মতি সম্মান করা হয়.
- ন্যায়বিচার: মডেলটি সমস্ত রোগী গোষ্ঠীকে সমান মানের পরিষেবা প্রদান করা উচিত; পক্ষপাত পরীক্ষা করা আবশ্যক।
এবং সর্বোপরি, দায়িত্বের একটি শৃঙ্খল রয়েছে: কৃত্রিম বুদ্ধিমত্তা একটি আউটপুট তৈরি করতে পারে, তবে সেই আউটপুটের ফলাফলের জন্য বিশেষজ্ঞ দায়ী। "এআই তাই বলেছে" একটি অজুহাত নয়; স্বাক্ষর, সিদ্ধান্ত এবং দায়িত্ব মানুষেরই।
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল প্রম্পট:
Ayşe Yılmaz (TC 123..., প্রোটোকল 2024-88) এর সমস্ত ফলাফল এবং রোগ নির্ণয়ের ব্যাখ্যা করুন এবং একটি প্রতিবেদন লিখুন।
এই অনুরোধে সরাসরি পরিচয় ডেটা রয়েছে (KVKK লঙ্ঘন), ন্যূনতম ডেটা নীতি লঙ্ঘন করে এবং একটি রোগ নির্ণয়ের অনুরোধ করে। এটি গোপনীয়তা এবং সীমানার একটি গুরুতর লঙ্ঘন।
শক্তিশালী প্রম্পট:
আপনার ভূমিকা: পরীক্ষাগার বিশেষজ্ঞের খসড়া প্রস্তুতি সহকারী। নীচের তথ্য বেনামী; শনাক্তকরণ তথ্য ধারণ করে না। শুধুমাত্র প্রয়োজনীয় ক্লিনিকাল/বিশ্লেষণমূলক তথ্য নিয়ে কাজ করুন। একটি রোগ নির্ণয় করা; "সম্ভাব্য" ভাষা ব্যবহার করুন; চিকিত্সক পড়ুন. রোগী: 68 বছর বয়সী মহিলা, পরিচিত থাইরয়েড রোগ। বেনামী ফলাফল (রেফারেন্স সহ): TSH 6.2 mIU/L (রেফ 0.4-4.0), সাধারণ পরিসরের মধ্যে বিনামূল্যে T4। টাস্ক: রোগীর কাছে একটি সাধারণ ব্রিফিং রূপরেখা লিখুন; একটি পরিচয় ক্লু তৈরি করুন।
শক্তিশালী প্রম্পটটি বেনামী, ন্যূনতম ডেটা নিয়ে কাজ করে, বিশেষজ্ঞের কাছে রোগ নির্ণয় রাখে এবং সীমা নির্দিষ্ট করে।
তিনটি মিনি কেস
কেস 1 - গোপনীয়তা লঙ্ঘন প্রতিরোধ করা। একটি রোগীর রিপোর্ট ব্যাখ্যা করার জন্য, একজন প্রযুক্তিবিদ প্রথমে "অনামীকরণ নিয়ন্ত্রণ" টেমপ্লেট সহ পাঠ্য থেকে নাম, আইডি এবং প্রোটোকল নম্বর বের করেন; এটা শুধুমাত্র বয়স, লিঙ্গ এবং ফলাফল মান ছেড়ে. তারপর এটি একটি সুরক্ষিত, কর্পোরেট টুলে চলে। তথ্য একটি পরিচয় সঙ্গে প্রতিষ্ঠানের বাইরে যায় না. কাজ শুরু করার আগেই লঙ্ঘন প্রতিরোধ করা হয়েছিল।
কেস 2 — অপ্রমাণিত মডেল ফাঁদ। একটি পরীক্ষাগার সরাসরি তার নিজস্ব যন্ত্রে অন্য কেন্দ্রে বিকশিত একটি প্রস্রাব পলল মডেল ব্যবহার শুরু করে; এটা বৈধতা দেয় না. কিছুক্ষণ পরে, এটি লক্ষ্য করা যায় যে মডেলটি প্রায়শই তার স্টেনিং প্রোটোকলগুলিতে (বন্টন স্থানান্তর) নির্দিষ্ট স্ফটিকগুলি মিস করে। মিথ্যা নেতিবাচক জমে আছে. পাঠ: মডেলটি ক্লিনিকাল সিদ্ধান্ত গ্রহণে ফ্যাক্টর করে না যতক্ষণ না এটি আপনার নিজের ডেটাতে যাচাই করা হয় এবং সংবেদনশীলতা/নির্দিষ্টতা পরিমাপ করা না হয়।
কেস 3 - পক্ষপাতিত্ব ধরা। একটি কর্মক্ষমতা নিরীক্ষায়, যদিও একটি মডেলের সামগ্রিক সংবেদনশীলতা বেশি দেখা যায়, তবে বয়স্ক রোগীদের একটি উপগোষ্ঠীতে এটি উল্লেখযোগ্যভাবে কম পাওয়া যায়; মডেলটি এই গ্রুপে আরও ত্রুটি করে। পরীক্ষাগারটি মডেল আউটপুটের এই গ্রুপে অতিরিক্ত বিশেষজ্ঞ পর্যালোচনা যোগ করে এবং প্রস্তুতকারকের সাথে যোগাযোগ করে। পাঠ: কর্মক্ষমতা শুধুমাত্র সামগ্রিক নয়, উপগোষ্ঠীতেও পরীক্ষা করা হয়; ন্যায়বিচারের নীতির জন্য এটি প্রয়োজন।
অনুলিপিযোগ্য প্রম্পট টেমপ্লেট
বেনামী নিয়ন্ত্রণ টেমপ্লেট নিচের পাঠ্য থেকে নাম, টিআর আইডি, প্রোটোকল/ফাইল নম্বর, জন্ম তারিখ, ঠিকানা, টেলিফোন এবং প্রতিষ্ঠানের তথ্য বের করুন; "[সরানো]" দিয়ে প্রতিস্থাপন করুন। পরোক্ষ আইডি ক্লু থাকলে সতর্ক করুন (বিরল রোগ নির্ণয় + ছোট অবস্থান)। শুধুমাত্র প্রয়োজনীয় ক্লিনিকাল/বিশ্লেষণমূলক তথ্য ছেড়ে দিন। পাঠ্য: [পাঠ্য]।
মডেল যাচাইকরণ পরিকল্পনা টেমপ্লেট একটি কৃত্রিম বুদ্ধিমত্তা মডেলের জন্য একটি খসড়া বৈধতা পরিকল্পনা প্রস্তুত করুন যা আমি ক্লিনিকাল ব্যবহারে রাখব: আমি কী নিজস্ব ডেটা দিয়ে এটি পরীক্ষা করব, কীভাবে সংবেদনশীলতা/নির্দিষ্টতা পরিমাপ করা যায়, কীভাবে মিথ্যা নেতিবাচক/ইতিবাচকের ভারসাম্য মূল্যায়ন করা যায়, কীভাবে সাবগ্রুপ নিয়ন্ত্রণ করা যায় (বয়স/বয়স/সম্পাদনা কীভাবে পুনঃনির্ধারণ করা যায়)। আমি সিদ্ধান্ত নেব; আপনি একটি চেকলিস্ট তৈরি করুন।
BIAS চেক টেমপ্লেটই একটি মডেলের কর্মক্ষমতা মূল্যায়ন করে। কোন সাবগ্রুপে (বয়স, লিঙ্গ, ক্লিনিকাল গ্রুপ, নমুনার ধরন) আমার আলাদাভাবে পারফরম্যান্স খোঁজা উচিত এবং একটি গ্রুপে উল্লেখযোগ্যভাবে খারাপ পারফরম্যান্স পেলে আমার কী পদক্ষেপ নেওয়া উচিত তা তালিকা। ন্যায্যতা/সমতা সতর্কতা যোগ করুন।
এথিকাল সেলফ-অডিট টেমপ্লেট আমি যে AI ব্যবহার করতে যাচ্ছি তা চারটি নৈতিক নীতি অনুসারে নিরীক্ষিত হয়: উপকারিতা, অ-অপরাধ, স্বায়ত্তশাসন (গোপনীয়তা/সম্মতি), ন্যায্যতা। প্রতিটি নীতির জন্য একটি ঝুঁকি প্রশ্ন জিজ্ঞাসা করুন. এছাড়াও, "এই আউটপুটের জন্য কে দায়ী?" আপনার প্রশ্নের উত্তর আমাকে জিজ্ঞাসা করুন. ব্যবহার: [সংজ্ঞা]।
সাধারণ ভুল
- যানবাহন শনাক্তকরণ তথ্য প্রদান. নাম, টিআর আইডি নম্বর এবং প্রোটোকল নম্বর বেনামী ছাড়া শেয়ার করা হয় না; এনক্রিপশন এটিকে সমর্থন করে না।
- পরোক্ষ পরিচয় ভুলে যাওয়া। সংমিশ্রণ যেমন বিরল রোগ নির্ণয় + ছোট অবস্থান পরিচয় প্রকাশ করতে পারে।
- মডেলটি যাচাই না করে ব্যবহার করা। অন্য কোথাও চলমান একটি মডেল আপনার ডেটাতে ভিন্ন কর্মক্ষমতা দিতে পারে।
- শুধু সাধারণভাবে কর্মক্ষমতা তাকান. সাবগ্রুপ বিশ্লেষণ সঞ্চালিত না হলে পক্ষপাত লুকানো থাকে।
- মডেলের উপর দায়িত্ব চাপানো। "AI বলেছেন" কোন অজুহাত নয়; সিদ্ধান্ত এবং স্বাক্ষর বিশেষজ্ঞের অন্তর্গত।
টিপ: AI এর প্রতিটি ব্যবহারের আগে, একসাথে দুটি প্রশ্ন জিজ্ঞাসা করুন: "এই ডেটাটি কি শনাক্ত করা হয়নি?" এবং "আমি কি জানি এই মডেলটি আমার ফলনে কিভাবে পারফর্ম করে?" প্রথমটির উত্তর গোপনীয়তা রক্ষা করে, দ্বিতীয়টির উত্তর নিরাপত্তা রক্ষা করে।
সংক্ষেপে
ল্যাবরেটরি ডেটা বিশেষ মানের স্বাস্থ্য ডেটা; কৃত্রিম বুদ্ধিমত্তা ব্যবহার করার সময় বেনামীকরণ, ন্যূনতম ডেটা নীতি এবং নিরাপদ টুল নির্বাচন বাধ্যতামূলক। ক্লিনিকাল ব্যবহারের জন্য মডেলগুলি আপনার নিজের ডেটাতে যাচাই করা আবশ্যক; সংবেদনশীলতা, নির্দিষ্টতা এবং মিথ্যা নেতিবাচক/ইতিবাচক ভারসাম্য পরিমাপ করা উচিত; পক্ষপাতের জন্য চেক করার জন্য সাবগ্রুপগুলিতেও কর্মক্ষমতা পরীক্ষা করা উচিত। চারটি নৈতিক নীতি-উপকার, অমার্জিততা, স্বায়ত্তশাসন, ন্যায়বিচার-প্রতিটি ব্যবহারে বোনা হয়, এবং তাদের সবার উপরে দায়িত্বের শৃঙ্খল দাঁড়ায়: যদিও আউটপুট মডেল থেকে আসে, সিদ্ধান্ত এবং দায়িত্ব বিশেষজ্ঞের উপর ন্যস্ত।
আবেদন টাস্ক
"অনামীকরণ নিয়ন্ত্রণ" টেমপ্লেট সহ একটি নমুনা রোগীর পাঠ্যকে বেনামী করুন এবং আপনি কোন তথ্যগুলি সরিয়েছেন তা তালিকাভুক্ত করুন৷ আপনি "মডেল বৈধকরণ পরিকল্পনা" টেমপ্লেট সহ যে AI মডেলটি ব্যবহার করছেন (বা ব্যবহার করার কথা বিবেচনা করছেন) তার জন্য একটি যাচাইকরণ চেকলিস্ট তৈরি করুন; সংবেদনশীলতা/নির্দিষ্টতা এবং উপগোষ্ঠী বিশ্লেষণ অন্তর্ভুক্ত করুন। অবশেষে, "নৈতিক স্ব-অডিট" টেমপ্লেট দিয়ে চারটি নীতির বিপরীতে একটি ব্যবহার মূল্যায়ন করুন।
চেকলিস্ট
- [] আমি ডেটা বেনামী করেছি; আমি প্রত্যক্ষ এবং পরোক্ষ পরিচয় ক্লু মুছে ফেলেছি।
- [ ] আমি ন্যূনতম ডেটা নীতি প্রয়োগ করেছি; আমি শুধু প্রয়োজনীয় জিনিস শেয়ার করেছি।
- [] আমি একটি সুরক্ষিত, কর্পোরেট এবং ডেটা প্রসেসিং চুক্তিবদ্ধ টুল ব্যবহার করেছি।
- [] আমি আমার নিজের ডেটাতে মডেলটিকে যাচাই করেছি; আমি সংবেদনশীলতা/নির্দিষ্টতা পরিমাপ করেছি।
- [ ] আমি উপগোষ্ঠীতে কর্মক্ষমতা পরীক্ষা করেছি এবং পক্ষপাতের জন্য পরীক্ষা করেছি।
- [ ] আমি চারটি নৈতিক নীতি পর্যবেক্ষণ করেছি এবং নিশ্চিত করেছি যে দায়িত্বটি বিশেষজ্ঞের উপরই বর্তায়৷