حریم خصوصی داده ها، KVKK، اخلاقیات و اعتبارسنجی مدل

سود:

• امکان ناشناس کردن داده های آزمایشگاهی بیمار در محدوده KVKK/حریم خصوصی و اعمال ابزارهای ایمن و قوانین پردازش داده ها
• درک اینکه چرا اعتبارسنجی، معیارهای عملکرد و کنترل سوگیری در استفاده بالینی مدل‌های هوش مصنوعی اجباری هستند.
• توانایی بر عهده گرفتن مسئولیت نهایی با در هم تنیدن چهار اصل اخلاقی و زنجیره مسئولیت در هر استفاده از هوش مصنوعی

آزمایشگاه یکی از داده های فشرده ترین نقاط سیستم مراقبت های بهداشتی است. هر بیمار، هر آزمایش، هر نتیجه بخشی از داده است، و بیشتر این قطعات در محدوده داده های شخصی حساس هستند - یعنی داده های سلامت. هوش مصنوعی با کار بر روی این داده ها می تواند ارزش زیادی ایجاد کند، اما در صورت استفاده بی دقتی، همان هوش مصنوعی می تواند منجر به نقض جدی حریم خصوصی، مسئولیت قانونی و آسیب به اعتماد بیمار شود. علاوه بر این، این فقط در مورد محرمانگی نیست: این یک تعهد حرفه ای و اخلاقی است که ثابت کنیم یک مدل هوش مصنوعی که برای استفاده بالینی استفاده می شود واقعا قابل اعتماد است - یعنی اعتبارسنجی - و اطمینان حاصل شود که آن مدل برای گروه های خاص بیمار ناعادلانه نیست (سوگیری).

در این واحد، نحوه محافظت از داده های آزمایشگاهی بیمار در محدوده KVKK/محرمانه بودن را یاد خواهید گرفت. اعتبارسنجی، معیارهای عملکرد، و کنترل سوگیری مدل‌های هوش مصنوعی بالینی؛ و اینکه چگونه می توان اصول اخلاقی را در هر کاربری گنجاند. اصل اساسی: داده ها بدون ناشناس بودن وارد هیچ وسیله نقلیه ای نمی شوند. هیچ مدلی در تصمیم‌گیری‌های بالینی شرکت نمی‌کند تا زمانی که بر اساس داده‌های خود شما تأیید نشده باشد. و مسئولیت نهایی همیشه بر عهده متخصص است.

حریم خصوصی: چه داده هایی، چگونه از آنها محافظت کنیم

داده‌های آزمایشگاهی بیمار (نتایج، تشخیص، شماره پروتکل، هویت) تحت KVKK (قانون حفاظت از داده‌های شخصی) در ترکیه، GDPR در اروپا محافظت می‌شوند و به حفاظت بیشتری نیاز دارند زیرا داده‌های بهداشتی «ماهیت خاصی» دارند. سه قانون اساسی در استفاده از هوش مصنوعی:

1. ناشناس کردن. نام، شناسه TR، شماره پروتکل/پرونده، تاریخ تولد، اطلاعات تماس و موسسه را حذف کنید. «بیمار زن 68 ساله» کافی است; نه «Ayşe Yılmaz, 12.03.1957». توجه داشته باشید که ترکیباتی مانند بیماری نادر + مکان کوچک ممکن است به طور غیر مستقیم هویت را نشان دهد.
2. سیاست حداقل داده حداقل داده های مورد نیاز برای کار را به اشتراک بگذارید. یک سوال محدوده مرجع به کل پرونده بیمار نیاز ندارد.
3. انتخاب وسیله نقلیه ایمن ابزارهای شرکتی را انتخاب کنید که دارای قرارداد پردازش داده هستند و از داده های شما در آموزش مدل استفاده نمی کنند. آپلود فایل خام بیمار در ابزار عمومی رایج ترین و شدیدترین تخلف است.

نوع داده

خطر

رفتار صحیح

نام، شناسه TR، شماره پروتکل

شناسایی مستقیم

استخراج کردن، ناشناس کردن

تاریخ تولد، آدرس

شناسایی غیر مستقیم

دانلود به محدوده سنی، حذف آدرس

مقادیر نتیجه

داده های سلامت

به صورت ناشناس، حداقل به اشتراک بگذارید

تصویر (اسمیر، آسیب شناسی)

اطلاعات سلامت + سرنخ شناسه

آن را در سیستم بالینی معتبر نگه دارید. بارگیری در وسیله نقلیه باز

توجه: "من آن را رمزگذاری کردم، بنابراین می توانم نام را نیز ارسال کنم" اشتباه است. رمزگذاری حمل و نقل را ایمن می کند، اما ارسال اطلاعات هویتی به ابزار هوش مصنوعی را توجیه نمی کند. داده های هویتی استخراج می شود.

اعتبارسنجی مدل: چرا «منتشر شده» کافی نیست

فقط به این دلیل که یک مدل هوش مصنوعی (به عنوان مثال یک طبقه‌بندی کننده تصویر یا یک موتور تفسیر) در یک مکان به خوبی کار می‌کند، به این معنی نیست که در آزمایشگاه شما به خوبی کار خواهد کرد. مدل ممکن است بر روی جمعیت دیگری، دستگاه دیگری، پروتکل رنگ آمیزی دیگری آموزش دیده باشد. عملکرد آن ممکن است در نمونه های شما متفاوت باشد. این تغییر توزیع نامیده می شود. بنابراین، هر مدلی که برای استفاده بالینی قرار می‌گیرد باید بر اساس داده‌های خود تأیید شود، عملکرد آن باید به طور منظم اندازه‌گیری و نظارت شود.

معیارهای کلیدی عملکرد مورد استفاده در اعتبارسنجی:

• حساسیت: نرخی که مدل به طور دقیق از کسانی که واقعاً بیمار/مثبت هستند عکس می گیرد. حساسیت کم = از دست رفته مثبت واقعی (منفی کاذب) = خطر از دست رفتن یافته های مهم.
• ویژگی: میزان صحیح حذف موارد واقعاً سالم/منفی. ویژگی کم = هشدارهای نادرست زیاد.
• نرخ های منفی کاذب/مثبت کاذب: در آزمایشگاه، منفی کاذب (از دست دادن یک یافته مهم) به طور کلی خطرناک تر از مثبت کاذب است. این تعادل با توجه به استفاده مورد نظر از مدل تنظیم می شود.

هنگامی که مدل اعتبار سنجی شد، فراموش نمی شود. با گذشت زمان، دستگاه، معرف، جمعیت ممکن است تغییر کند و عملکرد ممکن است تغییر کند. بنابراین، نظارت مستمر و ارزیابی مجدد دوره ای مورد نیاز است.

تعصب: مدل نسبت به چه کسی بی انصاف است؟

یک مدل در مورد عدم تعادل در داده های آموزشی یاد می گیرد. اگر یک مدل تصویر عمدتاً بر روی نمونه هایی از یک گروه بیمار خاص آموزش داده شود، ممکن است در گروهی که کمتر ارائه شده است، خطاهای بیشتری داشته باشد. در یک زمینه آزمایشگاهی، این بدان معناست که مدل برای یک سن، جنس یا گروه بالینی خاص عملکرد کمتری دارد - و این یک مسئله برابری/اخلاق است. هنگام اعتبارسنجی، لازم است عملکرد را نه تنها به طور کلی، بلکه در زیر گروه ها نیز بررسی کنید. نادیده گرفتن سوگیری به معنای ارائه خدمات بدتر در سکوت به برخی از بیماران است.

چهار اصل اخلاقی و زنجیره مسئولیت

چهار اصل اساسی اخلاق سلامت در مورد هوش مصنوعی آزمایشگاهی نیز اعمال می شود:

• سودمندی: هوش مصنوعی باید به نفع بیمار استفاده شود. شتاب نباید ایمنی را به خطر بیندازد.
• عدم سوء استفاده: خروجی تایید نشده، ارزش بحرانی جعلی، یافتن از دست رفته می تواند منجر به آسیب شود. جلوگیری از آنها یک وظیفه اخلاقی است.
• استقلال: حقوق بیمار در مورد داده هایش محافظت می شود. رازداری و رضایت رعایت می شود.
• عدالت: این مدل باید خدمات با کیفیت یکسانی را به همه گروه های بیمار ارائه دهد. سوگیری باید بررسی شود

و بالاتر از همه، یک زنجیره مسئولیت وجود دارد: هوش مصنوعی ممکن است یک خروجی تولید کند، اما متخصص مسئول نتیجه آن خروجی است. "هوش مصنوعی چنین گفت" بهانه ای نیست. امضا، تصمیم و مسئولیت متعلق به انسان است.

اعلان ضعیف / اعلان قوی

اعلان ضعیف:

تمام نتایج و تشخیص عایشه ییلماز (TC 123...، پروتکل 2024-88) را تفسیر کرده و گزارش بنویسید.

این درخواست مستقیماً حاوی داده‌های هویتی است (نقض KVKK)، اصل حداقل داده را نقض می‌کند و درخواست تشخیص می‌دهد. این نقض جدی حریم خصوصی و مرزها است.

اعلان قدرتمند:

نقش شما: دستیار آماده سازی DRAFT برای متخصص آزمایشگاه. داده های زیر ناشناس است. حاوی اطلاعات شناسایی نیست فقط با اطلاعات بالینی/تحلیلی مورد نیاز کار کنید. انجام تشخیص؛ از زبان "ممکن" استفاده کنید. به پزشک مراجعه کنید. بیمار: خانم 68 ساله، بیماری تیروئید شناخته شده. نتایج ناشناس (با مرجع): TSH 6.2 mIU/L (مرجع 0.4-4.0)، T4 آزاد در محدوده طبیعی. وظیفه: یک طرح کلی ساده برای بیمار بنویسید. یک سرنخ هویت ایجاد کنید

اعلان قوی ناشناس است، با حداقل داده کار می کند، تشخیص را نزد متخصص نگه می دارد، و حد را مشخص می کند.

سه کیف کوچک

مورد 1 - جلوگیری از نقض حریم خصوصی. برای تفسیر گزارش بیمار، یک تکنسین ابتدا نام، شناسه و شماره پروتکل را با الگوی "کنترل ناشناس" از متن استخراج می کند. این فقط سن، جنسیت و ارزش های نتیجه را باقی می گذارد. سپس در یک ابزار امن و شرکتی اجرا می شود. داده ها با هویت به خارج از موسسه نمی روند. قبل از شروع کار از تخلف جلوگیری شد.

مورد 2 - تله مدل نامعتبر. یک آزمایشگاه شروع به استفاده از یک مدل رسوب ادرار می کند که در مرکز دیگری به طور مستقیم در ابزار خود ساخته شده است. اعتبار نمی دهد. پس از مدتی، مشاهده می شود که مدل اغلب کریستال های خاصی را در پروتکل های رنگ آمیزی خود از دست می دهد (تغییر توزیع). منفی های کاذب جمع شده اند. درس: این مدل تا زمانی که بر اساس داده‌های شما اعتبار سنجی نشده و حساسیت/ویژگی اندازه‌گیری نشده باشد، در تصمیم‌گیری بالینی نقشی ندارد.

مورد 3 - تعصب گرفتن. در یک ممیزی عملکرد، اگرچه حساسیت کلی یک مدل بالا به نظر می رسد، اما در زیر گروهی از بیماران مسن به طور قابل توجهی کمتر است. مدل در این گروه خطاهای بیشتری دارد. آزمایشگاه بررسی تخصصی بیشتری را به این گروه از خروجی های مدل اضافه می کند و با سازنده تماس می گیرد. درس: عملکرد نه تنها به طور کلی بلکه در زیر گروه ها نیز بررسی می شود. اصل عدالت این را ایجاب می کند.

الگوهای درخواستی قابل کپی

الگوی کنترل ناشناس نام، شناسه TR، شماره پروتکل/پرونده، تاریخ تولد، آدرس، تلفن و اطلاعات موسسه را از متن زیر استخراج کنید. با "[حذف شده]" جایگزین کنید. در صورت وجود سرنخ غیر مستقیم شناسه (تشخیص نادر + مکان کوچک) هشدار دهید. فقط اطلاعات بالینی/تحلیلی لازم را بگذارید. متن: [متن].

الگوی طرح اعتبارسنجی مدل یک پیش نویس طرح اعتبارسنجی برای یک مدل هوش مصنوعی تهیه کنید که در استفاده بالینی قرار خواهم داد: با چه داده‌هایی آن را آزمایش خواهم کرد، چگونه حساسیت/ویژگی را اندازه‌گیری کنم، چگونه تعادل منفی/مثبت کاذب را ارزیابی کنیم، چگونه عملکرد زیرگروه (سن/جنس) را کنترل کنیم، چند بار ارزیابی مجدد. من تصمیم خواهم گرفت؛ شما یک چک لیست تهیه می کنید.

BIAS CHECK TEMPLATEI عملکرد یک مدل را ارزیابی می کند. فهرست کنید که در کدام زیرگروه ها (سن، جنس، گروه بالینی، نوع نمونه) باید به طور جداگانه به دنبال عملکرد باشم و اگر عملکرد قابل توجهی ضعیفی در یک گروه دیدم چه اقداماتی را باید انجام دهم. اخطارهای انصاف/برابری را اضافه کنید.

الگوی خود حسابرسی اخلاقی استفاده از هوش مصنوعی که من می خواهم انجام دهم بر اساس چهار اصل اخلاقی حسابرسی می شود: خیرخواهی، عدم سوء استفاده، استقلال (حریم خصوصی/رضایت)، انصاف. برای هر سیاست یک سوال ریسک بپرسید. همچنین، "چه کسی مسئول این خروجی است؟" از من بخواهید به سوال شما پاسخ دهم. کاربرد: [تعریف].

اشتباهات رایج

• دادن اطلاعات شناسایی به وسیله نقلیه نام، شماره شناسه TR و شماره پروتکل بدون ناشناس به اشتراک گذاشته نمی شود. رمزگذاری این را توجیه نمی کند.
• فراموشی هویت غیر مستقیم ترکیباتی مانند تشخیص نادر + مکان کوچک می تواند هویت را آشکار کند.
• استفاده از مدل بدون اعتبارسنجی مدلی که در جای دیگر اجرا می شود ممکن است عملکرد متفاوتی روی داده های شما ارائه دهد.
• فقط به عملکرد کلی نگاه کنید. اگر تحلیل زیرگروهی انجام نشود، سوگیری پنهان می ماند.
• مسئولیت را بر دوش مدل انداختن. «هوش مصنوعی گفت» بهانه ای نیست. تصمیم و امضا متعلق به کارشناس است.

نکته: قبل از هر استفاده از هوش مصنوعی، دو سوال را با هم بپرسید: "آیا این داده ها شناسایی نشده اند؟" و "آیا می دانم عملکرد این مدل در بازدهی من چگونه است؟" پاسخ به اولی از حریم خصوصی محافظت می کند، پاسخ دوم از امنیت محافظت می کند.

به طور خلاصه

داده های آزمایشگاهی داده های بهداشتی با کیفیت ویژه هستند. هنگام استفاده از هوش مصنوعی، ناشناس سازی، سیاست حداقل داده و انتخاب ابزار ایمن الزامی است. مدل هایی که برای استفاده بالینی قرار می گیرند باید بر اساس داده های خود شما تأیید شوند. حساسیت، ویژگی و تعادل منفی/مثبت کاذب باید اندازه گیری شود. برای بررسی سوگیری باید عملکرد را نیز در زیر گروه‌ها بررسی کرد. چهار اصل اخلاقی - سودمندی، عدم سوء استفاده، خودمختاری، عدالت - در هر کاربرد بافته شده است، و بالاتر از همه آنها زنجیره مسئولیت قرار دارد: اگرچه خروجی از مدل می آید، تصمیم و مسئولیت با متخصص است.

وظیفه کاربردی

یک متن نمونه بیمار را با الگوی «کنترل ناشناس» بی نام کنید و اطلاعاتی را که حذف کرده اید فهرست کنید. با الگوی «نقشه اعتبارسنجی مدل» یک چک لیست اعتبار سنجی برای مدل هوش مصنوعی که استفاده می کنید (یا در نظر دارید استفاده کنید) ایجاد کنید. شامل تجزیه و تحلیل حساسیت/ویژگی و زیر گروه. در نهایت، استفاده از چهار اصل را با الگوی «خود حسابرسی اخلاقی» ارزیابی کنید.

چک لیست

• [ ] من داده ها را ناشناس کردم. سرنخ های هویتی مستقیم و غیرمستقیم را حذف کردم.
• [ ] من سیاست حداقل داده را اعمال کردم. من فقط آنچه لازم بود را به اشتراک گذاشتم.
• [ ] من از ابزار قراردادی ایمن، شرکتی و پردازش داده استفاده کردم.
• [ ] من مدل را بر اساس داده های خودم تایید کردم. حساسیت/ویژگی را اندازه گرفتم.
• [ ] من عملکرد را در زیر گروه‌ها بررسی کردم و تعصب را بررسی کردم.
• [ ] من چهار اصل اخلاقی را رعایت کردم و تایید کردم که مسئولیت بر عهده کارشناس است.