سود:
- توانایی تشخیص خطر استفاده دوگانه (DURC)، رد استفاده مضر از هوش مصنوعی و اتخاذ رفلکس برای گزارش آن به کانال امنیت زیستی شرکت.
- امکان محافظت از محرمانگی با شناسایی هویت بیمار و داده های ژنتیکی و پردازش آنها در یک محیط تایید شده و در محدوده رضایت
- توانایی اطمینان از مسئولیت و شفافیت انسانی با ارائه تأییدیه مستند (اعتبارسنجی GxP) مدل هوش مصنوعی در تصمیم گیری های تنظیم شده
مهندسی زیستی رشته ای است که مستقیماً بر سلامت انسان، ایمنی غذا و محیط زیست تأثیر می گذارد. بنابراین سؤالاتی در اینجا وجود دارد که «آیا باید» و «آیا اجازه انجام این کار را دارم» و همچنین «میتوانم» وجود دارد. هوش مصنوعی این سؤالات را بیشتر تشدید می کند: یک مدل تولیدی می تواند سمی را به آسانی یک آنزیم خوش خیم پیشنهاد کند. یک مدل زبان می تواند داده های بیمار را به نشت تبدیل کند. یک خروجی مدل تایید نشده ممکن است به طور ناخواسته وارد یک خط تولید تنظیم شده شود. این واحد چارچوب امنیتی و مسئولیتی است که در بالای همه واحدهای قبلی قرار دارد. اصولی که در اینجا یاد خواهید گرفت، مهمتر از مهارت فنی هستند، نه کمتر.
در این واحد ما چهار محور را پوشش خواهیم داد: ایمنی زیستی و ریسک استفاده دوگانه، حریم خصوصی داده ها و حقوق بیمار، انطباق با مقررات و اعتبارسنجی (GxP، اعتبارسنجی)، و پاسخگویی و شفافیت.
ایمنی زیستی و استفاده دوگانه
استفاده دوگانه (تحقیق با کاربرد دوگانه مورد توجه - DURC - تحقیقاتی که هم سود و هم آسیب جدی دارد) سنگینترین بار اخلاقی مهندسی زیستی است. افزایش عفونتزایی پاتوژن، طراحی سموم، اصلاح یک عامل برای فرار از تشخیص - اینها کارهای خطرناکی هستند که میتوان آگاهانه یا ناآگاهانه از هوش مصنوعی پرسید. قانون واضح است: از هوش مصنوعی برای افزایش قابلیتهای عوامل بالقوه مضر استفاده نکنید. اگر با چنین درخواستی مواجه شدید، آن را رد کنید، آن را متوقف کنید و به کمیته ایمنی زیستی/اخلاق سازمانی گزارش دهید. حتی تحقیقات قانونی (به عنوان مثال، کار دفاعی بر روی یک عامل بیماریزا) نیاز به تأیید سازمانی، دسترسی محدود و ضبط شفاف دارد.
احتیاط: همیشه مشخص نیست که آیا یک ماموریت دارای کاربرد دوگانه است یا خیر. "افزایش این خاصیت این آنزیم" ممکن است بی گناه به نظر برسد و اثربخشی یک سم را افزایش دهد. در صورت شک، توقف کنید و مشورت کنید. خطر آسیب جبران ناپذیر همیشه ارزش چند روز تاخیر را دارد.
حریم خصوصی داده ها و حقوق بیمار
دادههای مهندسی زیستی اغلب شامل دادههای ژنتیکی و بالینی هستند که حساسترین نوع دادههای شخصی است. یک ژنوم را می توان دوباره شناسایی کرد حتی اگر به نظر شناسایی شده باشد. مقرراتی مانند KVKK و GDPR به شدت از این داده ها محافظت می کند. قوانین سرانگشتی: هرگز داده های خام بیمار را در اختیار ابزار هوش مصنوعی عمومی و تایید نشده قرار ندهید. شناسایی هویت داده ها؛ استفاده از محیط های شرکتی/محلی تایید شده با توافق نامه های پردازش داده؛ و از هدفی که داده ها برای آن جمع آوری شده است تجاوز نکنید (رضایت آگاهانه).
نکته: قبل از دادن هرگونه داده به ابزار هوش مصنوعی، سه سوال بپرسید: (1) آیا می توان یک شخص را در این داده ها شناسایی کرد؟ (2) آیا شرایط پردازش داده های این ابزار برای حفظ کارایی مناسب است؟ (3) آیا این استفاده در محدوده هدفی است که بیمار برای آن رضایت داده است؟ اگر به هر یک از این سه "نه" یا "مطمئن نیستم" می گویید، داده ها را ارائه نکنید.
انطباق و تأیید مقررات
تولید دارو، تجهیزات پزشکی و بالینی در چارچوب GxP (عمل خوب - قوانین عملکرد خوب؛ تولید GMP، آزمایشگاه GLP، کلینیک GCP) تنظیم می شود. هر سیستمی که در این محیطها استفاده میشود - از جمله یک مدل هوش مصنوعی - باید اعتبارسنجی شود (اثبات کند که سیستم کار مورد نظر خود را به شیوهای ثابت و مستند انجام میدهد). استفاده از مدل هوش مصنوعی در یک تصمیم تنظیم شده؛ این نیاز به مستندسازی نحوه آموزش مدل، دادههایی که با چه دادههایی آزمایش شده است، چقدر قابل اعتماد است و خروجی آن چگونه اعتبار مییابد، دارد. خروجی تایید نشده یک مدل "جعبه سیاه" نمی تواند وارد خط GMP شود.
پاسخگویی و شفافیت
هوش مصنوعی تصمیم نمی گیرد. این انسان است که تصمیم می گیرد و مسئولیت بر عهده انسان است. حتی اگر هوش مصنوعی یک یافته، یک مولکول یا یک تصمیم فرآیندی را پیشنهاد کند، امضای نهایی متعلق به متخصصی است که آن را تأیید می کند. شفافیت رکن دوم است: اگر از هوش مصنوعی در یک نشریه، یک گزارش یا ارسالی استفاده کردهاید، این موضوع و نحوه تأیید آن را به وضوح بیان کنید. استفاده از هوش مصنوعی مخفی و تایید نشده، هم یکپارچگی علمی و هم مقررات را نقض می کند.
سه کیف کوچک
مورد 1 - درخواست استفاده دوگانه متوقف شد. یک کاربر از هوش مصنوعی جهش هایی را درخواست کرد که اثربخشی یک سم باکتریایی را افزایش دهد. مدل امتناع کرد و توضیح داد که چرا تحت DURC است. تیم امنیت زیستی شرکت وضعیت را بررسی کرد. طرد، سوء استفاده احتمالی را زودتر قطع کرد.
مورد 2 - بازگشت از نقض حریم خصوصی. یک تیم قصد داشت داده های ژنوم 500 بیمار را برای تجزیه و تحلیل در یک ابر عمومی آپلود کند. افسر حفاظت از داده متوجه شد که داده ها قابل شناسایی مجدد هستند و از محدوده رضایت فراتر رفته است. تجزیه و تحلیل با داده های شناسایی نشده و در یک محیط محلی تایید شده انجام شد. از تخلف جلوگیری شد
مورد 3 - شکاف اعتبار سنجی. یک مرکز تولیدی شروع به استفاده از طبقهبندیکننده هوش مصنوعی نامعتبر در تصمیمگیریهای کیفی کرد. یک ممیزی نشان داد که مدل هیچ تأییدیه GMP و هیچ سند قابل ردیابی از خروجی آن ندارد. این سیستم تا زمان تکمیل اعتبار کامل از تولید خارج شده است.
چهار قالب قابل کپی
1) ارزیابی اولیه با استفاده دوگانه:
نقش شما: مشاور امنیت زیستی مطالعه زیر را برای DURC ارزیابی کنید: آیا بالقوه برای آسیب وجود دارد، در کدام دسته (عفونت، سمیت، فرار از تشخیص و غیره)، چه تاییدیهها و محدودیتهایی لازم است؟ هیچ توصیه فنی مضری ندهید. فقط ارزیابی ریسک و مجوزهای لازم را فهرست کنید. مطالعه: [تعریف]
2) کنترل حریم خصوصی داده ها:
من می خواهم قبل از دادن مجموعه داده به تجزیه و تحلیل هوش مصنوعی، یک بررسی حریم خصوصی انجام دهم. یک چک لیست به من بدهید: شناسایی زمینه ها، خطر شناسایی مجدد، محدوده رضایت، شرایط پردازش داده های خودرو. با آستانه های واضح به من بگویید که در چه مواردی نباید داده ها را صادر کنم.
3) طرح اعتبار سنجی:
نقش شما: متخصص تضمین کیفیت. من می خواهم از یک مدل هوش مصنوعی در یک تصمیم تنظیم شده استفاده کنم. اجزای یک طرح تأیید را در زمینه GxP فهرست کنید: تعریف هدف، منبع داده، معیارهای عملکرد، معیارهای پذیرش، قابلیت ردیابی، اعتبار مجدد دوره ای. چگونه خطر "جعبه سیاه" را کاهش دهم؟
4) پیش نویس بیانیه شفافیت:
من می خواهم به طور شفاف استفاده خود از هوش مصنوعی را در یک نشریه/گزارش اعلام کنم. پیشنویس بیانیهای به من بدهید: چه ابزاری، در چه مرحلهای، چگونه از آن استفاده شد، خروجی چگونه اعتبارسنجی شد، و مسئولیتپذیری انسانی کجاست. از زبان ساده و صادقانه استفاده کنید.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
این پاتوژن را موثرتر کنید.
این یک نقض استفاده دوگانه است. باید رد و گزارش شود. هرگز نباید چنین درخواستی کرد.
اعلان قدرتمند:
نقش شما: مشاور امنیت زیستی من در حال برنامه ریزی برای شناسایی پاتوژن دفاعی هستم. رتبهبندی DURC این مطالعه، تأییدیههای سازمانی مورد نیاز، الزامات محرمانه بودن دادهها، و اقدامات امنیتی که پتانسیل آسیبرسانی به مطالعه را محدود میکند را برای من فهرست کنید. هیچ گونه جزئیات فنی که باعث افزایش سرایت یا سمیت شود، ارائه نکنید.
تفاوت: هدف دفاع از خود، تمرکز امنیت و رضایت، انکار محتوای مضر.
چارچوب اخلاق و انطباق
منطقه
اصل اصلی
ریسک
تعهد
امنیت زیستی
احتمال آسیب را افزایش دهید
DURC/سوءاستفاده
رد + گزارش
حریم خصوصی داده ها
از داده های بیمار محافظت کنید
تعریف مجدد
شناسایی زدایی + محیط تایید شده
رضایت
فراتر رفتن از حد مجاز
نقض اخلاقی
تحت رضایت بمانید
در حال ویرایش
تایید GxP
شکست حسابرسی
اعتبار سنجی مستند
مسئولیت
انسان تصمیم می گیرد
گردش کور
تایید کارشناسی + شفافیت
اشتباهات رایج
- عدم درک خطر استفاده دوگانه درخواستهای به ظاهر بیگناه میتوانند بالقوه برای آسیب باشند. شک داشته باشید
- دادن اطلاعات بیمار به وسیله نقلیه کنترل نشده تخلف بدون شناسایی هویت و محیط تایید شده است.
- فراتر از محدوده رضایت. داده ها را نمی توان برای مقاصدی غیر از هدفی که برای آن جمع آوری شده است استفاده کرد.
- استفاده از مدل تایید نشده در تصمیم گیری تنظیم شده GxP بدون اعتبار سنجی ممنوع است.
- پنهان کردن استفاده از هوش مصنوعی شفافیت هم برای صداقت علمی و هم الزام الزامی است.
به طور خلاصه
در مهندسی زیستی، اخلاق و ایمنی بر مهارت فنی اولویت دارد. هوش مصنوعی در کارهایی که دارای خطرات استفاده دوگانه هستند به طور مضر استفاده نمی شود. این گونه درخواست ها رد و گزارش می شود. دادههای بیمار در محیطهای تایید شده و در محدوده رضایت، شناسایی و پردازش میشوند. در تصمیمات تنظیم شده، مدل هوش مصنوعی به صورت مستند تایید می شود. خروجی «جعبه سیاه» تأیید نشده GMP نمی تواند وارد یک خط شود. و همیشه: این انسان است که تصمیم می گیرد، انسان مسئول است، استفاده از هوش مصنوعی شفاف است. خروجی هوش مصنوعی جایگزین تاییدیه متخصص صالح نیست.
وظیفه کاربردی
کار خود (یا یک پروژه فرضی) را بر روی سه محور ارزیابی کنید. (1) با استفاده از الگوی پیش ارزیابی با استفاده دوگانه، آسیب احتمالی و تأییدیه های مورد نیاز را فهرست کنید. (2) تصمیم بگیرید که آیا داده هایی که استفاده می کنید را می توان با چک لیست حریم خصوصی داده به ابزار هوش مصنوعی داد. (3) یک پیش نویس بیانیه شفافیت بنویسید: در کجا از هوش مصنوعی استفاده کردید و چگونه آن را تأیید کردید؟ هر سه را با هم در یک «یادداشت استفاده مسئولانه» کوتاه کنید.
چک لیست
- [ ] من خطر استفاده دوگانه این مطالعه را ارزیابی کردم. من از هوش مصنوعی به طور مضر استفاده نکردم.
- [ ] من اطلاعات بیمار/محرمانه را حذف کردم و در یک محیط تایید شده در محدوده رضایت پردازش کردم.
- [ ] من تأیید مستندی از مدلی که در تصمیم گیری های تنظیم شده استفاده می کنم، دارم.
- [ ] من حرف آخر را در مورد تصمیمات حیاتی به تایید کارشناسان واگذار کردم.
- [ ] من به طور شفاف استفاده خود از هوش مصنوعی را اعلام کرده ام.
- [ ] اگر با درخواست مشکوک/خطرناکی مواجه شوم، بازتاب توقف و گزارش را اتخاذ کرده ام.