רווחים:
- יכולת לשלב תמונה, אותות, נתונים ורגולציה לתוך זרימת עבודה ביו-רפואית אחראית אחת של AI
- יכולת ליישם עקרונות ביקורת אנושית במעגל, עקיבות וניטור לאחר הפצה
- יכולת לשמור על הגבול בכל שלב שבו בינה מלאכותית אינה מחליפה אישור רופאים ומהנדסים
מבחן מודול
1. איזה מהבאים הוא העיקרון הבסיסי שקובע את הסיכון של פלט AI בהנדסה ביו-רפואית?
- א) הסיכון של הפלט שווה לנזק שהוא היה גורם למטופל אילו היה שגוי; סולמות אימות בהתאם ✔
- ב) פלט AI הוא בדרך כלל בטוח מכיוון שהוא כתוב בצורה שוטפת וטכנית
- ג) אימות מיותר כאשר נעשה שימוש במודל העדכני ביותר
- ד) אם הפלט מתייחס למדריך, אין צורך בבדיקות נוספות
הסבר: הסיכון של פלט שווה לפגיעה במטופל אם פלט זה אינו נכון. בעוד ששגיאה קלה בסיכום ספרות היא בסיכון נמוך, שגיאה בהזנת זיהוי תמונה או החלטה קלינית מאיימת ישירות על בטיחות המטופל; לכן, עוצמת האימות משתלמת עם נזק אפשרי, וכל החלטה הכרוכה בבטיחות המטופל תלויה באישור הרופא.
2. מה התפקיד הנכון של מודל זיהוי נתמך בינה מלאכותית בשימוש קליני ברדיולוגיה?
- א) אישור אוטומטי של דוח הרדיולוג וביטול עומס העבודה
- ב) סגירת תיקים בעדיפות נמוכה ללא פנייה לרדיולוג
- ג) אם הסתברות המודל גבוהה, בצע אבחנה ללא בדיקה נוספת
- ד) להיות כלי תמיכה המושך את תשומת הלב לממצא ומתעדף אותו, אך האחריות לאבחון נותרת על הרדיולוג ✔
תיאור: Image AI הוא כלי תומך החלטות: מושך, מתעדף, מודד ומסמן; עם זאת, האחריות האבחונית נשארת אצל הרדיולוג. פלט המודל אינו תחליף להחלטת הרדיולוג, הוא רק קלט. הפלט משמש בשילוב עם הערכה קלינית עצמאית שכן תמיד אפשריות חיוביות שגויות ושליליות שגויות.
3. מהי הבעיה הנפוצה ביותר בעת העברה של ביצועים של מודל AI ממעבדה אחת לאחרת בפתולוגיה דיגיטלית?
- א) הדגם עובד מהר מאוד
- ב) קבצי השקופיות קטנים מדי
- ג) שינוי תחום הנגרמת על ידי הבדלי צביעה וסריקה ✔
- ד) פתולוגים אינם רוצים להשתמש במודל כלל
תיאור: פרוטוקול הצביעה, מותג הסורק ועובי החתך משתנים ממעבדה למעבדה; אם המודל למד על סמך סטטיסטיקת התמונות של מעבדה אחת, הביצועים שלו ירדו במעבדה אחרת. תופעה זו נקראת Domain shift והיא הסיבה השכיחה ביותר לכשל בפתולוגיה דיגיטלית; לכן אימות חיצוני ונורמליזציה של צבע הם קריטיים.
4. מה צריך להיות רפלקס האישור הראשון של המהנדס כאשר מודל סיווג ECG מציין 'פרפור פרוזדורים'?
- א) כתיבת התווית ישירות לתיק המטופל כאבחנה
- ב) בדקו את האות הגולמי, החפצים והסבירות הפיזיולוגית והשאירו את ההחלטה לרופא ✔
- ג) אם ציון הביטחון של המודל גבוה, אין צורך בשום בקרה אחרת.
- ד) הפניית המטופל לטיפול תרופתי
הסבר: יש לבדוק תחילה את הפלט עבור סבירות פיזיולוגית ואיכות האות: סחיפה בסיסית, חפץ שריר או הרפיית אלקטרודות בהקלטה עשויה לחקות את הקצב. זה לא נכון לסמוך על התווית מבלי להסתכל על האות הגולמי ומרווחי R-R; אבחון הקצב הסופי שייך לרופא. המודל מייצר אות מקדים, הוא לא מקבל החלטה.
5. מהי המאפיין המרכזי של עיבוד AI של אותות EEG שמקשה במיוחד על האימות?
- א) יחס אות לרעש נמוך וחפץ/שונות גבוהים ✔
- ב) אות ה-EEG הוא משרעת גבוהה מאוד וללא רעש
- ג) הקלטת EEG מערוץ אחד בלבד
- ד) נתוני EEG לעולם אינם דיגיטליים
הסבר: EEG הוא אות אמפליטודה נמוכה מאוד (טווח מיקרו-וולט) והוא מזוהם בקלות על ידי חפצים כגון מצמוץ עיניים, תנועת שרירים, אלקטרודה ורעש רשת; בנוסף, השונות בין אנשים והקלטות גבוהה. יחס אות לרעש נמוך זה גורם לתפוקות המודל להיות שבריריות ומחייב אימות נוירופיזיולוגי מומחה.
6. מהי הגבול החשוב ביותר בעבודה עם נתוני דופק ממכשיר לביש לצרכן?
- א) הסוללה של המכשיר נגמרת במהירות
- ב) אחסון נתונים בענן
- ג) המכשיר לרוב אינו מאושר רפואית והאות רגיש לממצא/הטיה ✔
- ד) המכשיר יקר מדי
גילוי נאות: רוב המכשירים הלבישים לצרכן אינם מאושרים כמכשירים רפואיים; האות PPG (photoplethysmography) מושפע מחפץ תנועה, וגורמים כגון גוון עור כהה וקעקועים עשויים להפחית את הדיוק. נתונים אלה הם בעלי ערך עבור נטייה/מודעות, אך נדרשות מדידה קלינית מאומתת והערכת רופא לצורך החלטה אבחנתית.
7. מה המשמעות של 'דליפה זמנית' בעת בניית מודל חיזוי עם נתוני רישום רפואי אלקטרוני (EHR)?
- א) אחסון מוצפן של נתונים
- ב) זליגה של מידע עתידי לתכונות שעדיין לא קיימות בזמן החיזוי ✔
- ג) הנתונים ישנים מדי
- ד) אימון המודל לאט מדי
הסבר: דליפה זמנית היא הפרעה של תכונות אימון למידע שעדיין לא זמין בזמן החיזוי (עתיד); לדוגמה, שימוש באבחון שחרור כדי לחזות סיכון בעת הקבלה. זה מוביל לביצועים גבוהים במעבדה אך לביצועים מתרסקים בשימוש קליני אמיתי והוא אחד הפגמים הערמומיים ביותר במודלים של נתונים קליניים.
8. איזה מהבאים הופך לחובה כאשר תוכנה עצמה מתוארת כ'תוכנת מכשיר רפואי' (SaMD)?
- א) מספיק לעבוד מהר
- ב) אינו דורש שום תיעוד
- ג) נדרש רק ממשק יפה
- ד) בקרת עיצוב, ניהול סיכונים, אימות/תיקוף ועמידה ברגולציה הופכים לחובה ✔
תיאור: SaMD (Software as a Medical Device) היא תוכנה הפועלת למטרות אבחון, טיפול או ניטור ואינה תלויה בחומרה כלשהי. במקרה זה, בקרות תכנון, ניהול סיכונים (ISO 14971), אימות/תיקוף ותאימות לתקנות הם חובה; לא ניתן להתייחס לתוכנה כאל 'סתם תוכנה' מכיוון שהכשל שלה משפיע ישירות על בטיחות המטופל.
9. מהו הסיכון הקריטי ביותר כשאתה מבקש מ-AI סעיף MDR (הנחיה רפואית) או מספר תקן?
- א) הדגם מייצר אזכורים מזויפים למאמר/תקן ומציג אותם בבטחה ✔
- ב) המודל נותן את התשובה קצרה מדי
- ג) המודל מגיב באנגלית
- ד) המודל מגיב לאט מדי
הסבר: מודלים של שפה יכולים לייצר בבטחה מספרי פריט לא קיימים, גרסאות סטנדרטיות שגויות והפניות מורכבות (הזיה). בציות לרגולציה, התייחסות לא נכונה של חומר מובילה לכישלון ציות חמור; כך שכל ייחוס צריך להיות מאומת ללא תלות בטקסט הרשמי, יש להשתמש בבינה מלאכותית לניווט/שרטוט בלבד.
10. לאיזו קטגוריה נכללים נתוני בריאות במסגרת KVKK ומה המשמעות של זה?
- א) נתונים אישיים רגילים; ניתן לעבד באופן חופשי
- ב) זה לא נתונים אישיים; אין הגבלה
- ג) קטגוריות מיוחדות של נתונים אישיים; מעובד עם תנאים והגנות מחמירות יותר ✔
- ד) סוד מסחרי בלבד; אין צורך בפרטיות
הסבר: נתוני בריאות נחשבים 'נתונים אישיים מיוחדים' ב-KVKK; ככלל, העיבוד תלוי בהסכמה מפורשת או בחריגים הקבועים בחוק ודורש אמצעי הגנה חמורים יותר. לכן, לא ניתן להזין נתוני מטופל לכלים בלתי מבוקרים; הסכמי אנונימיזציה, הגבלת גישה ועיבוד נתונים הם חובה.
11. מה המשמעות של 'כיול' במודל AI קליני ולמה זה חשוב?
- א) כמה מהר הדגם רץ
- ב) כמה פרמטרים יש לדגם?
- ג) צבע הממשק של הדגם
- ד) תאימות של ההסתברויות שנתן המודל עם תדרי האירועים בפועל ✔
הסבר: כיול הוא התאמת ההסתברויות שנתן המודל לתדרים בפועל: האירוע אמור להתרחש בפועל בכ-20% מהמטופלים שעבורם כתוב '20% סיכון'. מכיוון שהחלטות במרפאה מתקבלות על סמך ספי הסתברות, מודל מכויל גרוע יוביל להחלטות סף שגויות גם אם הוא מדורג נכון; לכן, יש לאמת כיול כמו גם אפליה (AUC).
12. מדוע יש לבדוק בנפרד את 'ביצועי תת-קבוצות' במודלים של תמונה, אותות או נתונים קליניים?
- א) דיוק מוחלט מספיק תמיד
- ב) כי תת-קבוצות משפיעות על מהירות המודל
- ג) מדד גנרי יכול להסתיר תת ביצועים והטיה בקבוצות מטופלים ספציפיות ✔
- ד) ניתוח תת-קבוצות נחוץ רק לשיווק
הסבר: בעוד שדגם עשוי להיראות טוב בממוצע, הוא עשוי לתפקד בצורה גרועה משמעותית בתת-קבוצות מסוימות (גיל, מין, גוון עור, סוג מכשיר, בית חולים); המדד הכללי מסתיר את אי השוויון הזה. בתחום הבריאות, זה מוביל לפגיעה שיטתית בחלק מקבוצות החולים; לכן, יש לחלק את הביצועים לתת-קבוצות ולדווח על ההגינות.
13. מהי הגישה הטובה ביותר נגד הסיכון של 'הזדהות מחדש' בעת עבודה עם נתוני מטופלים?
- א) רק מחיקת השם מספיקה בכל הנסיבות.
- ב) הכללת מזהים עקיפים וכן מזהים ישירים והגבלת גישה ✔
- ג) אם הנתונים שייכים למספר קטן של אנשים, אין צורך באמצעי זהירות
- ד) רק שינוי שם הקובץ במקום הצפנה
תיאור: ניתן לזהות מחדש גם נתונים שנמחקו על ידי שילובים נדירים של אבחנה, תאריך לידה, מיקוד ותאריך. אז זה לא מספיק רק לחלץ מזהים ישירים; יש ליישם טכניקות כמו העברת תאריך, הכללה, k-אנונימיות ובקרת גישה יחד, ויש לנקות גם טקסט חופשי רגיש.
14. מהי הסיבה העיקרית לשמירה על בקרת 'אדם בתוך הלולאה' מקצה לקצה בזרימת העבודה של AI ביו-רפואי?
- א) שליטה אנושית יוצרת רק איטיות ויש להסירה
- ב) אם ציון בטחון המודל גבוה, אימות אנושי מיותר
- ג) אין סיבה מעשית מלבד חובה משפטית
- ד) AI נתון להטיה ולטעויות; החלטות ואחריות על בטיחות החולה צריכות להישאר בידי המומחה המוסמך ✔
תיאור: בינה מלאכותית יוצרת, מתעדפת ומנסחת השערות; אבל הדפוסים שהוא לומד מהנתונים עשויים להיות חלקיים, מוטים או מחוץ להקשר. הכרחי שהחלטות בנוגע לבטיחות החולה יישארו באישור הרופא והמהנדס המוסמך, הן כדי לתפוס טעויות והן כדי לשמור על האחריות במקום הנכון; AI אינו מחליף אישור זה בשום שלב.