רווחים:
- יכולת להסביר את תרומת הבינה המלאכותית לדרישות, ארכיטקטורה ובדיקות בתכנון מכשור רפואי ותוכנה.
- הבנת התפקיד של בקרת עיצוב וניהול סיכונים במקרה שהתוכנה עצמה היא מכשיר רפואי (SaMD)
- היכולת להבין שתפוקות תכנון נתמכות בינה מלאכותית חייבות להיבדק עם אישור מהנדס מוכשר, בדיקות תקן ואימות.
אחד מתפקידי הליבה של המהנדס הביו-רפואי הוא תכנון מכשור רפואי: ממשאבת עירוי ועד למוניטור מטופל, מתותבת ועד תוכנת אבחון. מכיוון שמכשירים אלו באים במגע ישיר עם המטופל, העיצוב שלהם שונה מפיתוח מוצר רגיל; בקרות עיצוב (תהליך ממושמע בו מתועד כל שלב מדרישה ועד לאימות) וניהול סיכונים הם חובות משפטיות. בינה מלאכותית תורמת לתהליכים אלה עם כתיבת דרישות, שרטוט אדריכלי, עיצוב בדיקות ותיעוד. ביחידה זו, נראה היכן בינה מלאכותית משתלבת בתכנון המכשיר, כיצד התוכנה עצמה הופכת למכשיר (SaMD), ומדוע פלט AI אינו מהווה תחליף לאישור מהנדס מוכשר.
בוא נציין מההתחלה: בהנדסת מכשירים קריטיים לבטיחות, בינה מלאכותית היא עוזרת שרטוט ובקרה. אם חסרה דרישה, מצב כשל מתפספס, בדיקה מחוץ לתחום, האחריות היא על המהנדס המסתמן. AI לא מאמת את העיצוב; המהנדס מאשר.
עיצוב שרשרת השליטה והמקום של AI
צרכי המשתמש ← כניסות עיצוב (דרישות) ← פלטי עיצוב ← אימות ← אימות ← העברת עיצוב. שרשרת זו היא עמוד השדרה של הנדסת מכשירים. תפקידה של AI בכל טבעת שונה:
- צרכי המשתמש: בינה מלאכותית יכולה לסכם ולעצב ראיונות עם בעלי עניין והערות בשטח. אימות: אישור בעל עניין.
- דרישות: בינה מלאכותית סורקת את הדרישות כדי לראות אם הן "ניתנות לבדיקה, יחידה, סותרות" ומציעה תרחישים חסרים (מקרי קצה). אימות: סקירת מהנדס.
- אדריכלות/עיצוב: AI מפרט גישות אדריכליות חלופיות ודפוסי עיצוב ידועים. אימות: שיקול דעת הנדסי וחישוב.
- בדיקה: בינה מלאכותית מייצרת מקרה מבחן ובדיקת נקודת שבירה מדרישה. אימות: מטריצת כיסוי בדיקה.
- תיעוד: AI מנסח קובץ היסטוריית עיצוב ודוחות. אימות: בדיקת תוכן טכני.
ניהול סיכונים: ISO 14971 ו-FMEA
התקן לניהול סיכונים במכשירים רפואיים הוא ISO 14971; הוא מתאר את תהליך זיהוי הסיכונים, הערכת הסיכון, הפחתתו והצדקת הסיכון שנותר. כלי נפוץ הוא FMEA (ניתוח מצבי כשל ואפקטים; מפרט באופן שיטתי את מצבי הכשל האפשריים, השפעותיהם וציוני החומרה/הסתברות/זיהוי). בינה מלאכותית יעילה מאוד בסיעור מוחות של מצבי כשל בתרשים FMEA - מזכיר מצבים שהאדם יכול לדלג עליהם. אבל האמת של כל שורה, הניקוד והאמצעי המקל שלה חייבים להיות מאושרים על ידי שיקול דעתו של המהנדס; "הקלה" שהוצעה על ידי בינה מלאכותית עשויה שלא לפעול בפועל או עשויה להכניס סיכון חדש.
אם התוכנה עצמה היא ההתקן: SaMD
לעיתים התוכנה עצמה היא מכשיר רפואי: SaMD (Software as a Medical Device; תוכנה הפועלת למטרות אבחון/טיפול/ניטור מבלי להיות מוטמעת בחומרה כלשהי). דוגמה לכך היא אפליקציה שמפיקה ציון סיכון מתמונה או מאלגוריתם שמפרש אות. עם SaMD, לא ניתן להתייחס לתוכנה כאל "סתם תוכנה": בקרת עיצוב, ניהול סיכונים, אימות/אימות, בקרת גרסאות ותאימות לרגולציה הם חובה. תקן IEC 62304 מגדיר תהליכים עבור מחזור חיי התוכנה. אתגר מיוחד בפיתוח בסיוע בינה מלאכותית הוא שהתנהגות המודל משתנה תוך כדי עדכון; לכן בקרת שינויים ואימות מחדש הם קריטיים.
שלושה מיני מארזים: לפי המספרים
מקרה 1 - לכידת פער דרישה. נכתבו 140 טיוטות דרישות עבור מוניטור מטופל. סריקת עקביות מונעת בינה מלאכותית סימנה 12 דרישות כלא ניתנות לבדיקה (כגון "חייב להיות ידידותי למשתמש") ו-3 תרחישי אזעקה כחסרים. צוות ההנדסה תיקן את אלה; אבל שתי "הדרישות החדשות" שהוצעו על ידי ה-AI היו למעשה כפילויות של הדרישות הקיימות והיה צורך לבטלן. הרווח הנקי הוא באמצעות אימות אנושי.
מקרה 2 - האצת FMEA. במחקר FMEA עבור משאבת עירוי, הצוות מנה 60 מצבי כשל; סיעור מוחות של AI הניב 18 מועמדים נוספים. מהנדסים מצאו ש-9 מהם אמיתיים והושמטו בעבר, וביטלו 9 כבלתי חוקיים או כפולים. החיסכון בזמן היה אמיתי, אבל הסינון היה לגמרי תפקידו של מהנדס.
מקרה 3 - סיכון לעדכון דגם. צוות SaMD עדכן את הדגם הבסיסי בגרסה "טובה יותר". בעוד שהגרסה החדשה שיפרה את הדיוק הכולל, הביצועים שלה ירדו בסוג מכשיר מסוים. ללא בקרת שינויים ואימות מחדש רגרסיה זו הייתה מגיעה לשדה. כל עדכון דגם הוא שינוי עיצובי ויש לאמת אותו.
הנחיה חלשה / הנחיה חזקה
הנחיה חלשה:
כתוב את הדרישות עבור מכשיר זה.[idea]
הנחיה עוצמתית:
תפקידך: אתה עוזר הנדסת דרישות מכשור רפואי (אינך גוף האישור). הפק טיוטה של דרישות עבור קונספט המכשיר הבא: - שמור על כל דרישה ייחודית, ניתנת לבדיקה וניתנת לאימות. - צור קטע נפרד למקרי בטיחות/אזעקה וקצה. - סמן הצהרות מעורפלות/בלתי מדידות ("קלות", "מהיר") והפוך אותן לניתנות למדידה. - בסוף תן רשימה של "נקודות פתוחות בהן המהנדס צריך להחליט". - התייחסות לתקן/סעיף כסימן "לאימות", אינדיקציה ברורה. מושג:[תיאור]
ארבע תבניות הניתנות להעתקה
1) בדיקת איכות דרישה:
סווגו את הדרישות הבאות כ"ניתנות לבדיקה/עמומות/סותרות/כפולות" והצעו להפוך כל מעורפל למדידה. רשימה: [דרישות]
2) סיעור מוחות של FMEA:
רשום מצבי כשל אפשריים עבור תת-מערכת זו; הצע השפעות וסיבות אפשריות לכל אחד מהם. ציינו שהמהנדס יבצע את הניקוד וההפחתה. מערכת משנה: [תיאור]
3) יצירת תרחיש מבחן:
צור תרחישי בדיקה רגילים, גבול וקלט פגום עבור הדרישה הבאה; מספר כל תרחיש שניתן לעקוב אחר הדרישה. דרישה: [טקסט]
4) ניתוח ההשפעה של שינוי SaMD:
כתוב טיוטה של רשימת בדיקה לניתוח השפעה עבור עדכון מהדורת מודל: דרישות מושפעות, היקף אימות מחדש, השוואת ביצועי תת-קבוצות.
תפקיד המודל: לפי שלב התכנון
במה
תרומת AI
ביקורתיות
אימות
סיכום צורך/בעלי עניין
גבוה
נמוך
אישור בעלי עניין
טיוטת דרישות/ביקורת
גבוה
בינוני
סקירת מהנדס
אדריכלות/חשבון
מוגבל
גבוה
שיקול דעת הנדסי + חישוב
סיעור מוחות FMEA/סיכון
גבוה
גבוה
ניקוד/אישור מהנדס
יצירת תרחיש מבחן
גבוה
בינוני
מטריצת כיסוי
אישור אבטחה
אין
גבוה מאוד
חתימת מהנדס מורשה
טיפ: השתמש בבינה מלאכותית כ"תזכורת לתרחיש שנשכח" ב-FMEA וביקורת דרישות, לא כ"מקבל החלטות". הערך הגדול ביותר שלו הוא בהעלאת המצבים השוליים שיפספסו; אבל כל הצעה חייבת לעבור דרך המסנן של המהנדס.
שימו לב: ב-SaMD, כל עדכון דגם הוא שינוי עיצובי. מודל "טוב יותר" עשוי להתקדם בממוצע הכולל ולסגת בתת-קבוצה; אין להיכנס לשדה עדכונים ללא בקרת שינויים ואימות מחדש.
טעויות נפוצות
- קבלת המלצת AI ללא אישור. דרישת ההתאמה עלולה לייצר מצב כשל לא חוקי או הפחתה חסרת תועלת.
- חושב ש-SaMD היא "רק תוכנה". בקרת עיצוב, ניהול סיכונים ו-V&V הם חובה.
- לא מאמת את עדכון הדגם. כל מהדורה היא שינוי עיצובי ויש לאשרה מחדש.
- עובר על הדרישה המעורפלת. לא ניתן לבדוק אמירות בלתי ניתנות למדידה כמו "קל/מהיר".
- עקיפת אישור מהנדס. החלטת הבטיחות והחתימה שייכות למהנדס המורשה; AI אינה רשות אישור.
לסיכום
- עיצוב מכשור רפואי, בקרת עיצוב וניהול סיכונים הוא תהליך חובה ומתועד.
- AI תורם לדרישות, לארכיטקטורה, ל-FMEA ולשלבי הבדיקה עם טיוטות ותזכורות.
- אם התוכנה עצמה היא המכשיר (SaMD), נדרשת בקרת עיצוב מלאה, V&V ותאימות לתקנות.
- כל עדכון דגם הוא שינוי עיצובי ודורש אימות מחדש.
- פלט AI אינו תחליף לאישור מהנדס מוסמך; החלטת האבטחה והחתימה שייכות למהנדס.
משימת יישום
בחר קונספט של מכשיר רפואי פשוט (לדוגמה, צג SpO2 נייד). ערכו חמש דרישות באמצעות הנחיה החזקה; ואחריו לשאול כל אחד "האם ניתן לבדוק את זה?" בדוק ידנית והפוך את המעורפלים לניתנים למדידה. לבסוף, רשום שלושה מצבי כשל עבור המכשיר הזה והקלה עבור כל אחד מהם, ושימו לב אילו ביטלת ממה שה-AI הציעה.
רשימת בדיקה
- [ ] אני מכיר את שרשרת בקרת העיצוב ואת התפקיד של AI בכל חוליה.
- [ ] הבנתי את המטרה של ניהול סיכונים ISO 14971 ו-FMEA.
- [ ] אני מבין את המושג SaMD ואת חובותיו.
- [ ] אני מבין שעדכון הדגם הוא שינוי עיצובי ודורש אימות מחדש.
- [ ] הפנמתי שהחלטת האבטחה והחתימה נשארות בידי המהנדס המורשה.