מבוא לבינה מלאכותית ומשמעת אימות בהנדסה ביו-רפואית

רווחים:

• היכולת להבחין היכן בינה מלאכותית מייצרת ערך בטוח בזרימת העבודה הביו-רפואית ואילו החלטות נשארות באחריות הרופא והמהנדס המורשה.
• יכולת ליישם דיסציפלינה המאמתת כל פלט AI עם סדר גודל פיזיולוגי, סבירות קלינית וראיות עצמאיות
• הכר את הסיכונים של הזיות, דליפת נתונים ובטיחות המטופל, ופתח את ההרגל להגדיר הנחיות מאובטחות על ידי אנונימיזציה של ההקשר.

הנדסה ביו-רפואית היא מקצוע שבו המורכבות של גוף האדם והחתירה של ההנדסה לדייק מצטלבים. אות ECG הוא הצל החשמלי של הלב, תמונת MRI היא הד מגנטי של רקמה, ערך מעבדתי הוא תמונת מצב. כל המדידות הללו הן עקיפות, רועשות ודורשות פרשנות. בינה מלאכותית (AI; ​​מערכות תוכנה שלומדות מדפוסי ביג דאטה ומייצרות טקסט/תמונות/מספרים) יכולה להאיץ את הפרשנות הזו, אבל יכולה גם להסתיר את הטעויות שלה בשפה שוטפת. יחידה זו מניחה את שני היסודות שעליהם ייבנה המודול כולו: היכן בזרימת העבודה הביו-רפואית מייצרת AI ערך אמיתי וכיצד אנו מאמתים כל פלט.

בואו נשרטט קו מוחלט מההתחלה: אף אחת מהטכניקות שתלמדו לאורך מודול זה לא תחליף את האבחון של רופא מוסמך, אישור של מהנדס מוסמך ותהליכי מכשיר מאומתים. בינה מלאכותית לא מאבחנת. בינה מלאכותית היא עוזרת; קורא מהר, חותם מהר, תופס דפוסים. אבל אם גידול מתפספס, מכשיר נותן אזעקת שווא, מינון מחושב לא נכון, האחריות היא לא על התוכנה אלא על הרופא והמהנדס שקיבלו את ההחלטה. אתה תראה את המשפט הזה בצורות שונות בכל יחידה, כי זו האמת היחידה בהנדסה הנוגעת לבטיחות החולה.

היכן בינה מלאכותית יוצרת ערך בזרימת העבודה הביו-רפואית?

השבוע של מהנדס ביו-רפואי או צוות טכנולוגיה קלינית מחולק באופן גס לשלושה סוגים של עבודה: הכנת נתונים (ניקוי אותות, עיבוד מקדים של תמונה, עריכת טבלה, חילוץ יומנים), פרשנות וניתוח (איתור מציאת, סיווג, מודלים חזויים, ניקוד סיכונים), ותקשורת ותיעוד (קובץ טכני, דוח אימות, סיכום ספרות, מדריך למכשיר). בינה מלאכותית נוגעת בכל שלושת התחומים, אך התרומה והסיכון שלה שונים בכל אחד.

הכנת נתונים היא התחום הבטוח והרווחי ביותר של בינה מלאכותית. הסרת רעש מהאות הגולמי, שינוי קנה מידה של תמונות לגודל סטנדרטי, תרגום הערות קליניות בטקסט חופשי לשדות מובנים, יישור יחידות לא עקביות - אלו משימות שחוזרות על עצמן, מבוססות כללים וקלות לאימות. גם אם יש כאן שגיאה, ייקח דקות לחזור למקור (נתונים גולמיים) ולבדוק אותו.

תחום הפרשנות והניתוח נושא את הערך הגבוה ביותר ואת הסיכון הגבוה ביותר. AI יכול לסמן אזור חשוד בתמונה, לזהות הפרעת קצב אפשרית באות; זה עשוי לחשוף דפוס שעלול להתעלם ממנו במרפאה עמוסה. אבל אותו מודל יכול לייצר בביטחון ממצא לא קיים (תופעה זו נקראת הזיה: המודל מציג מידע לא קיים כאמיתי). בתחום זה, בינה מלאכותית היא כלי השערה ותעדוף, לא מקבל החלטות.

מאיץ טיוטת AI בתקשורת ותיעוד. מייצר את קטע השיטות של דוח אימות, סיכום ספרות, או הטיוטה הראשונה של ניתוח סיכונים תוך דקות. הסיכון כאן הוא שמקורות מומצאים ומספרים שגויים יכולים להחליק לתוך טקסט זורם מבלי שישימו לב.

משמעת אימות: כלל שלושת העוגנים

לב המודול הזה הוא הרגל יחיד: לא לשלב שום פלט AI בהחלטה קלינית או הנדסית מבלי לאמת אותה. אנו מבססים את האימות על שלושה עוגנים עצמאיים.

עוגן ראשון - סדר גודל פיזיולוגי. האם התוצאה בטווח הידוע של הפיזיולוגיה האנושית? קצב הלב במנוחה הוא בדרך כלל 50-100 פעימות לדקה; אם המודל נותן 400, יש או חפץ או שגיאת עריכה. טמפרטורת הגוף של מבוגרים היא בטווח של 36-38 מעלות צלזיוס; 45 מעלות צלזיוס אינו תואם מבחינה פיזיולוגית עם יצורים חיים. נפח הדם הכולל של מבוגר הוא כ-5 ליטר. בדיקה זו נמשכת שניות ותופסת את רוב השגיאות.

עוגן שני - סבירות קלינית. האם התפוקה תואמת את ההיסטוריה הקלינית והרציונל הרפואי של המטופל? אם המודל מציע "ביטחון גבוה" ממצא מתקדם עבור חולה אסימפטומטי בן 25, ההסתברות לבדיקה המוקדמת נמוכה ואות זה נתפס בחשדנות יתרה. גיל, מין, היסטוריה ותסמינים הם מסנן הסבירות שכל פרשנות חייבת לעבור.

עוגן שלישי - ראיה עצמאית. זהו העוגן החזק ביותר. בדיקת תקן ייחוס, שיטת הדמיה שנייה, אישור מעבדה, חוות דעת שנייה של מומחה. ממצא שסומן על ידי AI נבדק על פי שיטת זהב או הערכה עצמאית על ידי מומחה. האמת הקלינית תמיד מנצחת.

שלושה מיני מארזים: לפי המספרים

מקרה 1 - חיסכון בזמן בעיבוד מוקדם של אותות. מהנדס קליני פילח וסימון ידני של חפצים ב-320 הקלטות א.ק.ג. לצורך מחקר מחקר; ממוצע של 7 דקות להקלטה, כ-37 שעות בסך הכל. עם זרימת עבודה מקדימה המופעלת על ידי בינה מלאכותית, היא הפחיתה את סימון הטיוטה הראשונה ל-40 שניות לרשומה, והקדישה את הזמן הנותר לבדיקה חזותית. הזמן הכולל ירד לכ-12 שעות; מה שהיה קריטי היה שהזמן שנחסך הושקע באימות.

מקרה 2 - הזיה נלכדת. כאשר מהנדס ביו-רפואי ביקש סיכום ספרותי לדוח הערכה קלינית של מכשיר, הטקסט כלל את המשפט "Yilmaz et al. 2019 דיווחו על רגישות של 98%". לא היה מאמר כזה; הדוגמנית בדה את הייחוס על ידי חיקוי דפוס אמיתי. אימות מקור (DOI ובדיקת יומן) תפס את השגיאה לפני החתימה על הדוח.

מקרה 3 - שגיאת יחידה. בסיוע לחישוב מינון, המודל העביר את הנפח המומלץ פי 1000 על ידי בלבול ריכוז התרופה עם מיקרוגרם/מ"ל במקום מ"ג/מ"ל. בדיקת סדר הגודל הפיזיולוגי - "למבוגר מקבלים 2 מיליליטר, לא 2 ליטר" - חשף מיד את השגיאה. החישוב הזה עדיין הגיע לאישור הרוקח והרופא; AI היה רק ​​כלי בקרה ביניים.

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

תסתכל על הנתונים של המטופל הזה וציין את האבחנה שלו.[נתונים]

הנחיה עוצמתית:

תפקידך: אתה מנתח נתונים ביו-רפואי (אינך מאבחן). סכמו את המדידות האנונימיות הבאות בהתבסס רק על הנתונים שסופקו. - לא לאבחן; תנו רק ממצאים מספריים והשוואת טווח נורמלי. - אין להוסיף ממצאים, ערכים או סיפורים שאינם בנתונים. - הצג את קו הנתונים שעליו אתה מבוסס עם סוגריים ליד כל תצפית. - כתוב "לא מספיק נתונים" במקום הלא ברור. - בסיום: ערכו רשימה נפרדת של 3 נקודות שעל הרופא לאשר. נתונים אנונימיים: [מידות]

ההנחיה העוצמתית כופה שלושה דברים על המודל: היצמדות למקור, אי הנחת סמכות אבחנתית וסימון דברים לאימות. זה לא מסיים את ההזיה לחלוטין, אבל זה הופך אותה לגלויה וממקם את התפקיד בצורה נכונה.

ארבע תבניות הניתנות להעתקה

1) יצירת הקשר אנונימי:

אני רוצה עזרה במשימה ביו-רפואית. שם המטופל, זהות, תאריך ומידע מוסדי הם סודיים; אתן אותם עם ביטויים מייצגים כמו "מטופל-א", "יום-0". קווסט: [quest]. פשוט הסתמכו על הנתונים הטכניים האנונימיים שאני מספק.

2) שלוש בקשות לאימות עוגן:

בצע שלוש בדיקות עבור הפלט הבא: 1) סדר גודל פיזיולוגי: האם כל מספר נמצא בטווח האנושי? אם לא, סמן.2) סבירות קלינית: האם יש טענות שאינן עולות בקנה אחד עם גיל/היסטוריה/סימפטום?3) רשימת אימות: פריטים שיאושרו על ידי בדיקות/מומחה בלתי תלויים. פלט: [טקסט]

3) אכיפת אי בהירות:

תן את הפרשנות שלך בשלוש רמות של ביטחון: - ביטחון גבוה (נתמך ישירות בנתונים) - ביטחון בינוני (הסק סביר) - ספקולטיבי (נתונים נוספים / בדיקות נדרשות) משימה: [משימה]. נתונים: [נתונים אנונימיים]

4) הבחנה החלטה/תמיכה:

חלקו את המשימה הבאה לשניים:א) נתונים/עבודה טיוטה שה-AI יכול לעשות בביטחון ב) נקודות החלטה שעבורן אישור רופא/מהנדס מורשה הוא חובה תיאור משימה: [הגדרה]

תפקיד הבינה המלאכותית: סיכון לפי סוג משימה

סוג משימה

תרומת AI

רמת סיכון

צפיפות אימות

עיבוד מוקדם של אותות/תמונה

גבוה

נמוך

בדיקה נקודתית

מציאת סימון ראשוני

גבוה

בינוני

מומחה + סבירות

ניקוד חיזוי/סיכון

בינוני

גבוה

כיול + עצמאי

החלטה על אבחון/טיפול

מוגבל

גבוה מאוד

אישור רופא מלא

דוח/טיוטת ספרות

גבוה

בינוני

אישור מקור

החלטת אבטחת המכשיר

מוגבל

גבוה מאוד

תקן + V&V + אישור

טיפ: כדי לקבוע את רמת הסיכון של משימה, שאל שאלה אחת: "מה קורה למטופל אם הפלט הזה שגוי?" אם התשובה היא "אני אפסיד כמה דקות", אמת קלות; אם "חולה עלול להיפגע", התייחס לתפוקה כהשערה והפעל אותה בתהליך הקליני/הנדסי המלא.

שימו לב: התכונה הכי מסוכנת של בינה מלאכותית היא לא שהיא עושה טעויות, אלא שהיא עושה טעויות בביטחון ובשפה רפואית. טקסט שוטף, טכני ומקצועי לא אומר שהוא נכון. סמוך על ראיות, לא בסגנון.

טעויות נפוצות

• טועה בשטף הדיוק. לא משנה עד כמה הטקסט נראה רפואי, יש לאמת טענות עובדתיות (ערך, ממצא, מקור, מינון) באופן עצמאי.
• לא להתאים את הסיכון לפי סוג המשימה. הסתכלות על חשבון מנה באותו אופן כמו טיוטת מייל. האימות מוגדל לפי נזק אפשרי למטופל.
• הזנת נתוני מטופל מבלי לחשוב. נתוני בריאות הם נתונים אישיים מיוחדים; אנונימי לפני הכניסה לרכב הבלתי מבוקר.
• מתן סמכות אבחון AI. AI אינו מאבחן; מייצר השערות. האבחון והחלטות הטיפול שייכות לרופא.
• התעלמות מאי ודאות. זה שהדגם נראה "בטוח בעצמו" לא אומר שאי הוודאות נעלמת; בקשו רמת ביטחון וטווח.

לסיכום

• מדידות ביו-רפואיות הן עקיפות ורועשות; בינה מלאכותית יכולה גם להאיץ אותם וגם להסתיר את השגיאות שלהם.
• בינה מלאכותית היא הבטוחה והרווחית ביותר בהכנת נתונים, בעלת הערך הרב ביותר אך מסוכן ביותר בפרשנות/ניתוח, והמאיץ בתיעוד.
• כל תוצאה מאומתת על ידי שלושה עוגנים: סדר גודל פיזיולוגי, סבירות קלינית, ראיות עצמאיות.
• הסיכון לתוצאה שווה לנזק שהיא תגרום למטופל אם היא לא נכונה; סולמות אימות בהתאם.
• AI אינו מאבחן; כל החלטה לגבי בטיחות החולה מתקבלת באישור הרופא והמהנדס המורשים.

משימת יישום

רשום חמש משימות ביו-רפואיות שאתה עושה בשבוע מהעבודה שלך (למשל ניקוי אותות, מציאת טיסה מוקדמת, קטע דיווח, הערת סיכונים, בדיקת מכשירים). מקם כל אחד ברמת סיכון לפי הטבלה ביחידה זו ושאל "מה קורה למטופל אם זה לא בסדר?" ענה על השאלה במשפט אחד. לאחר מכן כתוב הנחיה חזקה ואנונימית למשימה בסיכון הנמוך ביותר ונסה אותה; בדוק את הפלט עם שלושה עוגנים ושם לב איזה עוגן תפס בעיה.

רשימת בדיקה

• [ ] אני יכול להבחין היכן בינה מלאכותית מייצרת בטוח והיכן ערך מסוכן בזרימת העבודה הביו-רפואית.
• [ ] רכשתי את הרפלקס לאמת כל תוצאה עם גודל פיזיולוגי, סבירות קלינית וראיות בלתי תלויות.
• [ ] רמת הסיכון של משימה "מה קורה למטופל אם היא משתבשת?" אני יכול לקבוע עם השאלה.
• [ ] אני יודע מה זה הזיה ואי ודאות ואיך לגרום להם להיות גלויים.
• [ ] הפנמתי שבינה מלאכותית לא מאבחנת והחלטת האבחון/טיפול היא בידי הרופא.