זרימת עבודה מקצה לקצה, ניהול איכות וביקורת עצמית

רווחים:

• יכולת לעצב זרימת עבודה מקצה לקצה שמראה היכן ובאיזה אישור בינה מלאכותית נכנסת לפעולה בשרשרת כולה, החל מצילום מראש ועד לחתימת דיווח.
• יכולת לבסס ניטור ביצועים, לולאת משוב וביקורת עצמית קבועה בתהליכים הנתמכים בבינה מלאכותית
• יכולת להפוך את השימוש בבינה מלאכותית ביחידת הדמיה לבר-קיימא עם עקרונות של ממשל, אחריות ושיפור מתמיד

בעשר היחידות הקודמות, כיסינו את חלקי הבינה המלאכותית ברדיולוגיה: טריאג', דיווח מובנה, אוטומציה של מדידות, אינטגרציה של PACS, מדדים, כלים ספציפיים למודאליות, איכות תמונה, מעקב ופרטיות. ביחידה אחרונה זו נשלב את החלקים ונקים זרימת עבודה מקצה לקצה: מפה הוליסטית שמראה היכן ובאיזה אישור נכנסת למשחק בינה מלאכותית בשרשרת שעוברת ביקורת מרגע הבקשה ועד לדוח החתום. לאחר מכן נשקול את שני הדברים שהופכים את הזרימה הזו לבר-קיימא: ניהול איכות (ניטור ביצועים, לולאת משוב) וויסות עצמי (סקירה קבועה, ממשל).

עקרון הליבה: שימוש בטוח בהדמיה מונעת בינה מלאכותית אינו התקנה חד פעמית; זהו תהליך חי הדורש ניטור מתמיד של ביצועים, לולאת משוב, סקירת דפוסי שגיאה וביקורת עצמית קבועה. בכל שלב, האחריות, החתימה וההחלטה הסופית נשארים בידי הרדיולוג.

זרימה מקצה לקצה: איפה AI, אשר מאשרים

בואו לעקוב אחר המסע של ביקורת, כולל הנקודות שבהן AI נכנס לפעולה ואישור אנושי בכל נקודה.

1. בקשה והתוויה: הרופא מבקש להיבדק. AI יכול להמליץ ​​על התאמת אינדיקציה ובחירת פרוטוקול; הטכנאי/רדיולוג מאשר. (יחידה 8)
2. צילום ואיכות: מודאליות מייצרת את התמונה. אופטימיזציה של מינון בינה מלאכותית, דה-נוז וסימון חפצים; הטכנאי מחליט על איכות ומצלם מחדש במידת הצורך. (יחידה 8)
3. טריאז': התמונה נופלת לתוך PACS. AI נותן עדיפות לאירועים קריטיים בזמן; הרדיולוג עדיין קורא כל בחינה. (יחידה 2)
4. קריאה וגילוי: הרדיולוג קורא. סימני CAD כעין שנייה; הרדיולוג מעריך מה מסומן ומה לא. (יחידה 6, 7)
5. מדידה ומעקב: AI מודד ומשווה לבדיקה קודמת; הרדיולוג מוודא עקביות. (יחידה 4, 9)
6. דיווח: AI מייצר טיוטה מובנית; הרדיולוג מתאים לכל משפט את התמונה וחותם עליה. (יחידה 3)
7. הודעה על ממצא קריטי: AI מזכיר ממצא קריטי; הרדיולוג מאשר, מתקשר לרופא ומשלים את הלולאה הסגורה. (יחידה 2, 6)
8. הקלטת ארכיון ומעקב: פלט AI מאוחסן כשכבה נפרדת; המקור לא משתנה, תיעוד העקבות נשמר. (יחידה 5)

במה

תפקיד AI

אישור אנושי

יחידה מחוברת

בקשה/פרוטוקול

הצעה

טכנאי + רדיולוג

8

צילום/איכות

מינון, גנאי, חפץ

טכנאי

8

טריאז'

דגל עדיפות

רדיולוג (עדיין קורא)

2

קרא/זהה

CAD עין שנייה

רדיולוג (אבחון)

6, 7

מדידה/מעקב

חישוב, השוואה

רדיולוג (מתקן)

4, 9

דיווח

טיוטה

רדיולוג (חתימה)

3

ממצא קריטי

תזכורת

רדיולוג (משדר, מאשר)

2, 6

ארכיון

שכבה נפרדת

מערכת + הקלטת מסלול

5

טבלה זו היא סיכום של המודול: ככל שהסיכון עולה, תפקידה של AI מצטמצם, ההסכמה האנושית גוברת; בשום שורה לא משתלט הבינה המלאכותית על הקריאה, האבחנה או החתימה.

דיווח ממצא קריטי: לולאה סגורה

ממצא קריטי (דימום גדול, תסחיף מסיבי, דלקת ריאות מתוח) אינו נחשב לתקשור רק על ידי כתיבתו בדוח. תקשורת בלולאה סגורה פירושה אישור שהמידע מגיע ומתקבל ישירות על ידי הרופא המטפל. AI יכול לזכור ממצא קריטי או אפילו להפיק טיוטה של ​​הודעה; עם זאת, באחריות הרדיולוג לאשר את הממצא, להעבירו לרופא הנכון, לתעד את התקשורת ולסגור מעגל. התראה אוטומטית אינה תחליף לתקשורת אנושית.

שימו לב: רק בגלל שהתראת מציאת AI קריטית מופיעה ברשימת העבודה לא אומר שההודעה נמסרה. ההודעה מתבצעת רק כאשר הרדיולוג מאשר את הממצא, מגיע לרופא המטפל ומקבל את המידע. תפקידו של האדם לסגור את הלולאה הסגורה.

ניהול איכות וביקורת עצמית

תהליך המופעל על ידי בינה מלאכותית יכול להתקלקל עם הזמן: המודל מתעדכן, המכשיר משתנה, האוכלוסייה משתנה, השיעור חיובי כוזב עולה. לכן, יש לעקוב כל הזמן אחר הביצועים.

• ניטור ביצועים: איסוף דגימות חיוביות/שליליות שגויות; עקוב אחר שיעורי דגל טריאז' ואחוז חיובי אמיתי.
• לולאת משוב: אסוף באופן שיטתי את המשוב "הדגל הזה היה שגוי/פספס את זה" של רדיולוגים ושתף אותו עם היצרן.
• סקירת שגיאות: סקור ממצאים שהוחמצו ואזעקות שווא בפגישות רגילות; הבחנה את הסיבה השורשית (מודל, פרוטוקול, אנושי).
• מעקב אחר מעבר תפוצה: חזור על אימות מקומי כאשר מכשיר/פרוטוקול/אוכלוסיה משתנה.
• ממשל: מי משתמש באיזה מודל, עם איזו גרסה, באיזה הקשר; מי אחראי - אלה צריכים להיות בכתב.

שלושה מיני תיקים

מקרה 1 - לולאת המשוב עובדת. יחידה אחת רואה מנתוני ניטור ששיעור החיוביות הכוזבות של מודל הטריאז' עלה ל-75% תוך חודשים. רדיולוגים אוספים את המשוב שלהם, בודקים את הסף עם היצרן; השיעור יורד ל-45% ועייפות האזעקה פוחתת. ללא ניטור, המודל יהפוך בשקט ללא אמין.

מקרה 2 - פספס מציאת ניתוח שורש. שני גושים קטנים שהוחמצו מצוינים בסקירה של חודש אחד. הניתוח מראה כי הן מתרחשות על גרפים ניידים והן על מכשיר שבו המודל לא הוכשר (סחף הפצה). היחידה מצמצמת את היקף המודל בצילומי רנטגן ניידים ומתריעה לרדיולוגים. הטעות שימשה לתיקון המערכת במקום להאשים אדם אחד.

מקרה 3 - ממצא קריטי הוא בלולאה סגורה. AI מזהיר מפני דימום גדול ב-CT מוח. הרדיולוג מאשר תוך 90 שניות, מתקשר לנוירוכירורג, מוודא קבלת מידע ומתעד תקשורת (זמן, אדם, תוכן). הלולאה הסגורה הושלמה. AI הזכיר; הרדיולוג נתן את ההודעה והאישור. אם זה היה מותיר להתראה אוטומטית, לא יהיה ביטחון שהרופא קיבל את המידע.

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

הגדר זרימת עבודה של AI ברדיולוגיה, הפוך הכל לאוטומטי.

"הפוך הכל לאוטומטי" הוא מסוכן בתחום קריטי לאבטחה; מתעלם ממחסומים אנושיים וברירת מחדל בטוחה.

הנחיה עוצמתית:

תפקידך: יועץ ASSOCIATE ליחידת הרדיולוגיה בתכנון זרימת עבודה של AI מקצה לקצה. קבלת החלטות; לייצר מתווה ורשימת בדיקה. ציין היכן מתווסף הבינה המלאכותית בבקשה ← לכידה ← טריאגה ← קריאה ← מדידה ← דיווח → ממצא קריטי ← שרשרת הארכיון וציין אישור אנושי בכל שלב. הצע גם מדדים לניטור ביצועים, לולאת משוב וביקורת עצמית. עקרון: ככל שהסיכון עולה, תפקיד הבינה המלאכותית הופך קטן יותר, האישור האנושי גדל; אבחון/חתימה/הודעה אצל הרדיולוג. הקשר יחידה: [כתוב]

הרצון החזק מתרכז בנקודות אישור אנושיות, ניטור ושליטה עצמית.

תבניות הנחיות הניתנות להעתקה

תבנית זרימה מקצה לקצה תפקידך: יועץ עוזר. עבור הבקשה → הדמיה → ניסוי → קריאה → מדידה → דיווח → ממצא קריטי → שרשרת הארכיון, הפק טבלה המפרטת את התפקיד של AI ואישור אנושי בכל שלב. סמן את רמת הסיכון ואל תשאיר החלטות קריטיות לבטיחות "השתלטו" על ידי ה-AI. הקשר יחידה: [כתוב]

TEMPLATEI לניטור ביצועים ייתן לך תקופה של נתוני טריאז'/CAD. חשב שיעור חיובי שגוי, מספר ממצאים שהוחמצו ואחוז חיובי אמיתי; להתריע מפני עייפות אזעקה וסחף הפצה; המלץ באיזה סף יש לבדוק את היצרן/דגם. ההחלטה היא במוסד. נתונים: [כתוב]

תבנית סקירת סיבת שורש אספק לך מקרה של גילוי פספוס/אזעקת שווא. יש להבחין בשורש: מודל (הדרכה/היקף), פרוטוקול/התקן (סחף הפצה), אנושי (הטיית אוטומציה/עייפות אזעקה). הפק הצעות המתמקדות בתיקון המערכת, לא באשמה. אירוע: [כתוב]

ממצא קריטי תבנית לולאה סגורה הפקת רשימת בדיקה במעגל סגור להודעת ממצא קריטית: אישור ממצא, זיהוי רופא נכון, שידור ישיר, אישור קבלת מידע, תיעוד תקשורת (זמן/אדם/תוכן). הזכירו לנו שהתרעות אוטומטיות אינן מחליפות התראות. הקשר: [כתוב]

טעויות נפוצות

• "אוטומציה של הכל". החלטות קריטיות לביטחון דורשות אישור אנושי; אוטומציה מלאה היא מסוכנת.
• מתקין אותו פעם אחת ולא צופה בו. הדפוס מתפרק עם הזמן; ניטור ביצועים רציף הוא חובה.
• שימוש בטעות כדי להאשים את האדם. ניתוח סיבת השורש צריך להתמקד בתיקון המערכת.
• השאר את הממצא הקריטי לאזהרה אוטומטית. לולאה סגורה נסגרת על ידי הרדיולוג; שידור ואישור הם עבודת אנוש.
• לא להעלות שלטון על הכתב. מי, איזה דגם, איזה גרסה, איזה היקף, מי אחראי - יש לתעד.

טיפ: שאל את השאלה הזו בקביעות ביחידה שלך: "אם היינו מכבים את הבינה המלאכותית היום, האם נמשיך לפעול בבטחה?" התשובה צריכה להיות תמיד "כן". בינה מלאכותית מאיץ את הקריאה, אך היא לעולם לא תחליף קריאה, זיהוי וחתימה.

לסיכום

בינה מלאכותית נכנסת לפעולה בנקודות רבות בשרשרת מרגע ההזמנה ועד לדוח החתום ברדיולוגיה: המלצת פרוטוקול, איכות, בדיקה, איתור, מדידה, מעקב, דיווח ותזכורת ממצא קריטי. העיקרון ההוליסטי הוא הסיכום של המודול כולו: ככל שהסיכון עולה, תפקידה של AI מצטמצם, ההסכמה האנושית גוברת; בשום שלב הבינה המלאכותית לא משתלטת על הקריאה, האבחנה, החתימה או דיווח הממצא הקריטי. מה שהופך את הזרימה הזו לבר-קיימא הוא ההכרה ששימוש בטוח הוא תהליך חי, לא הגדרה חד פעמית: ניטור ביצועים, לולאת משוב, סקירת באגים, מעקב אחר סחף הפצה וניהול כתוב. כאשר מדווחים על ממצא קריטי, הרדיולוג סוגר את הלולאה הסגורה. מתחת לכל דבר עומד המשפט הבלתי משתנה: ההחלטה שייכת לאדם.

משימת יישום

צייר תרשים זרימת עבודה של AI מקצה לקצה עבור היחידה שלך (או ארגון לדוגמה): רשום את תפקיד ה-AI, האישור האנושי ורמת הסיכון בכל שלב. לאחר מכן קבעו את שלושת המדדים (שיעור חיובי שגוי, ממצאים שהוחמצו, אחוז חיובי אמיתי) וספי הפעולה שאחריהם תעקבו באמצעות התבנית "מעקב אחר ביצועים". בחר תרחיש ממצא קריטי וכתוב את השלבים באמצעות התבנית "ממצא קריטי בלולאה סגורה". לבסוף, "האם היינו עובדים בבטחה אם נשבית את AI היום?" ענו על השאלה בכנות עבור היחידה שלכם ושימו לב לליקויים.

רשימת בדיקה

• [ ] הגדרתי אימות אנושי של כל נקודת AI בזרימה מקצה לקצה.
• [ ] לא האצלתי החלטות קריטיות לבטיחות (אבחון/חתימה/הודעה) ל-AI.
• [ ] קבעתי קריטריונים לניטור ביצועים וספי פעולה.
• [ ] הגדרתי את לולאת המשוב ואת תהליך סקירת הבאגים.
• [ ] עשיתי תוכנית לחזור על אימות מקומי עבור משמרת הפצה.
• [ ] הבטחתי שהרדיולוג סגר את המעגל הסגור בהודעת ממצא קריטי.
• [ ] "האם נעבוד בבטחה אם נכבה AI?" אני יכול להגיד כן לשאלה.

מבחן מודול

1. ניסוי רדיולוגי AI סימן CT מוח כ'עדיפות נמוכה' והעביר אותו לסוף רשימת העבודה. מה על הרדיולוג לעשות לבדיקה זו?

• א) עדיין קורא ומדווח על הביקורת במלואה; טריאז' רק משנה את הסדר, לא מבטל את הקריאה ✔
• ב) בינה מלאכותית בדרך כלל סוגרת את המחקר מבלי לקרוא אותו כי הוא אומר שהוא בעדיפות נמוכה.
• ג) דוחה אוטומטית את הבדיקה ליום המחרת
• ד) הוא מסתכל רק על האזור המסומן על ידי בינה מלאכותית ומקצר את הדו"ח

תיאור: Triage AI משנה רק את סדר הקריאה; זה לא יכול להוציא כל בחינה מקריאה. 'עדיפות נמוכה' אינה אבחנה ועשויה להיות False negative. כל בדיקה עדיין חייבת להיקרא במלואה ולדווח על ידי הרדיולוג; זה לא מחליף את קריאת אות העדיפות.

2. באיזה שילוב של סיכונים ה-AI חסר פתולוגיה אמיתית (למשל פנאומוטורקס קטן) והרדיולוג מסתמך עליו ולא בוחן את התמונה בצורה מספקת?

• א) חיובי כוזב ועייפות אזעקה בלבד
• ב) שלילי כוזב והטיית אוטומציה (הסתמכות יתר על AI) ✔
• ג) רק איכות תמונה ירודה
• ד) שגיאת כותרת DICOM בלבד

הסבר: זוהי שלילית כוזבת אם המודל מחמיץ את הממצא; הטיית אוטומציה היא כאשר הרדיולוג סומך יתר על המידה בבינה מלאכותית ומרגיע את הבדיקה שלו. כאשר השניים משתלבים, סיבת הניטור האנושי נעלמת וניתן לפספס את הממצא לחלוטין. לכן, יש לקרוא גם אזורים שאינם מסומנים בבינה מלאכותית.

3. AI הוסיף משפט 'אדנומה של יותרת הכליה הימנית' בטיוטה של ​​דוח CT בית החזה שלא היה לו מקבילה בתמונה. מה על הרדיולוג לעשות?

• א) רואה במשפט אמין וחותם עליו ישירות.
• ב) מאחר שאינו בטוח, הוא כותב מחדש את כל הדו"ח לבינה המלאכותית וחותם עליו.
• ג) מתאים את המשפט לתמונה; אם אין הוראה, הוא מסיר אותה וחותם על הטיוטה כאומת ✔
• ד) עוזב את המשפט אבל כותב בסוף 'בינה מלאכותית הוספה'

הסבר: מודלים של שפה יכולים להתאים באופן שוטף לממצא שאינו קיים בתמונה; זה נקרא הזיה. על הרדיולוג להתאים כל משפט בדוח לתמונה, להסיר ביטויים לא רלוונטיים ולעולם לא לחתום על הטיוטה מבלי לאמת אותה. טיוטת הדו"ח היא התחלה, לא הוכחה.

4. מומחה מעלה תמונת DICOM עם שם המטופל ומספר הפרוטוקול ללא אנונימיזציה לכלי AI זמין לציבור. מה הבעיה העיקרית כאן?

• א) רזולוציית תמונה אינה מספקת לבינה מלאכותית
• ב) בינה מלאכותית לא יכולה לקרוא פורמט DICOM
• ג) לא ניתן להעיר הערה כי התמונה היא שחור ולבן
• ד) נתוני זהות בכותרת DICOM ומוטבעים בתמונה משותפים ללא אנונימיזציה; זוהי הפרה של KVKK ✔

תיאור: קבצי DICOM נושאים בכותרת גם מידע כגון שם מטופל, זהות, תאריך לידה ולעיתים נתוני זהות המוטבעים בתמונה (צרובה). העלאת אלה לכלי חיצוני מבלי להפוך אותם לאנונימיים היא חשיפה של נתוני בריאות רגישים והפרה של KVKK. יש לנקות תחילה את הכותרת והנתונים המוטבעים.

5. מהו שלב האימות החשוב ביותר כאשר משווים מדידה אוטומטית של גושי ריאות (למשל 8 מ"מ) המיוצרים על ידי AI למדידה ידנית (5 מ"מ) מבדיקה קודמת?

• א) ודא שהמדידות מושוות לאותה שיטה, מישור ועקביות פילוח והעריך את אי ההתאמה על ידי הרדיולוג ✔
• ב) בהנחה שהמדידה החדשה תמיד מדויקת ומדווחת על צמיחה
• ג) לקיחת ממוצע של שתי מדידות ודיווח עליהן
• ד) התעלם לחלוטין מהמדידה וכתוב רק רשמים חזותיים

הסבר: המדידה היא אומדן ותלויה בגבול הפילוח, בחירת הפרוסות, הפרוטוקול ושיטת המדידה. כאשר מדידה אוטומטית וידנית נעשות בשיטות שונות, עלול להיווצר רושם שווא של 'צמיחה'. לפני קבלת החלטה על הרחבה, יש לבצע השוואה באותה שיטה, באותו מישור ועם גבולות עקביים, וכל חוסר עקביות צריך להיות מוערך על ידי הרדיולוג.

6. מהו כלל הזהב לגבי תמונת ה-DICOM המקורית בעת הוספת תוצאות AI ל-PACS?

• א) סימוני בינה מלאכותית חייבים להיות כתובים לצמיתות על התמונה המקורית
• ב) פלט AI מתווסף כסדרה/שכבה נפרדת; תמונת האבחון המקורית לא השתנתה והקלטת העקבות נשמרת ✔
• ג) אין לאחסן את התמונה המקורית כלל, יש לשמור רק את הגרסה המעובדת
• ד) פלט AI צריך להיות מוטמע כטקסט בתוך כותרת המטופל

תיאור: יש לאחסן תגי AI, מדדים והדגשות כאובייקט נפרד מסדרה, שכבה או דוח מובנה; לעולם אין לשנות את תמונת האבחון המקורית. בדרך זו, הרדיולוג תמיד יכול לראות את הנתונים הגולמיים, הקלטת העקבות נשמרת, ותפוקת הבינה המלאכותית נשארת ניתנת להבחין מהמקור.

7. AI ממוגרפיה עובד עם 'רגישות' גבוהה אך 'ספציפיות' נמוכה. מה זה אומר בפועל?

• א) הדגם אינו מציין כמעט ממצאים
• ב) המודל לעולם לא מייצר תוצאות חיוביות שגויות
• ג) המודל לוכד את רוב הממצאים האמיתיים אך יכול להפיק תוצאות חיוביות שגויות רבות, מה שמוביל להיזכרות מיותרת ✔
• ד) המודל מסמן רק מקרים שבהם הוא יכול לבצע אבחנה סופית.

הסבר: רגישות גבוהה פירושה לכידת רוב התוצאות החיוביות האמיתיות (מעט שליליות שגויות). סגוליות נמוכה פירושה סימון מקרים בריאים לעתים קרובות, כלומר הפקת מספר רב של תוצאות חיוביות שגויות. זה מפחית את הדליפה אך מגדיל את הנטל של ריקול וחקירה מיותרים; בחירת הסף מהווה איזון קליני ונשלטת על פי פרשנותו של הרדיולוג.

8. מודל AI מאומן על מכשיר של יצרן ספציפי ועל אוכלוסיית חולים ספציפית. מהי הגישה הטובה ביותר לפני השימוש במכשיר ובאוכלוסיה אחרת במוסד שלך?

• א) בהנחה שהדגם ייתן את אותם ביצועים בכל מקום
• ב) חובה כל בדיקות מבלי לבדוק את הדגם
• ג) רואים שזה בטוח רק אם ממשק המשתמש הוא בטורקית.
• ד) בצע אימות מקומי ובדוק ביצועים במכשיר ובאוכלוסיה שלך וסקור את רמת האישור/ההוכחה ✔

הסבר: הביצועים עשויים לרדת כאשר מתרחקים מהתפלגות הנתונים שעל פיה הוכשר המודל; זה נקרא שינוי הפצה. לפני השימוש במכשיר, פרוטוקול או אוכלוסיה חדשים, יש לבצע אימות מקומי (בדיקת ביצועים על הנתונים שלך) ולבדוק את האישור הרגולטורי ורמת הראיות.

9. מהו היתרון האבטחה החשוב ביותר של דיווח מובנה על פני דיווח טקסט חופשי?

• א) הודות לכותרות סטנדרטיות ושדות חובה, זה מפחית את הסיכון להחמצת ממצאים ואי בהירות ומבטיח עקביות ✔
• ב) גורם לדוחות להיראות קצרים יותר
• ג) זה מיותר עבור הרדיולוג להסתכל על התמונה.
• ד) מאפשר לבינה מלאכותית לשלוח את הדו"ח ללא אישור רדיולוג

תיאור: דיווח מובנה משתמש בכותרות סטנדרטיות, שדות חובה ומילון מונחים משותף; זה מפחית את הסיכון להחמצת ממצאים, החמצת שדות ואי הבנות, מבטיח עקביות בין רופאים ומקל על הבינה המלאכותית למלא שדות ולבדוק עקביות. טקסט חופשי גמיש יותר אך טומן בחובו יותר סיכון של השמטה ואי בהירות.

10. אלגוריתם לשיפור תמונה (רזולוציית-על) יכול 'לנקות' CT במינון נמוך תוך הוספת מבנה עדין שאינו קיים בפועל. מה זה מזכיר לך?

• א) תמונה משופרת תמיד אמינה יותר
• ב) שיפור עשוי להוסיף פרטים מלאכותיים או למחוק ממצא בפועל; במקרה של ספק, יש להחזיר את התמונה הגולמית ולפקפק בתוקף האבחון ✔
• ג) לאחר דה-נוז, המינון יורד אוטומטית
• ד) שיפור רק משנה צבע, אינו משפיע כלל על התוכן

הסבר: בעוד אלגוריתמים לשיפור תמונה מפחיתים רעש, הם יכולים להוסיף פרטים מלאכותיים או למחוק ממצאים קטנים אמיתיים. זוהי תזכורת לכך שתוקף האבחון של התמונה המשופרת עשוי להיות מוגבל ובמקרה של ספק, יש לחזור לתמונה הגולמית/מקורית ובמידת הצורך יש צורך בהערכה מחדש עם הפרוטוקול המתאים. מראה אסתטי טוב אינו אומר דיוק אבחון.

11. מהי ההתנהגות הנכונה בעת אנונימיזציה של סיפור מטופל שיישלח לכלי AI ציבורי?

• א) מספיק למחוק רק את שם המשפחה ולהשאיר את השם ומספר הפרוטוקול
• ב) מחיקת כל המידע הקליני גם כך שה-AI לא יראה הקשר
• ג) הסר זהות, פרוטוקול, איש קשר ומידע מוסדי והשאיר רק מידע אנונימי הכרחי מבחינה קלינית ✔
• ד) אנונימיזציה מיותרת; הרכב כבר בטוח

הסבר: יש להסיר את השם, מספר תעודת זהות TR, מספר פרוטוקול/תיק, איש קשר ומוסד; יש להשאיר רק מידע הכרחי מבחינה קלינית (קבוצת גיל, מין, היסטוריה רלוונטית). הגישה הנכונה היא לכתוב 'אישה בת 62, היסטוריה ידועה של סרטן השד' במקום 'Ayşe Yılmaz, פרוטוקול 2024-114523'.

12. ה-AI לא סימן שום ממצא על תסחיף ריאתי (PE) אנגיוגרפיה CT (AI שלילי). מהי הפרשנות הנכונה לכך עבור הרדיולוג?

• א) בהחלט אין תסחיף, ניתן לסגור את הדוח במהירות כשלילי
• ב) יש לחזור על הבדיקה
• ג) אין צורך להתייעץ עם קלינאי כי הבינה המלאכותית אומרת שלילי
• ד) AI שלילי אינו ערובה; הרדיולוג קורא את כל התמונה עם הערכה משלו, ייתכן שהמודל פספס את הממצא ✔

הסבר: פלט AI שלילי אינו אומר שתסחיף אינו נכלל; ייתכן שהמודל פספס את הממצא (שלילי שגוי). על הרדיולוג לקרוא את התמונה כולה עם שיקול דעת קליני משלו, כולל אזורים שאינם מסומנים על ידי ה-AI. AI שלילי אינו ערובה לאבחון, אלא לכל היותר אות עזר.

13. ה-AI יצר התראה על ממצא קריטי (למשל, דימום תוך גולגולתי מסיבי). מי אחראי לדיווח על ממצאים קריטיים במעגל סגור?

• א) באחריות הרדיולוג לאשר את הממצא, להעבירו לרופא, לתעד את התקשורת ולהשלים את המעגל הסגור ✔
• ב) ההודעה היא אוטומטית לחלוטין, לרדיולוג אין תפקיד
• ג) האחריות עוברת ליצרן הבינה המלאכותית
• ד) מאחר שהאזהרה נמצאת ברשימת העבודה, אין צורך בתקשורת נוספת

תיאור: אזהרת הבינה המלאכותית היא תזכורת; באחריות הרדיולוג לאשר את הממצא הקריטי, להעבירו ישירות לרופא המטפל, לתעד את התקשורת ולהשלים את הלולאה הסגורה (אישור על קבלת מידע). התראה אוטומטית אינה תחליף לתקשורת ואישור אנושיים.

14. מהי גישת הממשל הטובה ביותר כדי להבטיח שהשימוש בבינה מלאכותית ביחידת הדמיה הוא בר קיימא ובטוח?

• א) התקן פעם אחת ולעולם אל תבדוק שוב
• ב) לפקח על הביצועים באופן קבוע, ליצור מחזור משוב וביקורת עצמית, לבדוק דוגמאות לטעויות ולשמור את ההחלטה הסופית אצל הרדיולוג ✔
• ג) האצלת כל ההחלטות למודל וצמצום מספר הרדיולוגים
• ד) לעולם אל תקליט פלטי בינה מלאכותית ולא השארת עקבות

תיאור: שימוש בטוח אינו התקנה חד פעמית; זה דורש ניטור קבוע של ביצועים, איסוף משוב של רדיולוג, סקירת דגימות שליליות/חיוביות שגויות, ניטור עדכוני מודל וסחיפה של הפצה וביקורת עצמית קבועה. האחריות, החתימה וההחלטה הסופית נשארים תמיד אצל הרדיולוג.