Работен процес от край до край, управление на качеството и самоодит — Изкуствен интелект в радиологията и медицинските изображения

Печалби:

Възможност за проектиране на работен процес от край до край, който показва къде и с какво одобрение изкуственият интелект влиза в действие в цялата верига, от предварителното заснемане до подписването на доклада.
Способност за установяване на мониторинг на ефективността, обратна връзка и редовен самоодит в процеси, поддържани от изкуствен интелект
Способност да се направи използването на изкуствен интелект в единица за изображения устойчиво с принципите на управление, отговорност и непрекъснато подобрение

В предишните десет раздела разгледахме частите от AI в радиологията: сортиране, структурирано отчитане, автоматизация на измерванията, интегриране на PACS, показатели, инструменти, специфични за модалността, качество на изображението, проследяване и поверителност. В тази последна единица ще комбинираме частите и ще създадем работен процес от край до край: холистична карта, която показва къде и с какво одобрение изкуственият интелект влиза в действие във веригата, която одитът преминава от момента на заявката до подписания доклад. След това ще разгледаме двете неща, които правят този поток устойчив: управление на качеството (мониторинг на ефективността, обратна връзка) и саморегулиране (редовен преглед, управление).

Основен принцип: Безопасното използване на задвижвани от AI изображения не е еднократна инсталация; Това е жив процес, който изисква постоянно наблюдение на ефективността, обратна връзка, преглед на моделите на грешки и редовен самоодит. На всяка стъпка отговорността, подписът и окончателното решение остават на рентгенолога.

Поток от край до край: Къде е AI, което потвърждава

Нека проследим пътя на одита, включително моментите, в които AI влиза в действие и одобрението на човека във всяка точка.

Искане и индикация: Клиницистът изисква преглед. AI може да препоръча пригодност на индикацията и избор на протокол; Техникът/радиологът одобрява. (Единица 8)
Заснемане и качество: Модалността произвежда изображението. Оптимизиране на дозата на AI, премахване на шума и маркиране на артефакти; Техникът определя качеството и при необходимост презаснема. (Единица 8)
Сортиране: Изображението попада в PACS. AI приоритизира критични за времето събития; Рентгенологът все още чете всеки преглед. (Единица 2)
Четене и откриване: Радиологът чете. CAD марки като второ око; Рентгенологът преценява какво е отбелязано и какво не. (Единица 6, 7)
Измерване и проследяване: AI измерва и сравнява с предишен преглед; Рентгенологът проверява последователността. (Единица 4, 9)
Докладване: AI създава структуриран проект; Рентгенологът свързва всяко изречение с изображението и го подписва. (Единица 3)
Известие за критична находка: AI напомня за критична находка; Рентгенологът потвърждава, съобщава на клинициста и завършва затворения цикъл. (Единица 2, 6)
Архивиране и записване на проследяване: AI изходът се съхранява като отделен слой; Оригиналът не се променя, записът на следите се запазва. (Единица 5)

Етап

AI роля

човешко одобрение

Свързана единица

Искане/протокол

Предложение

Техник + рентгенолог

Изстрел/качество

Доза, обезшумяване, артефакт

техник

триаж

флаг за приоритет

Радиолог (все още чете)

Четене/откриване

CAD второ око

Рентгенолог (диагностик)

6, 7

Измерване/проследяване

Изчисляване, сравнение

Рентгенолог (коригира)

4, 9

Докладване

проект

Рентгенолог (подпис)

критична находка

напомняне

Радиолог (предава, потвърждава)

2, 6

архив

отделен слой

Система + запис на трак

Тази таблица е обобщение на модула: с нарастване на риска, ролята на AI се свива, човешкото съгласие нараства; В нито един ред AI не поема четенето, диагнозата или подписа.

Докладване на критични констатации: затворен контур

Критична находка (голямо кървене, масивна емболия, напрегнат пневмоторакс) не се счита за съобщена просто като се напише в доклада. Комуникацията в затворен цикъл означава потвърждение, че информацията достига и се получава директно от лекуващия лекар. AI може да си припомни критично откритие или дори да създаде чернова на уведомление; Отговорност на рентгенолога обаче е да потвърди находката, да я съобщи на правилния лекар, да документира комуникацията и да затвори цикъла. Автоматичното предупреждение не е заместител на човешката комуникация.

Внимание: Само защото в работния списък се появява предупреждение за критично намиране на AI, не означава, че известието е направено. Уведомяването е завършено само когато рентгенологът потвърди находката, достигне до лекуващия лекар и получи информацията. Човешка работа е да затвори затворения цикъл.

Управление на качеството и самоодит

Задвижван от AI процес може да се развали с течение на времето: моделът се актуализира, устройството се променя, популацията се измества, процентът на фалшивите положителни резултати се увеличава. Следователно производителността трябва да бъде постоянно наблюдавана.

Мониторинг на ефективността: Съберете фалшиво положителни/отрицателни проби; Проследявайте процентите на флагове за сортиране и истински положителен процент.
Цикъл за обратна връзка: Систематично събирайте обратната връзка на радиолозите „този флаг е грешен/пропуснато това“ и я споделяйте с производителя.
Преглед на грешки: Преглед на пропуснатите констатации и фалшиви аларми на редовни срещи; Разграничете първопричината (модел, протокол, човек).
Проследяване на смяна на разпространението: Повторете локалната проверка, когато устройството/протоколът/популацията се промени.
Управление: Кой използва какъв модел, с коя версия, в какъв контекст; Кой е отговорен - те трябва да бъдат писмени.

три мини калъфа

Случай 1 — Веригата за обратна връзка работи. Едно звено вижда от данните от мониторинга, че честотата на фалшиво положителен пневмоторакс на триажния модел се е увеличила до 75% в рамките на месеци. Рентгенолозите събират техните отзиви, преглеждат прага с производителя; процентът пада до 45% и умората от алармата намалява. Без мониторинг моделът тихо би станал ненадежден.

Случай 2 — Пропуснато намиране на анализ на първопричината. При едномесечния преглед се отбелязват две пропуснати малки възли. Анализът показва, че и двете се срещат на преносими графики и на устройство, на което моделът не е обучен (дрейф на разпределението). Устройството стеснява обхвата на модела върху преносимите рентгенови снимки и предупреждава радиолозите. Грешката беше използвана за коригиране на системата, вместо да се обвинява един човек.

Случай 3 — Критичното откритие е със затворен цикъл. AI предупреждава за голямо кървене на компютърна томография на мозъка. Рентгенологът потвърждава за 90 секунди, обажда се на неврохирурга, проверява получаването на информация и документира комуникацията (време, лице, съдържание). Затвореният контур е завършен. AI напомня; Рентгенологът направи известието и потвърждението. Ако беше оставено на автоматично предупреждаване, нямаше да има гаранция, че лекарят е получил информацията.

Слаба подкана / Силна подкана

Слаба подкана:

Настройте AI работен процес в радиологията, автоматизирайте всичко.

„Автоматизиране на всичко“ е опасно в критична за сигурността област; Игнорира човешки контролни точки и безопасно по подразбиране.

Мощна подкана:

Вашата роля: СЪДЪРЖАВАЩ консултант към радиологичното звено по проектиране на работен поток от край до край. Вземане на решения; създайте схема и контролен списък. Посочете къде се добавя AI в заявката→улавяне→сортиране→четене→измерване→отчитане→критично откритие→архивна верига и посочете човешко одобрение на ВСЯКА стъпка. Предложете също показатели за мониторинг на ефективността, обратна връзка и самоодит. Принцип: с нарастването на риска ролята на ИИ намалява, одобрението от страна на хората расте; диагноза/подпис/уведомление при рентгенолога. Контекст на единица: [напиши]

Силната воля се съсредоточава върху точките на човешкото одобрение, наблюдението и самоконтрола.

Копируеми шаблони за подкана

ШАБЛОН ЗА ЧЕРНОВА НА ПОТОКА ОТ КРАЙ до КРАЙ Вашата роля: ПОМОЩНИК консултант. За заявката→изображение→сортиране→четене→измерване→отчитане→критично откритие→архивна верига, създайте таблица, която изброява ролята на изкуствения интелект и човешкото одобрение на всеки етап. Маркирайте нивото на риска и не оставяйте критични за безопасността решения „поети“ от AI. Контекст на единица: [напиши]

PERFORMANCE MONITORING TEMPLATEI ще ви даде период на сортиране/CAD данни. Изчислете процента на фалшивите положителни резултати, броя на пропуснатите констатации и процента на истинските положителни резултати; предупреждава за умора на алармата и отклонение на разпределението; Препоръчайте при какъв праг трябва да се прегледа производителят/моделът. Решението е в институцията. Данни: [пишете]

ШАБЛОН ЗА ПРЕГЛЕД НА ОСНОВНАТА ПРИЧИНА I ще ви даде случай на пропусната находка/фалшива аларма. Разграничаване на основната причина: модел (обучение/обхват), протокол/устройство (променливост на разпределението), човек (пристрастност на автоматизацията/умора на алармата). Изработвайте предложения, насочени към корекция на системата, а не към обвиняване. Събитие: [пишете]

ЗАТВОРЕН ШАБЛОН ЗА КРИТИЧНА НАХОДКА Създайте контролен списък със затворен цикъл за известие за критична находка: потвърждение на находката, идентифициране на правилния лекар, директно предаване, потвърждение за получаване на информация, документиране на комуникация (време/лице/съдържание). Напомнете ни, че автоматичните сигнали не заместват известията. Контекст: [пишете]

Често срещани грешки

„Автоматизиране на всичко“. Критични за сигурността решения изискват човешко одобрение; Пълната автоматизация е опасна.
Инсталираш го веднъж и не го гледаш. Моделът се разпада с времето; Непрекъснатото наблюдение на ефективността е задължително.
Използване на грешката, за да обвините човека. Анализът на първопричината трябва да се фокусира върху системната корекция.
Оставете критичната констатация на автоматично предупреждение. Затвореният контур се затваря от рентгенолога; Предаването и потвърждаването е човешка работа.
Без писмено представяне на управлението. Кой, кой модел, коя версия, кой обхват, кой е отговорен — трябва да се документира.

Съвет: Задавайте този въпрос редовно във вашето звено: „Ако изключим AI днес, ще продължим ли да работим безопасно?“ Отговорът винаги трябва да е „да“. AI ускорява четенето, но никога няма да замени четенето, разпознаването и подписването.

В обобщение

Изкуственият интелект влиза в действие на много точки във веригата от момента на поръчката до подписания доклад в радиологията: препоръка за протокол, качество, триаж, откриване, измерване, проследяване, докладване и напомняне за критични открития. Холистичният принцип е обобщението на целия модул: с нарастването на риска ролята на AI се свива, човешкото съгласие нараства; В нито една стъпка изкуственият интелект не поема четенето, диагностиката, подписването или докладването за критични открития. Това, което прави този поток устойчив, е признаването, че безопасното използване е жив процес, а не еднократна настройка: мониторинг на производителността, обратна връзка, преглед на грешки, проследяване на отклонение в разпространението и писмено управление. Когато докладва критична находка, рентгенологът затваря затворения цикъл. Под всичко стои неизменното изречение: решението принадлежи на човека.

Задача за приложение

Начертайте диаграма на работния процес на AI от край до край за вашето звено (или примерна организация): запишете ролята на AI, човешкото одобрение и нивото на риск на всеки етап. След това определете трите показателя (процент на фалшиви положителни резултати, пропуснати констатации, процент истински положителни) и прагове за действие, които ще проследявате с шаблона „Проследяване на ефективността“. Изберете сценарий за критично намиране и напишете стъпките, като използвате шаблона „Затворен цикъл на критично намиране“. И накрая, „Ще работим ли безопасно, ако изключим AI днес?“ Отговорете честно на въпроса за вашата единица и отбележете недостатъците.

контролен списък

[ ] Дефинирах човешко валидиране на всяка AI точка в потока от край до край.
[ ] Не съм делегирал никакви критични за безопасността решения (диагноза/подпис/известие) на AI.
[] Определих критерии за наблюдение на ефективността и прагове за действие.
[ ] Настроих цикъла за обратна връзка и процеса на преглед на грешки.
[ ] Направих план да повторя местната проверка за смяна на разпространението.
[ ] Уверих се, че рентгенологът е затворил затворения цикъл при известие за критична находка.
[ ] „Ще работим ли безопасно, ако изключим AI?“ Мога да кажа да на въпроса.

Изпит по модул

1. AI за радиологично сортиране маркира КТ на мозъка като „нисък приоритет“ и го премести в края на работния списък. Какво трябва да направи рентгенологът за това изследване?

A) Все още чете и докладва одита изцяло; сортирането само променя реда, не премахва четенето ✔
B) Изкуственият интелект обикновено затваря проучването, без да го прочете, защото казва, че е с нисък приоритет.
В) Автоматично отлага прегледа за следващия ден
Г) Разглежда само зоната, маркирана от изкуствен интелект, и съкращава доклада

Описание: Triage AI променя само реда на четене; Не може да изключи нито един преглед от четенето. „Нисък приоритет“ не е диагноза и може да е фалшиво отрицателен. Всяко изследване все още трябва да бъде напълно прочетено и отчетено от рентгенолога; Не замества четенето на приоритетния сигнал.

2. Каква комбинация от рискове е AI да пропусне истинска патология (напр. малък пневмоторакс) и рентгенологът да разчита на нея и да не изследва адекватно изображението?

A) Само фалшиви положителни резултати и аларма за умора
B) Фалшиво отрицание и пристрастие към автоматизацията (прекомерно разчитане на AI) ✔
C) Само лошо качество на изображението
D) Само грешка в заглавката на DICOM

Обяснение: Това е фалшиво отрицателно, ако моделът пропусне находката; Пристрастие към автоматизацията е, когато рентгенологът прекалено се доверява на изкуствения интелект и облекчава собствения си преглед. Когато двете се комбинират, причината за съществуване на човешкия мониторинг изчезва и откритието може да бъде пропуснато изцяло. Следователно областите, които не са маркирани с изкуствен интелект, също трябва да бъдат прочетени.

3. AI добави изречение „аденом на дясна надбъбречна жлеза“ в чернова на CT доклад на гръдния кош, което няма еквивалент в изображението. Какво трябва да направи рентгенологът?

А) Счита изречението за достоверно и директно го подписва.
Б) Тъй като не е сигурен, той пренаписва целия доклад до изкуствения интелект и го подписва.
В) Свързва изречението с изображението; Ако няма разпоредба, той я премахва и подписва черновата като проверена ✔
Г) Оставя изречението, но пише „добавен изкуствен интелект“ в края

Обяснение: Езиковите модели могат свободно да пасват на находка, която не присъства в изображението; това се нарича халюцинация. Рентгенологът трябва да свърже всяко изречение в доклада с изображението, да премахне всички неуместни фрази и никога да не подписва черновата, без да го е проверил. Проектодокладът е начало, а не доказателство.

4. Специалист качва DICOM изображение с името на пациента и номера на протокола без анонимизиране в публично достъпен AI инструмент. Какъв е основният проблем тук?

A) Разделителната способност на изображението е недостатъчна за изкуствен интелект
B) Изкуственият интелект не може да чете DICOM формат
В) Не може да се прави коментар, защото изображението е черно-бяло
D) Данните за самоличност в DICOM заглавката и вградените в изображението се споделят без анонимизиране; Това е нарушение на KVKK ✔

Описание: DICOM файловете носят както информация, като име на пациента, самоличност, дата на раждане в заглавката, така и понякога данни за самоличност, вградени в изображението (вградени). Качването им във външен инструмент без анонимизирането им е разкриване на чувствителни здравни данни и нарушение на KVKK. Първо трябва да се изчистят заглавката и вградените данни.

5. Коя е най-важната стъпка за проверка при сравняване на автоматизирано измерване на белодробни възли (напр. 8 mm), направено от AI, с ръчно измерване (5 mm) от предишен преглед?

A) Проверете дали измерванията са сравнени със същия метод, равнина и последователност на сегментиране и оценете несъответствието от рентгенолога ✔
B) Ако приемем, че новото измерване винаги е точно и отчита растеж
C) Вземане на средна стойност от две измервания и докладването им
Г) Игнорирайте напълно измерването и пишете само визуални впечатления

Обяснение: Измерването е приблизителна оценка и зависи от границата на сегментиране, избора на срез, протокола и метода на измерване. Когато автоматичното и ръчното измерване се извършват с помощта на различни методи, може да възникне погрешно впечатление за „растеж“. Преди да вземете решение за разширяване, трябва да се направи сравнение, като се използва същият метод, на една и съща равнина и с последователни граници и всяко несъответствие трябва да се оцени от рентгенолога.

6. Какво е златното правило по отношение на оригиналното DICOM изображение при добавяне на AI резултати към PACS?

A) Маркировките за изкуствен интелект трябва да бъдат постоянно написани върху оригиналното изображение
B) AI изходът се добавя като отделна серия/слой; оригиналното диагностично изображение не се променя и записът на следата се запазва ✔
В) Оригиналното изображение не трябва да се съхранява изобщо, трябва да се запази само обработената версия
D) AI изходът трябва да бъде вграден като текст в заглавката на пациента

Описание: AI маркировките, показателите и акцентите трябва да се съхраняват като отделна серия, слой или обект на структуриран отчет; Оригиналното диагностично изображение никога не трябва да се променя. По този начин рентгенологът винаги може да види необработените данни, записът на следата се запазва и изходът на AI остава различим от оригинала.

7. ИИ за мамография работи с висока „чувствителност“, но ниска „специфичност“. Какво означава това на практика?

А) Моделът не бележи почти никакви находки
B) Моделът никога не дава фалшиви положителни резултати
C) Моделът улавя повечето верни констатации, но може да доведе до много фалшиви положителни резултати, водещи до ненужно извикване ✔
Г) Моделът отбелязва само случаи, за които може да постави окончателна диагноза.

Обяснение: Високата чувствителност означава улавяне на повечето истински положителни резултати (малко фалшиви отрицателни). Ниската специфичност означава често маркиране на здрави случаи, което означава генериране на голям брой фалшиви положителни резултати. Това намалява изтичането, но увеличава тежестта от ненужно изтегляне и разследване; Изборът на праг е клиничен баланс и се управлява от интерпретацията на рентгенолога.

8. AI модел се обучава на конкретно устройство на производителя и конкретна група пациенти. Какъв е най-добрият подход, преди да го използвате на различно устройство и популация във вашата институция?

A) Ако приемем, че моделът ще даде една и съща производителност навсякъде
B) Задължителни всички инспекции без изобщо да се тества модела
C) Счита се за безопасно само ако потребителският интерфейс е на турски.
D) Извършете локално валидиране и проверете ефективността на собственото си устройство и население и прегледайте нивото на одобрение/доказателство ✔

Обяснение: Производителността може да намалее, когато се отдалечите от разпространението на данни, на което е обучен моделът; Това се нарича изместване на разпределението. Преди да се използва в ново устройство, протокол или популация, трябва да се извърши локално валидиране (проверка на производителността на вашите собствени данни) и да се прегледат регулаторното одобрение и нивото на доказателства.

9. Кое е най-важното предимство на сигурността на структурираното отчитане пред отчитането със свободен текст?

A) Благодарение на стандартните заглавия и задължителните полета, намалява риска от липсващи констатации и неяснота и осигурява последователност ✔
B) Прави отчетите да изглеждат по-кратки
C) Това прави ненужно рентгенолога да гледа изображението.
D) Позволява на изкуствения интелект да изпрати доклада без одобрение от рентгенолог

Описание: Структурираното отчитане използва стандартни заглавия, задължителни полета и общ речник; Това намалява риска от липсващи констатации, пропуснати полета и недоразумения, гарантира последователност сред клиницистите и улеснява изкуствения интелект да попълва полета и да проверява последователността. Свободният текст е по-гъвкав, но носи по-голям риск от пропуски и двусмислие.

10. Алгоритъм за подобряване на изображението (свръх разделителна способност) може да „почисти“ КТ с ниска доза, като същевременно добави фина структура, която всъщност не присъства. На какво ви напомня това?

A) Подобреното изображение винаги е по-надеждно
B) Подобряването може да добави изкуствени детайли или да изтрие действителната находка; В случай на съмнение необработеното изображение трябва да бъде върнато и диагностичната валидност трябва да бъде поставена под въпрос ✔
C) След обезшумяване дозата намалява автоматично
D) Подобряването променя само цвета, не засяга съдържанието изобщо

Обяснение: Въпреки че алгоритмите за подобряване на изображението намаляват шума, те могат да добавят изкуствени детайли или да изтрият истински малки открития. Това е напомняне, че диагностичната валидност на подобреното изображение може да бъде ограничена и в случай на съмнение се върнете към необработеното/оригиналното изображение и, ако е необходимо, е необходима повторна оценка с подходящия протокол. Да изглеждаш добре естетически не означава диагностична точност.

11. Какво е правилното поведение при анонимизиране на история на пациент, която да бъде изпратена до публичен AI инструмент?

А) Достатъчно е да изтриете само фамилията и да оставите името и номера на протокола
B) Изтриване на цялата клинична информация, така че AI да не вижда контекст
C) Премахнете информация за самоличност, протокол, контакт и институционална информация и оставете само клинично необходимата анонимна информация ✔
Г) Анонимизирането е ненужно; превозното средство вече е безопасно

Обяснение: Име, TR ID номер, номер на протокол/файл, информация за контакт и институция трябва да бъдат премахнати; Трябва да се остави само клинично необходима информация (възрастова група, пол, съответна история). Правилният подход е да напишете „62-годишна жена, известна анамнеза за рак на гърдата“ вместо „Айше Йълмаз, протокол 2024-114523“.

12. AI отбеляза липса на констатации на CT ангиограма за белодробна емболия (PE) (отрицателна AI). Каква е правилната интерпретация на това за рентгенолога?

А) Определено няма емболия, докладът може бързо да бъде затворен като отрицателен
Б) Изследването трябва да се повтори
В) Няма нужда да се консултирате с клиницист, защото изкуственият интелект казва отрицателно
D) Отрицателният AI не е гаранция; Рентгенологът разчита цялото изображение със собствена оценка, моделът може да е пропуснал находката ✔

Обяснение: Отрицателният AI резултат не означава, че емболията е изключена; моделът може да е пропуснал находката (фалшиво отрицателен). Рентгенологът трябва да прочете цялото изображение със собствената си клинична преценка, включително областите, които не са маркирани от AI. Отрицателният AI не е гаранция за диагноза, а най-много спомагателен сигнал.

13. AI генерира предупреждение за критично откритие (напр. масивен вътречерепен кръвоизлив). Кой е отговорен за докладването на критични констатации в затворен цикъл?

A) Отговорност на рентгенолога е да потвърди находката, да я съобщи на клинициста, да документира комуникацията и да завърши затворения цикъл ✔
B) Уведомяването е напълно автоматично, рентгенологът няма роля
В) Отговорността преминава към производителя на изкуствения интелект
D) Тъй като предупреждението е в работния списък, не е необходима допълнителна комуникация

Описание: AI предупреждението е напомняне; Отговорност на рентгенолога е да потвърди критичната находка, да я съобщи директно на лекуващия лекар, да документира комуникацията и да завърши затворения цикъл (потвърждение за получаване на информация). Автоматичното известяване не е заместител на човешката комуникация и потвърждение.

14. Какъв е най-добрият подход за управление, за да се гарантира, че използването на изкуствен интелект в единица за изображения е устойчиво и безопасно?

A) Инсталирайте веднъж и никога повече не преглеждайте
B) Наблюдавайте редовно изпълнението, установете цикъл на обратна връзка и самоодит, прегледайте примери за грешки и запазете окончателното решение с рентгенолога ✔
В) Делегиране на всички решения на модела и намаляване на броя на рентгенолозите
D) Никога не записвайте изходни данни от изкуствен интелект и не оставяйте следи

Описание: Безопасната употреба не е еднократна инсталация; Изисква редовно наблюдение на ефективността, събиране на обратна връзка от рентгенолози, преглед на фалшиво отрицателни/положителни проби, наблюдение на актуализации на модела и отклонение на разпространението и редовен самоодит. Отговорността, подписът и окончателното решение винаги остават на рентгенолога.