Прибуток:
- Можливість поєднувати зображення, сигнали, дані та елементи регулювання в єдиний відповідальний біомедичний робочий процес ШІ
- Здатність застосовувати принципи аудиту, відстеження та моніторингу після розповсюдження
- Здатність підтримувати межу на кожному етапі, де штучний інтелект не замінює схвалення лікарів та інженерів
Модульний екзамен
1. Що з наведеного нижче є основним принципом, який визначає ризик виходу ШІ в біомедичній інженерії?
- А) Ризик результату дорівнює шкоді, яку він завдав би пацієнту, якби він був неправильним; шкали перевірки відповідно ✔
- Б) ШІ-вивід, як правило, безпечний, оскільки він написаний вільно та технічно
- C) Перевірка непотрібна, якщо використовується найновіша модель
- D) Якщо вихідні дані посилаються на посібник, додаткові перевірки не потрібні
Пояснення: ризик результату дорівнює шкоді для пацієнта, якщо цей результат є неправильним. У той час як незначна помилка в резюме літератури є низьким ризиком, помилка при введенні визначення зображення або клінічного рішення безпосередньо загрожує безпеці пацієнта; Таким чином, інтенсивність перевірки залежить від потенційної шкоди, і кожне рішення, пов’язане з безпекою пацієнтів, залежить від схвалення лікаря.
2. Яка належна роль моделі виявлення з підтримкою AI у клінічному використанні в радіології?
- A) Автоматичне затвердження звіту рентгенолога та усунення робочого навантаження
- Б) Закриття випадків низького пріоритету без відвідування рентгенолога
- В) Якщо ймовірність моделі висока, поставити діагноз без додаткового обстеження
- D) Будучи інструментом підтримки, який привертає увагу до знахідки та визначає її пріоритетність, але відповідальність за діагностику залишається за рентгенологом ✔
Опис: штучний інтелект зображення – це інструмент підтримки прийняття рішень: приваблює, визначає пріоритети, вимірює та позначає; однак відповідальність за діагностику залишається за рентгенологом. Вихідні дані моделі не замінюють рішення радіолога, це лише вхідні дані. Вихідні дані використовуються в поєднанні з незалежною клінічною оцінкою, оскільки завжди можливі хибнопозитивні та хибнонегативні результати.
3. Яка найпоширеніша проблема при перенесенні продуктивності моделі ШІ з однієї лабораторії в іншу в цифровій патології?
- А) Модель працює дуже швидко
- B) Файли слайдів замалі
- C) Зсув домену, викликаний відмінностями фарбування та сканування ✔
- D) Патологоанатоми взагалі не хочуть використовувати модель
Опис: протокол фарбування, марка сканера та товщина зрізу відрізняються від лабораторії до лабораторії; Якщо модель навчилася на основі статистики зображень однієї лабораторії, її продуктивність знизиться в іншій лабораторії. Це явище називається зсувом домену і є найпоширенішою причиною збою при патології пальців; Ось чому зовнішня перевірка та нормалізація кольору є критично важливими.
4. Яким повинен бути перший підтверджуючий рефлекс інженера, коли класифікаційна модель ЕКГ позначає «фібриляцію передсердь»?
- A) Запис етикетки безпосередньо в файл пацієнта як діагноз
- B) Перевірте вихідний сигнал, артефакти та фізіологічну правдоподібність і залиште рішення лікареві ✔
- C) Якщо показник достовірності моделі високий, немає потреби в будь-якому іншому контролі.
- Г) Направлення хворого на медикаментозне лікування
Пояснення: вихідні дані спочатку слід перевірити на фізіологічну правдоподібність і якість сигналу: дрейф базової лінії, м’язовий артефакт або розслаблення електродів у записі можуть імітувати ритм. Неправильно довіряти мітці, не дивлячись на вихідний сигнал та інтервали R-R; Остаточна діагностика ритму належить лікареві. Модель видає попередній сигнал, вона не приймає рішення.
5. Яка ключова особливість ШІ-обробки сигналів ЕЕГ особливо ускладнює перевірку?
- A) Низьке співвідношення сигнал/шум і високий артефакт/змінність ✔
- Б) Сигнал ЕЕГ має дуже високу амплітуду і безшумний
- В) Запис ЕЕГ лише з одного каналу
- D) Дані ЕЕГ ніколи не є цифровими
Пояснення: ЕЕГ є сигналом дуже низької амплітуди (діапазон мікровольт), і його легко забруднити такими артефактами, як моргання очей, рух м’язів, шуми електродів і мережі; Крім того, велика мінливість між особами та записами. Це низьке відношення сигнал/шум спричиняє нестабільність вихідних даних моделі та потребує перевірки експертом-нейрофізіологом.
6. Яке найважливіше обмеження під час роботи з даними про частоту серцевих скорочень із споживчого носимого пристрою?
- А) Акумулятор пристрою швидко розряджається
- B) Зберігання даних у хмарі
- C) Пристрій часто не має медичної сертифікації, а сигнал чутливий до артефактів/зміщень ✔
- Г) Пристрій занадто дорогий
Розкриття інформації: більшість споживчих пристроїв, що носяться, не сертифіковані як медичні пристрої; На сигнал PPG (фотоплетизмографії) впливає артефакт руху, а такі фактори, як темний відтінок шкіри та татуювання, можуть знизити точність. Ці дані є цінними для визначення схильності/обізнаності, але для діагностичного рішення потрібні перевірені клінічні вимірювання та оцінка лікаря.
7. Що означає «тимчасовий витік» під час побудови прогнозної моделі з даними електронних медичних записів (EHR)?
- А) Зашифроване зберігання даних
- B) Витік майбутньої інформації в функції, які ще не існують на момент передбачення ✔
- C) Дані занадто старі
- D) Надто повільне навчання моделі
Пояснення: тимчасовий витік — це втручання функцій навчання в інформацію, яка ще не доступна на момент передбачення (майбутнє); наприклад, використання діагностики при виписці для прогнозування ризику при надходженні. Це призводить до високої продуктивності в лабораторії, але катастрофічної продуктивності в реальному клінічному використанні та є одним із найпідступніших недоліків моделей клінічних даних.
8. Що з наведеного нижче стає обов’язковим, якщо саме програмне забезпечення описується як «програмне забезпечення медичного пристрою» (SaMD)?
- А) Достатньо просто працювати швидко
- B) Не потребує жодних документів
- В) Потрібен тільки красивий інтерфейс
- D) Контроль проектування, управління ризиками, верифікація/підтвердження та відповідність нормативним вимогам стають обов’язковими ✔
Опис: SaMD (Програмне забезпечення як медичний пристрій) — це програмне забезпечення, яке працює для діагностики, лікування або моніторингу та не залежить від апаратного забезпечення. У цьому випадку контроль проектування, управління ризиками (ISO 14971), перевірка/валідація та відповідність нормативним вимогам є обов’язковими; Програмне забезпечення не можна розглядати як «просто програмне забезпечення», оскільки його збій безпосередньо впливає на безпеку пацієнтів.
9. Що є найбільш критичним ризиком, коли ви просите AI надати пункт MDR (Директива про медичні пристрої) або стандартний номер?
- A) Модель створює підроблені посилання на статті/стандарти та безпечно їх представляє ✔
- B) Модель дає занадто коротку відповідь
- C) Модель відповідає англійською
- D) Модель реагує надто повільно
Пояснення: мовні моделі можуть впевнено створювати неіснуючі номери елементів, неправильні стандартні версії та вигадані посилання (галюцинації). У відповідності нормативним вимогам неправильне посилання на речовину призводить до серйозного порушення відповідності; тому кожне посилання має бути перевірено незалежно від офіційного тексту, ШІ слід використовувати лише для навігації/складання.
10. До якої категорії відносяться дані про стан здоров’я в межах КВКК і що це означає?
- А) Звичайні персональні дані; можна вільно обробляти
- B) Це не особисті дані; обмежень немає
- В) Спеціальні категорії персональних даних; Оброблено з суворішими умовами та захистом ✔
- D) Лише комерційна таємниця; конфіденційність не потрібна
Пояснення: дані про стан здоров’я вважаються «особливими персональними даними» в КВКК; Як правило, обробка залежить від чіткої згоди або винятків, передбачених законом, і вимагає більш суворих заходів захисту. Тому дані пацієнтів не можна вводити в неконтрольовані інструменти; Угоди про анонімізацію, обмеження доступу та обробку даних є обов’язковими.
11. Що означає «калібрування» в клінічній моделі AI і чому це важливо?
- A) Як швидко працює модель
- Б) Скільки параметрів має модель?
- C) Колір інтерфейсу моделі
- D) Сумісність ймовірностей, заданих моделлю, з фактичними частотами подій ✔
Пояснення: калібрування — це підгонка ймовірностей, наданих моделлю, до фактичних частот: подія насправді має відбутися приблизно у 20% пацієнтів, для яких зазначено «20% ризик». Оскільки рішення в клініці приймаються на основі порогів ймовірності, погано відкалібрована модель призведе до неправильних порогових рішень, навіть якщо вона має правильний рейтинг; тому необхідно перевірити калібрування, а також дискримінацію (AUC).
12. Чому «продуктивність підгрупи» слід окремо перевіряти в моделях зображень, сигналів або клінічних даних?
- A) Просто повної точності завжди достатньо
- B) Оскільки підгрупи впливають на швидкість моделі
- C) Загальний показник може приховати недостатню ефективність і упередженість у конкретних групах пацієнтів ✔
- D) Аналіз підгруп необхідний лише для маркетингу
Пояснення: хоча модель може виглядати добре в середньому, вона може працювати значно гірше в певних підгрупах (вік, стать, колір шкіри, тип пристрою, лікарня); Загальна метрика приховує цю нерівність. У сфері охорони здоров’я це призводить до систематичної шкоди деяким групам пацієнтів; Тому для справедливості показники слід розділити на підгрупи та повідомити.
13. Який найкращий підхід проти ризику «повторної ідентифікації» під час роботи з даними пацієнтів?
- A) За будь-яких обставин достатньо просто видалити ім’я.
- B) Узагальніть непрямі ідентифікатори, а також прямі ідентифікатори та обмежте доступ ✔
- C) Якщо дані належать невеликій кількості людей, запобіжні заходи не потрібні
- D) Просто зміна назви файлу замість шифрування
Опис: навіть видалені дані можна повторно ідентифікувати за допомогою рідкісних комбінацій діагнозу, дати народження, поштового індексу та дати. Отже, недостатньо просто витягнути прямі ідентифікатори; Такі методи, як зсув дати, узагальнення, k-анонімність і контроль доступу, слід застосовувати разом, а конфіденційний вільний текст також слід очистити.
14. Яка головна причина підтримки наскрізного «людино-в-петлі» контролю в біомедичному робочому процесі ШІ?
- А) Людський контроль створює лише повільність і його слід усунути
- B) Якщо показник достовірності моделі високий, перевірка людиною непотрібна
- C) Немає жодної практичної причини, крім юридичного зобов’язання
- D) ШІ схильний до упередженості та помилок; Рішення щодо безпеки пацієнтів та відповідальність повинні залишатися за кваліфікованим спеціалістом ✔
Опис: Штучний інтелект генерує, розставляє пріоритети та складає проекти гіпотез; але шаблони, які він вивчає з даних, можуть бути неповними, упередженими або поза контекстом. Вкрай важливо, щоб рішення щодо безпеки пацієнтів залишалися за схваленням уповноваженого лікаря та інженера, як для виявлення помилок, так і для збереження відповідальності на належному місці; AI не замінює це схвалення на жодному етапі.