Конфиденциальность данных, нормативное регулирование, этика и комплексное управление

Прибыль:

• Понимание того, что данные о здоровье представляют собой данные особого качества, а также правила анонимизации, хранения и обмена в рамках KVKK/законодательства.
• Способность разрабатывать этические принципы (справедливость, прозрачность, подотчетность) и политику корпоративного управления при использовании искусственного интеллекта.
• Возможность создать структуру управления, в которой результаты искусственного интеллекта не заменяют управленческие и клинические решения, а ответственность и окончательное одобрение всегда остаются за человеком.

На протяжении всего этого модуля мы использовали ИИ в качестве ускорителя во всех сферах деятельности: от встреч до коек, от прогнозирования до доходов, от качества до инвентаризации. Но над всеми этими мощными возможностями есть крыша: конфиденциальность данных, соблюдение нормативных требований и этика. Без этой структуры каждый бизнес, который вы ускоряете, также представляет собой повышенный риск. Этот последний блок объединяет разбросанные правила в единую структуру управления. Управление — это система управления, которая определяет, кто, что может делать в учреждении и по каким правилам, а также как работают ответственность и контроль. Давайте еще раз сформулируем основной принцип наиболее четко: результаты ИИ не заменяют управленческие и клинические решения; Ответственность и окончательное одобрение всегда лежат на человеке.

Почему данные о здоровье являются конфиденциальными?

Данные о здоровье – это не обычные данные. В Турции KVKK (Закон о защите персональных данных) рассматривает данные о здоровье как «персональные данные особого характера»; Это означает высочайший уровень защиты. Его европейский эквивалент – GDPR. Если будут раскрыты диагноз пациента, лечение, номер протокола, произойдет необратимый вред: стигма, дискриминация, потеря доверия. Итак, есть несколько основных правил. Анонимизация заключается в удалении из данных всей информации, идентифицирующей человека (имя, идентификатор, протокол, редкий диагноз + сочетание возраста + местоположения). Минимизация данных — это работа с наименьшим объемом данных, который может выполнить всю работу. Ограничение цели означает использование данных только для той цели, для которой они были собраны. Предел хранения не заключается в том, чтобы хранить данные дольше, чем необходимо.

Вставка данных пациента в общедоступный инструмент искусственного интеллекта означает отправку данных на внешний сервер и является серьезным нарушением. Правильный подход: анонимизировать данные, если возможно, выбирать инструменты с корпоративными контрактами и контрактами на обработку данных (которые не используют ваши данные для обучения моделей) и иметь письменную политику, определяющую, какие данные могут попадать в какой инструмент. Помните: когда маленькие кусочки собираются воедино, человека можно переопределить; Хотя «68-летняя женщина» в безопасности, «68-летняя женщина из деревни X с редким заболеванием Y» больше не является анонимной.

Этика и сквозное управление

Хорошее управление ИИ основано на трех этических принципах. Справедливость заключается в том, что ИИ не ставит систематически в невыгодное положение группу пациентов (пожилые, малообеспеченные, сельские жители); Примером этого было неиспользование показателя неявки для исключения. Прозрачность означает возможность объяснить, на чем основано решение; Предпочтительно предложение с видимым обоснованием, а не предложение «черного ящика». Подотчетность означает наличие ответственного лица за каждым решением; «Так сказал ИИ» — это не защита.

Политика управления приводит эти принципы в действие. Хорошая политика определяет: какие данные могут поступать в какое транспортное средство (классификация данных); правила анонимизации; точки одобрения людьми по каждому заданию (кто и что подписывает); подотчетность и контрольный журнал (кто, что и когда сделал — запись следа); и этические принципы. Эта политика объединяет все утверждения «люди решают», которые мы видели на протяжении всего модуля, в единую институциональную структуру.

Внимание: Предложение «ИИ предложил, я реализовал» не является передачей ответственности. Юридически и этически ответственность остается за человеком, который принимает и реализует предложение. Управление делает именно эту ответственность видимой и прослеживаемой.

три мини-кейса

Случай 1 — Риск повторной идентификации. Одно отделение поделилось «анонимным» описанием случая: «Единственный пациент, перенесший трансплантацию сердца в нашем городе, 34-летний мужчина, выписан в прошлом месяце». В этом предложении не было существительного, но сочетание однозначно описывало этого человека. Специалист по качеству возражал против этого; Сочетание редких функций нарушает анонимность. Краткое содержание было переписано путем удаления описательных деталей и его обобщения.

Случай 2 — Значение записи трассировки. В больнице цифры в отчете руководства, составленном с помощью ИИ, оказались неверными, и руководству была отправлена ​​неверная информация. В ходе проверки вопрос «откуда взялась эта цифра, кто ее подтвердил?» спросили. Поскольку политика управления организации требует наличия записи «источник + проверяющий + дата» для каждого результата ИИ, сразу стало очевидно, что ошибка произошла там, где этап проверки был пропущен. Запись следов использовалась для корректировки процесса, а не для поиска преступников.

Случай 3. Политика предотвращает кризис. Новый сотрудник собирался загрузить свой список увольнений в общедоступный инструмент искусственного интеллекта. В четкой политике учреждения говорится, что «никакие файлы, содержащие идентификационные данные пациента, не попадают в открытый инструмент, они сначала анонимизируются, и используется только утвержденный институциональный инструмент». Сотрудник запомнил политику, обезличил данные и использовал утвержденный инструмент. Письменное управление предотвращало индивидуальную ошибку как институциональный рефлекс.

Четыре копируемых шаблона

1) Проект политики классификации данных:

Ваша роль: помощник специалиста по информационной безопасности/качества медицинского учреждения. Составьте классификационную таблицу «Какие данные могут попадать в ИИ» для нашего учреждения: Красный (никогда: идентификатор пациента, идентификатор, протокол), Желтый (анонимный), Зеленый (бесплатный: общедоступный, обезличенный). Напишите примеры и правила для каждого класса. Укажите, что это проект, и его должен утвердить юридический отдел/отдел соблюдения требований.

2) Контрольный список анонимизации:

Подготовьте контрольный список анонимизации, который я проведу, прежде чем передавать какие-либо данные ИИ: есть ли выходные данные имени/TC/протокола, позволяет ли редкая комбинация признаков (возраст+местоположение+редкий диагноз) идентифицировать человека, есть ли ненужное пространство, одобрен ли этот инструмент компанией. Пусть каждый пункт будет отмечен да/нет.

3) Карта точек одобрения человека:

Составьте таблицу «кто одобряет» для следующих областей использования ИИ (отчет, прогноз спроса, приоритет кроватей, код выставления счета, график смен): уровень риска и обязательные полномочия на одобрение человеком для каждой области. Подчеркните необходимость двойного клинического и административного одобрения в зонах высокого риска.

4) Шаблон записи трассировки вывода AI:

Напишите шаблон журнала отслеживания, который нужно заполнить для каждого результата ИИ: дата, использованный инструмент, класс введенных данных (анонимно), сводка результатов, лицо, проверившее, утвердивший менеджер, решение. Укажите, что это необходимо для аудита и подотчетности.

Слабая подсказка / Сильная подсказка

Слабая подсказка:

Передайте данные наших пациентов ИИ и проанализируйте их.

Анонимизация, безопасность автомобиля, отсутствие подтверждения и отсутствие записи следов; Риск прямого нарушения КВКК.

Мощная подсказка:

Разработайте политику управления ИИ для нашей организации: (1) классификация данных (красный/желтый/зеленый), (2) правила анонимизации, (3) точки одобрения человеком для каждого варианта использования, (4) ведение журналов и аудит, (5) принципы справедливости/прозрачности/подотчетности. Укажите, что это проект и требует одобрения на соответствие правовым нормам/соответствию.

Элемент управления

Что обеспечивает

пример

Классификация данных

Определяет, что может войти

идентификатор = никогда

Анонимизация

Защищает человека

Всплывает имя/редкая комбинация

точки одобрения человека

Определяет ответственность

Двойная проверка при высоком риске

послужной список

Проверяемость

Источник + проверяющий + дата

Этические принципы

Справедливая, прозрачная, подотчетная

Использование оценки для исключения

Распространенные ошибки

• Передача идентифицируемых данных, думая, что они «анонимны». Редкое сочетание черт выдает человека.
• Использование неутвержденного инструмента. Данные поступают на внешний сервер.
• Возложение ответственности на ИИ. «ИИ сказал» не является юридической защитой.
• Не ведение учета. При возникновении ошибки вы не можете показать источник и проверку.
• Написание политики, а не реализация ее. Правило на бумаге не защищает, если оно не является рефлексом.

Совет: увенчайте свою политику управления списком «золотых правил», которые умещаются на одной странице и достаточно просты для запоминания: не вводите удостоверение личности, анонимизируйте, используйте одобренный автомобиль, проверяйте, человеческая подпись. Никто не читает длинную политику; Все помнят правило пяти.

В итоге

Оперативная мощь ИИ безопасна только при наличии надежной системы конфиденциальности, законодательства и этики. Данные о здоровье – это данные особого качества; Анонимизация, минимизация данных и одобренный инструмент имеют важное значение. Хорошее управление; Он сочетает в себе классификацию данных, анонимизацию, точки одобрения людей, запись следов и этические принципы (справедливость, прозрачность, подотчетность) в единой структуре. Вот суть этого модуля в одном предложении: ИИ ускоряется, человек решает и несет ответственность. Непроверенные данные ИИ так же рискованны, как и неподписанное управленческое решение.

Задача приложения

Подготовьте одностраничный проект политики управления для вашей организации, используя шаблоны «Запись выходного журнала ИИ» и «Классификация данных». Включите список «золотого правила», состоящий как минимум из пяти пунктов. Затем выберите область использования, которую вы изучили на протяжении всего модуля (например, приоритет кроватей или код выставления счета), и напишите в 5 пунктах, какие этапы утверждения и проверки требуются в этой области в соответствии с этой политикой.

контрольный список

• [ ] Относятся ли данные о состоянии здоровья к особым и применил ли я правила анонимности?
• [ ] Проверил ли я риск повторной идентификации с редкой комбинацией признаков?
• [ ] Определил ли я точку одобрения человеком для каждого варианта использования?
• [ ] Веду ли я учет (источник/проверщик/дата) результатов работы ИИ?
• [ ] Я написал в полисе, что ответственность и окончательное одобрение всегда лежат на человеке?

Модульный экзамен

1. Руководитель больницы напрямую выполняет рекомендации по распределению коек, выработанные искусственным интеллектом, без какой-либо клинической оценки. В чем принципиальная ошибка такого подхода?

• А) Преобразование результатов искусственного интеллекта в решение без его клинической пригодности и административной проверки; Игнорирование того, что ответственность лежит на людях ✔
• Б) Категорически запрещено использовать искусственный интеллект при управлении кроватями.
• В) Искусственный интеллект всегда показывает количество коек больше, чем есть на самом деле.
• Г) Предложение не представлено в таблице.

Описание: Искусственный интеллект выдает статистические рекомендации; Однако распределение коек и приоритет выписки зависят от клинического состояния пациента, и окончательное решение остается за утверждением врача/медсестры и ответственного руководителя. Непроверенный вывод похож на неподписанное решение.

2. Какой из следующих подходов является наиболее подходящим при вводе данных о пациентах в общедоступный инструмент искусственного интеллекта?

• А) Вставка имени пациента и номера протокола, как указано для скорости.
• Б) Удалите идентификационную информацию и обезличьте данные и, если возможно, используйте корпоративный контрактный инструмент ✔
• В) Скройте только имя пациента и оставьте номер TR ID.
• Г) Прежде чем делиться данными, достаточно получить устное разрешение от пациента.

Пояснение: Данные о здоровье — это особые персональные данные. Идентификационная информация, такая как имя, TR ID, номер протокола, должна быть удалена, данные должны быть анонимизированы, и, если возможно, следует отдавать предпочтение корпоративным инструментам обработки данных, заключенным по контракту.

3. Как наиболее целесообразно использовать оценку риска, полученную с помощью искусственного интеллекта, для прогнозирования неявок?

• А) Отказ от записи на прием к пациентам из группы высокого риска
• Б) Игнорировать оценку и применить одну и ту же процедуру ко всем пациентам.
• C) Планирование справедливых и сохраняющих доступ мер, таких как напоминания и перебронирование ✔
• D) Постоянное занесение пациентов из группы высокого риска в черный список.

Пояснение: Оценка риска – это оценка вероятности; Его следует использовать для проведения справедливых вмешательств, таких как плотность напоминаний, избыточное бронирование и облегчение доступа, а не отказ пациентов. Права доступа пациентов должны быть защищены.

4. Какова основная причина работы с доверительными интервалами и сценариями вместо одного числа, заданного искусственным интеллектом, при прогнозировании спроса?

• А) Представление интервала делает отчет длиннее
• Б) Потому что искусственный интеллект не может выдавать отдельные числа.
• В) Потому что доверительный интервал всегда дает истинное значение именно
• Г) Поскольку прогноз предполагает неопределенность, необходимо гибко планировать по сценариям и управлять рисками ✔

Пояснение: Прогноз основан на исторических данных и предполагает неопределенность. Планирование по диапазону, а не по одной точке, позволяет быть готовым к сценариям низкого/высокого спроса и гибко управлять мощностью.

5. Каков наиболее серьезный риск, когда ИИ предлагает коды выставления счетов в цикле получения дохода?

• А) Искусственный интеллект придумывает неверный или неверный код, бегло его подсказывает и без проверки вводит в счет ✔
• Б) Искусственный интеллект производит коды очень медленно
• C) Предложение кода всегда автоматически принимается SGK.
• D) Коды могут быть созданы только на английском языке.

Пояснение: Искусственный интеллект может бегло подсказать код, которого на самом деле не существует или который неверен (галлюцинация). Кодирование и выставление счетов регулируются; Каждый код должен быть проверен авторизованным экспертом с действительными списками транзакций и правилами возврата.

6. На панели показателей качества ИИ интерпретирует внезапное падение показателя как «улучшение». Что должен сделать менеджер?

• А) Представление комментария непосредственно совету директоров
• Б) Выясните, может ли изменение быть связано с качеством данных, изменением определения или отклонением от цели, и проверьте причинно-следственную связь ✔
• В) Снимите индикатор с приборной панели.
• Г) Доверять искусственному интеллекту и не проводить никаких проверок

Пояснение: Изменение показателя может быть вызвано проблемой качества данных, изменением определения или игрой. Администратор должен проверить причинно-следственную связь и источник данных комментария.

7. Какая наиболее распространенная ошибка при анализе свободной текстовой обратной связи об удовлетворенности пациентов с помощью искусственного интеллекта?

• А) Разделение текстов на темы
• Б) Анонимизация обратной связи
• В) Распространение автоматической метки эмоций и выборки на всех пациентов без их проверки ✔
• D) Приоритизация жалоб

Пояснение: Автоматическое обозначение эмоций может привести к иронии, отрицанию и неправильному прочтению контекста; Кроме того, только мнения авторов содержат предвзятость выборки. Обобщения не следует делать без проверки результатов с помощью выборки и чтения.

8. Какова основная цель ABC-анализа в управлении запасами?

• А) Расположим все предметы в алфавитном порядке.
• Б) Учет только препаратов, содержащих витамин А
• В) Уничтожение просроченной продукции.
• D) Классификация объектов запаса по ценности/уровню критичности и определение приоритета управления наиболее важными объектами ✔

Пояснение: ABC-анализ классифицирует объекты запасов с точки зрения ценности/критичности как A (высокая), B (средняя), C (низкая); таким образом, внимание руководства и частота контроля сосредоточены на наиболее важных моментах.

9. Что означает концепция «узкого места» в улучшении процесса?

• А) Ступень с самой узкой пропускной способностью и ограничением скорости всего потока ✔
• Б) Самый быстрый этап процесса
• В) Подразделение, в котором работает больше всего личного состава
• D) Стадия, на которой пациенты наиболее удовлетворены

Описание: Узким местом является этап с наименьшей пропускной способностью, определяющий скорость всего процесса. Усилия по улучшению должны быть сосредоточены в первую очередь на узком месте; улучшение в других местах не ускоряет общий поток.

10. Что должен проверить руководитель перед применением графика, созданного искусственным интеллектом, при планировании смены?

• А) Будет ли диаграмма напечатана в цвете или нет
• Б) Соблюдение трудового законодательства, периодов отдыха, правил клинической компетентности и правосудия ✔
• В) Сколько секунд требуется искусственному интеллекту для создания диаграммы?
• D) Отдает ли график предпочтение самому старшему персоналу

Описание: Диаграмма; Оно должно соответствовать нормам трудового законодательства (максимальная продолжительность рабочего времени, отдых), правам работников, клинической компетентности и справедливости. ИИ может создать черновик, нарушающий эти правила; Окончательное утверждение лежит на руководителе.

11. Что из перечисленного отражает правильный предел использования искусственного интеллекта в управлении здравоохранением?

• А) Искусственный интеллект может принимать все управленческие решения автоматически.
• Б) Искусственный интеллект можно использовать только для написания текста, а не для численного анализа.
• В) Искусственный интеллект – помощник и инструмент поддержки принятия решений; Ответственность и окончательное утверждение важных решений лежит на людях ✔
• D) Искусственный интеллект может принимать решения о погашении без одобрения человека.

Описание: Помощник по искусственному интеллекту, генератор черновиков и инструмент поддержки принятия решений. Ответственность и окончательное утверждение решений, влияющих на распределение ресурсов, расстановку клинических приоритетов и безопасность пациентов, всегда лежат на компетентном специалисте и ответственном руководителе.

12. Почему снижение показателя средней продолжительности пребывания (LOS) само по себе не является достаточным доказательством «успеха»?

• А) Поскольку продолжительность пребывания никогда не может быть измерена
• Б) Поскольку продолжительность пребывания может быть рассчитана только с помощью искусственного интеллекта
• В) Поскольку продолжительность пребывания не имеет никакого отношения к возмещению расходов.
• Г) Если снижение сопровождается увеличением случаев досрочной выписки и повторной госпитализации, безопасность пациентов может быть нарушена, и это следует интерпретировать вместе с соответствующими показателями ✔

Пояснение: Уменьшение времени пребывания может указывать на хорошее использование ресурсов; Однако, если это будет сопровождаться увеличением случаев досрочной выписки и повторной госпитализации, безопасность пациентов может оказаться под угрозой. Индикатор следует интерпретировать вместе с другими соответствующими индикаторами.

13. Каково состояние прогнозирования спроса на основе исторических данных в случае внезапного сбоя, такого как эпидемия или катастрофа?

• А) Предсказание перестает быть руководящим; Экспертное мнение и мониторинг в режиме реального времени играют ведущую роль ✔
• Б) Прогнозирование на основе исторических данных становится наиболее надежным в таких ситуациях.
• В) Прогноз автоматически корректируется, вмешательство не требуется.
• Г) В этих случаях планирование следует полностью прекратить.

Описание: Прогнозы ИИ основаны на прошлых закономерностях. В случае структурных сдвигов, таких как эпидемии, стихийные бедствия или законодательные изменения, прошлые данные перестают быть определяющими; экспертное мнение и мониторинг в режиме реального времени играют ведущую роль.

14. Что из следующего следует включить в корпоративную политику управления ИИ?

• А) Инструменты искусственного интеллекта только какой марки будут приобретены?
• Б) Классификация данных, анонимизация, точки одобрения человека, ответственность/контрольные записи и этические принципы ✔
• В) Правило, согласно которому искусственный интеллект могут использовать только менеджеры.
• Г) Статья, позволяющая искусственному интеллекту самостоятельно принимать все решения.

Описание: Рациональное управление; Он определяет, какие данные и в какой инструмент могут попадать, правила анонимизации, точки одобрения человека, записи об ответственности и аудите, этические принципы (справедливость, прозрачность, подотчетность).