Lợi nhuận:
- Khả năng nhận dạng thông tin nhận dạng được nhúng (dữ liệu tiêu đề và dữ liệu cố định) trong hình ảnh DICOM và áp dụng các quy tắc ẩn danh và chia sẻ an toàn
- Khả năng đánh giá nghiêm túc việc xác thực, mức độ bằng chứng, phê duyệt theo quy định (CE/quy định) và xác thực cục bộ của mô hình AI
- Khả năng giải quyết các vấn đề đạo đức như sai lệch thuật toán, sự đồng ý của bệnh nhân, trách nhiệm và tính minh bạch trong bối cảnh hình ảnh
Dữ liệu phóng xạ là một trong những loại dữ liệu cá nhân nhạy cảm nhất. Một hình ảnh không chỉ truyền tải một căn bệnh mà còn truyền tải căn bệnh đó của ai; MRI não có thể xác định một người thông qua việc tái tạo khuôn mặt, tệp DICOM lưu trữ tên, số nhận dạng và ngày sinh của bệnh nhân trong tiêu đề của nó. Trong thời đại trí tuệ nhân tạo, thật dễ dàng để tải dữ liệu này vào một công cụ, chia sẻ hoặc sử dụng nó để đào tạo một mô hình — và chính sự dễ dàng này đã tạo ra rủi ro lớn nhất về quyền riêng tư. Trong phần này, chúng ta sẽ thảo luận từ đầu đến cuối về vấn đề ẩn danh DICOM, KVKK/quyền riêng tư, xác thực mô hình và đạo đức.
Nguyên tắc cốt lõi: Hình ảnh và báo cáo X quang là dữ liệu cá nhân đặc biệt. Dữ liệu nhận dạng trong tiêu đề DICOM và được nhúng trong hình ảnh không nhập vào bất kỳ công cụ bên ngoài nào mà không được ẩn danh. Độ tin cậy của một mô hình; Việc xác nhận được đánh giá theo mức độ bằng chứng, phê duyệt theo quy định và xác minh của địa phương. Trách nhiệm, chữ ký và quyết định cuối cùng luôn thuộc về bác sĩ X quang.
DICOM mang nhận dạng trong hai lớp
Dữ liệu X quang, không giống như các dữ liệu sức khỏe khác, mang danh tính ở hai lớp riêng biệt và việc ẩn danh sẽ không đầy đủ nếu không xóa cả hai.
1. Tiêu đề DICOM: Các trường có cấu trúc ở đầu tệp hình ảnh - tên bệnh nhân, số nhận dạng/giao thức, ngày sinh, giới tính, cơ quan, ngày khám, thiết bị. Những khu vực này có thể bị xóa/che đi bằng một công cụ, nhưng nếu bị quên, hình ảnh sẽ tiếp tục mang thông tin nhận dạng trong khi được cho là "ẩn danh".
2. Dữ liệu được ghi sẵn: Trong một số hình ảnh—đặc biệt là siêu âm, chụp màn hình soi huỳnh quang, quét bên ngoài—thông tin bệnh nhân được ghi trực tiếp vào pixel. Việc xóa tiêu đề không loại bỏ phần này; văn bản nhúng phải được che đi (che đi) hoặc vùng đó phải được cắt bớt.
Ngoài ra, rủi ro tái tạo khuôn mặt: khuôn mặt có thể được tái tạo ba chiều từ CT và MRI đầu/não có độ phân giải cao; Đây cũng là một hình thức tiết lộ danh tính và trong một số bối cảnh, yêu cầu phải "làm xấu mặt".
lớp
ở đâu
Làm thế nào để làm sạch
nếu bị lãng quên
Tiêu đề DICOM
Tiêu đề tập tin
Công cụ ẩn danh
ID vẫn mở
văn bản nhúng
pixel nội bộ
Tạo mặt nạ/cắt xén
Hình ảnh mang bản sắc
dữ liệu khuôn mặt
Chế độ xem đầu 3D
làm xấu mặt
Có thể nhận biết bằng khuôn mặt
Văn bản báo cáo
RIS/văn bản
Xóa tên/số
Người đó được xác định
KVKK và chia sẻ an toàn
Tại Türkiye, KVKK (Luật bảo vệ dữ liệu cá nhân) coi dữ liệu sức khỏe là "dữ liệu cá nhân có tính chất đặc biệt" ở mức bảo vệ cao nhất; Ở châu Âu, nó tương đương với GDPR. Các quy tắc cơ bản: chỉ xử lý dữ liệu ở mức cần thiết cho mục đích cần thiết; khử ẩn danh bên ngoài tổ chức; Nếu bạn định sử dụng nó trong đào tạo mô hình, hãy cung cấp cơ sở pháp lý và sự đồng ý rõ ràng nếu cần thiết; Biết dữ liệu của bạn đi đâu. Tải hình ảnh/báo cáo không ẩn danh lên công cụ AI công khai là vi phạm dữ liệu. Các công cụ của công ty có thỏa thuận xử lý dữ liệu (DPA), không sử dụng dữ liệu của bạn trong đào tạo mô hình và tốt nhất nên làm việc nội bộ/tại địa phương.
Lưu ý: Nói "Tôi vừa xóa họ" hoặc "công cụ này đã được bảo mật" không phải là ẩn danh. Không có dữ liệu nào được đưa ra ngoài tổ chức mà không xóa tất cả tên, ID TR, số giao thức/kiểm tra, ngày sinh, thông tin liên hệ, tổ chức và dữ liệu nhận dạng được nhúng/tiêu đề. Ẩn danh không phải là thói quen, không phải là nhiệm vụ chỉ làm một lần.
Xác thực mô hình: khi nào cần tin cậy một mô hình
Nói rằng một mô hình “hoạt động” là chưa đủ; Cần phải hỏi nó hoạt động như thế nào, ở đâu và bao nhiêu.
- Xác thực và mức độ bằng chứng: Trong nhóm dân số nào, trong bao nhiêu trường hợp, mô hình đã được thử nghiệm với số liệu nào (độ nhạy, độ đặc hiệu, âm tính giả)? Có bằng chứng độc lập được công bố không?
- Phê duyệt theo quy định: Sản phẩm có được phê duyệt là thiết bị y tế không (ví dụ: dấu CE, phê duyệt theo quy định có liên quan)? Việc sử dụng nào được bao gồm trong sự chấp thuận?
- Xác minh cục bộ: Bước quan trọng nhất. Mô hình đã được thử nghiệm trên thiết bị của riêng bạn, giao thức của riêng bạn, dân số của riêng bạn chưa? Sự trôi dạt phân phối (giảm hiệu suất khi một người rời khỏi điều kiện đào tạo) không được nhận thấy nếu không có sự xác nhận của địa phương.
- Truy xuất nguồn gốc: Phiên bản mô hình, bản cập nhật và thay đổi hiệu suất có được theo dõi không?
Khía cạnh đạo đức
Sai lệch thuật toán: Nếu mô hình được đào tạo trên một nhóm dân số cụ thể, nó có thể hoạt động kém hơn ở các nhóm khác (tuổi, giới tính, dân tộc, bệnh hiếm gặp) và làm tăng thêm sự bất bình đẳng. Sự đồng ý và minh bạch của bệnh nhân: Bệnh nhân có nên biết rằng trí tuệ nhân tạo đang được sử dụng trong chẩn đoán của mình hay không; Làm thế nào để tổ chức thực hiện điều này minh bạch? Trách nhiệm pháp lý: Nếu kết quả đọc có sự hỗ trợ của AI mắc lỗi, ai chịu trách nhiệm - câu trả lời thuộc về bác sĩ X quang đã phê duyệt; AI không đảm nhận trách nhiệm. Tiếp cận công bằng: Nếu các công cụ AI có sẵn ở một số trung tâm mà không có ở những trung tâm khác thì đây có thể là nguồn gốc của sự bất bình đẳng.
ba trường hợp nhỏ
Trường hợp 1 - Vi phạm văn bản nhúng. Một bác sĩ tải lên một hình ảnh siêu âm thú vị, làm sạch tiêu đề của nó và tải nó lên một công cụ AI công khai. Nhưng ở góc ảnh có tên bệnh nhân và số phác đồ được khắc vào pixel; Mặc dù tiêu đề rõ ràng nhưng nó vẫn mang ID bài đăng được nhúng. Tổ chức gặp phải thông báo KVKK. Cách chính xác là che khu vực được nhúng và chia sẻ nó như thế.
Trường hợp 2 - Phổ biến mà không có sự xác minh của địa phương. Một trung tâm thường xuyên giới thiệu một mô hình tuổi xương được đào tạo cho người dân nước ngoài mà không hề xác nhận nó trong nhóm bệnh nhân của chính mình. Nhiều tháng sau, người ta nhận thấy rằng mô hình này bị sai lệch một cách có hệ thống trong quần thể của nó. Nếu việc xác minh cục bộ được thực hiện, điều này sẽ được nhìn thấy ngay từ đầu. Bài học: ngay cả phê duyệt theo quy định cũng không thể thay thế cho xác minh của địa phương.
Trường hợp 3 - Báo cáo ẩn danh. Một bác sĩ X quang muốn thảo luận về một trường hợp khó với đồng nghiệp của mình thông qua công cụ AI. Ông viết lại câu chuyện là "Người phụ nữ 62 tuổi, có tiền sử mắc bệnh ung thư vú" thay vì "Ayşe Yılmaz, nghị định thư 2024-114523, ung thư vú"; Chia sẻ hình ảnh với tiêu đề DICOM bị xóa và văn bản nhúng bị che. Cuộc thảo luận lâm sàng diễn ra, không có danh tính nào được tiết lộ. Việc ẩn danh phù hợp cho phép sử dụng AI an toàn.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Ayşe Yılmaz, TC 123..., giao thức 2024-114523, ung thư vú, giải thích MRI này.
Danh tính được chia sẻ công khai; Đây là vi phạm KVKK, lẽ ra nó phải dừng lại trước khi lời nhắc được viết.
Lời nhắc mạnh mẽ:
Vai trò của bạn: trợ lý kiểm soát ẩn danh. Xóa tên, ID TR, số giao thức/bài kiểm tra, ngày sinh, thông tin liên hệ và tổ chức của bạn khỏi văn bản bên dưới; thay thế nó bằng "[đã xóa]". Chỉ để lại thông tin ẩn danh cần thiết về mặt lâm sàng (nhóm tuổi, giới tính, lịch sử liên quan). Cũng xin nhắc tôi: nếu tôi định chia sẻ một hình ảnh, tôi cũng cần xóa tiêu đề DICOM và văn bản được nhúng trong hình ảnh, đồng thời xem xét dữ liệu khuôn mặt trong hình ảnh đầu/não. Văn bản: [dán văn bản]
Lời nhắc mạnh mẽ trích xuất ID, nhắc nhở dữ liệu nhúng/tiêu đề và khuôn mặt.
Mẫu lời nhắc có thể sao chép
MẪU KIỂM SOÁT ẨN DANH Vai trò của bạn: trợ lý ẩn danh. Trích xuất tên, số TR ID, số giao thức/số kiểm tra, ngày sinh, thông tin liên hệ và tổ chức từ văn bản; Nhập "[đã xóa]". Chỉ để lại thông tin ẩn danh cần thiết về mặt lâm sàng. Nhắc tôi rằng nếu tôi định chia sẻ một hình ảnh, tôi cần xóa dữ liệu tiêu đề + nhúng + khuôn mặt. Văn bản: [viết]
MẪU TRUY VẤN XÁC THỰC MÔ HÌNH Vai trò của bạn: TRỢ LÝ. Tôi sẽ đánh giá một mô hình AI. Tạo ra các câu hỏi mà tôi cần đặt ra: số lượng/số liệu về dân số/trường hợp, phạm vi phê duyệt theo quy định, việc xác thực cục bộ đã được thực hiện chưa, nguy cơ sai lệch phân phối, theo dõi phiên bản. Quyết định nằm trong tay cơ quan. Thông tin mẫu: [mùa hè]
MẪU KIỂM TRA ĐẠO ĐỨC/BIAS sẽ cung cấp cho bạn bối cảnh sử dụng mô hình AI. Đánh giá sai lệch thuật toán (có thể hoạt động kém trong nhóm), sự đồng ý/minh bạch của bệnh nhân, trách nhiệm giải trình và khả năng tiếp cận công bằng; Viết câu hỏi mà tổ chức nên hỏi dưới mỗi tiêu đề. Bối cảnh: [viết]
MẪU QUYỀN RIÊNG TƯ DỮ LIỆUI sẽ cung cấp cho bạn kịch bản gửi dữ liệu đến công cụ AI. Tạo một danh sách kiểm tra hỏi dữ liệu sẽ đi đâu, liệu nó có được lưu trữ hay không, liệu nó có được sử dụng trong đào tạo mô hình hay không và trạng thái cơ sở pháp lý/DPA của nó. Nhắc nhở chúng tôi về nghĩa vụ ẩn danh đối với các phương tiện bên ngoài. Kịch bản: [viết]
Những lỗi thường gặp
- Chỉ cần xóa tiêu đề và quên đi phần văn bản được nhúng. Hình ảnh vẫn mang bản sắc.
- Bỏ qua dữ liệu khuôn mặt. Một người có thể được nhận dạng từ hình ảnh 3D đầu/não.
- Thay thế phê duyệt theo quy định cho xác nhận địa phương. Sự đồng ý cho biết phạm vi; Nó không đảm bảo hiệu suất trên dữ liệu của riêng bạn.
- Không hỏi về sai lệch thuật toán. Mô hình này có thể hoạt động kém đối với một số nhóm, làm gia tăng sự bất bình đẳng.
- Chuyển giao trách nhiệm cho AI. Chữ ký là của bác sĩ X quang; Trách nhiệm đối với sai sót thuộc về con người.
Mẹo: Trước khi gửi bất kỳ dữ liệu nào ra ngoài tổ chức, hãy hỏi một câu hỏi: "Nếu dữ liệu này bị rò rỉ, liệu bệnh nhân có thể được xác định danh tính không?" Nếu câu trả lời là “có” hoặc “không chắc chắn”, dữ liệu chưa được ẩn danh - đừng gửi nó.
Tóm lại
Hình ảnh và báo cáo X quang là dữ liệu cá nhân đặc biệt và cần được bảo vệ ở mức cao nhất trong phạm vi KVKK/GDPR. Dữ liệu DICOM mang thông tin nhận dạng trong hai lớp — tiêu đề và văn bản được nhúng trong hình ảnh — và không có dữ liệu nào rời khỏi doanh nghiệp mà không bị xóa cả hai, cũng như dữ liệu khuôn mặt nếu cần. Để tin cậy một mô hình, việc xác thực, mức độ bằng chứng, phê duyệt theo quy định và xác thực cục bộ, đặc biệt là trong thiết bị/dân số của chính bạn, đều được đánh giá; Sự phê duyệt theo quy định không thể thay thế cho việc xác minh tại địa phương. Trong khía cạnh đạo đức, sự thiên vị về thuật toán, sự đồng ý của bệnh nhân, tính minh bạch, quyền truy cập công bằng và trách nhiệm đều bị đặt câu hỏi. Trong mọi trường hợp, chữ ký, trách nhiệm và quyết định cuối cùng thuộc về bác sĩ X quang.
Nhiệm vụ ứng dụng
Tạo một văn bản thực tế và một kịch bản chia sẻ hình ảnh. Ẩn danh văn bản bằng mẫu "Kiểm tra ẩn danh" và liệt kê các bước kiểm tra dữ liệu khuôn mặt/văn bản nhúng/tiêu đề. Sau đó, đánh giá mô hình bạn đang sử dụng (hoặc đang xem xét) bằng mẫu “Truy vấn xác thực mô hình”: dân số, phạm vi xác thực, trạng thái xác thực cục bộ. Cuối cùng, với mẫu “Đạo đức/Kiểm soát thành kiến”, hãy viết ra những nhóm mà mô hình này có thể hoạt động kém và các câu hỏi về tính minh bạch/trách nhiệm giải trình.
danh sách kiểm tra
- [ ] Tôi đã xóa các trường ID trong tiêu đề DICOM.
- [ ] Tôi đã che/cắt văn bản cố định trong hình ảnh.
- [ ] Tôi đã đánh giá rủi ro của dữ liệu khuôn mặt trong hình ảnh đầu/não.
- [ ] Tôi đã ẩn danh văn bản báo cáo/câu chuyện (tên, ID, giao thức, ngày sinh).
- [ ] Tôi đã đặt câu hỏi về luồng dữ liệu và DPA/cơ sở pháp lý cho công cụ bên ngoài.
- [ ] Tôi đã kiểm tra phạm vi xác thực và xác thực cục bộ của mô hình.
- [ ] Tôi đã đánh giá sự thiên vị về mặt thuật toán, tính minh bạch và trách nhiệm giải trình; Tôi có chữ ký.