Lợi nhuận:
- Khả năng phân biệt nơi trí tuệ nhân tạo tiết kiệm thời gian thực trong quy trình xử lý hình ảnh (thu thập trước, thu thập, đọc, báo cáo) và nơi các quyết định quan trọng về an toàn (chẩn đoán, công bố báo cáo, thông báo phát hiện quan trọng) được giao cho bác sĩ X quang, tùy thuộc vào mức độ rủi ro nhiệm vụ
- Khả năng áp dụng nguyên tắc kết nối từng đầu ra AI với bối cảnh hình ảnh và lâm sàng, đánh giá độc lập và phê duyệt chữ ký cuối cùng
- Ẩn danh hình ảnh DICOM và dữ liệu báo cáo trong phạm vi KVKK/quyền riêng tư và tạo thói quen chọn phương tiện an toàn
Hàng trăm hình ảnh được truyền qua một đơn vị X quang mỗi ngày. Bóng trên phim X quang ngực là mạch máu bình thường hay là một nốt nhỏ; có chảy máu thầm lặng đằng sau cơn đau đầu của bệnh nhân trên CT não hay không; liệu một cụm vi vôi hóa trên ảnh chụp X quang tuyến vú là lành tính hay là dấu hiệu đầu tiên của bệnh ung thư giai đoạn đầu; Trong chụp cắt lớp kiểm soát, liệu nốt sần đã thực sự phát triển hay chỉ được đo ở một mặt phẳng khác. Một số câu hỏi lặp đi lặp lại và tốn thời gian; Một số trong số đó là những quyết định sẽ trực tiếp quyết định cuộc đời của một con người và biên độ sai sót của chúng phải gần bằng không. Trí tuệ nhân tạo (viết tắt là AI – hệ thống máy tính có thể nhận dạng các mẫu trong hình ảnh, phân loại, đo lường và tạo văn bản) nằm ngay giữa bức tranh này: khi được sử dụng đúng cách, nó sẽ giải quyết vấn đề cấp bách, tăng tốc độ đo lường, soạn thảo báo cáo và cho bạn thời gian để suy nghĩ; Khi sử dụng không đúng cách, nó có thể chuyển kết quả đầu ra có vẻ an toàn nhưng không chính xác sang báo cáo bệnh nhân hoặc khiến bạn tin tưởng sai lầm.
Bài đầu tiên của mô-đun này không phải là phần giới thiệu phần mềm. Mục đích của nó là làm rõ nơi nên đặt AI vào nghề nghiệp của bạn và nơi nào không nên đặt nó. Bởi vì X quang là một lĩnh vực "quan trọng về an toàn": mọi báo cáo bạn đưa ra đều ảnh hưởng đến quyết định chẩn đoán của bác sĩ, kế hoạch phẫu thuật, liều hóa trị, những tuần lo lắng của bệnh nhân. Hãy trình bày nguyên tắc cơ bản ngay từ đầu: Trí tuệ nhân tạo là trợ lý chứ không phải bác sĩ X quang. Việc chẩn đoán, công bố (ký) báo cáo và thông báo phát hiện quan trọng thuộc về chuyên gia có thẩm quyền—bác sĩ X quang báo cáo và bác sĩ lâm sàng tham gia. Đầu ra AI chưa được xác minh là một báo cáo chưa được ký.
Quy trình xử lý hình ảnh và vị trí của AI
Để hiểu công việc của X quang, việc chia quá trình này thành bốn giai đoạn là rất hữu ích. Giai đoạn trước nhổ răng: yêu cầu thăm khám, đánh giá chỉ định (lý do y tế cần khám), lựa chọn phác đồ, chuẩn bị bệnh nhân. Giai đoạn thu nhận: áp dụng phương thức (phương pháp chụp ảnh - chụp X-quang, CT/chụp cắt lớp vi tính, MRI/cộng hưởng từ, siêu âm, chụp nhũ ảnh), điều chỉnh liều lượng và chất lượng. Giai đoạn đọc: bác sĩ X quang đánh giá hình ảnh, đo đạc, so sánh với các lần khám trước. Giai đoạn báo cáo: cấu trúc các phát hiện, viết kết luận, báo cáo phát hiện quan trọng và gửi báo cáo cho bác sĩ lâm sàng. AI có thể chạm vào cả bốn giai đoạn, nhưng không phải mỗi giai đoạn đều có thẩm quyền như nhau.
Khi nói đến “phương thức”, chúng tôi muốn nói đến phương thức hình ảnh. "Phát hiện" là tình huống bất thường hoặc nổi bật được phát hiện trong ảnh. "Xử lý" có nghĩa là đưa những trường hợp khẩn cấp lên đầu danh sách công việc. “Âm tính giả” là thiếu một phát hiện thực sự tồn tại; Đây là loại lỗi đáng sợ nhất trong X quang vì nó gây hại một cách âm thầm. AI có thể tạo ra tín hiệu ưu tiên, cờ hoặc báo cáo dự thảo để kiểm tra; Nhưng chỉ có bác sĩ X quang mới đánh giá liệu những điều này có phù hợp với tình trạng lâm sàng, tiền sử và các lần khám trước đó của bệnh nhân hay không.
Bảng sau đây tóm tắt vai trò và mức độ rủi ro của AI theo nhiệm vụ:
Nhiệm vụ
Vai trò của AI
Mức độ rủi ro
Ai phê duyệt
Ước tính khối lượng công việc, lập kế hoạch danh sách công việc
máy gia tốc, kế hoạch
thấp
Người quản lý đơn vị
Khuyến cáo về phác đồ/liều lượng
Đề xuất, đã kiểm tra
Thấp-Trung bình
Kỹ thuật viên + bác sĩ X quang
Viết dự thảo báo cáo
máy phát điện phác thảo
trung bình
bác sĩ X quang
Đo tự động (nốt, thể tích)
Máy tính, đã kiểm tra
trung bình
bác sĩ X quang
Cờ phân loại/ưu tiên
Ưu tiên, không phải là lời cuối cùng
Trung bình-Cao
Bác sĩ X quang (vẫn đọc)
Đánh dấu tổn thương (CAD)
Người sàng lọc trước, con mắt thứ hai
cao
Bác sĩ X quang (đưa ra chẩn đoán)
Cảnh báo phát hiện quan trọng
nhắc nhở, dự thảo
rất cao
Bác sĩ X quang (xác nhận + báo cáo)
Chẩn đoán/báo cáo cuối cùng
không hữu ích
rất cao
Bác sĩ X quang + bác sĩ lâm sàng
Hãy ghi nhớ một dòng trong biểu đồ này: khi rủi ro tăng lên, vai trò của AI sẽ thu hẹp lại, sự chấp thuận của con người sẽ tăng lên. AI không thể “miễn” một nghiên cứu ở bất kỳ lĩnh vực nào.
Tại sao xác minh là trọng tâm của doanh nghiệp này
Trí tuệ nhân tạo có vẻ tự tin vào kết quả đầu ra mà nó mang lại, nhưng có thể không chắc chắn. Mô hình hình ảnh có thể bỏ lỡ một phát hiện (âm tính giả) hoặc gắn cờ một phát hiện không tồn tại (dương tính giả). Mặt khác, các mô hình ngôn ngữ tạo văn bản có thể thêm một phát hiện không thực sự có trong hình ảnh vào báo cáo bằng một câu trôi chảy, giống như thể nó là sự thật; điều này được gọi là ảo giác. Ví dụ: một câu "u tuyến thượng thận phải" có thể được đưa vào dự thảo báo cáo CT ngực mà chưa bao giờ được xem xét. Cả hai bẫy đều có tính lưu loát như nhau; Điều duy nhất phân biệt đúng và sai là chuyên môn và thói quen xác minh của bạn.
Kỷ luật xác minh bao gồm ba bước:
- Liên kết tới hình ảnh: Ghép mọi phát hiện về cờ AI và mọi câu nó viết vào báo cáo với chính hình ảnh đó. Bất kỳ biểu thức nào không có giá trị tương đương trong hình ảnh đều không thể được đưa vào báo cáo. Sử dụng AI để thu hút sự chú ý chứ không phải làm bằng chứng.
- Đọc độc lập/đánh giá lại: Đảm bảo đọc những chỗ chưa được AI đánh dấu. Kết quả đầu ra AI âm không phải là sự đảm bảo cho việc “không có phát hiện nào”; Đừng bao giờ bỏ qua việc sàng lọc có hệ thống của riêng bạn.
- Bộ lọc lâm sàng: Kiểm tra bằng con mắt của chuyên gia xem kết quả đầu ra có mâu thuẫn với tiền sử, chỉ định, các lần khám trước đó và kết quả thăm khám của bệnh nhân hay không.
Thận trọng: Việc ký vào một báo cáo dự thảo do AI tạo ra mà không khớp từng câu với hình ảnh sẽ có trách nhiệm tương tự như việc gửi một báo cáo chưa được ký. Đầu ra mượt mà là đầu ra không chính xác.
Quyền riêng tư: dữ liệu hình ảnh là dữ liệu riêng tư
Hình ảnh và báo cáo X quang là dữ liệu cá nhân đặc biệt và được bảo vệ theo KVKK (Luật bảo vệ dữ liệu cá nhân) ở Türkiye và GDPR ở Châu Âu. Hơn nữa, dữ liệu X quang mang nhận dạng ở hai lớp riêng biệt: tiêu đề DICOM (các trường như tên bệnh nhân, số nhận dạng, ngày sinh, cơ quan, ngày khám ở đầu tệp hình ảnh) và đôi khi là văn bản in sẵn (thông tin bệnh nhân được ghi lại từ màn hình siêu âm hoặc máy quét và được xử lý thành pixel). Tải hình ảnh hoặc báo cáo vào công cụ AI công khai sẽ hiển thị cả hai lớp. Quy tắc rất đơn giản: trước tiên hãy ẩn danh. Xóa tiêu đề DICOM, che văn bản nhúng; Khi chia sẻ câu chuyện, hãy viết "Người phụ nữ 62 tuổi, có tiền sử mắc bệnh ung thư vú" thay vì "Ayşe Yılmaz, nghị định thư 2024-114523, ung thư vú." Nếu có thể, hãy chọn các công cụ của công ty có thỏa thuận xử lý dữ liệu và không sử dụng dữ liệu của bạn trong đào tạo mô hình.
ba trường hợp nhỏ
Trường hợp 1 - Sử dụng an toàn. Một bác sĩ X quang phải đối mặt với danh sách công việc gồm 40 lần chụp CT não trong ca làm việc bận rộn. Triage AI đưa ra hai xét nghiệm là "có thể xuất huyết cấp tính". Bác sĩ X quang đọc hai thông tin này trước tiên, phát hiện một vết chảy máu dưới màng cứng rất lớn ở một bên và gọi phẫu thuật thần kinh trong vòng 6 phút; Anh ta thấy rằng cái còn lại là một tạo tác chuyển động và loại bỏ nó. Anh ấy đọc đầy đủ 38 nghiên cứu còn lại theo thứ tự. AI thay đổi thứ tự, không loại bỏ việc đọc; Sự kiện quan trọng đã đạt được số phút.
Trường hợp 2 - Bẫy nháp chưa được xác minh. Một bác sĩ X quang khác nhanh chóng ký vào bản báo cáo dự thảo do AI tạo ra cho chụp CT ngực. Dự thảo có câu “u tuyến thượng thận phải 2cm”; trong khi không có tổn thương nào như vậy ở phần đó—mô hình đã tạo ra ảo giác. Bằng hình thức này, báo cáo sẽ được chuyển đến bác sĩ lâm sàng và bệnh nhân được đưa vào một chuỗi kiểm tra nội tiết không cần thiết. Xác thực bị bỏ qua, câu không khớp với hình ảnh.
Trường hợp 3 - Vi phạm bí mật. Một kỹ thuật viên tải hình ảnh siêu âm mà anh ta thấy thú vị, có gắn tên bệnh nhân lên đó, lên một công cụ AI công khai và hỏi "đây có thể là gì?" Hình ảnh được chuyển tới máy chủ bên ngoài cùng với ID bệnh nhân. Tổ chức này phải đối mặt với sự đánh giá của KVKK. Cách đúng đắn là che giấu văn bản được nhúng, xóa tiêu đề DICOM và chỉ chia sẻ hình ảnh ẩn danh.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Viết báo cáo CT ngực này: Ayşe Yılmaz, TC 123..., giao thức 2024-114523, tôi nghĩ có thứ gì đó trong phổi.
Yêu cầu này sai ở ba khía cạnh: thông tin nhận dạng được chia sẻ (vi phạm KVKK), các phát hiện và chi tiết về phương thức không được đưa ra, vai trò và ranh giới không được xác định. AI lấp đầy những khoảng trống bằng phỏng đoán và có nguy cơ phát hiện sai.
Lời nhắc mạnh mẽ:
Vai trò của bạn: Trợ lý chuẩn bị BẢN THẢO cho bác sĩ X quang báo cáo. Đừng chẩn đoán, đừng coi báo cáo là đầy đủ. Tạo BẢN DỰ THẢO có cấu trúc chỉ dựa trên những phát hiện tôi cung cấp cho bạn; thêm bất kỳ phát hiện nào không tương ứng với hình ảnh; Đánh dấu khu vực bạn không chắc chắn là "[hãy để bác sĩ X quang xác nhận]". Bệnh nhân: nữ 62 tuổi, ho, có tiền sử hút thuốc lá. Phương pháp: CT ngực không cản quang. Kết quả đưa ra: nốt sần mật độ mô mềm 8 mm ở thùy trên bên phải; Không có hạch bạch huyết có kích thước bệnh lý ở trung thất; Không có tràn dịch màng phổi. Tiêu đề: Thông tin lâm sàng, Kỹ thuật, Kết quả, Kết luận, Khuyến nghị.
Ý chí mạnh mẽ là ẩn danh, xác định vai trò và ranh giới, đưa ra phương thức và phát hiện, cấm bịa đặt và yêu cầu dấu hiệu xác minh.
Mẫu lời nhắc có thể sao chép
MẪU MÔ TẢ VAI TRÒ VÀ GIỚI HẠN Vai trò của bạn: Trợ lý chuẩn bị BẢN THẢO cho bác sĩ X quang báo cáo. Bạn không phải là bác sĩ X quang; đưa ra chẩn đoán, đưa ra báo cáo, báo cáo những phát hiện quan trọng. Sự phê duyệt và chữ ký cuối cùng thuộc về bác sĩ X quang. Không thêm bất kỳ phát hiện nào không tương ứng với hình ảnh; Nếu bạn không chắc chắn, hãy đánh dấu là "[để bác sĩ X quang xác nhận]", đừng bịa đặt. Nhiệm vụ: [viết nhiệm vụ].
MẪU KIỂM SOÁT ẨN DANHTrích xuất tên, ID TR, số giao thức/kiểm tra, ngày sinh, thông tin liên hệ và tổ chức từ văn bản bên dưới; Thay vào đó hãy viết "[đã xóa]". Chỉ để lại thông tin liên quan đến lâm sàng (nhóm tuổi, giới tính, tiền sử liên quan). Lưu ý: Nhắc tôi rằng nếu tôi định chia sẻ một hình ảnh, tôi cũng cần phải xóa tiêu đề DICOM và văn bản được nhúng trong hình ảnh đó. Văn bản: [dán văn bản]
MẪU KIỂM TRA XÁC NHẬN Đối với mỗi tuyên bố phát hiện trong bản dự thảo mà bạn tạo ra, hãy cho biết: (1) phát hiện này dựa trên thông tin đầu vào nào, (2) nội dung trong hình ảnh cần được xác minh là gì, (3) nó phụ thuộc vào bối cảnh lâm sàng ở đâu. Sử dụng ngôn ngữ "có thể/nghi ngờ" khi cần thiết, thay vì tuyên bố dứt khoát.
MẪU SẮP XẾP MỨC ĐỘ RỦI RO Đặt và chứng minh nhiệm vụ chụp X quang mà tôi sẽ phân cho bạn thành các loại sau: (A) rủi ro thấp - phác thảo/khuyến nghị AI đầy đủ, (B) rủi ro trung bình -bác sĩ X quang phải xác nhận, (C) rủi ro cao/rất cao - chẩn đoán/quyết định/thông báo thuộc về bác sĩ X quang, AI chỉ là phụ trợ. Nhiệm vụ: [viết nhiệm vụ].
Những lỗi thường gặp
- Nhầm AI với bác sĩ X quang. AI quét các mẫu nhưng không có trách nhiệm và không có chữ ký; Chẩn đoán là của bạn. Đầu ra là một bản dự thảo, không phải là một quyết định.
- Quên đi danh tính gắn liền với hình ảnh. Xóa tiêu đề DICOM là chưa đủ; Tên được khắc bằng pixel trên hình ảnh siêu âm/máy quét cũng phải được ẩn danh.
- Dựa vào đầu ra AI tiêu cực và thư giãn quá trình quét. “Không có dấu hiệu” không có nghĩa là không tìm thấy; Đừng bao giờ bỏ qua việc đọc có hệ thống của riêng bạn.
- Ký dự thảo báo cáo không khớp. Bạn có thể thêm một phát hiện không phải là mô hình; Mỗi câu phải được xác minh bằng hình ảnh.
- Không đưa ra bối cảnh lâm sàng. Việc giải thích mà không có dấu hiệu, lịch sử hoặc kiểm tra trước đó là sai lệch.
Mẹo: Đối với mỗi lần khám, hãy tự hỏi mình một câu hỏi: "Điều gì xảy ra với bệnh nhân nếu bản in này không chính xác?" Nếu câu trả lời là nghiêm túc - và trong X quang thường là như vậy - chỉ sử dụng AI để tìm nạp trước/phác thảo/đo lường và không bao giờ bỏ qua quá trình xác thực.
Tóm lại
Trí tuệ nhân tạo là một trợ thủ đắc lực trong X quang: nó đưa ra các trường hợp khẩn cấp, thực hiện các phép đo, tạo ra các bản phác thảo, trở thành con mắt thứ hai. Nhưng vì bạn đang làm việc trong một lĩnh vực quan trọng về mặt an toàn nên việc chẩn đoán, công bố báo cáo và thông báo các phát hiện quan trọng đều thuộc về bác sĩ X quang có trình độ. Vai trò của AI trong bốn giai đoạn của quá trình chụp ảnh (chụp trước, chụp, đọc, báo cáo) khác nhau tùy thuộc vào mức độ rủi ro; Khi rủi ro tăng lên, sự chấp thuận của con người tăng lên. Ba nguyên tắc bảo vệ từng bước: liên kết hình ảnh, đọc độc lập, lọc lâm sàng. Và bên dưới tất cả là tính bảo mật: hình ảnh và báo cáo không được đưa vào bất kỳ thiết bị bên ngoài nào mà không được ẩn danh, bao gồm tiêu đề DICOM và văn bản nhúng.
Nhiệm vụ ứng dụng
Chọn ba nhiệm vụ khác nhau từ đơn vị của bạn (hoặc từ một kịch bản ví dụ): một nhiệm vụ có rủi ro thấp (ví dụ: tóm tắt danh sách công việc hàng ngày), một nhiệm vụ có rủi ro trung bình (ví dụ: soạn thảo báo cáo), một nhiệm vụ có rủi ro rất cao (ví dụ: thông báo phát hiện quan trọng). Đối với mỗi mục, (1) mô tả vai trò của AI trong một câu, (2) viết ra bước xác minh bạn sẽ thực hiện, (3) cho biết cách bạn sẽ ẩn danh dữ liệu (cả văn bản và hình ảnh). Sau đó điều chỉnh mẫu "Định nghĩa vai trò và ranh giới" ở trên cho phù hợp với nhiệm vụ có mức độ rủi ro trung bình của bạn và viết lời nhắc.
danh sách kiểm tra
- [ ] Tôi đã xác định mức độ rủi ro (thấp/trung bình/cao/rất cao) của nhiệm vụ.
- [ ] Tôi giới hạn vai trò của AI ở mức "trợ lý/nuôi dưỡng/dự thảo/biện pháp"; chẩn đoán và chữ ký của bác sĩ X quang.
- [ ] Tôi đã ẩn danh văn bản; Tên, TR ID, giao thức và ngày sinh đã xuất hiện.
- [ ] Tôi lưu ý rằng nếu tôi chia sẻ hình ảnh, tôi sẽ xóa tiêu đề DICOM và văn bản được nhúng.
- [ ] Tôi đã thêm bối cảnh lâm sàng (tuổi, giới tính, chỉ định, tiền sử, khám trước đó) vào lời nhắc.
- [ ] Bất chấp kết quả đầu ra AI tiêu cực, tôi vẫn cam kết thực hiện việc đọc có hệ thống của riêng mình.
- [ ] Tôi sẽ không ký vào bản thảo mà không khớp từng câu với hình ảnh.