Lợi nhuận:
- Khả năng phân biệt nơi trí tuệ nhân tạo tiết kiệm thời gian thực trong quy trình làm việc trong phòng thí nghiệm (tiền phân tích, phân tích, sau phân tích) và nơi các quyết định quan trọng về an toàn (xác nhận kết quả, giải thích lâm sàng, chẩn đoán) được giao cho chuyên gia, theo mức độ rủi ro nhiệm vụ
- Khả năng áp dụng một nguyên tắc xác thực từng đầu ra AI thông qua các bước liên kết nó với nguồn, tính toán lại và lọc lâm sàng/phân tích.
- Ẩn danh dữ liệu bệnh nhân trong phạm vi KVKK/quyền riêng tư và tạo thói quen chọn phương tiện an toàn
Hàng ngàn quyết định được đưa ra một cách âm thầm mỗi ngày trong phòng thí nghiệm y tế. Liệu một ống sẽ được chấp nhận hay bị từ chối; kết quả kali là có thật hay do tan máu; tế bào nhìn thấy trong phết máu là tế bào lympho bình thường hay tế bào blast; Đây có thể là lý do tại sao creatinine của bệnh nhân đã tăng gấp đôi so với giá trị trước đó. Một số quyết định này lặp đi lặp lại và tốn thời gian; Một số trong số đó là những quyết định có thể ảnh hưởng trực tiếp đến cuộc sống của một người và tỷ lệ sai sót của chúng phải gần bằng không. Trí tuệ nhân tạo (AI hay viết tắt là AI—các hệ thống máy tính có thể tạo văn bản, nhận dạng mẫu, phân loại hình ảnh và thực hiện các phép tính như con người) nằm ngay giữa bức tranh này: khi được sử dụng đúng cách, nó sẽ tăng tốc các tác vụ lặp đi lặp lại và cho bạn thời gian để suy nghĩ; Khi sử dụng không đúng cách, nó có thể mang lại kết quả có vẻ an toàn nhưng không chính xác cho báo cáo bệnh nhân.
Bài đầu tiên của mô-đun này không phải là phần giới thiệu phần mềm. Mục đích của nó là làm rõ nơi nên đặt AI vào nghề nghiệp của bạn và nơi nào không nên đặt nó. Bởi vì khoa học phòng thí nghiệm y tế là một lĩnh vực "quan trọng về an toàn": mọi kết quả bạn đưa ra đều có thể ảnh hưởng đến quyết định chẩn đoán của bác sĩ, liều thuốc, độ trễ phẫu thuật. Hãy nhắc lại nguyên tắc cơ bản ở đây: Trí tuệ nhân tạo là một trợ lý chứ không phải một chuyên gia trong phòng thí nghiệm. Quyết định công bố (xác nhận) kết quả, giải thích lâm sàng và chẩn đoán thuộc về chuyên gia có thẩm quyền—bác sĩ chuyên khoa xét nghiệm và bác sĩ lâm sàng tham gia.
Tổng thể quy trình và địa điểm thử nghiệm AI
Để hiểu công việc trong phòng thí nghiệm, cần chia quá trình này thành ba giai đoạn. Giai đoạn tiền phân tích là giai đoạn từ khi đặt mẫu cho đến khi đưa vào thiết bị: chỉ định xét nghiệm, chuẩn bị bệnh nhân, lấy máu, dán nhãn, vận chuyển, ly tâm. Giai đoạn phân tích là giai đoạn thực hiện phép đo trên thiết bị. Giai đoạn sau phân tích là xác minh, giải thích, báo cáo và cung cấp kết quả cho bác sĩ lâm sàng. Điều thú vị là hầu hết các lỗi trong phòng thí nghiệm đều xảy ra ở giai đoạn tiền phân tích chứ không phải ở giai đoạn phân tích (thiết bị). AI có thể chạm vào cả ba giai đoạn, nhưng không phải mỗi giai đoạn đều có thẩm quyền như nhau.
Khi nói "chất phân tích", chúng tôi muốn nói đến chất hoặc thông số được đo: glucose, creatinine, kali, huyết sắc tố, v.v. "Phạm vi tham chiếu" là phạm vi giá trị mong đợi của chất phân tích trong một nhóm dân số khỏe mạnh và thay đổi theo độ tuổi, giới tính, phương pháp. "Xác nhận" được sử dụng trong phòng thí nghiệm theo hai nghĩa: xác nhận kết quả trước khi công bố và chứng minh độ tin cậy của một phương pháp/phương pháp/mô hình. AI có thể đưa ra cách giải thích sơ bộ rõ ràng về kết quả; Nhưng chỉ có chuyên gia mới đánh giá liệu cách giải thích đó có phù hợp với tình trạng lâm sàng, thuốc và kết quả trước đó của bệnh nhân hay không.
Bảng sau đây tóm tắt vai trò và mức độ rủi ro của AI theo nhiệm vụ:
Nhiệm vụ
Vai trò của AI
Mức độ rủi ro
Ai phê duyệt
Ước lượng khối lượng công việc, phân loại mẫu
máy gia tốc, kế hoạch
thấp
Quản lý phòng thí nghiệm
Viết bản thảo nhận xét kết luận
Trình tạo phác thảo, được điều khiển
trung bình
chuyên gia phòng thí nghiệm
Kiểm tra Delta/tạo cảnh báo QC
Kích thích thống kê
Trung bình-Cao
Chuyên gia (tìm ra nguyên nhân gốc rễ)
Phân loại trước hình ảnh (vết phết, nước tiểu)
Sơ bộ, không bao giờ là lời cuối cùng
cao
Chuyên gia (xác nhận chẩn đoán)
Thông báo giá trị hoảng loạn
Trình duyệt, trình tạo bản nháp
rất cao
Chuyên gia (xác nhận, báo cáo)
Chẩn đoán/quyết định lâm sàng
không hữu ích
rất cao
Bác sĩ + chuyên gia xét nghiệm
Hãy ghi nhớ một dòng trong biểu đồ này: khi rủi ro tăng lên, vai trò của AI sẽ thu hẹp lại, sự chấp thuận của con người sẽ tăng lên.
Tại sao "xác minh" là trọng tâm của doanh nghiệp này
Các mô hình ngôn ngữ trí tuệ nhân tạo có vẻ tự tin vào câu trả lời của mình nhưng có thể họ không chắc chắn. Trong ngôn ngữ kỹ thuật, điều này được gọi là ảo giác: đó là sự bịa đặt của mô hình về thông tin không tồn tại trong một câu trôi chảy, như thể nó là sự thật. Đối với một chuyên gia xét nghiệm, đây là một cái bẫy chết người: mô hình có thể cho bạn biết “kali huyết thanh bình thường ở người trưởng thành là 3,5-5,1 mmol/L” (gần như chính xác), nhưng nó cũng có thể trả lời “phạm vi ferritin bình thường là 30-400 ng/mL đối với mọi người”, bỏ qua sự khác biệt về giới tính (điều này không đầy đủ và gây nhầm lẫn). Vì anh ấy nói cả hai đều trôi chảy như nhau nên điều duy nhất phân biệt đúng sai là kiến thức và thói quen xác minh của bạn.
Kỷ luật xác minh bao gồm ba bước:
- Liên kết tới nguồn: Để biết thông tin như phạm vi tham chiếu, đơn vị, phương pháp, hãy dựa vào hồ sơ xác thực của phòng thí nghiệm của bạn và các nguồn được công nhận (tờ hướng dẫn sử dụng của nhà sản xuất, phương pháp được công nhận, hướng dẫn quốc gia/quốc tế), chứ không phải bộ nhớ của AI. Sử dụng AI để diễn giải dữ liệu này chứ không phải để ghi nhớ nó.
- Tính toán lại/so sánh: Kiểm tra độc lập từng kết quả số, đơn vị và delta mà AI trả về. Đặc biệt, độ đồng nhất của đơn vị xét nghiệm (mg/dL ↔ mmol/L) và phù hợp với kết quả trước đó.
- Bộ lọc lâm sàng và phân tích: Kiểm tra bằng con mắt chuyên gia để xem liệu kết quả đầu ra có xung đột với tình trạng sức khỏe, thuốc men, chất lượng mẫu và trạng thái QC của bệnh nhân hay không.
Lưu ý: Sao chép phần giải thích kết quả do AI tạo ra vào báo cáo bệnh nhân mà không xác minh nó cũng giống như đưa ra một báo cáo kết quả không có chữ ký về mặt trách nhiệm nghề nghiệp của bạn. Nhận xét này không chính xác chỉ vì nó diễn ra trôi chảy.
Quyền riêng tư: dữ liệu bệnh nhân là dữ liệu riêng tư
Dữ liệu phòng thí nghiệm của bệnh nhân (kết quả xét nghiệm, chẩn đoán, số giao thức, thông tin nhận dạng) là dữ liệu cá nhân nhạy cảm và được bảo vệ theo KVKK (Luật bảo vệ dữ liệu cá nhân) ở Türkiye và GDPR ở Châu Âu. Việc dán tên bệnh nhân, số TR ID, số giao thức và chẩn đoán vào một công cụ AI được cung cấp công khai là vi phạm nghiêm trọng. Quy tắc rất đơn giản: ẩn danh dữ liệu. Thay vì "Ayşe Yılmaz, 68 tuổi, quy trình 2024-114523, bệnh thận mãn tính", hãy viết "Nữ bệnh nhân 68 tuổi, đã biết suy thận"; Xóa tên, thông tin liên lạc, tổ chức và số giao thức. Nếu có thể, hãy chọn các công cụ của công ty có thỏa thuận xử lý dữ liệu và không sử dụng dữ liệu của bạn trong đào tạo mô hình.
ba trường hợp nhỏ
Trường hợp 1 - Sử dụng an toàn. Một chuyên gia hóa sinh muốn cung cấp cho bệnh nhân một bản phác thảo thông tin rõ ràng về 8 thông số bất thường trong báo cáo bệnh nhân. AI tạo ra một bản phác thảo đơn giản từ các giá trị ẩn danh (không có tên). Chuyên gia so sánh phạm vi tham chiếu với các giá trị trong phòng thí nghiệm của chính mình, loại bỏ các câu ngụ ý "chẩn đoán xác định" và thêm ghi chú "hãy tham khảo ý kiến bác sĩ của bạn để đánh giá". Thời lượng: 4 phút thay vì 15 phút. AI đưa ra bản dự thảo, trách nhiệm vẫn thuộc về chuyên gia.
Trường hợp 2 - Bẫy bình luận chưa được xác minh. Một chuyên gia khác nhờ YZ giải thích kết quả TSH (hormone kích thích tuyến giáp). AI cho chúng ta biết rằng kết quả là “bình thường” so với phạm vi tham chiếu của người lớn; nhưng mẫu được lấy từ trẻ sơ sinh và phạm vi tham chiếu của trẻ sơ sinh là hoàn toàn khác. Nhận xét không chính xác vì nó được đưa ra cho sai nhóm tuổi. Xác nhận đã bị bỏ qua, bối cảnh lâm sàng bị bỏ sót.
Trường hợp 3 - Vi phạm bí mật. Kỹ thuật viên phòng thí nghiệm tải tên đầy đủ của bệnh nhân và báo cáo dưới dạng PDF vào công cụ AI công khai và nói "nhận xét". Dữ liệu đã được chuyển đến một máy chủ bên ngoài. Tổ chức này phải đối mặt với sự đánh giá của KVKK. Cách đúng đắn là ẩn danh dữ liệu và chỉ chia sẻ các giá trị số cần thiết một cách ẩn danh.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Giải thích kết quả phân tích của bệnh nhân này: Ayşe Yılmaz, TC 123..., giao thức 2024-114523. Creatinin 2,1, urê 90, kali 5,8.
Yêu cầu này sai ở ba khía cạnh: thông tin nhận dạng được chia sẻ (vi phạm KVKK), không cung cấp đơn vị và phạm vi tham chiếu và không có bối cảnh lâm sàng (tuổi, giới tính, chẩn đoán). AI lấp đầy những khoảng trống bằng phỏng đoán và có nguy cơ hiểu sai.
Lời nhắc mạnh mẽ:
Vai trò của bạn: Trợ lý chuẩn bị BẢN THẢO cho chuyên gia phòng thí nghiệm. Chẩn đoán, ra quyết định lâm sàng. BẢN DỰ THẢO lời giải thích đơn giản cho bệnh nhân về kết quả ẩn danh bên dưới; ngụ ý chẩn đoán xác định; Thêm ghi chú "tham khảo ý kiến bác sĩ của bạn". Đánh dấu chỗ bạn không chắc chắn [để được chuyên gia xác nhận]. Bệnh nhân: Nữ 68 tuổi, bệnh thận mạn. Kết quả (có tham khảo đơn vị và phòng thí nghiệm của chúng tôi): Creatinine 2,1 mg/dL (ref 0,5-0,9), Urea 90 mg/dL (ref 17-43), Kali 5,8 mmol/L (ref 3,5-5,1).
Lời nhắc mạnh mẽ là ẩn danh, xác định vai trò và ranh giới, cung cấp đơn vị và tài liệu tham khảo, cung cấp bối cảnh lâm sàng và yêu cầu dấu hiệu xác minh.
Mẫu lời nhắc có thể sao chép
MẪU MÔ TẢ VAI TRÒ VÀ GIỚI HẠN Vai trò của bạn: Trợ lý chuẩn bị BẢN THẢO cho một chuyên gia phòng thí nghiệm. Bạn không phải là chuyên gia; đưa ra chẩn đoán, ra quyết định công bố kết quả, tư vấn lâm sàng. Sự phê duyệt cuối cùng thuộc về chuyên gia. Nếu bạn không chắc chắn, hãy đánh dấu là "[để chuyên gia xác minh]", đừng bịa đặt. Nhiệm vụ: [viết nhiệm vụ].
MẪU KIỂM SOÁT ẨN DANHTrích xuất tên, ID TR, số giao thức/tệp, thông tin liên hệ và tổ chức từ văn bản bên dưới; thay thế bằng "[đã xóa]". Chỉ để lại thông tin cần thiết về mặt lâm sàng/phân tích. Không để lại manh mối nhận dạng nào ở đầu ra.Text: [dán văn bản]
MẪU KIỂM TRA XÁC NHẬN Đối với mỗi diễn giải kết quả mà bạn tạo ra, hãy cho biết: (1) phạm vi tham chiếu mà bạn giả định, (2) liệu nó có nhất quán về đơn vị hay không và (3) việc diễn giải phụ thuộc vào bối cảnh lâm sàng ở đâu. Sử dụng ngôn ngữ "có thể" thay vì tuyệt đối.
MẪU SẮP XẾP MỨC ĐỘ RỦI RO Hãy xếp nhiệm vụ trong phòng thí nghiệm mà tôi sẽ giao cho bạn vào một trong ba loại và viết lý do: (A) rủi ro thấp - phác thảo AI là đủ, (B) rủi ro trung bình - xác minh của chuyên gia, (C) rủi ro cao/rất cao - chẩn đoán/quyết định thuộc về chuyên gia, AI chỉ phụ trợ. Nhiệm vụ: [viết nhiệm vụ].
Những lỗi thường gặp
- Nhầm AI với "chuyên gia". AI nói trôi chảy nhưng không có trách nhiệm; Chữ ký là của bạn. Đầu ra là một bản dự thảo, không phải là một quyết định.
- Dán thông tin xác thực như cũ. Tên, số TR ID và số giao thức là dữ liệu đặc biệt; Chia sẻ mà không ẩn danh là vi phạm KVKK.
- Không đặt câu hỏi về phạm vi tham chiếu. AI đưa ra phạm vi chung; Phạm vi thiết bị và nhóm tuổi/giới tính của bạn có thể khác nhau.
- Không đưa ra bối cảnh lâm sàng. Giải thích mà không có tuổi tác, giới tính, chẩn đoán, thuốc và chất lượng mẫu là sai lệch.
- Buông tay vì “có vẻ đúng.” Sự trôi chảy không phải là sự chính xác; Mỗi đầu ra yêu cầu kiểm soát độc lập.
Mẹo: Trước khi bắt đầu làm việc với AI, hãy tự hỏi bản thân một câu hỏi: “Điều gì xảy ra với bệnh nhân nếu kết quả đầu ra này sai?” Nếu câu trả lời là nghiêm túc, chỉ sử dụng AI cho bản nháp/đánh giá chất lượng và không bao giờ bỏ qua quá trình xác minh.
Tóm lại
Trí tuệ nhân tạo là trợ thủ đắc lực trong phòng thí nghiệm y tế: nó tăng tốc các tác vụ lặp đi lặp lại, tạo ra bản thiết kế, quét mẫu. Nhưng vì bạn đang làm việc trong một lĩnh vực quan trọng về an toàn nên quyết định công bố kết quả, giải thích lâm sàng và chẩn đoán thuộc về chuyên gia có trình độ. Vai trò của AI trong từng giai đoạn của toàn bộ quá trình thử nghiệm (tiền phân tích, phân tích, hậu phân tích) khác nhau tùy thuộc vào mức độ rủi ro; Khi rủi ro tăng lên, sự chấp thuận của con người tăng lên. Ba nguyên tắc cốt lõi bảo vệ từng bước: nguồn, tính toán lại/so sánh, bộ lọc phân tích lâm sàng. Và tính bảo mật làm nền tảng cho mọi thứ: dữ liệu bệnh nhân không được nhập vào bất kỳ công cụ nào mà không được ẩn danh.
Nhiệm vụ ứng dụng
Chọn ba nhiệm vụ khác nhau từ phòng thí nghiệm của bạn (hoặc từ một kịch bản ví dụ): một rủi ro thấp (ví dụ: tóm tắt khối lượng công việc), một rủi ro trung bình (ví dụ: dự thảo giải thích kết quả), một rủi ro cao (ví dụ: tuyên bố giá trị tới hạn). Đối với mỗi mục, (1) mô tả vai trò của AI trong một câu, (2) viết ra bước xác minh bạn sẽ thực hiện, (3) cho biết cách bạn sẽ ẩn danh dữ liệu. Sau đó điều chỉnh mẫu "Định nghĩa vai trò và ranh giới" ở trên cho phù hợp với nhiệm vụ có mức độ rủi ro trung bình của bạn và viết lời nhắc.
danh sách kiểm tra
- [ ] Tôi đã xác định mức độ rủi ro (thấp/trung bình/cao) của nhiệm vụ.
- [ ] Tôi giới hạn vai trò của AI ở mức "trợ lý/dự thảo/người đủ tiêu chuẩn"; chẩn đoán/quyết định thuộc về chuyên gia.
- [ ] Tôi đã ẩn danh dữ liệu; Tên, TR ID, số giao thức được xuất ra.
- [ ] Tôi đã xác minh phạm vi tham chiếu và đơn vị bằng các giá trị trong phòng thí nghiệm của mình.
- [ ] Tôi đã thêm bối cảnh lâm sàng (tuổi, giới tính, chẩn đoán, chất lượng mẫu) vào lời nhắc.
- [ ] Tôi đã kiểm tra độc lập đầu ra trước khi phát hành nó.