Lợi nhuận:
- Khả năng giải thích sự đóng góp của trí tuệ nhân tạo đối với các yêu cầu, kiến trúc và các giai đoạn thử nghiệm trong thiết kế phần mềm và thiết bị y tế.
- Hiểu vai trò của kiểm soát thiết kế và quản lý rủi ro trong trường hợp bản thân phần mềm là thiết bị y tế (SaMD)
- Khả năng hiểu rằng các kết quả đầu ra của thiết kế được AI hỗ trợ phải được kiểm tra bằng các bài kiểm tra xác minh, tiêu chuẩn và phê duyệt của kỹ sư có thẩm quyền.
Một trong những công việc cốt lõi của kỹ sư y sinh là thiết kế thiết bị y tế: từ bơm truyền dịch đến máy theo dõi bệnh nhân, từ chân tay giả đến phần mềm chẩn đoán. Vì những thiết bị này tiếp xúc trực tiếp với bệnh nhân nên thiết kế của chúng khác với sự phát triển sản phẩm thông thường; Kiểm soát thiết kế (quy trình có kỷ luật trong đó mọi bước từ yêu cầu đến xác minh đều được ghi lại) và quản lý rủi ro là nghĩa vụ pháp lý. Trí tuệ nhân tạo đóng góp vào các quy trình này bằng việc viết yêu cầu, soạn thảo kiến trúc, thiết kế thử nghiệm và lập tài liệu. Trong phần này, chúng ta sẽ xem AI phù hợp ở đâu trong thiết kế thiết bị, cách phần mềm trở thành thiết bị (SaMD) và tại sao đầu ra AI không thể thay thế cho sự phê duyệt của kỹ sư có thẩm quyền.
Hãy nêu rõ ngay từ đầu: trong kỹ thuật thiết bị quan trọng về an toàn, AI là trợ lý điều khiển và thiết kế chi tiết. Nếu thiếu một yêu cầu, bỏ sót một chế độ lỗi, kiểm thử nằm ngoài phạm vi, thì trách nhiệm thuộc về kỹ sư phê duyệt. AI không xác minh thiết kế; Kỹ sư xác nhận.
Chuỗi kiểm soát thiết kế và vị trí của AI
Nhu cầu của người dùng → Đầu vào thiết kế (yêu cầu) → Đầu ra thiết kế → Xác minh → Xác thực → Chuyển giao thiết kế. Chuỗi này là xương sống của kỹ thuật thiết bị. Vai trò của AI ở mỗi vòng là khác nhau:
- Nhu cầu của người dùng: AI có thể tóm tắt và chủ đề các cuộc phỏng vấn các bên liên quan cũng như ghi chú thực địa. Xác nhận: xác nhận của các bên liên quan.
- Yêu cầu: AI quét các yêu cầu để xem liệu chúng có “có thể kiểm chứng được, số ít, mâu thuẫn” hay không và đề xuất các tình huống còn thiếu (các trường hợp đặc biệt). Xác nhận: đánh giá kỹ sư.
- Kiến trúc/thiết kế: AI liệt kê các phương pháp kiến trúc thay thế và các mẫu thiết kế đã biết. Xác minh: phán đoán và tính toán kỹ thuật.
- Kiểm tra: AI tạo trường hợp kiểm thử và kiểm tra điểm dừng từ yêu cầu. Xác nhận: ma trận bao phủ thử nghiệm.
- Tài liệu: AI soạn thảo tệp và báo cáo lịch sử thiết kế. Xác minh: kiểm tra nội dung kỹ thuật.
Quản lý rủi ro: ISO 14971 và FMEA
Tiêu chuẩn quản lý rủi ro trong thiết bị y tế là ISO 14971; Nó mô tả quá trình xác định các mối nguy hiểm, đánh giá rủi ro, giảm thiểu rủi ro và biện minh cho rủi ro còn lại. Một công cụ phổ biến là FMEA (Phân tích ảnh hưởng và chế độ lỗi; liệt kê một cách có hệ thống các kiểu lỗi có thể xảy ra, ảnh hưởng của chúng và mức độ nghiêm trọng/xác suất/khả năng phát hiện). AI rất hiệu quả trong việc phân tích các chế độ lỗi cho biểu đồ FMEA—các chế độ nhắc nhở mà con người có thể bỏ qua. Nhưng sự thật của từng đường nét, điểm số và biện pháp giảm nhẹ phải được xác nhận bằng nhận định của người kỹ sư; Biện pháp "giảm thiểu" do AI đề xuất có thể không thực sự hiệu quả hoặc có thể gây ra rủi ro mới.
Nếu chính phần mềm là thiết bị: SaMD
Đôi khi bản thân phần mềm đó là một thiết bị y tế: SaMD (Phần mềm như một Thiết bị Y tế; phần mềm hoạt động cho mục đích chẩn đoán/điều trị/theo dõi mà không được nhúng vào bất kỳ phần cứng nào). Một ví dụ là một ứng dụng tạo ra điểm rủi ro từ hình ảnh hoặc thuật toán diễn giải tín hiệu. Với SaMD, phần mềm không thể được coi là “chỉ là phần mềm”: kiểm soát thiết kế, quản lý rủi ro, xác minh/xác nhận, kiểm soát phiên bản và tuân thủ quy định là bắt buộc. Tiêu chuẩn IEC 62304 xác định các quy trình cho vòng đời phần mềm. Một thách thức cụ thể trong quá trình phát triển có sự hỗ trợ của AI là hành vi của mô hình thay đổi khi được cập nhật; đó là lý do tại sao việc kiểm soát thay đổi và xác nhận lại là rất quan trọng.
Ba trường hợp nhỏ: Bằng những con số
Trường hợp 1 - Nắm bắt khoảng cách yêu cầu. 140 yêu cầu dự thảo đã được viết cho thiết bị theo dõi bệnh nhân. Tính năng quét tính nhất quán được hỗ trợ bởi AI đã gắn cờ 12 yêu cầu là không thể kiểm tra được (chẳng hạn như “phải thân thiện với người dùng”) và 3 tình huống cảnh báo bị thiếu. Đội ngũ kỹ thuật đã sửa những lỗi này; nhưng hai “yêu cầu mới” do AI đề xuất thực chất là sự trùng lặp với những yêu cầu hiện có và phải loại bỏ. Lợi ích ròng là thông qua xác minh của con người.
Trường hợp 2 - Gia tốc FMEA. Trong một nghiên cứu của FMEA về máy bơm truyền dịch, nhóm đã liệt kê 60 kiểu lỗi; Động não AI đã tạo ra thêm 18 ứng cử viên. Các kỹ sư đã tìm thấy 9 trong số đó là chính hãng và đã bị loại bỏ trước đó, đồng thời loại bỏ 9 cái là không hợp lệ hoặc trùng lặp. Việc tiết kiệm thời gian là có thật, nhưng việc lọc hoàn toàn là công việc của kỹ sư.
Trường hợp 3 - Rủi ro cập nhật mô hình. Nhóm SaMD đã cập nhật mô hình cơ bản bằng phiên bản “tốt hơn”. Mặc dù phiên bản mới đã cải thiện độ chính xác tổng thể nhưng hiệu suất của nó lại bị suy giảm trên một loại thiết bị nhất định. Nếu không có sự kiểm soát thay đổi và xác nhận lại sự hồi quy này sẽ đến hiện trường. Mỗi bản cập nhật mẫu đều là một thay đổi về thiết kế và phải được xác minh.
Nhắc yếu / Nhắc mạnh
Dấu nhắc yếu:
Viết các yêu cầu cho thiết bị này.[ý tưởng]
Lời nhắc mạnh mẽ:
Vai trò của bạn: Bạn là trợ lý kỹ thuật yêu cầu thiết bị y tế (BẠN KHÔNG PHẢI LÀ CƠ QUAN PHÊ DUYỆT). Đưa ra yêu cầu dự thảo cho ý tưởng thiết bị sau: - Giữ cho mỗi yêu cầu là duy nhất, có thể kiểm tra và xác minh được. - Tạo một phần riêng cho hộp đựng an toàn/báo động và cạnh. - Đánh dấu những câu mơ hồ/không thể đo lường được ("dễ", "nhanh") và làm cho chúng có thể đo lường được. - Cuối cùng đưa ra danh sách “những điểm mở mà kỹ sư cần quyết định”. - Tham chiếu tiêu chuẩn/mệnh đề dưới dạng dấu "cần được xác minh", dấu hiệu xác định. Khái niệm:[mô tả]
Bốn mẫu có thể sao chép
1) Yêu cầu kiểm tra chất lượng:
Phân loại các yêu cầu sau đây là "có thể kiểm tra được/mơ hồ/mâu thuẫn/trùng lặp" và đề xuất làm cho bất kỳ yêu cầu mơ hồ nào có thể đo lường được. Danh sách: [yêu cầu]
2) Động não FMEA:
Liệt kê các chế độ lỗi có thể xảy ra đối với hệ thống con này; Đề xuất tác động và nguyên nhân có thể cho mỗi. Nêu rõ rằng kỹ sư sẽ thực hiện việc chấm điểm và giảm nhẹ. Hệ thống con: [mô tả]
3) Tạo kịch bản thử nghiệm:
Tạo các kịch bản kiểm thử đầu vào bình thường, ranh giới và đầu vào bị lỗi cho yêu cầu sau; đánh số từng kịch bản có thể theo dõi được theo yêu cầu. Yêu cầu: [văn bản]
4) Phân tích tác động của thay đổi SaMD:
Viết danh sách kiểm tra phân tích tác động dự thảo cho bản cập nhật phát hành mô hình: các yêu cầu bị ảnh hưởng, phạm vi xác nhận lại, so sánh hiệu suất nhóm con.
Vai trò của Model: Theo giai đoạn thiết kế
Sân khấu
Đóng góp của AI
sự quan trọng
xác minh
Tóm tắt nhu cầu/các bên liên quan
cao
thấp
Xác nhận của các bên liên quan
Dự thảo/kiểm tra yêu cầu
cao
trung bình
Đánh giá kỹ sư
Kiến trúc/tính toán
hạn chế
cao
Phán đoán kỹ thuật + tính toán
FMEA/động não về rủi ro
cao
cao
Kỹ sư chấm điểm/phê duyệt
Tạo kịch bản thử nghiệm
cao
trung bình
Ma trận bảo hiểm
Phê duyệt bảo mật
không có
rất cao
Chữ ký kỹ sư được ủy quyền
Mẹo: Sử dụng AI làm “lời nhắc kịch bản bị lãng quên” trong FMEA và kiểm tra yêu cầu chứ không phải với tư cách là “người ra quyết định”. Giá trị lớn nhất của nó là làm nổi bật những tình huống bên lề mà người ta có thể bỏ lỡ; Nhưng mọi đề xuất đều phải qua bộ lọc của người kỹ sư.
Lưu ý: Tại SaMD, mỗi lần cập nhật mẫu máy đều là thay đổi về thiết kế. Một mô hình “tốt hơn” có thể tiến lên ở mức trung bình tổng thể và thụt lùi trong một nhóm nhỏ; Không có bản cập nhật nào được đưa vào trường mà không kiểm soát và xác nhận lại thay đổi.
Những lỗi thường gặp
- Chấp nhận đề xuất AI mà không cần xác nhận. Yêu cầu phù hợp có thể tạo ra chế độ lỗi không hợp lệ hoặc biện pháp giảm thiểu vô ích.
- Nghĩ rằng SaMD "chỉ là phần mềm". Kiểm soát thiết kế, quản lý rủi ro và V&V là bắt buộc.
- Không xác minh cập nhật mô hình. Mỗi bản phát hành là một thay đổi về thiết kế và phải được xác nhận lại.
- Vượt qua yêu cầu mơ hồ. Không thể kiểm tra được những tuyên bố vô lượng như "dễ/nhanh".
- Bỏ qua sự chấp thuận của kỹ sư. Quyết định an toàn và chữ ký thuộc về kỹ sư được ủy quyền; AI không phải là cơ quan phê duyệt.
Tóm lại
- Thiết kế thiết bị y tế, kiểm soát thiết kế và quản lý rủi ro là một quy trình bắt buộc được ghi chép lại.
- AI đóng góp vào các yêu cầu, kiến trúc, FMEA và các giai đoạn thử nghiệm bằng các bản nháp và lời nhắc.
- Nếu bản thân phần mềm là thiết bị (SaMD), cần phải có toàn quyền kiểm soát thiết kế, V&V và tuân thủ quy định.
- Mỗi bản cập nhật mô hình là một thay đổi về thiết kế và yêu cầu xác nhận lại.
- Đầu ra AI không thể thay thế cho sự phê duyệt của kỹ sư có trình độ; Quyết định bảo mật và chữ ký thuộc về kỹ sư.
Nhiệm vụ ứng dụng
Chọn một khái niệm thiết bị y tế đơn giản (ví dụ: máy theo dõi SpO2 di động). Có năm yêu cầu được soạn thảo bằng cách sử dụng lời nhắc mạnh mẽ; tiếp theo là hỏi từng người “có thể kiểm tra được không?” Kiểm tra thủ công và làm cho những điều mơ hồ có thể đo lường được. Cuối cùng, hãy viết ra ba chế độ lỗi cho thiết bị này và cách giảm thiểu cho từng chế độ, đồng thời lưu ý những chế độ nào bạn đã loại bỏ khỏi những gì AI đề xuất.
danh sách kiểm tra
- [ ] Tôi biết chuỗi kiểm soát thiết kế và vai trò của AI trong từng mắt xích.
- [ ] Tôi hiểu mục đích của quản lý rủi ro ISO 14971 và FMEA.
- [ ] Tôi hiểu khái niệm về SaMD và các nghĩa vụ của nó.
- [ ] Tôi hiểu rằng bản cập nhật mô hình là một sự thay đổi về thiết kế và cần được xác nhận lại.
- [ ] Tôi đã nội bộ hóa rằng quyết định bảo mật và chữ ký vẫn thuộc về kỹ sư được ủy quyền.