Ενσωμάτωση από άκρο σε άκρο, όρια και υπεύθυνη εκτέλεση

Κέρδη:

• Δυνατότητα συνδυασμού τμημάτων εικόνας, σήματος, δεδομένων και ρύθμισης σε μια ενιαία υπεύθυνη ροή εργασιών βιοϊατρικής τεχνητής νοημοσύνης
• Δυνατότητα εφαρμογής αρχών ελέγχου, ιχνηλασιμότητας και παρακολούθησης μετά τη διανομή
• Δυνατότητα διατήρησης του ορίου σε κάθε στάδιο όπου η τεχνητή νοημοσύνη δεν αντικαθιστά την έγκριση ιατρών και μηχανικών

Εξέταση Ενοτήτων

1. Ποιο από τα παρακάτω είναι η βασική αρχή που καθορίζει τον κίνδυνο μιας παραγωγής τεχνητής νοημοσύνης στη βιοϊατρική μηχανική;

• Α) Ο κίνδυνος της εξόδου είναι ίσος με τη βλάβη που θα προκαλούσε στον ασθενή εάν ήταν λανθασμένη. κλίμακες επικύρωσης αναλόγως ✔
• Β) Η έξοδος AI είναι γενικά ασφαλής επειδή είναι γραμμένη άπταιστα και τεχνικά
• Γ) Η επικύρωση δεν είναι απαραίτητη όταν χρησιμοποιείται το πιο πρόσφατο μοντέλο
• Δ) Εάν η έξοδος αναφέρεται σε εγχειρίδιο, δεν απαιτούνται πρόσθετοι έλεγχοι

Εξήγηση: Ο κίνδυνος μιας εξόδου ισούται με τη βλάβη για τον ασθενή, εάν αυτή η έξοδος είναι εσφαλμένη. Ενώ ένα μικρό σφάλμα σε μια περίληψη της βιβλιογραφίας είναι χαμηλού κινδύνου, ένα σφάλμα κατά την εισαγωγή μιας ανίχνευσης εικόνας ή μιας κλινικής απόφασης απειλεί άμεσα την ασφάλεια του ασθενούς. Επομένως, η ένταση της επαλήθευσης κλιμακώνεται με πιθανή βλάβη και κάθε απόφαση που αφορά την ασφάλεια του ασθενούς εξαρτάται από την έγκριση του γιατρού.

2. Ποιος είναι ο σωστός ρόλος ενός μοντέλου ανίχνευσης που υποστηρίζεται από AI στην κλινική χρήση στην ακτινολογία;

• Α) Αυτόματη έγκριση της έκθεσης του ακτινολόγου και εξάλειψη του φόρτου εργασίας
• Β) Κλείσιμο περιπτώσεων χαμηλής προτεραιότητας χωρίς επίσκεψη σε ακτινολόγο
• Γ) Εάν η πιθανότητα μοντέλου είναι υψηλή, κάντε διάγνωση χωρίς πρόσθετη εξέταση
• Δ) Όντας ένα εργαλείο υποστήριξης που εφιστά την προσοχή στο εύρημα και το ιεραρχεί, αλλά η ευθύνη για τη διάγνωση παραμένει στον ακτινολόγο ✔

Περιγραφή: Το Image AI είναι ένα εργαλείο υποστήριξης αποφάσεων: προσελκύει, ιεραρχεί, μετράει και επισημαίνει. Ωστόσο, η διαγνωστική ευθύνη παραμένει στον ακτινολόγο. Η έξοδος του μοντέλου δεν υποκαθιστά την απόφαση του ακτινολόγου, είναι μόνο μια είσοδος. Η έξοδος χρησιμοποιείται σε συνδυασμό με ανεξάρτητη κλινική αξιολόγηση καθώς είναι πάντα πιθανά ψευδώς θετικά και ψευδώς αρνητικά.

3. Ποιο είναι το πιο κοινό πρόβλημα κατά τη μεταφορά της απόδοσης ενός μοντέλου AI από το ένα εργαστήριο στο άλλο στην ψηφιακή παθολογία;

• Α) Το μοντέλο λειτουργεί πολύ γρήγορα
• Β) Τα αρχεία διαφανειών είναι πολύ μικρά
• Γ) Μετατόπιση τομέα που προκαλείται από διαφορές βαφής και σάρωσης ✔
• Δ) Οι παθολόγοι δεν θέλουν καθόλου να χρησιμοποιήσουν το μοντέλο

Περιγραφή: Το πρωτόκολλο χρώσης, η μάρκα του σαρωτή και το πάχος του τμήματος διαφέρουν από εργαστήριο σε εργαστήριο. Εάν το μοντέλο έχει μάθει με βάση τα στατιστικά εικόνας ενός εργαστηρίου, η απόδοσή του θα μειωθεί σε άλλο εργαστήριο. Αυτό το φαινόμενο ονομάζεται μετατόπιση τομέα και είναι η πιο κοινή αιτία αποτυχίας στην ψηφιακή παθολογία. Γι' αυτό η εξωτερική επικύρωση και η κανονικοποίηση χρώματος είναι κρίσιμες.

4. Ποιο θα πρέπει να είναι το πρώτο αντανακλαστικό επιβεβαίωσης του μηχανικού όταν ένα μοντέλο ταξινόμησης ΗΚΓ χαρακτηρίζει «κολπική μαρμαρυγή»;

• Α) Εγγραφή της ετικέτας απευθείας στον φάκελο του ασθενούς ως διάγνωση
• Β) Ελέγξτε το πρωτογενές σήμα, τα τεχνουργήματα και τη φυσιολογική αληθοφάνεια και αφήστε την απόφαση στον γιατρό ✔
• Γ) Εάν η βαθμολογία εμπιστοσύνης του μοντέλου είναι υψηλή, δεν χρειάζεται κανένας άλλος έλεγχος.
• Δ) Κατεύθυνση του ασθενούς σε φαρμακευτική αγωγή

Επεξήγηση: Η έξοδος θα πρέπει πρώτα να ελεγχθεί για φυσιολογική αληθοφάνεια και ποιότητα σήματος: η μετατόπιση της γραμμής βάσης, το μυϊκό τεχνούργημα ή η χαλάρωση ηλεκτροδίου στην εγγραφή μπορεί να μιμούνται τον ρυθμό. Είναι λάθος να εμπιστεύεσαι την ετικέτα χωρίς να κοιτάς το πρωτογενές σήμα και τα διαστήματα R-R. Η τελική διάγνωση του ρυθμού ανήκει στον ιατρό. Το μοντέλο παράγει ένα προκαταρκτικό σήμα, δεν λαμβάνει απόφαση.

5. Ποιο είναι το βασικό χαρακτηριστικό της επεξεργασίας AI των σημάτων EEG που καθιστά την επαλήθευση ιδιαίτερα δύσκολη;

• Α) Χαμηλή αναλογία σήματος προς θόρυβο και υψηλή τεχνούργημα/μεταβλητότητα ✔
• Β) Το σήμα EEG είναι πολύ μεγάλου πλάτους και αθόρυβο
• Γ) Καταγραφή ΗΕΓ από ένα μόνο κανάλι
• Δ) Τα δεδομένα ΗΕΓ δεν είναι ποτέ ψηφιακά

Εξήγηση: Το ΗΕΓ είναι ένα σήμα πολύ χαμηλού πλάτους (εύρος μικροβολτ) και μολύνεται εύκολα από τεχνουργήματα όπως το αναβοσβήσιμο των ματιών, η κίνηση των μυών, το ηλεκτρόδιο και ο θόρυβος του δικτύου. Επιπλέον, η διακύμανση μεταξύ ατόμων και εγγραφών είναι υψηλή. Αυτή η χαμηλή αναλογία σήματος προς θόρυβο κάνει τις εξόδους του μοντέλου να είναι εύθραυστες και απαιτεί επικύρωση από ειδικούς νευροφυσιολόγους.

6. Ποιο είναι το πιο σημαντικό όριο κατά την εργασία με δεδομένα καρδιακών παλμών από φορητή συσκευή καταναλωτή;

• Α) Η μπαταρία της συσκευής εξαντλείται γρήγορα
• Β) Αποθήκευση δεδομένων στο cloud
• Γ) Η συσκευή συχνά δεν είναι ιατρικά πιστοποιημένη και το σήμα είναι ευαίσθητο σε τεχνούργημα/προκατάληψη ✔
• Δ) Η συσκευή είναι πολύ ακριβή

Αποκάλυψη: Οι περισσότερες φορητές συσκευές καταναλωτή δεν είναι πιστοποιημένες ως ιατρικές συσκευές. Το σήμα PPG (φωτοπληθυσμογραφία) επηρεάζεται από τεχνούργημα κίνησης και παράγοντες όπως ο σκούρος τόνος του δέρματος και τα τατουάζ μπορεί να μειώσουν την ακρίβεια. Αυτά τα δεδομένα είναι πολύτιμα για την τάση/ευαισθητοποίηση, αλλά απαιτούνται επικυρωμένη κλινική μέτρηση και αξιολόγηση γιατρού για τη διαγνωστική απόφαση.

7. Τι σημαίνει «χρονική διαρροή» κατά την κατασκευή ενός προγνωστικού μοντέλου με δεδομένα ηλεκτρονικού μητρώου υγείας (EHR);

• Α) Κρυπτογραφημένη αποθήκευση δεδομένων
• Β) Διαρροή μελλοντικών πληροφοριών σε χαρακτηριστικά που δεν υπάρχουν ακόμη τη στιγμή της πρόβλεψης ✔
• Γ) Τα δεδομένα είναι πολύ παλιά
• Δ) Εκπαίδευση του μοντέλου πολύ αργά

Επεξήγηση: Η χρονική διαρροή είναι η παρέμβαση των λειτουργιών εκπαίδευσης με πληροφορίες που δεν είναι ακόμη διαθέσιμες τη στιγμή της πρόβλεψης (μέλλον). για παράδειγμα, χρησιμοποιώντας τη διάγνωση εξιτηρίου για την πρόβλεψη του κινδύνου κατά την εισαγωγή. Αυτό οδηγεί σε υψηλές επιδόσεις στο εργαστήριο, αλλά σε συντριβή απόδοση σε πραγματική κλινική χρήση και είναι ένα από τα πιο ύπουλα ελαττώματα των μοντέλων κλινικών δεδομένων.

8. Ποιο από τα παρακάτω καθίσταται υποχρεωτικό όταν ένα λογισμικό περιγράφεται ως «λογισμικό ιατρικής συσκευής» (SaMD);

• Α) Αρκεί να δουλεύεις γρήγορα
• Β) Δεν απαιτείται τεκμηρίωση
• Γ) Απαιτείται μόνο μια όμορφη διεπαφή
• Δ) Ο έλεγχος σχεδιασμού, η διαχείριση κινδύνου, η επαλήθευση/επικύρωση και η συμμόρφωση με τους κανονισμούς καθίστανται υποχρεωτικοί ✔

Περιγραφή: Το SaMD (Software as a Medical Device) είναι λογισμικό που λειτουργεί για σκοπούς διάγνωσης, θεραπείας ή παρακολούθησης και δεν εξαρτάται από κανένα υλικό. Σε αυτήν την περίπτωση, οι έλεγχοι σχεδιασμού, η διαχείριση κινδύνου (ISO 14971), η επαλήθευση/επικύρωση και η συμμόρφωση με τους κανονισμούς είναι υποχρεωτικοί. Το λογισμικό δεν μπορεί να αντιμετωπιστεί ως «απλό λογισμικό» επειδή η αποτυχία του επηρεάζει άμεσα την ασφάλεια των ασθενών.

9. Ποιος είναι ο πιο κρίσιμος κίνδυνος όταν ζητάτε από την AI ρήτρα MDR (οδηγία για ιατρικές συσκευές) ή τυπικό αριθμό;

• Α) Το μοντέλο παράγει ψευδείς αναφορές άρθρου/τυποποιημένων παραπομπών και τις παρουσιάζει με ασφάλεια ✔
• Β) Το μοντέλο δίνει την απάντηση πολύ σύντομη
• Γ) Το μοντέλο απαντά στα αγγλικά
• Δ) Το μοντέλο ανταποκρίνεται πολύ αργά

Επεξήγηση: Τα μοντέλα γλώσσας μπορούν να παράγουν με σιγουριά ανύπαρκτους αριθμούς στοιχείων, εσφαλμένες τυπικές εκδόσεις και κατασκευασμένες αναφορές (ψευδαίσθηση). Στη συμμόρφωση με τους κανονισμούς, μια εσφαλμένη αναφορά ουσίας οδηγεί σε σοβαρή αποτυχία συμμόρφωσης. Επομένως, κάθε απόδοση θα πρέπει να επαληθεύεται ανεξάρτητα από το επίσημο κείμενο, η τεχνητή νοημοσύνη θα πρέπει να χρησιμοποιείται μόνο για πλοήγηση/σχεδίαση.

10. Σε ποια κατηγορία εμπίπτουν τα δεδομένα υγείας στο πεδίο εφαρμογής του KVKK και τι σημαίνει αυτό;

• Α) Συνήθη προσωπικά δεδομένα. μπορούν να υποβληθούν σε επεξεργασία ελεύθερα
• Β) Δεν είναι προσωπικά δεδομένα. δεν υπάρχει περιορισμός
• Γ) Ειδικές κατηγορίες προσωπικών δεδομένων. Επεξεργάζεται με αυστηρότερους όρους και προστασίες ✔
• Δ) Μόνο εμπορικό μυστικό. δεν απαιτείται απόρρητο

Εξήγηση: Τα δεδομένα υγείας θεωρούνται «ειδικά προσωπικά δεδομένα» στο KVKK. Κατά κανόνα, η επεξεργασία εξαρτάται από ρητή συγκατάθεση ή εξαιρέσεις που ορίζει ο νόμος και απαιτεί αυστηρότερα μέτρα προστασίας. Επομένως, τα δεδομένα ασθενών δεν μπορούν να εισαχθούν σε μη ελεγχόμενα εργαλεία. Οι συμφωνίες ανωνυμοποίησης, περιορισμού πρόσβασης και επεξεργασίας δεδομένων είναι υποχρεωτικές.

11. Τι σημαίνει «βαθμονόμηση» σε ένα κλινικό μοντέλο τεχνητής νοημοσύνης και γιατί είναι σημαντική;

• Α) Πόσο γρήγορα τρέχει το μοντέλο
• Β) Πόσες παραμέτρους έχει το μοντέλο;
• Γ) Χρώμα διεπαφής του μοντέλου
• Δ) Συμβατότητα των πιθανοτήτων που δίνει το μοντέλο με τις πραγματικές συχνότητες συμβάντων ✔

Εξήγηση: Η βαθμονόμηση είναι η προσαρμογή των πιθανοτήτων που δίνει το μοντέλο στις πραγματικές συχνότητες: το συμβάν θα πρέπει να συμβαίνει στην πραγματικότητα σε περίπου 20% των ασθενών για τους οποίους λέει «20% κίνδυνος». Δεδομένου ότι οι αποφάσεις στην κλινική λαμβάνονται με βάση τα κατώφλια πιθανότητας, ένα ανεπαρκώς βαθμονομημένο μοντέλο θα οδηγήσει σε λανθασμένες αποφάσεις κατωφλίου, ακόμη και αν κατατάσσεται σωστά. Επομένως, η βαθμονόμηση καθώς και η διάκριση (AUC) πρέπει να επαληθεύονται.

12. Γιατί πρέπει να ελέγχεται χωριστά η «απόδοση υποομάδας» σε μοντέλα εικόνας, σήματος ή κλινικών δεδομένων;

• Α) Αρκεί πάντα η απόλυτη ακρίβεια
• Β) Επειδή οι υποομάδες επηρεάζουν την ταχύτητα του μοντέλου
• Γ) Η γενική μέτρηση μπορεί να κρύψει την υποαπόδοση και την προκατάληψη σε συγκεκριμένες ομάδες ασθενών ✔
• Δ) Η ανάλυση υποομάδας είναι απαραίτητη μόνο για μάρκετινγκ

Εξήγηση: Ενώ ένα μοντέλο μπορεί να φαίνεται καλό κατά μέσο όρο, μπορεί να έχει σημαντικά χειρότερη απόδοση σε ορισμένες υποομάδες (ηλικία, φύλο, τόνος δέρματος, τύπος συσκευής, νοσοκομείο). Η γενική μέτρηση κρύβει αυτή την ανισότητα. Στην υγειονομική περίθαλψη, αυτό οδηγεί σε συστηματική βλάβη σε ορισμένες ομάδες ασθενών. Επομένως, οι επιδόσεις θα πρέπει να χωρίζονται σε υποομάδες και να αναφέρονται για λόγους δικαιοσύνης.

13. Ποια είναι η καλύτερη προσέγγιση έναντι του κινδύνου «επαναναγνώρισης» κατά την εργασία με δεδομένα ασθενών;

• Α) Η απλή διαγραφή του ονόματος αρκεί υπό όλες τις συνθήκες.
• Β) Γενικεύστε τα έμμεσα αναγνωριστικά καθώς και τα άμεσα αναγνωριστικά και περιορίστε την πρόσβαση ✔
• Γ) Εάν τα δεδομένα ανήκουν σε μικρό αριθμό ατόμων, δεν απαιτούνται προφυλάξεις
• Δ) Απλά αλλάζοντας το όνομα του αρχείου αντί για κρυπτογράφηση

Περιγραφή: Ακόμη και τα δεδομένα που έχουν διαγραφεί από το όνομα μπορούν να επαναπροσδιοριστούν με σπάνιους συνδυασμούς διάγνωσης, ημερομηνίας γέννησης, ταχυδρομικού κώδικα και ημερομηνίας. Επομένως, δεν αρκεί απλώς να εξαγάγετε άμεσα αναγνωριστικά. Τεχνικές όπως η αλλαγή ημερομηνίας, η γενίκευση, η k-ανωνυμία και ο έλεγχος πρόσβασης θα πρέπει να εφαρμόζονται μαζί και το ευαίσθητο ελεύθερο κείμενο θα πρέπει επίσης να καθαρίζεται.

14. Ποιος είναι ο πρωταρχικός λόγος για τη διατήρηση του «human-in-the-loop» ελέγχου από άκρο σε άκρο στη ροή εργασιών της βιοϊατρικής τεχνητής νοημοσύνης;

• Α) Ο ανθρώπινος έλεγχος δημιουργεί μόνο βραδύτητα και πρέπει να αφαιρεθεί
• Β) Εάν η βαθμολογία εμπιστοσύνης του μοντέλου είναι υψηλή, η ανθρώπινη επικύρωση δεν είναι απαραίτητη
• Γ) Δεν υπάρχει άλλος πρακτικός λόγος εκτός από νομική υποχρέωση
• Δ) Η τεχνητή νοημοσύνη υπόκειται σε μεροληψία και σφάλμα. Οι αποφάσεις και η ευθύνη για την ασφάλεια του ασθενούς θα πρέπει να παραμείνουν στον εξειδικευμένο ειδικό ✔

Περιγραφή: Η τεχνητή νοημοσύνη δημιουργεί, ιεραρχεί και συντάσσει υποθέσεις. αλλά τα μοτίβα που μαθαίνει από τα δεδομένα μπορεί να είναι ελλιπή, μεροληπτικά ή εκτός πλαισίου. Είναι επιτακτική ανάγκη οι αποφάσεις σχετικά με την ασφάλεια των ασθενών να παραμείνουν με την έγκριση του εξουσιοδοτημένου ιατρού και μηχανικού, τόσο για τη διαπίστωση σφαλμάτων όσο και για τη διατήρηση της ευθύνης στη σωστή θέση. Το AI δεν αντικαθιστά αυτήν την έγκριση σε κανένα στάδιο.