Ganhos:
- Capacidade de combinar peças de imagem, sinal, dados e regulação em um único fluxo de trabalho de IA biomédica responsável
- Capacidade de aplicar princípios de auditoria humana, rastreabilidade e monitoramento pós-distribuição
- Capacidade de manter o limite em todas as fases onde a inteligência artificial não substitui a aprovação de médicos e engenheiros
Exame do Módulo
1. Qual das alternativas a seguir é o princípio básico que determina o risco de um resultado de IA na engenharia biomédica?
- A) O risco do resultado é igual ao dano que causaria ao paciente se estivesse incorreto; a validação é dimensionada de acordo ✔
- B) A saída de IA é geralmente segura porque é escrita de forma fluente e técnica
- C) A validação é desnecessária quando o modelo mais atual é usado
- D) Se a saída se referir a um manual, nenhuma verificação adicional será necessária
Explicação: O risco de um resultado é igual ao dano ao paciente se esse resultado estiver incorreto. Embora um pequeno erro em um resumo da literatura seja de baixo risco, um erro na detecção de uma imagem ou em uma decisão clínica ameaça diretamente a segurança do paciente; Portanto, a intensidade da verificação escala com potencial dano, e toda decisão que envolve a segurança do paciente depende da aprovação do médico.
2. Qual é o papel adequado de um modelo de detecção apoiado por IA no uso clínico em radiologia?
- A) Aprovar automaticamente o laudo do radiologista e eliminar a carga de trabalho
- B) Fechar casos de baixa prioridade sem consultar um radiologista
- C) Se a probabilidade do modelo for alta, faça um diagnóstico sem exames adicionais
- D) Ser uma ferramenta de apoio que chama a atenção para o achado e o prioriza, mas a responsabilidade pelo diagnóstico permanece com o radiologista ✔
Descrição: Image AI é uma ferramenta de apoio à decisão: atrai, prioriza, mede e sinaliza; entretanto, a responsabilidade diagnóstica permanece com o radiologista. O resultado do modelo não substitui a decisão do radiologista, é apenas um dado de entrada. A saída é usada em conjunto com a avaliação clínica independente, pois falsos positivos e falsos negativos são sempre possíveis.
3. Qual é o problema mais comum ao transferir o desempenho de um modelo de IA de um laboratório para outro em patologia digital?
- A) O modelo funciona muito rápido
- B) Os arquivos de slides são muito pequenos
- C) Mudança de domínio causada por diferenças de tingimento e digitalização ✔
- D) Os patologistas não querem usar o modelo de forma alguma
Descrição: O protocolo de coloração, a marca do scanner e a espessura do corte variam de laboratório para laboratório; Se o modelo tiver aprendido com base nas estatísticas de imagem de um laboratório, seu desempenho diminuirá em outro laboratório. Este fenômeno é denominado mudança de domínio e é a causa mais comum de falha na patologia digital; É por isso que a validação externa e a normalização de cores são essenciais.
4. Qual deve ser o primeiro reflexo de confirmação do engenheiro quando um modelo de classificação de ECG rotula “fibrilação atrial”?
- A) Escrever a etiqueta diretamente no prontuário do paciente como diagnóstico
- B) Verifique o sinal bruto, artefatos e plausibilidade fisiológica e deixe a decisão para o médico ✔
- C) Se o índice de confiança do modelo for alto, não há necessidade de nenhum outro controle.
- D) Encaminhar o paciente para tratamento medicamentoso
Explicação: A saída deve primeiro ser testada quanto à plausibilidade fisiológica e qualidade do sinal: desvio da linha de base, artefato muscular ou relaxamento do eletrodo na gravação podem imitar o ritmo. É errado confiar no rótulo sem observar o sinal bruto e os intervalos RR; O diagnóstico final do ritmo cabe ao médico. O modelo produz um sinal preliminar, não toma uma decisão.
5. Qual é a principal característica do processamento de sinais EEG por IA que torna a verificação particularmente difícil?
- A) Baixa relação sinal-ruído e alto artefato/variabilidade ✔
- B) O sinal EEG é de amplitude muito alta e silencioso
- C) Gravação de EEG de apenas um canal
- D) Os dados do EEG nunca são digitais
Explicação: O EEG é um sinal de amplitude muito baixa (faixa de microvolts) e é facilmente contaminado por artefatos como piscar de olhos, movimento muscular, eletrodo e ruído de rede; Além disso, a variabilidade entre indivíduos e gravações é alta. Esta baixa relação sinal-ruído faz com que os resultados do modelo sejam frágeis e necessita de validação neurofisiológica especializada.
6. Qual é o limite mais importante ao trabalhar com dados de frequência cardíaca de um dispositivo portátil?
- A) A bateria do dispositivo esgota-se rapidamente
- B) Armazenamento de dados na nuvem
- C) O dispositivo muitas vezes não é certificado clinicamente e o sinal é suscetível a artefatos/viés ✔
- D) O dispositivo é muito caro
Divulgação: A maioria dos dispositivos vestíveis de consumo não são certificados como dispositivos médicos; O sinal PPG (fotopletismografia) é afetado por artefatos de movimento, e fatores como tom de pele escuro e tatuagens podem reduzir a precisão. Esses dados são valiosos para propensão/consciência, mas medidas clínicas validadas e avaliação médica são necessárias para decisão diagnóstica.
7. O que significa “vazamento temporal” ao construir um modelo preditivo com dados de registros eletrônicos de saúde (EHR)?
- A) Armazenamento criptografado de dados
- B) Vazamento de informações futuras em recursos que ainda não existiam no momento da previsão ✔
- C) Os dados são muito antigos
- D) Treinar o modelo muito lentamente
Explicação: O vazamento temporal é a interferência dos recursos de treinamento com informações que ainda não estão disponíveis no momento da previsão (futuro); por exemplo, usar o diagnóstico de alta para prever o risco na admissão. Isso leva a um alto desempenho no laboratório, mas a um desempenho inferior no uso clínico real e é uma das falhas mais insidiosas dos modelos de dados clínicos.
8. Qual das seguintes opções se torna obrigatória quando um software é descrito como “software de dispositivo médico” (SaMD)?
- A) Apenas trabalhar rápido é suficiente
- B) Não requer nenhuma documentação
- C) Apenas uma interface bonita é necessária
- D) Controle de projeto, gerenciamento de riscos, verificação/validação e conformidade regulatória tornam-se obrigatórios ✔
Descrição: SaMD (Software as a Medical Device) é um software que funciona para fins de diagnóstico, tratamento ou monitoramento e não depende de nenhum hardware. Neste caso, os controles de projeto, gestão de riscos (ISO 14971), verificação/validação e conformidade regulatória são obrigatórios; O software não pode ser tratado como ‘apenas software’ porque sua falha afeta diretamente a segurança do paciente.
9. Qual é o risco mais crítico quando você solicita à IA uma cláusula MDR (Diretiva de Dispositivos Médicos) ou um número padrão?
- A) O modelo produz artigos/referências padrão falsas e as apresenta com segurança ✔
- B) O modelo dá a resposta muito curta
- C) O modelo responde em inglês
- D) O modelo responde muito lentamente
Explicação: Os modelos de linguagem podem produzir com segurança números de itens inexistentes, versões padrão incorretas e referências inventadas (alucinação). Na conformidade regulatória, uma referência incorreta à substância leva a falhas graves de conformidade; portanto, cada atribuição deve ser verificada independentemente do texto oficial, a IA deve ser usada apenas para navegação/redação.
10. Em que categoria se enquadram os dados de saúde no âmbito do KVKK e o que isso significa?
- A) Dados pessoais ordinários; pode ser processado livremente
- B) Não são dados pessoais; não há restrição
- C) Categorias especiais de dados pessoais; Processado com condições e proteções mais rigorosas ✔
- D) Somente segredo comercial; não é necessária privacidade
Explicação: Os dados de saúde são considerados «dados pessoais especiais» no KVKK; Em regra, o tratamento depende de consentimento explícito ou de exceções previstas na lei e exige medidas de proteção mais severas. Portanto, os dados dos pacientes não podem ser inseridos em ferramentas não controladas; O anonimato, a restrição de acesso e os acordos de tratamento de dados são obrigatórios.
11. O que significa “calibração” num modelo clínico de IA e porque é que é importante?
- A) Quão rápido o modelo é executado
- B) Quantos parâmetros o modelo possui?
- C) Cor da interface do modelo
- D) Compatibilidade das probabilidades dadas pelo modelo com as frequências reais dos eventos ✔
Explicação: A calibração é o ajuste das probabilidades dadas pelo modelo às frequências reais: o evento deveria realmente ocorrer em cerca de 20% dos pacientes para os quais diz “risco de 20%”. Como as decisões na clínica são tomadas com base em limiares de probabilidade, um modelo mal calibrado levará a decisões de limiar incorretas, mesmo que seja classificado corretamente; portanto, a calibração e a discriminação (AUC) devem ser verificadas.
12. Por que o “desempenho do subgrupo” deve ser verificado separadamente em modelos de imagem, sinal ou dados clínicos?
- A) Apenas a precisão total é sempre suficiente
- B) Porque os subgrupos afetam a velocidade do modelo
- C) Métricas genéricas podem ocultar desempenho inferior e preconceito em grupos específicos de pacientes ✔
- D) A análise de subgrupo é necessária apenas para marketing
Explicação: Embora um modelo possa parecer bom em média, pode ter um desempenho significativamente pior em determinados subgrupos (idade, sexo, tom de pele, tipo de dispositivo, hospital); A métrica geral esconde esta desigualdade. Nos cuidados de saúde, isto conduz a danos sistemáticos em alguns grupos de pacientes; Portanto, o desempenho deve ser dividido em subgrupos e relatado para fins de justiça.
13. Qual é a melhor abordagem contra o risco de “reidentificação” ao trabalhar com dados de pacientes?
- A) Apenas excluir o nome é suficiente em todas as circunstâncias.
- B) Generalizar identificadores indiretos, bem como identificadores diretos e restringir o acesso ✔
- C) Se os dados pertencerem a um pequeno número de pessoas, nenhuma precaução é necessária
- D) Apenas alterando o nome do arquivo em vez da criptografia
Descrição: Mesmo os dados com nome excluído podem ser reidentificados com raras combinações de diagnóstico, data de nascimento, CEP e data. Portanto, não basta apenas extrair identificadores diretos; Técnicas como mudança de data, generalização, k-anonimato e controle de acesso devem ser aplicadas em conjunto, e textos livres sensíveis também devem ser limpos.
14. Qual é a principal razão para manter o controle “humano no circuito” de ponta a ponta no fluxo de trabalho da IA biomédica?
- A) O controle humano só cria lentidão e deve ser removido
- B) Se a pontuação de confiança do modelo for alta, a validação humana é desnecessária
- C) Não há outra razão prática além da obrigação legal
- D) A IA está sujeita a preconceitos e erros; As decisões e responsabilidades sobre segurança do paciente devem permanecer com o especialista qualificado ✔
Descrição: A inteligência artificial gera, prioriza e traça hipóteses; mas os padrões que aprende a partir dos dados podem ser incompletos, tendenciosos ou fora de contexto. É imperativo que as decisões relativas à segurança do paciente permaneçam com a aprovação do médico e engenheiro autorizado, tanto para detectar erros quanto para manter a responsabilidade no lugar certo; A AI não substitui esta aprovação em nenhum estágio.