Ganhos:
- Capacidade de aplicar os princípios de consentimento informado, não maleficência e confidencialidade à pesquisa social
- Capacidade de anonimizar adequadamente os dados, limpando todos os identificadores diretos e indiretos antes de entregá-los à inteligência artificial
- Capacidade de consultar a política de retenção de dados da ferramenta de inteligência artificial utilizada e usar apenas mídias aprovadas para dados confidenciais
A pesquisa social é feita com pessoas e isso acarreta uma grande responsabilidade. As pessoas contam sobre suas vidas, suas opiniões, às vezes suas experiências mais frágeis. A ética em pesquisa é um conjunto de regras para manter essa confiança: não prejudicar o participante, obter seu consentimento, proteger sua identidade e não fazer uso indevido de seus dados. Na era da IA, esta responsabilidade cresceu ainda mais, porque colar os dados dos participantes numa ferramenta de IA pode agora significar a fuga inadvertida desses dados. Nesta unidade, você aprenderá os princípios básicos da ética em pesquisa, como proteger a confidencialidade ao usar IA e como anonimizar adequadamente os dados (tornando a pessoa irreconhecível).
Três princípios básicos são a espinha dorsal de toda pesquisa social. Consentimento informado: o participante deve compreender o que é a pesquisa e como seus dados serão utilizados e dizer “sim” livremente. Não maleficência: a pesquisa não deve causar danos físicos, psicológicos ou sociais ao participante. Confidencialidade e confidencialidade: a identidade e os dados do participante devem ser protegidos. As ferramentas de IA podem facilitar essas políticas (por exemplo, elaboração de texto de consentimento, controle de anonimato) ou comprometê-las (por exemplo, upload de transcrições de identificação pessoal para uma nuvem). A diferença é se o usuário está consciente ou não.
Passo a passo: pesquisa ética e segura
1. Obtenha aprovação ética. Na maioria das instituições (universidades, institutos) a pesquisa envolvendo seres humanos requer a aprovação de um comitê de ética (o comitê que garante que a pesquisa não prejudica o participante). AI ajuda a redigir o texto do aplicativo; A aprovação em si pertence à instituição.
2. Escreva o texto de consentimento de forma clara. O participante deve ser informado numa linguagem que possa compreender e não em linguagem jurídica pesada. AI elabora um texto de consentimento simples e completo; Você confirma cada item.
3. Torne os dados anônimos antes de fornecê-los à IA. Nome, endereço, número de telefone, local de trabalho e detalhes de identificação devem ser removidos. Muitas vezes, apenas excluir o nome não é suficiente; Uma descrição como “com três filhos, o único farmacêutico do bairro X” também denuncia a pessoa.
4. Saiba qual ferramenta armazena dados e como. Os dados que você cola em uma ferramenta de IA são processados nos servidores dessa ferramenta e podem ser usados em treinamento em alguns serviços. Para dados sensíveis isto pode ser inaceitável; Utilize ferramentas com garantia de proteção de dados aprovadas pela sua instituição.
5. Armazene os dados com segurança e exclua-os em tempo hábil. Cumpra o período de retenção e o compromisso de exclusão que você prometeu em seu consentimento.
Cuidado: colar dados brutos de participantes contendo informações de identificação pessoal (transcrição nomeada, informações de contato, dados pessoais confidenciais) em qualquer ferramenta de IA é uma violação ética e legal grave. Anonimize os dados primeiro; Se você não puder anonimizá-los, nunca forneça esses dados a uma ferramenta externa.
três mini cases
Caso 1 — Anonimização insuficiente. Um pesquisador excluiu nomes das transcrições e os entregou à IA. Mas uma participante disse: “No ano passado, como a única mulher inspetora do município...”; Esta definição por si só já denunciava a pessoa. Ao dizer à IA para “encontrar detalhes de identificação em cada transcrição”, 11 desses identificadores latentes surgiram e foram generalizados.
Caso 2 — Texto de consentimento simplificado. O formulário de consentimento de uma equipe foi escrito em linguagem jurídica pesada; Os participantes estavam assinando sem entender. YZ reduziu o texto para o nível de leitura da 8ª série e escreveu cada artigo em turco simples. Os participantes agora compreenderam verdadeiramente e deram consentimento; O comitê de ética também aprovou.
Caso 3 — A escolha do veículo evitou a crise. Um estudante de doutoramento estava prestes a carregar entrevistas sensíveis com vítimas numa ferramenta geral de IA para resumi-las. Seu assessor lembrou que os dados não eram anonimizados e a política de retenção de dados do veículo era desconhecida. Os dados foram primeiramente totalmente anonimizados e processados apenas em ambiente com garantia de proteção de dados aprovado pela instituição.
Quatro modelos copiáveis
1) Controle de anonimato:
Marque TODOS os detalhes no texto abaixo que possam identificar direta ou indiretamente a pessoa: nome, localização, local de trabalho, funções únicas (“únicas”), data, relacionamento, doença, características raras. Sugira uma resposta anônima para cada um (por exemplo, “Participante 7”, “Condado X”). Texto: [aqui]
2) Minuta de consentimento informado:
Elabore um texto de consentimento informado em linguagem simples (nível da 8ª série) para um estudo. Inclui: finalidade da pesquisa, o que será feito, duração, voluntariedade e direito de retirada, como os dados serão armazenados/excluídos, garantia de confidencialidade, comunicação. Evite jargões jurídicos. Assunto: [x]
3) Triagem de risco ético:
Meu desenho de pesquisa: [resumo]. Participantes: [quem]. Liste possíveis riscos éticos: potencial de dano, desequilíbrio de poder, grupo vulnerável, risco de privacidade, questões de consentimento. Dê uma recomendação de mitigação para cada risco. Caso existam grupos frágeis, indique pontos especiais de atenção.
4) Controle de segurança do veículo AI:
Eu tenho o seguinte tipo de dados: [tipo]. Elabore uma lista de verificação de perguntas de segurança que devo fazer antes de processar isso em uma ferramenta de IA: onde os dados estão armazenados, são usados na educação, são anônimos, há aprovação institucional, são dados confidenciais. Sugira critérios de decisão.
Alerta fraco / Alerta forte
Alerta fraco:
Resuma este registro de entrevista: "Eu sou Ayşe Yılmaz, professora em Kadıköy, minha esposa esteve no ano passado..." [texto com nome completo, ID]
Isso vaza credenciais diretamente para a ferramenta externa – uma grave violação de privacidade. Os dados não são anonimizados de forma alguma.
Alerta poderoso:
Resuma o texto abaixo. O texto foi pré-anonimizado: os nomes foram substituídos por códigos como “Participante 3”, os locais foram substituídos por frases genéricas como “Condado X”, os detalhes de identificação foram omitidos. Adicionando um novo identificador; não faça inferências que possam violar o anonimato.Texto: [texto anonimizado]
A diferença: na segunda abordagem, a identidade do participante não chega de forma alguma à ferramenta; A privacidade é protegida desde o início.
Princípios éticos e prática de IA
princípio
Significado
risco com IA
proteção
Consentimento informado
Consentimento livre e informado
-
Texto de consentimento simples
não faça mal
Nenhum dano ao participante
atribuição incorreta
Auditoria de fidelidade
Privacidade
A identidade está protegida
vazamento de dados
Anonimização
Segurança de dados
Armazenamento seguro
processamento em nuvem
Veículo aprovado
honestidade
Sem ajuste
alucinação
verificação de origem
Erros comuns
- Acho que acabei de excluir o nome e o anonimizei. Descritores indiretos (“o único”) denunciam a pessoa.
- Colando os dados brutos do ID na ferramenta externa. É uma das violações de privacidade mais graves.
- Escrever o texto de consentimento em jargão. O consentimento que não é compreendido não é consentimento real.
- Não conhecer a política de dados do veículo. Descubra onde seus dados são armazenados e usados.
- Tratar a aprovação ética como uma formalidade. O comitê de ética protege o participante; leve isso a sério.
Em resumo
O cerne da pesquisa social é a responsabilidade para com o participante. Consentimento informado, não maleficência e confidencialidade são a espinha dorsal de todo estudo. IA; Pode ajudar na simplificação do texto do consentimento, na triagem de riscos éticos e no controle do anonimato. Mas fornecer dados brutos de identificação a uma ferramenta de IA é uma violação grave; Primeiro, anonimize completamente os dados, limpe os identificadores indiretos, use apenas ferramentas seguras aprovadas pela sua instituição e cumpra todas as promessas que fizer. A ética não é um adorno da pesquisa, mas um pré-requisito.
Tarefa de aplicativo
Prepare um pequeno exemplo de transcrição (edite você mesmo) que inclua informações de identificação. Encontre e generalize todos os identificadores diretos e indiretos da IA com o modelo “controle de anonimato”; Conte quantos identificadores secretos surgiram. Em seguida, crie um texto de consentimento simples usando o “rascunho de consentimento informado” e peça a um amigo que o leia para testar se é realmente compreensível.
lista de verificação
- [ ] Verifiquei o requisito e o processo de aprovação ética.
- [ ] Escrevi o texto de consentimento em linguagem simples e compreensível.
- [] Limpei todos os identificadores diretos e indiretos antes de fornecer os dados à IA.
- [ ] Aprendi a política de retenção de dados da ferramenta de IA que utilizo.
- [] Usei apenas mídias seguras e aprovadas para dados confidenciais.