Unidade 7 / 12

Apoio ao projeto de pesquisa e análise de dados

Ganhos:

  • Capacidade de usar a inteligência artificial como parceira de pensamento na elaboração de questões de pesquisa, hipóteses, seleção de escalas e planos de análise
  • Capacidade de auditar suporte para análise quantitativa (interpretação de código/resultado) e análise qualitativa (rascunho de codificação temática) com precisão estatística e metodológica
  • Capacidade de desenvolver um reflexo protetor no uso de inteligência artificial contra a caça ao valor-p, estatísticas fabricadas e processamento de dados antiético

A psicologia é uma ciência que estuda sistematicamente o comportamento humano, e a base desta ciência é a pesquisa. Esteja você escrevendo uma tese, medindo a eficácia de um programa em uma instituição ou preparando um artigo; Uma boa pesquisa requer um design sólido, uma análise precisa e uma interpretação honesta. A inteligência artificial (IA) pode ser uma parceira de pensamento em todas as fases da investigação: aguçar a questão de investigação, evocar escalas possíveis, elaborar um código de análise, explicar um resultado estatístico em linguagem simples, desenhar sugestões iniciais de temas nos seus dados qualitativos. Mas a IA também alucina nas estatísticas, sugere erros metodológicos e, o que é mais perigoso, pode involuntariamente abrir a porta a práticas antiéticas (como a caça ao valor-p). Nesta unidade você aprenderá a usar a IA como um assistente poderoso, mas supervisionado, em pesquisa.

Onde a IA ajuda na pesquisa?

Fase de desenho: Esclarecer a questão de pesquisa, aguçar a formulação da hipótese, considerar possíveis variáveis ​​e confundidores (terceiros fatores que afetam o resultado, mas não são examinados), lembrando desenhos apropriados. A IA é uma parceira de brainstorming aqui; Você decide.

Análise quantitativa: explicar quando um método de análise (como teste t, ANOVA, regressão) é apropriado, redigir código de análise (por exemplo, R ou Python), interpretar um resultado estatístico. A IA escreve o código, mas você é responsável pela precisão do resultado produzido pelo código e pela adequação do método.

Análise qualitativa: Sugestões iniciais de códigos nas transcrições das entrevistas, possíveis títulos de temas, rascunho do livro de códigos. A IA fornece um ponto de partida; O pesquisador acrescenta profundidade interpretativa.

Cuidado: a IA não é uma estatística. Pode sugerir o teste errado, omitir suposições, produzir um coeficiente ou valor p falsificado. Verifique cada decisão metodológica e cada número de forma independente (com seu próprio conhecimento, uma fonte estatística ou um especialista).

Linhas vermelhas éticas: p-hacking e processamento de dados

Uma das armadilhas mais perigosas da ética em pesquisa é o p-hacking: alterar repetidamente a análise, adicionar/remover variáveis ​​ou cortar dados até que surja um resultado significativo. Pergunte à IA “o que posso fazer para tornar meu resultado significativo?” Perguntar " é cair nessa armadilha sem perceber. Para esse tipo de pergunta, a IA pode dar sugestões como “extraia essa variável, olhe esse subgrupo”; essas sugestões “funcionam” estatisticamente, mas são cientificamente fraudulentas.

Da mesma forma, a IA pode sugerir “completar” dados que não existem ou excluir valores discrepantes sem justificativa. Os dados são analisados como estão; As alterações só podem ser feitas com regras predefinidas, transparentes e justificadas.

Dica: Anote seu plano de análise (qual teste você fará, com quais variáveis, para quais hipóteses) antes de ver os dados. Use a IA para esclarecer esse plano, não para “embelezar” o resultado. Um plano pré-escrito é a proteção mais forte contra p-hacking.

Passo a passo: Fluxo de pesquisa seguro alimentado por IA

  1. Esclareça a questão e a hipótese. Deixe a IA pesquisar o problema para aprimorá-lo, mas você decide.
  2. Escreva seu plano de análise com antecedência. Qual teste, qual suposição, qual hipótese. Deixe a IA supervisionar o plano.
  3. Rascunho do código, verifique a saída. Deixe a IA escrever código; Você executa, verifica o resultado de forma independente.
  4. Verifique as suposições. Teste você mesmo as suposições que a IA ignora, como normalidade e homogeneidade de variância.
  5. Considere os códigos qualitativos como rascunhos. Considere os temas iniciais da IA; Leia e verifique os dados você mesmo.
  6. Relate honestamente. Anote também o resultado sem sentido; Evite p-hacking e relatórios seletivos.

três mini cases

Caso 1 — armadilha p-hacking. Quando a hipótese principal de um pesquisador não se mostra significativa (p=0,21), ele pergunta à IA “maneiras de tornar o resultado significativo”. AI sugere várias análises de subgrupos e extração de variáveis; Quando o pesquisador tenta fazer isso, ele obtém p = 0,04. Mas este resultado é espúrio: se tentarmos 10 análises diferentes, uma delas será significativa por acaso. A maneira certa: relatar a análise predefinida, escrevendo honestamente o resultado sem sentido.

Caso 2 — Código e comentário de saída. Um estudante de pós-graduação deseja testar diferenças entre dois grupos em dados de 120 participantes, mas não está familiarizado com software estatístico. Ele imprime o rascunho do código de análise na IA, executa-o e faz com que a IA interprete a saída. Em seguida, ele verifica as suposições do teste t de uma fonte estatística e verifica o resultado de forma independente. A IA encurta a curva de aprendizado, mas a decisão final cabe ao aluno.

Caso 3 — Codificação qualitativa. Um pesquisador alimenta a IA com 18 transcrições de entrevistas anônimas e pede sugestões iniciais de código. AI surge com cerca de 30 códigos e 5 sugestões de temas. O pesquisador considera isso como o início e lê ele mesmo todas as transcrições; Adiciona um tema que a IA perdeu, separando dois que combinou incorretamente. Também verifica a confiabilidade com um segundo codificador. A IA se adiantou, mas a interpretação saiu do humano.

Prompts e modelos copiáveis

Ajude-me a aprimorar uma questão de pesquisa. Minha pergunta preliminar: [pergunta]. Pergunte/sugira o seguinte: variáveis ​​dependentes-independentes, possíveis fatores de confusão, desenho de pesquisa apropriado. A decisão é minha; Apenas explique as opções e os riscos, não force o resultado.

Confira meu plano de análise: [plano]. Avalie: o teste que escolhi se ajusta à hipótese, quais suposições devo verificar, o tamanho da amostra parece suficiente, há algum risco metodológico que tenha esquecido? Dê sugestões para solidificar o plano, não para alterar o resultado.

Interprete os seguintes resultados estatísticos em linguagem simples: que resultado significa o quê, que pressupostos precisam de ser verificados, onde está o risco de interpretação excessiva? Declare honestamente quaisquer resultados não significativos. Saída: [saída]

Abaixo estão as transcrições das entrevistas anônimas. Na primeira etapa são geradas POSSÍVEIS SUGESTÕES de códigos e temas para codificação temática. Lembre-se de que este é um rascunho inicial e irei ler e verificar os dados; Não apresente isso como um resultado definitivo. Transcrições: [transcrições anônimas]

Alerta fraco / Alerta forte

Solicitação fraca: "O resultado não foi significativo nos dados, como posso tornar o valor p significativo?"

Este prompt chama a IA para sugerir p-hacking; Mesmo que o resultado “funcione” estatisticamente, trata-se de uma fraude científica.

Solicitação forte: "O plano de análise que defini anteriormente é [o plano]. O resultado não foi significativo (p=0,21). Como devo relatar isso honestamente, quais poderiam ser as possíveis implicações do resultado não significativo e o que eu recomendaria para um estudo futuro?"

Este prompt direciona a IA para a ciência honesta; Ele não distorce o resultado, ele aprende com ele.

Erros comuns

  • Convite para p-hacking. Perguntar “Torne o resultado significativo”; Isto é fraude científica.
  • Aplicar o método sem validá-lo. Usar o teste sugerido pela IA sem verificar suas suposições.
  • Aceitar estatísticas inventadas. Não confirmando o coeficiente/valor p dado pela IA com sua própria análise.
  • Confundir códigos qualitativos com análise final. Relatar temas de IA sem ler os dados.
  • Escondendo o resultado sem sentido. Relatórios seletivos, relatando apenas o que é significativo.

Resumindo

A IA é um parceiro de pensamento poderoso em pesquisas sobre aprimoramento de questões, auditoria de planos de análise, elaboração de código, interpretação de resultados e início de codificação qualitativa. Mas ele comete erros nas estatísticas e nas alucinações; O mais perigoso é que ele pode, sem saber, abrir a porta para métodos antiéticos, como o p-hacking. Escreva seu plano de análise com antecedência, verifique cada método e número de forma independente, verifique suposições, trate os códigos qualitativos como rascunhos e leia você mesmo os dados e relate resultados sem sentido honestamente. A IA acelera; A integridade científica vem de você.

Tarefa de aplicativo

Crie um pequeno cenário de pesquisa (por exemplo, comparando dois grupos em uma escala). Primeiro, escreva seu plano de análise em um parágrafo. Em seguida, peça à IA para auditar este plano e pergunte se há alguma suposição ou risco que você não percebeu. Além disso, faça com que a IA interprete uma pequena saída imaginária e verifique por si mesmo se sua interpretação é excessivamente assertiva. Escreva uma frase de reportagem honesta sem se envolver em P-hacking.

lista de verificação

  • [] Escrevi meu plano de análise antes de ver os dados.
  • [] Eu verifiquei de forma independente as suposições do método sugerido pela IA.
  • [] Verifiquei todas as estatísticas fornecidas pela IA com minha própria análise.
  • [ ] Considerei os códigos qualitativos como rascunhos iniciais e li eu mesmo os dados.
  • [] Também relatei resultados insignificantes honestamente.
  • [] Evitei p-hacking e reportagens seletivas.