Unidade 5 / 11

Diagnósticos de regressão e violações: colinearidade, heterocedasticidade, autocorrelação

Ganhos:

  • Capacidade de detectar violações como multicolinearidade, heterocedasticidade e autocorrelação com testes diagnósticos e gráficos com suporte de inteligência artificial
  • Capacidade de distinguir se cada violação distorce estimativas de coeficientes ou erros padrão e escolher a correção apropriada (erro padrão robusto, transformação, revisão do modelo)
  • Capacidade de verificar se as soluções sugeridas pela IA resolvem o problema em vez de ocultá-lo e se o diagnóstico se baseia na compreensão do processo que produz os dados

Ler o resultado de uma regressão é fácil; É difícil confiar nele. Como os coeficientes são imparciais, os erros padrão estão corretos e os valores p são válidos, dependendo das suposições que introduzimos na unidade anterior serem atendidas. Nesta unidade, abordaremos as três violações mais comuns: multicolinearidade, heterocedasticidade e autocorrelação. Responderemos três perguntas para cada um: como diagnosticar, o que quebra (coeficiente ou erro padrão) e como consertar. A inteligência artificial (IA) gera o código para teste e correção de diagnóstico; mas você decide qual violação é realmente o problema e se a correção resolve o problema.

Vamos fazer a distinção mais crítica desde o início: uma violação distorce a estimativa do coeficiente ou apenas os erros padrão? Esta distinção determina a solução. Um problema que distorce o coeficiente (por exemplo, violação de exogeneidade) exige repensar o modelo; Um problema que apenas distorce o erro padrão (heterocedasticidade, autocorrelação) é frequentemente resolvido pela correção do erro padrão. Um erro comum da IA ​​é aplicar uma técnica que corrija o erro padrão e depois declarar o problema “resolvido”; enquanto a estrutura subjacente ainda pode estar lá.

Violação 1: Multicolinearidade

Por quê? Duas ou mais variáveis ​​explicativas estão fortemente relacionadas entre si; por exemplo, colocando “total de anos de experiência” e “idade” no modelo. Como essas variáveis ​​carregam quase as mesmas informações, o modelo tem dificuldade em separá-las.

O que isso quebra? As estimativas dos coeficientes permanecem imparciais, mas tornam-se instáveis: os erros padrão tornam-se inflacionados, os intervalos de confiança alargam-se, os coeficientes individuais podem revelar-se insignificantes, enquanto o modelo pode ser significativo em geral (teste F). Uma pequena alteração nos dados move o coeficiente significativamente.

Como é diagnosticado? VIF (Variance Inflation Factor): para cada variável, mede o quanto aquela variável é explicada pelas demais. Como limiar aproximado, VIF > 5 (cerca de 10) justifica cautela. Adicionalmente, é examinada a matriz de correlação entre variáveis ​​explicativas.

Como consertar? Eliminando uma das variáveis ​​correlacionadas, combinando-as (fazendo um índice), ou (se a teoria exigir) mantendo ambas e evitando interpretar coeficientes individuais. Qual variável permanece é uma decisão teórica, não estatística – a IA sugere a eliminação, você fornece a justificativa.

Violação 2: Heterocedasticidade

Por quê? A variância do termo de erro não é constante entre as observações. Exemplo típico: à medida que a renda aumenta, aumenta também a dispersão em torno dos gastos; Forma-se um padrão de “funil”, estreito na baixa renda e largo na alta renda.

O que isso quebra? As estimativas dos coeficientes são novamente imparciais – isto é importante. O que fica distorcido são os erros padrão: eles são calculados incorretamente, então os valores p e os intervalos de confiança tornam-se não confiáveis. Portanto, seu coeficiente está no centro certo, mas a resposta à pergunta “quão confiante você está” está errada.

Como é diagnosticado? Gráfico de dispersão dos resíduos versus valores previstos (padrão de funil procurado) e testes formais: teste de Breusch-Pagan, teste de White. O valor p pequeno indica "sem variação constante".

Como consertar? A solução mais comum e prática é usar erros padrão robustos (robustos/consistentes com heterocedasticidade, erros padrão HC): não altera o coeficiente, corrige o erro padrão por violação. Alternativa: transformar a variável dependente (como log) ou LCM ponderado. Erros padrão robustos tornaram-se quase o padrão no trabalho empírico hoje.

Violação 3: Autocorrelação

Por quê? Os termos de erro não são independentes uns dos outros; É mais comum em séries temporais: o erro de um período afeta o seguinte (por exemplo, o resíduo permanece positivo em períodos após um choque).

O que isso quebra? Mais uma vez, distorce principalmente os erros padrão (muitas vezes os subestima, criando um significado falso); Os coeficientes permanecem imparciais no LCC, mas perdem a sua eficácia.

Como é diagnosticado? Teste de Durbin-Watson (para autocorrelação de primeira ordem), teste de Breusch-Godfrey (mais geral) e gráficos de resíduos versus valores defasados.

Como consertar? Erros padrão de Newey-West (HAC — resistente à autocorrelação e heterocedasticidade), adicionando termos defasados ​​ao modelo ou mudando para o modelo de série temporal apropriado (unidade 8).

Cuidado: A heterocedasticidade e a autocorrelação distorcem o erro padrão, não o coeficiente. Portanto, antes de dizer “o coeficiente foi significativo”, certifique-se de que o erro padrão foi calculado corretamente; Caso contrário, o significado pode ser uma ilusão.

gráfico de comparação

violação

O que quebra

Diagnóstico

Solução comum

multilink

Aumenta os erros padrão, torna o coeficiente instável

VIF, matriz de correlação

Subtrair/combinar variável (por teoria)

heterocedasticidade

Erros padrão (coeficiente imparcial)

Breusch-Pagan, Branco, gráfico residual

Erro padrão robusto (HC), conversão

Autocorrelação

Erros padrão (coeficiente imparcial)

Durbin-Watson, Breusch-Godfrey

Newey-West (HAC), prazo atrasado

Quatro prompts copiáveis

1. Pacote completo de diagnóstico:

Sua função: assistente de diagnóstico de regressão. Quero código R, não compartilho os dados. Modelo: lm(despesas ~ renda + idade + região, dados = dados). Tarefa: (1) Calcular VIF, (2) Testar heterocedasticidade com Breusch-Pagan e gráfico de estimativa residual, (3) Testar autocorrelação com Durbin-Watson. Explique na linha de comentários qual violação cada teste mede e como interpretar o valor p. APLICAÇÃO DE CORREÇÃO; produzir diagnóstico.

2. Erro padrão robusto:

Escreva o código R que reproduza a tabela de coeficientes com erros padrão robustos à heterocedasticidade (HC3) para o mesmo modelo (pacotes sanduíche + lmtest). Produza uma tabela mostrando os erros padrão clássicos e robustos lado a lado para que eu possa ver a diferença. Enfatize na linha de comentários que os coeficientes NÃO mudam, apenas os erros padrão mudam.

3. Revisão de vários links:

Dê-me uma lista THINK de variáveis com VIF alto: quais variáveis poderiam teoricamente medir a mesma coisa, quais têm fortes argumentos para mantê-las. NÃO se qualifique automaticamente; Tomarei a decisão com base na teoria. Explique também por que pode ser errado apenas olhar para o VIF e atribuir variáveis.

4. Correção de autocorrelação:

Na minha regressão de série temporal, o valor p de Breusch-Godfrey foi 0,001. Escreva o código R que produza a tabela de coeficientes com erros padrão de Newey-West (HAC) e explique como selecionar o atraso. Observe que esta correção não resolve a CAUSA da autocorrelação, apenas corrige a inferência.

Alerta fraco / Alerta forte

Alerta fraco:

Há algum problema com minha regressão? Se sim, conserte.

Este prompt coloca a IA em um modo cego de “conserto”: ela pode pular testes e aplicar uma transformação direta ou eliminação de variáveis, sem mostrar qual violação realmente existe e o que quebrou.

Alerta poderoso:

Sua função: assistente de diagnóstico, não autocorretor. Primeiro teste para TRÊS violações separadamente (multicolinearidade, heterocedasticidade, autocorrelação) e para cada uma: qual teste, como ler o resultado, quebra COEFICIENTE ou ERRO PADRÃO. Em seguida, apenas sugira uma correção para a violação que REALMENTE foi detectada e explique como posso verificar se a correção resolveu o problema.

Diferença: a força de vontade força o diagnóstico antes da correção e exige uma distinção clara entre “o que quebra”.

três mini cases

Caso 1 — Significância espúria (heterocedasticidade). Um analista concluiu que o coeficiente de receitas no modelo de despesas ~ receitas é “significativo” em p = 0,01. Mas agora havia um padrão distinto de funil em seu gráfico. Quando foram aplicados erros padrão robustos, o valor p aumentou para 0,09; o significado é perdido. O primeiro resultado foi uma ilusão criada por um erro padrão mal calculado. Lição: não se pode confiar na significância sem corrigir o erro padrão.

Caso 2 — Eliminação cega de variáveis. Um aluno eliminou a variável “experiência” do modelo porque seu VIF era alto; Os coeficientes foram “limpos”, mas o significado teórico do modelo foi distorcido porque a experiência era a principal variável de interesse. A maneira correta: subtrair a idade e manter a experiência, ou combinar os dois. Lição: O limite VIF por si só não é motivo para eliminação; a teoria determina.

Caso 3 — Incerteza ocultada pela autocorrelação. Num estudo de série temporal, Durbin-Watson foi ignorado; o coeficiente parecia muito “preciso” (intervalo de confiança estreito). Quando foram aplicados os erros padrão de Newey-West, o intervalo de confiança duplicou e a recomendação política tornou-se muito mais conservadora. Lição: a autocorrelação pode subestimar a incerteza.

Erros comuns

  • Confundir a violação que distorce o erro padrão como um problema de coeficiente. A heterocedasticidade e a autocorrelação não distorcem o coeficiente; Não entre em pânico e reconstrua o modelo desnecessariamente, corrija primeiro o erro padrão.
  • Olhando para o VIF e atribuindo variáveis ​​​​cegamente. Remover uma variável teoricamente necessária só porque o VIF é alto torna o modelo sem sentido.
  • Não verificando a correção. Após aplicar o erro padrão robusto, verifique se a violação realmente corrige a inferência; Não diga “Eu apliquei, está feito”.
  • Corrigir sem diagnóstico. Aplicar transformação/eliminação sem testar qual violação existe pode "resolver" o problema onde ela não existe e ocultar aquele que existe.
  • Colocando a solução no porquê. Newey-West não resolve a causa da autocorrelação; apenas corrige a inferência. Se houver um problema estrutural, o modelo deverá ser alterado.
Dica: Para cada violação, pergunte-se "isso está destruindo o coeficiente ou minha confiança nele?" Se a resposta for “confiança”, a solução quase sempre é a correção de erros padrão, e não a reconstrução do modelo.

Em resumo

O diagnóstico de regressão é um pré-requisito para confiar na saída. Das três violações comuns, a multicolinearidade torna o coeficiente instável e inflaciona o erro padrão; A heterocedasticidade e a autocorrelação, por outro lado, deixam o coeficiente imparcial e apenas distorcem o erro padrão. A IA gera o código de diagnóstico e correção, mas você decide qual violação é o problema real, qual variante permanece teórica e se a correção resolve o problema. Nem o pânico nem a correção cega são corretos sem esclarecer a distinção entre “o que está quebrando”.

Tarefa de aplicativo

Configure uma regressão multivariada e peça à IA um código que produza apenas diagnósticos (sem correções): VIF, Breusch-Pagan/White e Durbin-Watson/Breusch-Godfrey. Para cada teste, interprete o resultado e indique se a violação distorce o coeficiente ou o erro padrão. Para uma violação real detectada (por exemplo, heterocedasticidade), aplique erros padrão robustos e justaponha resultados clássicos e robustos; Mostre que o coeficiente não muda, mas o erro padrão muda. Em um parágrafo, relate como o seu resultado de significância foi afetado pela correção.

lista de verificação

  • [] Testei três violações (multicolinearidade, heterocedasticidade, autocorrelação) separadamente.
  • [ ] Para cada violação, diferenciei se ela distorce o coeficiente ou o erro padrão.
  • [] Baseei a eliminação de variáveis ​​​​na multicolinearidade na teoria, não apenas no VIF.
  • [ ] Utilizei erro padrão com robustez à heterocedasticidade/autocorrelação (HC/HAC).
  • [ ] Após a correção, verifiquei e verifiquei o impacto da violação na minha inferência.
  • [] Relato como meu resultado de significância foi afetado pela correção de erro padrão.