Unità 3 / 11

Pulizia, trasformazione e analisi esplorativa dei dati (con supporto Python/panda)

Guadagni:

  • Capacità di pulire i dati economici grezzi (osservazioni mancanti, confusione di unità, disadattamento di frequenza) e renderli pronti per l'analisi con l'aiuto dell'intelligenza artificiale
  • Possibilità di stampare trasformazioni economiche standard come conversione nominale reale, indicizzazione, tasso di crescita, destagionalizzazione come codice nell'intelligenza artificiale e verificarle manualmente
  • Capacità di riconoscere i dati attraverso l'analisi esplorativa dei dati (statistiche riassuntive, distribuzione, valori anomali, correlazione) e di leggere in modo critico i riepiloghi dell'intelligenza artificiale

I dati economici raramente sono pronti per l’analisi. In una tabella scaricata da TURKSTAT, mancano alcuni mesi, una colonna appare come testo con migliaia di parentesi, il tasso di cambio è in formato turco come "1.234,56", una serie è mensile e l'altra è trimestrale. La maggior parte del tempo dell'economista non viene speso nell'analisi, ma nel rendere i dati pronti per l'analisi. È qui che l’intelligenza artificiale è un vero acceleratore a basso rischio: suggerisce passaggi di pulizia, scrive panda (la libreria di elaborazione dati di Python), codifica trasformazioni economiche standard. Ma questa unità ha anche una regola immutabile: leggi ogni trasformazione scritta dall’intelligenza artificiale e la verifichi manualmente in almeno un’osservazione. Se il ciclo reale-nominale si trova sul piede sbagliato, l’intera analisi decade silenziosamente.

Pulizie: quali problemi, come risolverli?

I problemi più comuni nei dati economici e la loro logica:

  • Osservazione incompleta. Un mese/trimestre è vuoto. La soluzione dipende dal contesto: se effettivamente non esiste si lascia vuoto; Se c’è un divario tecnico, viene eseguita un’attenta interpolazione, ma il confine tra la fabbricazione è sottile.
  • Confusione di unità e formati. Il testo "12.345.6" deve essere convertito in un numero; milione/miliardo dovrebbe diventare consistente.
  • Discrepanza di frequenza. Per combinare una serie mensile e trimestrale, se ne aggrega una (da mensile a trimestrale): che si tratti della media, del totale o della fine del periodo dipende dalla natura dell'indicatore (distinzione stock/flusso).
  • Valori anomali (estremi). Se un'osservazione devia notevolmente: si tratta di un evento reale (crisi, aumento dei prezzi) o di un errore nei dati? Resta inteso prima della cancellazione.
  • Allineamento della data. I formati della data e le definizioni del periodo di diverse serie vengono sincronizzati.
Attenzione: l'inserimento dei dati mancanti sembra innocuo, ma è una decisione economica. Riempire un mese di crisi con la “media dei mesi vicini” significa eliminare quella crisi dall'analisi. Prima di compilare, chiediti "perché esiste questo divario?" Rispondi alla domanda.

Trasformazioni economiche standard

Trasformazioni e loro definizioni nel repertorio quotidiano di un economista:

  • Nominale → Reale. Adeguamento per l'impatto sui prezzi: valore reale = valore nominale / indice dei prezzi × 100. L'anno base del deflatore (indice di aggiustamento) determina la base del risultato.
  • Indicizzazione. Ridimensionare una serie in modo che un periodo selezionato = 100; È utile per confrontare serie di dimensioni diverse.
  • Tasso di crescita. Annuale: (stesso periodo in questo periodo / l'anno scorso − 1) × 100. Il tasso periodico e quello annualizzato sono cose diverse; Fare confusione è un errore comune.
  • Correzione stagionale. Depurativi degli effetti stagionali regolari (turismo estivo, vacanze); La serie grezza e quella destagionalizzata raccontano storie diverse.
  • Media mobile. Eliminare il rumore e rendere visibile la tendenza.
  • Logaritmi e differenziazione. Esaminare le dinamiche di crescita e la stazionarietà (approfondirà nell'unità delle serie storiche).
Suggerimento: ad ogni conversione ti verrà chiesto "cosa è successo all'unità e alla base?" chiedere. La base della serie reale è la base del deflatore; La base della serie indicizzata è il periodo scelto. Tenerlo annotato previene errori futuri.

Analisi esplorativa dei dati (EDA)

È necessario riconoscere i dati prima di inserirli nel modello. L'analisi esplorativa dei dati (EDA) comprende: statistiche riassuntive (media, mediana, deviazione standard, min-max), forma della distribuzione, andamento nel tempo, valori anomali e correlazione tra serie. L'intelligenza artificiale genera rapidamente il codice per questi passaggi; Il tuo compito è leggere l'output con un occhio economico: "Questa media è ragionevole? Questa correlazione è una coincidenza o una relazione nota?"

Attenzione: la correlazione qui è solo un mezzo di identificazione, non una prova di causalità. Il fatto che due serie si muovano insieme (ad esempio, le vendite di gelati e gli annegamenti, entrambi innescati dall’estate) non indica necessariamente che l’una porti all’altra. Approfondiremo questa distinzione nell’unità 7.

tre mini custodie

Caso 1 — Base del deflatore errata. Un analista ha chiesto all'intelligenza artificiale di scrivere il codice per realizzare la serie salariale. Il codice ha funzionato, il risultato sembrava ragionevole, ma l'analista ha calcolato manualmente il 2020 nella fase CALCOLA e non ha funzionato. Problema: l'intelligenza artificiale ha utilizzato il deflatore con base 2003=100 e ha richiesto la serie salariale con prezzi 2015; Le basi erano contrastanti. Il codice è stato riparato con una correzione su una sola riga e l'intera serie è andata a posto.

Caso 2: errore del volume silenzioso. Un'istituzione aveva ridotto i dati delle esportazioni in migliaia di dollari e delle importazioni in milioni di dollari. Quando l’intelligenza artificiale ha rimosso i due per la “bilancia commerciale estero”, il risultato è stato un deficit assurdo. La visualizzazione min-max in EDA ha rivelato l'errore: l'ordine di grandezza delle due serie differiva di un fattore 1000. Una volta equalizzata l'unità, il bilanciamento era corretto.

Caso 3: mancata eliminazione del valore anomalo. Un mese in una serie era straordinariamente basso. L'intelligenza artificiale ha suggerito "valore anomalo, puliamolo". L'analista indagò: in realtà quel mese la produzione si era fermata a causa di una catastrofe naturale. Il valore era reale; Cancellarlo distorcerebbe la storia. Invece di essere cancellato, è stato inserito in una nota a piè di pagina. La raccomandazione "chiara" dell'AI non è stata seguita ciecamente.

Tabella di convalida della conversione

Conversione

essenza della formula

punto di controllo manuale

realizzazione

nominale/indice dei prezzi × 100

Base del deflatore = base del risultato?

crescita annuale

(t / t-12mesi − 1)×100

Calcolare un periodo su carta

indicizzazione

serie/periodo base × 100

Il valore del periodo base è 100?

Mensile→trimestrale

flusso: raccolta/stoccaggio: fine periodo

Metodo di raccolta corretto?

media mobile

media degli ultimi n periodi

La lunghezza della finestra è corretta?

Quattro modelli copiabili

1) Piano di pulizia:

Ho questi dati grezzi: [colonne e righe di esempio]. Elaborare un piano di pulizia per prepararsi all'analisi: valore mancante, problema di unità/formato, allineamento della data, allineamento della frequenza, possibili valori anomali. Spiega in una frase perché ogni passaggio è necessario. Non scrivere ancora il codice; lasciami prima confermare il piano.

2) codice di pulizia Panda:

Scrivi il codice Panda secondo il piano che ho approvato. Lascia che il codice indichi cosa fa ad ogni passaggio con una riga di commento; Stampa il numero di righe e i valori mancanti dopo la conversione. Non cancellare silenziosamente alcuna osservazione; Segnala ogni riga che elimini.

3) Realizzazione (verificabile):

Realizza questa serie nominale con [indice dei prezzi]. Scrivi chiaramente l'anno base del deflatore quando lo utilizzi; Specificare qual è la base della serie risultante. Mostrami il conto passo dopo passo per un singolo periodo così posso verificarlo manualmente.

4) Sintesi dell'analisi esplorativa:

Scrivi il codice di analisi esplorativa per i seguenti dati puliti: statistiche di riepilogo, grafico delle serie temporali, scansione dei valori anomali e matrice di correlazione. Quando interpreti i risultati, chiarisci che le correlazioni che trovi non sono CAUSALI ed elenca 3 punti che mi colpiscono.

Prompt debole / Prompt forte

Suggerimento debole:

Cancella questi dati.

L’intelligenza artificiale agisce partendo da supposizioni senza sapere cosa pulire; Puoi eliminare osservazioni, modificare unità, non te ne accorgerai.

Suggerimento potente:

In questi dati mensili sul commercio estero, le esportazioni sono espresse in "migliaia di dollari" e le importazioni in "milioni di dollari". Rendi i due uguali in "milioni di dollari", segna i mesi mancanti ma NON COMPILARE, allinea le date alla fine del mese. Stampa quante righe sono interessate ad ogni passaggio; eliminare silenziosamente nessuna riga. Quindi mostra il saldo per un singolo mese in modo da poterlo controllare manualmente.

Errori comuni

  • Esecuzione del codice di conversione senza leggerlo. La base/unità sbagliata corrompe silenziosamente l'intera analisi.
  • Compilare i dati mancanti senza pensare. Cancellare il periodo di crisi/disastro con la media.
  • Elimina automaticamente i valori anomali. Confondere un evento reale per un errore di dati.
  • Confondere la crescita stagionale con quella annuale. I due sono di dimensioni diverse.
  • Combinazione errata delle frequenze. Raccolta delle serie stock ed elaborazione come flusso.
  • Confondere la correlazione nell'EDA con la causalità. Confondere lo strumento di riconoscimento come una prova.

In sintesi

La pulizia e la trasformazione dei dati rappresentano l’80% invisibile ma decisivo dell’analisi economica. L’intelligenza artificiale accelera notevolmente questo lavoro meccanico; ma spetta a te leggere ogni passaggio di pulizia e ogni trasformazione e verificare manualmente almeno un'osservazione. Le decisioni su base, unità, frequenza e valori anomali del deflatore sono decisioni economiche e non possono essere lasciate ciecamente all’intelligenza artificiale. L'analisi esplorativa introduce dati, ma non c'è correlazione, né causalità.

Compito dell'applicazione

Scarica una serie grezza effettiva (ad esempio l'IPC mensile e una serie di salari/redditi nominali). Crea un piano di pulizia con il 1° modello, fai generare il codice con il 2° modello e realizza la serie con il 3° modello. Quindi calcola il valore reale di un singolo periodo su carta e confrontalo con il risultato dell'intelligenza artificiale. Se trovi una mancata corrispondenza, diagnostica e correggi la sua origine (base/unità) e annota i progressi.

lista di controllo

  • [ ] Ho rivisto e approvato il piano di pulizia prima che il codice fosse scritto.
  • [ ] Ho fatto cancellare/modificare ogni riga segnalata dall'intelligenza artificiale; Nessuna cancellazione silenziosa.
  • [ ] Durante la compilazione dei dati mancanti potresti chiederti "perché è vuoto?" Ho risposto alla domanda.
  • [ ] Ho indagato se l'anomalia fosse un evento reale o un errore nei dati.
  • [ ] Nella realizzazione ho verificato che la base del deflatore e la base dei risultati coincidono.
  • [ ] Ho ricalcolato manualmente la conversione di almeno un periodo.
  • [ ] Non ho presentato correlazioni nell'EDA come causalità.