Unità 6 / 11

Analisi dei dati di test e convalida

Guadagni:

  • Capacità di riconoscere i tipi di dati di prova come dinamometro, prova su strada, resistenza e DVP&R e la loro posizione nel processo di verifica
  • Capacità di utilizzare l'intelligenza artificiale per riepilogare, contrassegnare anomalie e redigere rapporti in grandi set di dati di test
  • Capacità di convalidare in modo incrociato l'interpretazione dei test dell'IA con l'incertezza di misura, la ripetibilità e i criteri di accettazione

La risposta alla domanda "soddisfa i requisiti" prima che un veicolo o un componente venga messo in produzione è nascosta nei dati di test e verifica. I test nel settore automobilistico si estendono dal laboratorio (dinamometro, camera climatica, tavola vibrante) alla strada (prova su strada, pista di resistenza) e al crash Laboratory. Questi test generano enormi quantità di dati: un singolo test di resistenza può contenere milioni di righe di record di sensori. In questa unità vedremo le tipologie di questi dati, il loro posto nel processo di verifica e come l'intelligenza artificiale aiuta nell'analisi (ma come la decisione spetta all'ingegnere).

Cosa sono la verifica e la validazione?

I due termini vengono spesso confusi:

  • Verifica: "Abbiamo costruito il prodotto correttamente?" Misura la conformità al requisito. Esempio: "La specifica dello spazio di frenata dice 38 metri; noi l'abbiamo misurato, 36,5 metri. Adatto."
  • Convalida: "Abbiamo realizzato il prodotto giusto?" Soddisfa le esigenze nell'uso reale? Esempio: "I conducenti ritengono che questo freno si senta sicuro?"

Nell'automotive questo processo viene solitamente gestito con il documento DVP&R (Design Verification Plan and Report): si tratta di una tabella in cui si elenca quale requisito verrà testato con quale test, con quali criteri di accettazione e il risultato.

Tipi di dati di test tipici

Tipo di prova

Quali misure

dati campione

Dinamometro (dinamico)

Potenza motore, coppia, emissioni

Curva giri-coppia, consumo di carburante

prova su strada

Comportamento delle condizioni effettive

GPS, accelerazione, segnali di guida

durabilità

stanchezza per tutta la vita

Vibrazioni, deformazione, numero di cicli

clima/ambiente

Resistenza al caldo-freddo-umidità

temperatura, stato di funzionamento

NVH

Rumore/vibrazione

Pressione sonora, spettro di accelerazione

Collisione (incidente)

Sicurezza

Video ad alta velocità, sensori fittizi

Ogni test ha un criterio di accettazione (requisito). L'analisi consiste nel dimostrare se i dati soddisfano questo criterio.

Cosa fa l’intelligenza artificiale nell’analisi dei test?

L'intelligenza artificiale è un potente assistente nell'analisi dei dati di test per:

  1. Riepilogo: riepilogo statistico, valori di picco, distribuzione da milioni di righe.
  2. Segnalazione di anomalia: "C'è un calo di coppia inaspettato a 214 secondi in questa registrazione."
  3. Confronto di modelli: confrontare due corse di prova o veicoli diversi e trovare le differenze.
  4. Bozza del rapporto: stesura del testo del risultato DVP&R e delle spiegazioni grafiche.
  5. Guida al codice: generazione di script di analisi (Python).

Ma attenzione: questi sono tutti schizzi e suggerimenti. È il test engineer a decidere se il test viene superato o meno e se si tratta di un'anomalia o di un errore di misurazione.

Suggerimento: chiedi all'IA "questo test è passato?" Invece di chiedere: "Quali regioni in questi dati mostrano un rischio in base ai criteri di accettazione, quali controlli aggiuntivi dovrei effettuare?" chiedere. Il primo richiede decisioni (non è compito dell'IA), il secondo richiede suggerimenti (lavoro dell'IA).

Incertezza e ripetibilità della misura

Nessuna misurazione è perfetta. Due concetti sono fondamentali:

  • Incertezza di misura: il margine naturale di errore di uno strumento di misura. Se lo spazio di frenata è "36,5 m" e l'incertezza è ±0,8 m, il valore effettivo è compreso tra 35,7 e 37,3 m. Se la specifica è 38m sei al sicuro; ma se la specifica fosse di 37 m, l'incertezza sarebbe molto vicina al limite.
  • Ripetibilità: ottieni risultati simili quando esegui nuovamente lo stesso test? Una singola corsa potrebbe essere passata per caso. Nel settore automobilistico, i test critici vengono ripetuti più volte, in veicoli/condizioni diversi.

L'"anomalia" segnalata da un'intelligenza artificiale potrebbe in realtà essere un rumore di misurazione. L’incertezza e il doppio controllo sono essenziali prima di prendere una decisione.

Attenzione: l'IA che afferma "criteri di accettazione superati" è ingannevole se non tiene conto dell'incertezza e della duplicazione della misurazione. Nei risultati vicini al limite, il margine di incertezza può modificare il risultato del test.

Mini casi di studio

Caso 1 - Anomalia o rumore? In un test di resistenza, l'IA segna 3 salti improvvisi nel segnale di deformazione. L'ingegnere di prova guarda i dati grezzi: i salti corrispondono agli istanti esatti in cui il datalogger viene riavviato; Quindi non è un vero e proprio evento strutturale, si tratta di un'interruzione delle registrazioni. È documentato che le anomalie sono artefatti. Risultato: l’intelligenza artificiale ha fornito l’indizio, l’ingegnere ha isolato la causa principale; il timbro automatico di "guasto" sarebbe sbagliato.

Caso 2 – Risultato quasi borderline. La distanza media in una prova di frenata è di 37,4 m, la specifica è di 38 m. L'IA dice "superato". L'ingegnere si rende conto dell'incertezza della misura (±0,9 m) e che sono state effettuate solo 2 corse; Il limite superiore supera la specifica di 38,3 m. Il test viene portato a 6 prove e le condizioni (freno caldo, veicolo carico) sono varie; Il risultato è confermato sicuro. Conclusione: dire "superato" senza ambiguità e ripetizioni è rischioso.

Caso 3 – Il potere del riassunto veloce. Un test NVH ha 40 GB di dati provenienti da 12 strumenti. L'intelligenza artificiale produce una tabella e un confronto che riassume le frequenze di picco e le ampiezze per ciascuno strumento; L'ingegnere rivolge la sua attenzione a 2 veicoli problematici in 20 minuti invece che in 2 ore. Quindi esamina con le proprie mani lo spettro grezzo di quei due veicoli. Risultato: l'intelligenza artificiale ha eseguito l'eliminazione, l'ingegnere ha eseguito l'analisi approfondita.

modelli di prompt

Modello 1 - Riepilogo del test:

Ruolo: sei l'analista dei dati di test. Compito: Riassumere il record del dinamometro riportato di seguito. Contesto: dati RPM, 1000-6000 giri/min; criterio di accettazione: coppia massima di almeno 320 Nm, nessun collasso della curva di potenza. Vincolo: processo decisionale 'Passato/fallito'; Elencare le zone a rischio e ulteriori raccomandazioni di controllo in base ai criteri. Risultato: statistiche riassuntive + zona a rischio + controllo raccomandato.

Modello 2 - Analisi delle anomalie:

Ruolo: Sei un esperto di misure e strumentazione. Compito: Guidarmi nel distinguere se le anomalie segnalate sono eventi reali o artefatti di misura. Contesto: 3 salti improvvisi nel segnale di deformazione; Il registratore si riavvia in modo intermittente. Output: Possibile spiegazione + controllo discriminante per ogni anomalia.

Modello 3 - Valutazione dell'incertezza:

Ruolo: sei un consulente di metrologia (scienza della misurazione). Compito: valutare la sicurezza del risultato secondo i criteri di accettazione. Contesto: valore misurato 37,4 m, incertezza ±0,9 m, specifica 38 m, numero di corse 2. Vincolo: assicurarsi di prendere in considerazione l'incertezza e il numero di ripetizioni; enfatizzare la vicinanza al limite. Risultato: valutazione + raccomandazione per ulteriori test + rischio rimanente.

Modello 4 - Bozza del rapporto DVP&R:

Ruolo: sei l'ingegnere di verifica. Compito: scrivere una bozza del testo del risultato DVP&R per i seguenti risultati del test. Contesto: requisito, metodo di prova, criterio di accettazione e valore misurato sono soddisfatti (anonimo). Vincolo: solo bozza; Non utilizzare la rigorosa dichiarazione "approvato", lasciare uno spazio per l'approvazione del tecnico. Risultato: Requisito | prova | criterio | risultato | stato (bozza).

Prompt debole / Prompt forte

Suggerimento debole:

Guarda i dati del test, è passato?

Nessun criterio di accettazione, ambiguità e ripetizione; L’IA dice un “pass/fail” cieco, il che è pericoloso.

Suggerimento potente:

Ruolo: sei un analista di dati di test automobilistici. Compito: analizzare i dati allegati dei test dei freni rispetto ai criteri di accettazione e indicare quali prove aggiuntive sono necessarie per la decisione. Contesto: Criterio 38 m; incertezza di misura ±0,9 m; Ci sono 2 condizioni; carico del veicolo testato in una condizione. Vincolo: dichiarazione "Superato"; Elencare i rischi e le condizioni aggiuntive proposte in termini di incertezza e duplicazione. Risultato: Rischio | giustificazione | tabella di test aggiuntiva consigliata.

Errori comuni

  • Fare in modo che l'IA prenda una decisione go/fail. La decisione spetta all'ingegnere; L'intelligenza artificiale fornisce indizi.
  • Ignorare l'incertezza di misura. Nei risultati vicini al limite, l’incertezza cambia il risultato.
  • Affidarsi a una corsa. Senza ripetibilità il risultato è fragile.
  • Considerare immediatamente l'anomalia come un "malfunzionamento". Potrebbero essere presenti artefatti/rumore nella registrazione; Ritorno ai dati grezzi.
  • Copia cieca del rapporto. La bozza AI non può diventare un documento ufficiale senza l'approvazione e la correzione dell'ingegnere.

In sintesi

  • La verifica della conformità delle misure al requisito, la convalida della conformità delle misure all'effettiva necessità; DVP&R gestisce questo processo.
  • È un potente assistente nel riepilogo, nella segnalazione delle anomalie, nel confronto e nella stesura di report sui dati dei test AI.
  • La decisione (superato/fallito) spetta all'ingegnere; Suggerimenti dell'intelligenza artificiale, non segnali.
  • Senza incertezza e ripetibilità della misura, il risultato non può essere interpretato; I risultati vicini al limite richiedono un'attenzione speciale.
  • Le anomalie devono essere separate con i dati grezzi per determinare se si tratta di eventi reali o artefatti di misurazione.

Compito dell'applicazione

Selezionare un test (ad es. avvio a freddo nella camera climatica). (1) Scrivere il requisito, il metodo di prova e i criteri di accettazione. (2) Richiedere un riepilogo e un'analisi delle zone a rischio con il modello 1 (senza richiedere una decisione). (3) Valutare un risultato immaginario vicino al limite di incertezza con il Modello 3. (4) Produrre una bozza DVP&R utilizzando il Modello 4, indicando quali aree si lasciano per l'approvazione dell'ingegnere.

lista di controllo

  • [ ] Ho scritto chiaramente i requisiti e i criteri di accettazione.
  • [ ] Ho chiesto all'IA un rischio/suggerimento, non una decisione.
  • [ ] Ho incluso l'incertezza di misura nel risultato.
  • [ ] Ho valutato la competenza in termini di ripetibilità (numero di esecuzioni).
  • [ ] Ho esaminato le anomalie con dati grezzi facendo una distinzione tra fatto e artefatto.
  • [ ] Ho contrassegnato la bozza del rapporto per l'approvazione dell'ingegnere.