Eenheid 6 / 11

Test- en validatiegegevensanalyse

Winst:

  • Mogelijkheid om testgegevenstypen zoals rollenbank, wegtest, uithoudingsvermogen en DVP&R en hun plaats in het verificatieproces te herkennen
  • Mogelijkheid om kunstmatige intelligentie te gebruiken om afwijkingen samen te vatten, te markeren en rapporten op te stellen in grote sets testgegevens
  • Mogelijkheid om de testinterpretatie van AI te kruisvalideren met meetonzekerheid, herhaalbaarheid en acceptatiecriteria

Het antwoord op de vraag ‘voldoet het aan de eisen’ voordat een voertuig of onderdeel in productie gaat, zit verborgen in de test- en verificatiegegevens. Het testen in de automobielsector strekt zich uit van het laboratorium (rollenbank, klimaatkamer, triltafel) tot de weg (proef op de weg, duurcircuit) en het crashlaboratorium. Deze tests genereren enorme hoeveelheden gegevens: één enkele duurtest kan miljoenen rijen sensorrecords bevatten. In deze unit zullen we zien welke soorten deze gegevens zijn, wat de plaats ervan is in het verificatieproces en hoe kunstmatige intelligentie helpt bij de analyse (maar hoe de beslissing bij de ingenieur blijft).

Wat zijn verificatie en validatie?

De twee termen worden vaak verward:

  • Verificatie: "Hebben we het product correct gebouwd?" Meet de naleving van de vereiste. Voorbeeld: "De remwegspecificatie zegt 38 meter; we hebben het gemeten, 36,5 meter. Geschikt."
  • Validatie: "Hebben we het juiste product gemaakt?" Voldoet het aan de behoeften bij echt gebruik? Voorbeeld: “Vinden bestuurders deze rem veilig?”

In de automobielsector wordt dit proces doorgaans beheerd met het DVP&R-document (Design Verification Plan and Report): het is een tabel waarin staat welke eis met welke test wordt getest, met welke acceptatiecriteria en het resultaat.

Typische typen testgegevens

Testtype

Welke maatregelen

voorbeeldgegevens

Rollenbank (dyno)

Motorvermogen, koppel, emissies

Toerental-koppelcurve, brandstofverbruik

proef op de weg

Feitelijk conditiegedrag

GPS, acceleratie, rijsignalen

duurzaamheid

levenslange vermoeidheid

Trillingen, spanning, aantal cycli

klimaat/milieu

Bestand tegen warm en koud vocht

temperatuur, werkstatus

NVH

Lawaai/trillingen

Geluidsdruk, versnellingsspectrum

Botsing (crash)

Beveiliging

Hogesnelheidsvideo, dummysensoren

Elke test heeft een acceptatiecriterium (eis). Analyse is bedoeld om te bewijzen of de gegevens aan dit criterium voldoen.

Wat doet kunstmatige intelligentie bij testanalyse?

AI is een krachtige assistent bij de analyse van testgegevens om:

  1. Samenvatting: Statistisch overzicht, piekwaarden, verdeling uit miljoenen rijen.
  2. Anomaliemarkering: "Er is een onverwachte koppeldaling na 214 seconden in deze opname."
  3. Patroonvergelijking: twee testritten of verschillende voertuigen vergelijken en verschillen vinden.
  4. Rapportconcept: Opstellen van de DVP&R resultaattekst en grafische toelichtingen.
  5. Hulp bij code: Analysescript genereren (Python).

Maar wees voorzichtig: dit zijn allemaal schetsen en hints. Het is de testingenieur die beslist of de test slaagt of niet en of een afwijking reëel is of een meetfout.

Tip: Vraag de AI "is deze test geslaagd?" In plaats van te vragen: "Welke regio's in deze gegevens vertonen risico's volgens de acceptatiecriteria, welke aanvullende controles moet ik uitvoeren?" vragen. De eerste vereist beslissingen (niet de taak van de AI), de tweede vereist hints (de taak van de AI).

Meetonzekerheid en herhaalbaarheid

Geen enkele meting is perfect. Twee concepten zijn van cruciaal belang:

  • Meetonzekerheid: De natuurlijke foutmarge van een meetapparaat. Als de remafstand "36,5 m" is en de onzekerheid ±0,8 m bedraagt, ligt de werkelijke waarde tussen 35,7 en 37,3 m. Als de specificatie 38 meter is, bent u veilig; maar als de specificatie 37 m zou zijn, zou de onzekerheid zeer dicht bij de limiet liggen.
  • Herhaalbaarheid: Krijgt u vergelijkbare resultaten als u dezelfde test opnieuw doet? Het kan zijn dat een enkele run toevallig is gepasseerd. In de automobielsector worden kritische tests meerdere keren herhaald, in verschillende voertuigen/omstandigheden.

De ‘anomalie’ die door een AI wordt gemarkeerd, kan feitelijk meetruis zijn. Onzekerheid en dubbele controle zijn essentieel voordat een beslissing wordt genomen.

Let op: AI die zegt dat de acceptatiecriteria zijn geslaagd, is misleidend als er geen rekening wordt gehouden met meetonzekerheid en duplicatie. Bij resultaten die dicht bij de limiet liggen, kan de onzekerheidsmarge het resultaat van de test veranderen.

Mini-casestudies

Geval 1 - Anomalie of ruis? In een duurtest markeert de AI 3 plotselinge sprongen in het reksignaal. De testingenieur kijkt naar de ruwe data: de sprongen komen overeen met de exacte momenten waarop de datalogger opnieuw wordt opgestart; Het is dus geen echte structurele gebeurtenis, het is een registratiestoring. Er is gedocumenteerd dat afwijkingen artefacten zijn. Resultaat: AI gaf aanwijzing, ingenieur geïsoleerde oorzaak; automatische "mislukking"-stempel zou verkeerd zijn.

Geval 2 - Bijna-borderline-resultaat. De gemiddelde afstand bij een remtest bedraagt ​​37,4 m, de specificatie is 38 m. AI zegt "geslaagd". De ingenieur realiseert zich de meetonzekerheid (±0,9 m) en dat er slechts 2 runs zijn gemaakt; De bovengrens overschrijdt de specificatie van 38,3 m. De test wordt uitgebreid tot 6 ritten en de omstandigheden (warme rem, beladen voertuig) worden gevarieerd; Het resultaat wordt veilig bevestigd. Conclusie: 'geslaagd' zeggen zonder dubbelzinnigheid en herhaling is riskant.

Case 3 - De kracht van de snelle samenvatting. Eén NVH-test bevat 40 GB aan gegevens van 12 instrumenten. De AI voert een tabel en vergelijking uit met een samenvatting van de piekfrequenties en amplitudes voor elk gereedschap; De ingenieur richt zijn aandacht op 2 problematische voertuigen in 20 minuten in plaats van 2 uur. Vervolgens onderzoekt hij het ruwe spectrum van die twee voertuigen met zijn eigen handen. Resultaat: AI deed de eliminatie, de ingenieur deed de diepgaande analyse.

snelle sjablonen

Sjabloon 1 - Testsamenvatting:

Rol: Jij bent de testdata-analist. Taak: Vat het onderstaande dynamometerrecord samen. Context: RPM-gegevens, 1000-6000 tpm; acceptatiecriterium: piekkoppel minimaal 320 Nm, geen ineenstorting van de vermogenscurve. Beperking: 'geslaagd/mislukt'-besluitvorming; Maak een lijst van risicozones en aanvullende controleaanbevelingen op basis van criteria. Output: samenvattende statistieken + risicozone + aanbevolen controle.

Sjabloon 2 - Parseren van afwijkingen:

Rol: Je bent meet- en instrumentatie-expert. Taak: Begeleid mij bij het onderscheiden of de gemarkeerde afwijkingen echte gebeurtenissen of meetartefacten zijn. Context: 3 plotselinge sprongen in het spanningssignaal; De recorder wordt met tussenpozen opnieuw opgestart. Output: Mogelijke verklaring + discriminantcontrole voor elke anomalie.

Sjabloon 3 - Onzekerheidsbeoordeling:

Rol: U bent adviseur metrologie (meetwetenschap). Taak: Evalueer de veiligheid van het resultaat volgens de acceptatiecriteria. Context: Gemeten waarde 37,4 m, onzekerheid ±0,9 m, specificatie 38 m, aantal runs 2. Beperking: Houd zeker rekening met de onzekerheid en het aantal herhalingen; benadrukken dat de limiet dichtbij is. Output: Evaluatie + aanbeveling voor aanvullende tests + resterend risico.

Sjabloon 4 - Concept DVP&R-rapport:

Rol: Jij bent de verificatie engineer. Taak: Schrijf een DVP&R-resultaattekstconcept voor de volgende testresultaten. Context: Er wordt voldaan aan eis, testmethode, acceptatiecriterium en gemeten waarde (anoniem). Beperking: alleen concept; Gebruik niet de strikte 'approved'-verklaring, maar laat ruimte vrij voor goedkeuring door de ingenieur.Output: Vereiste | testen | criterium | resultaat | status (concept).

Zwakke prompt/sterke prompt

Zwakke prompt:

Kijk eens naar deze testgegevens, is deze geslaagd?

Geen acceptatiecriteria, dubbelzinnigheid en herhaling; De AI zegt blind ‘pass/fail’, wat gevaarlijk is.

Krachtige prompt:

Rol: Je bent een analist van testdata in de automobielsector. Taak: Analyseer de bijgevoegde remtestgegevens aan de hand van acceptatiecriteria en geef aan welk aanvullend bewijsmateriaal nodig is voor de beslissing. Context: Criterium 38 m; meetonzekerheid ±0,9 m; Er zijn twee voorwaarden; voertuigbelasting getest in één voorwaarde. Beperking: 'Geslaagd' verklaren; Lijst van risico's en voorgestelde aanvullende voorwaarden in termen van onzekerheid en dubbel werk.Output: Risico | rechtvaardiging | aanbevolen aanvullende testtabel.

Veel voorkomende fouten

  • De AI een go/fail-beslissing laten nemen. De beslissing wordt genomen door de ingenieur; AI geeft aanwijzingen.
  • Het negeren van meetonzekerheid. Bij resultaten die dicht bij de limiet liggen, verandert onzekerheid de uitkomst.
  • Vertrouwend op één run. Zonder herhaalbaarheid is het resultaat kwetsbaar.
  • Beschouw de afwijking onmiddellijk als een "storing". Er kan sprake zijn van opnameartefacten/ruis; Keer terug naar ruwe gegevens.
  • Blind kopiëren van het rapport. AI-concept kan geen officieel document worden zonder goedkeuring en correctie van de ingenieur.

Samengevat

  • Verificatie meet de naleving van de eis, validatie meet de naleving van de daadwerkelijke behoefte; DVP&R beheert dit proces.
  • Het is een krachtige assistent bij het samenvatten, markeren van afwijkingen, vergelijken en opstellen van rapporten over AI-testgegevens.
  • De beslissing (geslaagd/mislukt) is aan de ingenieur; AI-hints, geen tekenen.
  • Zonder meetonzekerheid en herhaalbaarheid kan het resultaat niet worden geïnterpreteerd; Resultaten dichtbij de limiet vereisen speciale aandacht.
  • Afwijkingen moeten worden gescheiden met ruwe gegevens om te bepalen of het echte gebeurtenissen of meetartefacten zijn.

Applicatie taak

Selecteer een test (bijvoorbeeld koude start in de klimaatkamer). (1) Schrijf de vereisten, testmethode en acceptatiecriteria op. (2) Vraag een samenvatting en risicozoneanalyse aan met Template 1 (zonder een besluit aan te vragen). (3) Evalueer een denkbeeldige uitkomst die dichtbij de onzekerheidsgrens ligt met sjabloon 3. (4) Maak een concept-DVP&R met behulp van sjabloon 4, waarin u aangeeft welke gebieden u verlaat voor goedkeuring door de ingenieur.

controlelijst

  • [ ] Ik heb de eisen en acceptatiecriteria duidelijk opgeschreven.
  • [ ] Ik vroeg de AI om een ​​risico/hint, niet om een ​​beslissing.
  • [ ] Ik heb de meetonzekerheid meegenomen in het resultaat.
  • [ ] Ik evalueerde de herhaalbaarheid (aantal runs) vaardigheid.
  • [ ] Ik heb de afwijkingen onderzocht met ruwe gegevens door onderscheid te maken tussen feit en artefact.
  • [ ] Ik heb het concept van het rapport gemarkeerd voor goedkeuring door de ingenieur.