End-to-end workflow, governance, authenticatie en verantwoord gebruik — Kunstmatige intelligentie in de chemische technologie

Winst:

Mogelijkheid om AI consistent in te bedden in elke fase, van ontwerp tot exploitatie, met menselijke verificatiepoorten en overgangsvoorwaarden van één zin
Mogelijkheid om een bestuurskader op te zetten met een goedgekeurde voertuiglijst, gegevensclassificatie, traceerbaarheid, training en voortdurende verificatie
Vermogen om de principes van menselijke verantwoordelijkheid, veiligheidsprioriteit, verificatie, vertrouwelijkheid, transparantie en milieu-sociale verantwoordelijkheid in de workflow te verankeren

In de voorgaande tien units hebben we gezien hoe we AI veilig kunnen gebruiken op afzonderlijke gebieden van de chemische technologie: ontwerp, simulatie, kinetiek, voorspelling van eigenschappen, optimalisatie, controlegegevens, HAZOP, zoeken naar standaarden en Python. In dit laatste onderdeel leggen we de stukjes bij elkaar: we leren hoe we AI van begin tot eind van een project of faciliteit kunnen inbedden met consistente discipline, menselijke verificatiepoorten en een bestuursstructuur – het raamwerk dat de regels bepaalt waaronder tools, gegevens en beslissingen in een organisatie zullen worden gebruikt. Het doel is om een gelaagd systeem te bouwen dat voorkomt dat een enkele AI-bug in een ontwerp, een zakelijke beslissing of een beveiligingsdocument terechtkomt.

Het basisidee is simpel: in elke fase wordt een menselijke verificatiepoort en een duidelijke overgangsvoorwaarde geplaatst; Je kunt niet door de ene deur gaan zonder door de andere te gaan. Dit is een levensreddende structuur op het gebied van de chemische technologie, maar ook op forensisch en medisch gebied – omdat fouten ook hier gevolgen hebben, niet op papier, maar in werkelijkheid, op mens en milieu.

End-to-end workflow: met verificatiepoorten

Laten we een chemisch technologieproject in vijf fasen bekijken en de rol van AI en de verificatiepoort in elke fase plaatsen:

1. Ontwerp en concept. AI genereert routeopties en PFD-concept. Deur: wordt de materiële balans met de hand bijgehouden, is de route gekozen met technisch inzicht?

2. Analyse en simulatie. Vat de AI-simulatie-uitvoer samen, geeft kinetiek/eigenschapsschets. Gate: is het thermodynamische model geschikt, is de massa-/energiebalans in stand, zijn de kritische waarden afhankelijk van de experimentele/databasebron?

3. Optimalisatie en maatvoering. AI produceert optimalisatie- en berekeningscodeontwerp. Deur: zijn de beperkingen compleet, is de code getest, bevindt deze zich in het optimale beveiligingsvenster?

4. Beveiliging en compliance. Biedt AI HAZOP-skelet en standaardkaart. Deur: Is de gevarenanalyse uitgevoerd door een team van deskundigen, zijn de standaarditems geverifieerd vanuit de primaire bron, is er geautoriseerde goedkeuring verkregen?

5. Bediening en monitoring. AI bewaakt sensorgegevens en signaleert afwijkingen. Deur: signaal echt of sensor, veiligheidsbescherming in onafhankelijke SIS?

Deze poorten voorkomen dat een enkele niet-geverifieerde uitvoer naar de volgende fase wordt overgedragen. Zelfs als er een insect ontsnapt, is de kans groot dat hij bij de volgende deur wordt gepakt.

Tip: Schrijf voor elke fase een ‘overgangsvoorwaarde’ van één zin en maak deze zichtbaar voor het team: ‘De simulatie kan pas worden gestart nadat de materiële balans handmatig is geverifieerd.’ Dergelijke duidelijke regels zorgen ervoor dat de discipline zelfs onder tijdsdruk gehandhaafd blijft.

Bestuurskader: institutionele discipline

Individuele verificatie is goed, maar er is een governanceraamwerk op faciliteitsniveau nodig. Vijf belangrijke componenten:

1. Goedgekeurde voertuig- en modellenlijst. Het definieert welke AI-tools voor welke taken kunnen worden gebruikt. Niet-goedgekeurde tools worden niet gebruikt voor beveiligingskritische accounts.

2. Gegevensclassificatie. In welk voertuig kunnen geregistreerde voorschriften, gebruiksomstandigheden en persoonsgegevens worden ingevoerd? Er worden geen vertrouwelijke/eigendomsgegevens verstrekt aan tools die gegevens buiten de organisatie lekken.

3. Registratie en traceerbaarheid (audit trail). Welke output kwam uit welke tool, wie heeft deze geverifieerd, aan welke bron is deze gekoppeld? Mocht er zich een probleem voordoen, dan moet dit traceerbaar zijn.

4. Opleiding en competentie. Gebruikers moeten de grenzen van AI kennen, het risico op hallucinaties en de discipline van verificatie. Het hulpmiddel is krachtig, maar gevaarlijk in de verkeerde handen.

5. Continue verificatie. Modellen en voertuigen variëren; De betrouwbaarheid van de outputs wordt periodiek opnieuw getest.

Let op: In een instelling is de aanpak van "iedereen moet de gegevens die hij wil geven aan de AI-tool die hij wil" een risico van zowel het lekken van bedrijfseigen informatie als van falen van de beveiliging. Governance is de onzichtbare maar kritische infrastructuur die deze risico’s beperkt.

Principes voor verantwoord gebruik

Laten we de module verbinden met zes principes:

Menselijke verantwoordelijkheid. De uiteindelijke beslissing en ondertekening ligt bij de bevoegde deskundige; De output van de AI is geen vervanging voor zijn goedkeuring.
Beveiligingsprioriteit. Veiligheidskritieke beslissingen (veiligheid, gevaar, materiaal, maatvoering) vereisen verificatie en geautoriseerde goedkeuring.
De discipline van verificatie. Elke uitgang is verbonden met de fysica/bron, getest met een onafhankelijke methode en door het interpretatiefilter gegaan.
Beveiliging. Bedrijfseigen en persoonlijke gegevens worden alleen op een goedgekeurde, veilige manier verwerkt.
Transparantie. Het gebruik van AI wordt eerlijk vermeld in rapporten en documentatie.
Milieu- en sociale verantwoordelijkheid. Bij beslissingen wordt niet alleen rekening gehouden met de economie, maar ook met de menselijke gezondheid en het milieu.

drie minikoffers

Geval 1 — De deur heeft de bug opgelopen. In één project werd een massa-onbalans van 4% in het PFD-ontwerp van de AI opgevangen in de balanspoort voordat de simulatiefase inging. De bug is bij de bron opgelost; Als er geen deur was, zou deze fout zich verspreiden naar de simulatie en vervolgens naar de dimensionering. De gelaagde structuur werkte.

Geval 2 — Governance heeft het lekken van gegevens voorkomen. Een ingenieur stond op het punt een eigen katalysatorrecept in een open AI-voertuig te plakken. Volgens de gegevensclassificatieregel van het bureau konden deze gegevens alleen worden verwerkt in een intern goedgekeurde tool. De regel voorkwam een commercieel kritisch lek.

Geval 3 — Traceerbaarheid bracht vertrouwen. Bij één audit werd ons gevraagd hoe een ontwerpbeslissing tot stand kwam. Dankzij de opnamediscipline van de instelling was het mogelijk om te documenteren dat de AI slechts een concept produceerde, dat elke kritische waarde aan de experimentele bron werd toegekend en dat de beslissing werd goedgekeurd door de bevoegde ingenieur. Transparantie bood zowel vertrouwen als juridische bescherming.

Vier kopieerbare sjablonen

1) Workflowpoortplan:

Jouw rol: adviseur projectborging. Mijn project: [beschrijving]. Maak voor mij een VERIFICATIEPOORT-plan voor de fasen (ontwerp, analyse, dimensionering, beveiliging, bediening): wat doet de AI in elke fase, welke overgangsvoorwaarde van één zin KAN NIET worden doorgegeven naar de volgende fase zonder dat daaraan is voldaan, wie verifieert. Speciale nadruk op veiligheidskritische deuren.

2) Zelfregulering op bestuurlijk vlak:

Er wordt een zelfauditchecklist uitgegeven voor het gebruik van AI in onze organisatie: (1) is er een lijst met goedgekeurde tools, (2) is de dataclassificatie gedefinieerd, (3) wordt er registratie/traceerbaarheid bijgehouden, (4) is er gebruikerstraining, (5) is er sprake van voortdurende verificatie? Vraag voor elk item een "ja/gedeeltelijk/nee"-evaluatie en verbetersuggesties aan. Context: [definitie]

3) Transparantie / gebruiksverklaring:

Stel een transparantieparagraaf op die eerlijk het gebruik van AI voor een technisch rapport beschrijft: in welke fasen AI werd gebruikt voor het opstellen/analyseren, hoe de resultaten werden gevalideerd, waarbij de eindverantwoordelijkheid bij de verantwoordelijke ingenieur lag. Overdrijving; geef gewoon weer wat er daadwerkelijk is gedaan. Doen: [beschrijving]

4) Laatste controle vóór beslissing:

Ik sta op het punt deze beslissing te nemen: [beslissing]. Neem een laatste checklist door voordat ik deze weggeef: (1) is dit van cruciaal belang voor de beveiliging, (2) zijn de waarden waarop ik vertrouw afkomstig/geëxperimenteerd, (3) is er onafhankelijke verificatie geweest, (4) is goedkeuring van de autoriteit vereist, (5) is de vertrouwelijkheid/naleving in acht genomen? Markeer de stap die u ziet ontbreken. De beslissing is aan mij; Je volgt de checklist.

Zwakke prompt/sterke prompt

Zwakke prompt:

Hoe moet ik AI in mijn project gebruiken?

Geen context, geen validatiestructuur. AI geeft een algemeen antwoord, waarbij veiligheidskritische poorten worden omzeild.

Krachtige prompt:

Jouw rol: adviseur projectborging. Ik wil AI gebruiken van ontwerp tot exploitatie in een chemisch productieproject van 50.000 ton/jaar. Voor elke fase krijg ik een raamwerk voor de rol van AI, de verificatiestructuur die niet kan worden doorstaan zonder te slagen, wie deze zal goedkeuren en welke gegevens aan welke tool kunnen worden gegeven. Markeer ook veiligheidskritieke stappen en markeer waar menselijke goedkeuring verplicht is.

Het verschil is duidelijk: projectcontext, poorten, goedkeuring en dataregels systematiseren het gebruik van AI.

Rolverdeling in een end-to-end structuur

Stadium

Rol van AI

verificatie poort

Ontwerp

Route, PFD-ontwerp

Saldo + routebevestiging

Analyse

Samenvatting van de simulatie, voorspelling

Model + bronbevestiging

Maatvoering

optimalisatie, code

Beperking + test + beveiliging

Beveiliging/compliance

HAZOP-skelet, kaart

Expertteam + primaire bron

Zakelijk

Anomalie volgen

Echt/sensor + onafhankelijk SIS

Veel voorkomende fouten

Springende deuren onder tijdsdruk. Als u een poort overslaat, kan de fout naar volgende fasen lekken.
Het verwaarlozen van het bestuur. Onregelmatig gebruik van tools en gegevens brengt lekkage- en veiligheidsrisico's met zich mee.
Gebruik verbergen. Als het gebruik van AI niet transparant wordt gedocumenteerd, worden zowel het vertrouwen als de rechtsbescherming ondermijnd.
Beveiligingskritische goedkeuring moet formeel worden gezien. Geautoriseerde goedkeuring is geen ondertekeningsformaliteit, maar een echte verificatieverantwoordelijkheid.
Het vergeten van de ecologische en sociale aspecten. Beslissingen worden niet alleen gewogen vanuit economisch, maar ook vanuit gezondheids- en milieuperspectieven.

Samengevat

In een end-to-end-structuur is AI ingebed met menselijke verificatiepoorten in elke fase van de chemische technologie; Je kunt niet door de ene deur gaan zonder door de andere te gaan. Een governanceframework (gecertificeerde tools, dataclassificatie, traceerbaarheid, training, continue verificatie) brengt deze discipline op ondernemingsniveau. De ruggengraat van verantwoord gebruik bestaat uit zes principes: menselijke verantwoordelijkheid, veiligheidsprioriteit, verificatiediscipline, vertrouwelijkheid, transparantie en verantwoordelijkheid voor het milieu en de samenleving. AI is een krachtige assistent; Maar de eigenaar van design, veiligheid en het laatste woord is altijd de deskundige.

Applicatie taak

Maak een vijfstappenverificatiepoortplan voor uw eigen (of denkbeeldige) project met het sjabloon ‘workflowpoortplan’; Schrijf voor elke fase een overgangsvoorwaarde van één zin. Evalueer vervolgens met het sjabloon ‘governance self-audit’ hoe het gebruik van AI in dit project presteert in termen van goedgekeurde tools, gegevensclassificatie, traceerbaarheid en training, en identificeer ten minste twee verbeteringen.

controlelijst

[ ] Ik heb in elke fase een menselijke verificatiepoort en een voorwaarde van één zin geplaatst.
[ ] Ik heb de goedgekeurde toollijst en dataclassificatie gedefinieerd.
[ ] Ik hield registratie/traceerbaarheid bij (welke output, wie heeft geverifieerd, welke bron).
[ ] Ik heb het gebruik van AI transparant vermeld in het rapport.
[ ] Ik schrijf veiligheidskritische beslissingen toe aan de goedkeuring van bevoegde deskundigen en de verantwoordelijkheid voor de milieumaatschappij.

Module-examen

1. Welke van de volgende is de meest nauwkeurige positionering voor kunstmatige intelligentie in de chemische technologie?

A) Kunstmatige intelligentie kan veiligheidsberekeningen rechtstreeks in het ontwerp schrijven, zonder menselijke goedkeuring
B) AI is een accountversneller en blauwdrukgenerator; De verantwoordelijkheid voor het bepalen van de veiligheid van het ontwerp en de uiteindelijke beslissing ligt bij de mens ✔
C) Omdat kunstmatige intelligentie altijd betrouwbaarder is dan mensen, moeten veiligheidsbeslissingen aan hen worden overgelaten.
D) Kunstmatige intelligentie is alleen nuttig voor het samenvatten van tekst, het heeft niets te maken met technische berekeningen

Omschrijving: Kunstmatige intelligentie; Het is een assistent die omvangrijke gegevens beoordeelt, patronen markeert en berekeningen/codeconcepten maakt. De verantwoordelijkheid en goedkeuring van kritische kwesties zoals de veiligheid van het ontwerp, de interpretatie van de simulatie en de uiteindelijke beslissing behoren toe aan de bevoegde deskundige; Een onbevestigde output kan leiden tot een reactorlek of een explosie. Daarom vervangt de output van kunstmatige intelligentie de goedkeuring van bevoegde deskundigen niet.

2. Wat is de driestapsverificatiediscipline voor een technisch berekeningsresultaat dat wordt verkregen door kunstmatige intelligentie?

A) Kijken of de uitvoer vloeiend en zelfverzekerd is
B) Stel drie keer dezelfde vraag aan de kunstmatige intelligentie en neem het gemiddelde
C) Verbind het met de natuurkunde/bron, test het onafhankelijk, geef het door aan het commentaargrensfilter ✔
D) Het resultaat direct accepteren en pas in de rapportfase controleren

Uitleg: Elke output wordt eerst verbonden met de fysica/bron (welke vergelijking, welke bron, welke aanname), vervolgens wordt hij getest met een onafhankelijke methode (handberekening, simulatie, referentiegegevens, ordercontrole) en tenslotte wordt hij door het commentaargrensfilter gevoerd (is de massa/energie behouden, is de waarde realistisch). Deze drie stappen vangen de meeste hallucinaties op.

3. Wat moet er gebeuren als de totale massa die binnenkomt en vertrekt niet overeenkomt met het materiaalbalansontwerp dat door kunstmatige intelligentie in een procesontwerp is vastgesteld?

A) Het kleine verschil is onbelangrijk, negeer het en ga door met het ontwerp
B) Het verschil wordt gevonden en gecorrigeerd; er is vaak sprake van een vergeten stroom of een dubbelgetelde loopback ✔
C) De balans wordt als correct beschouwd omdat de kunstmatige intelligentie deze op die manier berekent.
D) De waarde van een uitgaande stream wordt handmatig vergroot om het verschil te compenseren

Uitleg: In de chemische technologie blijft massa behouden of niet; 'het kost ongeveer' is onaanvaardbaar. Als niet aan de input-output-vergelijking wordt voldaan, is er vaak sprake van een vergeten zijstroom, een dubbelgetelde recycling of een fout. Er kan pas vooruitgang worden geboekt met het ontwerp als dit is gevonden en gecorrigeerd; anders zal de fout zich voortplanten naar alle volgende afmetingen.

4. Een processimulatie 'convergeerde en gaf een mooi beeld'. Wat is het meest kritische risico voor de nauwkeurigheid van dit resultaat?

A) De tabel wordt niet in kleur en leesbare vorm weergegeven
B) De simulatie convergeert te snel
C) Een thermodynamisch model dat niet geschikt is voor de kenmerken van het systeem levert overtuigende maar onjuiste resultaten op ✔
D) Te veel decimalen in de stroomtabel

Uitleg: De meeste simulatiefouten zijn niet numeriek, maar te wijten aan de keuze van een thermodynamisch model (eigendomspakket). Het toepassen van een ideaal model op een polair mengsel kan een azeotroop onzichtbaar maken, en het resultaat zal glad maar volkomen verkeerd zijn. Een ogenschijnlijk convergerend en mooi beeld blijkt niet waar te zijn; modelfit en experimentele vergelijking zijn vereist.

5. Hoe moet men handelen als kunstmatige intelligentie een reactiesnelheidsconstante (k)-waarde geeft voor een reactorontwerp?

A) De waarde moet experimenteel worden bepaald; AI-voorspellingen worden niet gebruikt als ontwerpgegevens ✔
B) Waarde wordt rechtstreeks in het ontwerp gestopt, omdat AI met vertrouwen resultaten levert
C) Aangenomen wordt dat de waarde bij elke reactie hetzelfde is, ongeacht de omstandigheden
D) De waarde is voldoende zodra een soortgelijk nummer op internet verschijnt

Beschrijving: Snelheidsconstanten, activeringsenergie en mechanisme worden alleen experimenteel bepaald; Dezelfde reactie gedraagt zich heel anders met verschillende katalysatoren, onzuiverheden of fasen. Een door AI geretourneerde k-waarde kan een eerste schatting zijn, maar het zijn geen ontwerpgegevens. Elke kinetische parameter die ten grondslag ligt aan het ontwerp moet gebaseerd zijn op een empirische bron.

6. Hoe moet de warmte van een exotherme reactie (reactie-enthalpie) worden bepaald voor een veilig koelontwerp?

A) De initiële waarde die door kunstmatige intelligentie wordt gegeven, wordt rechtstreeks in het koelontwerp ingevoerd
B) De waarde wordt gemeten door middel van calorimetrie en geëvalueerd door een geautoriseerde ingenieur, deze is niet gebaseerd op voorspellingen van kunstmatige intelligentie ✔
C) Als de reactie exotherm is, kan de warmtebelasting worden verwaarloosd
D) De waarde van een vergelijkbare verbinding wordt ongeacht de toestand gebruikt

Beschrijving: Reactiehitte en thermisch overstromingspotentieel zijn een veiligheidskritisch probleem. Een door de AI geretourneerde waarde kan tot een ander oplosmiddel/conditie behoren en kan de werkelijke warmtebelasting aanzienlijk verkeerd weergeven. Deze waarden worden gemeten door calorimetrie (bijvoorbeeld reactiecalorimetrie) en geëvalueerd door de bevoegde ingenieur; Het is nooit alleen gebaseerd op voorspellingen van kunstmatige intelligentie.

7. Kunstmatige intelligentie gaf de dampdruk van een oplosmiddel met een betrouwbaar getal. Wat moet er gebeuren voordat u deze waarde gebruikt?

A) Omdat de waarde vloeiend wordt weergegeven, wordt deze direct in het kolomontwerp geplaatst
B) Alleen de unit wordt aangestuurd, er hoeft niet naar de bron te worden gekeken
C) De waarde wordt geverifieerd door een betrouwbare database (DIPPR/NIST) of experiment, met als voorwaarde ✔
D) Als de waarde wordt vergeleken met die van een ander oplosmiddel en vergelijkbaar is, wordt deze geaccepteerd.

Uitleg: Het schatten van kenmerken is de numerieke basis van het ontwerp, en een fout plant zich hier tijdens de berekening voort. De AI-waarde kan bij een andere verbinding horen, in de verkeerde staat verkeren of een hallucinatie zijn. Daarom wordt elk kritisch kenmerk geverifieerd door een betrouwbare database (DIPPR/NIST) of experiment; moet ook samen met de waardevoorwaarde (temperatuur, druk, fase) worden opgevraagd.

8. Wat gebeurt er als kunstmatige intelligentie wordt verteld om 'energie te minimaliseren' bij een procesoptimalisatie, maar er wordt geen beperking gesteld aan de productzuiverheid?

A) Het resultaat is altijd veilig en van hoge kwaliteit, beperkingen zijn niet nodig
B) Er kan een misleidend optimisme ontstaan dat er op papier goed uitziet, maar dat zuiverheid of veiligheid opoffert ✔
C) Kunstmatige intelligentie vult de ontbrekende beperkingen spontaan en correct aan
D) Optimalisatie werkt niet en geeft geen resultaat

Uitleg: Onbeperkte optimalisatie is misleidend: de AI of het algoritme kan een 'optimum' suggereren dat op papier de energie vermindert, maar in werkelijkheid de productzuiverheid onder de specificatie brengt of de veiligheidsmarge overschrijdt. Daarom moeten alle kwaliteits- en veiligheidsbeperkingen, evenals doel- en beslissingsvariabelen, volledig worden gedefinieerd; Het wiskundig optimale moet ook worden getoetst op veiligheid en haalbaarheid.

9. Wat is het eerste dat moet worden gedaan als AI een plotselinge sprong in sensorgegevens markeert als ‘mogelijk lek’?

A) Het proces onmiddellijk stoppen, omdat de kunstmatige intelligentie zei dat het lekte
B) Het signaal negeren omdat sensoren altijd fout zijn
C) Controleren met een betrouwbaarheidsfilter of het signaal een echte procesgebeurtenis is of een sensor-/meetprobleem ✔
D) Verwijder automatisch de sprong uit de dataset

Uitleg: Sensoren kunnen liegen: de kalibratie mislukt, een verbinding raakt los, de lijn pikt ruis op. Een anomaliesignaal moet eerst worden gefilterd op de betrouwbaarheid van de gegevens: is het consistent met naburige/geassocieerde sensoren, is het fysiek mogelijk, komt het overeen met het onderhouds-/kalibratierecord? Pas nadat deze zijn doorgegeven wordt het onderzocht als een echte procesgebeurtenis; Anders kan er op basis van een vals alarm worden ingegrepen.

10. Wat is de passende en veilige rol van AI in het HAZOP-onderzoek?

A) Het produceren van een complete HAZOP door het proces te kennen en de bijeenkomst overbodig te maken
B) Het nauwkeurig classificeren van risiconiveaus en het nemen van voorzorgsmaatregelen
C) Het bieden van een werkkader, begeleidende woordvragen en het voorbereiden van notulen; Laat de daadwerkelijke gevarenbeoordeling over aan het expertteam ✔
D) Alleen naar de ontmoetingsplaats gaan en het definitieve risicorapport ondertekenen

Omschrijving: HAZOP is een veiligheidskritische specialistische activiteit. Kunstmatige intelligentie; Het matrixframework voor knooppunten/parameters/leidwoorden versnelt de documentatie, zoals het terugroepen van typische scenario's en het bewerken van minuten. Maar welke afwijking het werkelijke gevaar is, de ernst van het gevolg en de adequaatheid van de voorzorgsmaatregel is een zaak van het multidisciplinaire expertteam; Bovendien worden processpecifieke gevaren niet aangetroffen bij kunstmatige intelligentie. Het AI-concept is de input, en niet de output, van de expertmeeting.

11. Wat is het meest kritische voorbehoud voor AI in normen en regelgevingsonderzoek?

A) Kunstmatige intelligentie heeft in zijn standaardkennis nooit ongelijk, het kan direct worden gebruikt
B) Elk stofnummer, grenswaarde en datum moet worden geverifieerd vanuit een primaire en actuele bron; AI geeft alleen richting ✔
C) Updatecontrole is niet nodig omdat de standaarden nooit veranderen.
D) Het maken van een checklist alleen al bewijst naleving

Uitleg: Normenonderzoek is een van de gebieden waarop AI-hallucinaties het meest verwoestend kunnen zijn: een niet-bestaand itemnummer, een onjuist breekpunt of een verouderde vereiste kunnen op een zeer overtuigende manier worden gepresenteerd. Compliance betekent zowel veiligheid als wetgeving. Daarom kan elke stof, grenswaarde en datum niet worden gebruikt zonder bevestiging van de primaire en huidige bron; AI geeft alleen richting.

12. Een door kunstmatige intelligentie geschreven Python-technische berekeningscode werkte foutloos en leverde een getal op. Wat zou er nodig zijn om deze conclusie te vertrouwen?

A) De foutloze werking van de code bewijst dat het resultaat correct is.
B) De code moet worden getest met een bekend resultaat, unit- en edge-cases moeten worden getest en de beveiligingsberekening moet ook worden geverifieerd door de autoriteit ✔
C) Als de code lang is en er complex uitziet, kan deze als correct worden beschouwd
D) Omdat het door kunstmatige intelligentie is geschreven, is er geen aanvullende verificatie nodig

Uitleg: 'Werken' en 'correct' zijn verschillende dingen: de code kan zonder fouten worden uitgevoerd en een verkeerd getal opleveren (eenheidsverwarring, tekenfout, indexverschuiving). Daarom moet elke code worden getest op een testcase (analytisch monster, handmatige berekening, referentiegegevens) waarvan het antwoord onafhankelijk bekend is; eenheden en randgevallen moeten worden gecontroleerd; Veiligheidskritische berekeningen moeten ook worden geverifieerd door de geautoriseerde ingenieur.

13. Wat is de meest effectieve manier om een end-to-end, op AI gebaseerd chemisch engineeringproces te beschermen tegen het lekken van een enkele bug in het ontwerp- of beveiligingsdocument?

A) Het hele proces delegeren aan één enkele AI-tool en naar het einde kijken
B) Het verwijderen van tussentijdse verificaties voor snelheid en controle pas in de laatste fase
C) In elke fase een menselijke verificatiepoort en een voorwaarde van één zin plaatsen (gelaagde verificatie) ✔
D) Elke ingenieur kan zijn eigen voertuig vrij gebruiken zonder administratie bij te houden.

Beschrijving: In elke fase (ontwerp, analyse, dimensionering, beveiliging, exploitatie) wordt een menselijke verificatiepoort en een duidelijke overgangsvoorwaarde (is deze stabiel, is deze verbonden met de bron, is de code getest, is goedkeuring door een deskundige ontvangen) geplaatst. Je kunt niet door de ene deur gaan zonder door de andere te gaan; Deze gelaagde structuur voorkomt dat een enkele AI-fout naar volgende fasen lekt.

14. Welke van de volgende toepassingen maakt het gebruik van kunstmatige intelligentie in een instelling bestuurlijk veilig?

A) Elke gebruiker kan vrijelijk eigendomsgegevens invoeren in elke open tool van zijn keuze.
B) Een bestuurskader dat een goedgekeurde voertuiglijst, gegevensclassificatie, traceerbaarheid, training en voortdurende verificatie omvat ✔
C) Het gebruik van kunstmatige intelligentie wordt helemaal niet geregistreerd
D) Het gebruik van één enkele, niet-goedgekeurde tool voor elke taak, inclusief beveiligingskritische accounts

Uitleg: De benadering 'Iedereen moet de gegevens die hij wil geven aan het voertuig dat hij wil' brengt het risico met zich mee van zowel het lekken van eigendomsinformatie als van beveiligingsfouten. Een solide bestuurskader; Het omvat een lijst met goedgekeurde voertuigen en modellen, gegevensclassificatie (welk voertuig geregistreerde/persoonlijke gegevens kan registreren), registratie en traceerbaarheid (audittrail), gebruikerstraining en voortdurende verificatie. Dit is kritieke infrastructuur die risico's beperkt.