Winst:
- In staat zijn duidelijk te maken dat AI geen juridisch advies geeft en dat de professionele verantwoordelijkheid bij de mens blijft liggen
- Mogelijkheid om menselijke inspectie- en verificatiepoorten te definiëren bij taken met een hoog risico
- Mogelijkheid om een intern bestuurs- en verantwoordingskader op te zetten dat het gebruik van AI documenteert
In deze module hebben we gezien dat kunstmatige intelligentie (AI) een krachtige snelheidsvermenigvuldiger is bij contractbeoordeling, opstellen, juridisch onderzoek en compliancewerk. In deze laatste unit trekken we de belangrijkste lijn: AI is een assistent, geen advocaat. Het geeft geen juridisch advies, het vervangt de professional niet en de verantwoordelijkheid blijft altijd bij de persoon. Deze lijn is geen beperking, maar een voorwaarde voor veilig en duurzaam gebruik van technologie. Hetzelfde principe geldt voor andere veiligheidskritische beroepen: in de techniek kan AI een constructieberekening maken, maar in een veiligheidskritische baan is de AI-output geen vervanging voor de goedkeuring van een bekwame en competente ingenieur. Juridisch gezien ligt de uiteindelijke analyse, beslissing en verantwoordelijkheid bij de bevoegde professional. In deze unit zullen we een intern bestuurs- en verantwoordingskader opzetten dat het gebruik van AI documenteert.
Laten we de voorwaarden verduidelijken. Professionele verantwoordelijkheid is de juridische en ethische verantwoordelijkheid die ontstaat bij het vervullen van de eisen van een beroep; Ondeugdelijk werk kan resulteren in compensatie en discipline. Human-in-the-loop is het principe dat een kritieke beslissing wordt beoordeeld en goedgekeurd door een bevoegd persoon voordat deze van kracht wordt. Governance is het raamwerk dat bepaalt wie AI gaat gebruiken, onder welke regels en onder welke voorwaarden. Een verificatiepoort is een verplicht controlepunt dat de uitvoer moet passeren voordat deze kan worden gebruikt. Traceerbaarheid (audit trail) is het vastleggen van welke output is geproduceerd, hoe en door wie deze is goedgekeurd.
Kortom: AI geeft geen aanbevelingen
Door AI gegenereerde tekst, hoe professioneel deze ook mag lijken, is geen juridisch advies. Daar zijn drie concrete redenen voor. Ten eerste kan AI de volledige context van uw incident, de ware bedoelingen van de partijen en de huidige toepasselijke wetgeving niet volledig kennen; Het produceert vanuit algemene patronen. Ten tweede kan de informatie die hij geeft verzonnen zijn vanwege het risico op hallucinaties (zie Unit 5). In de derde plaats kan zij geen wettelijke aansprakelijkheid dragen; Bij een fout is het altijd de professional die aansprakelijk wordt gesteld, gecompenseerd of gestraft.
AI-output moet daarom worden gezien als de ‘grondstof’ van een expert: waardevol, versnellend, maar onbruikbaar zonder verwerking en validatie.
Let op: "De output kwam van de AI" is geen verdediging. De verantwoordelijkheid voor elke tekst die aan een cliënt, een rechtbank of een toezichthouder wordt voorgelegd, ligt bij de professional die deze voorlegt. Het is juridisch niet mogelijk om de verantwoordelijkheid over te dragen aan het voertuig of de persoon die de melding heeft geschreven.
Audit volgens risiconiveau
Niet elke taak vereist hetzelfde niveau van toezicht. Voor een taak met weinig impact en gemakkelijk terug te vinden, is lichtregeling voldoende; Een beslissing met grote impact en die moeilijk ongedaan kan worden gemaakt, vereist verplicht menselijk toezicht en documentatie. Door risico’s te rangschikken op basis van taakimpact en omkeerbaarheid blijven zowel de veiligheid als de efficiëntie behouden.
Risiconiveau
voorbeeld taak
Vereiste inspectie
laag
Samenvatting van de interne notitie, uitleg van de term
Lichte recensie
middelmatig
Contractsamenvatting, checklist
Deskundige controle + bronverificatie
hoog
Petitie, te ondertekenen contract, juridisch advies
Verplichte menselijke goedkeuring + documentatie
kritisch
Presentatie bij de rechtbank, wettelijke verklaring
Goedkeuring voor meerdere ogen + volledige traceerbaarheid
Jouw rol: adviseur AI-governance. Stel een risicobeheersingsmatrix voor voor de volgende takenlijst:| Zoektocht | Impact (laag/gemiddeld/hoog) | Terugneembaarheid | Aanbevolen inspectiepoort | Wie keurt | Vereiste documentatie | Beveel verplichte menselijke goedkeuring aan voor taken met grote impact en moeilijk om te keren. Markeer uw suggesties als "moeten worden goedgekeurd door de organisatie"; strikte oplegging van regels.<tasks>[taken die het juridische/complianceteam uitvoert met AI]</tasks>
Het opzetten van een bestuurskader
Het gebruik van gedistribueerde en persoonsafhankelijke AI zal vroeg of laat tot een fout leiden. Een raamwerk voor corporate governance; Het bepaalt voor welke taken AI kan worden gebruikt, welke gegevens kunnen worden ingevoerd (zie Unit 9 en 11), welke authenticatiepoorten verplicht zijn en hoe het gebruik wordt geregistreerd.
Stel een ‘AI-gebruiksbeleid’ op voor ons juridische/complianceteam. Secties:1) Doel en reikwijdte2) Toegestaan en verboden gebruik (taakgebaseerd)3) Dataregels (welke gegevens op welk medium; maskeren; geprivilegieerd document)4) Verificatiepoorten (hallucinatie/attributieverificatie, bronbevestiging)5) Menselijk toezicht en goedkeuringsniveaus (gebaseerd op risiconiveau)6) Documentatie en traceerbaarheid7) Inbreuk en aansprakelijkheid laten hiaten achter; Vink 'wettelijke goedkeuring vereist' aan voor legale inhoud. Maak niet zelf een wettelijke voorziening.
Het is ook nuttig om aan elk belangrijk product een korte "gebruikstag" te koppelen; Dit maakt traceerbaarheid praktisch.
Genereer een korte 'AI-gebruikstag'-sjabloon die aan elke AI-aangedreven uitvoer moet worden toegevoegd: welke taak, welke tool, ingevoerde gegevensklasse, uitgevoerde verificatiestappen, verificateur, goedkeuring door persoon, datum. Maak er een formulier van 6 tot 8 regels van dat gemakkelijk in te vullen is.
Zwakke prompt/sterke prompt
Zwakke aanpak: AI-output rechtstreeks doorgeven aan cliënt/rechtbank; Wees snel.
Resultaat: Niet geverifieerd, niet aansprakelijk, onhoudbaar in geval van een fout. Een enkele hallucinatie of contextfout kan ernstige schade veroorzaken.
Sterke aanpak: [audit op risiconiveau + verplichte verificatiepoorten + bronbevestiging + geautoriseerde menselijke goedkeuring + documentatie met gebruikers-ID]
Het resultaat: een geverifieerde en traceerbare output die profiteert van de snelheid, maar een duidelijke verantwoording heeft. AI verhoogt de efficiëntie; Het proces biedt zekerheid.
Wie is verantwoordelijk? Snel kijken
- Nauwkeurigheid van de output: hangt af van de professional die deze gebruikt.
- Het werk dat aan de opdrachtgever/rechtbank wordt aangeboden: degene die het heeft ondertekend/gepresenteerd.
- Gegevensbescherming en privacy: van het team dat de gegevens verwerkt (niet van de toolprovider).
- Bestuur en bestuur: in de instelling en in het management.
In geen geval wordt de verantwoordelijkheid overgedragen aan de "AI" of de "assistent die de prompt schrijft".
Drie mini-hoesjes
Geval 1 — Locatie van de verantwoordelijkheid. Bij één instantie stuurde een assistent een nalevingsrapport dat hij met AI had opgesteld rechtstreeks naar de toezichthouder; Het rapport bevatte niet-geverifieerde gegevens. De 'AI schreef het'-verdediging werkte niet toen het probleem zich voordeed; De verantwoordelijkheid werd geacht te liggen bij de instelling die het rapport indiende en de ambtenaar die het rapport moest goedkeuren. De instelling gaf vervolgens het mandaat dat "er geen externe verklaring mag worden verzonden zonder geautoriseerde goedkeuring en bronbevestiging".
Geval 2 — Audit op risiconiveau. Toen een juridisch team op alle taken hetzelfde lastige goedkeuringsproces toepaste, leverde AI geen enkel resultaat op. Ze stelden een risico-auditmatrix op: samenvattingen van interne memorandums werden licht gecontroleerd, contracten en petities ter ondertekening waren onderworpen aan verplichte dubbelblinde goedkeuring. Terwijl de snelheid gehandhaafd bleef in banen met een laag risico, nam de veiligheid toe in banen met een hoog risico; Het team begon AI op grote schaal en met vertrouwen te gebruiken.
Geval 3 — De waarde van traceerbaarheid. Tijdens een audit: “hoe heeft u deze contractbeoordeling uitgevoerd, heeft u AI gebruikt, heeft u dit geverifieerd?” kwam de vraag. Het team dat de gebruikstag toepaste, liet met documentatie zien met welke tool elke uitvoer was geproduceerd, welke verificatiestappen deze had doorlopen en wie deze had goedgekeurd. De auditor zag dat het proces beheerst was en schreef geen aanvullende bevindingen. Documentatie transformeerde het gebruik van AI van een risico in een beheerd proces.
Veel voorkomende fouten
- Verantwoordelijkheid overdragen aan het voertuig. “AI heeft het geschreven” is geen verdediging; De verantwoordelijkheid ligt altijd bij de persoon.
- Op elke taak dezelfde controle toepassen. Ofwel neemt de efficiëntie af, ofwel blijft het hoge risico ongecontroleerd; Beoordeel op risiconiveau.
- Verificatiepoortjes omzeilen. In het bijzonder mag de output niet worden gepubliceerd zonder bronvermelding en bronbevestiging.
- Het bestuur niet op papier zetten. Persoonlijk, onregelmatig gebruik leidt vroeg of laat tot een fout.
- Geen traceerbaarheid behouden. Als niet wordt gedocumenteerd wie wat heeft geproduceerd en hoe ze het hebben geverifieerd, ontstaat er een gat in de controle en ontstaan er geschillen.
- AI ongereguleerd laten omdat het ‘voldoende geavanceerd’ is. Het vergroten van bekwaamheid betekent niet dat de verantwoordelijkheid van mensen verdwijnt.
Samengevat
AI is een krachtige snelheidsvermenigvuldiger in de wetgeving, maar geeft geen juridisch advies en vervangt de professional niet; De uiteindelijke analyse, beslissing en verantwoordelijkheid ligt altijd bij de persoon met autoriteit. De manier om dit duurzaam te maken is met een bestuurskader: taken beoordelen op risiconiveau, verplichte menselijke audit- en verificatiepoorten opleggen voor werk met een hoog risico, gegevens- en privacyregels afdwingen en elke output traceerbaar maken met een gebruikstag. Zo profiteer je van de snelheid van AI en behoud je verantwoordelijkheid en vertrouwen. AI genereert en versnelt; De bevoegde professional beslist en draagt de verantwoordelijkheid voor wat er zal worden gepresenteerd en de gevolgen ervan.
Applicatie taak
Maak een lijst van de taken die uw team met AI uitvoert. (1) Beoordeel met de risico-auditmatrix elke taak op basis van impact en omkeerbaarheid en wijs auditpoorten toe. (2) Een ontwerpbeleid voor AI-gebruik opstellen; Verzamel borden met 'wettelijke goedkeuring vereist'. (3) Maak een gebruikstagsjabloon en pas deze toe op uw definitieve afdruk. (4) Zet de regel op schrift: "Geen enkele externe verklaring gaat zonder geautoriseerde goedkeuring en bronbevestiging."
controlelijst
- [ ] Worden taken beoordeeld op risiconiveau (impact + omkeerbaarheid)?
- [ ] Is er verplichte menselijke toestemming gedefinieerd voor missies met een hoog risico?
- [ ] Zijn attributie-/bronverificatiepoorten opgenomen in het proces?
- [ ] Zijn er gegevens- en privacyregels (eenheden 9 en 11) aan het raamwerk toegevoegd?
- [ ] Kan elke belangrijke output worden gevolgd via een gebruikstag?
- [ ] Is er schriftelijk vastgelegd dat de verantwoordelijkheid bij de mens ligt?
- [ ] Is het AI-gebruiksbeleid voorbereid voor wettelijke goedkeuring?
Module-examen
1. Welke toepassing verhoogt de betrouwbaarheid van de output het meest als AI een lang contract laat samenvatten?
- A) Het koppelen van iedere vaststelling in de samenvatting aan de bron met het betreffende artikelnummer en kort citaat ✔
- B) Vraag de samenvatting zo kort mogelijk aan, in één paragraaf
- C) Het model instrueren 'geen fouten te maken' en vertrouwen op het resultaat
- D) Het contract ondertekenen uitsluitend op basis van de samenvatting, zonder deze überhaupt te lezen
Annotatie: Door elke bevinding in de AI-samenvatting te koppelen aan de bron met het relevante artikelnummer en korte quote, wordt de samenvatting verifieerbaar en kun je snel verzonnen informatie opmerken (hallucinatie). Dit is de meest kritische geloofwaardigheidscontrole voor juridische toetsing.
2. Wat is de meest effectieve input voor AI bij het evalueren van risicoclausules in een leveringscontract?
- A) Gewoon 'is dit contract riskant?' vragen
- B) Het geven van een draaiboek met de standaardposities van de instelling en het classificeren van de items volgens deze criteria ✔
- C) AI vragen om het contract te herschrijven ten gunste van de andere partij.
- D) Alleen het aantal tekens van de items tellen
Beschrijving: Door een draaiboek te geven met de standaardposities van de organisatie kan de AI items classificeren als 'acceptabel / waarover moet worden onderhandeld / afgewezen' op basis van uw criteria. Het is veel nuttiger dan de algemene vraag 'is het riskant'.
3. Waarom is AI-analyse van 'ontbrekende clausules' waardevol bij contractbeoordeling?
- A) Omdat het alleen nuttig is voor het vinden van spelfouten
- B) Omdat het het contract verkort
- C) Omdat het beschermende clausules introduceert die aanwezig hadden moeten zijn, maar die nooit in het contract zijn opgenomen ✔
- D) Omdat het bepaalt wie de andere partij is
Toelichting: Een deel van het risico zit niet in de schriftelijke clausule, maar in clausules die aanwezig zouden moeten zijn maar niet in het contract staan (bijvoorbeeld overdracht van intellectuele eigendom, gegevensverwerking, aansprakelijkheid na beëindiging). Ik vroeg AI: 'Wat zijn de clausules die in dit soort contracten worden verwacht, maar hier ontbreken?' Vragen: brengt deze hiaten aan het licht.
4. Welke aanpak verbetert de kwaliteit en consistentie het meest bij het opstellen van contracten met AI?
- A) De AI vragen om het onderwerp helemaal opnieuw te schrijven zonder enige context te geven
- B) Het kopiëren van elk contract dat u op internet vindt en het rechtstreeks gebruiken
- C) Het ontwerp in werking laten treden zonder het te herzien
- D) Zorg voor een sjabloon en scenario-informatie die is goedgekeurd door de instelling en laat AI deze aanpassen ✔
Beschrijving: In plaats van te produceren vanaf een blanco pagina, een sjabloon en scenario-informatie geven die is goedgekeurd door de instelling en deze door de AI laten aanpassen; Het handhaaft zowel de institutionele standaard als het vermindert het risico op hallucinaties. Het goedgekeurde sjabloon fungeert als een 'anker' en zorgt ervoor dat het model niet afdwaalt van de tekst.
5. Welk onderscheid moet bij de beoordeling van een geheimhoudingsovereenkomst (NDA) met AI vanaf het allereerste begin duidelijk worden gemaakt?
- A) Of de NDA eenrichtings- of tweerichtingsverkeer is en aan welke kant de verplichting ligt ✔
- B) Totaal aantal pagina's van het document
- C) In welk lettertype is het contract geschreven?
- D) Of de andere partij een logo heeft of niet
Openbaarmaking: Of de geheimhoudingsverklaring eenrichtingsverkeer is (slechts één partij maakt informatie openbaar) of tweerichtingsverkeer (wederzijdse openbaarmaking) bepaalt het gehele evenwicht van de verplichtingen. Om de AI dit eerst te laten bevragen, is de sleutel tot het correct lezen van clausules als vertrouwelijkheidsperiode, uitsluitingen en retourverplichting.
6. Wat is het grootste risico bij het doen van juridisch onderzoek met AI en hoe wordt dit beheerd?
- A) AI is te traag; Er wordt krachtigere hardware gebruikt
- B) het vermogen van AI om niet-bestaande precedenten/citaties te verzinnen; Elke bron wordt geverifieerd vanuit de primaire tekst ✔
- C) AI schrijft de tekst in zeer formele taal; stijl wordt met de hand gecorrigeerd
- D) AI voert alleen in het Engels uit; vertaling is gedaan
Beschrijving: AI kan niet-bestaande precedenten, statuten of citaten (hallucinatie) verzinnen. Daarom moet elke bron, beslissing en verwijzing van AI worden geverifieerd aan de hand van de primaire/officiële tekst (officiële wetgeving, besluittekst). AI is voor voorlopig onderzoek, niet voor de uiteindelijke autoriteit.
7. Welke stap versterkt de inhoud het meest bij het opstellen van een petitie met AI?
- A) Schrijf de petitie in een zo lang en mooi mogelijk taalgebruik
- B) Schrijf gewoon uw eigen verzoek en negeer tegenargumenten
- C) Het vooraf ondervragen van mogelijke tegenbezwaren en deze beantwoorden op basis van feit-wet-vraag ✔
- D) Het verzoekschrift rechtstreeks bij de rechtbank indienen zonder het te verifiëren
Toelichting: Een goede petitie anticipeert niet alleen op het eigen betoog, maar ook op eventuele bezwaren van de andere partij. Vraag de AI 'welke bezwaren er zouden kunnen rijzen tegen dit verzoek en hoe hierop te reageren?' Het stellen van dit soort vragen bouwt het concept voort op het raamwerk van de feiten en de eisen en sluit de zwakke punten op voorhand af.
8. Wat is de nuttigste vorm van output die we van AI kunnen vragen bij het vertalen van een regelgeving naar een bruikbare compliancechecklist?
- A) Alleen de titel en datum van de bewerking afdrukken
- B) Het combineren van alle items in één lange paragraaf
- C) Tevreden zijn met het rangschikken van de vereisten in alfabetische volgorde
- D) Het plaatsen van de vereisten in een controlediagram met kolommen voor verantwoordelijke rol, vereist bewijsmateriaal en tevredenheidsstatus ✔
Omschrijving: Elke eis; Door het in een tabel met verantwoordelijke rol, bewijs/documentatie en tevredenheidsstatus (ja/nee/gedeeltelijk) te plaatsen, wordt de lijst controleerbaar en bruikbaar. De abstracte lijst met items kan niet alleen worden gevolgd.
9. Wat is de meest waardevolle toevoeging die je van AI kunt vragen om een ontwerp van bedrijfsbeleid controleerbaar te maken?
- A) Elke verplichting afstemmen op de verantwoordelijke rol/RACI ✔
- B) Het beleid zo abstract en algemeen mogelijk houden
- C) Vermeld alleen juridische citaten
- D) Veel juridisch jargon aan het beleid toevoegen.
Toelichting: Door elke verplichting in kaart te brengen met de RACI (Responsible/Approving/Consulted/Informed) of in ieder geval de 'verantwoordelijke rol' wordt het beleid 'wie gaat wat doen' helder en wordt vastgelegd wie bij de audit aanspreekbaar wordt gemaakt. Een beleid zonder rol kan niet worden uitgevoerd.
10. Wat moet een deskundige doen die een document met daarin het TR ID-nummer, de naam en de zaakgegevens van de cliënt wil samenvatten met AI?
- A) Plak het document zoals het is en krijg snel resultaten
- B) Het maskeren en anonimiseren van persoonlijke gegevens en/of het gebruik van een goedgekeurde tool met bedrijfsgegevensborging ✔
- C) Voeg gewoon 'vertrouwelijk' toe aan het einde van het document
- D) Het is voldoende om het document één keer te verzenden en vervolgens de chat te verwijderen
Toelichting: Persoonsgegevens en klantgeheimen mogen niet rechtstreeks worden ingevoerd. De juiste aanpak; het maskeren en anonimiseren van identiteitsinformatie en/of het gebruik van een goedgekeurde tool met institutionele databorging (geen gebruik in het onderwijs, dataretentiebeleid). Dit is een vereiste vanuit zowel de KVKK als de geheimhoudingsverplichtingen.
11. Wat is de juiste aanpak bij het evalueren van de intellectuele eigendoms- en auteursrechtstatus van een tekst die met AI is geproduceerd?
- A) AI-uitvoer is altijd automatisch bedrijfseigen en volledig uniek
- B) AI-uitvoer kan onder geen enkele omstandigheid worden gebruikt
- C) Er wordt niet aangenomen dat de AI-uitvoer origineel/vrij is; herkomst, gelijkenisrisico en eigendom worden geëvalueerd ✔
- D) Auteursrecht geldt alleen voor muziek, voor teksten is het dus niet van belang.
Openbaarmaking: het auteursrecht op AI-output kan onzeker zijn, afhankelijk van het land en de situatie; Bovendien kan de uitvoer lijken op beschermde inhoud van derden. Daarom mag er niet van worden uitgegaan dat de AI-output origineel/vrij is zonder verificatie; het bron- en gelijkenisrisico moet worden geëvalueerd en het bedrijfseigendom moet contractueel worden verduidelijkt.
12. Wat is de vuistregel voor het gebruik van AI in termen van advocaat-cliënt privilege (vertrouwelijk/bevoorrecht document)?
- A) Bevoorrechte documenten kunnen vrijelijk in elke AI-tool worden ingevoerd
- B) Het gebruik van AI is niet relevant omdat het privilege alleen in de rechtszaal geldt
- C) Als het document gecodeerd is, maakt het niet uit met welk hulpmiddel het wordt ingevoerd.
- D) Vertrouwelijke/bevoorrechte documenten mogen alleen worden verwerkt in goedgekeurde voertuigen met passende waarborgen, anders kunnen privileges en vertrouwelijkheid in gevaar komen ✔
Uitleg: Privileges kunnen in het gedrang komen en de vertrouwelijkheid kan worden geschonden wanneer bevoorrechte en vertrouwelijke documenten worden geopend via tools van derden die geen gegevensbeveiligings- en vertrouwelijkheidsverplichtingen hebben. Daarom mogen dergelijke documenten alleen worden verwerkt op goedgekeurde voertuigen met passende contractuele en technische waarborgen.
13. Waar ligt de beroepsaansprakelijkheid met betrekking tot het gebruik van AI in een bedrijfsjuridisch/complianceteam?
- A) De uiteindelijke analyse, beslissing en verantwoordelijkheid ligt altijd bij de bevoegde menselijke professional; AI is alleen een ondersteunend hulpmiddel ✔
- B) Omdat de output afkomstig is van AI, ligt de verantwoordelijkheid bij de toolaanbieder
- C) Als AI geavanceerd genoeg is, is menselijke verificatie niet nodig
- D) De verantwoordelijkheid ligt bij het assistent-personeel dat de prompt heeft geschreven.
Beschrijving: AI is een snelheidsvermenigvuldiger en blauwdrukgenerator; Het biedt geen juridisch advies en is geen vervanging voor een professional. De uiteindelijke analyse, beslissing en verantwoordelijkheid ligt altijd bij de competente menselijke professional; De outputs moeten worden geverifieerd door een deskundige.
14. Welke governancecontrole is het meest geschikt voor het gebruik van AI bij een juridische taak waar veel op het spel staat (bijvoorbeeld de definitieve goedkeuring van een contract)?
- A) Dien AI-uitvoer rechtstreeks ter goedkeuring in om tijd te besparen
- B) Een menselijke inspectiedeur vereisen die is beoordeeld en goedgekeurd door een gekwalificeerde professional en documentgebruik ✔
- C) De persoon die de prompt heeft geschreven, geeft alleen de goedkeuring.
- D) Vraag de AI gewoon 'weet je het zeker?' vragen en vertrouwen op het antwoord
Uitleg: Voor beslissingen met een grote impact en die moeilijk ongedaan kunnen worden gemaakt, mag de AI-output niet rechtstreeks worden toegepast; Human-in-the-loop-portering, beoordeeld en goedgekeurd door een gekwalificeerde professional, moet vereist zijn en dit gebruik moet worden gedocumenteerd.