Inleiding tot kunstmatige intelligentie in de verloskunde: rollen, grenzen, validatie en ethiek

Winst:

• Mogelijkheid om verloskundige banen te onderscheiden in groene (comfortabel gebruiken), gele (ondersteunend, voorzichtig) en rode (kunstmatige intelligentie beslist niet) zones op basis van risiconiveau
• Mogelijkheid om het risico op hallucinaties te herkennen en elke AI-uitvoer te beveiligen met de Verify-Customize-Link-discipline
• Vermogen om de principes van privacy en verantwoordelijkheid over te nemen en toe te passen dat de klinische beslissing altijd bij de verloskundige en de arts blijft.

Verloskunde is een beroep dat veel verschillende banen op één dag samenbrengt. Een verloskundige meet 's ochtends de bloeddruk van een zwangere vrouw en evalueert de testresultaten, kalmeert 's middags een angstige aanstaande moeder, corrigeert 's middags de borstvoedingshouding, maakt 's avonds een prenatale voorlichtingsbrochure op en schrijft aan het einde van de dag haar aantekeningen. Een deel van dit werk omvat het organiseren van informatie, het produceren en onthouden van tekst; Sommigen daarvan zijn klinische beslissingen met een kleine foutmarge die rechtstreeks betrekking hebben op de gezondheid van moeder en baby. Deze hele module leert je deze twee groepen duidelijk van elkaar te scheiden en kunstmatige intelligentie alleen in de eerste groep in te zetten, binnen veilige grenzen.

Kunstmatige intelligentie (kortweg AI; computersystemen die zijn getraind op grote hoeveelheden tekst en die in menselijke talen kunnen schrijven en lezen) zijn, mits correct gebruikt, een krachtig hulpmiddel voor de verloskundige praktijk. Hier hebben we het specifiek over tools van het type Large Language Model (LLM; een type AI dat tekst produceert door met u te corresponderen – bijvoorbeeld een chatassistent). Deze tools vatten een tekst samen, vereenvoudigen een brochure, stellen een verhaal samen, schrijven een afspraakbericht. Maar er wordt geen diagnose gesteld, geen risico beoordeeld of een medicijn aanbevolen. Het belangrijkste principe dat we gedurende de hele module zullen herhalen is:

Kunstmatige intelligentie is een assistent: het genereert concepten, herinnert eraan, vereenvoudigt. Diagnose, risicobeslissing, medicatie en klinische begeleiding vallen onder de verantwoordelijkheid van de verloskundige en de arts. Een niet-geverifieerde AI-uitvoer is als een niet-ondertekende patiëntnotitie; Op zichzelf heeft het geen bindende werking.

Wat versnelt AI precies in de verloskunde?

Laten we, om de waarde van AI in de verloskunde te begrijpen, de zaken in drie gebieden verdelen op basis van het risiconiveau. Dit onderscheid vormt het skelet voor de rest van de module.

Groene zone – AI comfortabel gebruiken (tekst- en informatiewerk): Ontwerp van een educatieve brochure, afspraak- en voorbereidingsbericht aan de zwangere vrouw, vertalen van een complexe medische tekst in gewone taal, stroomlijnen van een overdrachtsbrief, eerste vertaling van een meertalige informatietekst, routekaart waar u actuele literatuur over een onderwerp kunt zoeken. Hier bespaart AI tijd en wordt de fout in de uitvoer gemakkelijk opgemerkt wanneer de verloskundige deze leest en corrigeert.

Gele zone – Gebruik AI met de nodige voorzichtigheid, alleen als ondersteuning: het opsommen van risicofactoren in een verhaal (als herinnering, niet als beslissing), het maken van een rode vlag-checklist, het ‘in gedachten brengen’ van mogelijke verschillende situaties. Hier kan AI fungeren als een checklist / vergeetschild; Maar de verloskundige filtert elk item op de lijst met haar eigen kennis en de beslissing blijft bij de verloskundige.

Rode zone – AI neemt GEEN beslissingen: het stellen van een diagnose (bijvoorbeeld pre-eclampsie-diagnose), het beoordelen van het risico en het nemen van een verwijzingsbeslissing, het bepalen van medicatie en dosering, het beheren van de bevalling, het beslissen over noodinterventie. In deze regio kan de AI-output maximaal één input zijn; kan nooit verantwoordelijkheid nemen.

Tip: Voordat u een taak aan AI uitbesteedt, moet u uzelf één vraag stellen: "Als deze output verkeerd is, wie zal er dan onder lijden, en hoe snel?" Als de schade snel en direct bij de moeder/baby ontstaat, bevindt u zich in de rode zone; Gebruik AI alleen om tekst te bewerken, niet om deze te beoordelen.

Hallucinatie: waarom AI zelfverzekerd lijkt, maar ongelijk heeft

Het gevaarlijkste kenmerk van grote taalmodellen is hallucinatie: het model produceert informatie die niet echt bestaat, in een vloeiende en zelfverzekerde taal, alsof het waar is. In plaats van te zeggen ‘ik weet het niet’, kan AI de leemte opvullen met een geloofwaardig verzinsel. Concrete voorbeelden hiervan in de verloskunde zijn onder meer: ​​het opstellen van een richtlijn die niet bestaat, het vol vertrouwen voorschrijven van een onjuiste medicatiedosis, het geven van een onjuist ‘normaal bereik’ voor een testwaarde, het citeren van een onderzoek dat niet daadwerkelijk is gepubliceerd.

De hallucinatie is geen ‘storing’, maar een natuurlijk gevolg van de manier waarop deze hulpmiddelen werken; verdwijnt niet helemaal. Daarom is de oplossing niet om op AI te vertrouwen, maar om elke numerieke en klinische verklaring uit onafhankelijke bron te verifiëren. De vloeiendheid van de tekst is geen bewijs van nauwkeurigheid.

Verificatiediscipline: ANC-regel

Doorloop elke AI-uitvoer drie stappen voordat u deze vrijgeeft. Laten we het kortweg ANC noemen: Verifiëren – Aanpassen – Verbinden.

1. Verifiëren: Controleer elk aantal, dosis, testwaarde, wekelijkse limiet en richtlijnverklaring in de tekst van de huidige officiële bron (richtlijnen van het Ministerie van Volksgezondheid, instellingsprotocol, betrouwbare professionele gids). Verwijder de zin die u niet kunt verifiëren.
2. Aanpassen: Pas de algemene tekst aan aan deze zwangere vrouw, deze instelling, deze culturele context. AI schrijft voor de gemiddelde patiënt; Er staat een echte persoon voor je.
3. Link: Koppel de output aan de klinische context en verantwoordelijkheidsketen: notitie toevoegen "Dit is een concept, goedkeuring verloskundige/arts vereist", raadpleeg indien nodig een arts.

drie minikoffers

Geval 1 — Brochureontwerp (groen gebied): Een verloskundige zal een brochure "Zwangerschapsvoeding" voorbereiden voor een zwangerschapsschool met 20 leerlingen. Hij vraagt ​​AI om een ​​eenvoudige versie van 350 woorden, ontvangt deze binnen 8 minuten, corrigeert 2 zinnen volgens het ijzer-foliumzuurprotocol van zijn instelling en deelt deze uit. Als hij het met de hand had geschreven, zou het 45 minuten hebben geduurd; AI verkortte de tijd met ongeveer 80% en de kans op fouten was laag omdat de verloskundige elk getal verifieerde.

Geval 2 – Valse dosis (verschuiving naar de rode zone): Een andere verloskundige vroeg YZ: "Wat is de dagelijkse dosis ijzer bij bloedarmoede door ijzertekort tijdens de zwangerschap?" vraagt ​​hij. AI geeft een betrouwbaar getal. Als de verloskundige dit rechtstreeks aan de zwangere vrouw wil vertellen, stopt ze en bekijkt het instellingsprotocol; Hij ziet dat het bereik dat de AI geeft niet overeenkomt met het protocol. De doseringsbeslissing ligt bij de arts; De verloskundige maakt helemaal geen gebruik van de AI-output. Regel werkte: numerieke/klinische output niet gebruikt zonder verificatie.

Geval 3 – Geschiedenisverzameling (gele zone): De derde verloskundige laat AI een rommelig zwangerschapsdossier van twaalf pagina’s samenvatten (waarbij identificerende informatie wordt weggelaten) en vraagt ​​om een ​​lijst met ‘opvallende risicofactoren’. AI produceert 6 items. De verloskundige leest de lijst, realiseert zich dat 1 item verkeerd is begrepen, verwijdert het en voegt 1 ontbrekend item toe. De lijst is geen beslissing, maar een input voor de beoordeling van de verloskundige.

Kopieerbare sjablonen

De vier onderstaande sjablonen kunt u aanpassen aan uw eigen praktijk. Wat ze allemaal gemeen hebben: het herschrijven van de rol, limiet en verificatievereiste in de prompt.

Rol: Je bent een junior assistent die schrijft voor een ervaren verloskundige. Taak: Schrijf een EENVOUDIG informatief concept voor zwangere vrouwen over het volgende onderwerp. Onderwerp: [onderwerp] Regels: - Stel GEEN diagnose, beveel geen medicatie/dosis aan, stratificeer de risico's. - SCHRIJF GEEN cijfers, doses of richtzinnen waar je niet zeker van bent; laat in plaats daarvan een label "[MIDWIFE VERIFIED]" achter. - Taal: niveau 6, korte zinnen, uitleg medische term bij eerste voorkomen. Lengte: 300 woorden of minder.

Scan de volgende AI-uitvoer met een "verificatieoog". Uitvoer: [plak tekst]Geef me gewoon een lijst van:1) Elke instructie NUMBER, DOSE, WEEK en NORMAL RANGE daarin (afzonderlijk).2) Elke zin die verwijst naar de richtlijn/het protocol.3) Elke claim met definitieve ("altijd", "nooit", "zeker") taal. Dit zijn de items die ik met de HAND zal verifiëren; commentaar toevoegen.

Rol: Jij bent de tekstvereenvoudigingsassistent. Taak: Herschrijf de onderstaande medische tekst op een manier die een aanstaande moeder met een middelbare schooldiploma kan begrijpen. VERANDER GEEN betekenis, VOEG geen informatie toe of verwijder informatie. Als u een term niet kunt vereenvoudigen, leg deze dan kort tussen haakjes uit. Tekst: [tekst]

Dit is een concept-overdrachtsnota; er is geen klinisch oordeel bij betrokken. Organiseer de volgende verspreide notities in kopjes: [Verhaal] [Bevindingen van vandaag] [Acties] [Herinneringen voor follow-up]. Geen nieuwe informatie is MISLUKT; Als er een veld ontbreekt, schrijf dan "[BLANK]". Ruwe noot: [noot]

Zwakke prompt/sterke prompt

<w:tcPr><w:tcW w:type="dxa" w:w="2880"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Zwakke prompt

Krachtige prompt

tekst

"Geef informatie over ijzer tijdens de zwangerschap"

"Rol: vroedvrouw-assistent. Schrijf een informatief overzicht voor zwangere vrouwen, op het niveau van de 6e klas, van maximaal 250 woorden. Beveel dosering/medicatie aan; markeer het nummer waarvan u niet zeker bent als '[MIDWIFE VERIFY]'."

Conclusie

Ongesourcete, moeilijk te verifiëren tekst met doses en claims

Een veilig bewerkbaar concept met duidelijke grenzen en gemarkeerde gebieden die moeten worden geverifieerd.

Bij de zwakke prompt wordt de AI vrijgegeven; Het komt gemakkelijk in de rode zone. In de krachtige prompt worden de rol, limiet, verificatietag en lengte vanaf het begin gedefinieerd; De output blijft onder controle van de verloskundige.

Ethiek en privacy: vanaf het begin twee regels

Vanaf de eerste unit zijn er gedurende de hele module twee ethische principes van toepassing. De eerste is privacy: schrijf nooit identificerende informatie zoals de naam van de zwangere vrouw, TR ID-nummer, telefoonnummer, dossiernummer, adres naar de AI (details in unit 9). Ten tweede: transparantie en verantwoordingsplicht: presenteer door AI gegenereerde tekst niet alsof deze door een mens is geschreven; Elke verklaring die in een klinisch document terechtkomt, is verantwoordelijk voor de verloskundige die deze heeft goedgekeurd.

Let op: AI schrijft volgens het culturele ‘gemiddelde’; daarom kan het bepaalde sociale, religieuze of lokale gevoeligheden over het hoofd zien of verkeerd aannemen. De vroedvrouw voert altijd de cultuuraanpassing uit (details in unit 10).

Veel voorkomende fouten

• De AI om een "beslissing" vragen: "Moet ik deze zwangere vrouw doorverwijzen?" Vragen als deze vormen de rode zone; Je kunt het niet aan AI vragen.
• Getallen gebruiken zonder ze te verifiëren: Elk getal, zoals dosis, week, analyse-interval, in de tekst laten staan ​​zonder het te bevestigen, is de meest voorkomende en gevaarlijke fout.
• Identificatie-informatie schrijven: Alle informatie die de zwangere vrouw herkenbaar maakt, mag niet in de prompt worden opgenomen.
• Vlotheid verwarren met nauwkeurigheid: Het feit dat de tekst goed is geschreven, betekent niet dat de inhoud ervan correct is.
• De rol en limiet niet opschrijven: onbeperkte prompts produceren onbeperkte (en riskante) output.
• Vertrouwen op één enkele output: Bij kritische teksten is het handig om de AI opnieuw te laten draaien als tweede ‘verificatieoog’ en de eigen output te scannen.

Samengevat

Kunstmatige intelligentie is een krachtige assistent die het tekst- en informatiewerk in de verloskunde versnelt; maar het vervangt geen beslissingen zoals diagnose, risico, medicatie en klinische verwijzing. Verdeel taken in groene (comfortabel gebruiken), gele (ondersteunen, zorgvuldig) en rode (besluitvormings) zones. Controleer elke numerieke en klinische verklaring uit onafhankelijke bronnen vanwege het risico op hallucinaties; geef elke uitvoer door de discipline Validate–Customize–Link. De principes van privacy en verantwoordelijkheid zijn gedurende de hele module van toepassing: de beslissing ligt altijd bij de persoon.

Applicatie taak

Kies 6 van je eigen wekelijkse taken en maak een diagram waarin je ze allemaal in de groen/geel/rode zone plaatst. Gebruik het bovenstaande brochuresjabloon om een ​​schets te maken voor een bedrijf in de groene zone; scan vervolgens uw eigen afdruk met het "verificatieoog"-sjabloon en markeer de items die moeten worden geverifieerd. Schrijf voor een baan die u in de rode zone plaatst in twee zinnen op waarom u geen AI gaat gebruiken.

controlelijst

• [ ] Ik heb de klus in de groen/geel/rode zone geplaatst; Als het rood is, heb ik geen AI gebruikt voor de beslissing.
• [ ] Ik heb de rol, de limiet (geen diagnose/dosis) en de verificatietag in de prompt geschreven.
• [ ] Ik heb elk getal, dosis, week en richtlijn op de afdruk onafhankelijk geverifieerd.
• [ ] Er zijn geen identificerende gegevens ingevoerd in de prompt.
• [ ] Ik heb de stappen Valideren–Aanpassen–Koppelen van de uitvoer doorlopen.
• [ ] Ik bevestig dat ik verantwoordelijk ben voor de verklaring die in het klinische document is opgenomen.