Teljes körű munkafolyamat, irányítás és felelősségteljes használat

Nyereség:

• Képes a mesterséges intelligencia következetes telepítésére minden szakaszban az incidens kezdetétől a döntésig hat emberi ellenőrző kapuval
• Képes vállalatirányítási keretrendszer létrehozására jóváhagyott eszközök listájával, adatpolitikával, szerepekkel, regisztrációval, képzéssel és folyamatos felülvizsgálattal
• Az emberi felelősség, az ellenőrzés, a titoktartás, az átláthatóság, az elfogultság ellenőrzése és a jogszerűségi/etikai elvek munkafolyamatba való beágyazásának képessége

Ebben a modulban végigjártuk, hogy a mesterséges intelligencia hogyan lehet hatékony asszisztens a diplomácia különböző feladataiban – politikaelemzés, eligazítás, fordítás, OSINT, ellenőrzés, tárgyalások előkészítése, levelezés, kultúrák közötti előkészítés és titoktartás –, de hol kell az embernek döntenie. Ebben az utolsó részben mindezeket egyetlen koherens munkafolyamatba fogjuk egyesíteni. A cél az, hogy az incidens kezdetétől a döntés meghozataláig minden szakaszban biztonságosan beépítsék a mesterséges intelligenciát, emberi ellenőrző kapukkal, és keretet teremtsenek a felelősségteljes használathoz vállalati szinten.

Egymondatos elv: a mesterséges intelligencia növeli a sebességet és a terjedelmet a diplomáciában; Emberi lények viselik az ítéletet, a képviseletet, a felelősséget és a végső döntést. Ez az egység olyan térképet és irányítási keretet ad, amely ezt az elvet a napi gyakorlatba is átülteti.

Végpontok közötti munkafolyamat: portok lánca

Bontsunk fel egy tipikus diplomáciai küldetést szakaszokra, az incidens terítékre kerülésétől a kimenet elkészítéséig (eligazítás, jelentés, döntés), és minden szakaszban tegyünk egy emberi ellenőrző kaput (ellenőrző pontot, anélkül, hogy áthaladnánk a következőre).

1. Információgyűjtés. A nyílt forrásokat összegyűjtik és osztályozzák. Ajtó: Jogi, csak nyilvános források? Vannak érzékeny adatok, és azokat a megfelelő környezetben dolgozzák fel?

2. Feldolgozás és fordítás. A többnyelvű dokumentumok érthetőek és összefoglaltak. Ajtó: Az adatvédelmi osztály a megfelelő járműhöz van igazítva? A fordítás lényege vagy hivatalos?

3. Ellenőrzés. Az állításokat a származás és a keresztellenőrzés igazolja. Door: Minden jelentős állítást legalább két független forrás igazolt? Az AI által biztosított erőforrásokat függetlennek tekintették?

4. Szintézis és elemzés. Az információkat keretbe helyezik, és forgatókönyveket készítenek. Ajtó: Világos a különbség a tény-értelmezés-jóslat között? Megkérdezték az ellenhipotézist? Az elfogultságot tesztelték?

5. Output termelés. Tájékoztató, jelentés, memorandum vagy tárgyalási előkészítés készül. Ajtó: Helyes a hangszín? A forma/forma jóváhagyott? Külön a tény és a javaslat?

6. Végleges határozat és aláírás. Az ember értékeli a kimenetet és vállalja a felelősséget. Ajtó: állhatok e kimenet mögé? Minden mondat függ a forrástól?

Ennek a láncnak a ereje a következő: nem léphet át az egyik kapun anélkül, hogy át ne menne a másikon. Tehát egy mesterséges intelligencia hibája az egyik szakaszban (hallucináció, félrefordítás, elfogultság) a következő ajtónál fogható, és nem tud átjutni a végső döntésig. A védelem nem egyrétegű, hanem sok réteg van egymáson.

Tipp: Vezessen egy ellenőrzőlistát ennek a hatajtós láncnak a saját asztalához. Jelölje meg egyenként az ajtókat minden fontos szállítmány előtt. Ez még a legforgalmasabb és legszorgalmasabb napokon is biztosít biztonsági hálót; Mert a hibák pontosan a rohanó pillanatokban történnek.

Vállalatirányítási keretrendszer

Az egyéni fegyelem szükséges, de nem elégséges; Intézményi szinten irányítási keretrendszerre (a felhasználást szabályozó szabályok, szerepek és ellenőrzési mechanizmusok halmazára) van szükség. Alap komponensek:

1. Jóváhagyott járműlista. Egy világos lista határozza meg, hogy mely AI-eszközök mely információosztályokhoz használhatók. "Mindenki olyan eszközt használjon, amilyet akar" egy biztonsági rés.

2. Adatminősítési szabályzat. Az, hogy melyik adat melyik osztályba tartozik és hogyan kerül feldolgozásra, írott szabályok hatálya alá tartoznak. Az előző egység osztály-eszköz-leképezése intézményesül.

3. Szerep és tekintély meghatározása. Meg van határozva, hogy ki melyik munkában használhatja az AI-t, és ki hagyja jóvá a kimenetet. A végső aláírási jogosultság egyértelmű.

4. Rögzítés és auditálás (audit trail). Melyik eszközt melyik munkához használták, és milyen adatokat rögzítenek; Ha probléma van, az nyomon követhető és felelősségre vonható.

5. Oktatás és tudatosság. Mindenki, különösen az újoncok, megtanulja a lopakodó reflexeket és az ellenőrzés fegyelmét. A legtöbb jogsértés a tudatlanság miatt következik be.

6. Folyamatos felülvizsgálat. Az eszközök, kockázatok és szabályok idővel változnak; A keretrendszert rendszeresen frissítik.

Vigyázat: Az irányítási keretrendszer nem olyan dokumentum, amelyet egyszer megírnak és félretesznek. Az AI-eszközök gyorsan változnak; Egy tegnap biztonságosnak ítélt alkalmazás ma megváltoztathatta adatkezelési szabályzatát. A jóváhagyott eszközök listájának és adatpolitikájának rendszeres felülvizsgálata biztosítja, hogy a keret életben maradjon.

A felelős használat megváltoztathatatlan elvei

A modul összes egységéből kiszűrt alapelvek:

• Emberi felelősség: A végső döntés, az értelmezés, az ábrázolás és az aláírás az emberé. "Az AI mondta" nem indoklás.
• Ellenőrzés: Minden jelentős kimenet a forráshoz kapcsolódik, és független ellenőrzésen esik át.
• Titoktartás: Minősített információ soha nem kerül be a járműbe jóváhagyás nélkül; A két világot külön tartják.
• Átláthatóság: A mesterséges intelligencia használatának feltüntetése, ahol szükséges; A folyamatot rögzítik.
• Objektivitás és torzítás ellenőrzése: A kimenetek torzítását tesztelik; Felteszik az ellenhipotézist.
• Jogszerűség és etika: Az OSINT kizárólag nyilvánosan elérhető és legális forrásokon keresztül működik; a személyes adatok védettek; Az AI-t nem manipulációra használják, hanem tiszteletteljes és őszinte diplomáciára.
• Az illetékes szakértő helye: A biztonság szempontjából kritikus vagy nagy következményekkel járó területeken az AI-kimenet nem helyettesíti a minősített szakértői jóváhagyást; csak felgyorsítja.

három mini tok

1. eset – A Doors hibát kapott. Egy krízisnapon összegyűjtött információk gyorsan eligazítássá váltak. Az ellenőrző kapunál észrevették, hogy egyetlen független forrás sem állított AI által generált „elkötelezettséget”; Az állítás hallucináció volt. Az ajtó megakadályozta, hogy téves információ jusson el a miniszterhez.

2. eset – Az irányítás korlátozta a jogsértést. Az egyik intézményben volt jóváhagyott járműlista és nyilvántartási fegyelem. Amikor egy gyakornok véletlenül megpróbált átadni egy bizalmas dokumentumot egy nem jóváhagyott ügynöknek, a rendszer figyelmeztetett, és az incidens kisebb hiba maradt, nem pedig szabálysértés. A keret működött.

3. eset – A folyamatos ellenőrzés mentve. Egy szervezet egy rendszeres felülvizsgálat során fedezte fel, hogy egy általa használt fordítóeszköz megváltoztatta adatkezelési szabályzatát; az eszköz most a bemeneteket tárolta. Eltávolították a jóváhagyott listáról, és a bizalmas munka átkerült a biztonságos rendszerbe. Az élénk kormányzás csendes kockázatot rejtett magában.

Négy másolható sablon

1) Hat portos kimenet vezérlés:

Vezess át a hat ajtón, és emlékeztess arra, hogy mit kell ellenőrizni mindegyiknél, mielőtt elkészítenéd a következő kimenetet: (1) a forrás hitelessége/érzékenysége, (2) az adatvédelem és a médium közötti csatolás, (3) keresztellenőrzés, (4) a tény-értelmezés szétválasztása és torzítása, (5) hangszín/formátum, (6) emberi aláírás. Munka: [itt]

2) Irányítási önértékelés:

Az Ön szerepe: AI irányítási tanácsadó. Az alábbiakban értékelje jelenlegi megvalósításunkat, és jelölje meg az esetleges hiányosságokat: van-e jóváhagyott eszközlista, adatosztályozási szabályzat, szerepkör/hatóság, regisztráció/audit, képzés, felülvizsgálat. Adjon "jelen / részleges / hiányzik" és javítási javaslatokat minden címhez. Jelenlegi állapot: [itt]

3) Esemény utáni áttekintés:

Elemezze, hogy mi ment jól, és mely kapuk működtek/hiányoztak az alábbi, AI-alapú küldetésben. Javasoljon 3 konkrét fejlesztést, hogy ez ne ismétlődhessen meg. A folyamatfejlesztésre koncentráljon, ne a hibáztatásra. A küldetés összefoglalója: [itt]

4) Felelős felhasználási nyilatkozat tervezete:

Készítsen egy rövid megjegyzést, amelyet a jelentés végére kell csatolni, átláthatóan feltüntetve a mesterséges intelligencia használatát: mely szakaszokban használtak mesterséges intelligenciát a vázlat/összegzés elkészítéséhez, ahol az összes megállapítást ember ellenőrizte, és a végső felelősség a szakértőt terheli. Legyen kimért és világos.

Gyenge felszólítás / Erős felszólítás

Gyenge felszólítás:

Alaposan kezelje ezt az ügyet, készítse elő az eligazítást, és hozza meg a döntést.

Átadja a teljes láncot, az ellenőrzést és a döntést az MI-nek. A hiba bármely szakaszban becsúszhat; felelősség és titoktartás sérül.

Erőteljes felszólítás:

Az Ön szerepe: munkafolyamat-asszisztens. Bontsd fel ezt a feladatot hat fázisra (gyűjtés, feldolgozás, ellenőrzés, szintézis, kimenet, döntés), és mondd el, hogy MINDEN fázisban milyen emberi irányítást kell tennem. Vázlatot és összefoglalót készít; Megcsinálom az ellenőrzést, az elfogultság ellenőrzését, a hangot és a döntést. Lépjen tovább anélkül, hogy bizalmas adatokat kérne. Küldetés: [itt]

A különbség egyértelmű: a lánc szakaszokra oszlik, minden kapu emberi irányítás alatt marad, az MI csak a tervrajzot készíti, a döntés pedig az ember kezében marad.

Munkafolyamat portok táblázata

Színpad

Az AI hozzájárulása

emberi kapu

gyűjtemény

Forrás szerkesztése

Törvényesség, érzékenység

Feldolgozás/fordítás

Összegzés, fordítástervezet

Adatvédelmi eszköz, árnyalat

ellenőrzése

Eredet/ellentmondás jelölés

Két független forrás

szintézis

Keret, forgatókönyv

Tényértelmezés, előítélet

kimenet

csontváz, vázlat

Hangnem, forma, megkülönböztetés

határozatot

—

aláírás, felelősség

Gyakori hibák

• Az ajtók megkerülése. Ha rohanó napokon kihagyja az ajtót, akkor a hiba beszivároghat.
• A teljes lánc átadása az AI-nak. Az érvényesítés és a döntés mindig az embernél marad.
• Leírni a kormányzást és elfelejteni. Ha a keretrendszert nem vizsgálják felül rendszeresen, az elavulttá válik, és kockázatokat jelent.
• Nem vezet nyilvántartást. Nyomok nélkül nem lehet felelősségre vonni, és nem lehet tanulni a hibákból.
• Az átláthatóság elkerülése. Ahol mesterséges intelligencia használatára van szükség, azt őszintén ki kell jelenteni.

Összefoglalva

A felelősségteljes végpontok közötti használat azt jelenti, hogy a mesterséges intelligencia hat emberi ellenőrző kapuval rendelkező láncba kerül az incidens kezdetétől a döntéshozatalig, és ennek támogatását vállalatirányítási keretrendszerrel (jóváhagyott eszközlista, adatpolitika, szerepkörök, regisztráció, képzés, folyamatos felülvizsgálat). Az emberi felelősség, az ellenőrzés, a titoktartás, az átláthatóság, az elfogultság ellenőrzése, a törvényesség/etika és a hozzáértő szakértő megmásíthatatlan alapelvek. Az AI növeli a sebességet és a terjedelmet; Az ítéletet, a képviseletet és a végső felelősséget mindig az ember viseli.

Pályázati feladat

Írja meg a hatajtós munkafolyamat ellenőrzőlistáját saját asztalához, és alkalmazza azt egy valós (vagy elképzelt) feladatra. Értékelje jelenlegi (vagy ideális) gyakorlatát, és azonosítsa a hiányosságokat a „kormányzási önértékelés” sablon segítségével. Adja hozzá a „felelősségteljes használatról szóló nyilatkozatot” a nyomat végéhez. Végül írja le saját szavaival az 5 alapelvet, amelyet a teljes modulból tanult.

ellenőrző lista

• [ ] Meghatároztam és implementáltam a hat portos munkafolyamatot.
• [ ] Minden fontos kimenetet átengedtem egy emberi ellenőrző kapun.
• [ ] A jóváhagyott járműlista és adatszabályzat szerint dolgoztam.
• [ ] Rögzítettem a mesterséges intelligencia használatát, és szükség esetén átláthatóan közöltem.
• [ ] Emberként vállaltam a felelősséget a végső döntésért, értelmezésért és aláírásért.

Modul vizsga

1. Az alábbiak közül melyik a legpontosabb helymeghatározás a mesterséges intelligencia számára a nemzetközi kapcsolatokban és a diplomáciában?

• A) A mesterséges intelligencia közvetlenül, emberi jóváhagyás nélkül hozhat egy állam külpolitikai döntését
• B) A mesterséges intelligencia csak szövegfordításra használható, és semmi köze más diplomáciai feladatokhoz
• C) A mesterséges intelligencia összefoglalás, fordítás, minta és vázlat eszköze; Az ítéletért, a képviseletért és a végső döntésért az emberi lény felelőssége ✔
• D) Mivel a mesterséges intelligencia mindig pártatlanabb, mint az ember, a politika értelmezését rá kell bízni.

Leírás: Mesterséges intelligencia; Ez egy asszisztens, amely összefoglalja, lefordítja, megjelöli a mintákat, és többnyelvű adatvázlatokat készít. Az olyan kritikus munkákért, mint az ítélkezés, az értelmezés, a képviselet, a tárgyalási stratégia és a végső döntés, az illetékes szakértő és a döntéshozók felelősek; A nem ellenőrzött kimenet félreértéshez, rossz tárgyalási pozícióhoz vagy információ kiszivárgásához vezethet.

2. Az értekezlet előtti tájékoztatón hogyan lenne a legjobb a mesterséges intelligenciát kezelni egy jelenlegi válság elemzésekor?

• A) Annak kérése, hogy csak az Ön által megadott aktuális, keltezett nyílt forrásokon alapuljon ✔
• B) Lehetővé teszi számára, hogy szabadon részesüljön saját általános tudásából, feltételezve, hogy nincs szükség források biztosítására
• C) Az általa közölt összes információt naprakésznek fogadja el, és ellenőrzés nélkül foglalja bele a tájékoztatóba.
• D) Egyáltalán ne használjunk mesterséges intelligenciát a válságelemzésben, mert az nem tud semmivel hozzájárulni

Magyarázat: A mesterséges intelligencia képzési adatai egy bizonyos dátumig érvényesek, és nem ismerik a legújabb fejleményeket; Ha saját „memóriájára” támaszkodik, elavult vagy pontatlan információkat közölhet. A jelenlegi elemzésben a helyes megközelítés az, ha megkérjük a mesterséges intelligenciát, hogy csak az Ön által biztosított aktuális, lejárt nyílt forrásokra hagyatkozzon.

3. Miért fontos a „tény”, „értékelés” és „jóslat” megkülönböztetése egy elemzésben, és milyen kockázatot jelent a mesterséges intelligencia e tekintetben?

• A) A megkülönböztetés szükségtelen; mindegyik egyformán megbízható és keverhető
• B) Csak az előrelátás számít; eset és értékelés kihagyható
• C) Mivel a mesterséges intelligencia ezt a különbséget tökéletesen teszi, nincs szükség emberi irányításra.
• D) A döntéshozónak meg kell tudnia különböztetni a bizonyítékot az értelmezéstől; A mesterséges intelligencia összekeveri a hármat, a diszkrimináció és a címkézés az emberekre hárul ✔

Magyarázat: A döntéshozónak látnia kell, mi a bizonyíték (tény), mi az elemzői értelmezés (értékelés), mi a jövő-előrejelzés (előrejelzés); különben összetévesztheti a találgatást bizonyítéknak. A mesterséges intelligencia folyékonyan keveri a hármat, így az emberen múlik, hogy különbséget tegyen és világosan felcímkézze.

4. Mi a teendő, ha a mesterséges intelligencia a kötelező „kell” szót úgy fordítja le, hogy „a felek bátorítják” a hivatalos megállapodás szövegének fordításában?

• A) Mivel a fordítás gördülékeny, elfogadjuk úgy, ahogy van.
• B) A jogilag kötelező érvényű feltételt a humán szakértő ellenőrzi és kijavítja; A nyers mesterséges intelligencia fordítás nem tekinthető hivatalos dokumentumnak ✔
• C) Ez a választás mindig jobb diplomáciai szempontból, mivel a mesterséges intelligencia „puhább” fordítása
• D) A megállapodásszövegekben a fogalmi különbségek lényegtelenek, elegendő az általános jelentés

Magyarázat: A diplomáciai/jogi szövegben a „kell” és a „kell” közötti különbség a kötelezettség és a kívánság közötti különbség; a rossz fordítás tönkreteheti a kötelezettségvállalást. Az ilyen kifejezéseket a hivatalos fordításban humán szakértőnek kell kijavítania, kettős ellenőrzés mellett; A mesterséges intelligencia fordítása nyers formában nem lehet hivatalos dokumentum.

5. Egy OSINT (nyílt forráskódú intelligencia) tanulmányban 200 különböző oldalon előforduló állítás igazolja-e azt?

• A) Nem; A másolatok egyetlen forrásból származhatnak, az ellenőrzéshez független forrásokra és származás nyomon követésére van szükség ✔
• B) Igen; Minél több információban jelenik meg egy információ, annál pontosabb.
• C) Igen; 200 oldal statisztikailag elegendő bizonyíték
• D) Nem, de egyetlen megbízható forrás mindig pontosabb, mint két független forrás

Leírás: Nem. A legtöbb félreinformáció egyetlen kétes forrásból származik, és több száz helyen lemásolják, „több forrás” illúzióját keltve. Egy állítás csak akkor tekinthető igazoltnak, ha azt legalább két független, megbízható forrás megerősíti; Az eredetkövetés megmutatja, hogy a másolatok ugyanabból az egyetlen forrásból táplálkoznak-e.

6. Ha mesterséges intelligenciával igazol egy állítást, mit kell tennie, ha az egy forrásra mutat, amely szerint „a szervezet 2023-as jelentése szerint...”?

• A) Mivel a mesterséges intelligencia a forrásra hivatkozik, az állítás automatikusan igazoltnak minősül.
• B) Nincs szükség megnyitásra és ellenőrzésre, amíg az erőforrás neve ésszerűnek tűnik
• C) Nem tekinti a forrást ellenőrzöttnek anélkül, hogy önállóan kinyitná, és megerősítené, hogy az valóban létezik, és tartalmazza az információt ✔
• D) Ha a mesterséges intelligencia által megadott dátum aktuális, akkor a forrás mindenképpen valós.

Leírás: A mesterséges intelligencia hallucinációkat idézhet elő, és nem létező jelentést és ábrát valósnak mutathat be; Ráadásul egy koholt forrás meggyőzőbbnek tűnhet, mint egy valódi forrás. Nem szabad minden forrást „ellenőrzöttnek” tekinteni anélkül, hogy önállóan kinyitnánk, és nem látnánk, hogy valóban létezik-e, és tartalmazza-e ezt az információt.

7. Mi legyen a mesterséges intelligencia szerepe a tárgyalás előkészítésében, melyik döntés maradjon szigorúan emberi?

• A) A mesterséges intelligencia forgatókönyveket generál, és meghatározza a végső kompromisszumos tervet és a piros vonalakat
• B) A mesterséges intelligencia forgatókönyveket és próbákat készít; A piros vonal és a kompromisszumos döntések az emberek és a döntéshozók felelőssége ✔
• C) A mesterséges intelligencia egyáltalán nem használható a tárgyalások során; Minden előkészítést kézzel kell elvégezni
• D) A mesterséges intelligencia közvetlen tárgyalásokat is folytathat a másik féllel az asztalnál.

Leírás: A mesterséges intelligencia elemzi a partnert, feltérképezi az érdeklődési és csereterületeket, forgatókönyveket generál, és kihívásokkal teli partnerszimulátorként próbál. Az azonban, hogy hol húzódnak meg a vörös vonalak és milyen engedményeket tesznek, az a nép és a döntéshozók döntése, akiknek politikai felelősségük van, mert megkötnek egy államot; Nem kerül át a mesterséges intelligenciába.

8. Miért hiba, ha a mesterséges intelligencia egyes szám első személyt használ ("kérünk...") a "szóbeli jegyzet" megfogalmazásakor?

• A) A szóbeli jegyzet egyes szám harmadik személyben íródik; A formát és a formát a jóváhagyott sablonból kell venni, és nem szabad a mesterséges intelligenciára bízni ✔
• B) A személyes használat irreleváns; A diplomáciai dokumentumok formátuma ingyenes
• C) Az egyes szám első személyű helyes formája a beszélt jelölésekben.
• D) Mivel a mesterséges intelligencia teljesen ismeri az egyes országok hivatalos mintáit, nincs szükség kontrollra.

Magyarázat: A szóbeli feljegyzés olyan hivatalos dokumentum, amelyet egyes szám harmadik személyben írnak alá, és nincs aláírva ("A ... nagykövetsége tiszteletét fejezi ki ... minisztériumának"). Nem megfelelő személy használata eljárási/formátumhiba. Az AI ismeri az általános mintákat, de előfordulhat, hogy nem ismeri a szervezet pontos formális formáját; A forma és a forma a jóváhagyott sablonból származnak.

9. Hogyan kell felhasználni a mesterséges intelligencia által szolgáltatott információkat, például az „ebből az országból származó emberek mindig ezt teszik, amikor alkudoznak” az interkulturális felkészülés során?

• A) Lehetőségként és figyelmi pontként, nem pedig végleges szabály; Az egyéni különbségek figyelembevételével és megerősítésével kell használni ✔
• B) Végleges viselkedési szabálynak kell tekinteni, és az egész stratégiát ennek megfelelően kell felépíteni.
• C) Előnyös eszközként kell használni a másik fél manipulálására
• D) Mert a mesterséges intelligencia azt mondja, hogy minden egyénre pontosan kell alkalmazni

Magyarázat: Az ilyen általánosítások sztereotípiák; Ez minden egyént ugyanabba a formába helyez, és a valódi személy gyakran nem felel meg a sztereotípiának. A kulturális ismereteket lehetőségként és óvintézkedésként, nem pedig végleges szabályként kell felhasználni, és emlékezni kell az egyéni, regionális és generációs különbségekre, és lehetőség szerint meg kell erősíteni egy helyi szakemberrel.

10. Melyik a helyes megközelítés egy beszélgetőpartnerrel folytatott bizalmas beszélgetés jegyzeteinek összefoglalására?

• A) A sebesség érdekében illessze be a legközelebbi nyilvános AI-eszközbe, és foglalja össze
• B) Törölje a neveket, tegye "névtelenné", és adja át bármilyen külső eszköznek
• C) Csak jóváhagyott rendszerben dolgozza fel, amely házon belüli, biztonságos és nem tesz közzé adatokat ✔
• D) Mivel az interjújegyzet rövid, dolgozza fel anélkül, hogy ügyelne a titoktartásra.

Pontosítás: Olyan bizalmas (minősített) dokumentum soha nem kerül be egy nyilvános mesterséges intelligencia-eszközbe, amelyet az ügynökség nem hagyott jóvá az adott osztályhoz; mert a szöveg feldolgozható, külső szervereken tárolható vagy modellképzésben használható és a kiszűrés visszafordíthatatlan. Az ilyen típusú munkákat csak házon belüli, biztonságos, jóváhagyott rendszerekben végzik, amelyek nem szivárogtatnak ki adatokat.

11. Miért nem jelent elegendő védelmet egy törölt nevű dokumentum „névtelennek” minősítése és a nyilvánosság számára hozzáférhetővé tétele?

• A) A név törlése mindig teljes anonimizálást jelent, és minden dokumentumot biztonságossá tesz
• B) A kontextus (dátum, hely, esemény) újra megragadhatja az identitásokat és a pozíciót; A védelmet a szerszám és a környezet megválasztása biztosítja ✔
• C) A névtelen dokumentumokban soha nem fordul elő az összesítés veszélye.
• D) Amíg a dokumentum rövid, lehetetlen a kontextusból az azonosságra következtetni

Magyarázat: Még ha neveket is törölnek, a kontextus (dátum, hely, esemény, felek száma, téma) elegendő lehet ahhoz, hogy a szakértő leírja a személyazonosságokat és a pozíciókat. A valódi érzékeny információkat nem maszkolás védi, hanem az eszközök és adathordozók megfelelő kiválasztása; A bizonytalan információkat magasabb osztályként kell kezelni.

12. Mi a leghatékonyabb módja annak, hogy megakadályozzuk, hogy egyetlen mesterséges intelligencia hiba beszivárogjon a végső döntésbe egy végpontok közötti diplomáciai munkafolyamat során?

• A) Delegálja a teljes folyamatot egyetlen AI-eszközre, és csak a végét nézze meg
• B) A sebesség közbenső érvényesítések eltávolítása és csak a végfokozat ellenőrzése
• C) Lehetővé teszi, hogy minden szakértő szabadon használhassa saját eszközét nyilvántartás vezetése nélkül
• D) Emberi ellenőrző kapu és átengedési feltétel elhelyezése minden szakaszban (réteges ellenőrzés) ✔

Leírás: Minden szakaszban (gyűjtés, feldolgozás/fordítás, érvényesítés, szintézis, kimenet, döntés) egy emberi ellenőrző kapu és egy egyértelmű átmeneti feltétel kerül elhelyezésre; Nem lehet átmenni az egyik ajtón anélkül, hogy át ne mennénk a másikon. Ez a réteges szerkezet biztosítja, hogy a hallucinációt, a félrefordítást vagy az elfogultságot az egyik szakaszban a következő ajtóban elkapják, és ne szivárogjanak be a döntésbe.

13. Melyek a felelős AI vállalati szintű irányítási keretrendszer kulcselemei?

• A) Jóváhagyott eszközlista, adatpolitika, szerep/hatóság, regisztráció/audit, képzés és folyamatos felülvizsgálat ✔
• B) Az egyetlen szabály az, hogy „mindenkinek a legújabb és legnépszerűbb eszközt kell használnia”
• C) Rögzített irányelv-dokumentum, amelyet egyszer írnak, és soha nem frissítenek.
• D) Minden döntést az egyes szakértők kegyére bízni nyilvántartás vezetése nélkül

Magyarázat: Az egyéni fegyelem szükséges, de nem elegendő. Vállalatirányítás; A jóváhagyott járműlistából, az adatosztályozási szabályzatból, a szerep/hatóság meghatározásából, a regisztrációból és az ellenőrzési nyomvonalból, a képzés/tudatosság és a folyamatos felülvizsgálat összetevőiből áll. A „Bárki használjon bármilyen eszközt, amit akar” biztonsági rést jelent, és elavulttá válik, ha a keretrendszert nem frissítik rendszeresen.

14. Hogyan a leghatékonyabb a mesterséges intelligencia alkalmazása a megerősítési torzítás elleni elemzésben?

• A) Tudatosan megkérdezni a mesterséges intelligenciától az ellenkező hipotézist, és tesztelni saját értékelését ✔
• B) Csak olyan kérdések feltevése, amelyek alátámasztják a saját véleményünket, és a megerősítést bizonyítéknak tekintjük
• C) A mesterséges intelligencia által adott első választ semlegesnek fogadjuk el, és nem keresünk más szöget.
• D) Feltételezve, hogy nincs szükség további ellenőrzésre, mert a mesterséges intelligenciában nem létezik torzítás

Magyarázat: Ha olyan kérdést tesz fel, amely csak a saját nézetét támasztja alá, az AI megerősítő képet fest (hajlamos a hízelgésre). Az ellenhipotézis tudatos megkérdezése – „hogyan nézne ki az a forgatókönyv, amelyben ez az értékelés hibás?” – figyelmen kívül hagyott tényezőket tár fel, és ellenőrzi a torzítást. Ugyanannak az eseménynek a különböző szempontok szerinti összegzése is egyensúlyt teremt.