Visapusiška darbo eiga, valdymas ir atsakingas naudojimas

Pelnas:

• Galimybė nuosekliai diegti AI kiekviename etape nuo incidento pradžios iki sprendimo, naudojant šešis žmogaus patikrinimo vartus
• Gebėjimas sukurti įmonės valdymo sistemą su patvirtintų įrankių sąrašu, duomenų politika, vaidmenimis, registracija, mokymu ir nuolatine peržiūra
• Gebėjimas į darbo eigą įtraukti žmogaus atsakomybės, patikrinimo, konfidencialumo, skaidrumo, šališkumo tikrinimo ir teisėtumo / etikos principus

Šiame modulyje aptarėme, kaip dirbtinis intelektas gali būti galingas pagalbininkas atliekant įvairias diplomatijos užduotis – politikos analizę, instruktažą, vertimą, OSINT, tikrinimą, pasirengimą deryboms, susirašinėjimą, tarpkultūrinį pasirengimą ir konfidencialumą – bet kur žmogus turėtų nuspręsti. Šiame paskutiniame skyriuje visa tai sujungsime į vieną nuoseklią darbo eigą. Tikslas yra saugiai integruoti dirbtinį intelektą kiekviename etape nuo incidento pradžios iki sprendimo priėmimo su žmogaus patikrinimo vartais ir sukurti atsakingo naudojimo sistemą įmonės lygiu.

Vieno sakinio principas: AI padidina greitį ir apimtį diplomatijoje; Žmonėms tenka sprendimas, atstovavimas, atsakomybė ir galutinis sprendimas. Šis skyrius pateikia žemėlapį ir valdymo sistemą, kuri šį principą įgyvendina kasdienėje praktikoje.

Darbo eiga nuo galo iki galo: prievadų grandinė

Suskirstykime tipišką diplomatinę misiją į etapus – nuo incidento pateikimo į stalą iki rezultato (instruktažas, ataskaita, sprendimas) sudarymo ir kiekviename etape pastatykime žmogaus patikrinimo vartus (kontrolės tašką, nepereinant į kitą).

1. Informacijos rinkimas. Atvirieji šaltiniai yra renkami ir klasifikuojami. Durys: teisiniai, tik viešieji šaltiniai? Ar yra jautrių duomenų ir ar jie tvarkomi tinkamoje aplinkoje?

2. Apdorojimas ir vertimas. Daugiakalbiai dokumentai yra suprantami ir apibendrinti. Durys: ar privatumo klasė atitinka tinkamą transporto priemonę? Ar vertimo esmė ar oficialus?

3. Patikrinimas. Teiginiai patvirtinami kilmę ir kryžminį patikrinimą. Durys: ar kiekvienas reikšmingas teiginys buvo patikrintas bent dviejų nepriklausomų šaltinių? Ar AI teikiami ištekliai buvo vertinami kaip nepriklausomi?

4. Sintezė ir analizė. Informacija įtraukiama į sistemą ir kuriami scenarijai. Durys: Ar aiškus skirtumas tarp fakto aiškinimo ir numatymo? Ar buvo paklausta priešingos hipotezės? Ar šališkumas buvo patikrintas?

5. Produkcijos gamyba. Rengiamas instruktažas, ataskaita, memorandumas ar pasiruošimas deryboms. Durys: ar tinkamas tonas? Ar forma/forma patvirtinta? Ar faktas ir pasiūlymas skiriasi?

6. Galutinis sprendimas ir parašas. Žmogus vertina rezultatą ir prisiima atsakomybę. Durys: Ar galiu stovėti už šios išvesties? Ar kiekvienas sakinys priklauso nuo šaltinio?

Šios grandinės galia yra tokia: jūs negalite praeiti pro vienus vartus, nepraėję pro kitų. Taigi dirbtinio intelekto klaida viename etape (haliucinacija, klaidingas vertimas, šališkumas) užfiksuojama kitose ir negali nutekėti iki galutinio sprendimo. Yra ne vienas gynybos sluoksnis, o daug sluoksnių vienas ant kito.

Patarimas: laikykite šios šešių durų grandinės kontrolinį sąrašą savo stalui. Pažymėkite duris po vieną prieš kiekvieną svarbų pristatymą. Tai suteikia apsauginį tinklą net judriausiomis ir sunkiausiomis dienomis; Nes klaidos nutinka būtent skubėjimo momentais.

Įmonių valdymo sistema

Individuali disciplina yra būtina, bet nepakankama; Institucijos lygmeniu reikalinga valdymo sistema (naudojimą reglamentuojančių taisyklių, vaidmenų ir kontrolės mechanizmų rinkinys). Pagrindiniai komponentai:

1. Patvirtintas transporto priemonių sąrašas. Aiškus sąrašas nustato, kurie AI įrankiai gali būti naudojami kurioms informacijos klasėms. „Kiekvienas turėtų naudoti bet kokį įrankį, kurį nori“ yra saugumo spraga.

2. Duomenų klasifikavimo politika. Kokie duomenys priklauso, kuriai klasei ir kaip jie bus tvarkomi, yra rašytinės taisyklės. Ankstesniame skyriuje esantis klasės įrankio žemėlapis tampa institucionalizuotas.

3. Vaidmuo ir autoriteto apibrėžimas. Nustatyta, kas gali naudoti dirbtinį intelektą kokiam darbui ir kas patvirtins išvestį. Galutinė parašo teisė yra aiški.

4. Įrašymas ir auditas (audito seka). Koks įrankis kuriam darbui buvo naudojamas ir su kokiais duomenimis įrašomi; Jei kyla problemų, ją galima atsekti ir patraukti atsakomybėn.

5. Švietimas ir sąmoningumas. Visi, ypač naujokai, mokosi slaptų refleksų ir patikrinimo disciplinos. Dauguma pažeidimų atsiranda dėl nežinojimo.

6. Nuolatinė peržiūra. Priemonės, rizika ir taisyklės laikui bėgant keičiasi; Sistema reguliariai atnaujinama.

Atsargiai: valdymo sistema nėra dokumentas, kuris parašytas vieną kartą ir atidedamas į šalį. AI įrankiai greitai keičiasi; Programa, kuri vakar buvo laikoma saugia, šiandien galėjo pakeisti savo duomenų politiką. Reguliarus patvirtintų įrankių sąrašo ir duomenų politikos peržiūra užtikrina, kad sistema išliks gyva.

Nekintami atsakingo naudojimo principai

Principai, atfiltruoti iš visų šio modulio vienetų:

• Žmogaus atsakomybė: galutinis sprendimas, aiškinimas, atstovavimas ir parašas priklauso žmogui. „AI taip pasakė“ nėra pateisinimas.
• Patikrinimas: kiekviena reikšminga produkcija yra susieta su šaltiniu ir nepriklausoma patikra.
• Konfidencialumas: įslaptinta informacija niekada nepatenka į transporto priemonę be patvirtinimo; Du pasauliai laikomi atskirai.
• Skaidrumas: kur reikia, nurodomas dirbtinio intelekto naudojimas; Procesas įrašomas.
• Objektyvumo ir šališkumo tikrinimas: išvesties tikrinama, ar nėra šališkumo; Klausiama priešpriešinės hipotezės.
• Teisėtumas ir etika: OSINT vykdoma tik per viešai prieinamus ir teisėtus šaltinius; asmens duomenys yra apsaugoti; AI naudojamas ne manipuliavimui, o pagarbiai ir sąžiningai diplomatijai.
• Kompetentingo eksperto vieta: saugos požiūriu svarbiose arba didelių pasekmių srityse dirbtinio intelekto išvestis nepakeičia kvalifikuoto eksperto patvirtinimo; tai tik pagreitina.

trys mini dėklai

1 atvejis – „Doors“ užfiksavo klaidą. Krizės dieną surinkta informacija greitai virto instruktažu. Prie patikrinimo vartų buvo pastebėta, kad joks nepriklausomas šaltinis nepatvirtino dirbtinio intelekto sukurto „įsipareigojimo“; Teiginys buvo haliucinacija. Durys neleido ministrą pasiekti neteisingai informacijai.

2 atvejis. Valdymas apribojo pažeidimą. Vienoje įstaigoje buvo patvirtintas transporto priemonių sąrašas ir registravimo drausmė. Kai praktikantas netyčia bandė perduoti neskelbtiną dokumentą nepatvirtintam agentui, sistema perspėjo ir incidentas liko nereikšminga klaida, o ne pažeidimas. Karkasas veikė.

3 atvejis. Nepertraukiama peržiūra išsaugota. Per eilinę peržiūrą organizacija nustatė, kad jos naudojamas vertimo įrankis pakeitė duomenų politiką; įrankis dabar saugojo įvestis. Pašalintas iš patvirtintų sąrašo, o konfidencialūs darbai perkelti į saugią sistemą. Energingas valdymas užfiksavo ramią riziką.

Keturi kopijuojami šablonai

1) Šešių prievadų išvesties valdymas:

Perveskite mane pro šešias duris ir priminkite, ką patikrinti kiekvienoje prieš pateikiant šią išvestį: (1) šaltinio autentiškumas / jautrumas, (2) privatumo ir terpės susiejimas, (3) kryžminis patvirtinimas, (4) faktų aiškinimo atskyrimas ir šališkumas, (5) tonas / formatas, (6) žmogaus parašas. Darbas: [čia]

2) Valdymo savęs vertinimas:

Jūsų vaidmuo: AI valdymo patarėjas. Žemiau įvertinkite mūsų dabartinį įgyvendinimą ir pažymėkite visas spragas: ar yra patvirtintas įrankių sąrašas, duomenų klasifikavimo politika, vaidmuo / institucija, registracija / auditas, mokymai, peržiūra. Pateikite kiekvieno pavadinimo „esamas / dalinis / nėra“ ir tobulinimo pasiūlymus. Dabartinė būsena: [čia]

3) Apžvalga po renginio:

Toliau išanalizuokite, kas sekėsi gerai ir kurie vartai veikė/nepavyko atlikti toliau pateiktoje AI varomoje misijoje. Pasiūlykite 3 konkrečius patobulinimus, kad tai nepasikartotų. Susikoncentruokite į proceso tobulinimą, o ne kaltinkite. Misijos santrauka: [čia]

4) Atsakingo naudojimo deklaracijos projektas:

Parašykite trumpą pastabą, kuri bus pridėta prie ataskaitos pabaigos, skaidriai nurodant AI naudojimą: kokiais etapais AI buvo naudojamas rengiant / apibendrinant, kur visas išvadas patikrino žmogus, o galutinė atsakomybė tenka ekspertui. Būkite išmatuoti ir aiškūs.

Silpnas raginimas / Stiprus raginimas

Silpnas raginimas:

Kruopščiai išnagrinėkite šią bylą, paruoškite instruktažą ir priimkite sprendimą.

Ji perduoda visą grandinę, patikrinimą ir sprendimą AI. Klaida gali atsirasti bet kuriame etape; pažeidžiama atsakomybė ir konfidencialumas.

Galingas raginimas:

Jūsų vaidmuo: darbo eigos asistentas. Padalinkite šią užduotį į šešis etapus (rinkimas, apdorojimas, patikrinimas, sintezė, išvestis, sprendimas) ir pasakykite man, kokią žmogaus kontrolę turiu atlikti KIEKVIENoje fazėje. Jūs rengiate metmenis ir santrauką; Aš atliksiu patikrinimą, šališkumo patikrinimą, toną ir sprendimą. Eikite į priekį neprašydami jokių konfidencialių duomenų. Užduotis: [čia]

Skirtumas aiškus: grandinė suskirstyta į etapus, kiekvienas vartai paliekami žmogaus kontroliuojami, AI sukuria tik planą, o sprendimas lieka žmogui.

Darbo eigos prievadų lentelė

Scena

AI indėlis

žmogaus vartai

kolekcija

Šaltinio redagavimas

Teisėtumas, jautrumas

Apdorojimas/vertimas

Santrauka, vertimo projektas

Privatumo priemonė, niuansas

patikrinimas

Kilmės/prieštaravimo žymėjimas

Du nepriklausomi šaltiniai

sintezė

Karkasas, scenarijus

Faktų aiškinimas, išankstinis nusistatymas

išvestis

skeletas, kontūras

Tonas, forma, išskirtinumas

sprendimą

—

parašas, atsakomybė

Dažnos klaidos

• Apeinant duris. Praleidus duris piko dienomis, klaida gali patekti į vidų.
• Visos grandinės perdavimas AI. Patvirtinimas ir sprendimas visada lieka žmogui.
• Valdymo nurašymas ir pamiršimas. Jei sistema nėra reguliariai peržiūrima, ji pasensta ir kyla rizika.
• Netvarko įrašų. Be pėdsakų negali būti atsakomybės ir klaidų negalima išmokti.
• Skaidrumo vengimas. Kai būtina naudoti dirbtinį intelektą, tai turėtų būti nurodyta sąžiningai.

Apibendrinant

Atsakingas galutinis naudojimas reiškia AI įtraukimą į grandinę su šešiais žmogaus patikrinimo vartais nuo incidento pradžios iki sprendimo priėmimo ir tai paremiant įmonės valdymo sistema (patvirtintu įrankių sąrašu, duomenų politika, vaidmenimis, registracija, mokymu, nuolatine peržiūra). Žmogaus atsakomybė, tikrinimas, konfidencialumas, skaidrumas, šališkumo kontrolė, teisėtumas/etika ir kompetentingas ekspertas yra nekintantys principai. AI padidina greitį ir apimtį; Žmogus visada turi sprendimą, atstovavimą ir galutinę atsakomybę.

Taikymo užduotis

Parašykite šešių durų darbo eigos kontrolinį sąrašą savo stalui ir pritaikykite jį realiai (arba įsivaizduojamai) užduočiai. Įvertinkite savo dabartinę (arba idealią) praktiką ir nustatykite spragas naudodami „valdymo įsivertinimo“ šabloną. Spaudinio pabaigoje pridėkite „atsakingo naudojimo pareiškimą“. Galiausiai savais žodžiais parašykite 5 principus, kurių išmokote iš viso modulio.

kontrolinis sąrašas

• [ ] Apibrėžiau ir įgyvendinau šešių prievadų darbo eigą.
• [ ] Kiekvieną svarbią išvestį perdaviau per žmogaus patikrinimo vartus.
• [ ] Dirbau pagal patvirtintą transporto priemonių sąrašą ir duomenų politiką.
• [ ] Užfiksavau AI naudojimą ir prireikus tai aiškiai pasakiau.
• [ ] Aš, kaip žmogus, prisiėmiau atsakomybę už galutinį sprendimą, interpretaciją ir parašą.

Modulio egzaminas

1. Kuris iš šių dalykų yra tiksliausias dirbtinio intelekto pozicionavimas tarptautiniuose santykiuose ir diplomatijoje?

• A) Dirbtinis intelektas gali tiesiogiai priimti valstybės užsienio politikos sprendimą be žmogaus pritarimo
• B) Dirbtinis intelektas naudingas tik teksto vertimui ir neturi nieko bendra su kitomis diplomatinėmis užduotimis
• C) Dirbtinis intelektas yra santraukos, vertimo, modelio ir kontūro įrankis; Atsakomybė už sprendimą, atstovavimą ir galutinį sprendimą tenka žmogui ✔
• D) Kadangi dirbtinis intelektas visada yra nešališkesnis nei žmonės, politikos aiškinimas turėtų būti paliktas jam.

Aprašymas: Dirbtinis intelektas; Tai asistentas, kuris apibendrina, verčia, žymi šablonus ir kuria daugiakalbių duomenų juodraščius. Atsakomybė už svarbius darbus, tokius kaip sprendimas, aiškinimas, atstovavimas, derybų strategija ir galutinis sprendimas, tenka kompetentingam ekspertui ir sprendimus priimantiems asmenims; Nepatvirtinta išvestis gali sukelti nesusipratimą, prastą derybų poziciją arba nutekėjusią informaciją.

2. Kaip būtų geriausia vertinti dirbtinį intelektą analizuojant dabartinę krizę savo instruktaže prieš susitikimą?

• A) Prašymas, kad jis būtų pagrįstas tik dabartiniais, pasenusiais atviraisiais šaltiniais, kuriuos pateikiate ✔
• B) Leisti jam laisvai naudotis savo bendromis žiniomis, darant prielaidą, kad nereikia pateikti šaltinių
• C) Priimkite visą jo pateiktą informaciją kaip naujausią ir įtraukite ją į instruktažą jos nepatikrinus.
• D) Krizių analizėje visiškai nenaudoti dirbtinio intelekto, nes jis nieko negali prisidėti

Paaiškinimas: Dirbtinio intelekto mokymo duomenys yra iki tam tikros datos ir gali nežinoti naujausių pokyčių; Jei ji remiasi savo „atmintimi“, ji gali pateikti pasenusią ar net netikslią informaciją. Dabartinėje analizėje teisingas požiūris yra prašyti dirbtinio intelekto pasikliauti tik dabartiniais, pasenusiais atviraisiais šaltiniais, kuriuos pateikiate.

3. Kodėl atliekant analizę svarbu atskirti „faktą“, „įvertinimą“ ir „prognozę“ ir kokią riziką šiuo atžvilgiu kelia DI?

• A) Skirtumas nereikalingas; visi yra vienodai patikimi ir gali būti maišomi
• B) Svarbu tik numatymas; atvejį ir vertinimą galima praleisti
• C) Kadangi dirbtinis intelektas puikiai atskiria šį skirtumą, nereikia žmogaus kontrolės.
• D) sprendimus priimantis asmuo turi sugebėti atskirti įrodymus nuo aiškinimo; Dirbtinis intelektas painioja tris, diskriminacija ir etikečių klijavimas tenka žmonėms ✔

Paaiškinimas: sprendimus priimantis asmuo turi matyti, kas yra įrodymas (faktas), kas analitiko interpretacija (įvertinimas), kas yra ateities numatymas (prognozavimas); antraip jis gali supainioti spėjimą kaip įrodymą. Dirbtinis intelektas sklandžiai sumaišo šiuos tris dalykus, todėl žmogus turi atskirti ir aiškiai jį pažymėti.

4. Ką reikėtų daryti, kai AI verčia įpareigojantį žodį „turi“ kaip „šalys skatinamos“ verčiant oficialų susitarimo tekstą?

• A) Kadangi vertimas sklandus, jis priimamas toks, koks yra.
• B) teisiškai įpareigojantį terminą patikrina ir pataiso žmogaus ekspertas; Neapdorotas AI vertimas nelaikomas oficialiu dokumentu ✔
• C) Šis pasirinkimas visada yra geresnis iš diplomatinės perspektyvos, nes dirbtinis intelektas verčiamas „švelniau“
• D) Susitarimų tekstuose terminų skirtumai nesvarbūs, pakanka bendros reikšmės

Paaiškinimas: diplomatiniame / teisiniame tekste skirtumas tarp „turi“ ir „turėtų“ yra skirtumas tarp įsipareigojimo ir pageidavimo; neteisingas vertimas gali sunaikinti įsipareigojimą. Tokius terminus oficialiame vertime turi ištaisyti ekspertas, dar kartą patikrinęs; AI vertimas negali būti oficialus dokumentas neapdorota forma.

5. Ar OSINT (atvirojo kodo žvalgybos) tyrime pateiktas teiginys 200 skirtingų svetainių leidžia jį patikrinti?

• A) Ne; Kopijos gali būti gaunamos iš vieno šaltinio, norint patvirtinti reikia nepriklausomų šaltinių ir nustatyti kilmę ✔
• B) Taip; Kuo daugiau informacijos pateikiama tam tikra informacija, tuo ji tikslesnė.
• C) Taip; 200 svetainių yra statistiškai pakankamas įrodymas
• D) Ne, bet vienas patikimas šaltinis visada yra tikslesnis nei du nepriklausomi šaltiniai

Aprašymas: Ne. Dauguma dezinformacijos kyla iš vieno abejotino šaltinio ir yra nukopijuojamos šimtuose vietų, sukuriant „kelių šaltinių“ iliuziją. Teiginys laikomas patikrintu tik tada, kai jį patvirtina bent du nepriklausomi, patikimi šaltiniai; Kilmės pėdsakas rodo, ar kopijos tiekiamos iš to paties šaltinio.

6. Ką daryti, kai patvirtinate pretenziją dirbtiniu intelektu, jei jis nurodo šaltinį, kuriame sakoma „pagal šios organizacijos 2023 m. ataskaitą...“?

• A) Kadangi dirbtinis intelektas nurodo šaltinį, teiginys automatiškai laikomas patvirtintu.
• B) Nereikia atidaryti ir tikrinti, kol šaltinio pavadinimas atrodo pagrįstas
• C) Šaltinio nelaikymas patvirtintu atskirai jo neatidarus ir nepatvirtinus, kad jis iš tikrųjų egzistuoja ir jame yra informacijos ✔
• D) Jei dirbtinio intelekto nurodyta data yra dabartinė, šaltinis tikrai yra tikras.

Aprašymas: Dirbtinis intelektas gali sukelti haliucinacijas ir pateikti neegzistuojančią ataskaitą bei figūrą kaip tikrą; Be to, išgalvotas šaltinis gali atrodyti įtikinamesnis nei tikras šaltinis. Neturėtume laikyti kiekvieno šaltinio „patvirtintu“, atskirai jo neatidavę ir nepamatę, kad jis iš tikrųjų egzistuoja ir jame yra ta informacija.

7. Koks turėtų būti dirbtinio intelekto vaidmuo ruošiantis deryboms, kuris sprendimas turėtų likti griežtai žmogiškas?

• A) Dirbtinis intelektas sukuria scenarijus ir nustato galutinį kompromiso planą bei raudonąsias linijas
• B) Dirbtinis intelektas kuria scenarijus ir repeticijas; Raudona linija ir kompromisiniai sprendimai yra žmonių ir sprendimų priėmėjų atsakomybė ✔
• C) Dirbtinis intelektas apskritai negali būti naudojamas derybose; Visas paruošimas turi būti atliekamas rankomis
• D) Dirbtinis intelektas taip pat gali vesti tiesiogines derybas su kita puse prie stalo.

Aprašymas: Dirbtinis intelektas analizuoja sandorio šalį, nustato dominančias ir mainų sritis, generuoja scenarijus ir repetuoja kaip sudėtingas sandorio šalies simuliatorius. Tačiau kur bus brėžiamos raudonos linijos ir kokios nuolaidos – tai žmonių ir sprendimų priėmėjų, kuriems tenka politinė atsakomybė, nes jie saisto valstybę, sprendimai; Jis nėra perkeltas į dirbtinį intelektą.

8. Kodėl yra klaida, jei AI, rengdamas žodinę pastabą, naudoja vienaskaitos pirmąjį asmenį ("mes prašome...")?

• A) Žodinė pastaba rašoma vienaskaitos trečiuoju asmeniu; Pelėsiai ir forma turi būti paimti iš patvirtinto šablono ir neturėtų būti palikti dirbtiniam intelektui ✔
• B) asmeninis naudojimas nėra svarbus; Diplomatinių dokumentų formatas yra nemokamas
• C) Vienaskaitos pirmasis asmuo yra pageidaujama teisinga žodinio žymėjimo forma.
• D) Kadangi dirbtinis intelektas visiškai žino oficialius kiekvienos šalies modelius, kontrolės nereikia.

Paaiškinimas: žodinis raštas yra oficialaus dokumento tipas, parašytas vienaskaitos trečiuoju asmeniu ir nepasirašytas („... ambasada pagerbia ... ministerijai“). Netinkamo asmens naudojimas yra procedūrinė / formato klaida. AI žino bendruosius modelius, bet gali nežinoti tikslios formalios jūsų organizacijos formos; Forma ir forma paimta iš patvirtinto šablono.

9. Kaip dirbtinio intelekto teikiama informacija, pvz., „žmonės iš šios šalies visada tai daro derėdamiesi“, turėtų būti naudojama ruošiantis tarpkultūrinei veiklai?

• A) kaip galimybė ir dėmesio taškas, o ne galutinė taisyklė; Jis turėtų būti naudojamas atsižvelgiant į individualius skirtumus ir tai patvirtinant ✔
• B) Tai turėtų būti laikoma galutine elgesio taisykle ir visa strategija turėtų būti kuriama atitinkamai.
• C) Jis turėtų būti naudojamas kaip pranašumo įrankis manipuliuoti kita šalimi
• D) Nes dirbtinis intelektas sako, kad jis turėtų būti taikomas tiksliai kiekvienam asmeniui

Paaiškinimas: Tokie apibendrinimai yra stereotipai; Tai sujungia kiekvieną individą į tą pačią formą, o tikrasis asmuo dažnai neatitinka stereotipo. Kultūros žinios turėtų būti naudojamos kaip galimybė ir atsargumo priemonė, o ne galutinė taisyklė, o individualūs, regioniniai ir kartų skirtumai turėtų būti prisiminti ir, jei įmanoma, patvirtinti su vietos ekspertu.

10. Koks yra teisingas būdas apibendrinti konfidencialaus pokalbio su pašnekovu pastabas?

• A) Norėdami pagreitinti, įklijuokite jį į artimiausią viešąjį AI įrankį ir apibendrinkite
• B) Ištrinkite vardus, paverskite juos „anoniminiais“ ir suteikite juos bet kokiam išoriniam įrankiui
• C) Apdorokite tik patvirtintoje sistemoje, kuri yra vidinė, saugi ir neatskleidžia duomenų ✔
• D) Kadangi interviu užrašas yra trumpas, apdorokite jį nekreipdami dėmesio į konfidencialumą.

Paaiškinimas: konfidencialus (įslaptintas) dokumentas niekada nebus įtrauktas į viešą AI įrankį, kurio agentūra nepatvirtino tai klasei; nes tekstas gali būti apdorojamas, saugomas išoriniuose serveriuose arba naudojamas modelių mokymuose ir išfiltravimas yra negrįžtamas. Tokio tipo darbai atliekami tik įmonės viduje esančiose, saugiose, patvirtintose sistemose, kurios nepraleidžia duomenų.

11. Kodėl dokumento su išbrauktais pavadinimais pripažinimas „anoniminiu“ ir viešas prieinamumas gali būti nepakankama apsauga?

• A) Vardo ištrynimas visada yra visiškas anonimiškumas ir kiekvienas dokumentas tampa saugus
• B) Kontekstas (data, vieta, įvykis) gali atgauti tapatybes ir padėtį; Apsauga užtikrinama pasirinkus įrankį ir aplinką ✔
• C) Sujungimo rizika anoniminiuose dokumentuose niekada nekyla.
• D) Kol dokumentas trumpas, iš konteksto neįmanoma nustatyti tapatybės

Paaiškinimas: Net jei vardai ištrinami, ekspertui gali pakakti konteksto (data, vieta, įvykis, partijų skaičius, tema), kad galėtų redaguoti tapatybę ir poziciją. Tikra jautri informacija saugoma ne maskuojant, o tinkamai parinkus priemones ir laikmenas; Neaiški informacija turėtų būti traktuojama kaip aukštesnė klasė.

12. Koks yra veiksmingiausias būdas užkirsti kelią vienai AI klaidai patekti į galutinį sprendimą atliekant visapusišką diplomatinę darbo eigą?

• A) Viso proceso pavedimas vienam AI įrankiui ir pažvelgti tik į pabaigą
• B) Pašalinti tarpinius greičio patvirtinimus ir tikrinti tik išėjimo stadijoje
• C) Leisti kiekvienam ekspertui laisvai naudotis savo įrankiu, nevedant įrašų
• D) Žmogaus patikrinimo vartų ir leidimo sąlygos įdėjimas kiekviename etape (sluoksninis patikrinimas) ✔

Aprašymas: kiekviename etape (rinkimas, apdorojimas / vertimas, patvirtinimas, sintezė, išvestis, sprendimas) yra žmogaus patikrinimo vartai ir aiški perėjimo sąlyga; Negalite praeiti pro vienas duris, nepraėję pro kitas. Ši daugiasluoksnė struktūra užtikrina, kad haliucinacijos, klaidingas vertimas ar šališkumas vienoje stadijoje būtų užfiksuoti kitose duryse ir nepatektų į sprendimą.

13. Kokie yra pagrindiniai atsakingo AI naudojimo valdymo sistemos komponentai įmonės lygmeniu?

• A) Patvirtintas įrankių sąrašas, duomenų politika, vaidmuo / institucija, registracija / auditas, mokymai ir nuolatinė peržiūra ✔
• B) Vienintelė taisyklė yra pasakyti „kiekvienas turi naudoti naujausią ir populiariausią įrankį“
• C) Fiksuotas politikos dokumentas, parašytas vieną kartą ir niekada neatnaujinamas.
• D) Palikti visus sprendimus atskirų ekspertų valiai, netvarkant jokių įrašų

Paaiškinimas: Individuali disciplina yra būtina, bet nepakankama. Įmonių valdymas; Jį sudaro patvirtintų transporto priemonių sąrašas, duomenų klasifikavimo politika, vaidmens / valdžios apibrėžimas, registracija ir audito seka, mokymas / informuotumas ir nuolatinės peržiūros komponentai. „Kiekvienas turėtų naudoti bet kokį įrankį, kurį nori“ yra saugumo spraga ir pasens, jei sistema nebus reguliariai atnaujinama.

14. Kaip veiksmingiausia naudoti dirbtinį intelektą analizuojant prieš patvirtinimo šališkumą?

• A) Sąmoningai paklausti dirbtinio intelekto priešingos hipotezės ir patikrinti savo vertinimą ✔
• B) Užduoti tik tuos klausimus, kurie patvirtina savo nuomonę, o patvirtinimą laikyti įrodymu
• C) Pirmąjį dirbtinio intelekto atsakymą priimti kaip neutralų ir neieškoti kito kampo.
• D) Darant prielaidą, kad papildomos kontrolės nereikia, nes dirbtiniame intelekte nėra šališkumo

Paaiškinimas: jei užduosite klausimą, kuris patvirtina tik jūsų požiūrį, AI nupieš patvirtinantį vaizdą (su tendencija glostyti). Sąmoningai klausiant priešpriešinės hipotezės – „kaip atrodytų scenarijus, kai šis vertinimas neteisingas?“ – atskleidžiami nepastebėti veiksniai ir patikrinama, ar nėra šališkumo. To paties įvykio apibendrinimas iš skirtingų perspektyvų taip pat suteikia pusiausvyrą.