Dobički:
- Sposobnost dosledne uporabe umetne inteligence na vsaki stopnji od začetka incidenta do odločitve s šestimi človeškimi vrati za preverjanje
- Sposobnost vzpostavitve okvira korporativnega upravljanja z odobrenim seznamom orodij, politiko podatkov, vlogami, registracijo, usposabljanjem in stalnim pregledom
- Sposobnost vdelave človeške odgovornosti, preverjanja, zaupnosti, preglednosti, preverjanja pristranskosti in zakonitosti/etičnih načel v potek dela
V tem modulu smo obravnavali, kako je lahko umetna inteligenca močan pomočnik pri različnih nalogah diplomacije – analiza politik, informiranje, prevajanje, OSINT, preverjanje, priprava na pogajanja, korespondenca, medkulturna priprava in zaupnost – vendar tam, kjer se mora odločiti človek. V tej zadnji enoti bomo vse to združili v en skladen potek dela. Cilj je varno vgraditi umetno inteligenco v vsako fazo od začetka incidenta do sprejema odločitve s človeškimi vrati za preverjanje in vzpostaviti okvir za odgovorno uporabo na ravni podjetja.
Načelo enega stavka: umetna inteligenca poveča hitrost in obseg v diplomaciji; Človeška bitja nosijo sodbo, zastopanje, odgovornost in končno odločitev. Ta enota podaja zemljevid in okvir upravljanja, ki to načelo uvaja v vsakodnevno prakso.
Potek dela od konca do konca: veriga vrat
Razčlenimo tipično diplomatsko misijo na stopnje, od trenutka, ko je incident na mizi, do izdelave rezultatov (seznanitev, poročilo, odločitev), in postavimo vrata za preverjanje ljudi (kontrolno točko brez prehoda do naslednje) na vsaki stopnji.
1. Zbiranje informacij. Odprti viri so zbrani in razvrščeni. Door: Legalno, samo javni viri? Ali obstajajo občutljivi podatki in ali se obdelujejo v pravem okolju?
2. Obdelava in prevod. Večjezični dokumenti so razumljivi in povzeti. Vrata: Ali se razred zasebnosti ujema s pravim vozilom? Je prevod bistvo ali uraden?
3. Preverjanje. Trditve so potrjene s poreklom in navzkrižnim preverjanjem. Door: Ali sta vsako pomembno trditev preverila vsaj dva neodvisna vira? Ali so bili viri, ki jih zagotavlja umetna inteligenca, obravnavani kot neodvisni?
4. Sinteza in analiza. Informacije so postavljene v okvir in izdelani so scenariji. Door: Ali je razlika med dejstvom-interpretacijo-napovedjo jasna? Ali je bila postavljena nasprotna hipoteza? Je bila pristranskost testirana?
5. Izhodna proizvodnja. Pripravi se informiranje, poročilo, memorandum ali priprava na pogajanja. Vrata: Je ton pravilen? Ali je kalup/oblika odobren? Ali sta dejstvo in predlog ločena?
6. Končna odločitev in podpis. Človek oceni rezultat in prevzame odgovornost. Vrata: Ali lahko stojim za tem izhodom? Ali je vsak stavek odvisen od vira?
Moč te verige je naslednja: ne morete iti skozi ena vrata, ne da bi šli skozi naslednja. Tako se napaka AI na eni stopnji (halucinacija, napačen prevod, pristranskost) ujame pri sosednjih vratih in ne more priti do končne odločitve. Ni ene same plasti obrambe, ampak več plasti ena na drugi.
Namig: imejte kontrolni seznam te verige s šestimi vrati za svojo mizo. Označite vrata ena za drugo pred vsakim pomembnim rezultatom. To zagotavlja varnostno mrežo tudi v najbolj obremenjenih in obremenjenih dneh; Kajti napake se dogajajo ravno v konicah.
Okvir korporativnega upravljanja
Individualna disciplina je potrebna, a ne zadostna; Okvir upravljanja (niz pravil, vlog in nadzornih mehanizmov, ki urejajo uporabo) je potreben na ravni institucije. Osnovne komponente:
1. Seznam odobrenih vozil. Jasen seznam določa, katera orodja AI se lahko uporabljajo za katere razrede informacij. Varnostna ranljivost je "Vsak naj uporablja orodje, ki ga želi".
2. Politika razvrščanja podatkov. Kateri podatki so v katerem razredu in kako bodo obdelani, so predmet zapisanih pravil. Preslikava razreda in orodja v prejšnji enoti postane institucionalizirana.
3. Opredelitev vloge in avtoritete. Določeno je, kdo lahko uporablja AI v katerem delu in kdo bo odobril rezultat. Pooblastilo za končni podpis je jasno.
4. Evidentiranje in revidiranje (revizijska sled). Katero orodje je bilo uporabljeno za katero delo in s katerimi podatki se beleži; Če obstaja težava, jo je mogoče izslediti in odgovarjati.
5. Izobraževanje in ozaveščanje. Vsi, še posebej novinci, se naučijo prikritih refleksov in discipline preverjanja. Večina kršitev se zgodi zaradi neznanja.
6. Stalni pregled. Orodja, tveganja in pravila se skozi čas spreminjajo; Okvir se redno posodablja.
Pozor: Okvir upravljanja ni dokument, ki je enkrat napisan in odložen. Orodja AI se hitro spreminjajo; Aplikacija, ki je še včeraj veljala za varno, je morda danes spremenila politiko podatkov. Redno pregledovanje odobrenega seznama orodij in politike podatkov zagotavlja, da ogrodje ostane živo.
Nespremenljiva načela odgovorne uporabe
Načela, filtrirana iz vseh enot tega modula:
- Odgovornost človeka: Končna odločitev, interpretacija, reprezentacija in podpis pripadajo človeku. "Umetna inteligenca je tako rekla" ni utemeljitev.
- Preverjanje: Vsak pomemben rezultat je povezan z virom in je podvržen neodvisnemu preverjanju.
- Zaupnost: tajni podatki nikoli ne vstopijo v vozilo brez odobritve; Dva svetova sta ločena.
- Preglednost: uporaba umetne inteligence je navedena, kjer je to potrebno; Postopek se snema.
- Preverjanje objektivnosti in pristranskosti: rezultati se testirajo na pristranskost; Vprašana je nasprotna hipoteza.
- Zakonitost in etičnost: OSINT se izvaja samo preko javno dostopnih in zakonitih virov; osebni podatki so varovani; AI se ne uporablja za manipulacijo, ampak za spoštljivo in pošteno diplomacijo.
- Lokacija pristojnega strokovnjaka: Na varnostno kritičnih območjih ali območjih z velikimi posledicami rezultati umetne inteligence niso nadomestilo za odobritev kvalificiranega strokovnjaka; samo pospeši.
trije mini kovčki
1. primer – Vrata so ujela hrošča. Informacije, zbrane na krizni dan, so se hitro spremenile v brifing. Na vratih za preverjanje je bilo ugotovljeno, da noben neodvisni vir ni trdil, da je »zaveza« ustvarjena z AI; Trditev je bila halucinacija. Vrata preprečila, da bi napačna informacija prišla do ministra.
Primer 2 – Upravljanje je omejilo kršitev. V eni instituciji je bil potrjen seznam vozil in disciplina registracije. Ko je pripravnik pomotoma poskušal predati občutljiv dokument neodobrenemu agentu, je sistem opozoril in incident je ostal manjša napaka, ne kršitev. Okvir je deloval.
3. primer — Stalni pregled shranjen. Organizacija je med rednim pregledom odkrila, da je prevajalsko orodje, ki ga uporablja, spremenilo politiko podatkov; orodje je zdaj shranjevalo vnose. Odstranjeno s seznama odobrenih in zaupno delo premaknjeno v varen sistem. Živahno upravljanje je zajelo tiho tveganje.
Štiri predloge za kopiranje
1) Nadzor izhoda s šestimi vrati:
Popeljite me skozi šest vrat in me spomnite, kaj naj preverim za posamezna, preden ustvarim naslednji izhod: (1) avtentičnost/občutljivost vira, (2) spajanje med zasebnostjo in medijem, (3) navzkrižno preverjanje, (4) ločevanje in pristranskost interpretacije dejstev, (5) ton/format, (6) človeški podpis. Delovno mesto: [tukaj]
2) Samoocenjevanje upravljanja:
Vaša vloga: svetovalec za upravljanje AI. Spodaj ocenite našo trenutno implementacijo in označite morebitne vrzeli: ali obstaja odobren seznam orodij, politika razvrščanja podatkov, vloga/pooblastilo, registracija/revizija, usposabljanje, pregled. Podajte "prisoten / delno / odsoten" in predloge za izboljšave za vsak naslov. Trenutno stanje: [tukaj]
3) Pregled po dogodku:
Analizirajte, kaj je šlo dobro in katera vrata so delovala/zgrešila v spodnji misiji, ki jo poganja AI. Predlagajte 3 konkretne izboljšave, da preprečite, da bi se to ponovilo. Osredotočite se na izboljšanje procesa, ne na obtoževanje. Povzetek misije: [tukaj]
4) Osnutek izjave o odgovorni uporabi:
Pripravite kratko opombo, ki jo boste dodali na koncu poročila, in pregledno navedite uporabo umetne inteligence: na katerih stopnjah je bila umetna inteligenca uporabljena za osnutek/povzetek, kjer so vse ugotovitve preverili ljudje in končno odgovornost nosi strokovnjak. Bodite odmerjeni in jasni.
Šibek poziv/močan poziv
Šibek poziv:
Temeljito obravnavajte ta primer, pripravite sestanek in sprejmite odločitev.
Celotno verigo, preverjanje in odločitev preda AI. Napaka se lahko prikrade na kateri koli stopnji; odgovornost in zaupnost sta kršeni.
Močan poziv:
Vaša vloga: pomočnik delovnega toka. To nalogo razdelite na šest faz (zbiranje, obdelava, preverjanje, sinteza, izhod, odločitev) in mi povejte, kakšen človeški nadzor moram narediti za VSAKO fazo. Izdelate oris in povzetek; Opravil bom preverjanje, preverjanje pristranskosti, ton in odločitev. Pomaknite se naprej, ne da bi zahtevali kakršne koli zaupne podatke. Naloga: [tukaj]
Razlika je jasna: veriga je razdeljena na stopnje, vsaka vrata so pod človeškim nadzorom, umetna inteligenca izdela samo načrt, odločitev pa ostane v rokah človeka.
Tabela vrat delovnega toka
Oder
Prispevek AI
človeška vrata
zbirka
Urejanje vira
Zakonitost, občutljivost
Obdelava/prevod
Povzetek, osnutek prevoda
Orodje za zasebnost, niansa
preverjanje
Označevanje izvora/protislovja
Dva neodvisna vira
sinteza
Okvir, scenarij
Razlaga dejstev, predsodek
izhod
skeleton, oris
Ton, oblika, razlika
odločitev
—
podpis, odgovornost
Pogoste napake
- Mimo vrat. Če preskočite vrata v konici, bo hrošč pricurljal noter.
- Predaja celotne verige AI. Potrditev in odločitev vedno ostaneta pri človeku.
- Odpisati vladanje in pozabiti nanj. Če okvira ne pregledujemo redno, postane zastarel in ustvarja tveganja.
- Ne vodenje evidenc. Brez sledi ne more biti odgovornosti in napak se ni mogoče naučiti.
- Izogibanje preglednosti. Kjer je uporaba umetne inteligence nujna, je treba to iskreno povedati.
Če povzamem
Odgovorna uporaba od konca do konca pomeni umestitev umetne inteligence v verigo s šestimi človeškimi vrati za preverjanje od začetka incidenta do sprejemanja odločitev in podporo temu z okvirom korporativnega upravljanja (seznam odobrenih orodij, politika podatkov, vloge, registracija, usposabljanje, stalni pregled). Človeška odgovornost, preverjanje, zaupnost, transparentnost, nadzor pristranskosti, zakonitost/etika in kompetenten strokovnjak so nespremenljiva načela. AI poveča hitrost in obseg; Človeško bitje vedno nosi sodbo, zastopanje in končno odgovornost.
Aplikacijska naloga
Napišite kontrolni seznam poteka dela s šestimi vrati za svojo mizo in ga uporabite za resnično (ali namišljeno) nalogo. Ocenite svojo trenutno (ali idealno) prakso in ugotovite vrzeli s predlogo »samoocenjevanje upravljanja«. Na koncu izpisa dodajte "izjavo o odgovorni uporabi". Na koncu s svojimi besedami napišite 5 načel, ki ste se jih naučili v celotnem modulu.
kontrolni seznam
- [ ] Definiral in implementiral sem potek dela s šestimi vrati.
- [ ] Vsak pomemben izhod sem prenesel skozi vrata za človeško preverjanje.
- [ ] Delal sem v skladu s pravilnikom o odobrenem seznamu vozil in podatkih.
- [ ] Zabeležil sem uporabo AI in to pregledno navedel, ko je bilo potrebno.
- [ ] Kot človek sem prevzel odgovornost za končno odločitev, interpretacijo in podpis.
Modulni izpit
1. Kaj od naslednjega je najbolj natančno pozicioniranje umetne inteligence v mednarodnih odnosih in diplomaciji?
- A) Umetna inteligenca lahko neposredno sprejema zunanjepolitične odločitve države brez človeške odobritve
- B) Umetna inteligenca je uporabna samo za prevajanje besedila in nima nobene zveze z drugimi diplomatskimi nalogami
- C) Umetna inteligenca je orodje za povzetek, prevajanje, vzorec in oris; Odgovornost za presojo, zastopanje in končno odločitev je na človeku ✔
- D) Ker je umetna inteligenca vedno bolj nepristranska od ljudi, je treba razlago politike prepustiti njej.
Opis: Umetna inteligenca; Je pomočnik, ki povzema, prevaja, označuje vzorce in izdeluje osnutke večjezičnih podatkov. Odgovornost za kritično delo, kot so presoja, interpretacija, zastopanje, pogajalska strategija in končna odločitev, je v rokah kompetentnega strokovnjaka in odločevalcev; Nepreverjen rezultat lahko povzroči nesporazum, slab pogajalski položaj ali uhajanje informacij.
2. Kako bi bilo v vašem brifingu pred sestankom najbolje obravnavati umetno inteligenco pri analizi trenutne krize?
- A) Zahteva, da temelji le na trenutnih, datiranih odprtih virih, ki jih posredujete ✔
- B) Omogoča mu, da svobodno izkorišča svoje splošno znanje, ob predpostavki, da ni potrebe po zagotavljanju virov
- C) Sprejmite vse informacije, ki jih posreduje, kot posodobljene in jih vključite v sestanek, ne da bi jih preverili.
- D) Sploh neuporaba umetne inteligence pri kriznih analizah, ker ne more nič prispevati
Pojasnilo: podatki o usposabljanju umetne inteligence so posodobljeni do določenega datuma in morda ne poznajo najnovejšega razvoja; Če se zanaša na lasten 'spomin', lahko zagotovi zastarele ali celo netočne informacije. V trenutni analizi je pravilen pristop zahtevati od umetne inteligence, naj se zanaša samo na trenutne, datirane odprte vire, ki jih zagotovite.
3. Zakaj je razlikovanje med 'dejstvom', 'oceno' in 'napovedjo' pomembno v analizi in kakšno tveganje predstavlja umetna inteligenca v zvezi s tem?
- A) Razlikovanje je nepotrebno; vsi so enako zanesljivi in jih je mogoče mešati
- B) Samo predvidevanje je pomembno; primer in oceno lahko preskočite
- C) Ker umetna inteligenca to razliko odlično naredi, ni potrebe po človeškem nadzoru.
- D) Odločevalec mora biti sposoben razlikovati dokaze od interpretacije; Umetna inteligenca zamenjuje vse tri, diskriminacija in označevanje so v rokah ljudi ✔
Pojasnilo: Odločevalec mora videti, kaj je dokaz (dejstvo), kaj analitikova interpretacija (ocena), kaj je prihodnja napoved (napoved); drugače bi ugibanje lahko zamenjal za dokaz. Umetna inteligenca vse tri tekoče meša, zato je na človeku, da razlikuje in to jasno označi.
4. Kaj je treba storiti, ko umetna inteligenca v prevodu uradnega besedila pogodbe prevede zavezujoč 'shall' kot 'stranke se spodbuja'?
- A) Ker je prevod tekoč, ga sprejmemo takšnega, kot je.
- B) Pravno zavezujoč izraz preveri in popravi strokovnjak; Neobdelani prevod AI se ne šteje za uradni dokument ✔
- C) Ta izbira je vedno boljša z diplomatskega vidika, saj umetna inteligenca prevaja bolj "mehko"
- D) Razlike v pogojih so v sporazumnih besedilih nepomembne, zadostuje splošni pomen
Pojasnilo: V diplomatskem/pravnem besedilu je razlika med 'shall' in 'should' razlika med obveznostjo in željo; napačen prevod lahko uniči objavo. Takšne izraze mora popraviti strokovnjak v uradnem prevodu z dvojnim preverjanjem; Prevod AI ne more biti uradni dokument v surovi obliki.
5. Ali je pojav trditve na 200 različnih mestih v študiji OSINT (open source intelligence) preverjen?
- A) Ne; Kopije so lahko pridobljene iz enega vira, preverjanje zahteva neodvisne vire in sledenje izvoru ✔
- B) Da; V več informacijah se podatek pojavi, bolj točen je.
- C) Da; 200 lokacij je statistično zadosten dokaz
- D) Ne, vendar je en sam zanesljiv vir vedno natančnejši od dveh neodvisnih virov
Opis: Ne. Večina napačnih informacij izvira iz enega samega dvomljivega vira in se kopira na stotine mest, kar ustvarja iluzijo "več virov". Trditev se šteje za preverjeno le, če je potrjena iz vsaj dveh neodvisnih, zanesljivih virov; Izvorna sled kaže, ali se kopije napajajo iz istega vira.
6. Ko preverite trditev z umetno inteligenco, kaj morate storiti, če kaže na vir, ki pravi 'po poročilu te organizacije iz leta 2023...'?
- A) Ker umetna inteligenca navaja vir, se trditev samodejno šteje za preverjeno.
- B) Ni potrebe po odpiranju in preverjanju, dokler je ime vira videti razumno
- C) Vir ne šteje za preverjenega, ne da bi ga neodvisno odprl in potrdil, da dejansko obstaja in vsebuje informacije ✔
- D) Če je datum, ki ga je navedla umetna inteligenca, aktualen, je vir zagotovo resničen.
Opis: Umetna inteligenca lahko ustvari halucinacije in predstavi neobstoječe poročilo in sliko kot resnično; Poleg tega se lahko izmišljeni vir zdi bolj prepričljiv kot pravi vir. Vsakega vira ne smemo obravnavati kot "preverjenega", ne da bi ga neodvisno odprli in videli, da dejansko obstaja in vsebuje te informacije.
7. Kakšna naj bo vloga umetne inteligence pri pripravi na pogajanja, katera odločitev naj ostane izključno človeška?
- A) Umetna inteligenca ustvarja scenarije in določa končni kompromisni načrt ter rdeče črte
- B) Umetna inteligenca producira scenarije in vaje; Rdeča črta in kompromisne odločitve so odgovornost ljudi in odločevalcev ✔
- C) Umetne inteligence sploh ni mogoče uporabiti pri pogajanjih; Vse priprave je treba opraviti ročno
- D) Umetna inteligenca se lahko tudi neposredno pogaja z drugo stranjo za mizo.
Opis: Umetna inteligenca analizira nasprotno stranko, načrtuje interesna področja in menjavo, ustvarja scenarije in vadi kot zahteven simulator nasprotne stranke. Kje pa se bodo risale rdeče črte in kakšna bo popuščanja, so odločitve ljudi in odločevalcev, ki nosijo politično odgovornost, ker zavezujejo državo; Ni preneseno na umetno inteligenco.
8. Zakaj je napaka, če umetna inteligenca uporablja prvo osebo ednine ('zahtevamo ...'), ko sestavlja 'verbalno noto'?
- A) Ustni zapis je napisan v tretji osebi ednine; Kalup in obliko je treba vzeti iz odobrene predloge in ne smejo biti prepuščeni umetni inteligenci ✔
- B) Osebna uporaba ni pomembna; Oblika diplomatskih dokumentov je prosta
- C) Prva oseba ednine je prednostna pravilna oblika v govorjenem zapisu.
- D) Ker umetna inteligenca v celoti pozna uradne vzorce vsake države, nadzor ni potreben.
Pojasnilo: Verbalna nota je vrsta uradnega dokumenta, napisanega v 3. osebi ednine in nepodpisanega ("Veleposlaništvo ... izreka spoštovanje Ministrstvu za ..."). Uporaba napačne osebe je napaka v postopku/formatu. AI pozna splošne vzorce, vendar morda ne pozna natančne formalne oblike vaše organizacije; Kalup in oblika sta vzeta iz odobrene predloge.
9. Kako naj se informacije, ki jih posreduje umetna inteligenca, kot je 'ljudje iz te države vedno to počnejo, ko se pogajajo', uporabijo v medkulturni pripravi?
- A) Kot možnost in točka pozornosti, ne dokončno pravilo; Uporabljati ga je treba ob upoštevanju individualnih razlik in potrditvi ✔
- B) To je treba vzeti kot dokončno pravilo obnašanja in celotno strategijo je treba zgraditi temu primerno.
- C) Uporabiti ga je treba kot orodje prednosti za manipulacijo druge strani
- D) Ker umetna inteligenca pravi, da jo je treba uporabiti natančno za vsakega posameznika
Pojasnilo: Takšna posploševanja so stereotipi; Vsakega posameznika postavlja v isti kalup in resnična oseba pogosto ne ustreza stereotipu. Kulturno znanje je treba uporabiti kot možnost in opozorilo, ne dokončno pravilo, pri čemer se je treba spomniti individualnih, regionalnih in generacijskih razlik in jih po možnosti potrditi z lokalnim strokovnjakom.
10. Kateri je pravilen pristop k povzemanju zapiskov zaupnega pogovora s sogovornikom?
- A) Zaradi hitrosti ga prilepite v najbližje javno orodje AI in ga povzamete
- B) Izbrišite imena, jih naredite "anonimne" in jih dajte kateremu koli zunanjemu orodju
- C) Obdelujte le v odobrenem sistemu, ki je notranji, varen in ne izpostavlja podatkov ✔
- D) Ker je zapisek o intervjuju kratek, ga obdelajte brez upoštevanja zaupnosti.
Pojasnilo: Zaupen (tajni) dokument ne bo nikoli vnesen v javno orodje AI, ki ga agencija ni odobrila za ta razred; ker je besedilo mogoče obdelati, shraniti na zunanje strežnike ali uporabiti pri usposabljanju modela in je izločanje nepovratno. Tovrstno delo se izvaja samo v internih, varnih, odobrenih sistemih, ki ne puščajo podatkov.
11. Zakaj morda obravnavati dokument z izbrisanimi imeni kot "anonimnega" in dati na voljo javnosti ni zadostna zaščita?
- A) Brisanje imena je vedno popolna anonimizacija in naredi vsak dokument varen
- B) Kontekst (datum, kraj, dogodek) lahko ponovno zajame identitete in položaj; Zaščita je zagotovljena z izbiro orodja in okolja ✔
- C) Tveganje združevanja se nikoli ne pojavi pri anonimnih dokumentih.
- D) Dokler je dokument kratek, je nemogoče sklepati o identiteti iz konteksta
Pojasnilo: Tudi če so imena izbrisana, lahko kontekst (datum, kraj, dogodek, število strank, zadeva) zadostuje, da strokovnjak popravi identiteto in položaj. Prave občutljive informacije niso zaščitene z maskiranjem, temveč z ustrezno izbiro orodij in medijev; Negotove informacije je treba obravnavati kot višji razred.
12. Kateri je najučinkovitejši način za preprečitev, da bi posamezna napaka AI odtekla v končno odločitev v celovitem diplomatskem delovnem procesu?
- A) Prenos celotnega postopka na eno samo orodje AI in ogled samo na koncu
- B) Odstranitev vmesnih validacij za hitrost in preverjanje samo na izhodni stopnji
- C) Dovolitev vsakemu strokovnjaku, da prosto uporablja svoje orodje brez vodenja evidenc
- D) Postavitev človeških vrat za preverjanje in pogoj za uspešnost na vsaki stopnji (plastno preverjanje) ✔
Opis: Vrata za človeško preverjanje in jasen prehodni pogoj so nameščeni na vsaki stopnji (zbiranje, obdelava/prevajanje, validacija, sinteza, izhod, odločitev); Ne morete skozi ena vrata, ne da bi šli skozi druga. Ta večplastna struktura zagotavlja, da se halucinacija, napačen prevod ali pristranskost na eni stopnji ujamejo pri sosednjih vratih in ne uhajajo v odločitev.
13. Katere so ključne komponente okvira upravljanja za odgovorno uporabo umetne inteligence na ravni podjetja?
- A) Seznam odobrenih orodij, pravilnik o podatkih, vloga/pooblastilo, registracija/revizija, usposabljanje in stalni pregled ✔
- B) Edino pravilo je, da "vsakdo naj uporablja najnovejše in najbolj priljubljeno orodje"
- C) Dokument s fiksno politiko, ki je napisan enkrat in nikoli posodobljen.
- D) Prepuščanje vseh odločitev na milost in nemilost posameznim strokovnjakom brez vodenja evidenc
Pojasnilo: Individualna disciplina je potrebna, vendar ne zadostuje. Korporativno upravljanje; Sestavljen je iz odobrenega seznama vozil, politike razvrščanja podatkov, opredelitve vloge/oblasti, registracije in revizijske sledi, komponent usposabljanja/ozaveščanja in stalnega pregleda. "Vsakdo naj uporablja katerokoli orodje, ki ga hoče" je varnostna ranljivost in bo zastarela, če se ogrodje ne posodablja redno.
14. Kako je najbolj učinkovito uporabiti umetno inteligenco v analizi proti pristranskosti potrditve?
- A) Zavestno postavljanje nasprotne hipoteze umetni inteligenci in preizkušanje lastne ocene ✔
- B) Postavljanje le vprašanj, ki podpirajo lastno mnenje, in potrditev obravnavati kot dokaz
- C) Sprejeti prvi odgovor, ki ga je dala umetna inteligenca, kot nevtralen in ne iskati drugega zornega kota.
- D) Ob predpostavki, da ni potrebe po dodatnem nadzoru, ker v umetni inteligenci ne obstaja pristranskost
Pojasnilo: Če postavite vprašanje, ki podpira samo vaš pogled, bo AI narisal potrditveno sliko (z nagnjenostjo k laskanju). Zavestno postavljanje protihipoteze – »kako bi izgledal scenarij, v katerem bi bila ta ocena napačna?« – odkrije spregledane dejavnike in preveri pristranskost. Ravnovesje zagotavlja tudi povzemanje istega dogodka z različnih vidikov.