Работен тек од крај до крај, управување и одговорно користење

Добивки:

• Способност за доследно распоредување на вештачката интелигенција во секоја фаза од почетокот на инцидентот до одлуката со шест порти за проверка на луѓето
• Способност да се воспостави рамка за корпоративно управување со список на одобрени алатки, политика на податоци, улоги, регистрација, обука и тековен преглед
• Способност да се вградат човечка одговорност, верификација, доверливост, транспарентност, проверка на пристрасност и законитост/етички принципи во работниот тек

Во текот на овој модул, опфативме како вештачката интелигенција може да биде моќен асистент во различни задачи на дипломатијата - анализа на политики, брифинг, превод, OSINT, верификација, подготовка за преговори, кореспонденција, меѓукултурна подготовка и доверливост - но каде човекот треба да одлучи. Во оваа последна единица ќе ги комбинираме сите овие во еден кохерентен работен тек. Целта е безбедно да се вгради вештачката интелигенција во секоја фаза од почетокот на инцидентот до донесувањето на одлуката, со порти за верификација од луѓе и да се воспостави рамка за одговорна употреба на ниво на претпријатие.

Принцип на една реченица: ВИ ја зголемува брзината и опсегот во дипломатијата; Човечките суштества го носат судот, претставувањето, одговорноста и конечната одлука. Оваа единица дава мапа и рамка за управување што го става тој принцип во секојдневната практика.

Работен тек од крај до крај: синџир на пристаништа

Ајде да разделиме типична дипломатска мисија во фази, од моментот кога инцидентот е на маса до производството на резултат (брифинг, извештај, одлука) и да поставиме портата за човечка проверка (контролен пункт без да се помине до следната) во секоја фаза.

1. Собирање информации. Отворените извори се собираат и класифицираат. Врата: Правни, само јавни извори? Дали има чувствителни податоци и дали се обработуваат во вистинската средина?

2. Обработка и превод. Повеќејазичните документи се разбирливи и сумирани. Врата: Дали класата за приватност одговара на правилното возило? Дали преводот е суштина или официјален?

3. Верификација. Тврдењата се потврдуваат со потекло и вкрстена проверка. Врата: Дали секое значајно тврдење е потврдено од најмалку два независни извори? Дали ресурсите обезбедени од вештачката интелигенција се сметаа за независни?

4. Синтеза и анализа. Информациите се ставаат во рамка и се создаваат сценарија. Врата: Дали е јасна разликата помеѓу факт-толкување-предвидување? Дали е поставена контра хипотезата? Дали е тестирана пристрасноста?

5. Аутпут производство. Се подготвува брифинг, извештај, меморандум или подготовка за преговори. Врата: Дали е точен тонот? Дали е одобрен калапот/формуларот? Дали фактот и сугестијата се одвоени?

6. Конечна одлука и потпис. Човекот го оценува резултатот и презема одговорност. Врата: Може ли да застанам зад овој излез? Дали секоја реченица зависи од изворот?

Моќта на овој синџир е оваа: не можете да поминете низ една порта без да поминете низ следната. Така, грешка на вештачката интелигенција во една фаза (халуцинација, погрешен превод, пристрасност) е фатена на следната врата и не може да протече до конечната одлука. Нема ниту еден слој на одбрана, туку многу слоеви еден врз друг.

Совет: Чувајте листа за проверка на овој синџир со шест врати за вашата работна маса. Обележете ги вратите една по една пред секоја важна испорака. Ова обезбедува заштитна мрежа дури и во најпрометните и најпритисните денови; Затоа што грешките се случуваат токму во моменти на брзање.

Рамка за корпоративно управување

Индивидуалната дисциплина е неопходна, но не и доволна; Потребна е рамка за управување (збир на правила, улоги и контролни механизми кои ја регулираат употребата) на ниво на институција. Основни компоненти:

1. Одобрена листа на возила. Јасна листа одредува кои алатки за вештачка интелигенција може да се користат за кои класи на информации. „Секој треба да користи каква алатка сака“ е безбедносна ранливост.

2. Политика за класификација на податоците. Кои податоци се во која класа и како ќе се обработуваат подлежат на пишани правила. Мапирањето класа-алатка во претходната единица станува институционализирано.

3. Дефиниција на улога и авторитет. Се одредува кој во која работа може да користи вештачка интелигенција и кој ќе го одобри излезот. Овластувањето за конечниот потпис е јасно.

4. Снимање и ревизија (ревизорска патека). Која алатка е користена за која работа и со кои податоци се евидентираат; Ако има проблем, може да се следи и да се бара одговорност.

5. Едукација и свесност. Сите, особено новодојденците, ги учат скришум рефлексите и дисциплината на верификација. Повеќето прекршувања се случуваат поради незнаење.

6. Континуиран преглед. Алатките, ризиците и правилата се менуваат со текот на времето; Рамката се ажурира редовно.

Внимание: Рамката за управување не е документ што се пишува еднаш и се става настрана. Алатките за вештачка интелигенција брзо се менуваат; Апликацијата што се сметаше за безбедна вчера можеби ја променила својата политика за податоци денес. Редовното разгледување на списокот на одобрени алатки и политиката на податоци гарантира дека рамката останува жива.

Непроменливи принципи на одговорна употреба

Принципи филтрирани од сите единици на овој модул:

• Човечка одговорност: Конечната одлука, толкувањето, претставувањето и потписот му припаѓаат на човекот. „Ви го кажа тоа“ не е оправдување.
• Верификација: Секој значаен излез е поврзан со изворот и подлежи на независна верификација.
• Доверливост: класифицирани информации никогаш не влегуваат во возилото без одобрение; Двата света се чуваат одвоени.
• Транспарентност: употребата на вештачка интелигенција е наведена онаму каде што е потребно; Процесот е снимен.
• Проверка на објективност и пристрасност: Резултатите се тестираат за пристрасност; Се поставува контра хипотезата.
• Законитост и етика: ОСИНТ се спроведува само преку јавно достапни и правни извори; личните податоци се заштитени; ВИ не се користи за манипулација, туку за почитувана и чесна дипломатија.
• Локација на компетентен експерт: Во областите кои се критични за безбедноста или со високи последици, излезот од вештачката интелигенција не е замена за одобрение од квалификуван експерт; само го забрзува.

три мини футроли

Случај 1 - Вратите фатија бубачка. Информациите собрани на кризен ден брзо се претворија во брифинг. На портата за верификација, беше забележано дека ниту еден независен извор не тврди дека „завршува“ генерирана од вештачка интелигенција; Тврдењето беше халуцинација. Вратата спречила неточни информации да стигнат до министерот.

Случај 2 - Владеењето го ограничи прекршувањето. Во една институција имало одобрен список на возила и дисциплина за регистрација. Кога практикант случајно се обидел да предаде чувствителен документ на неодобрен агент, системот предупредил и инцидентот останал како мала грешка, а не како прекршување. Рамката функционираше.

Случај 3 — Зачуван е континуиран преглед. Една организација откри за време на редовен преглед дека алатката за преведување што ја користела ја променила нејзината политика за податоци; алатката сега ги чуваше влезовите. Отстрането од одобрениот список и доверливата работа е преместена во безбеден систем. Енергичната управа доловуваше тивок ризик.

Четири шаблони за копирање

1) Излезна контрола со шест порти:

Однесете ме низ шесте врати и потсетете ме што да проверам за секоја пред да го произведете следниов излез: (1) автентичност/чувствителност на изворот, (2) спојување од приватност до медиум, (3) вкрстено потврдување, (4) раздвојување и пристрасност од интерпретација на факти, (5) тон/формат, (6) човечки потпис. Работа: [тука]

2) Самооценување на управувањето:

Вашата улога: советник за управување со вештачка интелигенција. Оценете ја нашата моментална имплементација подолу и означете ги празнините: дали има одобрен список на алатки, политика за класификација на податоци, улога/овласт, регистрација/ревизија, обука, преглед. Дајте „присутни / делумно / отсутни“ и предлози за подобрување за секој наслов. Тековен статус: [тука]

3) Преглед по настанот:

Анализирајте што помина добро и кои порти функционираа/промашија во мисијата со вештачка интелигенција подолу. Предложете 3 конкретни подобрувања за да спречите ова да се повтори. Фокусирајте се на подобрување на процесот, а не на обвинување. Резиме на мисијата: [тука]

4) Нацрт декларација за одговорна употреба:

Нацртај кратка белешка што треба да се додаде на крајот на извештајот, во која транспарентно се наведува употребата на вештачката интелигенција: во кои фази се користела вештачката интелигенција за изготвување/резиме, каде сите наоди биле потврдени од луѓе, а конечната одговорност е на експертот. Бидете одмерени и јасни.

Слаб промпт / Силен промпт

Слаба навестување:

Темелно постапете со овој случај, подгответе го брифингот и донесете одлука.

Целиот синџир, верификација и одлука го предава на вештачката интелигенција. Грешката може да се појави во која било фаза; се нарушува одговорноста и доверливоста.

Моќен потсетник:

Вашата улога: асистент за работниот тек. Поделете ја оваа задача во шест фази (соберете, обработете, проверете, синтезирате, излезете, одлучувате) и кажете ми каква човечка контрола треба да направам за СЕКОЈА фаза. Вие правите преглед и резиме; Ќе направам верификација, проверка на пристрасност, тон и одлука. Одете напред без да барате никакви доверливи податоци. Потрага: [тука]

Разликата е јасна: синџирот е поделен на фази, секоја порта е оставена под човечка контрола, вештачката интелигенција го произведува само планот, а одлуката останува на човекот.

Табела за пристаништа на работниот тек

Фаза

Придонес на ВИ

човечка порта

собирање

Уредување на изворот

Законитост, чувствителност

Обработка/превод

Резиме, нацрт-превод

Приватност-алатка, нијанса

верификација

Обележување на потекло/противречност

Два независни извори

синтеза

Рамка, сценарио

Факт-толкување, предрасуди

излез

скелет, преглед

Тон, форма, разлика

одлука

-

потпис, одговорност

Вообичаени грешки

• Заобиколувајќи ги вратите. Прескокнување на врата во денови на брзање ќе овозможи бубачката да протече внатре.
• Предавање на целиот синџир на вештачката интелигенција. Потврдувањето и одлуката секогаш остануваат кај човекот.
• Отпишување на владеењето и заборавање на тоа. Доколку рамката не се ревидира редовно, таа застарува и создава ризици.
• Не водење евиденција. Без траги, не може да има одговорност и грешките не може да се научат.
• Избегнување на транспарентност. Онаму каде што е неопходна употребата на вештачка интелигенција, тоа треба да се каже искрено.

Сумирано

Одговорната употреба од крај до крај значи поставување на вештачката интелигенција во синџир со шест порти за проверка на луѓето од почетокот на инцидентот до донесување одлуки и поддршка на тоа со рамка за корпоративно управување (список на одобрени алатки, политика на податоци, улоги, регистрација, обука, континуиран преглед). Човечка одговорност, верификација, доверливост, транспарентност, контрола на пристрасност, законитост/етика и компетентен експерт се непроменливи принципи. ВИ ја зголемува брзината и опсегот; Човечкото суштество секогаш го носи судот, претставувањето и крајната одговорност.

Задача за апликација

Напишете го списокот за проверка на работниот тек со шест врати за вашето биро и применете го на вистинска (или замислена) задача. Оценете ја вашата моментална (или идеална) практика и идентификувајте ги празнините со шаблонот „самооценување на управувањето“. Додајте „изјава за одговорна употреба“ на крајот од отпечатокот. Конечно, напишете ги со свои зборови 5-те принципи што ги научивте од целиот модул.

листа за проверка

• [ ] Го дефинирав и имплементирав работниот тек со шест порти.
• [ ] Го поминав секој важен излез низ портата за човечка проверка.
• [ ] Работев според одобрениот список на возила и политика за податоци.
• [ ] Ја снимив употребата на вештачка интелигенција и ја наведов транспарентно кога е потребно.
• [ ] Како човечко суштество, ја презедов одговорноста за конечната одлука, толкувањето и потписот.

Модул испит

1. Кое од наведеното е најточно позиционирање на вештачката интелигенција во меѓународните односи и дипломатијата?

• А) Вештачката интелигенција може директно да донесе одлука за надворешна политика на државата без човечко одобрување
• Б) Вештачката интелигенција е корисна само за преведување текст и нема никаква врска со други дипломатски задачи
• В) Вештачката интелигенција е алатка за резиме, превод, шема и преглед; Одговорноста за расудување, претставување и конечна одлука е на човечкото суштество ✔
• Г) Бидејќи вештачката интелигенција е секогаш понепристрасна од луѓето, толкувањето на политиките треба да се остави на неа.

Опис: Вештачка интелигенција; Тоа е асистент кој резимира, преведува, означува обрасци и произведува нацрти на повеќејазични податоци. Одговорноста за критичката работа како што се расудување, толкување, претставување, преговарачка стратегија и конечна одлука е на надлежниот експерт и носители на одлуки; Непроверениот резултат може да доведе до недоразбирање, лоша преговарачка позиција или протечени информации.

2. Во вашиот брифинг пред состанок, како би било најдобро да се третира вештачката интелигенција кога се анализира моменталната криза?

• А) Барање да се заснова само на тековните, датирани отворени извори што ги давате ✔
• Б) Дозволете му слободно да има корист од сопственото општо знаење, под претпоставка дека нема потреба да дава извори
• В) Прифатете ги сите информации што ги дава како ажурирани и вклучете ги во брифингот без да ги потврдите.
• Г) Воопшто да не се користи вештачката интелигенција во кризна анализа, бидејќи не може ништо да придонесе

Објаснување: Податоците за обука на вештачката интелигенција се до одреден датум и можеби не ги знаат најновите случувања; Ако се потпира на сопствената „меморија“, може да обезбеди застарени, па дури и неточни информации. Во сегашната анализа, правилниот пристап е да побарате од вештачката интелигенција да се потпира само на тековните, датирани отворени извори што ги давате.

3. Зошто е важна разликата помеѓу „факт“, „проценка“ и „предвидување“ во анализата и каков ризик претставува вештачката интелигенција во овој поглед?

• А) Разликата е непотребна; сите се подеднакво сигурни и можат да се мешаат
• Б) Само предвидувањето е важно; случај и евалуација може да се прескокнат
• В) Бидејќи вештачката интелигенција ја прави оваа разлика совршено, нема потреба од човечка контрола.
• Г) Носителот на одлуката мора да биде способен да разликува докази од толкување; Вештачката интелигенција ги збунува трите, дискриминацијата и етикетирањето им припаѓаат на луѓето ✔

Објаснување: Носителот на одлуката мора да види што е доказ (факт), што е толкување на аналитичарот (евалуација), што е идно предвидување (предвидување); инаку може да погреши претпоставка за доказ. Вештачката интелигенција течно ги меша трите заедно, така што останува на човекот да направи разлика и јасно да ја означи.

4. Што треба да се направи кога вештачката интелигенција преведува обврзувачко „ќе“ како „страните се охрабруваат“ во преводот на формалниот текст на договор?

• А) Бидејќи преводот е течен, тој е прифатен таков каков што е.
• Б) Законски обврзувачкиот термин го проверува и коригира стручно лице; Необработениот превод со вештачка интелигенција не се смета за официјален документ ✔
• В) Овој избор е секогаш подобар од дипломатска перспектива бидејќи вештачката интелигенција се преведува по „меко“
• Г) Разликите во термините се неважни во текстовите на договорите, општото значење е доволно

Објаснување: Во дипломатски/правен текст, разликата помеѓу „ќе“ и „треба“ е разликата помеѓу обврска и желба; погрешен превод може да уништи commit. Ваквите термини мора да ги коригира експерт за луѓе во официјалниот превод, со двојна проверка; Преводот со вештачка интелигенција не може да биде официјален документ во сурова форма.

5. Дали појавата на тврдење на 200 различни локации во студијата OSINT (интелигенција со отворен код) го прави тоа потврдено?

• А) Не; Копиите може да се добијат од еден извор, за потврдата се потребни независни извори и следење на потеклото ✔
• Б) Да; Колку повеќе информации се појавуваат една информација, толку е попрецизна.
• В) Да; 200 локации е статистички доволен доказ
• Г) Не, но еден сигурен извор е секогаш попрецизен од два независни извори

Опис: Не. Повеќето дезинформации потекнуваат од еден сомнителен извор и се копираат на стотици места, создавајќи илузија на „повеќе извори“. Побарувањето се смета за потврдено само кога е потврдено од најмалку два независни, сигурни извори; Трагата на потеклото покажува дали копиите се хранат од ист единствен извор.

6. Кога потврдувате тврдење со вештачка интелигенција, што треба да направите ако укажува на извор кој вели „според извештајот на оваа организација за 2023 година...“?

• А) Бидејќи вештачката интелигенција го наведува изворот, тврдењето автоматски се смета за потврдено.
• Б) Нема потреба да се отвора и проверува се додека името на ресурсот изгледа разумно
• В) Не сметајќи го изворот за проверен без независно да го отворите и да потврдите дека тој навистина постои и ги содржи информациите ✔
• Г) Ако датумот даден од вештачката интелигенција е актуелен, изворот е дефинитивно реален.

Опис: Вештачката интелигенција може да произведе халуцинации и да претстави непостоечки извештај и фигура како реална; Освен тоа, измислен извор може да изгледа поубедлив од вистински извор. Не треба да го сметаме секој извор за „проверен“ без самостојно да го отвориме и да видиме дека тој навистина постои и ги содржи тие информации.

7. Каква треба да биде улогата на вештачката интелигенција во подготовката за преговори, која одлука треба да остане строго човечка?

• А) Вештачката интелигенција генерира сценарија и го одредува конечниот компромисен план и црвените линии
• Б) Вештачката интелигенција произведува сценарија и проби; Црвената линија и компромисните одлуки се одговорност на луѓето и носителите на одлуки ✔
• В) Вештачката интелигенција воопшто не може да се користи во преговорите; Целата подготовка мора да се направи рачно
• Г) Вештачката интелигенција може да води и директни преговори со другата страна на масата.

Опис: Вештачката интелигенција ја анализира другата страна, мапира области на интерес и размена, генерира сценарија и вежба како предизвикувачки симулатор на другата страна. Меѓутоа, каде ќе се повлечат црвените линии и какви отстапки ќе се направат се одлуките на народот и одлучувачите кои имаат политичка одговорност затоа што обврзуваат држава; Не се пренесува на вештачка интелигенција.

8. Зошто е грешка ако вештачката интелигенција користи прво лице еднина („бараме...“) при изготвување на „вербална белешка“?

• А) Усната нота се пишува во трето лице еднина; Калапот и формата треба да се земат од одобрениот шаблон и не треба да се оставаат на вештачката интелигенција ✔
• Б) Личната употреба е ирелевантна; Форматот на дипломатските документи е бесплатен
• В) Прво лице еднина е претпочитаната точна форма во говорната нотација.
• Г) Бидејќи вештачката интелигенција целосно ги знае официјалните модели на секоја земја, нема потреба од контрола.

Објаснување: Усна белешка е вид на службен документ напишан во трето лице еднина и непотпишан („Амбасадата на ... изразува почит до Министерството за ...“). Користењето на погрешно лице е процедурална/форматска грешка. Вештачката интелигенција знае општи обрасци, но можеби не ја знае точната формална форма на вашата организација; Калапот и формата се земени од одобрениот шаблон.

9. Како треба да се користат информациите обезбедени од вештачката интелигенција како „луѓето од оваа земја секогаш го прават тоа кога се договараат“ во интеркултурната подготовка?

• А) Како можност и точка на внимание, а не дефинитивно правило; Треба да се користи земајќи ги предвид индивидуалните разлики и потврдувајќи го ✔
• Б) Треба да се земе како дефинитивно правило на однесување и соодветно да се изгради целата стратегија.
• В) Треба да се користи како алатка за предност за манипулирање со другата страна
• Г) Бидејќи вештачката интелигенција вели дека треба да се примени токму на секој поединец

Објаснување: Ваквите генерализации се стереотипи; Го става секој поединец во истиот калап и вистинската личност често не одговара на стереотипот. Културното знаење треба да се користи како можност и точка на претпазливост, а не како дефинитивно правило, а индивидуалните, регионалните и генерациските разлики треба да се запомнат и, доколку е можно, да се потврдат со локален експерт.

10. Кој е правилниот пристап за сумирање на белешките од доверлив разговор со соговорник?

• А) За брзина, залепете го во најблиската јавна алатка за вештачка интелигенција и нека се сумира
• Б) Избришете ги имињата, направете ги „анонимни“ и дајте ги на која било надворешна алатка
• В) Обработувајте само во одобрен систем кој е внатрешен, безбеден и не открива податоци ✔
• Г) Бидејќи белешката за интервју е кратка, обработете ја без да внимавате на доверливоста.

Појаснување: доверлив (класифициран) документ никогаш нема да биде внесен во јавна алатка за вештачка интелигенција што агенцијата не ја одобрила за таа класа; бидејќи текстот може да се обработи, да се складира на надворешни сервери или да се користи во обука на модели и ексфилтрацијата е неповратна. Овој тип на работа се врши само во внатрешни, безбедни, одобрени системи кои не протекуваат податоци.

11. Зошто може да се смета за „анонимен“ документ со избришани имиња и да се стави на располагање на јавноста, не е доволна заштита?

• А) Бришењето име е секогаш целосна анонимизација и го прави секој документ безбеден
• Б) Контекстот (датум, место, настан) може да ги врати идентитетите и позицијата; Заштитата се обезбедува со избор на алатка и околина ✔
• В) Ризикот од агрегација никогаш не се јавува во анонимни документи.
• Г) Сè додека документот е краток, невозможно е да се заклучи идентитетот од контекстот

Објаснување: Дури и ако имињата се избришат, контекстот (датум, место, настан, број на забави, тема) може да биде доволен за експертот да ги редактира идентитетите и позицијата. Вистинските чувствителни информации не се заштитени со маскирање, туку со соодветен избор на алатки и медиуми; Несигурните информации треба да се третираат како повисока класа.

12. Кој е најефективниот начин да се спречи протекување на една грешка на вештачката интелигенција во конечната одлука во дипломатскиот работен тек од крај до крај?

• А) Делегирање на целиот процес на една алатка за вештачка интелигенција и само поглед на крајот
• Б) Отстранување на средно валидации за брзина и проверка само на излезната фаза
• В) Овозможување на секој експерт слободно да ја користи својата алатка без да води евиденција
• Г) Поставување на човечка порта за верификација и состојба на пропусница во секоја фаза (слоевна верификација) ✔

Опис: Во секоја фаза се поставени портата за верификација на човекот и јасна состојба на транзиција (собирање, обработка/преведување, валидација, синтеза, излез, одлука); Не можете да поминете низ една врата без да поминете низ друга. Оваа слоевита структура гарантира дека халуцинацијата, погрешниот превод или пристрасноста во една фаза се фатени на следната врата и не протекуваат во одлуката.

13. Кои се клучните компоненти на рамката за управување за одговорна употреба на ВИ на корпоративно ниво?

• А) Листа на одобрени алатки, политика на податоци, улога/овластување, регистрација/ревизија, обука и тековен преглед ✔
• Б) Единственото правило е да се каже „сите треба да ја користат најновата и најпопуларната алатка“
• В) Фиксен документ за политика што е напишан еднаш и никогаш не се ажурира.
• Г) Оставање на сите одлуки на милост и немилост на поединечни експерти без водење каква било евиденција

Објаснување: Индивидуалната дисциплина е неопходна, но не и доволна. Корпоративно управување; Се состои од одобрен список на возила, политика за класификација на податоци, дефиниција на улога/овласт, регистрација и ревизорска патека, обука/свесност и компоненти за континуиран преглед. „Секој треба да користи што сака алатка“ е безбедносна ранливост и ќе стане застарена ако рамката не се ажурира редовно.

14. Како е најефективно да се користи вештачка интелигенција во анализа против пристрасност за потврда?

• А) Свесно барајќи од вештачката интелигенција спротивната хипотеза и тестирање на сопствената евалуација ✔
• Б) Поставување само прашања кои го поддржуваат сопственото мислење и сметање на потврдата како доказ
• В) Прифаќање на првиот одговор даден од вештачката интелигенција како неутрален и не барајќи друг агол.
• Г) Под претпоставка дека нема потреба од дополнителна контрола бидејќи пристрасноста не постои во вештачката интелигенција

Објаснување: Ако поставите прашање што го поддржува само вашиот сопствен став, вештачката интелигенција ќе наслика потврдна слика (со тенденција за ласкање). Свесното поставување на контрахипотезата – „како би изгледало сценариото во кое оваа проценка е погрешна?“ – открива занемарени фактори и проверува за пристрасност. Сумирањето на истиот настан од различни перспективи, исто така, обезбедува рамнотежа.