Единици
1. Вовед во вештачката интелигенција во хемиското инженерство: улоги, граници, валидација, безбедносно-критична одговорност и етика 2. Дизајн на процеси и дијаграм на текови: Поддршка на вештачка интелигенција во концептуален дизајн 3. Толкување на симулација на процесот: Излез од Aspen и DWSIM 4. Реакција и кинетичко моделирање: Патеки на реакција и предвидување стапка 5. Предвидување на материјалот и имотот: Термофизички својства и избор на материјал 6. Оптимизација на процесот: биланс на енергија, ефикасност и цена 7. Податоци за контрола на квалитетот и процесот: SPC, аномалија и податоци од сензорот 8. Документација за безбедност и HAZOP: Нацрт анализа на опасност и проценка на ризик 9. Стандарди и регулаторни истражувања: верификација и усогласеност 10. Хемиско инженерство со Python: анализа на податоци и автоматизација на моделирање 11. Работен тек од крај до крај, управување, автентикација и одговорна употреба
Единица 11 / 11

Работен тек од крај до крај, управување, автентикација и одговорна употреба

Добивки:

  • Способност за доследно вградување на вештачката интелигенција во секоја фаза од дизајн до работа, со порти за проверка на луѓе и услови за транзиција со една реченица
  • Способност да се воспостави рамка за управување со одобрен список на возила, класификација на податоци, следливост, обука и тековна верификација
  • Способност да се вградат принципите на човечка одговорност, безбедносен приоритет, верификација, доверливост, транспарентност и еколошко-општествена одговорност во работниот тек

Во претходните десет единици, видовме како безбедно да се користи вештачката интелигенција во одделни области на хемиското инженерство - дизајн, симулација, кинетика, предвидување имот, оптимизација, контролни податоци, HAZOP, пребарување на стандарди и Python. Во оваа последна единица, ги спојуваме деловите: Ќе научиме како да вградуваме вештачка интелигенција од почеток до крај на проект или објект со доследна дисциплина, порти за верификација на луѓе и структура на управување - рамката што ги одредува правилата според кои алатките, податоците и одлуките ќе се користат во организацијата. Целта е да се изгради слоевит систем кој спречува една грешка со вештачка интелигенција да се навлезе во дизајн, деловна одлука или безбедносен документ.

Основната идеја е едноставна: во секоја фаза се поставени портата за верификација на човекот и јасна состојба на транзиција; Не можете да поминете низ една врата без да поминете низ друга. Ова е структура која спасува животи во хемискиот инженеринг, како и во форензичката или медицинската област - затоа што и овде грешките имаат последици не на хартија, туку во реалноста, врз луѓето и околината.

Работен тек од крај до крај: со порти за верификација

Ајде да разгледаме проект за хемиски инженеринг во пет фази и да ја поставиме улогата на вештачката интелигенција и портата за верификација во секоја од нив:

1. Дизајн и концепт. AI генерира опции за маршрута и нацрт PFD. Врата: дали материјалната рамнотежа се одржува рачно, дали трасата е избрана со инженерска проценка?

2. Анализа и симулација. Го сумира излезот од симулација на вештачка интелигенција, дава скица за кинетика/својство. Порта: дали е соодветен термодинамичкиот модел, дали се одржува рамнотежата маса/енергија, дали критичните вредности зависат од експерименталниот/изворот на базата на податоци?

3. Оптимизација и димензионирање. Вештачката интелигенција произведува нацрт на кодот за оптимизација и пресметка. Врата: дали ограничувањата се завршени, дали кодот е тестиран, дали е во оптималниот безбедносен прозорец?

4. Безбедност и усогласеност. Обезбедува скелет AI HAZOP и стандардна мапа. Врата: Дали е извршена анализа на опасност од стручен тим, дали стандардните ставки се потврдени од примарниот извор, дали е добиено овластено одобрение?

5. Работење и следење. ВИ ги следи податоците од сензорите и ги означува аномалиите. Врата: вистински сигнал или сензор, безбедносна заштита во независен SIS?

Овие порти спречуваат еден непроверен излез да биде пренесен во следната фаза. Дури и да избега бубачка, има големи шанси да биде фатена на соседната врата.

Совет: Напишете „преодна состојба“ во една реченица за секоја фаза и направете ја видлива за тимот: „Симулацијата не може да се започне додека рачно не се потврди билансот на материјалот“. Ваквите јасни правила гарантираат дека дисциплината се одржува дури и под временски притисок.

Рамка на управување: институционална дисциплина

Индивидуалната верификација е добра, но потребна е рамка за управување на ниво на објект. Пет клучни компоненти:

1. Одобрена листа на возила и модели. Тој дефинира кои алатки за вештачка интелигенција може да се користат за кои задачи. Неодобрените алатки не се користат за безбедносни критични сметки.

2. Класификација на податоците. Во кое возило може да внесуваат регистрирани рецепти, услови за работа и лични податоци? Доверливи/комерцијални податоци не се даваат на алатки кои протекуваат податоци надвор од организацијата.

3. Снимање и следливост (ревизорска патека). Кој излез дојде од која алатка, кој ја потврди, со кој извор беше поврзана? Треба да може да се следи доколку се појави проблем.

4. Обука и компетентност. Корисниците мора да ги знаат границите на вештачката интелигенција, ризикот од халуцинации и дисциплината на верификација. Алатката е моќна, но опасна во погрешни раце.

5. Континуирана верификација. Моделите и возилата се разликуваат; Веродостојноста на резултатите периодично повторно се тестира.

Внимание: во институција, пристапот „секој треба да ги даде податоците што ги сака на алатката за вештачка интелигенција што ја сака“ е ризик и од истекување на сопствени информации и од безбедносен неуспех. Управувањето е невидливата, но критична инфраструктура која ги ограничува овие ризици.

Принципи за одговорна употреба

Ајде да го поврземе модулот со шест принципи:

  1. Човечка одговорност. Конечната одлука и потписот ги има надлежното стручно лице; Излезот на вештачката интелигенција не е замена за неговото одобрување.
  2. Безбедносен приоритет. Безбедносно-критичните одлуки (безбедност, опасност, материјал, големина) бараат верификација и овластено одобрение.
  3. Дисциплината на верификација. Секој излез е поврзан со физика/извор, тестиран со независен метод и поминува низ филтерот за толкување.
  4. Безбедност. Сопствениците и личните податоци се обработуваат само на одобрен, безбеден начин.
  5. Транспарентност. Употребата на ВИ е искрено наведена во извештаите и документацијата.
  6. Еколошка и социјална одговорност. Одлуките ја земаат предвид не само економијата, туку и здравјето на луѓето и животната средина.

три мини футроли

Случај 1 - Вратата ја фати бубачката. Во еден проект, нерамнотежата на масата од 4% во нацртот PFD на вештачката интелигенција беше забележана во портата за рамнотежа пред да се префрли во фазата на симулација. Грешката беше поправена на изворот; Ако нема врата, оваа грешка би се проширила на симулација, а потоа на димензионирање. Слоевитата структура функционираше.

Случај 2 - Управувањето спречи истекување на податоци. Еден инженер требаше да залепи комерцијален рецепт за катализатор во отворено возило со вештачка интелигенција. Правилото за класификација на податоците на агенцијата вели дека овие податоци може да се обработуваат само во домашна одобрена алатка. Правилото спречи комерцијално критично истекување.

Случај 3 - Следливоста донесе доверба. Во една ревизија бевме прашани како е донесена одлука за дизајн. Благодарение на дисциплината за снимање на институцијата, беше можно да се документира дека вештачката интелигенција произведувала само нацрт, дека секоја критична вредност му се припишува на експерименталниот извор и дека одлуката била одобрена од овластениот инженер. Транспарентноста обезбеди и доверба и правна заштита.

Четири шаблони за копирање

1) План за портата на работниот тек:

Вашата улога: консултант за обезбедување проект. Мојот проект: [опис]. Подгответе ми план за VERIFICATION GATE за фазите (дизајн, анализа, големина, безбедност, работа): што прави вештачката интелигенција во секоја фаза, кој услов за премин од една реченица НЕ МОЖЕ да се пренесе во следната фаза без да се исполни, кој потврдува. Посебен акцент на безбедносни критични врати.

2) Саморегулација на управување:

Се издава контролна листа за саморевизија за употреба на вештачка интелигенција во нашата организација: (1) дали постои листа на одобрени алатки, (2) дали е дефинирана класификација на податоците, (3) се води евиденција/следливост, (4) дали има обука на корисниците, (5) дали има континуирана верификација? Побарајте евалуација „да/делумно/не“ и предлози за подобрување за секоја ставка. Контекст: [дефиниција]

3) Транспарентност / декларација за употреба:

Нацртај параграф за транспарентност кој искрено ја опишува употребата на вештачка интелигенција за инженерски извештај: во кои фази се користела вештачката интелигенција за изготвување/анализа, како се валидирани резултатите, со конечна одговорност на одговорниот инженер. Претерување; само одразете го она што навистина е направено. Правење: [опис]

4) Последна проверка пред одлуката:

Ќе ја донесам оваа одлука: [одлука]. Извршете ми ја конечната листа за проверка пред да ја дадете: (1) дали е ова безбедносно критично, (2) дали некои вредности на кои се потпирам се извори/експериментирани, (3) дали има независна проверка, (4) дали е потребно одобрение од органот, (5) дали е запазена доверливост/усогласеност? Обележете го чекорот што гледате дека недостасува. Одлуката е моја; Ја следите листата за проверка.

Слаб промпт / Силен промпт

Слаба навестување:

Како треба да користам вештачка интелигенција во мојот проект?

Нема контекст, нема структура за валидација. ВИ дава општ одговор, заобиколувајќи ги безбедносните критични порти.

Моќен потсетник:

Вашата улога: консултант за обезбедување проект. Сакам да користам вештачка интелигенција од дизајн до работа во проект за хемиско производство од 50.000 тони/годишно. За секоја фаза добивам рамка за улогата на вештачката интелигенција, структурата за верификација која не може да се помине без да се помине, кој ќе ја одобри и кои податоци на која алатка може да се дадат. Исто така, означете ги безбедносните критични чекори и означете каде е задолжително човечкото одобрување.

Разликата е јасна: контекстот на проектот, портите, правилата за одобрување и податоци ја систематизираат употребата на вештачката интелигенција.

Распределба на улоги во структура од крај до крај

Фаза

Улогата на вештачката интелигенција

порта за верификација

Дизајн

Пат, нацрт PFD

Биланс + потврда на маршрутата

Анализа

Резиме на симулација, предвидување

Модел + потврда за извор

Димензионирање

оптимизација, код

Ограничување + тест + безбедност

Безбедност/усогласеност

HAZOP скелет, карта

Експертски тим + примарен извор

Бизнис

Следење на аномалија

Реален/сензор + независен SIS

Вообичаени грешки

  • Скокање врати под временски притисок. Прескокнувањето на портата ќе овозможи грешката да протече во следните фази.
  • Занемарување на управувањето. Нередовната употреба на алатките и податоците предизвикува истекување и безбедносни ризици.
  • Сокривање на употреба. Ако употребата на вештачка интелигенција не е документирана транспарентно, довербата и правната заштита се поткопуваат.
  • Безбедносно критично одобрение за да се види формално. Овластеното одобрување не е формалност за потпишување, туку вистинска одговорност за верификација.
  • Заборавајќи ги еколошките и социјалните аспекти. Одлуките се мерат не само од економски, туку и од здравствени и еколошки перспективи.

Сумирано

Во структурата од крај до крај, вештачката интелигенција е вградена со порти за проверка на луѓето во секоја фаза од хемискиот инженеринг; Не можете да поминете низ една врата без да поминете низ друга. Рамката за управување (сертифицирани алатки, класификација на податоци, следливост, обука, континуирана верификација) ја носи оваа дисциплина до скалата на претпријатието. Основата на одговорното користење се шест принципи: човечка одговорност, безбедносен приоритет, дисциплина за верификација, доверливост, транспарентност и одговорност на животната средина и општеството. ВИ е моќен асистент; Но, сопственикот на дизајнот, безбедноста и последниот збор е секогаш компетентниот експерт.

Задача за апликација

Создадете план за верификација на портата во пет чекори за вашиот сопствен (или имагинарен) проект со шаблонот „план за портата на работниот тек“; Напишете услов за транзиција со една реченица за секоја фаза. Потоа, со шаблонот „само-ревизија на управување“, проценете како оди употребата на вештачка интелигенција во овој проект во однос на одобрените алатки, класификација на податоци, следливост и обука и идентификувајте најмалку две подобрувања.

листа за проверка

  • [ ] Ставив портата за човечка проверка и услов за поминување на една реченица во секоја фаза.
  • [ ] Го дефинирав одобрениот список на алатки и класификација на податоци.
  • [ ] Водев евиденција/следливост (каков излез, кој потврди, кој извор).
  • [ ] Јас ја наведов употребата на вештачка интелигенција транспарентно во извештајот.
  • [ ] Ги припишувам безбедносните критични одлуки на овластеното стручно одобрение и одговорноста за животната средина и општеството.

Модул испит

1. Кое од наведеното е најточно позиционирање на вештачката интелигенција во хемискиот инженеринг?

  • А) Вештачката интелигенција може да ги запише безбедносните пресметки директно во дизајнот без човечко одобрение
  • Б) ВИ е забрзувач на сметки и генератор на нацрти; Одговорноста за утврдување на безбедноста на дизајнот и конечната одлука е на човечкото суштество ✔
  • В) Бидејќи вештачката интелигенција е секогаш посигурна од луѓето, безбедносните одлуки треба да се препуштат на неа.
  • Г) Вештачката интелигенција е корисна само за сумирање текст, нема врска со инженерски пресметки

Опис: Вештачка интелигенција; Тоа е асистент кој тријазира обемни податоци, означува обрасци и произведува пресметки/ нацрти на кодови. Одговорноста и одобрувањето на критичните прашања како што се безбедноста на дизајнот, толкувањето на симулацијата и конечната одлука му припаѓаат на надлежниот експерт; Непотврден излез може да доведе до истекување на реакторот или експлозија. Затоа, излезот од вештачка интелигенција не го заменува компетентното експертско одобрение.

2. Која е дисциплината за проверка во три чекори за резултат од инженерска пресметка дадена од вештачката интелигенција?

  • А) Гледајќи дали излезот е течен и сигурен
  • Б) Поставете ѝ го истото прашање на вештачката интелигенција три пати и земете го просекот
  • В) Поврзете го со физика/извор, тестирајте го независно, поминете го преку филтер за граница на коментари ✔
  • Г) Директно прифаќање на резултатот и негово проверување само во фазата на извештајот

Објаснување: Секој излез прво се поврзува со физиката/изворот (која равенка, кој извор, која претпоставка), потоа се тестира со независен метод (рачна пресметка, симулација, референтни податоци, проверка на нарачката) и на крајот се поминува низ филтерот за коментар-граница (дали масата/енергијата е зачувана, вредноста е реална). Овие три чекори фаќаат најмногу халуцинации.

3. Што треба да се направи ако вкупната маса што влегува и излегува не се совпаѓа со нацртот на материјалната рамнотежа утврдена со вештачката интелигенција во дизајнот на процесот?

  • А) Малата разлика е неважна, игнорирајте ја и продолжете со дизајнот
  • Б) Разликата е пронајдена и поправена; често има заборавен тек или двојно броен loopback ✔
  • В) Балансот се смета за точен бидејќи вештачката интелигенција така го пресметува.
  • Г) Вредноста на појдовниот поток рачно се зголемува за да се надополни разликата

Објаснување: Во хемискиот инженеринг масата е или зачувана или не; „Тоа чини приближно“ е неприфатливо. Ако равенката влез = излез не е задоволена, често има заборавен страничен проток, двојно броено рециклирање или грешка. Дизајнот не може да се напредува додека тоа не се најде и коригира; инаку грешката ќе се прошири на сите последователни димензии.

4. Симулација на процес „се спои и даде уредна слика“. Кој е најкритичниот ризик за точноста на овој резултат?

  • А) Табелата не е претставена во боја и читлива форма
  • Б) Симулацијата пребрзо конвергира
  • В) Термодинамички модел кој не е соодветен за карактеристиките на системот дава убедливи, но неточни резултати ✔
  • Г) Премногу децимални места во табелата за проток

Објаснување: Повеќето од симулациските грешки не се нумерички, туку поради изборот на термодинамички модел (својство пакет). Примената на идеален модел на поларна мешавина може да го направи азеотропот невидлив, а резултатот ќе биде мазен, но целосно погрешен. Навидум конвергентна и убава слика не се покажува како вистинита; Потребно е вклопување на моделот и експериментална споредба.

5. Како треба да се постапи кога вештачката интелигенција дава вредност константна брзина на реакција (k) за дизајн на реактор?

  • А) Вредноста треба да се определи експериментално; Предвидувањето на вештачката интелигенција не се користи како податоци за дизајнот ✔
  • Б) Вредноста се става директно во дизајнот бидејќи вештачката интелигенција обезбедува самоуверено
  • В) Се претпоставува дека вредноста е иста во секоја реакција без оглед на условите
  • Г) Вредноста е доволна штом ќе се појави сличен број на Интернет

Опис: Константите на брзината, енергијата на активирање и механизмот се одредуваат само со експеримент; Истата реакција се однесува многу различно со различни катализатори, нечистотии или фази. Вредноста k вратена од вештачката интелигенција може да биде првична претпоставка, но тоа не се податоци за дизајнот. Секој кинетички параметар што влегува во основата на дизајнот мора да се заснова на емпириски извор.

6. Како треба да се одреди топлината на егзотермната реакција (реакциона енталпија) за безбедно дизајнирање на ладење?

  • А) Почетната вредност дадена од вештачката интелигенција директно се внесува во дизајнот за ладење
  • Б) Вредноста се мери со калориметрија и се оценува од овластен инженер, не се заснова на предвидување на вештачка интелигенција ✔
  • В) Ако реакцијата е егзотермна, топлинското оптоварување може да се занемари
  • Г) Вредноста на слично соединение се користи без оглед на состојбата

Опис: Реакциската топлина и термичкиот потенцијал е критично прашање за безбедноста. Вредноста вратена од вештачката интелигенција може да припаѓа на различен растворувач/состојба и може значително погрешно да го претстави вистинското топлинско оптоварување. Овие вредности се мерат со калориметрија (на пр. реакциска калориметрија) и се оценуваат од надлежниот инженер; Никогаш не се заснова само на предвидување на вештачката интелигенција.

7. Вештачката интелигенција даде парен притисок на растворувач со сигурен број. Што треба да се направи пред да се користи оваа вредност?

  • А) Бидејќи вредноста е дадена течно, таа се става директно во дизајнот на колоната
  • Б) Само единицата се контролира, нема потреба да се гледа изворот
  • В) Вредноста се потврдува со сигурна база на податоци (DIPPR/NIST) или експеримент, со условот ✔
  • Г) Ако вредноста се спореди со онаа на друг растворувач и е слична, таа се прифаќа.

Објаснување: Проценката на карактеристиките е нумеричка основа на дизајнот и грешката овде се пропагира во текот на пресметката. Вредноста на AI може да припаѓа на друга соединение, да е во погрешна состојба или да биде халуцинација. Затоа, секоја критична карактеристика е потврдена со сигурна база на податоци (DIPPR/NIST) или експеримент; мора да се побара и заедно со состојбата на вредноста (температура, притисок, фаза).

8. Што ќе се случи ако на вештачката интелигенција и се каже да ја „минимизира енергијата“ при оптимизација на процесот, но не се даде ограничување за чистотата на производот?

  • А) Резултатот е секогаш безбеден и со висок квалитет, ограничувањата се непотребни
  • Б) Може да се појави погрешен оптимум кој изгледа добро на хартија, но ја жртвува чистотата или сигурноста ✔
  • В) Вештачката интелигенција спонтано и правилно ги комплетира ограничувањата што недостасуваат
  • Г) Оптимизацијата не функционира и не дава резултати

Објаснување: Неограничената оптимизација е погрешна: вештачката интелигенција или алгоритмот може да предложи „оптимум“ кој на хартија ја намалува енергијата, но во реалноста ја намалува чистотата на производот под спецификацијата или ја надминува безбедносната маржа. Затоа, сите ограничувања за квалитетот и безбедноста, како и променливите на целта и одлуката, мора да бидат целосно дефинирани; Математичкиот оптимум мора да се тестира и за безбедност и изводливост.

9. Што е првото нешто што треба да се направи кога вештачката интелигенција означува ненадеен скок во податоците од сензорот како „можно истекување“?

  • А) Веднаш стопирање на процесот, бидејќи вештачката интелигенција рече дека протекува
  • Б) Игнорирање на сигналот бидејќи сензорите се секогаш погрешни
  • В) Проверка со филтер за доверливост дали сигналот е реален процесен настан или проблем со сензор/мерење ✔
  • Г) Автоматско бришење на скокот од множеството податоци

Објаснување: Сензорите може да лажат: калибрацијата се лизга, врската се олабавува, линијата собира бучава. Сигналот за аномалија мора прво да се филтрира за доверливост на податоците: дали е конзистентен со соседните/придружните сензори, дали е физички возможен, дали се совпаѓа со записот за одржување/калибрација? Само откако тие ќе бидат донесени, се истражува како вистински процесен настан; Во спротивно, може да дојде до интервенција врз основа на лажна тревога.

10. Која е соодветната и безбедна улога на ВИ во студијата HAZOP?

  • А) Изработка на целосен HAZOP со познавање на процесот и правење на состанокот непотребен
  • Б) Прецизно класифицирање на нивоата на ризик и донесување превентивни одлуки
  • В) Обезбедување работна рамка, водич за збор прашања и подготвување записници; Оставете ја вистинската проценка на опасноста на експертскиот тим ✔
  • Г) Одење на местото на состанокот и потпишување на конечниот извештај за ризик сам

Опис: HAZOP е безбедносно-критична специјалистичка активност. Вештачка интелигенција; Рамката на матрицата на јазол/параметар/водич ја забрзува документацијата, како што е вообичаеното потсетување на сценаријата и уредувањето минути. Но, кое отстапување е вистинската опасност, сериозноста на последицата и соодветноста на претпазливост му припаѓаат на мултидисциплинарниот стручен тим; Покрај тоа, опасностите специфични за процесот не се наоѓаат во вештачката интелигенција. Нацртот на вештачката интелигенција е влез, а не излез на експертскиот состанок.

11. Кое е најкритичното предупредување за вештачката интелигенција во стандардите и регулаторните истражувања?

  • А) Вештачката интелигенција никогаш не е погрешна во своето стандардно знаење, може директно да се користи
  • Б) Секој број на супстанција, гранична вредност и датум мора да бидат потврдени од примарен и тековен извор; ВИ дава само насока ✔
  • В) Проверката за ажурирање е непотребна бидејќи стандардите никогаш не се менуваат.
  • Г) Самото креирање на список за проверка ја докажува усогласеноста

Објаснување: Истражувањето на стандардите е една од областите каде халуцинацијата со вештачка интелигенција може да биде најпогубна: непостоечки број на ставка, неточна точка на прекин или застарено барање може да се прикаже на многу убедлив начин. Усогласеноста значи и безбедност и закон. Затоа, секоја супстанција, гранична вредност и датум не може да се користат без потврда од примарниот и тековниот извор; ВИ дава само насока.

12. Инженерскиот код за пресметка на Python напишан од вештачка интелигенција работеше без грешки и произведе број. Што би било потребно за да се верува на овој заклучок?

  • А) Работењето на кодот без грешки докажува дека резултатот е точен.
  • Б) Кодот треба да се тестира со познат резултат, да се тестираат деловите и рабовите, а безбедносната пресметка исто така треба да биде потврдена од органот ✔
  • В) Ако кодот е долг и изгледа сложен, може да се смета за точен
  • Г) Бидејќи е напишано од вештачка интелигенција, нема потреба од дополнителна проверка

Објаснување: „Работи“ и „точно“ се различни работи: кодот може да работи без грешки и да произведе погрешен број (конфузија на единицата, грешка во знакот, поместување на индексот). Затоа, секој код треба да се тестира на тест случај (аналитички примерок, рачна пресметка, референтни податоци) чиј одговор е познат независно; мора да се проверат единиците и рабовите; Безбедносно-критичните пресметки мора да бидат потврдени и од овластениот инженер.

13. Кој е најефективниот начин да се заштити хемискиот инженерски процес овозможен од крај до крај со вештачка интелигенција од една грешка што протекува во дизајнот или безбедносниот документ?

  • А) Делегирање на целиот процес на една алатка за вештачка интелигенција и поглед на крајот
  • Б) Отстранување на средни проверки за брзина и проверка само во последната фаза
  • В) Ставање портата за човечка проверка и услов за поминување на една реченица во секоја фаза (слоевна верификација) ✔
  • Г) Секој инженер може слободно да користи сопствено возило без да води евиденција.

Опис: Во секоја фаза (дизајн, анализа, димензионирање, безбедност, работа) се поставени портата за човечка проверка и јасна состојба на транзиција (дали е стабилна, дали е поврзан со изворот, дали е тестиран кодот, дали е добиено одобрение од експерти). Не можете да поминете низ една врата без да поминете низ друга; Оваа повеќеслојна структура спречува протекување на една грешка со ВИ во следните фази.

14. Која од наведените апликации ја прави употребата на вештачка интелигенција во институција безбедна од аспект на управување?

  • А) Секој корисник може слободно да внесува сопственички податоци во која било отворена алатка по свој избор.
  • Б) Рамка за управување која вклучува одобрен список на возила, класификација на податоци, следливост, обука и тековна верификација ✔
  • В) Употребата на вештачка интелигенција воопшто не е евидентирана
  • Г) Користење на единствена, неодобрена алатка за секоја работа, вклучително и безбедносни критични сметки

Објаснување: Пристапот „Секој треба да ги даде податоците што ги сака на возилото што го сака“ претставува ризик и од истекување на сопствени информации и од безбедносни грешки. Солидна рамка за управување; Вклучува список на одобрени возила и модели, класификација на податоци (кое возило може да регистрира регистрирани/лични податоци), регистрација и следливост (ревизорска патека), обука на корисниците и континуирана верификација. Ова е критична инфраструктура која ги ограничува ризиците.