Добивки:
- Способност да се проценат ограничувањата и барањата за верификација на вештачката интелигенција во безбедносни критични инженерски работи
- Способност за управување со приватноста, политиката на податоци и ризиците од интелектуална сопственост при доверлив дизајн/споделување податоци
- Способност практично да се аргументира дека излезот со вештачка интелигенција не може да го замени инженерското одобрување и одговорноста за потпис
Во машинското инженерство, дел од излезот не е естетски избор, туку прашање на човечкиот живот и безбедност на имотот: кочница во лифт, сад под притисок, парче опрема за подигнување, дел за автомобилска суспензија. Во овие безбедносни критични работи, грешките може да резултираат со повреда или смрт. Вештачката интелигенција (ВИ) е акцелератор и во овие области; но нејзините граници се појавуваат најостро тука. Оваа единица е етичкиот и отчетниот столб на модулот и се фокусира на еден единствен принцип: излезот на вештачката интелигенција не е замена за верификација, одобрување и потпис на компетентен инженер во која било безбедносно-критична работа. ВИ може да биде план, влез, второ око; но не може да преземе одговорност, бидејќи правна и етичка одговорност има инженерот кој потпишал. Покрај ова, мора да се управуваат со два други главни ризици: доверливост (дизајн на компанијата, податоци за клиентите, непатентирани идеи) и точност (халуцинација). Во оваа единица, ќе ги научите границите на вештачката интелигенција во работата која е критична за безбедноста, приватноста и ризиците од интелектуална сопственост и зошто одговорноста не може да се делегира.
Безбедност-Критично Овде е местото и границата на вештачката интелигенција
Дали работата е „безбедносно-критична“ или не, се одредува според сериозноста на исходот во случај на грешка. Во оваа скала, улогата на вештачката интелигенција се стеснува: генерирање идеи, изготвување, правење листи за проверка, да; но одобрувањето на завршната сметка, владеењето „безбедно“ или одобрувањето на производството е не-не. Следната разлика го прави ова конкретно:
тип на бизнис
Соодветна улога на ВИ
Неотуѓивата улога на инженерот
Рутински, низок ризик
Нацрт, автоматизација, прва сметка
преглед
среден ризик
Алтернатива, листа за проверка, прелиминарна анализа
Проверка и одлука
Безбедносно-критично
Само нацрт/второ око
Анализа, тестирање, одобрување, потпис, одговорност
Критички принцип: Без разлика колку е убедлив резултатот на вештачката интелигенција, тоа е хипотеза и план. Безбедносно-критична пресметка е независно репродуцирана, проверена според стандардот, тестирана доколку е потребно и потпишана од надлежниот инженер. Потпис значи „го потврдив ова и преземам одговорност за тоа“; јазичниот модел не може да ја даде оваа изјава.
Совет: Поставете си го ова прашање со секој излез на вештачка интелигенција: „Ако ова е погрешно, кој е повреден и кој е одговорен?“ Ако одговорот е „луѓето се повредени, јас сум одговорен“, тој резултат не оди никаде без да се помине највисокиот стандард на верификација.
Халуцинација и стапица на прекумерна самодоверба
Најопасната карактеристика на вештачката интелигенција е тоа што прикажува лажни информации со иста доверба како и точните информации. Може да состави стандардна ставка, да даде неточна материјална вредност, погрешно да примени формула и сето тоа да го напише на течен, професионален јазик. Кога на ова ќе се додаде преголемата пристрасност (пристрасност на автоматизацијата; човечката тенденција да му верува премногу на излезот од автоматскиот систем), опасноста расте: инженерот може да го прифати излезот што изгледа добро на екранот без да го провери. Одбранбеноста е културна навика: гледањето на излезот на вештачката интелигенција како „сомнително додека не се докаже спротивното“ наместо „веројатно вистинито“.
Внимание: „ВИ изгледаше самоуверено“ не е одбрана. „Тоа е она што вештачката интелигенција рече“ не е оправдување во истрага за несреќа, ревизија или тужба; Одговорноста останува кај инженерот кој одобрува. Помислете на вештачката интелигенција како практикант кој никогаш не ја дели одговорноста, но понекогаш греши: вие го земате неговото мислење, никогаш не ја потпишувате неговата работа без да го проверите.
Политика за приватност, интелектуална сопственост и податоци
Вториот најголем ризик е приватноста. Поставување непатентиран дизајн на компанија, податоци на клиент или конкурентно чувствително решение во јавна алатка за вештачка интелигенција чија политика за податоци е непозната; може да резултира со губење на интелектуалната сопственост, повреда на доверливоста и прекршување на договорот. Некои алатки можат да ги користат влезовите за да го обучат моделот; Тајната геометрија што ја поставувате може да биде изложена на некој друг. Вистинскиот пристап: усогласување со политиката за податоци на компанијата, анонимизирање на чувствителни податоци (отстранување на идентификационите информации и ставање во јавен формат) или користење на претпријатие/изолирана алатка каде што податоците не заминуваат.
Чекор по чекор: Користење на безбедна и етичка вештачка интелигенција
- Класифицирајте го ризикот. Дали оваа работа е критична за безбедноста, какви се последиците во случај на грешка?
- Размислете за приватноста. Дали овие податоци можат да излезат; Што вели политиката?
- Анонимизирајте или користете изолирани алатки. Отстранете ги чувствителните информации.
- Користете вештачка интелигенција како нацрт/второ око. Тоа не е одобрување, тоа е влез.
- Независно проверете. Репродукција, стандард, тестирање.
- Надлежниот инженер одобрува и потпишува. Одговорноста не може да се делегира; Се води евиденција за следливост.
Брза проценка на ризик и приватност
Улога: Консултант за инженерска етика и управување со ризик. Задача: Оценете ја следната работа од аспект на безбедносно-критичност и доверливост. Работа: [опис на работното место; можен исход во случај на грешка; тип на податоци што треба да се споделат].Излез:- Класа на ризик (рутинска / средна / безбедносно-критична) и оправдување - ШТО можам да направам вештачка интелигенција во оваа работа, ШТО не можам да направам- Дали постои ризик за приватност; дали податоците се анонимизирани; Дали е потребно изолирано возило? Правило: Нагласете дека конечното одобрување и одговорност останува на надлежниот инженер.
Прашање за анонимизација
Ќе побарам проблем со дизајнот на вештачката интелигенција, но не сакам да споделувам информации за компанијата. АНОНИМИЗИРАЈТЕ го следниов контекст: исфрлете го името на компанијата, името на производот, клиентот и описните метрики; Повторно напишете го проблемот во општи инженерски термини за да не протекуваат чувствителни информации, туку да се зачува техничкото јадро. Контекст: [текст]
Прашање за дисциплина за верификација
Проверете ја оваа безбедносно-критична сметка како независен рецензент, НИКОГАШ не ми се придружувајте. Формула за прашање, единица, претпоставка и стандардна усогласеност. Репродуцирајте го резултатот со независен метод и покажете ја разликата. За секој наод, напишете „како да го докажам/тестирам ова? Правило: НЕ МОЖЕТЕ да потврдите; отстранете ги само точките што треба да се проверат.[сметка]
Прашање за регистрација на одговорност
Напишете нацрт-запис за следливост/одлука за оваа одлука за дизајн. Полиња: одлука, основа (пресметка/стандард/тест), придонес за вештачка интелигенција (нацрт?), независен метод за верификација, инженер за одобрување, датум, поле за потпис. Правило: Јасно означете го придонесот за вештачка интелигенција како „нацрт/помош“; Оставете го полето за потврда празно.
Слаба навестување / Силен навестување
Слаба навестување:
Дали овој дизајн на сопирачките на лифтот е безбеден, потврдете.
ВИ не може и не треба да обезбеди безбедносен сертификат; Ако каже „безбедно“ тоа е погрешно и опасно бидејќи не може да сноси одговорност.
Моќен потсетник:
Прегледајте ја оваа пресметка на сопирачките како независен прегледувач; Учество, слабости и претпоставки кои треба да се проверат. Репродуцирајте го резултатот независно и покажете ја разликата. Знајте дека имам одобрение и одговорност; само ги наведуваш контролните пунктови.
Вториот промпт ја позиционира ВИ како алатка за критичка контрола, а не како орган за одобрување; ја задржува одговорноста на инженерот.
Три мини случаи (по бројки)
Случај 1 - Одговорност на потписникот. Инженерот ќе користи пресметка на куката за подигнување што вештачката интелигенција ја подготвила за 2 часа. Куката ќе крене 2 тони; руптурата би била фатална. Инженерот ја повторува пресметката независно, го коригира безбедносниот фактор да биде ≥ 4 што го бара стандардот наместо 1,8 дадена од AI, и ја зголемува геометријата. Бројот на вештачката интелигенција „изгледаше разумен“, но не го исполни безбедносниот критичниот праг. Потпишува само по верификација. Поука: Одобрувањето и одлуката за безбедносниот фактор не се преносливи.
Случај 2 - Протече дизајн. Практикантот вчитува нов, непатентиран механизам од компанијата во јавно достапна алатка за вештачка интелигенција и вели „оптимизирај“. Политиката за податоци на алатката ги складира влезните податоци и може да се користи за обука. Кога компанијата ќе го сфати ова, правниот тим стапува; Стратегијата за патент страда поради ризикот од интелектуална сопственост. Вистинскиот начин беше да се анонимизира механизмот или да се користи корпоративна изолација. Лекција: тајната политика за дизајн не влегувајте во непознато возило.
Случај 3 - Анонимизацијата зачувува. Инженерот сака да разговара за специфичен проблем со редуктор за клиент со вештачката интелигенција, но клиентот и производот се доверливи. Го анонимизира контекстот: ги отстранува името на компанијата/производот, описните димензии и го препишува проблемот како „општ редуктор за даден однос на пренос и вртежен момент“. Ја користи вештачката интелигенција без протекување чувствителни информации, зачувувајќи ја техничката суштина. Лекција: анонимизацијата е безбеден пат помеѓу приватноста и ефикасноста.
Вообичаени грешки
- Давање овластување за одобрување на вештачката интелигенција: кажување „Дали е безбедно, одобри“ и обид да се делегира одговорност.
- Преголема самодоверба (пристрасност на автоматиката): Прифаќање на убедлив резултат без да го проверите.
- Поставување доверливи податоци на јавна алатка: Споделување податоци за дизајн/клиент без да се знае политиката.
- Заобиколување на анонимизација: поставување на чувствителниот проблем без отстранување на информациите за идентификација.
- Не водење евиденција за следливост: Недокументирање на придонесот и валидацијата на ВИ.
- Потценување на факторот на безбедност: Преминување на безбедносно-критичниот праг со ниска вредност дадена од ВИ.
Сумирано
- Во безбедносно-критична работа, вештачката интелигенција може да биде план и второ око; Одобрението, потписот и одговорноста припаѓаат на надлежниот инженер.
- ВИ го претставува погрешното како убедливо како правилно; Ставот „осомничен додека не се докаже спротивното“ е од суштинско значење против пристрасноста на прекумерната доверба.
- „ВИ изгледаше самоуверено“ не е правна или етичка одбрана; Одговорноста останува кај одобрувачот.
- Доверливиот дизајн, податоците за клиентите и непатентираните идеи не се поставуваат на непознати возила; анонимизирајте или користете изолирани алатки.
- Безбедносно-критичната сметка се репродуцира независно, се проверува според стандардот и одговорноста се презема со потпишување.
Задача за апликација
Изберете работа што може да биде критична за безбедноста (елемент за подигнување, компонента под притисок, сопирачка или потпорна конструкција). Прво класифицирајте ја работата во однос на ризик и приватност: каква е последицата во случај на грешка, кои податоци се чувствителни? Дали вештачката интелигенција ја процени оваа работа и направи листа на „што можам да правам, а што не? Анонимизирајте го контекстот што ќе го споделите (отстранете ги информациите за компанијата/производот/клиентот). Потоа направете ревизија на сметката, користејќи вештачка интелигенција само како критична алатка за проверка, но репродуцирајте го резултатот сами со независен метод и споредете го факторот на безбедност со релевантниот стандард. Конечно, изгответе запис за следливост/одлука; Обележете го придонесот за вештачка интелигенција како „нацрт/помошник“ и оставете го полето за одобрување на квалификуваниот инженер.
листа за проверка
- [ ] Работата беше оценета според класата на ризик (рутинска/средна/безбедносно-критична).
- [ ] Оценета доверливост; Чувствителните податоци се анонимизираат или се користи изолирана алатка.
- [ ] ВИ се користеше како нацрт/второ око, а не како орган за одобрување.
- [ ] Безбедносно-критична пресметка независно репродуцирана и ревидирана според стандардот.
- [ ] Безбедносниот коефициент беше спореден со прагот на релевантниот стандард.
- [ ] Воден евиденција за следливост/одлука; Одобрението, потписот и одговорноста се препуштени на надлежниот инженер.
Модул испит
1. Која од следново е најреална и најбезбедна улога за вештачката интелигенција во работниот процес на CAD и дизајн?
- А) Придружни улоги како што се предлагање алтернативи за дизајн и производство на параметарски скрипти/макроа ✔
- Б) Автоматско одобрување на статичко и јачина
- В) Испраќање на дизајнот директно до производство без инженерско одобрение
- Г) Преземање на овластување за потпис и одобрување од инженерот
Опис: вештачката интелигенција е силна во помошните задачи како што се предлагање алтернативи за дизајн, генерирање параметарски скрипти/макроа, изготвување материјали и метаподатоци (дивергентно размислување). Конечната геометрија, толеранцијата, одобрението за јачина и одлуката за испраќање во производство (конвергентна одлука) остануваат кај инженерот.
2. AI даде вредност на „јачина на попуштање 250 MPa“ за материјал. Што треба да направите пред да ја користите оваа вредност како основа за дизајнот?
- А) Внесување на вредноста директно на сметката бидејќи вештачката интелигенција е ажурирана
- Б) Потврдете ја вредноста од листот со податоци на производителот или стандардот за материјалот ✔
- В) Заокружување на вредноста нагоре и под претпоставка дека е на безбедна страна
- Г) Додадете случаен безбедносен фактор и поминете
Опис: ВИ може приближно, приближно или целосно лажни (халуцинира) својства на материјалот; Неговата вредност варира во зависност од темпераментот/состојбата на термичка обработка на истиот материјал. Вредноста не треба да биде вклучена во дизајнот без верификација од листот со податоци на производителот или релевантниот стандард за материјали.
3. За што главно се користат дијаграмите на Ashby (избор на материјал)?
- А) Да се пресмета точната производна цена на делот
- Б) Да се создаде ценовник за добавувачи
- В) Да се споредат својствата на материјалот (на пр. сила-густина) и да се изберат кандидати ✔
- Г) Да се одредат толеранциите на делови
Опис: Ешби дијаграмите ги споредуваат материјалите со поставување на две својства на материјалот (на пр. сила-густина, модул на еластичност) на оските и го визуелизираат најсоодветниот сет на кандидати врз основа на индекс на изведба. Не е наменет да се определи точната цена, толеранцијата или цената на набавката.
4. Вештачката интелигенција даде пресметка на стресот, но не сте сигурни за конзистентноста на единицата. Што примарно доловува димензионалната (единична) анализа?
- А) Правописни грешки во текстот
- Б) Грешки во боја во графика
- В) Големина на излезната датотека
- Г) Неконзистентност на единицата и грешки при конверзија на двете страни на равенката ✔
Опис: Димензионалната (единична) анализа проверува дали единиците од двете страни на равенката се конзистентни; На пример, за стрес, резултатот треба да биде N/m² = Pa. Ако единиците не се совпаѓаат, има грешка во формулата или конверзијата. Не се работи за тип, боја или големина на датотека.
5. Во термичка пресметка, АИ рече дека грејач од 5 kW загрева 1 литар вода за 20°C за 2 секунди. Кој е најдобриот прв одговор?
- А) Проверка и отфрлање на резултатот со зачувување на енергија и редослед на големина ✔
- Б) Запишување на резултатот со повеќе децимални места и прифаќање
- В) Прашајте ја вештачката интелигенција „сигурен ли сте?“ и биди задоволен со одговорот „да“
- Г) Избришете го прашањето, поставете го од почеток и добијте го првиот одговор
Опис: Брзата проверка е направена со проверка на разумност и заштеда на енергија: потребни се приближно 84 kJ за да се загрее 1 kg вода на 20°C; Со 5 kW ова трае ~17 секунди, а не 2 секунди. Резултатот е нефизички и не може да се прифати без верификација.
6. Која е најкритичната проверка што треба да се направи пред да се верува на резултатот од стресот што го толкува вештачката интелигенција во анализата на FEA?
- А) Обоената мапа на стрес изгледа „убаво“ визуелно
- Б) Верификација со независност на мрежа, гранична состојба и аналитичка споредба ✔
- В) Завршување на решението за кратко време
- Г) ВИ вели „резултатот е безбеден“
Опис: Резултатот од FEA зависи од густината на мрежата, граничните услови и дефиницијата на материјалот. Заклучок; Независноста на мрежата (резултатот не се менува кога решетката е затегната) треба да се потврди со споредување со точноста на граничната состојба и, ако е можно, со аналитички пристап.
7. Во FEA, како што мрежата станува погуста во остар внатрешен агол, вредноста на напрегањето постојано се зголемува. На што најмногу укажува оваа ситуација?
- А) Материјалот е дефинитивно погрешен
- Б) Има грешка при мерењето на сензорот
- В) Вештачка (единечна) концентрација на стрес на остриот агол; радиусот на аголот мора да се моделира ✔
- Г) Решението е секогаш на безбедна страна
Објаснување: Идеалниот остар (нулта радиус) внатрешен агол е единствена точка во теоријата на еластичноста; Како што мрежата станува погуста, напнатоста се стреми кон бесконечност. Ова е вештачки резултат. Во вистинскиот дел, радиусот на аголот мора да се моделира или интерпретира со фактор на засек/локална евалуација.
8. AI откри „можен дефект на внатрешен прстен“ во податоците за вибрациите на лежиштето. Кој е најправилниот пристап?
- А) Целосно отфрлање на машината без барање
- Б) Игнорирајте го коментарот и продолжете да работите
- В) Целосно исклучување на сензорот
- Г) Потврдете ја интерпретацијата со карактеристична фреквенција на дефект, калибрација и теренска проверка ✔
Објаснување: Интерпретацијата на ВИ за аномалија/неуспех е хипотеза. Треба да се проверат карактеристичните фреквенции на дефекти во спектарот на вибрации (на пример, фреквенцијата на транзиција на внатрешен прстен BPFI), калибрацијата на сензорот и можните грешки во податоците; Коментарот не треба да се претвора во одлука за одржување без верификација со теренска проверка и механизам за физички дефект.
9. Кој аспект од излезот бара најголемо внимание при оценувањето на производственоста (DFM) на дел со вештачка интелигенција?
- А) Усогласеност на препораките со реалните ограничувања на машината, алатот и процесот ✔
- Б) Само естетскиот изглед на парчето
- В) Големина на датотеката на CAD моделот
- Г) Опции за боја и обложување
Опис: ВИ; Може да претпостави ограничувања на машината, алатот, калапот и процесот без реални ограничувања на работилницата. На пример, може да сугерира недостижен внатрешен аголен радиус или невозможна толеранција. Препораките на DFM треба да се валидираат според постоечката опрема и реалните ограничувања на процесот.
10. Што треба да се направи пред да се испрати белешка за толеранција на цртање/GD&T генерирана со вештачка интелигенција до производство?
- А) Обработка на белешки директно во цртеж додека генерира вештачката интелигенција
- Б) Проверете ги и одобрите оценки според стандардните и функционалните барања ✔
- В) Случајно стеснување на толеранциите и мислејќи дека е безбедно
- Г) Менување на симболите за да бидат незаборавни
Опис: ВИ; може да произведе неточни или нестандардни вредности на толеранција, симболи GD&T (геометриско димензионирање и толеранција) или ознаки за завршна обработка на површината. Белешките треба да се ревидираат според релевантниот стандард (на пр. ISO/ASME GD&T) и функционалните барања; Конзистентноста на толеранциите во однос на склопувањето и функцијата мора да биде потврдена од инженерот.
11. АИ изјави дека дизајнот „соодветствува на EN 13445 клаузула 7.4.2“. Кое е најправилно однесување?
- А) Напишете директно во извештајот бидејќи вештачката интелигенција дава атрибуција
- Б) Потпирајќи се на коментар на интернет форум
- В) Потврдување на бројот и содржината на супстанцијата од официјалниот/тековниот стандарден текст ✔
- Г) Промена на бројот на ставката за да се памети
Опис: ВИ може да произведе неточни или халуцинирани стандардни броеви на ставки и точки на прекин. Референтната супстанција и вредност не треба да се земаат како основа за дизајнот или извештајот без верификација од официјалниот и тековниот стандарден текст.
12. Што е задолжително пред да се користи скрипта за инженерска пресметка за Python генерирана со вештачка интелигенција?
- А) Директна доверба во кодот затоа што работи без грешки
- Б) Скратете ги имињата на променливите и избришете ги линиите за коментари
- В) Напишете го сценариото подолго и претпоставете дека е безбедно
- Г) Потврдување со тестови со познати резултати, проверка на единицата и рабови ✔
Коментар: кодот за вештачка интелигенција може да содржи неточна конверзија на единици, неточна формула или во случаи на раб неточен резултат и може да се пресмета погрешно дури и ако работи без грешки. Код; Влезовите од тестот со познати резултати треба да се потврдат со проверка на единицата (големина) и кутии на рабовите.
13. Што е точно во однос на одговорноста при извршување на безбедносно-критична пресметка со ВИ во машинството?
- А) Одговорноста останува кај надлежниот инженер кој одобрува; ВИ не е замена за одобрување ✔
- Б) Инженерот е ослободен од одговорност доколку одобри АИ
- В) Излезот на вештачката интелигенција го заменува инженерскиот потпис
- Г) Човечка верификација е непотребна на безбедносно критична сметка
Опис: Надлежниот инженер е одговорен за точноста и одобрувањето/потпишувањето на инженерскиот резултат; ВИ не може да ја преземе оваа одговорност. За безбедносни критични пресметки и дизајни, ВИ е нацрт/влез и не е замена за инженерско одобрување и верификација.
14. Кој е најдобриот начин на дејствување кога се обидувате да го анализирате дизајнот на доверливиот производ на компанијата со јавна алатка за вештачка интелигенција?
- А) Инсталирање стелт дизајн на јавно возило како брзина
- Б) Усогласеност со политиката за податоци, анонимизирање чувствителни податоци или користење корпоративни/изолирани алатки ✔
- В) Споделувањето на податоците за клиентите е секогаш неопходно за брзина
- Г) Прашањето за приватност е ирелевантно за употребата на вештачката интелигенција
Обелоденување: Доверливиот дизајн, податоците за клиентите или непатентираните идеи не треба да се поставуваат како такви на јавни алатки чија политика за податоци е непозната; Ова претставува ризик од повреда на интелектуалната сопственост и приватноста. Мора да се следи политиката за податоци на компанијата, чувствителните податоци мора да се анонимизираат или да се користи корпоративна/изолирана алатка.