Қауіпсіздік - маңызды мәселелер, этика, құпиялылық және жауапкершілік

Табыстар:

• Қауіпсіздік маңызды инженерлік жұмыста AI шектеулері мен тексеру талаптарын бағалау мүмкіндігі
• Құпия дизайн/деректер алмасу кезінде құпиялылықты, деректер саясатын және зияткерлік меншік тәуекелдерін басқару мүмкіндігі
• AI шығысы инженердің мақұлдауын және қолтаңба жауапкершілігін алмастыра алмайтынын іс жүзінде дәлелдей алу мүмкіндігі

Машина жасауда шығарылатын өнімнің бір бөлігі эстетикалық таңдау емес, адамның өмірі мен мүлкінің қауіпсіздігі мәселесі болып табылады: лифт тежегіші, қысымды ыдыс, жүк көтергіш құралдың бір бөлігі, автомобильдің аспа бөлігі. Қауіпсіздікке қатысты маңызды жұмыстарда қателер жарақатқа немесе өлімге әкелуі мүмкін. Жасанды интеллект (AI) осы салаларда да үдеткіш болып табылады; бірақ оның шекаралары осы жерде барынша айқын көрінеді. Бұл блок модульдің этикалық және есеп беру негізі болып табылады және бір принципке негізделеді: AI нәтижесі кез келген қауіпсіздік маңызды жұмыста құзыретті инженердің тексеруін, бекітуін және қол қоюын алмастырмайды. AI сызба, кіріс, екінші көз болуы мүмкін; бірақ ол жауапкершілікті ала алмайды, өйткені заңды және этикалық жауапкершілік қол қойған инженерге тиесілі. Бұдан басқа, басқа екі негізгі тәуекелді басқару қажет: құпиялылық (компания дизайны, тұтынушы деректері, патенттелмеген идеялар) және дәлдік (галлюцинация). Бұл бөлімде сіз қауіпсіздікке қатысты маңызды жұмыстағы AI шектеулерін, құпиялылық және зияткерлік меншік тәуекелдерін және жауапкершілік неге тапсырылмайтынын білесіз.

Қауіпсіздік үшін маңызды Бұл жерде AI орны мен шегі

Жұмыстың «қауіпсіздік тұрғысынан маңызды» болуы немесе болмауы қате болған жағдайда нәтиженің ауырлығымен анықталады. Бұл масштабта AI рөлі тарылады: идеяларды қалыптастыру, жобаны жасау, бақылау парақтарын жасау, иә; бірақ түпкілікті есептік жазбаны мақұлдау, «қауіпсіз» деп анықтау немесе өндіріске рұқсат беру - жоқ-жоқ. Келесі айырмашылық оны нақты етеді:

бизнес түрі

АИ-нің сәйкес рөлі

Инженердің ажырамас рөлі

Тұрақты, төмен тәуекел

Жоба, автоматтандыру, бірінші есеп

шолу

орташа тәуекел

Балама, бақылау парағы, алдын ала талдау

Тексеру және шешім

Қауіпсіздік маңызды

Тек жоба/екінші көз

Талдау, тестілеу, бекіту, қол қою, жауапкершілік

Сыни принцип: AI нәтижесі қаншалықты сенімді болса да, бұл гипотеза және жоба. Қауіпсіздік бойынша маңызды есеп дербес шығарылады, стандартқа сәйкес тексеріледі, қажет болған жағдайда сыналады және құзыретті инженер қол қояды. Қол қою «Мен мұны растадым және ол үшін жауапкершілікті өз мойныма аламын» дегенді білдіреді; тіл үлгісі бұл мәлімдеме жасай алмайды.

Кеңес: Жасанды интеллекттің әрбір шығарылымында өзіңізге осы сұрақты қойыңыз: «Егер бұл дұрыс емес болса, кім зардап шегеді және кім жауапты?» Егер жауап «адамдар зардап шегеді, мен жауаптымын» болса, бұл нәтиже тексерудің ең жоғары стандартынан өтпей ешқайда кетпейді.

Галлюцинация және шектен тыс сенімділік тұзағы

АИ-нің ең қауіпті қасиеті – ол дұрыс ақпарат сияқты сенімділікпен жалған ақпаратты береді. Ол стандартты бұйымды құрастыра алады, дұрыс емес материалдық баға бере алады, формуланы қате қолдана алады, соның бәрін еркін, кәсіби тілде жаза алады. Бұған шектен тыс сенімділік (автоматтандыруға бейімділік; адамның автоматты жүйенің шығысына тым көп сенуге бейімділігі) қосылғанда, қауіп күшейеді: инженер экранда жақсы көрінетін нәтижені тексермей-ақ қабылдауы мүмкін. Қорғаныс - бұл мәдени әдет: AI өнімін «мүмкін дұрыс» емес, «басқасы дәлелденбейінше күмәнді» деп қарау.

Абайлаңыз: «AI сенімді көрінді» қорғаныс емес. «Инсанның айтқаны» жазатайым оқиғаны тергеуде, тексеруде немесе сотта ақтауға болмайды; Жауапкершілік рұқсат беруші инженерде қалады. Жасанды интеллектті жауапкершілікті ешқашан бөліспейтін, бірақ кейде қателесетін интерн сияқты елестетіп көріңіз: сіз оның пікірін қабылдайсыз, оның жұмысына ешқашан оны тексермей қол қоймайсыз.

Құпиялылық, зияткерлік меншік және деректер саясаты

Екінші үлкен қауіп - құпиялылық. Компанияның патенттелмеген дизайнын, тұтынушы деректерін немесе бәсекеге қабілетті сезімтал шешімді деректер саясаты белгісіз AI құралына жүктеп салу; зияткерлік меншікті жоғалтуға, құпиялылықты бұзуға және келісімшартты бұзуға әкелуі мүмкін. Кейбір құралдар үлгіні үйрету үшін кірістерді пайдалана алады; Сіз жүктеп салған құпия геометрия басқа біреуге ашылуы мүмкін. Дұрыс тәсіл: компанияның деректер саясатын сақтау, құпия деректерді анонимдеу (сәйкестендіру ақпаратын жою және оны жалпыға ортақ пішімге қою) немесе деректер кетпейтін кәсіпорынды/оқшауланған құралды пайдалану.

Қадам бойынша: Қауіпсіз және этикалық AI пайдалану

1. Тәуекелді жіктеңіз. Бұл жұмыс қауіпсіздік тұрғысынан маңызды ма, қателік болған жағдайда оның салдары қандай?
2. Құпиялықты қарастырыңыз. Бұл деректер шығуы мүмкін бе; Саясат не дейді?
3. Анонимизациялау немесе оқшауланған құралдарды пайдаланыңыз. Құпия ақпаратты жойыңыз.
4. AI-ны жоба/екінші көз ретінде пайдаланыңыз. Бұл мақұлдау емес, енгізу.
5. Тәуелсіз тексеру. Репродукция, стандарт, сынау.
6. Құзыретті инженер бекітеді және қол қояды. Жауапкершілікті беруге болмайды; Бақылау жазбасы сақталады.

Тәуекелді және құпиялылықты бағалауға шақыру

Рөлі: Инженерлік этика және тәуекелдерді басқару бойынша кеңесші. Тапсырма: Қауіпсіздік-сыни және құпиялылық тұрғысынан келесі жұмысты бағалаңыз. Жұмыс: [жұмыс сипаттамасы; қате болған жағдайда ықтимал нәтиже; ортақ пайдаланылатын деректер түрі].Шығару:- Тәуекел класы (кәдімгі / орташа / қауіпсіздік сыни) және негіздеу- Бұл жұмыста AI-ға НЕ істеуге болады, НЕ істей алмаймын- Құпиялылыққа қауіп бар ма; деректер анонимді болуы керек; Оқшауланған көлік қажет пе? Ереже: Соңғы мақұлдау мен жауапкершілік құзыретті инженерде болатынын атап өтіңіз.

Анонимизацияға шақыру

Мен AI-дан дизайн мәселесін сұрайын деп жатырмын, бірақ компания туралы ақпаратты бөліскім келмейді. Келесі мәтінмәнді АНОНИМДЕУ: компания атын, өнім атауын, тұтынушыны және сипаттама көрсеткіштерін өткізіп жіберіңіз; Құпия ақпарат ағып кетпеуі үшін, бірақ техникалық өзегі сақталуы үшін мәселені жалпы инженерлік терминдермен қайта жазыңыз. Мәтінмән: [мәтін]

Тексеру тәртібі

Қауіпсіздік үшін маңызды есептік жазбаны тәуелсіз тексеруші ретінде тексеріңіз, ЕШҚАШАН маған қосылмаңыз. Сұрақ формуласы, бірлік, болжам және стандарт сәйкестігі. Нәтижені тәуелсіз әдіспен шығарып, айырмашылықты көрсетіңіз. Әрбір нәтиже үшін «мұны қалай дәлелдеймін/сынаймын?» деп жазыңыз. Ереже: растай алмайсыз; тек тексерілетін нүктелерді алып тастаңыз.[count]

Жауапкершілікті тіркеуге шақыру

Осы жобалық шешім үшін бақылау/шешім жазбасының жобасын жазыңыз. Өрістер: шешім, негіз (есептеу/стандарт/сынақ), AI үлесі (жоба?), тәуелсіз тексеру әдісі, бекітуші инженер, күн, қол қою өрісі. Ереже: AI үлесін «жоба/көмек» ретінде анық белгілеңіз; Растау өрісін бос қалдырыңыз.

Әлсіз шақыру / Күшті шақыру

Әлсіз шақыру:

Бұл лифт тежегішінің дизайны қауіпсіз бе, растаңыз.

AI қауіпсіздік рұқсатын бере алмайды және қамтамасыз етпеуі керек; Егер ол «қауіпсіз» десе, бұл қате және қауіпті, өйткені ол жауапкершілікті көтере алмайды.

Күшті шақыру:

Бұл тежеу есебін тәуелсіз шолушы ретінде қарап шығыңыз; Тексеруді қажет ететін қатысу, әлсіз жақтар және болжамдар. Нәтижені өз бетінше шығарып, айырмашылықты көрсетіңіз. Мақұлдау мен жауапкершілік бар екенін біліңіз; Сіз тек бақылау нүктелерін тізімдейсіз.

Екінші нұсқа AI-ны мақұлдау органы емес, сыни бақылау құралы ретінде көрсетеді; жауапты инженерге жүктейді.

Үш шағын корпус (сандар бойынша)

1-жағдай – Қол қоюшы жауапкершілігі. Инженер AI 2 сағатта дайындаған көтеру ілгегі есебін қолданады. Ілмек 2 тоннаны көтереді; жыртылу өлімге әкелетін еді. Инженер есептеуді өз бетінше қайталайды, АИ берген 1,8 орнына стандартта талап етілетін қауіпсіздік коэффициентін ≥ 4 етіп түзетеді және геометрияны үлкейтеді. AI саны «ақылға қонымды» болып көрінді, бірақ қауіпсіздік үшін маңызды шекке сәйкес келмеді. Тексергеннен кейін ғана қол қояды. Сабақ: бекіту және қауіпсіздік факторы туралы шешімді ауыстыру мүмкін емес.

2-жағдай - ағып кеткен дизайн. Интерн компанияның жаңа, патенттелмеген механизмін жалпыға қолжетімді AI құралына жүктейді және «оңтайландыру» дейді. Құралдың деректер саясаты кірістерді сақтайды және оны оқытуда пайдалануға болады. Компания мұны түсінгенде, заң тобы іске қосылады; Патенттік стратегия зияткерлік меншік тәуекеліне байланысты зардап шегеді. Дұрыс жол механизмді анонимдеу немесе корпоративтік оқшаулауды қолдану болды. Сабақ: құпия дизайн саясаты белгісіз көлікке кірмеу.

3-жағдай - анонимизация сақталады. Инженер AI-мен тұтынушыға арналған редуктордың нақты мәселесін талқылағысы келеді, бірақ тұтынушы мен өнім құпия болып табылады. Ол контекстті анонимдейді: компания/өнім атауын, сипаттама өлшемдерін жояды және мәселені «берілген беріліс қатынасы мен айналу моменті үшін жалпы редуктор» ретінде қайта жазады. Ол техникалық мәнін сақтай отырып, құпия ақпаратты сыртқа шығармай, AI қолданады. Сабақ: анонимизация - құпиялылық пен тиімділік арасындағы қауіпсіз жол.

Жалпы қателер

• AI-ға мақұлдау құқығын беру: «Қауіпсіз бе, мақұлдаңыз» деп жауап беру және жауапкершілікті беруге тырысу.
• Шамадан тыс сенімділік (автоматтандыруға бейімділік): сенімді нәтижені тексерусіз қабылдау.
• Құпия деректерді жалпыға ортақ құралға жүктеп салу: саясатты білмей дизайн/тұтынушы деректерін ортақ пайдалану.
• Анонимизацияны айналып өту: анықтаушы ақпаратты жоймай, маңызды мәселені сұрау.
• Бақылау жазбаларын сақтамау: AI үлесін және валидацияны құжаттамау.
• Қауіпсіздік факторын бағаламау: АИ берген төмен мәнмен қауіпсіздіктің маңызды шегінен өту.

Қысқаша айтқанда

• Қауіпсіздік маңызды жұмыста AI жоспар және екінші көз болуы мүмкін; Бекіту, қол қою және жауапкершілік құзыретті инженерге тиесілі.
• AI бұрысты дұрыс деп сендіреді; «Күдіктіліктің басқасы дәлелденбейінше» көзқарасы шектен тыс сенімсіздікке қарсы маңызды.
• «AI сенімді болып көрінді» заңды немесе этикалық қорғаныс емес; Жауапкершілік бекітушіде қалады.
• Құпия дизайн, тұтынушы деректері және патенттелмеген идеялар белгісіз көліктерге жүктелмейді; анонимдеу немесе оқшауланған құралдарды пайдалану.
• Қауіпсіздік маңызды есептік жазба дербес шығарылады, стандартқа сәйкес тексеріледі және қол қою арқылы жауапкершілік алынады.

Қолданбалы тапсырма

Қауіпсіздік маңызды болуы мүмкін жұмысты таңдаңыз (көтеру элементі, қысым құрамдас бөлігі, тежегіш немесе тірек құрылым). Алдымен жұмысты тәуекел және құпиялылық тұрғысынан жіктеңіз: қате болған жағдайда қандай нәтиже болады, қандай деректер сезімтал? AI осы жұмысты бағалап, «мен не істей аламын және не істей алмаймын?» тізімін жасаңыз. Бөлісетін мәтінмәнді анонимдеу (компания/өнім/тұтынушы туралы ақпаратты жою). Содан кейін AI-ны тек маңызды тексеру құралы ретінде пайдаланып, есептік жазбаны тексеріп алыңыз, бірақ нәтижені тәуелсіз әдіспен өзіңіз жасаңыз және қауіпсіздік факторын тиісті стандартпен салыстырыңыз. Соңында, бақылау/шешім жазбасының жобасын жасаңыз; AI үлесін «жоба/көмекші» деп белгілеп, мақұлдау өрісін білікті инженерге қалдырыңыз.

бақылау парағы

• [ ] Жұмыс тәуекел сыныбына сәйкес бағаланды (әдеттегі/орташа/қауіпсіздік-сыни).
• [ ] Құпиялылық бағаланады; Сезімтал деректер анонимделген немесе оқшауланған құрал пайдаланылады.
• [ ] AI рұқсат беру органы емес, жоба/екінші көз ретінде пайдаланылды.
• [ ] Қауіпсіздік үшін маңызды есеп стандартқа сәйкес тәуелсіз түрде шығарылады және тексерілді.
• [ ] Қауіпсіздік коэффициенті тиісті стандарттың шегімен салыстырылды.
• [ ] Қадағалау/шешім жазбасы сақталады; Бекіту, қол қою және жауапкершілік құзыретті инженерге қалдырылды.

Модуль емтиханы

1. Төмендегілердің қайсысы АЖЖ және жобалау жұмыс процесінде АИ үшін ең шынайы және қауіпсіз рөл болып табылады?

• A) Дизайн баламаларын ұсыну және параметрлік сценарийлерді/макростарды жасау сияқты көмекші рөлдер ✔
• B) Автоматты статикалық және беріктік бекіту
• C) Жобаны инженердің рұқсатынсыз тікелей өндіріске жіберу
• D) Инженерден қол қою және бекіту құқығын алу

Сипаттама: AI дизайн баламаларын ұсыну, параметрлік сценарийлерді/макростарды жасау, материалдар мен метадеректерді жасау (дивергентті ойлау) сияқты көмекші тапсырмаларда күшті. Соңғы геометрия, төзімділік, беріктікті бекіту және өндіріске жіберу туралы шешім (конвергентті шешім) инженерде қалады.

2. AI материал үшін «аққыштық күші 250 МПа» мәнін берді. Бұл мәнді дизайн үшін негіз ретінде пайдаланбас бұрын не істеу керек?

• A) AI жаңартылғандықтан, мәнді тікелей шотқа енгізу
• B) Мәнді өндірушінің деректер парағынан немесе материал стандартынан тексеріңіз ✔
• C) Мәнді дөңгелектеу және оның қауіпсіз жағында деп болжау
• D) Кездейсоқ қауіпсіздік коэффициентін қосып, өту

Сипаттама: AI материалдың қасиеттерін жуықтап, жуықтап немесе толығымен жалған (галлюцинат) көрсете алады; Оның мәні сол материалдың температуралық/жылулық өңдеу күйіне байланысты өзгереді. Құнды өндірушінің деректер парағынан немесе тиісті материал стандартынан растаусыз дизайнға енгізбеу керек.

3. Ashby (материал таңдау) диаграммалары негізінен не үшін қолданылады?

• A) Бөлшектің нақты өндірістік өзіндік құнын есептеу үшін
• B) Жеткізуші прейскурант құру үшін
• C) Материалдық қасиеттерді салыстыру (мысалы, беріктік-тығыздық) және үміткерлерді таңдау үшін ✔
• D) Бөлшектердің төзімділіктерін анықтау үшін

Сипаттама: Ashby диаграммалары екі материал қасиетін (мысалы, беріктік-тығыздық, серпімділік модулі) осьтерге орналастыру арқылы материалдарды салыстырады және өнімділік индексі негізінде үміткерлердің ең қолайлы жинағын визуализациялайды. Ол нақты шығындарды, төзімділікті немесе жеткізу бағасын анықтауға арналмаған.

4. AI кернеу есебін берді, бірақ сіз бірлік сәйкестігіне сенімдісіз. Өлшемдік (бірлік) талдау ең алдымен нені қамтиды?

• А) Мәтіндегі орфографиялық қателер
• B) Графикадағы түс қателері
• C) Шығарылатын файлдың өлшемі
• D) Теңдеудің екі жағының бірлік сәйкессіздігі және түрлендіру қателері ✔

Сипаттама: Өлшемдік (бірлік) талдау теңдеудің екі жағының бірліктерінің сәйкестігін тексереді; Мысалы, кернеу үшін нәтиже N/m² = Па болуы керек. Бірліктер сәйкес келмесе, формулада немесе түрлендіруде қате бар. Бұл файл түріне, түсіне немесе өлшеміне қатысты емес.

5. Жылулық есепте АИ 5 кВт қыздырғыш 1 литр суды 2 секундта 20°С қыздыратынын айтты. Ең жақсы бірінші жауап қандай?

• A) Нәтижені энергияны үнемдеу және шама ретімен тексеру және қабылдамау ✔
• B) Нәтижені ондық таңбаларымен көбірек жазу және оны қабылдау
• C) АИ-ден «сенімдісің бе?» деп сұраңыз. және «иә» деген жауапқа қанағаттаныңыз
• D) Сұрақты өшіріп, басынан сұрап, бірінші жауап алу

Сипаттама: Жылдам тексеру ақыл-ойды тексеру және энергияны үнемдеу арқылы жүзеге асырылады: 1 кг суды 20°C-қа дейін қыздыру үшін шамамен 84 кДж қажет; 5 кВт үшін бұл 2 секунд емес, ~17 секундты алады. Нәтиже физикалық емес және тексерусіз қабылданбайды.

6. СЭҚ талдауында AI интерпретацияланған стресс нәтижесіне сену алдында ең маңызды тексеру қандай?

• A) Түсті стресс картасы көрнекі түрде «жақсы» көрінеді
• B) Тор тәуелсіздігі, шекаралық шарт және аналитикалық салыстыру арқылы тексеру ✔
• C) Шешімді қысқа мерзімде аяқтау
• D) AI «нәтиже қауіпсіз» дейді

Сипаттама: СЭҚ нәтижесі тордың тығыздығына, шекаралық шарттарға және материалды анықтауға байланысты. Қорытынды; Тордың тәуелсіздігін (торды қатайтқанда нәтиже өзгермейді) оны шекаралық шарттың дәлдігімен және мүмкіндігінше аналитикалық тәсілмен салыстыру арқылы тексеру керек.

7. СЭА-да тор өткір ішкі бұрышта тығыздалған сайын кернеу мәні үнемі артады. Бұл жағдай көбінесе нені көрсетеді?

• A) Материалдың ақауы анық
• B) Датчикті өлшеу қатесі бар
• C) Өткір бұрышта жасанды (сингулярлы) кернеу концентрациясы; бұрыш радиусын модельдеу керек ✔
• D) Шешім әрқашан қауіпсіз жағында

Түсініктеме: Идеал үшкір (нөл радиусы) ішкі бұрыш серпімділік теориясындағы ерекше нүкте болып табылады; Тор тығыз болған сайын, кернеу шексіздікке ұмтылады. Бұл жасанды нәтиже. Нақты бөлікте бұрыш радиусы ойық факторы/жергілікті бағалау арқылы модельденуі немесе түсіндірілуі керек.

8. AI подшипниктің діріл деректерінде «ішкі сақинаның ақауын» анықтады. Ең дұрыс тәсіл қайсы?

• A) Сұраусыз машинаны толығымен ысырап ету
• B) Пікірді елемеу және жұмысты жалғастыру
• C) Сенсорды толығымен өшіру
• D) Типтік ақау жиілігі, калибрлеу және далалық тексеру арқылы түсіндіруді тексеріңіз ✔

Түсініктеме: АИ-нің аномалия/сәтсіздікті түсіндіруі гипотеза болып табылады. Діріл спектріндегі сипаттамалық ақаулық жиіліктері (мысалы, ішкі сақинаның өту жиілігі BPFI), сенсорды калибрлеу және ықтимал деректер қателері тексерілуі керек; Түсініктеме далалық тексеру және физикалық ақаулық механизмі арқылы тексерілмей техникалық қызмет көрсету шешіміне айналмауы керек.

9. АИ-мен бөлшектің дайындалу қабілетін (DFM) бағалау кезінде шығарылатын өнімнің қандай аспектісі көбірек назар аударуды қажет етеді?

• A) Ұсыныстардың нақты станокқа, құралға және технологиялық шектеулерге сәйкестігі ✔
• B) Шығарманың тек эстетикалық көрінісі
• C) CAD моделінің файл өлшемі
• D) Түс және жабу нұсқалары

Сипаттама: AI; Ол нақты шеберхана шектеулерінсіз станок, құрал, қалып және технологиялық шектеулерді қабылдай алады. Мысалы, ол қол жетпейтін ішкі бұрыш радиусын немесе мүмкін емес төзімділікті ұсынуы мүмкін. DFM ұсыныстары бар жабдыққа және нақты процесс шектеулеріне сәйкес тексерілуі керек.

10. Өндіріске AI жасаған сызбаға төзімділік/GD&T жазбасын жібермес бұрын не істеу керек?

• A) AI жасаған кезде жазбаларды тікелей сызбаға өңдеу
• B) Стандартты және функционалдық талаптарға сәйкес бағаларды тексеру және бекіту ✔
• C) Төзімділіктерді кездейсоқ түрде тарылту және оны қауіпсіз деп ойлау
• D) Символдарды есте қалдыру үшін өзгерту

Сипаттама: AI; қате немесе стандартты емес төзімділік мәндерін, GD&T (геометриялық өлшемдер және рұқсат ету) таңбаларын немесе бетті әрлеу белгілерін шығаруы мүмкін. Ескертпелер тиісті стандартқа (мысалы, ISO/ASME GD&T) және функционалдық талаптарға сәйкес тексерілуі керек; Құрастыру және функция бойынша рұқсаттардың сәйкестігін инженер растауы керек.

11. AI дизайн «EN 13445 7.4.2 тармағына сәйкес» деп мәлімдеді. Ең дұрыс мінез-құлық қайсысы?

• A) Есепке тікелей жазыңыз, себебі AI атрибуция береді
• B) Интернет-форумдағы пікірге сүйену
• C) Ресми/ағымдағы стандартты мәтіннен субстанция нөмірі мен мазмұнын тексеру ✔
• D) Зат нөмірін есте сақтау үшін өзгерту

Сипаттама: AI дұрыс емес немесе галлюцинацияланған стандартты элемент нөмірлері мен тоқтау нүктелерін шығаруы мүмкін. Сілтеме жасалған мазмұн мен құндылық ресми және қолданыстағы стандарт мәтінінен расталмаған дизайн немесе есеп үшін негіз ретінде қабылданбауы керек.

12. AI жасалған Python инженерлік есептеу сценарийін пайдаланбас бұрын қайсысы міндетті болып табылады?

• A) Кодқа тікелей сену, себебі ол қатесіз жұмыс істейді
• B) Айнымалы атауларды қысқарту және түсініктеме жолдарын жою
• C) Сценарийді ұзағырақ жазыңыз және оны қауіпсіз деп есептеңіз
• D) Белгілі нәтижелері бар сынақтармен тексеру, бірліктерді тексеру және шеткі жағдайлар ✔

Түсініктеме: AI кодында қате бірлік түрлендіру, дұрыс емес формула немесе шеткі жағдайларда қате нәтиже болуы мүмкін және қатесіз жұмыс істесе де қате есептеуі мүмкін. код; Белгілі нәтижелері бар сынақ кірістері бірлікті (өлшемді) тексерумен және шеткі жағдайлармен тексерілуі керек.

13. Машина жасауда АИ-мен қауіпсіздік-критикалық есептеуді орындауда жауапкершілік тұрғысынан қайсысы дұрыс?

• A) Жауапкершілік рұқсат беретін құзыретті инженерде қалады; AI бекітуді алмастырмайды ✔
• B) Егер АИ мақұлданса, инженер жауапкершіліктен босатылады
• C) AI шығысы инженер қолтаңбасын ауыстырады
• D) Қауіпсіздік үшін маңызды есептік жазбада адамның тексеруі қажет емес

Сипаттама: Құзыретті инженер инженерлік нәтиженің дұрыстығына және бекітуіне/қол қоюына жауап береді; AI бұл жауапкершілікті өз мойнына алмайды. Қауіпсіздік тұрғысынан маңызды есептеулер мен конструкциялар үшін AI жоба/енгізу болып табылады және инженердің мақұлдауын және тексеруін алмастырмайды.

14. Қоғамдық AI құралымен компанияның құпия өнім дизайнын талдауға тырысқанда ең жақсы әрекет жолы қандай?

• A) Қоғамдық көлікте жылдамдыққа қатысты жасырын дизайнды орнату
• B) Деректер саясатын сақтау, құпия деректерді анонимдеу немесе корпоративтік/оқшауланған құралдарды пайдалану ✔
• C) Жылдамдық үшін тұтынушы деректерін ортақ пайдалану әрқашан қажет
• D) Құпиялылық мәселесі AI пайдалану үшін маңызды емес

Ақпаратты ашу: құпия дизайн, тұтынушы деректері немесе патенттелмеген идеялар деректер саясаты белгісіз жалпыға қолжетімді құралдарға жүктелмеуі керек; Бұл зияткерлік меншік пен құпиялылықтың бұзылуы қаупін тудырады. Компанияның деректер саясаты сақталуы керек, құпия деректер анонимді болуы немесе корпоративтік/оқшауланған құралды пайдалану керек.