Biztonságkritikus ügyek, etika, adatvédelem és elszámoltathatóság

Nyereség:

• Képes a mesterséges intelligencia korlátainak és ellenőrzési követelményeinek értékelésére a biztonság szempontjából kritikus mérnöki munkában
• Képes kezelni az adatvédelmi, adatvédelmi és szellemi tulajdon kockázatokat a bizalmas tervezés/adatmegosztás során
• Gyakorlatilag vitatható, hogy az AI kimenet nem helyettesítheti a mérnök jóváhagyását és aláírási felelősségét

A gépészetben a teljesítmény egy része nem esztétikai választás, hanem emberi élet és vagyonbiztonság kérdése: liftfék, nyomástartó edény, emelőberendezés, autós felfüggesztés alkatrész. Ezekben a biztonság szempontjából kritikus munkákban a hibák sérülést vagy halált okozhatnak. A mesterséges intelligencia (AI) ezeken a területeken is gyorsító; de határai itt jelennek meg legélesebben. Ez az egység a modul etikai és elszámoltathatósági gerince, és egyetlen alapelvre összpontosít: az AI-kimenet nem helyettesíti a hozzáértő mérnök ellenőrzését, jóváhagyását és aláírását a biztonság szempontjából kritikus munkák során. Az AI lehet tervrajz, bemenet, második szem; de felelősséget nem vállalhat, mert a jogi és etikai felelősség az aláíró mérnöké. Ezen kívül két másik nagy kockázatot is kezelni kell: a titoktartást (cégtervek, vásárlói adatok, szabadalmazatlan ötletek) és a pontosságot (hallucináció). Ebben az egységben megismerheti az AI korlátait a biztonság szempontjából kritikus munkában, a magánélet és a szellemi tulajdon kockázatait, valamint azt, hogy miért nem ruházható át a felelősség.

Biztonságkritikus Itt az AI helye és határa

Azt, hogy egy munka "biztonsági szempontból kritikus"-e vagy sem, az eredmény súlyossága határozza meg hiba esetén. Ennél a léptéknél az AI szerepe beszűkül: ötletek generálása, vázlatok készítése, ellenőrző listák készítése, igen; de a végső elszámolás jóváhagyása, a „biztonságos” döntés vagy az előállítás engedélyezése nem-nem. A következő megkülönböztetés teszi ezt konkrétsá:

üzleti típus

Az AI megfelelő szerepe

A mérnök elidegeníthetetlen szerepe

Rutinszerű, alacsony kockázat

Vázlat, automatizálás, első fiók

felülvizsgálatát

közepes kockázatú

Alternatíva, ellenőrző lista, előzetes elemzés

Ellenőrzés és döntés

Biztonságkritikus

Csak piszkozat/második szem

Elemzés, tesztelés, jóváhagyás, aláírás, felelősség

Kritikus elv: Bármilyen meggyőző is az AI kimenete, ez egy hipotézis és egy terv. A biztonsági szempontból kritikus számítást önállóan reprodukálják, a szabványnak megfelelően ellenőrzik, szükség esetén tesztelik és az illetékes mérnök aláírja. Az aláírás azt jelenti, hogy "ezt megerősítettem és felelősséget vállalok érte"; egy nyelvi modell nem teheti meg ezt a kijelentést.

Tipp: Tedd fel magadnak ezt a kérdést minden mesterséges intelligencia kimenetnél: „Ha ez rossz, ki sérül meg, és ki a felelős?” Ha a válasz "az emberek megsérülnek, én vagyok a felelős", akkor a kimenet a legmagasabb szintű ellenőrzés nélkül nem megy semmire.

Hallucinációk és a túlzott önbizalom csapda

A mesterséges intelligencia legveszélyesebb tulajdonsága, hogy a hamis információkat ugyanolyan bizalommal jeleníti meg, mint a helyes információkat. Képes kitalálni egy standard tételt, hibás anyagi értéket ad meg, hibásan alkalmaz egy képletet, és mindezt folyékony, szakszerű nyelven írja le. Ha ehhez hozzáadjuk a túlzott bizalmi torzítást (automatizálási torzítás; az emberi hajlam arra, hogy túlságosan megbízzon egy automata rendszer kimenetében), a veszély egyre nő: a mérnök ellenőrzés nélkül elfogadhatja azt a kimenetet, amely jól néz ki a képernyőn. A védekezés kulturális szokás: az AI-kimenetet „kétesnek tekintjük, amíg az ellenkezője be nem bizonyul”, nem pedig „valószínűleg igaznak”.

Vigyázat: „Az AI magabiztosnak tűnt” nem védekezés. „Ezt mondta az AI” nem mentség a balesetek kivizsgálása, auditja vagy per során; A felelősség a jóváhagyó mérnöké marad. Gondoljon az MI-re, mint egy gyakornokra, aki soha nem osztja meg a felelősséget, de néha nagyon téved: elfogadja a véleményét, soha nem írja alá a munkáját anélkül, hogy ellenőrizné.

Adatvédelmi, szellemi tulajdon és adatvédelmi szabályzat

A második legnagyobb kockázat a magánélet. Egy vállalat szabadalmaztatatlan tervének, ügyfél adatainak vagy versenyre érzékeny megoldásának feltöltése olyan nyilvános mesterséges intelligencia-eszközbe, amelynek adatpolitikája ismeretlen; szellemi tulajdon elvesztésével, titoktartási kötelezettséggel és szerződésszegéssel járhat. Egyes eszközök felhasználhatják a bemeneteket a modell betanításához; Előfordulhat, hogy a feltöltött titkos geometria ki van téve valaki másnak. A helyes megközelítés: a cég adatkezelési szabályzatának betartása, az érzékeny adatok anonimizálása (azonosító adatok eltávolítása és nyilvános formátumba helyezése), vagy olyan vállalati/elszigetelt eszköz használata, ahol az adatok nem távoznak.

Lépésről lépésre: A biztonságos és etikus mesterséges intelligencia használata

1. Osztályozza a kockázatot. Biztonsági szempontból kritikus ez a munka, milyen következményekkel jár hiba esetén?
2. Vegye figyelembe a magánéletet. Kijuthatnak ezek az adatok; Mit mond a politika?
3. Anonimizálása vagy elszigetelt eszközök használata. Távolítsa el a bizalmas információkat.
4. Használja az AI-t piszkozatként/második szemként. Ez nem jóváhagyás, hanem bemenet.
5. Függetlenül ellenőrizni. Reprodukció, szabvány, tesztelés.
6. Az illetékes mérnök jóváhagyja és aláírja. A felelősség nem ruházható át; Nyomon követési nyilvántartást vezetnek.

Kockázat- és adatvédelmi értékelés

Munkakör: Mérnöketikai és kockázatkezelési tanácsadó.Feladat: Értékelje a következő munkakört biztonság-kritikusság és titoktartás szempontjából.Munkakör: [munkaköri leírás; lehetséges kimenetel hiba esetén; a megosztandó adatok típusa].Kimenet:- Kockázati osztály (rutin / közepes / biztonsági szempontból kritikus) és indoklás- MIT kérhetek a mesterséges intelligencia elvégzésére ebben a munkában, MIT nem tehetek meg- Van-e adatvédelmi kockázat; az adatokat anonimizálni kell; Szükséges-e elszigetelt jármű? Szabály: Hangsúlyozza, hogy a végső jóváhagyás és felelősség az illetékes mérnöknél marad.

Anonimizálási felszólítás

Tervezési problémát fogok kérdezni az MI-től, de nem akarok céginformációkat megosztani. A következő kontextus anonimizálása: hagyja el a cég nevét, a termék nevét, az ügyfeleket és a leíró mérőszámokat; Írja át a problémát általános mérnöki kifejezésekkel úgy, hogy az érzékeny információk ne szivárogjanak ki, de a műszaki mag megmaradjon.Kontextus: [szöveg]

Ellenőrzési fegyelem felszólítása

Független értékelőként ellenőrizze ezt a biztonsági szempontból kritikus fiókot, SOHA NE csatlakozzon hozzám. Kérdésképlet, mértékegység, feltételezés és szabványmegfelelőség. Reprodukálja az eredményt független módszerrel, és mutassa meg a különbséget. Minden egyes lelethez írja be, hogy "hogyan tudom ezt bizonyítani/tesztelni?" Szabály: NEM erősítheti meg; csak az ellenőrizendő pontokat távolítsa el.[fiók]

Felelősségi regisztrációs felszólítás

Írjon nyomon követhetőségi/döntési rekord tervezetet ehhez a tervezési döntéshez. Mezők: döntés, alap (számítás/szabvány/teszt), mesterséges intelligencia hozzájárulás (tervezet?), független ellenőrzési módszer, jóváhagyó mérnök, dátum, aláírás mező. Szabály: Az AI hozzájárulást egyértelműen „tervezet/segítség”-ként jelölje meg; Hagyja üresen a megerősítő mezőt.

Gyenge felszólítás / Erős felszólítás

Gyenge felszólítás:

Biztonságos-e ez a felvonófék kialakítása, ellenőrizze.

A mesterséges intelligencia nem tud és nem is kell biztonsági tanúsítványt adnia; Ha azt mondja, hogy "biztonságos", az félrevezető és veszélyes, mert nem tud felelősséget vállalni.

Erőteljes felszólítás:

Tekintse át ezt a fékszámítást független lektorként; Részvétel, gyengeségek és feltételezések, amelyeket ellenőrizni kell. Az eredményt önállóan reprodukálja, és mutassa meg a különbséget. Tudd, hogy jóváhagyásom és felelősségem van; csak felsorolod az ellenőrző pontokat.

A második felszólítás az AI-t a kritikus irányítás eszközeként pozicionálja, nem pedig jóváhagyási hatóságként; a felelősséget a mérnökön tartja.

Három mini tok (szám szerint)

1. eset – Az aláíró felelőssége. A mérnök egy emelőhorog számítást használ, amelyet az AI 2 óra alatt készített el. A horog 2 tonnát fog megemelni; a szakadás végzetes lenne. A mérnök önállóan elvégzi a számítást, a szabvány által előírt biztonsági tényezőt ≥ 4-re korrigálja az AI által megadott 1,8 helyett, és kinagyítja a geometriát. Az AI száma „ésszerűnek tűnt”, de nem érte el a biztonsági kritikus küszöböt. Csak ellenőrzés után írja alá. Tanulság: a jóváhagyás és a biztonsági tényező döntése nem átruházható.

2. eset – Kiszivárgott kivitel. Egy gyakornok betölt egy új, nem szabadalmaztatott mechanizmust a cégtől egy nyilvánosan elérhető mesterségesintelligencia-eszközbe, és azt mondja, hogy "optimalizálja". Az eszköz adatszabályzata tárolja a bemeneteket, és felhasználható a képzésben. Amikor a cég rájön erre, a jogi csapat lép közbe; A szabadalmi stratégia a szellemi tulajdon kockázata miatt szenved. A helyes módszer a mechanizmus anonimizálása vagy a vállalati elszigeteltség alkalmazása volt. Tanulság: a titkos tervezési politika ne lépjen be ismeretlen járműbe.

3. eset – Az anonimizálás ment. Egy mérnök meg akarja beszélni az ügyfél egy speciális redukciós problémáját az MI-vel, de az ügyfél és a termék bizalmasak. Anonimizálja a kontextust: eltávolítja a cég/termék nevét, a leíró méreteket, és átírja a problémát "egy általános reduktor egy adott áttételi arányhoz és nyomatékhoz". Kihasználja az AI-t anélkül, hogy érzékeny információkat szivárogna ki, megőrizve a technikai lényeget. Tanulság: az anonimizálás a biztonságos út a magánélet és a hatékonyság között.

Gyakori hibák

• Jóváhagyási felhatalmazás megadása mesterséges intelligencia számára: „Biztonságos, jóváhagyja”, és megpróbálja átruházni a felelősséget.
• Túlzott magabiztosság (automatizálási torzítás): meggyőző kimenet elfogadása ellenőrzés nélkül.
• Bizalmas adatok feltöltése nyilvános eszközbe: Tervezési/ügyféladatok megosztása a szabályzat ismerete nélkül.
• Az anonimizálás megkerülése: Az érzékeny probléma megkérdezése az azonosító adatok eltávolítása nélkül.
• Nem vezet nyomon követési nyilvántartást: nem dokumentálja az AI hozzájárulását és érvényesítését.
• A biztonsági tényező alábecsülése: A biztonságkritikus küszöb átlépése az AI által megadott alacsony értékkel.

Összefoglalva

• A biztonság szempontjából kritikus munkában az AI lehet tervrajz és második szem; A jóváhagyás, az aláírás és a felelősség az illetékes mérnöké.
• A mesterséges intelligencia a helytelent úgy mutatja be, mint a helyeset; A "gyanúsított, amíg az ellenkezője be nem bizonyosodik" hozzáállás elengedhetetlen a túlzott önbizalommal szemben.
• „Az AI magabiztosnak tűnt” nem jogi vagy etikai védekezés; A felelősség a jóváhagyóé marad.
• A bizalmas tervezés, ügyféladatok és szabadalmazatlan ötletek nem kerülnek feltöltésre ismeretlen járművekre; anonimizálni vagy elszigetelt eszközöket használni.
• A biztonsági szempontból kritikus fiók önálló reprodukálása, szabvány szerinti ellenőrzése, a felelősségvállalás aláírásával történik.

Pályázati feladat

Válasszon olyan munkát, amely a biztonság szempontjából kritikus lehet (emelőelem, nyomóelem, fék vagy tartószerkezet). Először is osztályozza a munkát kockázat és adatvédelem szempontjából: mi a következménye hiba esetén, mely adatok érzékenyek? A mesterséges intelligencia értékelje ezt a munkát, és készítsen egy listát arról, hogy "mit tehetek és mit nem?" Anonimizáljon egy kontextust, amelyet meg fog osztani (távolítsa el a cég/termék/ügyfél adatait). Ezután auditáljon egy fiókot, az AI-t csak kritikus ellenőrző eszközként használva, de az eredményt önálló módszerrel reprodukálja, és hasonlítsa össze a biztonsági tényezőt a vonatkozó szabvánnyal. Végül készítsen egy nyomon követhetőségi/döntési nyilvántartást; Az AI-hozzájárulást jelölje meg „tervezet/segítő”-ként, és hagyja a jóváhagyási területet a képzett mérnökre.

ellenőrző lista

• [ ] A munkát kockázati osztály szerint értékelték (rutin/közepes/biztonsági szempontból kritikus).
• [ ] Titoktartás értékelve; A kényes adatokat anonimizálják, vagy elszigetelt eszközt használnak.
• [ ] A mesterséges intelligencia tervezetként/második szemként szolgált, nem a jóváhagyó hatóság.
• [ ] A biztonság szempontjából kritikus számítások önállóan reprodukálva és a szabvány szerint auditálva.
• [ ] A biztonsági együtthatót a vonatkozó szabvány küszöbértékével hasonlították össze.
• [ ] Nyomon követhetőségi/döntési nyilvántartást vezetnek; A jóváhagyást, az aláírást és a felelősséget az illetékes mérnökre bízták.

Modul vizsga

1. Az alábbiak közül melyik a legreálisabb és legbiztonságosabb szerepe az AI-nak a CAD és a tervezési munkafolyamatban?

• A) Támogató szerepkörök, például tervezési alternatívák javaslata és parametrikus szkriptek/makrók készítése ✔
• B) Automatikus statikus és szilárdsági jóváhagyás
• C) A terv közvetlenül a gyártásba küldése mérnök jóváhagyása nélkül
• D) Az aláírási és jóváhagyási jogosultság átvétele a mérnöktől

Leírás: A mesterséges intelligencia erős a járulékos feladatokban, mint például a tervezési alternatívák javaslata, a parametrikus szkriptek/makrók generálása, az anyagok és a metaadatok készítése (divergens gondolkodás). A végső geometria, tolerancia, szilárdsági jóváhagyás és a gyártásba való küldés (konvergens döntés) a mérnöknél marad.

2. Az AI 250 MPa folyáshatárt adott egy anyagra. Mit kell tennie, mielőtt ezt az értéket használja a tervezés alapjául?

• A) Az értéket közvetlenül a számlára helyezzük, mert az AI naprakész
• B) Ellenőrizze az értéket a gyártó adatlapjából vagy anyagszabványából ✔
• C) Felfelé kerekítve az értéket, és feltételezve, hogy a biztonságos oldalon van
• D) Adjon hozzá egy véletlenszerű biztonsági tényezőt, és adja át

Leírás: A mesterséges intelligencia megközelítheti, megbecsülheti vagy teljesen meghamisíthatja (hallucinálja) az anyag tulajdonságait; Értéke ugyanazon anyag temperálási/hőkezelési állapotától függően változik. Az érték nem szerepelhet a tervben a gyártó adatlapján vagy a vonatkozó anyagszabványon való ellenőrzés nélkül.

3. Mire használják főként az Ashby (anyagkiválasztás) diagramokat?

• A) Az alkatrész pontos előállítási költségének kiszámítása
• B) Szállítói árlista készítése
• C) Anyagtulajdonságok (pl. szilárdság-sűrűség) összehasonlítása és jelöltek kiválasztása ✔
• D) Alkatrésztűrések meghatározása

Leírás: Az Ashby-diagramok összehasonlítják az anyagokat úgy, hogy két anyagtulajdonságot (pl. szilárdság-sűrűség, rugalmassági modulus) helyeznek a tengelyekre, és egy teljesítményindex alapján megjelenítik a legmegfelelőbb jelölthalmazt. Nem célja a pontos költség, tolerancia vagy ellátási ár meghatározása.

4. Az AI adott egy feszültségszámítást, de Ön nem biztos az egységkonzisztenciában. Mit rögzít elsősorban a dimenziós (egység) elemzés?

• A) Helyesírási hibák a szövegben
• B) Színhibák a grafikában
• C) A kimeneti fájl mérete
• D) Az egyenlet két oldalának mértékegység-inkonzisztenciája és átalakítási hibái ✔

Leírás: A dimenzió- (egység-) elemzés ellenőrzi, hogy az egyenlet mindkét oldalának mértékegységei konzisztensek-e; Például feszültség esetén az eredménynek N/m² = Pa-nak kell lennie. Ha a mértékegységek nem egyeznek, hiba van a képletben vagy az átalakításban. Ez nem a típuson, színen vagy fájlméreten múlik.

5. Egy termikus számítás során az AI azt mondta, hogy egy 5 kW-os fűtőtest 1 liter vizet 2 másodperc alatt 20°C-kal melegít fel. Mi a legjobb első válasz?

• A) Az eredmény ellenőrzése és elutasítása energiatakarékossággal és nagyságrenddel ✔
• B) Az eredmény több tizedesjegyű írása és elfogadása
• C) Kérdezd meg az MI-t, "biztos vagy benne?" és elégedett legyen az "igen" válasszal
• D) Törölje a kérdést, tegye fel az elejétől, és kapja meg az első választ

Leírás: A gyors ellenőrzés épelméjűség-ellenőrzéssel és energiamegtakarítással történik: Körülbelül 84 kJ szükséges 1 kg víz 20°C-ra melegítéséhez; 5 kW-nál ez ~17 másodpercet vesz igénybe, nem 2 másodpercet. Az eredmény nem fizikai, és ellenőrzés nélkül nem fogadható el.

6. Mi a legkritikusabb ellenőrzés, mielőtt megbíznánk az AI által értelmezett stresszeredményben a FEA elemzésben?

• A) A színes stressztérkép vizuálisan „szépnek” tűnik
• B) Ellenőrzés hálófüggetlenséggel, peremfeltétellel és analitikus összehasonlítással ✔
• C) A megoldás rövid időn belüli befejezése
• D) AI azt mondja, hogy „az eredmény biztonságos”

Leírás: A FEA eredménye a hálósűrűségtől, a peremfeltételektől és az anyagdefiníciótól függ. Következtetés; A hálófüggetlenséget (az eredmény nem változik a háló meghúzásakor) a peremfeltétel pontosságával, és lehetőség szerint analitikus megközelítéssel kell igazolni.

7. FEA-ban, ahogy a háló sűrűbbé válik egy éles belső sarokban, a feszültségérték folyamatosan növekszik. Mit jelez ez a helyzet leginkább?

• A) Az anyag határozottan hibás
• B) Az érzékelő mérési hibája van
• C) Mesterséges (szinguláris) feszültségkoncentráció az éles sarokban; a sarok sugarát modellezni kell ✔
• D) A megoldás mindig a biztonságos oldalon van

Magyarázat: Az ideális éles (nulla sugarú) belső sarok szinguláris pont a rugalmasságelméletben; Ahogy a háló sűrűbbé válik, a feszültség a végtelenségig terjed. Ez mesterséges eredmény. Az aktuális részben a sarok sugarát bevágástényezővel/lokális kiértékeléssel kell modellezni vagy értelmezni.

8. Az AI „lehetséges belső gyűrű meghibásodást” észlelt egy csapágy vibrációs adataiban. Melyik a leghelyesebb megközelítés?

• A) A gép teljes leselejtezése kérés nélkül
• B) Hagyja figyelmen kívül a megjegyzést, és folytassa a munkát
• C) Az érzékelő teljes letiltása
• D) Ellenőrizze az értelmezést jellemző hibagyakoriság, kalibrálás és helyszíni ellenőrzés alapján ✔

Magyarázat: Az anomália/hiba AI értelmezése egy hipotézis. Ellenőrizni kell a rezgésspektrum jellemző hibafrekvenciáit (pl. BPFI belső gyűrű átmeneti frekvenciája), az érzékelő kalibrációját és az esetleges adathibákat; A megjegyzést nem szabad karbantartási döntéssé alakítani a helyszíni szemle és a fizikai hibamechanizmus ellenőrzése nélkül.

9. A teljesítmény mely aspektusa igényel a legtöbb figyelmet egy alkatrész gyárthatóságának (DFM) AI-val történő értékelése során?

• A) Az ajánlásoknak való megfelelés a tényleges gép-, szerszám- és folyamathatároknak ✔
• B) Csak a darab esztétikai megjelenése
• C) A CAD-modell fájlmérete
• D) Szín és bevonat lehetőségek

Leírás: AI; Felvállalhatja a gépek, szerszámok, formák és folyamatok korlátait, valódi műhelyi korlátok nélkül. Például elérhetetlen belső saroksugárra vagy lehetetlen tűrésre utalhat. A DFM ajánlásait érvényesíteni kell a meglévő berendezések és a tényleges folyamathatárok alapján.

10. Mit kell tenni egy mesterséges intelligencia által generált rajztűrés/GD&T feljegyzés éles üzembe küldése előtt?

• A) Jegyzetek feldolgozása közvetlenül a rajzba az AI generálásakor
• B) Ellenőrizze és hagyja jóvá a minőséget a szabvány és a funkcionális követelmények szerint ✔
• C) A tűréshatárok véletlenszerű leszűkítése, és biztonságosnak gondolva
• D) A szimbólumok megváltoztatása, hogy emlékezetessé tegye őket

Leírás: AI; hibás vagy nem szabványos tűrésértékeket, GD&T (geometriai méretezés és tűrés) szimbólumokat vagy felületkiképzési jelöléseket produkálhat. A megjegyzéseket a vonatkozó szabvány (pl. ISO/ASME GD&T) és a funkcionális követelmények alapján kell auditálni; Az összeszerelés és a funkció tűréseinek konzisztenciáját a mérnöknek meg kell erősítenie.

11. Az AI kijelentette, hogy a terv „megfelel az EN 13445 szabvány 7.4.2. pontjának”. Melyik a leghelyesebb viselkedés?

• A) Írjon közvetlenül a jelentésbe, mert a mesterséges intelligencia megadja a hozzárendelést
• B) Egy internetes fórum megjegyzésére támaszkodva
• C) Az anyag számának és tartalmának ellenőrzése a hivatalos/aktuális szabványszövegből ✔
• D) A cikkszám módosítása, hogy a rendszer emlékezzen rá

Leírás: A mesterséges intelligencia helytelen vagy hallucinált szabványos tételszámokat és töréspontokat állíthat elő. A hivatkozott anyag és érték nem tekinthető a terv vagy a jelentés alapjául a hivatalos és az aktuális szabványszöveg ellenőrzése nélkül.

12. Melyik kötelező egy mesterséges intelligencia által generált Python mérnöki számítási szkript használata előtt?

• A) Közvetlenül megbízik a kódban, mert hiba nélkül működik
• B) Rövidítse le a változóneveket és törölje a megjegyzéssorokat
• C) Írja meg hosszabban a szkriptet, és feltételezze, hogy biztonságos
• D) Érvényesítés ismert eredményekkel rendelkező tesztekkel, egységellenőrzéssel és éles esetekkel ✔

Megjegyzés: Az AI kód tartalmazhat hibás mértékegység-átváltást, helytelen képletet vagy szélső esetekben hibás eredményt, és akkor is hibásan számol, ha hiba nélkül működik. Kód; Az ismert eredményekkel rendelkező tesztbemeneteket mértékegység- (méret)-ellenőrzéssel és éles esetekkel kell érvényesíteni.

13. Melyik a helyes a felelősség szempontjából a gépészmérnöki mesterséges intelligenciával végzett biztonságkritikus számítás során?

• A) A felelősség az illetékes mérnöké marad, aki jóváhagyja; Az AI nem helyettesíti a jóváhagyást ✔
• B) A mérnök mentesül a felelősség alól, ha az AI jóváhagyta
• C) Az AI kimenet helyettesíti a mérnök aláírását
• D) Az emberi ellenőrzés szükségtelen egy biztonsági szempontból kritikus fiók esetén

Leírás: Az illetékes mérnök felelős a mérnöki kimenet pontosságáért és jóváhagyásáért/aláírásáért; Az AI nem vállalhatja ezt a felelősséget. A biztonság szempontjából kritikus számításokhoz és tervekhez az AI vázlat/bemenet, és nem helyettesíti a mérnöki jóváhagyást és ellenőrzést.

14. Mi a legjobb lépés, amikor egy nyilvános mesterséges intelligencia eszközzel próbáljuk elemezni egy vállalat bizalmas terméktervét?

• A) Lopakodó tervezés telepítése tömegjárművekre, mint a sebességre
• B) Adatvédelmi szabályzat betartása, érzékeny adatok anonimizálása vagy vállalati/elszigetelt eszközök használata ✔
• C) Az ügyféladatok megosztása mindig szükséges a gyorsaság érdekében
• D) Az adatvédelmi kérdés irreleváns az AI használata szempontjából

Nyilvánosságra hozatal: A bizalmas tervezést, vásárlói adatokat vagy szabadalmaztatatlan ötleteket nem szabad önmagukban feltölteni olyan nyilvános eszközökbe, amelyek adatpolitikája ismeretlen; Ez a szellemi tulajdon és a magánélet megsértésének kockázatát jelenti. A vállalati adatkezelési szabályzatot be kell tartani, az érzékeny adatokat anonimizálni kell, vagy vállalati/elszigetelt eszközt kell használni.