Sprawy o znaczeniu krytycznym dla bezpieczeństwa, etyka, prywatność i odpowiedzialność

Zyski:

• Umiejętność oceny ograniczeń i wymagań weryfikacyjnych sztucznej inteligencji w pracach inżynieryjnych o krytycznym znaczeniu dla bezpieczeństwa
• Możliwość zarządzania ryzykiem związanym z prywatnością, polityką dotyczącą danych i własnością intelektualną w przypadku poufnego projektowania/udostępniania danych
• Umiejętność praktycznego argumentowania, że wyniki AI nie mogą zastąpić zgody inżyniera i odpowiedzialności za podpis

W inżynierii mechanicznej część wyników nie jest wyborem estetycznym, ale kwestią życia ludzkiego i bezpieczeństwa mienia: hamulec windy, zbiornik ciśnieniowy, element urządzenia dźwigowego, część zawieszenia samochodowego. W tych pracach, w których bezpieczeństwo jest krytyczne, błędy mogą skutkować obrażeniami lub śmiercią. Sztuczna inteligencja (AI) jest akceleratorem również w tych obszarach; ale tutaj jego granice wydają się najostrzejsze. Jednostka ta stanowi kręgosłup etyczny i odpowiedzialny modułu i koncentruje się na jednej zasadzie: wyniki sztucznej inteligencji nie zastępują weryfikacji, zatwierdzenia i podpisu kompetentnego inżyniera w żadnej pracy krytycznej dla bezpieczeństwa. Sztuczna inteligencja może być planem, danymi wejściowymi, drugim okiem; ale nie może wziąć na siebie odpowiedzialności, ponieważ odpowiedzialność prawna i etyczna należy do inżyniera, który podpisał. Poza tym należy zarządzać dwoma innymi głównymi ryzykami: poufnością (projekty firmy, dane klientów, nieopatentowane pomysły) i dokładnością (halucynacje). W tej jednostce poznasz ograniczenia sztucznej inteligencji w pracy o znaczeniu krytycznym dla bezpieczeństwa, ryzyka związane z prywatnością i własnością intelektualną oraz dlaczego nie można delegować odpowiedzialności.

Bezpieczeństwo krytyczne Oto miejsce i ograniczenia AI

To, czy zadanie jest „krytyczne dla bezpieczeństwa”, czy nie, zależy od wagi wyniku w przypadku błędu. W tej skali rola sztucznej inteligencji zawęża się: generowanie pomysłów, opracowywanie projektów, tworzenie list kontrolnych, tak; ale zatwierdzenie ostatecznego sprawozdania finansowego, stwierdzenie, że jest „bezpieczne” lub zezwolenie na produkcję, jest nie-nie. Następujące rozróżnienie czyni to konkretnym:

rodzaj działalności

Właściwa rola AI

Niezbywalna rola inżyniera

Rutynowe, niskie ryzyko

Wersja robocza, automatyzacja, pierwsze konto

recenzja

średnie ryzyko

Alternatywa, lista kontrolna, analiza wstępna

Weryfikacja i decyzja

Krytyczne dla bezpieczeństwa

Tylko przeciąg/drugie oko

Analiza, testowanie, zatwierdzenie, podpis, odpowiedzialność

Zasada krytyczna: niezależnie od tego, jak przekonujący jest wynik sztucznej inteligencji, jest to hipoteza i plan. Obliczenia krytyczne dla bezpieczeństwa są niezależnie odtwarzane, sprawdzane pod kątem zgodności z normą, testowane w razie potrzeby i podpisywane przez kompetentnego inżyniera. Podpis oznacza „Potwierdziłem to i biorę za to odpowiedzialność”; model językowy nie może wydać takiego stwierdzenia.

Wskazówka: zadaj sobie to pytanie w przypadku każdego wyniku sztucznej inteligencji: „Jeśli coś jest nie tak, kto ucierpi i kto jest za to odpowiedzialny?” Jeśli odpowiedź brzmi: „ludziom dzieje się krzywda, to ja jestem za to odpowiedzialny”, takie wyniki nie doprowadzą do niczego bez spełnienia najwyższych standardów weryfikacji.

Halucynacje i pułapka nadmiernej pewności siebie

Najbardziej niebezpieczną cechą sztucznej inteligencji jest to, że przedstawia fałszywe informacje z taką samą pewnością, jak informacje prawidłowe. Potrafi skomponować przedmiot standardowy, podać błędną wartość materialną, błędnie zastosować wzór i napisać to wszystko płynnym, fachowym językiem. Kiedy do tego dodamy błąd nadmiernej pewności (błąd automatyzacji; ludzka skłonność do zbytniego ufania wynikom automatycznego systemu), niebezpieczeństwo wzrasta: inżynier może zaakceptować wynik, który wygląda dobrze na ekranie, bez jego sprawdzania. Defensywność jest nawykiem kulturowym: postrzeganie wyników sztucznej inteligencji jako „wątpliwe, dopóki nie zostanie udowodnione, że jest inaczej”, a nie „prawdopodobnie prawdziwe”.

Uwaga: „AI wydawała się pewna siebie” nie jest obroną. „To właśnie powiedziała sztuczna inteligencja” nie jest wymówką w dochodzeniu w sprawie wypadku, audycie lub pozwie; Odpowiedzialność pozostaje po stronie inżyniera zatwierdzającego. Pomyśl o sztucznej inteligencji jak o stażyście, który nigdy nie dzieli się odpowiedzialnością, ale czasami bardzo się myli: przyjmujesz jego opinię, nigdy nie podpisujesz jego pracy bez jej sprawdzenia.

Polityka prywatności, własności intelektualnej i danych

Drugim największym ryzykiem jest prywatność. Przesyłanie nieopatentowanego projektu firmy, danych klienta lub rozwiązania wrażliwego na konkurencję do publicznego narzędzia sztucznej inteligencji, którego polityka dotycząca danych jest nieznana; może skutkować utratą własności intelektualnej, naruszeniem poufności i naruszeniem umowy. Niektóre narzędzia mogą wykorzystywać dane wejściowe do uczenia modelu; Przesłana tajemnicza geometria może zostać ujawniona komuś innemu. Właściwe podejście: przestrzeganie polityki danych firmy, anonimizacja danych wrażliwych (usunięcie informacji identyfikujących i umieszczenie ich w formacie publicznym) lub wykorzystanie przedsiębiorstwa/odizolowanego narzędzia, w którym dane nie opuszczają.

Krok po kroku: korzystanie z bezpiecznej i etycznej sztucznej inteligencji

1. Klasyfikuj ryzyko. Czy to zadanie ma kluczowe znaczenie dla bezpieczeństwa? Jakie są konsekwencje w przypadku błędu?
2. Weź pod uwagę prywatność. Czy te dane mogą się wydostać; Co mówi polityka?
3. Anonimizuj lub używaj izolowanych narzędzi. Usuń wrażliwe informacje.
4. Użyj AI jako przeciągu/drugiego oka. To nie jest akceptacja, to jest wkład.
5. Niezależnie zweryfikuj. Powielanie, standard, testowanie.
6. Kompetentny inżynier zatwierdza i podpisuje. Odpowiedzialność nie może być delegowana; Prowadzony jest zapis dotyczący identyfikowalności.

Monit o ocenę ryzyka i prywatności

Rola: Konsultant ds. etyki inżynierskiej i zarządzania ryzykiem. Zadanie: Ocenić poniższe stanowisko pod kątem krytyczności bezpieczeństwa i poufności. Stanowisko: [opis stanowiska; możliwy wynik w przypadku błędu; rodzaj danych, które mają być udostępniane]. Wynik: – Klasa ryzyka (rutynowe / średnie / krytyczne dla bezpieczeństwa) i uzasadnienie – DO CZEGO mogę wykorzystać sztuczną inteligencję w tej pracy, CZEGO nie mogę zrobić – Czy istnieje ryzyko prywatności; czy dane powinny być anonimizowane; Czy wymagany jest izolowany pojazd? Zasada: Podkreśl, że ostateczna akceptacja i odpowiedzialność spoczywają na kompetentnym inżynierze.

Monit o anonimizację

Zamierzam zadać AI problem projektowy, ale nie chcę udostępniać informacji o firmie. ANONIMALIZUJ następujący kontekst: pomiń nazwę firmy, nazwę produktu, klienta i dane opisowe; Przepisz problem w ogólnym ujęciu inżynierskim, tak aby nie wyciekły poufne informacje, ale zachowano rdzeń techniczny. Kontekst: [tekst]

Monit dotyczący dyscypliny weryfikacji

Sprawdź to konto o znaczeniu krytycznym dla bezpieczeństwa jako niezależny recenzent. NIGDY nie dołączaj do mnie. Formuła pytania, jednostka, założenia i zgodność ze standardem. Odtwórz wynik niezależną metodą i pokaż różnicę. Przy każdym znalezisku napisz „Jak to udowodnić/przetestować?” Reguła: NIE MOŻESZ potwierdzić; usuń tylko punkty do sprawdzenia.[konto]

Monit o rejestrację odpowiedzialności

Napisz projekt protokołu śledzenia/decyzji dla tej decyzji projektowej. Pola: decyzja, podstawa (obliczenia/standard/test), wkład AI (szkic?), niezależna metoda weryfikacji, inżynier zatwierdzający, data, pole podpisu. Zasada: wyraźnie oznacz wkład AI jako „wersja robocza/pomoc”; Pozostaw pole potwierdzenia puste.

Słaba podpowiedź/silna podpowiedź

Słaba zachęta:

Czy ta konstrukcja hamulca windy jest bezpieczna, potwierdź.

sztuczna inteligencja nie może i nie powinna zapewniać poświadczenia bezpieczeństwa; Jeśli powie „bezpieczny”, jest to mylące i niebezpieczne, ponieważ nie może ponieść odpowiedzialności.

Potężny monit:

Przejrzyj obliczenia hamulca jako niezależny recenzent; Uczestnictwo, słabe strony i założenia wymagające weryfikacji. Odtwórz wynik niezależnie i pokaż różnicę. Wiedz, że mam aprobatę i odpowiedzialność; po prostu wymieniasz punkty kontrolne.

Drugie pytanie stawia sztuczną inteligencję jako narzędzie krytycznej kontroli, a nie organ zatwierdzający; przenosi odpowiedzialność na inżyniera.

Trzy mini etui (według liczb)

Przypadek 1 – Odpowiedzialność podpisującego. Inżynier wykorzysta obliczenia haka do podnoszenia, które sztuczna inteligencja przygotowała w ciągu 2 godzin. Hak uniesie 2 tony; pęknięcie byłoby śmiertelne. Inżynier samodzielnie wykonuje obliczenia, koryguje współczynnik bezpieczeństwa na wymagany przez normę ≥ 4 zamiast 1,8 podawanego przez AI i powiększa geometrię. Liczba AI „wydawała się rozsądna”, ale nie osiągnęła progu krytycznego dla bezpieczeństwa. Podpisuje dopiero po weryfikacji. Lekcja: zatwierdzenie i decyzja dotycząca współczynnika bezpieczeństwa nie podlegają przeniesieniu.

Przypadek 2 – Nieszczelny projekt. Stażysta ładuje nowy, nieopatentowany mechanizm firmy do publicznie dostępnego narzędzia AI i mówi „optymalizuj”. Polityka danych narzędzia przechowuje dane wejściowe i może być używana w szkoleniach. Kiedy firma zdaje sobie z tego sprawę, wkracza zespół prawny; Strategia patentowa cierpi z powodu ryzyka własności intelektualnej. Właściwym sposobem była anonimizacja mechanizmu lub zastosowanie izolacji korporacyjnej. Lekcja: tajna polityka projektowa nie wchodź do nieznanego pojazdu.

Przypadek 3 – Zapisuje anonimowość. Inżynier chce omówić z klientem konkretny problem reduktora z AI, ale klient i produkt są poufne. Anonimizuje kontekst: usuwa nazwę firmy/produktu, opisowe wymiary i przepisuje problem jako „ogólny reduktor dla danego przełożenia i momentu obrotowego”. Wykorzystuje sztuczną inteligencję bez wyciekania poufnych informacji, zachowując istotę techniczną. Lekcja: anonimizacja to bezpieczna droga między prywatnością a wydajnością.

Typowe błędy

• Nadanie uprawnień do zatwierdzania AI: powiedzenie „Czy to bezpieczne, zatwierdź” i próba przekazania odpowiedzialności.
• Nadmierna pewność siebie (stronniczość automatyzacji): Akceptowanie przekonujących informacji bez sprawdzania ich.
• Przesyłanie poufnych danych do narzędzia publicznego: Udostępnianie danych projektu/klienta bez znajomości polityki.
• Omijanie anonimizacji: Zadawanie drażliwego problemu bez usuwania informacji identyfikujących.
• Brak prowadzenia rejestrów identyfikowalności: Brak dokumentowania wkładu AI i walidacji.
• Niedocenianie współczynnika bezpieczeństwa: Przekroczenie progu krytycznego dla bezpieczeństwa przy niskiej wartości podanej przez sztuczną inteligencję.

Podsumowując

• W pracy o znaczeniu krytycznym dla bezpieczeństwa sztuczna inteligencja może być wzorem i drugim okiem; Zatwierdzenie, podpis i odpowiedzialność należą do kompetentnego inżyniera.
• AI przedstawia zło jako przekonujące jako słuszne; Postawa „podejrzany, dopóki nie zostanie udowodnione, że jest inaczej” jest niezbędna w walce z uprzedzeniami związanymi z nadmierną pewnością siebie.
• „AI wydawała się pewna siebie” nie jest obroną prawną ani etyczną; Odpowiedzialność pozostaje po stronie osoby zatwierdzającej.
• Poufne projekty, dane klientów i nieopatentowane pomysły nie są przesyłane do nieznanych pojazdów; anonimizować lub używać izolowanych narzędzi.
• Konto o znaczeniu krytycznym dla bezpieczeństwa jest powielane niezależnie, sprawdzane zgodnie ze standardem, a odpowiedzialność przejmuje się poprzez podpisanie.

Zadanie aplikacji

Wybierz pracę, która może mieć kluczowe znaczenie dla bezpieczeństwa (element podnośnika, element ciśnieniowy, hamulec lub konstrukcja nośna). Najpierw klasyfikuj pracę pod kątem ryzyka i prywatności: jakie są konsekwencje w przypadku błędu, które dane są wrażliwe? Poproś sztuczną inteligencję o ocenę tej pracy i sporządzenie listy „co mogę, a czego nie mogę zrobić?” Anonimizuj kontekst, który będziesz udostępniać (usuń informacje o firmie/produktie/kliencie). Następnie zleć audyt konta, wykorzystując sztuczną inteligencję jedynie jako narzędzie krytycznej kontroli, ale samodzielnie odtwórz wynik niezależną metodą i porównaj współczynnik bezpieczeństwa z odpowiednią normą. Na koniec przygotuj zapis dotyczący identyfikowalności/decyzji; Oznacz wkład AI jako „wersję roboczą/pomocniczą” i pozostaw pole zatwierdzenia wykwalifikowanemu inżynierowi.

lista kontrolna

• [ ] Zadanie zostało ocenione według klasy ryzyka (rutynowe/średnie/krytyczne dla bezpieczeństwa).
• [ ] Ocena poufności; Wrażliwe dane są anonimizowane lub wykorzystywane jest izolowane narzędzie.
• [ ] Jako instytut badawczy/drugie oko wykorzystano sztuczną inteligencję, a nie organ udzielający homologacji.
• [ ] Obliczenia o znaczeniu krytycznym dla bezpieczeństwa niezależnie reprodukowane i sprawdzane pod kątem zgodności ze standardem.
• [ ] Współczynnik bezpieczeństwa porównano z progiem odpowiedniej normy.
• [ ] Prowadzony jest zapis dotyczący identyfikowalności/decyzji; Zatwierdzenie, podpis i odpowiedzialność pozostawiono kompetentnemu inżynierowi.

Egzamin modułowy

1. Która z poniższych ról jest najbardziej realistyczna i bezpieczna dla sztucznej inteligencji w procesie projektowania i projektowania?

• A) Role wspierające, takie jak sugerowanie alternatywnych rozwiązań projektowych i tworzenie parametrycznych skryptów/makr ✔
• B) Automatyczna akceptacja statyki i wytrzymałości
• C) Wysłanie projektu bezpośrednio do produkcji bez zgody inżyniera
• D) Przejęcie od Inżyniera uprawnień do podpisu i homologacji

Opis: sztuczna inteligencja świetnie radzi sobie z zadaniami pomocniczymi, takimi jak sugerowanie alternatywnych rozwiązań projektowych, generowanie parametrycznych skryptów/makr, opracowywanie materiałów i metadanych (myślenie rozbieżne). Ostateczna geometria, tolerancja, zatwierdzenie wytrzymałości i decyzja o wysłaniu do produkcji (decyzja zbieżna) pozostają w gestii inżyniera.

2. AI podała wartość „granicy plastyczności 250 MPa” dla materiału. Co należy zrobić przed użyciem tej wartości jako podstawy projektu?

• A) Umieszczenie wartości bezpośrednio na koncie, ponieważ sztuczna inteligencja jest aktualna
• B) Sprawdź wartość w karcie katalogowej producenta lub w normie materiałowej ✔
• C) Zaokrąglenie wartości w górę i założenie, że jest ona po bezpiecznej stronie
• D) Dodaj losowy współczynnik bezpieczeństwa i zdaj

Opis: sztuczna inteligencja może przybliżać, przybliżać lub całkowicie sfałszować (halucynować) właściwości materiału; Jego wartość zmienia się w zależności od stanu odpuszczania/obróbki cieplnej tego samego materiału. Wartości nie należy uwzględniać w projekcie bez sprawdzenia w karcie katalogowej producenta lub odpowiedniej normie materiałowej.

3. Do czego głównie służą diagramy Ashby'ego (doboru materiałów)?

• A) Aby obliczyć dokładny koszt produkcji części
• B) Aby utworzyć cennik dostawcy
• C) Aby porównać właściwości materiału (np. gęstość wytrzymałościową) i wybrać kandydatów ✔
• D) Aby określić tolerancje części

Opis: Diagramy Ashby'ego porównują materiały, umieszczając dwie właściwości materiału (np. wytrzymałość-gęstość, moduł sprężystości) na osiach i wizualizują najbardziej odpowiedni zestaw kandydatów w oparciu o wskaźnik wydajności. Celem nie jest określenie dokładnego kosztu, tolerancji lub ceny dostawy.

4. AI obliczyła naprężenie, ale nie masz pewności co do spójności jednostek. Co przede wszystkim wychwytuje analiza wymiarowa (jednostkowa)?

• A) Błędy ortograficzne w tekście
• B) Błędy kolorystyczne w grafice
• C) Rozmiar pliku wyjściowego
• D) Niespójność jednostek i błędy konwersji obu stron równania ✔

Opis: Analiza wymiarowa (jednostkowa) sprawdza, czy jednostki obu stron równania są spójne; Na przykład w przypadku naprężenia wynik powinien wynosić N/m² = Pa. Jeśli jednostki się nie zgadzają, oznacza to błąd we wzorze lub przeliczeniu. Nie chodzi tu o typ, kolor czy rozmiar pliku.

5. W obliczeniach termicznych AI stwierdziła, że ​​grzejnik o mocy 5 kW podgrzewa 1 litr wody o 20°C w ciągu 2 sekund. Jaka jest najlepsza pierwsza odpowiedź?

• A) Sprawdzenie i odrzucenie wyniku z uwzględnieniem zasady zachowania energii i rzędu wielkości ✔
• B) Zapisanie wyniku z większą liczbą miejsc po przecinku i zaakceptowanie go
• C) Zapytaj sztuczną inteligencję „czy jesteś pewien?” i zadowolić się odpowiedzią „tak”
• D) Usuń pytanie, zadaj je od początku i uzyskaj pierwszą odpowiedź

Opis: Szybka weryfikacja odbywa się poprzez kontrolę zdrowego rozsądku i oszczędność energii: potrzeba około 84 kJ, aby ogrzać 1 kg wody do 20°C; Przy mocy 5 kW zajmuje to ~17 sekund, a nie 2 sekundy. Wynik jest niefizyczny i nie można go zaakceptować bez weryfikacji.

6. Jaka jest najważniejsza kontrola, którą należy przeprowadzić, zanim zaufamy wynikowi naprężenia zinterpretowanego przez sztuczną inteligencję w analizie MES?

• A) Kolorowa mapa naprężeń wygląda „ładnie” wizualnie
• B) Weryfikacja poprzez niezależność siatki, warunek brzegowy i porównanie analityczne ✔
• C) Wykonanie rozwiązania w krótkim czasie
• D) Sztuczna inteligencja mówi „wynik jest bezpieczny”

Opis: Wynik MES zależy od gęstości siatki, warunków brzegowych i definicji materiału. Wniosek; Niezależność siatki (wynik nie zmienia się przy napinaniu siatki) należy zweryfikować porównując ją z dokładnością warunku brzegowego i, jeśli to możliwe, metodą analityczną.

7. W MES, gdy siatka staje się gęstsza w ostrym narożniku wewnętrznym, wartość naprężenia stale rośnie. Na co najczęściej wskazuje ta sytuacja?

• A) Materiał jest zdecydowanie wadliwy
• B) Wystąpił błąd pomiaru czujnika
• C) Sztuczna (pojedyncza) koncentracja naprężeń w ostrym narożniku; promień narożnika musi być modelowany ✔
• D) Rozwiązanie jest zawsze po bezpiecznej stronie

Wyjaśnienie: Idealny ostry narożnik wewnętrzny (o promieniu zerowym) jest punktem osobliwym w teorii sprężystości; Gdy siatka staje się gęstsza, napięcie dąży do nieskończoności. Jest to wynik sztuczny. W rzeczywistej części promień narożnika musi być modelowany lub interpretowany na podstawie współczynnika karbu/oceny lokalnej.

8. Sztuczna inteligencja wykryła „możliwą awarię pierścienia wewnętrznego” w danych dotyczących drgań łożyska. Które podejście jest najwłaściwsze?

• A) Całkowite złomowanie maszyny bez pytania
• B) Zignoruj komentarz i kontynuuj pracę
• C) Całkowite wyłączenie czujnika
• D) Sprawdź interpretację na podstawie charakterystycznej częstotliwości usterek, kalibracji i kontroli w terenie ✔

Wyjaśnienie: interpretacja anomalii/awarii przez sztuczną inteligencję jest hipotezą. Należy sprawdzić charakterystyczne częstotliwości usterek w widmie drgań (np. częstotliwość przejścia pierścienia wewnętrznego BPFI), kalibrację czujnika i możliwe błędy danych; Uwagi nie należy przekształcać w decyzję w sprawie świadczeń alimentacyjnych bez weryfikacji w drodze kontroli w terenie i mechanizmu uszkodzenia fizycznego.

9. Jaki aspekt wyników wymaga największej uwagi przy ocenie możliwości produkcyjnych (DFM) części za pomocą sztucznej inteligencji?

• A) Zgodność zaleceń z rzeczywistymi ograniczeniami maszyny, narzędzia i procesu ✔
• B) Tylko estetyczny wygląd dzieła
• C) Rozmiar pliku modelu CAD
• D) Opcje koloru i powłoki

Opis: sztuczna inteligencja; Może zakładać ograniczenia maszyny, narzędzia, formy i procesu bez rzeczywistych ograniczeń warsztatowych. Może to na przykład sugerować nieosiągalny promień naroża wewnętrznego lub niemożliwą tolerancję. Zalecenia DFM należy zweryfikować w odniesieniu do istniejącego sprzętu i rzeczywistych ograniczeń procesu.

10. Co należy zrobić przed wysłaniem wygenerowanej przez AI tolerancji rysunku/noty GD&T na produkcję?

• A) Przetwarzanie notatek bezpośrednio na rysunku w miarę generowania AI
• B) Sprawdź i zatwierdź oceny zgodnie z wymaganiami standardowymi i funkcjonalnymi ✔
• C) Losowe zawężanie tolerancji i myślenie, że jest to bezpieczne
• D) Zmiana symboli, aby uczynić je niezapomnianymi

Opis: sztuczna inteligencja; może powodować nieprawidłowe lub niestandardowe wartości tolerancji, symbole GD&T (wymiarowanie geometryczne i tolerancje) lub oznaczenia wykończenia powierzchni. Notatki należy poddać audytowi pod kątem odpowiedniej normy (np. ISO/ASME GD&T) i wymagań funkcjonalnych; Zgodność tolerancji pod względem montażu i działania musi zostać potwierdzona przez inżyniera.

11. AI stwierdziła, że ​​projekt „jest zgodny z normą EN 13445, klauzula 7.4.2”. Które zachowanie jest najwłaściwsze?

• A) Napisz bezpośrednio do raportu, ponieważ AI podaje atrybucję
• B) Opierając się na komentarzu na forum internetowym
• C) Weryfikacja numeru substancji i jej zawartości na podstawie oficjalnego/aktualnego tekstu normy ✔
• D) Zmiana numeru pozycji tak, aby został zapamiętany

Opis: sztuczna inteligencja może generować nieprawidłowe lub halucynacyjne standardowe numery przedmiotów i punkty przerwania. Substancji i wartości odniesienia nie należy traktować jako podstawy projektu lub raportu bez weryfikacji na podstawie oficjalnego i aktualnego tekstu standardowego.

12. Co jest obowiązkowe przed użyciem skryptu obliczeniowego inżynieryjnego wygenerowanego przez sztuczną inteligencję w języku Python?

• A) Bezpośrednio ufając kodowi, ponieważ działa on bez błędów
• B) Skróć nazwy zmiennych i usuń linie komentarzy
• C) Napisz dłuższy skrypt i załóż, że jest bezpieczny
• D) Walidacja za pomocą testów ze znanymi wynikami, sprawdzania jednostkowego i przypadków brzegowych ✔

Komentarz: Kod AI może zawierać nieprawidłowe przeliczenie jednostek, błędną formułę lub w skrajnych przypadkach błędny wynik i może błędnie obliczyć, nawet jeśli działa bez błędów. Kod; Dane wejściowe testowe ze znanymi wynikami powinny zostać zweryfikowane za pomocą sprawdzania jednostek (rozmiarów) i przypadków brzegowych.

13. Które rozwiązanie jest prawidłowe pod względem odpowiedzialności przy wykonywaniu obliczeń krytycznych dla bezpieczeństwa przy użyciu sztucznej inteligencji w inżynierii mechanicznej?

• A) Odpowiedzialność spoczywa na kompetentnym inżynierze, który zatwierdza; Sztuczna inteligencja nie zastępuje akceptacji ✔
• B) Inżynier jest zwolniony z odpowiedzialności, jeśli zatwierdziła AI
• C) Dane wyjściowe AI zastępują podpis inżyniera
• D) Weryfikacja przez człowieka nie jest konieczna w przypadku konta o znaczeniu krytycznym dla bezpieczeństwa

Opis: Kompetentny inżynier jest odpowiedzialny za dokładność i zatwierdzenie/podpisanie wyników prac inżynierskich; Sztuczna inteligencja nie może wziąć na siebie tej odpowiedzialności. W przypadku obliczeń i projektów o krytycznym znaczeniu dla bezpieczeństwa AI stanowi wersję roboczą/wkładową i nie zastępuje zatwierdzenia i weryfikacji inżyniera.

14. Jaki jest najlepszy sposób działania, gdy próbujemy przeanalizować poufny projekt produktu firmy za pomocą publicznego narzędzia AI?

• A) Instalacja konstrukcji stealth w pojeździe publicznym pod względem prędkości
• B) Przestrzeganie polityki dotyczącej danych, anonimizacja danych wrażliwych lub korzystanie z narzędzi korporacyjnych/izolowanych ✔
• C) Udostępnianie danych klientów jest zawsze konieczne ze względu na szybkość
• D) Kwestia prywatności nie ma znaczenia dla wykorzystania sztucznej inteligencji

Ujawnianie: poufne projekty, dane klientów lub nieopatentowane pomysły nie powinny być przesyłane jako takie do narzędzi publicznych, których polityka dotycząca danych jest nieznana; Stwarza to ryzyko naruszenia własności intelektualnej i prywatności. Należy przestrzegać polityki firmy dotyczącej danych, dane wrażliwe muszą zostać zanonimizowane lub należy zastosować narzędzie korporacyjne/izolowane.