해양 AI의 개척지: 보안, 사이버 위험, 윤리 및 책임

이득:

• AI가 허구의 계수, 규칙 조항 및 기술적 가치를 생성할 수 있다는 것을 인식하고 생명/재산 안전의 맥락에서 검증을 적용하는 능력
• 선박 및 OT(운영 기술) 시스템의 사이버 보안, 데이터 개인 정보 보호 및 규제 제한을 관리하는 능력
• 선급 승인, 항해 안전 및 윤리에 대한 궁극적인 책임은 기관사와 선장에게 있음을 이해합니다.

이 모듈 전체에서 우리는 형태 설계부터 구조 분석, 예측 유지 관리, 항해 최적화, 배출 규정 준수, 조선소 생산까지 선박 및 해양 엔지니어링의 모든 단계에서 가속기로 인공 지능(AI)을 사용했습니다. 이 마지막 단원에서 우리는 한 걸음 물러서서 전체 그림을 살펴봅니다. 해상 AI의 주요 한계는 무엇이며, 어떤 위험(환각, 사이버 보안, 데이터 개인 정보 보호, 편견)이 지속적으로 경계하고 있으며 누가 책임을 지는가? 차량을 안전하게 사용하기 위한 전제조건은 어디서 문제가 발생할 수 있는지 아는 것이기 때문입니다.

모듈의 기본 원칙은 여기에 적용되며 다른 모든 항목에 적용됩니다. 안전이 중요한 해양 작업에서 AI 출력은 유능한 엔지니어, 선장 또는 선급 검사관의 승인을 대체할 수 없습니다. AI는 제안하고, 초안을 작성하고, 계산하고 상기시킵니다. 그러나 생명, 재산 및 환경의 안전을 결정하는 결정의 소유자는 해당 결정에 서명하고 법적 책임을 지는 사람입니다.

개념: 환각: AI가 존재하지 않는 가치, 규칙 또는 자원을 조작합니다. OT 보안: 운영 기술(기계 및 크루즈 컨트롤 시스템)의 사이버 보호. 데이터 중독: 모델을 오도하기 위해 훈련/입력 데이터를 의도적으로 손상시키는 것입니다. 모델 편향: 훈련된 데이터에서 비롯된 모델의 체계적이고 불공정한 편향입니다. 책임 사슬: 결정의 법적, 기술적 소유권은 분명합니다.

AI의 영구적 한계

AI에는 운송 분야에 4개의 영구적인 국경이 있으며, 이는 기술이 발전하더라도 사라지지 않을 것입니다. 첫째, 환각입니다. 모델은 확실한 데이터가 없을 때 "가장 가능성이 높은" 진술로 공백을 채웁니다. 이는 꾸며낸 클래스 조항, 불가능한 안정성 값 또는 존재하지 않는 계수로 밝혀졌습니다. 둘째, 배치 외 행동: 모델이 훈련되고 테스트된 상황(비정상적인 선박 유형, 비정상적인 오작동, 보이지 않는 교통) 외부에서 모델을 신뢰할 수 없게 됩니다. 셋째, 물리학에 대한 이해 부족: AI는 단어 패턴을 처리하지만 에너지 보존이나 뉴턴의 법칙을 "이해"하지 않습니다. 합리적으로 보이지만 물리적으로 불가능한 출력을 생성할 수 있습니다. 넷째, 적시성: 입법, 가격 및 기술 변화; 해당 모델의 정보는 특정 날짜에 동결됩니다.

이러한 제한은 우리가 모듈 전반에 걸쳐 배운 검증 원칙(크기 차수 제어, 단위 일관성, 독립적인 재생산 및 소스 검증)이 필수적인 이유를 설명합니다. 특히 AI가 계산을 수행하도록 하는 경우(예: 밸러스트/안정성 모멘트 또는 전력 계산을 위해 생성된 Python/Excel 스크립트) 코드가 유동적이고 작동하는 것처럼 보이더라도 해당 논리, 입력 및 엣지 케이스는 독립적인 테스트 없이는 안전 결정으로 변환되지 않습니다. 계정 코드가 '작동'한다고 해서 '올바른' 것을 의미하는 것은 아닙니다.

주의: AI 생성 회계 코드는 오류 없이 작동할 수 있지만 잘못된 수식, 잘못된 단위 또는 간과된 극단적인 경우가 포함될 수 있습니다. 코드를 승인하기 전에 알려진 입력(직접 답을 알고 있는 예)으로 테스트하고, 극단적인 경우를 테스트하고, 독립적인 방식으로 결과를 확인하세요. 안정성과 같이 안전이 중요한 계산에서는 승인된 로딩 컴퓨터와 엔지니어 확인이 필수적입니다.

사이버 보안 및 데이터 개인정보 보호

현대 선박은 떠다니는 컴퓨터 네트워크입니다. 내비게이션 시스템, 기계 제어, 화물 관리 및 위성 연결이 서로 연결되어 있습니다. 이는 사이버 공격 표면을 의미합니다. AI 시스템은 이 그림에 두 가지 새로운 위험을 추가합니다. 첫째, OT(운영 기술) 안전: 내비게이션 및 기계 제어와 연결된 AI 구성 요소는 공격을 받을 경우 직접적인 안전 위험을 초래합니다. 중요한 OT 시스템이 격리되어 있으므로 AI 출력이 자체적으로 제어 작업을 실행해서는 안 되며, 사람의 승인과 안전한 기본 동작이 유지되어야 합니다. 둘째, 데이터 프라이버시: 선체 형태, 성능 곡선, 선주 야드 계약 및 운영 원격 측정은 영업 비밀이자 지적 재산입니다. 이 데이터를 승인되지 않은 외부 AI 서비스에 입력하는 것은 돌이킬 수 없는 손실입니다.

또한 데이터 중독(악의적인 입력으로 모델을 오도) 및 AIS와 같은 데이터 스푸핑과 같은 조작 위험으로 인해 AI의 입력을 맹목적으로 신뢰해서는 안 됩니다. 규칙: 중요한 데이터는 익명화되거나 전혀 공유되지 않으며, 승인되고 기밀이 보장된 도구만 ​​사용되며, 중요한 입력은 진위 여부를 교차 검증합니다.

위험

어떻게 발생합니까?

예방 조치

환각

구성된 규칙/값/소스

출처 확인, 순위 관리

OT 사이버 공격

통제 시스템 침투

격리, 사람의 승인, 안전한 기본값

데이터 유출

외부 도구에 기밀 데이터 입력

익명화, 승인된 도구

데이터 중독/스푸핑

의도적으로 손상된 입력

입력 검증, 교차 확인

모델 편향

불균형 훈련 데이터

인간의 판단으로 결과 검토

윤리와 책임 사슬

해상 결정의 법적, 기술적 소유권은 명확해야 합니다. 선장은 항해 안전을 담당하고, 수석 엔지니어는 기계를 담당하고, 담당 엔지니어는 설계 및 계산을 담당하며, 선급 검사관은 규칙 준수를 담당합니다. AI는 이 체인에 "책임 격차"를 초래해서는 안 됩니다. “AI가 이것을 제안했습니다”는 변명이 아닙니다. AI를 사용하고 그 결과물을 받아들이는 인간이 책임을 진다. 따라서 AI의 사용은 투명해야 하며(어떤 결정을 지지하는지, 어떤 검증을 거쳤는지 기록해야 함) 최종 결정은 서명된 사람에게 달려 있어야 합니다.

윤리적 차원에는 승무원 안전과 환경도 포함됩니다. 연료 절약 제안이 승무원을 위험에 빠뜨리고, 자동화 솔루션으로 안전 마진이 좁아지고, 단기 이익이 장기적인 위험을 가린다면 엔지니어링 윤리에서는 "아니오"라고 대답해야 합니다. AI는 생산성을 위한 강력한 도구입니다. 그러나 효율성은 생명, 환경, 정직한 엔지니어링 판단보다 결코 우선시될 수 없습니다.

미니 케이스

사례 1 — “AI가 그렇게 말했어요” 변명. 보고서에서는 AI가 지정한 한계값을 검증 없이 그대로 사용했는데, 그 값이 잘못된 것으로 판명되었습니다. 책임자는 “AI가 이런 걸 제안했다”고 변명한다. 집단법이나 책임법 모두 이를 인정하지 않습니다. 결과를 받아들이는 엔지니어가 책임을 집니다. 교훈: AI는 변명이 아니다. 책임은 사용하는 사람에게 있습니다.

사례 2 - 기밀 데이터 유출. 팀은 선주의 실제 성능과 연료 데이터를 공개된 AI 도구에 붙여넣고 분석을 요청합니다. 이 데이터는 이제 통제할 수 없습니다. 영업비밀 및 계약 위반이 발생합니다. 익명화된 대표값이나 승인된 도구를 사용하여 작업하면 위험이 없습니다. 교훈: 실제/기밀 데이터는 승인되지 않은 외부 도구에 입력되지 않습니다.

사례 3 - 작동하지만 코드가 잘못되었습니다. AI는 잠시 안정을 위해 Python 스크립트를 생성합니다. 코드는 오류 없이 실행되고 합리적인 숫자를 반환합니다. 엔지니어가 알려진 로드 케이스(답은 직접 알 수 있음)를 사용하여 테스트할 때 코드가 잘못된 부호와 정상 항을 사용한다는 사실을 발견했습니다. 스크립트는 "작동 중"이었지만 결과는 잘못되었습니다. 교훈: 계정 코드의 작동은 정확성을 보장하지 않습니다. 알려진 입력과 독립적인 검증을 통한 테스트가 필수적입니다.

복사 가능한 프롬프트 템플릿

템플릿 1 - 한도 및 위험 자체 평가:

역할: 당신은 내가 사용하는 AI 출력을 감사하는 검토자입니다.컨텍스트: [작업/출력].작업:1) 이 출력에서 ​​환각의 위험이 높은 부분은 무엇입니까?2) 물리적 타당성 측면에서 의심스러운 것이 있습니까?3) 적시성(법률/가격)이 필요한 값은 확인해야 합니까?4) 이 출력이 배포되지 않은(보이지 않는) 사례일 가능성이 있습니까? 의심스러운 각 점과 이를 확인하는 방법을 나열하십시오.

템플릿 2 - 계정 코드 확인 일정:

다음 AI 생성 회계 코드(Python/Excel)를 사용하기 전에 검증 계획을 세우십시오.[코드/논리 붙여넣기]1) 답을 즉시 알 수 있는 테스트 입력을 제안하십시오.2) 테스트해야 하는 극단적인 사례를 나열하십시오(0, 부정, 극단).3) 단위 일관성을 어떻게 확인합니까?4) 어떤 독립적인 수단으로 결과를 확인합니까?제약: 안전이 중요한 계정에는 승인된 도구/엔지니어 검증이 필요합니다.

템플릿 3 - 데이터 개인 정보 보호 필터:

개인 정보 보호 AI 도구에 제공할 다음 컨텍스트를 확인하십시오.[공유할 텍스트]1) 영업 비밀/기밀/계약 데이터가 포함되어 있습니까?2) 어떤 값을 익명화하거나 추출해야 합니까?3) 이 작업에는 승인된 내부 도구가 필요합니까?제약: 실제 배송/성능/계약 데이터는 외부 도구에 들어 가지 않습니다.

템플릿 4 — 책임 및 투명성 참고 사항:

다음과 같은 AI 기반 결정을 문서화하기 위해 투명성 메모 초안을 작성합니다:[결정]. 내용: (1) AI가 어느 단계에서 사용되었는지, (2) 어떤 확인을 거쳤는지, (3) 어느 사람이 승인했는지, (4) 어떤 소스가 확인되었는지. 제약: 최종 책임은 사람 서명에 있음을 분명히 합니다.

약한 프롬프트 / 강한 프롬프트

약한 프롬프트:

이 AI 분석을 보고서에 넣을 텐데 괜찮을까요?

강력한 프롬프트:

역할: 당신은 AI 출력을 감사하는 독립적인 검토자입니다. 상황: [분석/출력 및 사용 위치]. 작업: 1) 환각의 위험, 물리적 타당성 및 적시성을 표시합니다. 2) 기밀 유지를 위해 공유해서는 안 되는 데이터가 있습니까? 3) 이 출력을 확인하려면 인간이 어떤 단계를 거쳐야 합니까? 제약: "적절/부적절"한 결정을 내리지 않습니다. 확인 단계를 명시하고 책임은 서명 엔지니어에게 있음을 명시합니다.

약한 프롬프트에서 확인을 요청합니다. 강력한 프롬프트는 위험, 개인 정보 보호 및 인간 검증 체인을 노출합니다.

일반적인 실수

• "AI가 그렇게 말했다"는 뜻이다. 책임은 결과물을 수락하는 사람에게 있습니다. AI는 변명의 여지가 없습니다.
• 기밀 데이터를 외부 도구에 입력합니다. 영업비밀 및 계약 위반 한번 유출된 데이터는 복구할 수 없습니다.
• 작업 코드가 정확하다고 생각합니다. 오류 없이 작동하는 스크립트에는 잘못된 수식/단위가 포함될 수 있습니다. 테스트와 독립적인 확인이 필수적입니다.
• OT 시스템을 AI에 맡기세요. 제어 작업은 AI만으로는 실행되지 않습니다. 사람의 승인과 안전한 기본값이 유지됩니다.
• 안전보다 효율성을 우선시합니다. 비용 절감을 위해 생명, 환경, 정직한 엔지니어링 판단을 희생하지 않습니다.

요약하면

해양 AI의 지속적인 한계(환각, 배포 외 행동, 물리학 이해 부족, 구식) 및 위험(사이버/OT 보안, 데이터 개인 정보 보호, 중독, 편견)은 모듈 전반에 걸쳐 학습된 검증 규율이 왜 필수적인지 보여줍니다. 안전이 중요한 결정에서 AI 출력은 유능한 인간 승인을 대체할 수 없습니다. 책임의 사슬은 분명하며 “AI가 그렇게 말했다”는 변명이 될 수 없습니다. AI는 강력한 가속기입니다. 그러나 생명, 환경, 정직한 엔지니어링 판단이 항상 최우선입니다.

응용과제

이 모듈에서 생성한 AI 출력(계정, 보고서 초안 또는 코드)을 선택합니다. "한계 및 위험 자체 평가" 템플릿을 사용하여 환각, 물리적 타당성 및 현실의 위험을 표시하세요. 계정 코드인 경우 "계정 코드 확인 계획" 템플릿을 사용하여 알려진 입력으로 테스트하고 독립적으로 확인합니다. '데이터 개인정보 보호 필터'를 적용하고 공유해서는 안 되는 데이터를 필터링하세요. 마지막으로, 결정을 문서화하고 최종 책임이 누구에게 있는지 명확히 하는 투명성 메모를 작성하세요.

체크리스트

• [ ] AI 출력의 환각, 물리, 현실 위험성을 확인했습니다.
• [ ] 알려진 입력으로 계정 코드를 테스트하고 독립적으로 확인했습니다.
• [ ] 외부 도구에 기밀/계약 데이터를 입력하지 않았습니다. 나는 그것을 익명으로 처리했습니다.
• [ ] 나는 OT/제어 시스템에서 사람의 승인을 유지하고 기본 설정을 안전하게 유지했습니다.
• [ ] AI 사용 내역을 투명하게 문서화하고, 책임자를 명확히 했습니다.
• [ ] 나는 생명, 환경, 공학 윤리보다 효율성을 우선시한 적이 없습니다.

모듈 시험

1. 해양 엔지니어로서 AI 도구를 사용할 때 다음 중 최종 책임은 항상 인간(엔지니어/클래스맨)에게 있어야 합니까?

• A) 구조 요소의 클래스 규칙 준수 승인 및 서명 ✔
• 나) 저항 보고서 초안 작성
• 다) 차트의 축 라벨 편집하기
• 라) 기술보고서용 용어집 작성

설명: AI; 저항 사전 계산, 보고서 초안 작성, 데이터 요약 등의 작업 속도를 높일 수 있습니다. 그러나 구조 요소의 클래스 규칙 준수를 승인하고 이를 기술 파일에 서명으로 반영하는 것은 생명과 재산의 안전을 보장하는 결정입니다. 독립적인 검증 및 승인 없이는 AI로 이전할 수 없습니다.

2. AI에게 보트의 저항을 계산하게 했고, 모델 실험에는 없었던 '경험적 보정 계수'로 결과를 20% 줄였습니다. 가장 먼저 취해야 할 올바른 조치는 무엇입니까?

• 가) AI가 자신 있는 것 같아서 결과를 그대로 받아들이는 것
• B) 계수의 출처에 의문을 제기하고 근거 없는 수정을 거부하고 인정된 방법으로 다시 계산합니다. ✔
• C) 계수를 더욱 높이고 안전을 유지합니다.
• D) 결과를 변경하지 않고 프로펠러 선택으로 전환

설명: 언어 모델은 근거 없는 계수와 숫자(환각)를 설득력 있게 조작할 수 있습니다. 저항 등 추진력과 연료에 직접적인 영향을 미치는 계산에서는 사용된 각 계수(방법, 모델 테스트, 표준)의 출처에 의문을 제기하고 지원되지 않는 계수를 거부해야 합니다.

3. AI는 선박의 CII(Carbon Intensity Indicator)를 계산할 때 운반된 화물의 양을 분모로 사용하는 대신 거리만 사용했습니다. 이 출력의 주요 문제점은 무엇입니까?

• A) CII는 유조선에 대해서만 계산되므로 선상에서는 필요하지 않습니다.
• B) CII 결과는 항상 백분율로 표시되며 소수점은 잘못되었습니다.
• 다) CII 분모는 거리뿐만 아니라 운반능력(자중)과 거리를 곱한 값이어야 함 ✔
• D) CII 계산을 위해 속도 데이터가 필수인데 누락되었습니다.

설명: CII는 수행된 작업당 탄소 배출량을 측정하며 제공된 탑재량에 거리를 곱한 값을 기준으로 합니다(예: 중량 x 거리). 부하/용량이라는 용어를 빼면 지표가 완전히 잘못 계산됩니다. 첫 번째이자 필수 단계는 생산성 지표의 각 용어가 IMO 정의를 완전히 준수하는 것입니다.

4. 기관실에서 AI 기반 예측 유지 관리 시스템의 가장 가치 있는 결과물은 무엇입니까?

• 가) 과거 유지보수 평균 비용을 한 줄로 요약
• B) 모든 센서 데이터를 더욱 다채로운 그래프로 변환
• C) 색상 및 목록 진동/온도 추세
• D) 베어링이나 터보차저가 고장날 가능성이 높은 시간대를 미리 표시 ✔

설명: 예측 유지 관리의 목적은 장비가 고장나기 전에 성능이 저하되는 경향을 감지하고 적시에 유지 관리를 계획하는 것입니다. 따라서 예상치 못한 오작동 및 정지 위험이 줄어듭니다. 과거를 요약하는 것뿐만 아니라 미래에 대한 조기 경고를 생성하는 것도 가치가 있습니다.

5. AI는 FEA(유한요소해석) 모델의 응력 결과를 클래스 코드의 허용 응력과 비교하여 '적절'하다고 선언했습니다. 가장 올바른 접근 방식은 무엇입니까?

• A) 모델 설정(메시, 경계조건, 하중) 확인 및 클래스 규칙 텍스트에서 허용 응력 확인 ✔
• 나) AI가 '적합'이라고 해서 결과를 직접 확인하는 것
• 다) 허용응력을 임의로 낮추어 안전한 편에 머물게 한다.
• D) 네트워크를 조이지 않고 컬러 스케일만 변경

설명: FEA 결과; 이는 메쉬 품질, 경계 조건, 하중 정의 및 재료 특성에 전적으로 의존합니다. 또한 AI가 사용하는 허용 스트레스 값이 정확하지 않을 수도 있습니다. 결과를 승인하기 전에 모델 설정을 확인하고 텍스트에서 클래스 규칙 값을 확인해야 합니다.

6. AI로 날씨 라우팅을 수행하여 연료를 최소화하는 경로를 만들었습니다. 결과의 유용성에 가장 중요한 고려 사항은 무엇입니까?

• A) 항해 안전(파도, 기상, 선박 제한) 측면에서 안전해야 하며 선장의 승인을 받아야 합니다 ✔
• B) 지도에 표시되는 경로 중 가장 짧은 경로
• C) 경로에 가장 많은 포트 호출이 포함되어 있습니다.
• D) 약정과 상관없이 ETA를 최소화하는 노선

설명: 경로 제안이 아무리 연료 최적이라고 하더라도 항해 안전과 선장의 권한이 우선시됩니다. 폭풍, 파고, 선박 제한이 안전 한계를 초과하면 연료 증가는 ​​의미가 없습니다. 최종 경로 결정은 안전 제약 조건을 통해 필터링되고 선장의 승인을 받아야 합니다.

7. AI에 SOLAS 요구 사항을 요청했는데 특정 '장/규칙 번호'를 참조하여 정확한 값을 제공했습니다. 올바른 엔지니어링 행동은 무엇입니까?

• A) AI가 최신이라 값을 직접 적용하는 것
• B) 안전을 유지하기 위해 무작위로 값을 높입니다.
• C) 공식 최신 SOLAS/클래스 소스에서 항목 번호와 값을 확인합니다. ✔
• 라) 항목번호를 확인하지 않고 파일에 추가하는 경우

설명: 언어 모델이 계약/규칙 조항 번호 및 값을 잘못 기억하거나 구성할 수 있습니다. SOLAS, MARPOL 및 클래스 규칙과 같은 바인딩 필드에서 각 항목과 값은 공식 최신 소스(IMO 텍스트, 클래스 규칙, 관리 회람)에서 그대로 확인되어야 합니다. AI 출력에는 어디를 봐야 할지만 표시됩니다.

8. 자율 또는 의사결정 지원 내비게이션 시스템에서 AI는 레이더 및 AIS 데이터를 기반으로 기동을 제안했습니다. COLREG(충돌 회피) 측면에서 올바른 평가는 무엇입니까?

• A) AI가 현재 데이터에 액세스하면 자동으로 기동을 실행합니다.
• B) VHF를 통해 상대 선박에 제안을 전송하고 승인을 기다립니다.
• 다) 레이더를 끄고 AIS에만 의존
• D) 제안을 결정 지원으로 고려하고 COLREG 및 최종 기동 결정을 당직/기장 장교에게 맡깁니다.

설명: COLREG 규칙 및 모범 해상 관행에 따라 충돌 방지 및 최종 기동 결정에 대한 책임은 선교의 권한(선장/당직 장교)에게 있습니다. AI 추천은 의사결정 지원입니다. 사각지대, 센서 오류, 규칙 해석에는 사람의 감독이 필요합니다.

9. AI를 사용하여 주 엔진 SFOC(특정 연료 소비량) 곡선에서 연비 권장 사항을 생성했습니다. 합리성을 테스트하는 가장 적절한 방법은 무엇입니까?

• A) 과거 운행 데이터에 추천을 적용해 실제 연료 소모량과 비교 ✔
• 나) 제안을 그대로 받아들이고 예산에 저축으로 적는다.
• 다) 가장 낙관적인 저축률을 유일한 실제 가치로 삼음
• D) SFOC 곡선의 그래프를 아름답게 만드십시오.

설명: AI가 생성한 절감 주장은 선박의 실제 항해 데이터(기록된 연료 소비, 하중, 속도, 날씨)와 비교하여 테스트되어야 합니다. 이를 과거 항해 데이터에 소급 적용해 실제 소비량과 비교해 보면 권고안이 얼마나 현실적인지 알 수 있다.

10. AI가 준비한 설문조사/기술 보고서 ​​초안에는 유동적이지만 출처가 불확실한 기술적 가치가 포함되어 있습니다. 올바른 행동은 무엇입니까?

• 가) 본문이 유창하기 때문에 보고서를 있는 그대로 제시한다.
• B) 각 값을 원래 측정/소스와 일치시키고 확인되지 않은 값을 제거합니다. ✔
• C) 값 반올림 및 광택 처리
• D) 요약만 읽고 나머지는 건너뛰세요.

설명: 보고서의 각 기술 값은 원래 소스(측정, 교정된 장치 기록, 클래스 규칙, 제조업체 데이터)까지 추적 가능해야 합니다. 유창한 문장의 값이라 할지라도 출처 확인 없이 수업이나 경영진에 번호를 제출해서는 안 됩니다. 그렇지 않으면 가상의 값이 의사결정 기반에 입력됩니다.

11. AI 생성 Excel/Python 계산을 사용하기 전 가장 좋은 단계는 무엇입니까(예: 밸러스트 조건 및 안정성 순간)?

• 가) 실제 적재 계획에 직접 계산 적용
• B) 코드의 길이와 레이아웃만 보면
• C) 알려진 테스트 시나리오 및 승인된 로딩 도구와 계산을 비교하여 극단적인 사례 시도 ✔
• D) 코드의 일부를 삭제하여 단축

설명: 안정성 및 하중 계산은 올바른 것처럼 보이지만 잘못된 결과를 제공할 수 있습니다. 수동으로 또는 인증된 로딩 컴퓨터를 사용하여 결과를 알고 있는 소규모 테스트 시나리오에서 계산을 실행하고 이를 예상 출력과 비교하고 한계/에지 하중 사례를 시도하면 실제 로딩 결정으로 넘어가기 전에 오류를 포착할 수 있습니다.

12. 선박의 공유되지 않은 설계 및 성능 데이터를 공용 AI 도구에 붙여넣고 분석을 요청하려고 합니다. 가장 올바른 접근 방식은 무엇입니까?

• 가) 속도를 위해 데이터를 그대로 붙여넣기
• B) 선박명만 삭제하고 남은 데이터는 모두 공유하면 충분합니다.
• 다) 데이터를 공유한 후 AI에게 삭제 요청
• 라) 기관 정책 확인 및 데이터 익명화 또는 보안/제도적 도구 활용 ✔

공개: 선체 형태, 성능 곡선 및 선주/조선소 계약 데이터는 영업 비밀이며 지적 재산권에 민감합니다. 또한 중요한 인프라와 OT 시스템 정보는 사이버 위험을 수반합니다. 데이터를 공유하기 전에 회사 정책을 확인하고 이를 익명화하거나 데이터를 공유하지 않는 회사 도구를 사용해야 합니다.

13. 조선소 블록 어셈블리의 AI 기반 품질 관리에서 용접 이음매를 '허용'으로 표시했습니다. 올바른 엔지니어링 행동은 무엇입니까?

• A) AI 평가를 최종 합격으로 간주하고 봉제를 승인합니다.
• 나) AI 예비평가를 심사 도구로 고려하여 최종 합격을 NDT 결과 및 수업 승인으로 연결 ✔
• 다) 솔기를 전혀 검사하지 않고 다음 블록으로 이동
• D) 단순히 솔기 모양을 육안으로 확인하는 것만으로도 충분하다

설명: 용접 품질은 비파괴 검사(NDT) 결과 및 등급 승인이 필요한 안전에 중요한 영역입니다. 이미지나 데이터를 통한 AI의 예비 평가는 지침을 제공하지만 최종 승인은 학급 조사관의 적격한 검사 및 승인을 통해 이루어집니다.

14. 함대 관리에서 AI는 '이 벙커 포트와 이 속도는 확실히 가장 수익성이 높습니다'라고 원정대에 대한 확실한 권장 사항을 제시했습니다. 올바른 평가는 무엇입니까?

• A) AI가 최신 데이터에 접근하여 추천을 직접 구현
• B) 확고한 약속으로 선주에게 제안을 전달하기 위해
• C) 이 단일 출력을 기반으로 전체 원정 계획을 잠급니다.
• D) 확정 제안을 신뢰할 수 없는 것으로 간주하고 현재 가격, 용선 조건 및 안전성을 검증할 수 있는 시나리오로 간주 ✔

설명: 벙커 가격, 용선 조건, 날씨 및 항만 지연은 빠르게 변화하고 불확실한 변수입니다. AI는 절대적인 수익성을 보장할 수 없습니다. 제안은 현재 가격, 용선 계약 조건 및 안전 제약 사항을 확인해야 하는 시나리오 출력으로 취급되어야 합니다.