이득:
- 해상 작업 흐름(경로, 연료, 날씨, 문서화, 기계, 법률)에서 인공 지능이 시간을 절약하는 부분과 위험 수준에 따라 조종 및 안전 결정이 선장과 수석 엔지니어에게 맡겨지는 부분을 구별할 수 있습니다.
- 각각의 인공지능 출력물을 소스에 연결하고, 독립적인 도구로 확인하고, 전문가의 해석을 거쳐 전달하는 단계를 통해 검증하는 규율을 적용하는 능력입니다.
- 해양의 안전이 중요한 특성으로 인해 인공지능 출력이 유능한 전문가 승인을 대체할 수 없으며 최종 책임은 인간에게 있다는 것을 이해하는 능력.
당신은 컨테이너 선박의 다리 위에 있습니다. 눈앞에는 전자 지도(ECDIS - 전자 해도 표시 및 정보 시스템, 종이 지도를 대체하는 디지털 내비게이션 화면), 한쪽에는 레이더, 다른 쪽에는 일기예보 서비스에서 보내는 추천 경로가 있습니다. 인공 지능(이하 AI - 빅 데이터에서 패턴을 학습하고 예측 및 제안을 생성하는 컴퓨터의 능력)은 다음과 같은 제안을 내놓았습니다. "경로를 남쪽으로 12마일 이동하면 18시간이 절약되고 9톤의 연료가 절약됩니다." 제안은 유혹적입니다. 그러나 그 경로에는 또 다른 배, 얕은 배, 어선이 있습니다. 누가 이 제안을 승인할 것인가? 대답은 하나이며 이 모듈의 중추는 Captain입니다. AI는 계산하고, 제안하고, 신호를 보냅니다. 그러나 해상에서의 생명, 재산, 환경의 안전에 대한 법적 책임을 지는 사람은 선장이며, 이 책임은 어떤 알고리즘에도 전가될 수 없습니다.
이 모듈은 갑판 장교(선장, 부기장, 항해 장교)와 해양 공학 엔지니어(주임 기관사, 부 기관사, 엔진 장교)를 위해 작성되었습니다. 목표는 경로 및 연료 최적화부터 날씨 평가, 내비게이션 및 화물 문서화부터 기계 모니터링 및 예측 유지 관리, 안전 규제 연구부터 교량 결정 지원까지 AI가 엔드투엔드 방식으로 사용되도록 가르치는 것입니다. 그러나 동시에 AI가 자신의 위치와 출력을 검증해야 하는 이유를 이해하도록 만드는 것입니다.
해양이 특별한 분야인 이유는 무엇입니까?
해양은 오류로 인한 비용이 가장 높은 안전이 중요한 분야(오류로 인해 인명 손실, 환경 재해 또는 수백만 달러의 피해가 발생할 수 있음) 중 하나입니다. 육상 차량은 도로 옆에 정지할 수 있습니다. 300미터 길이의 유조선은 정지할 수 없고, 즉시 회전할 수 없으며, 몇 킬로미터를 이동하기 전에 속도를 늦출 수도 없습니다. 팀은 며칠 동안 가장 가까운 항구에서 떨어져 있습니다. 잘못된 결정은 외부에서 즉시 바로잡을 수 없습니다. 또한 이 분야는 SOLAS(해상에서의 생명 안전을 위한 국제 협약), COLREG(해상 충돌 방지 규칙), MARPOL(선박으로 인한 해양 오염 방지 협약), ISM 코드(국제 안전 관리 코드) 등 국제 규칙에 의해 엄격하게 규제됩니다.
따라서 운송에서 AI의 역할은 처음부터 분명합니다. AI는 의사 결정자가 아닌 의사 결정 지원 도구입니다. 엔지니어링, 항해 등 안전이 중요한 분야에서 AI 출력은 유능한 전문가(선장, 수석 엔지니어, 선급 조사관)의 승인을 대체할 수 없습니다. 일체 포함; 빅데이터 처리, 시나리오 제작, 초안 작성, 패턴 표시 등의 작업을 수행하는 보조자입니다. 마지막 단어는 항상 그 사람의 것입니다.
주의: "AI가 그렇게 말했다"는 방어가 아닙니다. 사고 후 조사(해양 사고 조사, P&I 클럽, 기국)에서 물어볼 질문은 "선장/엔지니어가 이 권장 사항을 확인한 독립적인 출처는 무엇입니까?"입니다. 검증기록이 없으면 책임은 전적으로 인간에게 있다. AI는 부담을 지지 않는다.
AI가 바다에서 시간을 절약하는 곳은 어디이며, 그 시간을 인간에게 맡기는 곳은 어디입니까?
AI를 올바르게 배치하려면 작업을 신속한 작업과 인간의 결정이라는 두 가지로 나눕니다.
- 가속화 가능(AI는 자신감을 갖도록 도움): 여러 일기 예보 시나리오 비교, 경로 대안의 연료/시간 추정, 일지 및 항구 문서 초안 작성, 기계 센서 데이터의 이상 징후 표시, 긴 규제 텍스트에서 관련 조항 찾기 초안 작성, 유지 관리 기록에서 패턴 추출.
- 인간(결정이 아닌 AI가 제안): 경로의 최종 승인, 선박을 통과할 수 있는 거리(COLREG 결정), 기계 정지 여부, 위험한 날씨 시 항구 대피소로 탈출 여부, 유지 관리 연기 가능 여부, 비상 기동.
이러한 구별은 모듈 전체의 각 단원에서 반복됩니다. AI가 추천을 '안전함'으로 표시한다고 해서 해당 추천이 해상에서 안전하다는 것을 증명하는 것은 아닙니다. 그것은 단지 가설을 제시할 뿐입니다.
검증 분야: 3단계 필터
각 AI 출력을 바다에 버리기 전에 세 가지 필터를 통과하세요.
- 소스에 연결하세요. 추천은 어떤 데이터를 기반으로 합니까? 날씨 데이터가 최신인가요? 어떤 모델인가요? 경로 추천은 어떤 지도(ENC - Electronic Navigational Chart, 공식 디지털 지도)를 기반으로 합니까? 출처를 알 수 없는 출력은 확인할 수 없는 출력입니다.
- 독립적인 도구로 확인하세요. 이동 금지 구역(건너서는 안되는 얕은/위험 구역)에 대한 ECDIS의 권장 경로를 확인하십시오. 선박 성능 곡선을 이용한 연료 추정; 두 번째 센서 또는 수동 측정을 통한 기계 이상 현상.
- 전문가의 논평을 받아보세요. 숫자가 정확하더라도 해양 상황에서 의미가 있습니까? "18시간의 이득"이 폭풍 전선을 통과해야 한다면, 그 이득은 가짜입니다.
팁: 각 요청마다 AI에게 "확실하지 않은 부분을 표시하고 어떤 데이터를 확인해야 하는지 적어주세요"라고 알려주세요. 좋은 결과물은 그 자체의 불확실성을 고백합니다. 이를 요구하면 확인이 더 쉬워집니다.
세 개의 미니 케이스
사례 1 — 확인되지 않은 경로. 벌크선에 탑승한 당직사관은 ECDIS에서 확인하지 않고 AI가 제안한 '단거리' 경로로 진입한다. 경로는 조수에 따라 깊이가 변하는 제방을 통과합니다. 낮은 물에서는 UKC(용골 간격 아래)가 거의 0으로 떨어집니다. 선장은 마지막 순간에 이를 깨닫고 항로를 수정한다. AI는 시간을 정확하게 계산했습니다. 그러나 수심과 조수 확인은 이루어지지 않았다. 교훈: 속도 향상은 보안 검증을 능가할 수 없습니다.
사례 2 - 오작동이 조기에 발견되었습니다. 유조선의 선수 엔진에서 YZ는 한 실린더가 다른 실린더에서 30°C만큼 벗어날 때 실린더 배기 온도를 표시합니다. 수석 엔지니어는 수동으로 표시기를 확인하고 연료 분사기를 점검하며 막힌 분사기를 찾습니다. 항구 이전에 교체되므로 항해 중에 문제가 발생하지 않습니다. AI가 지적했습니다. 엔지니어가 진단하고 수리했습니다.
사례 3 - 가짜 법안 기사. 경찰관이 AI에게 평형수 규칙에 관해 질문합니다. AI는 설득력 있지만 존재하지 않는 "항목 번호"(환각 - AI가 실제처럼 조작하는 정보)를 생성합니다. 만약 해당 담당자가 이를 확인하지 않고 보고서에 기재한다면 감사에 심각한 문제가 발생할 수 있습니다. 공식 IMO 텍스트와 비교할 때 상관 없습니다. 교훈: 법안에서 AI는 "어디를 볼지"만 알려줍니다. 공식 텍스트에서 조항을 읽었습니다.
약한 프롬프트 / 강한 프롬프트
약한 프롬프트:
가장 좋은 경로를 알려주세요.
"최고"는 정의되지 않았습니다. 선박 유형, 화물, 날씨, 제한 없음. AI는 일반적이고 안전하지 않은 답변을 생성합니다.
강력한 프롬프트:
귀하의 역할: 선임 항해사 고문. 선박: 180m 벌크 화물, 흘수 10.5m, 서비스 속도 13노트. 경로: 지브롤터 -> 피레우스. 72시간 바람/파도 예보가 있습니다(아래). 과제: 2-3 경로 대안 초안 작성; 각각에 대해 예상 시간, 연료 및 경험한 최고 파도 높이를 기록합니다. 제약: ECDIS에서 UKC 및 이동 금지 구역을 확인하겠습니다. 떼/조수에 대해 "확인 필요"를 기록합니다. 확실하지 않은 숫자를 선택하세요.
컨텍스트, 제약 조건 및 유효성 검사 요청은 출력을 유용하고 안전하게 만듭니다.
역할 및 책임 표
퀘스트
AI의 역할
궁극적인 책임
경로 대안 생성
시나리오, 예측
선장
경로 확인 및 UKC
경고/초안
선장/항해사
연료 최적화
계정, 제안
선장/중대
기계 이상 감지
마킹
수석 엔지니어
유지보수 결정
우선 추천
수석 엔지니어
규제 연구
소스로 리디렉션
장교 + 공식 텍스트
COLREG 기동
(결정외)
감시 장교 / 선장
일반적인 실수
- AI가 의사결정자라고 생각합니다. AI가 제안합니다. 선장/주임 엔지니어가 결정을 내리고 책임을 집니다.
- 출력을 소스에 연결하지 않습니다. 어떤 기상 모델, 어떤 지도, 어떤 센서인가요? 소스가 없는 출력은 확인할 수 없습니다.
- 환각을 현실로 착각하는 것. AI는 존재하지 않는 항목, 포트 규칙 또는 깊이를 만들어낼 수 있습니다. 공식 출처의 확인이 필요합니다.
- 속도를 위해 보안 검증을 희생합니다. 시간/연료 절약은 UKC 및 이동 불가 확인보다 결코 중요하지 않습니다.
- 기밀/상업 데이터를 차량에 무분별하게 업로드하는 행위. 화물 목록, 경로, 상업 계약은 민감합니다. 승인된 차량과 마스킹이 필요합니다.
요약하면
해양은 안전이 중요한 영역이며 여기서 AI는 의사결정자가 아닌 의사결정 지원 보조자입니다. 일체 포함; 경로, 연료, 날씨, 문서화, 기계 모니터링 및 규제 조사에 소요되는 시간을 절약합니다. 그러나 경로 승인, 조종, 엔진 정지 및 비상 결정은 인간, 즉 대부분 선장과 수석 엔지니어에게 달려 있습니다. 각 출력은 3단계 필터(소스 속성, 독립 도구로 확인, 전문가 검토 통과)를 통과해야 합니다. AI 결과물은 유능한 전문가의 승인을 대체할 수 없습니다.
응용과제
자신의 선박 유형(또는 가상의 선박)을 설명하십시오. AI가 위의 "강력한 프롬프트" 패턴을 사용하여 두 가지 경로 대안 초안을 작성하도록 합니다. 그런 다음 출력을 3단계로 필터링합니다. 각 숫자의 소스를 기록하고, 사용할 보조 도구(ECDIS, 성능 곡선)를 표시하고, AI가 표시한 "확인 필요" 지점을 나열합니다.
체크리스트
- [ ] 저는 AI를 의사결정 지원 도구로 포지셔닝했습니다. 나는 결정을 내린다.
- [ ] 각 출력을 소스(날씨 모델, 지도, 센서)에 연결했습니다.
- [ ] 독립적인 도구(ECDIS, 성능 곡선, 수동 측정)를 사용하여 권장 사항을 확인했습니다.
- [ ] 공식 출처에서 입법/심도/규칙 정보를 확인했습니다. 환각을 확인했습니다.
- [ ] 속도/연비 향상보다 보안 확인을 우선시하고 민감한 데이터를 보호했습니다.