Прибыль:
- Возможность различать, где искусственный интеллект экономит время в морском рабочем процессе (маршрут, топливо, погода, документация, техника, законодательство), а где решения о маневрировании и безопасности оставляются на усмотрение капитана и главного механика, в зависимости от уровня риска.
- Способность применять дисциплину, которая проверяет каждый результат искусственного интеллекта на этапах подключения его к источнику, подтверждения с помощью независимого инструмента и прохождения экспертной интерпретации.
- Способность понимать, что из-за критического характера морских перевозок результаты искусственного интеллекта не заменяют одобрение компетентных экспертов и что окончательная ответственность лежит на человеке.
Вы находитесь на мостике контейнеровоза. Перед вами электронная карта (ECDIS — Electronic Chart Display and Information System, цифровой навигационный экран, заменяющий бумажную карту), с одной стороны радар, с другой — рекомендация маршрута, отправленная службой прогноза погоды. Искусственный интеллект (далее ИИ — способность компьютера изучать закономерности на основе больших данных и выдавать прогнозы и предложения) выдал следующее предложение: «Сдвиньте свой маршрут на 12 миль к югу, сэкономьте 18 часов, сэкономьте 9 тонн топлива». Предложение заманчивое. Но на этом пути есть еще один корабль, мелководный и рыболовецкий флот. Кто одобрит это предложение? Ответ один и является основой этого модуля: капитан. ИИ рассчитывает, предлагает, сигнализирует; Но человеком, который несет юридическую ответственность за безопасность жизни, имущества и окружающей среды на море, является капитан, и эту ответственность невозможно передать какому-либо алгоритму.
Этот модуль был написан для палубных офицеров (капитан, первый помощник, штурманы) и инженеров морской техники (главный механик, второй механик, машинисты). Цель состоит в том, чтобы научить ИИ использоваться на всех этапах: от оптимизации маршрута и топлива до оценки погоды, от навигационной и грузовой документации до мониторинга техники и профилактического обслуживания, от исследований в сфере безопасности до поддержки принятия решений на мостике; но в то же время, это должно дать ИИ понять, где он должен стоять и почему его выходные данные должны быть проверены.
Почему морское дело является особой областью?
Морское судоходство является одним из секторов, критически важных для безопасности (где ошибка может привести к гибели людей, экологической катастрофе или ущербу в миллионы долларов), где цена ошибки самая высокая. Наземное транспортное средство может остановиться на обочине дороги; Танкер длиной 300 метров не может остановиться, не может сразу повернуть или замедлиться, прежде чем проехать несколько километров. Команда находится вдали от ближайшего порта на несколько дней; Неправильное решение не может быть немедленно исправлено извне. Более того, эта область жестко регулируется международным сводом правил — SOLAS (Международная конвенция по охране человеческой жизни на море), COLREG (правила предотвращения столкновений на море), MARPOL (конвенция по предотвращению загрязнения моря с судов), Кодекс ISM (Международный кодекс управления безопасностью).
Таким образом, роль ИИ в судоходстве ясна с самого начала: ИИ — это инструмент поддержки принятия решений, а не лицо, принимающее решения. В критически важных для безопасности областях, таких как инженерное дело и навигация, результаты ИИ не заменяют одобрение компетентного эксперта (капитана, главного механика, классного инспектора). ИИ; Это помощник, который обрабатывает большие данные, создает сценарии, пишет черновики и размечает закономерности. Последнее слово всегда принадлежит человеку.
Внимание: «Так сказал ИИ» не является защитой. Вопрос, который следует задать в ходе расследования после аварии (расследование морских происшествий, клуб P&I, государство флага): «С помощью какого независимого источника капитан/инженер проверил эту рекомендацию?» Если записи о проверке нет, ответственность полностью лежит на человеке — ИИ не несет никакой нагрузки.
Где ИИ экономит время в море, а где оставляет его людям?
Чтобы правильно позиционировать ИИ, разделите работу на две части: оперативную работу и человеческие решения.
- Может быть ускорено (ИИ помогает с уверенностью): сравнение нескольких сценариев прогноза погоды, оценка топлива/времени альтернативных маршрутов, составление журналов и портовых документов, пометка аномалий в данных датчиков оборудования, составление проектов, поиск соответствующих положений в длинном нормативном тексте, извлечение закономерностей из истории технического обслуживания.
- Человек (ИИ делает предложения, а не решения): окончательное утверждение маршрута, сколько миль пройти судну (решение МППСС), остановить ли машину, уйти в портовое укрытие в случае опасной погоды, можно ли отложить техническое обслуживание, аварийный маневр.
Это различие будет повторяться в каждом модуле на протяжении всего модуля. Тот факт, что ИИ показывает рекомендацию как «безопасную», не доказывает, что рекомендация безопасна на море; он просто предлагает гипотезу.
Дисциплина проверки: трехступенчатый фильтр
Прежде чем сбросить каждый вывод ИИ в море, пропустите его через три фильтра:
- Подключите его к источнику. На каких данных основаны рекомендации? Актуальны ли данные о погоде, какая модель? На какой карте (ENC — электронная навигационная карта, официальная цифровая карта) основаны рекомендации по маршруту? Выходные данные неизвестного происхождения являются непроверяемыми выходными данными.
- Подтвердите с помощью независимого инструмента. Проверьте рекомендации по маршруту в ECDIS для определения запретных зон (неглубокая/опасная зона, которую нельзя пересекать); оценка топлива по кривой производительности судна; неисправность машины с помощью второго датчика или ручного измерения.
- Получите экспертный комментарий. Даже если цифра правильная, имеет ли она смысл в морском контексте? Если «18 часов выигрыша» требуют прохождения штормового фронта, этот выигрыш является фиктивным.
Совет: Скажите ИИ «отметьте там, где вы не уверены, и запишите, какие данные необходимо проверить» при каждом запросе. Хороший результат признает свою неуверенность; Требование этого упрощает проверку.
три мини-кейса
Случай 1 — Непроверенный маршрут. На балкере вахтенный офицер выходит на «короткий» маршрут, предложенный ИИ, не проверяя его в ЭКНИС. Маршрут проходит над берегом, глубина которого меняется в зависимости от прилива; В условиях малой воды UKC (подкилевой зазор) падает практически до нуля. Капитан понимает это в последний момент и корректирует маршрут. ИИ правильно рассчитал время; но подтверждения глубины и прилива не было. Урок: прирост скорости не может превзойти проверку безопасности.
Случай 2 — Неисправность обнаружена раньше. На носовом двигателе танкера YZ отмечает температуру выхлопных газов в цилиндрах, когда температура одного цилиндра отклоняется от температуры других на 30°C. Главный инженер вручную сверяет показатели, проверяет топливную форсунку и обнаруживает засоренную форсунку. Его заменяют раньше порта, поэтому проблем при навигации не будет. отметил ИИ; инженер диагностировал и отремонтировал его.
Случай 3 — Статья о фейковом законодательстве. Офицер спрашивает ИИ о правилах использования балластной воды; ИИ выдает убедительный, но несуществующий «номер предмета» (галлюцинацию — информацию, которую ИИ выдает за реальную). Если бы офицер написал это в отчете, не проверив, то были бы серьезные проблемы в проверке. Неважно, по сравнению с официальным текстом IMO. Урок: в законодательстве ИИ лишь подсказывает, «куда смотреть»; Вы прочитали это положение из официального текста.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Дайте мне лучший маршрут.
«Лучший» не определен; тип судна, груз, погода, ограничений нет. ИИ дает общий и неуверенный ответ.
Мощная подсказка:
Ваша роль: старший советник штурмана. Корабль: насыпной груз длиной 180 м, осадка 10,5 м, эксплуатационная скорость 13 узлов. Маршрут: Гибралтар -> Пирей. У меня есть прогноз ветра/волн на 72 часа (ниже). Задача: Продумать 2-3 варианта маршрута; Для каждого запишите расчетное время, топливо и максимальную высоту волны. Ограничение: я подтвержу UKC и запретные зоны в ECDIS; вы отмечаете «требуется подтверждение» для отмелей/прилива. Отметьте любую цифру, в которой вы не уверены.
Контекст, ограничение и запрос проверки делают выходные данные полезными и безопасными.
Таблица ролей и ответственности
Квест
Роль ИИ
в конечном итоге ответственный
Создание альтернативных маршрутов
Сценарий, прогноз
капитан
Подтверждение маршрута и UKC
Предупреждение/черновик
Капитан/штурман
оптимизация топлива
аккаунт, предложение
Капитан/рота
Обнаружение аномалий машины
маркировка
главный инженер
решение о техническом обслуживании
Приоритетная рекомендация
главный инженер
Нормативные исследования
Перенаправление на источник
Офицер + официальный текст
Маневр МППСС
(Вне решения)
Вахтенный офицер/капитан
Распространенные ошибки
- Думая, что ИИ принимает решения. ИИ предполагает; Капитан/главный инженер принимает решения и несет ответственность.
- Не подключение выхода к источнику. Какая модель погоды, какая карта, какой датчик? Неисходные выходные данные не могут быть проверены.
- Принятие галлюцинации за реальность. ИИ может изобрести несуществующий предмет, правило порта или глубину; Требуется подтверждение официального источника.
- Жертвовать проверкой безопасности ради скорости. Экономия времени и топлива никогда не перевешивает UKC и подтверждение отказа.
- Загрузка конфиденциальных/коммерческих данных в автомобиль без разбора. Грузовой манифест, маршрут, коммерческие контракты являются конфиденциальными; требуется утвержденный автомобиль и маскировка.
В итоге
Морское судоходство — сфера, критически важная для безопасности, и ИИ здесь является помощником в принятии решений, а не лицом, принимающим решения. ИИ; экономит время на маршруте, топливе, погоде, документации, контроле за машинами и нормативных исследованиях; но утверждение маршрута, маневрирование, остановка двигателя и принятие экстренных решений остаются за людьми — в основном за капитаном и главным инженером. Каждый результат должен пройти трехступенчатый фильтр (приписать источнику, проверить независимым инструментом, пройти экспертную оценку). Результаты искусственного интеллекта не заменяют одобрение компетентного эксперта.
Задача приложения
Опишите свой тип корабля (или воображаемый корабль). Попросите ИИ составить два альтернативных маршрута, используя приведенный выше шаблон «Сильная подсказка». Затем отфильтруйте выходные данные в три этапа: запишите источник каждого числа, укажите, какой вторичный инструмент (ECDIS, кривая производительности) вы будете использовать, и перечислите точки «требуется подтверждение», которые пометил ИИ.
контрольный список
- [ ] Я позиционировал ИИ как инструмент поддержки принятия решений; Я принимаю решение.
- [ ] Каждый выход я подключил к источнику (модель погоды, карта, датчик).
- [ ] Я подтвердил рекомендации с помощью независимого инструмента (ЭКНИС, кривая производительности, ручное измерение).
- [ ] Я проверил информацию о законодательстве/глубине/правилах из официального источника; Я проверил, нет ли галлюцинаций.
- [ ] Я поставил проверку безопасности выше прироста скорости/топлива и защитил конфиденциальные данные.