Этика, конфиденциальность данных, границы и целостное управление проверкой

Прибыль:

• Способность обеспечивать соблюдение правил конфиденциальности для защиты прав на добычу полезных ископаемых, данных, относящихся к конкретному объекту, и чувствительности сообщества.
• Способность трансформировать галлюцинации, неуверенность и пределы ответственности в оперативный контроль.
• Способность поддерживать использование ИИ в геологической инженерии с помощью сквозной проверки и дисциплины управления.

Последний блок этого модуля объединяет все предыдущие блоки под одной крышей: управление использованием искусственного интеллекта в геологической инженерии устойчивым, безопасным и этическим образом. Одних только технических навыков недостаточно; Инженер-геолог также защищает коммерчески конфиденциальные данные, учитывает чувствительность общества и окружающей среды, превращает галлюцинации и неуверенность в оперативный контроль и берет на себя полную ответственность. Этот модуль превращает запутанные правила в работоспособную дисциплину: что мы не разделяем, каким результатам мы доверяем и как, что мы делаем, когда происходят ошибки, и как сделать все это постоянной привычкой.

Геология — это профессия, чьи решения затрагивают многие километры под землей, миллионы долларов инвестиций, а иногда и безопасность целых сообществ. Поэтому этика здесь – это не абстрактный идеал, а конкретные правила, встроенные в повседневный рабочий процесс. Когда вы закончите этот модуль, вы сможете внедрить все методы, которые вы изучили в рамках модуля, в структуру управления и использовать искусственный интеллект в качестве контролируемого умножителя силы, а не источника риска.

Конфиденциальность данных и конфиденциальность прав на полезные ископаемые

Геологические данные зачастую чрезвычайно чувствительны. Координаты бурения, значения содержаний, показатели запасов и цели разведки являются коммерческой тайной и обычно принадлежат владельцу прав на добычу полезных ископаемых (компании-лицензиата или государству). Ввод этих данных в неконтролируемую внешнюю службу искусственного интеллекта создает три серьезных риска: конкурентный риск (конкурент может отследить открытие), юридический риск (нарушение конфиденциальности и владения данными) и общественный риск (ранняя утечка открытия может породить спекуляции и конфликты).

Правильный подход – многоуровневый. Во-первых, анонимизация конфиденциальных данных: замена фактических координат репрезентативными значениями, фактическое имя поля на «Поле-А», фактические оценки на масштабированные/репрезентативные значения. Во-вторых, по возможности используйте одобренные учреждением и контролируемые инструменты (внутрифирменные или защищенные договором среды, где данные не утекают). В-третьих, принцип наименьшего количества данных: совместное использование наименьшего объема данных, достаточного для выполнения задачи, а не всей базы данных. Скорость вывода никогда не важнее конфиденциальности данных.

Внимание: пометка «Эти данные конфиденциальны» не защищает данные. Написать о том, что это конфиденциально, и поделиться этим как есть, сопряжено с тем же риском, что и не писать вообще. Конфиденциальность достигается за счет анонимизации данных и использования контролируемых средств; не путем заявления о намерениях.

Превращение галлюцинаций и неопределенности в оперативный контроль

На протяжении всего модуля мы снова и снова видели галлюцинации (модель, выдающую несуществующую информацию, как если бы она была реальной) и неуверенность. В этом модуле мы преобразуем их из абстрактных предупреждений в конкретные меры контроля. Для каждого выхода AI используются три операционных элемента управления:

Ограничение ресурсов. Введение в модель правила «только на основе данных, которые я вам предоставляю, не выдумывайте» и маркировка источника каждого утверждения. Это не прекращает галлюцинацию, но делает ее видимой.

Принуждение к неопределенности. Запрашивайте уровень или диапазон достоверности, а не одноточечную оценку. Различие «высокая достоверность/средняя/спекулятивность» не позволяет модели действовать так, как если бы она была точной.

Независимая проверка. Три привязки, которые мы устанавливаем на протяжении всего модуля — порядок величины, геологическая достоверность, полевые данные — применимы к каждому результату. К критически важным для безопасности результатам также добавляются стандартные расчеты и одобрение инженеров.

Эти три элемента управления не устраняют галлюцинации и неуверенность; делает их управляемыми, видимыми и проверяемыми. В этом и есть разница: неконтролируемый риск опасен, видимый и управляемый риск является нормой инженерной деятельности.

Пределы ответственности и согласие человека

Непреложный принцип этого модуля: искусственный интеллект поддерживает и ускоряет; Ответственность за решение, отчет и проектирование остается за уполномоченным инженером-геологом. Это не лозунг, это юридический и этический факт. Подписан протокол, дана оценка опасности, утвержден проект — все это профессиональная ответственность человека. «Так сказал ИИ» — это не инженерное оправдание; точно так же, как не может быть «так сказал калькулятор».

Это означает, что ответственность не подлежит делегированию. Даже если модель выдает выходные данные, инженер, который преобразует эти выходные данные в решение и подписывает его, несет ответственность за точность выходных данных. Следовательно, каждый критический для безопасности вывод должен быть проверяемым (отслеживаемым, источник известен), проверяемым (проверенным независимыми расчетами) и одобренным человеком. Это трио — последний уровень уверенности в каждом методе, который мы изучаем на протяжении всего модуля.

Совет: Прежде чем подписать распечатку, спросите себя: «Если эта распечатка окажется неверной, смогу ли я защитить то, на чем я основывал свое решение и чем я его обосновал?» Если ваш ответ «Сгенерировано ИИ», проверка еще не завершена.

Три мини-кейса: в цифрах

Случай 1. Предотвращение утечек. Геолог геологоразведочной компании собирался загрузить 1200 строк реальных таблиц содержания скважин в неконтролируемую внешнюю службу для быстрого анализа. Институциональная политика вступила в игру и попросила его сначала обезличить данные (масштабировать координаты и скрыть имя поля). Позже выяснилось, что коммерческая стоимость этого открытия составила миллионы долларов; Неконтролируемая погрузка могла стать серьезной утечкой с конкурентной и юридической точки зрения. Анонимизация заняла несколько минут, а ценность, которую она сохранила, была огромной.

Случай 2. Неопределенность стала видимой. В отчете одного источника команда попросила предоставить результаты модели в уровнях достоверности, а не в однозначных цифрах. Оказалось, что зона с пометкой «спекулятивная» на самом деле возникла в результате одного бурения; Эта зона была исключена из экономической оценки. Если бы не было давления неопределенности, одно-единственное обоснованное предположение привело бы к решению на миллион долларов как надежные данные.

Случай 3 — Доверие с возможностью отслеживания. Когда их спросили об источнике каждой проблемы геотехнического отчета в ходе аудита, команда смогла отследить каждое значение до входных данных, метода и этапа утверждения благодаря записям прослеживаемости. В одной проблеме было обнаружено незначительное несоответствие, но основная причина и последствия были выявлены и устранены в течение нескольких минут. Управленческая дисциплина разрешила ошибку до того, как она переросла в кризис.

Слабая подсказка/Сильная подсказка

Слабая подсказка:

Проанализируйте все данные нашей компании по бурению и содержанию в этом месторождении и сообщите нам лучший объект для добычи полезных ископаемых. [фактические координаты и оценки]

Мощная подсказка:

Мне нужна помощь с анализом поиска. Правила конфиденциальности: - Координаты и название объекта являются репрезентативными («Площадка-А», масштабированные значения); Я не разделяю истинных ценностей. - Просто полагайтесь на технические данные, которые я даю; подгонка пласта/минерала/возраста.- Дайте комментарии с уровнем достоверности (высокий/средний/спекулятивный).- Перечислите предположения, которые необходимо проверить в конечном итоге, и моменты, которые требуют подтверждения на местах. Окончательное решение и ответственность за мной; Вы генерируете проекты и варианты.

Четыре копируемых шаблона

1) Предварительная проверка конфиденциальности:

Учитывайте риск конфиденциальности, прежде чем передавать следующие данные инструменту искусственного интеллекта: какие поля (координаты, класс, название объекта, компания) являются конфиденциальными и как их следует анонимизировать? Чем мне не следует делиться по принципу наименьших данных? Дайте мне контрольный список.

2) Галлюцинационная визуализация:

Перечислите каждое фактическое утверждение (возраст, формирование, количество, источник) в этом выводе отдельно и для каждого: подтверждается ли оно данными данными, является ли это выводом или не подтверждается? Четко отметьте те, которые необоснованны или не поддаются проверке.

3) Контрольный список управления верификацией:

Проверьте три уровня для этого критического для безопасности вывода: (1) отслеживаемость — записываются ли источник, метод, версия модели? (2) проверяемость — было ли оно проверено на соответствие независимым отчетам/стандартам? (3) одобрение человека — существует ли этап утверждения квалифицированным инженером? Отметьте недостающие.

4) Разделение лимитов ответственности:

Разделите эту задачу на две: (A) данные/черновая работа, которую ИИ может выполнять безопасно, (B) точки, которые ДОЛЖНЫ быть утверждены решением и подписью авторизованного инженера. Укажите, какая проверка требуется для каждого пункта B.

Аспекты управления, риски и контроль

Размер

Основной риск

оперативный контроль

Конфиденциальность данных

Конкуренция/юридическая утечка

Анонимизация + контролируемый автомобиль + минимум данных

галлюцинация

В подпись попадает сфабрикованная информация

Ограничение ресурсов + контроль утверждений

неопределенность

ложная уверенность

Проблема уровня уверенности/диапазона

прослеживаемость

Основная причина не может быть найдена

Запись об источнике/методе/версии

Ответственность

Основание для решения несостоятельно

Аудируемый + проверяемый + сертифицированный человеком

сообщество/окружающая среда

Ранняя утечка, потеря доверия

Точное наблюдение + прозрачность

Совет: рассматривайте управление как средство ускорения, а не как препятствие. Хорошо зарекомендовавшие себя правила конфиденциальности, аутентификации и отслеживания превращают многочасовые кризисы в минутные исправления при возникновении проблем; Повышает надежность и возможность повторного использования.

Распространенные ошибки

• Попытка обеспечить конфиденциальность посредством заявления о намерениях. Написание «конфиденциальной» заметки и предоставление данных в том виде, в каком они есть, не защищает их; Анонимизация и контролируемый автомобиль необходимы.
• Сведение неопределенности к однозначным цифрам. Если уровень достоверности не требуется, в решение принимается однозвучное предположение, как если бы это были достоверные данные.
• Обход отслеживания. Без записи об источнике и методе невозможно определить основную причину и влияние ошибки.
• Передача ответственности на автомобиль. «ИИ так сказал» не является оправданием; Подпись и решение принадлежат инженеру.
• Игнорирование чувствительности общества и окружающей среды. Преждевременные утечки информации и отсутствие прозрачности разрушают доверие и социальную лицензию.

В заключение

• Геологические данные являются конфиденциальными с коммерческой и юридической точки зрения; Конфиденциальность обеспечивается анонимизацией, контролируемыми средствами и принципом наименьшего количества данных, а не декларацией о намерениях.
• Галлюцинации и неопределенность преобразуются в три оперативных контроля: ограничение ресурсов, обеспечение неопределенности, независимая проверка (три якоря).
• Ответственность не может быть делегирована; Каждый критически важный для безопасности результат должен быть проверяемым, проверяемым и одобренным человеком.
• Хорошее управление – это не помеха, а ускорение; Это превращает кризисы в мелкие исправления и повышает уверенность.
• Искусственный интеллект — это управляемый мультипликатор силы в геологической инженерии; Владельцем решения и подписи всегда является уполномоченный инженер.

Задача приложения

Рассмотрим реальный, но точный набор данных (содержащий координаты и уклон) из вашего собственного бизнеса. Запишите контрольный список того, какие поля вы будете анонимизировать и как с помощью шаблона «предварительная проверка конфиденциальности». Затем в этом модуле выберите тип выходных данных, который вы считаете наиболее рискованным (например, уклон FS, разжижение, тоннаж ресурсов), проверьте три уровня (отслеживаемость, верифицируемость, одобрение человека) с помощью шаблона «контрольного списка управления проверкой» и напишите в одном предложении, как вы будете охватывать момент, который вы считаете недостающим.

контрольный список

• [ ] Я защищаю конфиденциальные геологические данные с помощью анонимизации, контролируемых средств и принципа наименьшего количества данных.
• [ ] Я управляю галлюцинациями и неопределенностью с помощью ограничения ресурсов, уровня доверия и трех проверок привязки.
• [ ] Я делаю каждый критический для безопасности вывод проверяемым, проверяемым и одобренным человеком.
• [ ] Я согласен с тем, что ответственность не подлежит передаче и подпись остается за инженером.
• [ ] Я реализую управление как средство обеспечения скорости и доверия, уровень обеспечения качества поверх всех модульных методов.

Модульный экзамен

1. Что из перечисленного является основным принципом, определяющим риск результатов ИИ в инженерно-геологической деятельности?

• А) Риск выхода равен вреду, который он мог бы причинить, если бы этот выход был неисправен; проверка масштабируется соответственно ✔
• Б) Выводы ИИ, как правило, безопасны, поскольку они написаны бегло и уверенно.
• C) Валидация не требуется, если используется самая последняя модель.
• Г) Если выходные данные соответствуют стандарту, дополнительный контроль не требуется.

Пояснение: Риск выхода равен вреду, который он причинит, если этот выход неисправен. Хотя незначительная ошибка в обзоре литературы может быть безвредной, ошибка в коэффициенте наклона безопасности или оценке сжижения может привести к гибели людей и материальному ущербу; поэтому интенсивность проверки зависит от потенциального вреда.

2. Почему проблема «неединственности» геофизической инверсии обуславливает необходимость использования ИИ?

• А) Прямое принятие первой интерпретации, произведенной моделью
• Б) Сужение интерпретации путем привязки ее к данным скважин, бурению и геологическим ограничениям ✔
• C) Выбирайте только графику с самым высоким разрешением.
• Г) Полный отказ от геофизических данных

Пояснение: одно и то же геофизическое измерение (например, данные гравитации или удельного сопротивления) может быть описано более чем одной различными моделями геологической среды. Таким образом, интерпретация, созданная ИИ, не является единственно правильной; Его необходимо сузить, соединив независимые ограничения, такие как каротаж скважины, бурение и геологический контекст.

3. Как используются вариограмма и кригинг при оценке ресурсов?

• А) Автоматически раскрашивает основные фотографии.
• Б) Регулирует скорость сверлильного станка
• C) Определяет пространственную непрерывность между пробами и оценивает содержание в неотобранных блоках с неопределенностью ✔
• D) Физически обогащает руду

Описание: Вариограмма – это мера пространственной непрерывности, которая описывает, как сходство сортов уменьшается по мере увеличения расстояния между точками отбора проб. Кригинг — это геостатистический метод, который использует эту структуру для оценки содержания в блоках без выборки, а также неопределенности оценки; На этом построена блочная модель.

4. Какой шаг необходим, прежде чем считать карту изменений, полученную с помощью дистанционного зондирования, надежной?

• А) Цветовая палитра карты должна быть эстетичной.
• Б) Изображение загружено в самом высоком разрешении.
• C) Контроль полей и проб в выбранных точках с достоверностью ✔
• Г) Аномалия отмечена искусственным интеллектом.

Описание: Спектральный анализ выявляет аномалии, указывающие на изменение минералов, но они могут вводить в заблуждение из-за растительности, тени или атмосферных воздействий. Карта не считается окончательной без достоверных данных, а также контроля полей и образцов в выбранных точках.

5. Почему «коэффициент безопасности» (FS) является якорем проверки выходных данных AI при анализе устойчивости склона?

• А) Потому что он показывает только стоимость раскопок
• Б) Просто потому, что он описывает цвет склона
• В) Потому что он физически проверяет риск отказа, задавая соотношение сил, которые сопротивляются и скользят затвор ✔
• D) Потому что это имеет смысл только в лабораторных условиях.

Пояснение: Коэффициент запаса прочности – это отношение сил, противодействующих скольжению, к силам, скользящим; Значение FS, близкое к 1 или ниже, указывает на риск сбоя. Геометрия уклона или набор параметров, предложенный ИИ, физически тестируются путем создания FS путем расчета предельного равновесия и сравнения его со стандартными порогами.

6. Какова основная цель обработки описания керна в виде произвольного текста («коричневый, выветрелый, трещиноватый известняк, редкие жилы кальцита») с помощью ИИ?

• А) Случайное переписывание наблюдения
• Б) Автоматически увеличивать глубину сверления
• В) Физическое изменение нумерации ядра
• D) Сделайте данные доступными для запроса путем перевода противоречивого свободного текста в стандартную терминологию и структурированные поля ✔

Описание: ИИ преобразует противоречивые полевые наблюдения в виде произвольного текста в стандартную терминологию и структурированные поля (литология, степень выветривания, неоднородность, вторичные минералы), делая данные доступными для запроса и сопоставимыми. Однако геологическая интерпретация вновь подтверждается инженером.

7. Почему «ложноотрицательный результат» особенно важен в результатах ИИ, связанных с безопасностью жизни, таких как картирование подверженности оползням?

• А) Поскольку опасная зона классифицируется как безопасная и не требует принятия мер предосторожности и не создает риска для жизни/имущества ✔
• Б) Потому что это только увеличивает размер файла карты
• В) Просто потому, что это увеличивает количество страниц отчета
• Г) Потому что ложноотрицательные результаты всегда безвредны.

Пояснение: Ложноотрицательный результат — это безопасная классификация зоны, которая действительно опасна; В этом случае не принимаются никакие меры предосторожности и существует риск потери жизни/имущества. Ложноположительные результаты приводят к ненужным затратам. В областях безопасности жизнедеятельности порог выбирается осторожно, чтобы свести к минимуму ложноотрицательные результаты, и подтверждается подтверждением на местах.

8. Какой физический принцип является ключевым моментом проверки при оценке результатов модели потока подземных вод?

• А) Модель производит цветную печать
• Б) Соблюдение массосохранения (водного баланса) и уровней наблюдательных колодцев ✔
• C) Завершите симуляцию как можно скорее.
• D) Файл модели должен быть в новейшем формате.

Описание: Модели подземных вод основаны на принципе сохранения массы (водного баланса): количество воды, поступающей, выходящей и сохраняемой в системе, должно быть постоянным. Даже если калибровка с помощью искусственного интеллекта выглядит хорошо, если водный баланс не близок или не соответствует уровням наблюдательной скважины, результаты будут ненадежными.

9. Какой предел следует особенно учитывать при оценке проницаемости с помощью машинного обучения по каротажу скважин?

• А) Модель автоматически действительна для каждого месторождения и любой литологии.
• Б) О неопределенности прогноза вообще не следует сообщать.
• В) Прямое и безошибочное измерение проницаемости по бревнам.
• Г) Изученная взаимосвязь специфична для условий обучения; ✔ Экстраполяция на различные площадки сопряжена с риском и должна быть связана с тестированием керна/скважины ✔

Пояснение: Проницаемость не измеряется непосредственно по бревнам; Взаимосвязь, изученная моделью, специфична для фаций и условий давления обучающих данных. Слепое применение (экстраполяция) к другому участку или незнакомой литологии может привести к серьезной ошибке; Результаты должны быть связаны с измерениями керна и испытаниями скважин.

10. Почему отслеживаемость важна в проекте отчета по геологии, создаваемого ИИ?

• А) Прослеживаемость не требуется, поскольку она только увеличивает размер файла.
• Б) Нет необходимости вести учет, потому что ИИ никогда не ошибается
• C) Основная причина и ответственность не могут быть установлены, если не записаны данные, метод и модельный источник каждой проблемы и претензии ✔
• D) Следует избегать отслеживания, поскольку это замедляет отчет.

Описание: Отчет формирует основу для инженерного решения; Следует отметить, из каких данных, какого метода и версии модели взята каждая проблема, карта и претензия. В противном случае при возникновении ошибки невозможно определить первопричину и затронутые решения, а инженерная ответственность не может быть гарантирована.

11. Каков правильный подход при вводе данных о бурении и содержании конкретного участка в общий инструмент искусственного интеллекта?

• А) Точный ввод фактических координат и оценок и получение максимально быстрого ответа
• Б) Анонимизация координат и значений, работа с репрезентативными значениями и использование только одобренных/контролируемых инструментов ✔
• C) Загрузка всей базы данных проекта и предоставление модели возможности обучения.
• D) Обратите внимание, что данные конфиденциальны, и делитесь ими как есть.

Описание: Координаты бурения, значения содержаний и информация о запасах являются коммерчески конфиденциальными и зачастую конфиденциальными данными, принадлежащими владельцу прав на добычу полезных ископаемых. Поступление на неконтролируемую дипломатическую службу создает конкуренцию и юридические риски. Правильный подход — анонимизировать координаты/фактические значения или работать с репрезентативными значениями и использовать только утвержденные, контролируемые учреждением инструменты.

12. Что означает «контроль порядка величины» в инженерных расчетах с использованием ИИ?

• А) Увеличение количества десятичных знаков результата
• Б) Измерьте графическое разрешение результата
• В) Стандартизация цвета результата
• D) Проверка с помощью быстрого ручного расчета, находится ли результат примерно в пределах ожидаемой степени 10 ✔

Описание: Проверка порядка величины — это проверка путем быстрого ручного расчета, находится ли результат примерно в пределах ожидаемой степени 10. Например, если ожидается гидравлическая проводимость водоносного горизонта для песка, результатом будет километр/день вместо метра/день, что указывает на ошибку единицы измерения или редактирования без подробностей.

13. Что является наиболее убедительным доказательством при проверке результатов модели, которая классифицирует литологию по каротажу скважин?

• А) Исследование керна, взятого с той же глубины ✔
• Б) Модель имеет высокий показатель достоверности.
• В) Продукция производится быстро.
• D) Лог-диаграмма разноцветная.

Пояснение: Журналы представляют собой косвенные измерения; Наиболее прямым и убедительным доказательством является визуальное и лабораторное исследование керна, взятого с той же глубины. Колонковое бурение дает возможность сравнить интерпретацию модели, основанную на каротажных данных, с реальными данными.

14. Какое утверждение является наиболее точным в отношении окончательной ответственности за использование ИИ в геологической инженерии?

• А) Поскольку ИИ производит выходные данные, ответственность переходит к компании-разработчику программного обеспечения.
• Б) ИИ обеспечивает поддержку и ускорение; Ответственность за решение и отчет лежит на уполномоченном инженере, результаты должны быть проверяемыми и одобрены человеком ✔
• C) Одобрение инженера не требуется, поскольку выходной сигнал AI автоматически действителен.
• Г) Ответственность лежит только на выездной бригаде, инженера офиса это не касается.

Описание: ИИ — это мощный инструмент для вспомогательных работ, таких как обработка данных, создание чертежей и ускорение обнаружения; Однако ответственность за подписанный отчет, оценку опасности и проектное решение остается за уполномоченным инженером-геологом. Результаты должны быть проверяемыми, проверяемыми и одобренными людьми.