Сквозной рабочий процесс, конфиденциальность, академическая честность и аудит — Искусственный интеллект в философии и прикладной этике

Прибыль:

Уметь разделить философское исследование на семь колец и позиционировать роль искусственного интеллекта и обязательного человеческого контроля в каждом кольце.
Возможность защитить конфиденциальность (личные данные, неопубликованные работы, слепой рецензент) в человеческой сфере и анонимизировать или использовать безопасную систему.
Способность поддерживать сквозную академическую честность, честную прозрачность и человеческий контроль на каждом шагу.

В этом последнем модуле мы объединим навыки предыдущих десяти модулей в один интегрированный рабочий процесс. Настоящая философская или этическая работа — статья, лекция, обзор, отчет комитета по этике — это не отдельная задача, а цепочка взаимосвязанных задач: чтение, картирование, литература, черновик, пересмотр, проверка, представление. Правильное позиционирование ИИ на каждом звене этой цепочки гораздо эффективнее и безопаснее, чем разрозненные отдельные запросы. В то же время этот модуль объединяет три спиральные темы всего модуля — конфиденциальность, академическую честность и человеческий контроль — в единую систему контроля.

Цель: «Когда мне использовать ИИ?» от «Как мне безопасно запустить проект от начала до конца с помощью ИИ?» чтобы перейти к вопросу.

Сквозной рабочий процесс: семь колец

Давайте разделим типичную философскую работу на семь колец и покажем роль ИИ и необходимый человеческий контроль в каждом кольце.

1. Вопрос и сфера применения. Каковы пределы, спросите вы? ИИ помогает прояснить вопрос; но исследовательский вопрос и уникальный ракурс остаются за вами.

2. Закройте чтение. Анализ первичных текстов (Блок 2). ИИ предоставляет первоначальное резюме и терминологию; Комментарий ваш.

3. Отображение аргументов. Извлечение логической структуры текстов (Блок 3). Структура искусственного интеллекта, достоверность/надежность – судить вам.

4. Литература. Картографирование территории и сбор ресурсов (Блок 4-5). Концептуальная карта ИИ; Каждый источник проверен независимо.

5. Черновик. Написание собственного аргумента (блок 7). Суть ваша; ИИ — крупнейший партнер в дискуссиях.

6-я редакция. Язык, поток, структура (Блок 7). редактор ИИ; смысл сохраняется.

7. Проверка и доставка. Окончательная проверка всех источников, цитат и фактов (блоки 5, 10) и заявление о прозрачности.

Совет: Прежде чем переходить к каждому кольцу, выполните «проверку прохождения»: были ли проверены выходные данные этого кольца перед входом в следующее? Непроверенное резюме относится к картированию; Если в черновик вносить сфабрикованный исходник, то ошибка растет в геометрической прогрессии. Сила цепи равна ее самому слабому звену.

Конфиденциальность: также относится к человеческой сфере.

Можно подумать, что философия не является областью «секретных документов», но конфиденциальность и здесь имеет решающее значение. Комитет по этике обсуждает реальный случай пациента или сотрудника; студент отправляет неопубликованную диссертацию своему научному руководителю; Рецензент оценивает рукопись в режиме слепого рецензирования. Все они содержат персональные данные или неопубликованную интеллектуальную собственность. Правило ясно: личная информация, неопубликованные работы, рукописи, рецензируемые вслепую, и конфиденциальные данные комитетов не могут быть введены в общедоступный инструмент искусственного интеллекта, который не одобрен вашим учреждением. Если вам необходимо проанализировать реальный случай, сначала анонимизируйте его (удалив всю личную информацию) или используйте только безопасную, одобренную агентством систему.

Внимание: вставка статьи, прошедшей слепое рецензирование, в инструмент искусственного интеллекта нарушает как интеллектуальную собственность автора, так и конфиденциальность процесса рецензирования, а также представляет собой серьезное академическое нарушение. Аналогично, включение вашей собственной неопубликованной работы в общественное достояние может быть рискованным; Изучите политику вашего учреждения и журнала.

Заявление об академической честности и прозрачности

Академическая честность, которую мы подчеркиваем на протяжении всего модуля, становится конкретной на этапе реализации. Большинство учреждений и журналов теперь требуют прозрачного раскрытия информации об использовании ИИ: с помощью какого инструмента, на каком этапе и для чего? Использование ИИ для языковой коррекции общепринято и декларировано; Распечатка аргумента или текста в ИИ в большинстве мест не принимается. Изучите текущую политику вашего учреждения и целевой публикации и строго следуйте ей. Прозрачность – это не признание слабости, а признак честности и профессионализма.

три мини-кейса

Случай 1 — Проверка цепочки. Исследователь прошелся по статье с помощью ИИ от начала до конца: чтение, составление карт, литература, черновик, доработка. Он проверял доступ на каждом кольце. В литературном кругу он исключил 2 из 12 источников как сфабрикованные; исправил 3 цитаты дословно в проверочном кольце. Статья пошла в публикацию без единого ошибочного цитирования. Систематическая цепочка не позволяла ошибкам просочиться в рукопись.

Случай 2 — Возврат после нарушения конфиденциальности. Рецензент вставлял рецензируемую вслепую статью, которую он или она оценивал, в общедоступный инструмент искусственного интеллекта для быстрого подведения итогов. Он остановился в последний момент: это была неопубликованная работа и конфиденциальная. Оценку он сделал без каких-либо инструментов, самостоятельно прочитав. Нарушение интеллектуальной собственности и конфиденциальности было предотвращено.

Случай 3 — Прозрачное заявление. Аспирант использовал ИИ только для языкового редактирования в своей диссертации и четко заявил об этом в разделе методологии диссертации: «Инструмент ИИ использовался при редактировании языка и потока; все аргументы, тезисы и источники являются авторскими и проверены независимо». Жюри оценило такую прозрачность. Честное заявление вызвало доверие.

Слабая подсказка / Сильная подсказка

Слабая подсказка:

Подготовьте для меня эту статью от начала до конца: исследуйте, напишите, добавьте источники.

Эта подсказка делегирует всю цепочку (мышление, проверка, ответственность) ИИ; Результат будет сфабрикованным, недостоверным и неоправданным с точки зрения конфиденциальности/честности.

Мощная подсказка (на основе звонка):

Ваша роль: фазовый ассистент в процессе философского исследования. Мы находимся в кольце [отображения аргументов]. Просто делайте работу этого кольца; переходим к следующим кольцам.Правила: примерка источника; соедините каждую претензию с приведенным мной текстом; отметьте «необходимо проверить», если не уверены; Решение и тезис остаются за мной. Ввод этого звонка: [проверенный вывод предыдущего звонка]

Эта подсказка разбивает работу на циклы, обеспечивает обязательную проверку в каждом цикле и позволяет вам контролировать ситуацию.

Четыре копируемых шаблона

1) Уточнение содержания проекта:

Ваша роль: консультант по исследованиям. Помогите мне уточнить следующую идею исследования: (а) сузить вопрос исследования, (б) предложить исключения, (в) перечислить шаги, необходимые для ответа на него. Не давайте мне диссертацию; обострите вопрос.Моё мнение: [напишите своё мнение]

2) Контроль доступа к кольцу:

Проверьте вывод [Имя кольца], прежде чем переходить к следующему этапу: (1) Есть ли какие-либо непроверенные источники/цитаты/факты? (2) Есть ли какие-либо утверждения, не связанные с текстом? (3) Принял ли ИИ решение, требующее принятия решения? Отметьте проблемные области; Я внесу поправку. Вывод: [вставить]

3) Предварительная проверка конфиденциальности:

Отсканируйте следующий текст ПЕРЕД обработкой: содержит ли он личные данные, неопубликованную работу, слепое рецензирование или конфиденциальные данные экспертной группы? Если да, то какие части и не следует ли обрабатывать в общедоступном инструменте? Предупреди меня. Текст: [текст]

4) Проект заявления о прозрачности:

В следующем исследовании я использовал ИИ на следующих этапах/для следующих целей: [этапы записи]. Составьте честное и ясное заявление об использовании ИИ, соответствующее политике вашего учреждения/журнала. Преувеличение; просто отражайте то, что я на самом деле делаю.

Кольцо/роль/стол управления

кольцо

Роль ИИ

Обязательный контроль со стороны человека

Основной риск

Вопрос/объем

осветлитель

исследовательский вопрос

оригинальность

внимательно читать

первое резюме

Комментарий, ссылка на источник

искажение

Сопоставление аргументов

скелет

Валидность/надежность

логическая ошибка

литература

концептуальная карта

проверка источника

апокрифическая атрибуция

проект

спарринг-партнер

тезис, обоснование

потеря оригинальности

Редакция

Языковой редактор

Значение защиты

Дрейф контента

Проверка/доставка

контрольный список

Окончательное подтверждение, декларация

нарушение целостности

Распространенные ошибки

Делегирование всей цепочки в одном запросе. «Тщательно подготовиться» — самая рискованная команда; Разделите работу на кольца.
Обход контроля доступа. Перемещение непроверенного вывода на следующее кольцо увеличивает ошибку.
Недооценка конфиденциальности в человеческой сфере. Слепая экспертная оценка, неопубликованные исследования и данные отдельных случаев также должны быть защищены.
Отсутствие или преувеличение заявления о прозрачности. Заявление должно быть честным и пригодным для фактического использования; Ни спрятать, ни раздуть.
Отказ от контроля. Какой бы автоматической ни была цепочка, решение и ответственность на каждом звене лежит на человеке.

В заключение

Все возможности этого модуля объединяются в сквозной рабочий процесс: вопрос, чтение, карта, литература, черновик, доработка, проверка. Правильно размещайте ИИ на каждом звене и проверяйте при каждом проходе — прочность цепочки зависит от ее самого слабого звена. Повсюду применяются три спиральные темы: конфиденциальность (личные данные, неопубликованные работы и слепое рецензирование защищены, в том числе и в человеческой сфере), академическая честность (исходная мысль принадлежит вам, заявление о прозрачности является честным) и человеческий контроль (решение и ответственность всегда за вами). Избегайте команды «сделай это для меня от начала до конца»; Разделяйте работу, проверяйте и сохраняйте контроль. ИИ ускоряет процесс; вы тот, кто думает, проверяет и подписывает.

Задача приложения

Выберите небольшой философский проект (короткое эссе или план урока).
Разделите его на семь колец и напишите роль ИИ и этап управления для каждого кольца.
Сканируйте каждую запись, которую вы будете использовать, с помощью шаблона «предварительного сканирования конфиденциальности».
Проверьте выход одного кольца с помощью шаблона «управление переходом кольца» и переместите его на следующий.
Напишите заявление о честном использовании ИИ, используя шаблон «проект заявления о прозрачности».

контрольный список

[ ] Я разделил проект на кольца; Я не передавал его ни по одной просьбе.
[ ] Я выполнил проверку при каждом проходе звонка.
[ ] Я сохранил или анонимизировал личные/неопубликованные/слепые данные рецензирования.
[ ] Я подтвердил источник, цитату и факты в последний раз.
[ ] Оригинальный тезис и обоснование я подготовил сам.
[ ] Я подготовил честное заявление об использовании/прозрачности использования ИИ.
[ ] Я держал решение и ответственность в каждом круге.

Модульный экзамен

1. Что из перечисленного является наиболее точным позиционированием искусственного интеллекта в философии и прикладной этике?

А) Искусственный интеллект может напрямую принимать и обосновывать этические решения без одобрения человека.
Б) Искусственный интеллект полезен только для перевода текстов, к философским задачам он не имеет никакого отношения.
В) Искусственный интеллект — помощник по чтению, составлению карт, обобщению и составлению чертежей; Ответственность за интерпретацию, обоснование и оригинальность мысли лежит на человеке ✔
Г) Поскольку искусственный интеллект выдает среднее значение миллионов текстов, это наиболее надежный способ написать оригинальную диссертацию.

Описание: Искусственный интеллект; Это помощник, который ускоряет чтение текста, картографирование аргументов, сканирование литературы и создание черновиков. Такие задачи, как оценка аргумента, правильная интерпретация философа, обоснование этического решения и выдвижение оригинального тезиса, принадлежат компетентному эксперту и мыслителю; В философии продукт сам по себе является рассуждением, и передать рассуждение машине — значит отказаться от работы.

2. Как это называется и как можно предотвратить, когда искусственный интеллект дает четкую цитату и номер страницы в кавычках, но в первоисточнике этой информации нет?

А) Абзац; можно избежать, переписав цитату своими словами
Б) Галлюцинации; Каждая цитата и ссылка предотвращается дословной проверкой в первоисточнике ✔
C) Ошибка достоверности; можно избежать, приведя аргумент к стандартной форме
Г) Предрассудки; Этого можно избежать, если посмотреть на ситуацию под другим углом.

Пояснение: Это галлюцинация: не зная правды, ИИ выдает цитату, которая выглядит статистически вероятной, реалистичной, но не существует. Противоядие — это дисциплина дословной проверки каждой цитаты и указания авторства в первоисточнике; Уверенный тон ИИ не является признаком точности.

3. Каков реальный риск, когда искусственный интеллект упрощает философское предложение и превращает выражение, означающее «всегда», в «большую часть времени»?

А) Смена смысла; Изменение нюанса одним словом может подорвать претензии аргумента на универсальность и потребовать сравнения с оригиналом ✔
Б) Риска нет, поскольку упрощение всегда сохраняет смысл.
В) Меняется только стиль, логическое содержание рассуждения совершенно не затрагивается
Г) Текст становится длиннее и сложнее, что затрудняет его чтение.

Пояснение: В философии в основе аргументов часто лежат выражения количества (каждый/некоторые/большинство) и модальности (необходимый/возможный). Сдвиг в одно слово между «всегда» и «большую часть времени» может разрушить претензии аргумента на универсальность. Поэтому каждое упрощение следует рассматривать как предложенную интерпретацию, а потерю нюансов следует проверять путем сравнения ее с оригиналом.

4. В чем разница между «действительным» и «здравым» аргументом?

А) Это одно и то же; Каждый действительный аргумент обязательно обоснован
Б) Обоснованность касается только структуры, валидность связана с истинностью посылок.
В) Валидность означает, что посылки кажутся убедительными, а обоснованность означает, что они написаны бегло.
Г) Валидность — это правильность структуры, а обоснованность — это тот факт, что и валидность, и посылки действительно верны.

Пояснение: Валидность связана только со структурой: если бы посылки были истинными, обязательно ли был бы истинным вывод? Аргумент может быть действительным, даже если посылки на самом деле ложны. Обоснованность требует как обоснованности, так и истинности всех предпосылок. ИИ хорошо извлекает структуру, но не может оценить фактическую точность предпосылок на предмет надежности; Это суждение принадлежит человеку.

5. Какова важность поиска «неявной предпосылки» при составлении аргумента?

А) Нет необходимости искать неявные посылки, поскольку частью аргумента являются только те, которые явно сформулированы.
Б) Неявная посылка лишь усиливает стиль текста и не имеет ничего общего с логикой.
В) Неявная посылка раскрывает скрытое предположение аргумента и часто является самой сильной стороной критики ✔
Г) Неявная предпосылка — это окончательное суждение искусственного интеллекта, которое следует принять как окончательное.

Пояснение: Неявная посылка — это предположение, необходимое для работы аргумента, но не сформулированное в тексте. Хорошее философское чтение также видит то, что не сказано; Самая сильная критика часто связана с этим неявным предположением. ИИ может предоставить скелет, но задача человека — связать и проверить неявную посылку обратно в текст и оценить ее противоречивость.

6. Почему в гуманитарных науках опасно просить ИИ «дать мне 10 наиболее важных источников по этой теме и их краткое изложение»?

А) Искусственный интеллект может создавать фальшивые, убедительно выглядящие метки; Не каждый ресурс можно использовать без проверки в независимом каталоге ✔
Б) Искусственный интеллект всегда дает точные источники, единственная проблема в том, что сводки слишком длинные.
в) опасности нет; Номер DOI, присвоенный искусственным интеллектом, является окончательным доказательством реальности.
Г) На чтение требуется только время, поскольку количество источников велико, другого риска нет.

Пояснение: ИИ не является базой данных цитирования; Он узнал, «как выглядит цитата» на основе текстовых шаблонов, и создает реалистично выглядящие атрибуции, независимо от того, настоящие они или нет. Это утверждение смешивает реальные источники с фиктивными источниками, которых вообще не существует; Одна ложная ссылка подрывает доверие к работе. Каждый отпечаток должен быть дословно проверен в независимом каталоге.

7. Если цитата, данная искусственным интеллектом, встречается дословно в реальной книге, но автор использовал это предложение, чтобы передать и опровергнуть противоположную точку зрения, какая ошибка будет использовать эту цитату в качестве собственного тезиса автора?

А) Это ошибка вывода; Решить проблему можно, просто исправив номер страницы.
Б) Это деконтекстуализирующее искажение; Использование цитаты без прочтения ее окружения может привести к тому, что автор скажет обратное ✔
C) Это ошибка достоверности; аргумент необходимо привести в стандартную форму
Г) Это не проблема; Контекст не имеет значения, пока предложение буквально верно.

Пояснение: Это нарушение точности содержания (уровень 2): оно проходит первую проверку, поскольку источник является подлинным, но цитата была вырвана из контекста. Самое коварное искажение — это когда реальное предложение вырывают из контекста и заставляют автора говорить прямо противоположное. Прежде чем использовать цитату, необходимо прочитать окружающий ее абзац и определить, создал ли автор ее для защиты или для передачи.

8. Когда преподаватель запрашивает у искусственного интеллекта аналогию этики добродетели, что следует делать, если замечено, что полученная аналогия искажает концепцию?

А) Аналогию следует использовать до тех пор, пока она очевидна; концептуальная точность вторична
Б) Студенты должны сами исправить аналогию, преподаватель не должен вмешиваться.
В) Достаточно использовать аналогию как есть и отметить, что «это было создано искусственным интеллектом».
Г) Аналогию следует проверить и, если она искажается, заменить ее правильным примером, сохраняющим суть понятия ✔

Пояснение: Вводящая в заблуждение аналогия более вредна, чем полное отсутствие примера, поскольку она дает учащемуся неправильный корень и ее трудно исправить. Каждая аналогия и пример, созданные искусственным интеллектом в обучении, должны быть проверены экспертом, чтобы убедиться, что они правильно отражают концепцию; Искажающая аналогия должна быть заменена примером, сохраняющим суть концепции.

9. Какой подход к использованию искусственного интеллекта в академических текстах является наиболее подходящим с точки зрения «предела оригинальности»?

А) Сначала напишите свой собственный черновик, используя ИИ в качестве редактора языка/потока и партнера по генерированию возражений; Постройте тезис и аргументируйте сами ✔
Б) Попросите искусственный интеллект заполнить пустую страницу, затем изменить несколько предложений и передать текст.
В) Напишите тезис и заключение искусственному интеллекту, потому что средний текст является наиболее надежным.
Г) Вообще не использовать искусственный интеллект; Даже исправление грамматики является нарушением академической честности.

Описание: Письмо разделено на уровни: коррекцию языка и потока можно смело оставить на усмотрение ИИ; структура — это обоюдное решение; Тезисы, аргументы и оригинальный вклад неотчуждаемы и принадлежат только людям. Эмпирическое правило заключается в том, чтобы сначала написать свой собственный черновик и попросить ИИ его отшлифовать, а не заставлять ИИ заполнять пустую страницу. Беглость — это не оригинальность; Академическая ценность заключается в тонком различении и смелом тезисе.

10. Как комитет по этике должен использовать ИИ при анализе дела?

А) Следует спросить искусственный интеллект «что мне делать» и применить единственный ответ, который он дает, непосредственно в качестве решения.
Б) Искусственный интеллект вообще не следует использовать, поскольку он не может способствовать этическому анализу.
В) Он должен использовать искусственный интеллект, чтобы составить карту дела из нескольких рамок, выделить заинтересованные стороны и самому принять решение и обосновать ✔
Г) Предполагая, что искусственный интеллект является наиболее беспристрастным, всю расстановку приоритетов следует оставить на его усмотрение.

Описание: Реальная сила ИИ заключается в том, чтобы многогранно сопоставить дело с консеквенциалистскими, деонтологическими и основанными на добродетели концепциями, выявив заинтересованные стороны и сделав видимыми принципиальные конфликты. Но этическое суждение; Это требует расстановки приоритетов ценностей, принятия на себя ответственности и подписания решений. ИИ не хватает ценностей, ответственности, знаний контекста и несет предвзятость; Таким образом, решение и обоснование принадлежат человеку, особенно ответственному совету.

11. Какова наиболее правильная с философской точки зрения позиция по предотвращению «упадка ответственности в пустоту», когда система, поддерживаемая искусственным интеллектом, причиняет вред?

А) Ответственность лежит на самом искусственном интеллекте, поскольку именно он производит выходные данные.
Б) Ответственность должна быть возложена на соответствующие звенья в человеческой цепочке, которая проектирует, развертывает и использует систему ✔
В) Никто не несет ответственности, потому что система слишком сложна и никто не может ее понять.
Г) Ответственность лежит исключительно на конечном пользователе; дизайнер и учреждение полностью освобождены от налога

Пояснение: преобладает мнение, что ИИ — это инструмент и что моральная ответственность лежит на людях, которые его разрабатывают, предоставляют данные, распространяют и используют; Потому что ответственность требует намерения, понимания и желания подписать решение. Формулировка «решение ИИ» размывает ответственность; Строгий концептуальный язык возлагает ответственность на соответствующие звенья человеческой цепи.

12. Почему «оригинальность рассуждений» в философии не может быть перенесена на искусственный интеллект?

А) Потому что искусственный интеллект производит среднее значение; Оригинальность возникает из собственного суждения, когда человек отклоняется от среднего ✔
Б) Потому что искусственный интеллект очень медленный и не может вовремя выдать исходный текст.
В) Потому что искусственный интеллект всегда допускает грамматические ошибки и текст становится нечитаемым
Г) передаваемый; Диссертация, созданная искусственным интеллектом, является самой оригинальной и глубокой.

Пояснение: В философии ценность заключается в том, как вы приходите к ответу: какие различия вы проводите, какие возражения вы предвидите и встречаете. Искусственный интеллект создает в среднем миллионы текстов; Это среднее кажется гибким и разумным, но оно не оригинально. Оригинальное мышление начинается там, где вы отклоняетесь от среднего. Если вы делегируете само мышление, у вас останется чистый текст, а это тоже нарушение интеллектуальной честности.

13. С точки зрения интеллектуальной честности, как следует представить спорное утверждение, которое вы не можете проверить в тексте семинара?

А) Вы должны представить это как абсолютно правильное, потому что так говорит искусственный интеллект.
Б) Следует полностью опустить утверждение и вообще не упоминать его, поскольку двусмысленность недопустима.
В) Писать следует точным языком, который выглядит максимально убедительно и не оставляет у читателя сомнений.
Г) Вы должны изложить ее честно, дав понять, что претензия оспаривается или необоснованна ✔

Пояснение: Первое правило интеллектуальной честности состоит в том, чтобы не скрывать неопределенность: не выдавайте за достоверное то, чего вы не знаете или не можете проверить. Сказать «этот вопрос спорный» или «я не смог это проверить» — это не признак слабости, а признак зрелости и честности. Ложная уверенность более вредна, чем честная оговорка, и разрушает доверие.

14. Почему вставить рецензируемую вслепую (еще не опубликованную) статью в общедоступный инструмент искусственного интеллекта для быстрого подведения итогов — серьезная проблема?

А) Все в порядке; Неопубликованные произведения уже считаются общественным достоянием.
Б) Проблема будет только в том случае, если резюме будет длинным, короткие резюме допустимы.
В) Нарушает интеллектуальную собственность автора и рецензийскую тайну; такие данные не вводятся в общедоступные инструменты без одобрения ✔
Г) Единственная проблема в том, что транспортное средство движется медленно и тратит время.

Объяснение: Это нарушает как интеллектуальную собственность автора, так и конфиденциальность процесса рецензирования и представляет собой серьезное академическое нарушение. Конфиденциальность также имеет решающее значение в человеческой сфере: личные данные, неопубликованные работы, слепая экспертная оценка и конфиденциальные данные комитетов не вводятся в общедоступные инструменты, которые не одобрены учреждением. При необходимости текст анонимизируется или используется только безопасная, одобренная учреждением система.