Этика, академическая честность, границы и сквозной рабочий процесс

Прибыль:

• Способность понимать и применять этические принципы использования искусственного интеллекта в математике (на службе обучения, прозрачность, человеческая ответственность, справедливость, конфиденциальность).
• Способность оценивать риски конфиденциальности и принимать соответствующие меры предосторожности в отношении конфиденциального контента, такого как экзаменационные вопросы, данные студентов и неопубликованные исследования.
• Возможность объединить все части модуля (производство + проверка) в единый сквозной рабочий процесс, завершая каждый этап производства этапом проверки и окончательным утверждением человеком.

В этом последнем разделе мы объединяем две вещи: с одной стороны, этические аспекты, академическую честность и конфиденциальность использования искусственного интеллекта в математике; С другой стороны, объединить то, что мы узнали на протяжении всего модуля, в единый сквозной рабочий процесс. ИИ в математике — мощный инструмент, но он несет в себе не только власть, но и ответственность: для кого вы его используете, для чего вы его используете и то, как вы его используете, имеет этические последствия. Студент, выполняющий домашнюю работу с помощью ИИ, и учитель, ускоряющий учебный материал с помощью ИИ, — это очень разные вещи. Это устройство дополняет технические навыки ответственным использованием.

Несколько определений. Академическая честность означает честно показывать, кому на самом деле принадлежит работа, а не сокращать обучение. Плагиат — это представление чужого продукта (или продукта средства массовой информации) так, как если бы это был ваш собственный оригинальный продукт. Прозрачность означает четкое указание того, где используется ИИ. Эти концепции стали центральными в математическом образовании в эпоху искусственного интеллекта.

Основные принципы этичного использования

1. Не вместо обучения, а ради него. ИИ может помочь учащемуся в изучении концепции (объяснение, альтернативное объяснение), но не должен заставлять его/ее думать вместо этого. Если ИИ выполняет домашнее задание, это подрывает обучение.
2. Прозрачность. Укажите, где использовался ИИ — в статье, материале курса или отчете. Сокрытие нечестно.
3. Ответственность принадлежит людям. Любой, кто публикует, обучает или предоставляет результаты ИИ, несет ответственность за их точность. «Так сказал ИИ» — не оправдание.
4. Справедливость. Использование ИИ в оценивании должно регулироваться равными и четкими правилами для всех учащихся.
5. Безопасность. Не вводите конфиденциальную информацию, такую ​​как экзаменационные вопросы, данные студентов или неопубликованные исследования, в инструменты искусственного интеллекта, конфиденциальность которых не гарантируется.

Конфиденциальность: что это значит в контексте математики?

Хотя может показаться, что в математике «нет никаких скрытых данных», контекст важен. Неопубликованные результаты исследования, банк экзаменационных вопросов учебного заведения, данные о личных достижениях студентов или собственный алгоритм компании — все это конфиденциально. Все, что вы вводите в инструмент искусственного интеллекта, может быть обработано поставщиком этого инструмента и в некоторых случаях использовано при обучении модели. Поэтому для конфиденциального контента либо используйте инструменты, защищенные локально/институционально, либо анонимизируйте контент.

Тип данных

Риск

предосторожность

Опубликованная теорема/задача

низкий

свободно доступен

Активные экзаменационные вопросы

высокий

Не входите в автомобиль и не охраняйте его

Личные данные/об успеваемости студента

высокий

Анонимизировать/не входить

Неопубликованные исследования

высокий

Безопасный/локальный инструмент

План лекции

низкий-средний

Обычно подходит

Внимание: прежде чем войти в AI для проверки экзаменационного вопроса, подумайте, должен ли этот вопрос оставаться секретным. Вопросы активного экзамена теоретически могут быть раскрыты при вводе в инструмент искусственного интеллекта, конфиденциальность которого не гарантируется. Для важных экзаменов либо измените вопросы, либо используйте только одобренные корпорацией инструменты с гарантированной конфиденциальностью данных.

Сквозной рабочий процесс: пример задачи

Допустим, вам нужно подготовить и учебный материал, и экзамен по предмету в течение недели. Последовательность действий, объединяющая все части модуля, может быть такой:

1. Планирование. Уточнить тему, уровень и цели (Блок 7).

2. Составление материала. Попросите ИИ подготовить соответствующие уровню лекции + решенные примеры (блок 7).

3. Выборочная проверка. Проверьте каждый решенный пример с помощью SymPy (блок 4).

4. Визуализация. Создавайте и визуализируйте графику для поддержки повествования с помощью кода Matplotlib и сравнивайте ее с математическими данными (блок 6).

5. Обозначения. Очистка индекса, визуализация и проверка формул с помощью LaTeX (блок 10).

6. Генерация вопросов. Для экзамена подготовьте вопросы с несколькими вариантами ответов и отвлекающие факторы (блок 8).

7. Массовая проверка. Решите все вопросы пакетно с помощью SymPy и проверьте ключ ответа (блоки 8, 9).

8. Контроль этики и прозрачности. Уместна ли конфиденциальность? Вы указали в материале использование ИИ при необходимости? На вас лежит конечная ответственность (это подразделение).

9. Человеческое одобрение. Просмотрите и подтвердите все в последний раз. Любая непроверенная часть не выйдет в эфир или на тестирование.

Совет: В сквозном рабочем процессе наиболее эффективная стратегия — позиционировать ИИ как «уровень скорости», детерминированные инструменты (SymPy, рендеринг) как «уровень корректности», а себя — как «уровень суждения и ответственности». За каждым этапом производства должен следовать этап проверки; Непроверенные выходные данные не следует переносить на следующий шаг.

три мини-кейса

Случай 1. Прозрачность укрепляет доверие. Один ученый использовал ИИ в первом черновике главы учебника, затем проверил каждое математическое утверждение и заявил в предисловии, что «при написании рукописи была получена поддержка ИИ, все содержание было проверено автором». Эта прозрачность повысила доверие коллег и поддержала стандарты честности.

Случай 2. Использование, которое подрывает обучение. Студент поручил ИИ решить весь набор домашних заданий и отправить его. Он провалил экзамен по тем же предметам, потому что никогда не изучал эти понятия. Учитель предложил использовать ИИ, чтобы «проверить решение и получить альтернативное объяснение», но сначала самому решить задачи. ИИ должен служить обучению, а не занимать его место.

Случай 3 — Риск нарушения конфиденциальности. Один учитель подумывал о том, чтобы взломать общий инструмент искусственного интеллекта для проверки вопросов центрального экзамена, который еще не проводился, но затем отказался от этого; вместо этого он решал вопросы в SymPy сам и коллега. Ввод активных экзаменационных вопросов во внешний инструмент представлял серьезную угрозу конфиденциальности; локальная аутентификация обеспечила безопасный путь.

Четыре копируемых шаблона

1) Использование, способствующее обучению (для учащихся):

Я решил эту проблему ПЕРВОЙ, мое решение прилагается. НЕ давайте мне решения; просто покажите мне, где я ошибся и какую концепцию я неправильно понял, чтобы я мог это исправить. Мое решение: [здесь]

2) Создание примечания о прозрачности:

Я подготовил [материал курса/отчет] и использовал ИИ на этапе черновика, проверяя всю математику самостоятельно. Напишите короткую профессиональную прозрачную записку, в которой честно об этом говорится.

3) Предварительная проверка конфиденциальности:

Я хотел бы обеспечить конфиденциальность следующего контента перед его вводом в инструмент искусственного интеллекта: [тип контента]. Считается ли этот тип контента конфиденциальным, какие существуют риски, какие меры предосторожности (анонимизация, локальный инструмент) мне следует принять? Скажите это коротко и ясно.

4) План сквозного проверочного контроля:

Готовлю курсовой материал + экзамен по [предмету]. Перечислите в виде плана контроля, какие проверки мне необходимо выполнять на каждом этапе производства: проверка образцов, графический контроль, обозначения, ключ ответа, конфиденциальность, одобрение человека.

Слабая подсказка / Сильная подсказка

Слабое: «Решите эти домашние задания, и я их сдам». (студент)

Результат: Обучение пропущено, академическая честность нарушена, учащийся не усвоил концепцию. Это неприемлемо с этической и педагогической точки зрения.

Гючлю: «Я пытался решить этот вопрос домашнего задания, но застрял; мое решение прилагается. Не давайте ответ напрямую; покажите мне с подсказкой, какой шаг и почему я сделал неправильно, напомните мне правильную концепцию, тогда я попробую еще раз».

Вывод: ИИ используется в целях обучения; Студент продолжает думать, честность сохраняется.

Распространенные ошибки

• Используйте его, чтобы пропустить обучение. Заставить ИИ выполнять домашнюю работу легко в краткосрочной перспективе, но разрушает обучение в долгосрочной перспективе.
• Не быть прозрачным. Сокрытие использования ИИ противоречит академической честности; уточняйте при необходимости.
• Возложение ответственности на ИИ. «Так сказал ИИ» — не оправдание; Ответственность несет издатель/преподаватель.
• Ввод конфиденциального контента во внешний инструмент. Активный экзамен, данные учащихся, неопубликованные исследования являются конфиденциальными.
• Оставляя проверку до конца рабочего процесса. Проверка должна проводиться после каждого этапа производства; Ошибки не должны накапливаться.

В заключение

Использование ИИ в математике требует этической ответственности, а также технических навыков: он должен служить обучению (а не вместо него), быть прозрачным, сохранять максимальную ответственность, придерживаться справедливых правил и уважать конфиденциальность. В сквозном рабочем процессе искусственный интеллект — это уровень скорости, SymPy и инструменты рендеринга — это уровень точности, а люди — это уровень суждения и ответственности. За каждым этапом производства должен следовать этап проверки; Никакие непроверенные результаты не должны включаться в публикацию, лекцию или экзамен. В этом суть этого модуля: работайте быстрее с помощью ИИ, но проверяйте и берите на себя ответственность за каждый шаг.

Задача приложения

Разработайте небольшое комплексное задание: короткое повествование + 1 диаграмма + 3 вопроса с несколькими вариантами ответов по теме. Следуйте последовательности модуля: (1) спланируйте, (2) нарисуйте черновик с помощью AI, (3) проверьте примеры с помощью SymPy, (4) визуализируйте и проверьте график, (5) очистите и визуализируйте обозначения с помощью LaTeX, (6) пакетную проверку вопросов с помощью SymPy, (7) выполните проверку конфиденциальности и прозрачности, (8) дайте окончательное одобрение человека. Запишите, какую проверку вы выполнили и что обнаружили на каждом этапе. В конце процесса оцените, где ИИ экономит время и где ваше суждение незаменимо.

контрольный список

• [ ] Я использовал ИИ для обучения (а не вместо него).
• [ ] Я ясно заявил об использовании ИИ там, где это необходимо.
• [ ] Я взял на себя ответственность за максимальную точность.
• [ ] Я не получал доступ к конфиденциальному/конфиденциальному контенту с помощью незащищенных инструментов.
• [ ] Я сопровождал каждый этап производства этапом проверки.
• [ ] Я не вносил в трансляцию/урок/экзамен непроверенный вывод.

Модульный экзамен

1. Что из перечисленного является наиболее точным позиционированием искусственного интеллекта в математике?

• А) Искусственный интеллект — это стратегия, план и организационный инструмент; Человек должен проверить точный расчет и результат детерминированными методами ✔
• Б) Искусственный интеллект подобен калькулятору, и каждый численный результат, который он выдает, точен.
• В) Искусственный интеллект никогда не ошибается в выводах, которые он уверенно представляет, поэтому проверка не является необходимой.
• Г) Искусственный интеллект полезен только для написания текста, к каким-либо математическим задачам он не имеет никакого отношения.

Описание: Большая языковая модель — это инструмент, статистически генерирующий текст; Это не калькулятор и не средство проверки доказательств. Большую часть времени он выдает правильные математические вычисления, но не гарантирует; поэтому каждый вывод должен быть проверен с помощью детерминированных инструментов (SymPy, калькулятор, ручная проверка), и ответственность должна оставаться на человеке.

2. Студент просит искусственный интеллект решить интеграл и хочет получить результат. Какой самый надежный способ проверить результат?

• А) Дифференцирование результата и проверка, возвращается ли он к исходной функции (SymPy или вручную) ✔
• Б) Спросите искусственный интеллект: «Это правда?» спросить
• В) Принятие результата таким, какой он есть, потому что он представлен бегло и уверенно.
• Г) Переходим к другому вопросу и вообще не проверяем результат

Пояснение: Обратная производная-интеграл — это встроенный инструмент проверки в математике: взятие производной найденного результата и проверка, возвращается ли она к исходной функции, самостоятельно подтверждает правильность интеграла. Ту же перекрестную проверку можно выполнить с помощью SymPy.

3. Что означает принцип «правильный результат – это не правильный путь» при решении задач с помощью искусственного интеллекта?

• А) Правильный результат всегда доказывает, что путь тоже правильный
• Б) Путь неважен, засчитывается только результат
• В) Неправильные промежуточные шаги могут случайно привести к правильному результату; Поэтому необходимо проверять как результат, так и каждый промежуточный шаг ✔
• Г) Невозможно найти надежный путь, поэтому мы смотрим только на результат.

Пояснение: Иногда неправильные промежуточные шаги случайно приводят к правильному результату; Даже если результат правильный, путь может быть недействительным. Вот почему в математике вопрос «правильный ли результат?» а скорее: «Правильен ли каждый промежуточный шаг?» Вопрос тоже существенный и каждый шаг должен контролироваться.

4. Что делать, если ИИ использует в доказательстве фразу «без потери общности»?

• А) Принятие того факта, что доказательство достоверно, поскольку утверждение беглое.
• Б) Обоснование для себя того, что общность на самом деле не нарушена; ✔ не принимаю без вопросов
• В) Считать доказательство действительным, вообще не читая его.
• Г) Поиск этого выражения в источнике как названия теоремы

Пояснение: Утверждение «без потери общности» иногда справедливо (при наличии подлинной симметрии), но иногда оно является скрытой ошибкой. Искусственный интеллект часто использует это выражение; Вы должны каждый раз оправдывать себя, что общность на самом деле не нарушается, и не должны принимать утверждение без вопросов.

5. Вы написали код SymPy для искусственного интеллекта. Как правильно получить результат?

• А) Заставить искусственный интеллект предсказывать результат кода
• Б) Предполагая, что код правильный, не читая его
• C) Доверие к интерпретации результатов ИИ
• Г) Запустите код самостоятельно в реальной среде Python и посмотрите точный результат ✔

Описание. Возможности SymPy раскрываются только тогда, когда код запускается в реальной среде Python. Спросите искусственный интеллект: «Что производит этот код?» запрос не является проверкой, поскольку ИИ также может формировать вывод кода. Вы должны запустить код самостоятельно.

6. Если решение уравнения, найденное искусственным интеллектом вручную, и результат, полученный SymPy, отличаются, какому из них следует доверять и почему?

• А) Результат SymPy, потому что он детерминирован и точен; Затем пусть искусственный интеллект найдет место своей ошибки ✔
• Б) Результат искусственного интеллекта, поскольку он объясняет более свободно
• В) Выбор одного наугад, потому что они оба одинаково надежны.
• Г) Отвергая и то и другое и считая вопрос неразрешимым

Описание: SymPy — это детерминированная система символьных вычислений: она всегда выдает один и тот же правильный результат на одни и те же входные данные. Искусственный интеллект генерирует текст статистически и может галлюцинировать. В споре за основу следует взять SymPy и заставить искусственный интеллект найти место его ошибки.

7. Почему условие «0,1 + 0,2 == 0,3» не работает должным образом в коде Python и как это исправить?

• А) В Python не работает сложение; нужно использовать другой язык
• Б) Точное равенство не выполняется из-за точности чисел с плавающей запятой; Следует использовать допуск, например «abs(a-b) < 1e-9». ✔
• В) Значение 0,3 неверно; Необходимо написать 0.30000000004
• Г) Условие всегда работает правильно, проблем нет

Пояснение: Компьютеры хранят десятичные числа в формате с плавающей запятой с ограниченной точностью; 0,1+0,2 хранится с очень небольшим отклонением, не ровно 0,3. Поэтому вместо точного равенства «==» следует использовать допуск, например «abs(a-b) < 1e-9».

8. Каков наилучший «тест на здравый смысл» перед применением кода скалярного поиска корня к реальной проблеме?

• А) Применение кода непосредственно к реальной проблеме, вообще не тестируя его.
• Б) Проверьте длину кода и правильно посчитайте, если он длинный.
• C) Тестирование кода с помощью простого ввода, ответ на который известен (например, x²-4=0, корни ±2) и проверка того, что он дает ожидаемый результат ✔
• D) Подтверждение искусственному интеллекту правильности кода

Пояснение: Тестирование кода с помощью простых входных данных, ответ на который вы уже знаете (например, ±2 для x²-4=0 с очевидными корнями), является самой дешевой и эффективной проверкой. Если код правильно описывает известную ситуацию, вероятность того, что он будет надежен для проблем, о которых вы не знаете, увеличивается.

9. Как в визуализации проверить, что график правильно отражает математические вычисления?

• А) Если график выглядит эстетично, он считается правильным.
• Б) Сравнение графика с известными свойствами функции и истинным значением хотя бы одной точки ✔
• В) Совсем не смотреть на метки осей
• D) Опираясь на словесное описание графика ИИ

Пояснение: графика, которая выглядит красиво, не обязательно должна быть точной; ИИ может нарисовать неправильную функцию, в неправильном диапазоне или с искаженной асимптотой. Сравнение графика с известными свойствами функции (диапазон колебаний, симметрия, асимптота) и расчет хотя бы одной точки выявляет ошибки.

10. Какой самый важный момент проверки в материалах курса, созданных с помощью искусственного интеллекта, и почему?

• А) Шрифт и цветовая гамма материала
• Б) Объем материала и количество страниц.
• В) Точность решения примеров; потому что ученики берут их за образец и преподают неправильный пример и неправильный метод ✔
• D) Как быстро производится материал

Пояснение: Решенные примеры принимаются учащимися за образцы; Неправильно решенный пример напрямую учит учащихся неправильному методу. Поэтому каждый решенный пример необходимо проверять индивидуально, шаг за шагом, либо с помощью SymPy, либо вручную. Небольшую двусмысленность в объяснении предмета можно компенсировать, но неверный пример наносит каскадный ущерб.

11. Какой наиболее эффективный и надежный способ проверить набор вопросов с несколькими вариантами ответов, созданный искусственным интеллектом?

• А) Еще раз спросить искусственный интеллект, верны ли вопросы.
• Б) Проверка наугад только нескольких вопросов и доверие остальным
• C) Использование ключа ответа в том виде, в котором он есть, без его проверки.
• Г) Коллективная и детерминированная проверка ключа ответа путем печати и запуска кода, который решает все вопросы с помощью SymPy ✔

Пояснение: Искусственный интеллект чаще всего допускает такие ошибки, как неправильное обозначение ключа ответа и выдача нескольких/нуля правильных вариантов. Написание и запуск кода, который решает все вопросы одновременно с помощью SymPy, — это наиболее эффективный способ детерминированной и массовой проверки ключа ответа.

12. Что из перечисленного является основной причиной того, что искусственный интеллект допускает ошибки в математике?

• А) Искусственный интеллект — это языковая модель; не проверяет логическую достоверность, генерирует текст статистически ✔
• Б) Искусственный интеллект никогда не изучал математику
• В) Искусственный интеллект намеренно запрограммирован давать неправильные ответы.
• Г) Искусственный интеллект допускает ошибки только в очень сложных задачах и никогда в простых.

Описание: Искусственный интеллект — это не логическая машина, а языковая модель, создающая текст со статистическими закономерностями; У него нет внутреннего механизма проверки логической обоснованности шагов. «Действительное доказательство» с «трехзначным умножением» — это для него задача создания однотипного текста, поэтому его правильность не может быть гарантирована.

13. Если результат задачи о вероятности равен 1,4, как узнать, что существует ошибка, не вдаваясь в подробности?

• А) Расчет верен, поскольку результат равен 1,4, вероятность может превышать 1.
• Б) Знак вероятности неважен, значение принимается независимо
• В) Не понятно, что произошла ошибка, результат считается окончательным.
• Г) Вероятность должна быть между 0 и 1; ✔ Проверка здравого смысла указывает на ошибку, поскольку 1,4 превышает этот предел.

Описание. Тест на здравый смысл и порядок величин за считанные секунды проверяет, находится ли результат в разумных пределах. Вероятность по определению должна находиться в диапазоне от 0 до 1; 1,4 выходит за этот предел, поэтому, не вдаваясь в детали расчета, очевидно, что имеется ошибка.

14. Почему в LaTeX важно писать «e^{x^2}» вместо «e^x^2»?

• А) Они совершенно одинаковые, разница только эстетическая
• Б) Фигурные скобки определяют объем показателя; Без него выражение было бы неверным или неоднозначным, поэтому многосимвольный показатель {} необходим ✔
• В) Фигурные скобки в LaTeX бесполезны.
• D) 'e^x^2' всегда истинно, использование '{}' не требуется

Объяснение: Наиболее распространенной ошибкой в LaTeX является ошибка области: если фигурные скобки '{}' не используются в многосимвольном показателе, индексе или дроби, закрывается только первый символ, и выражение становится неверным (или даже неоднозначным). 'e^{x^2}' дает понять, что весь показатель степени равен x²; Код должен быть отображен и проверен визуальным осмотром.

15. Вы хотите, чтобы вопросы активного центрального экзамена проверялись искусственным интеллектом. Каков наилучший подход с точки зрения этики и конфиденциальности?

• А) Свободный ввод вопросов в любой общий инструмент искусственного интеллекта, поскольку математика не содержит конфиденциальных данных.
• Б) Использование вопросов на экзамене без их проверки
• В) Проверка вопросов с помощью безопасного/родного инструмента (например, SymPy) или использования только корпоративных инструментов с гарантированной конфиденциальностью ✔
• D) Делиться вопросами в социальных сетях и просить других контролировать ситуацию.

Описание: Вопросы активного экзамена являются деликатными; Теоретически это может быть раскрыто при взломе инструмента искусственного интеллекта, конфиденциальность которого не гарантируется. Правильный подход — либо проверять вопросы с помощью безопасного/родного инструмента (например, с коллегой в SymPy), либо использовать только корпоративно сертифицированные инструменты с гарантированной конфиденциальностью данных.