Етика, академічна доброчесність, межі та наскрізний робочий процес

Прибуток:

Здатність розуміти та застосовувати етичні принципи використання штучного інтелекту в математиці (перебування на службі навчання, прозорість, відповідальність людини, справедливість, конфіденційність).
Здатність оцінювати ризики конфіденційності та вживати відповідних заходів безпеки щодо конфіденційного вмісту, такого як екзаменаційні запитання, дані студентів і неопубліковані дослідження
Можливість об’єднати всі частини модуля (виробництво + перевірка) в єдиний наскрізний робочий процес, завершуючи кожен етап виробництва етапом перевірки та остаточним схваленням людини

У цьому останньому розділі ми поєднуємо дві речі: з одного боку, етичні аспекти, аспекти академічної чесності та конфіденційності використання штучного інтелекту в математиці; З іншого боку, щоб об’єднати те, що ми дізналися протягом усього модуля, в єдиний наскрізний робочий процес. ШІ в математиці є потужним інструментом, але він пов’язаний із відповідальністю та владою: для кого ви його використовуєте, для чого ви його використовуєте та як ви його використовуєте, має етичні наслідки. Учень, домашнє завдання якого робить штучний інтелект, і вчитель, який пришвидшує матеріал курсу за допомогою штучного інтелекту, – це дуже різні речі. Цей пристрій доповнює технічні навички відповідальним використанням.

Кілька визначень. Академічна доброчесність означає чесно показати, хто насправді є власником роботи, і не припиняти навчання. Плагіат — це представлення чужого (або медіа) продукту так, ніби це ваш власний оригінальний продукт. Прозорість означає чітке визначення того, де використовується ШІ. Ці поняття стали центральними для математичної освіти в епоху ШІ.

Основні принципи етичного використання

Не замість навчання, а в службі йому. ШІ може підтримати учня у вивченні концепції (пояснення, альтернативне пояснення), але не повинен змушувати його/її думати замість цього. ШІ виконує домашнє завдання підриває навчання.
Прозорість. Вкажіть, де використовувався ШІ — у статті, матеріалі курсу чи звіті. Приховувати – нечесно.
Відповідальність належить людям. Будь-хто, хто публікує, викладає або надає результати ШІ, несе відповідальність за їх точність. «Так сказав ШІ» — не виправдання.
Справедливість. Використання ШІ в оцінюванні має регулюватися рівними та чіткими правилами для всіх учнів.
Безпека. Не вводьте конфіденційну інформацію, таку як екзаменаційні запитання, дані студентів або неопубліковані дослідження, в інструменти ШІ, конфіденційність яких не гарантована.

Конфіденційність: що це означає в контексті математики?

Незважаючи на те, що математика може здатися, що в ній «немає прихованих даних», контекст важливий. Неопубліковані результати дослідження, банк екзаменаційних запитань навчального закладу, особисті дані студентів або власний алгоритм компанії — усе це конфіденційно. Усе, що ви вводите в інструмент штучного інтелекту, може бути оброблено постачальником цього інструменту та, у деяких випадках, використано для навчання моделі. Тому для конфіденційного вмісту використовуйте локальні/інституційно захищені інструменти або анонімізуйте вміст.

Тип даних

Ризик

запобіжний захід

Опублікована теорема/задача

низький

у вільному доступі

Активні екзаменаційні питання

висока

Не входьте в автомобіль і не закріплюйте його

Персональні дані/дані про успішність студента

висока

Анонімізувати/не вводити

Неопубліковані дослідження

висока

Безпечний/локальний інструмент

Конспект лекції

низький-середній

Загалом підходить

Застереження: перш ніж переходити до ШІ для перевірки екзаменаційного запитання, подумайте, чи має це питання залишатися таємним. Питання з активного іспиту теоретично можуть бути розкриті, якщо їх ввести в інструмент ШІ, конфіденційність якого не гарантується. Для критичних іспитів або змініть запитання, або використовуйте лише схвалені корпорацією інструменти з гарантованою конфіденційністю даних.

Наскрізний робочий процес: приклад завдання

Скажімо, за тиждень потрібно підготувати і курсовий матеріал, і іспит з предмету. Потік, що поєднує всі частини модуля, може виглядати так:

1. Планування. Уточніть тему, рівень і цілі (Розділ 7).

2. Оформлення матеріалу. Нехай штучний інтелект створить лекції, що відповідають рівню, + розв’язані приклади (Розділ 7).

3. Зразок перевірки. Перевірте кожен розв’язаний приклад за допомогою SymPy (розділ 4).

4. Візуалізація. Створіть і візуалізуйте графіку для підтримки розповіді за допомогою коду Matplotlib і порівняйте її з математикою (Розділ 6).

5. Позначення. Чисте індексування, рендеринг і перевірка формул за допомогою LaTeX (розділ 10).

6. Формування запитань. Виготовте для іспиту питання з вибором відповідей + відволікаючі елементи (розділ 8).

7. Масова перевірка. Розв’яжіть усі запитання разом за допомогою SymPy і перевірте ключ відповідей (Розділ 8, 9).

8. Контроль етики та прозорості. Чи доречна конфіденційність? Ви заявили про використання ШІ в матеріалі, коли це необхідно? Ви несете основну відповідальність (цей підрозділ).

9. Людське схвалення. Перегляньте та підтвердьте все востаннє. Будь-яка неперевірена частина не буде випущена в ефір/тест.

Порада. У наскрізному робочому процесі найефективнішою стратегією є позиціонувати штучний інтелект як «швидкісний рівень», детерміновані інструменти (SymPy, візуалізація) як «рівень правильності», а себе як «рівень оцінки та відповідальності». За кожним етапом виробництва має слідувати етап перевірки; Неперевірені результати не слід переносити на наступний крок.

три міні-чохла

Випадок 1. Прозорість створила довіру. Один академік використав штучний інтелект у першій чернетці розділу підручника, потім перевірив кожне математичне твердження та заявив у передмові, що «підтримку штучного інтелекту було отримано під час створення рукопису, увесь вміст перевірено автором». Ця прозорість підвищила довіру колег і підтримувала стандарт доброчесності.

Випадок 2 — Використання, яке підриває навчання. Штучний інтелект повинен був розв’язати весь набір домашніх завдань і здати його. Він провалив іспит з тих же предметів, тому що ніколи не вивчив поняття. Учитель запропонував використовувати ШІ, щоб «перевірити рішення та отримати альтернативне пояснення», але спочатку розв’язати задачі самому. ШІ має бути на службі навчання, а не на його місці.

Випадок 3 — Ризик порушення конфіденційності. Один викладач розглядав можливість зламати загальний інструмент штучного інтелекту для перевірки запитань для центрального іспиту, який ще не було проведено, але потім вирішив відмовитися від цього; замість цього він вирішував питання в SymPy сам і колега. Введення активних екзаменаційних запитань у зовнішній інструмент становило серйозний ризик конфіденційності; локальна автентифікація забезпечила безпечний шлях.

Чотири шаблони, які можна копіювати

1) Використання для підтримки навчання (для студентів):

Я вирішив цю проблему ПЕРШИМ, моє рішення додається. НЕ давайте мені рішення; просто покажіть мені, де я помилився і яку концепцію я неправильно зрозумів, щоб я міг це виправити. Моє рішення: [тут]

2) Створення примітки про прозорість:

Я підготував [матеріал курсу/доповідь] і використовував ШІ на стадії чернетки, перевіряючи всю математику самостійно. Напишіть коротку професійну прозору записку, у якій це чесно вказано.

3) Попередня перевірка конфіденційності:

Я хотів би перевірити конфіденційність такого вмісту, перш ніж вводити його в інструмент ШІ: [тип вмісту]. Чи цей тип вмісту вважається конфіденційним, які існують ризики, яких запобіжних заходів (анонімізація, локальний інструмент) слід вжити? Скажіть це коротко і чітко.

4) План контролю наскрізної перевірки:

Готую курсовий матеріал + іспит з [предмету]. Перелічіть як план контролю, яку перевірку мені потрібно зробити на кожному етапі виробництва: перевірка зразка, графічний контроль, нотація, ключ відповіді, конфіденційність, схвалення людини.

Слабка підказка / Сильна підказка

Слабкий: «Розв’яжіть ці домашні завдання, і я їх здам». (учень)

Результат: навчання пропускається, академічна доброчесність порушується, студент не засвоює поняття. Це неприйнятно з етичної та педагогічної точки зору.

Гючлю: «Я намагалася розв’язати це домашнє завдання, але застрягла; моє розв’язання додається. Не давайте відповіді прямо; покажіть мені, який крок і чому я зробив неправильно, нагадайте мені правильну концепцію, тоді я спробую ще раз».

Висновок: ШІ використовується в службі навчання; Учень продовжує думати, зберігається чесність.

Поширені помилки

Використовуйте його, щоб пропустити навчання. Змусити штучний інтелект робити домашнє завдання легко в короткостроковій перспективі, але руйнує навчання в довгостроковій перспективі.
Не прозорість. Приховування використання ШІ суперечить академічній чесності; уточнювати при необхідності.
Покладання відповідальності на ШІ. «ШІ так сказав» не є виправданням; Відповідальність несе видавець/викладач.
Введення конфіденційного вмісту в зовнішній інструмент. Активний іспит, дані студентів, неопубліковані дослідження є конфіденційними.
Залишення перевірки на кінець робочого процесу. Перевірка повинна проходити після кожного етапу виробництва; Помилки не повинні накопичуватися.

Підсумовуючи

Використання штучного інтелекту в математиці вимагає етичної відповідальності, а також технічних навичок: він має служити навчанню (а не замість нього), бути прозорим, зберігати основну відповідальність, дотримуватися справедливих правил і поважати конфіденційність. У наскрізному робочому процесі штучний інтелект є рівнем швидкості, SymPy та інструменти візуалізації є рівнем точності, а люди є рівнем оцінки та відповідальності. За кожним етапом виробництва має слідувати етап перевірки; Жодна неперевірена інформація не повинна йти до публікації, лекції чи іспиту. Це суть цього модуля: ставайте швидшими за допомогою штучного інтелекту, але перевіряйте та несіть відповідальність за кожен крок.

Аплікаційне завдання

Розробіть невелике наскрізне завдання: коротка розповідь + 1 діаграма + 3 запитання з варіантами відповідей на тему. Слідкуйте за послідовністю модуля: (1) плануйте, (2) створюйте чернетки за допомогою штучного інтелекту, (3) перевіряйте приклади за допомогою SymPy, (4) відтворюйте та перевіряйте графік, (5) очищуйте та відтворюйте нотацію за допомогою LaTeX, (6) пакетно перевіряйте запитання за допомогою SymPy, (7) виконайте перевірку конфіденційності та прозорості, (8) дайте остаточне схвалення людиною. Запишіть, яку перевірку ви зробили та що знайшли на кожному кроці. Наприкінці процесу оцініть, де штучний інтелект економить час, а де необхідне ваше рішення.

контрольний список

[ ] Я використовував ШІ для навчання (а не замість нього).
[ ] Я прозоро заявив про використання ШІ, де це необхідно.
[ ] Я взяв на себе відповідальність за максимальну точність.
[ ] Я не отримував доступ до конфіденційного/делікатного вмісту за допомогою незахищених інструментів.
[ ] Після кожного етапу виробництва я проводив етап перевірки.
[ ] Я не вносив жодних неперевірених результатів у трансляцію/урок/іспит.

Модульний екзамен

1. Що з наведеного нижче є найточнішим позиціонуванням штучного інтелекту в математиці?

A) Штучний інтелект – це стратегія, план і інструмент організації; Людина має перевірити точні розрахунки та результат детермінованими засобами ✔
Б) Штучний інтелект схожий на калькулятор, і кожен числовий результат, який він дає, є точним
C) Штучний інтелект ніколи не помиляється у висновках, які він впевнено представляє, тому перевірка не потрібна
D) Штучний інтелект корисний лише для написання тексту, він не має нічого спільного з будь-якими математичними завданнями

Опис: велика мовна модель — це інструмент, який статистично генерує текст; Це не калькулятор чи перевірка доказів. Він створює правильну математику більшу частину часу, але це не гарантує; тому кожен результат має бути перевірений за допомогою детермінованих інструментів (SymPy, калькулятор, перевірка вручну), а відповідальність має залишатися за людиною.

2. Учень просить штучний інтелект розв’язати інтеграл і хоче отримати результат. Який найнадійніший спосіб перевірити результат?

A) Розрізнення результату та перевірка, чи повертається він до вихідної функції (SymPy або вручну) ✔
Б) Запитайте штучний інтелект: «Це правда?» просити
C) Прийняття результату таким, який він є, оскільки він представлений вільно та впевнено.
Г) Перехід до іншого запитання й узагалі не перевірка результату

Пояснення: обернена похідна-інтеграл є вбудованим інструментом перевірки в математиці: беручи похідну знайденого результату та перевіряючи, чи повертається вона до початкової функції незалежно, підтверджується правильність інтеграла. Таку саму перехресну перевірку можна виконати за допомогою SymPy.

3. Що означає принцип «правильний результат — не правильний шлях» у розв’язанні проблем за допомогою штучного інтелекту?

А) Правильний результат завжди доводить, що шлях також правильний
Б) Шлях неважливий, зараховується лише результат
C) Неправильні проміжні кроки можуть випадково призвести до правильного результату; Тому необхідно перевіряти як результат, так і кожен проміжний крок ✔
D) Неможливо знайти твердий шлях, тому ми дивимося лише на результат

Пояснення: іноді неправильні проміжні кроки призводять до правильного результату випадково; Навіть якщо результат правильний, шлях може бути недійсним. Ось чому в математиці це просто "чи правильний результат?" а скоріше «чи правильний кожен проміжний крок?» Питання теж важливе, і кожен крок потрібно контролювати.

4. Що робити, коли ШІ використовує фразу «без втрати загальності» у доказі?

A) Признання того, що доказ дійсний, оскільки твердження є вільним
B) Виправдання для себе, що загальність насправді не порушується; ✔ не приймаю без питань
C) Вважати доказ дійсним, не читаючи його взагалі
D) Пошук цього виразу з джерела як назви теореми

Пояснення: твердження «без втрати загальності» іноді дійсне (якщо є справжня симетрія), але іноді це прихована помилка. Штучний інтелект часто використовує цей вислів; Ви повинні кожен раз виправдовуватися перед собою, що загальність насправді не порушена, і ви не повинні приймати твердження без сумніву.

5. Ви написали код SymPy для штучного інтелекту. Як правильно отримати результат?

A) Змусити штучний інтелект передбачати результат коду
B) Припускаючи, що код правильний, не читаючи його
C) Довіряти інтерпретації результату ШІ
D) Запустіть код самостійно в реальному середовищі Python і подивіться точний результат ✔

Опис: потужність SymPy виявляється лише тоді, коли код виконується в реальному середовищі Python. Запитайте штучний інтелект: «Що створює цей код?» запит не є перевіркою, тому що штучний інтелект також може створити вихідний код. Ви повинні запустити код самостійно.

6. Якщо розв’язок рівняння, знайдений вручну штучним інтелектом, і результат, наданий SymPy, відрізняються, якому з них слід довіряти і чому?

A) результат SymPy, оскільки він детермінований і точний; Потім нехай штучний інтелект знайде місце своєї помилки ✔
B) Результат штучного інтелекту, тому що він пояснює більш вільно
C) Вибір одного навмання, оскільки вони обидва однаково надійні
Г) Відкидаючи те й інше і вважаючи питання нерозв’язним

Опис: SymPy — це детермінована символьна обчислювальна система: вона завжди дає той самий точний правильний результат на той самий вхід. Штучний інтелект створює текст статистично і може галюцинувати. У суперечці за основу слід взяти SymPy і змусити штучний інтелект знайти місце його помилки.

7. Чому умова «0,1 + 0,2 == 0,3» не працює належним чином у коді Python і як це виправити?

A) Додавання не працює в Python; потрібно використовувати іншу мову
B) Точна рівність не виконується через точність чисел з плаваючою комою; Слід використовувати такий допуск, як «abs(a-b) < 1e-9» ✔
C) Значення 0,3 є неправильним; Треба написати 0,30000000004
D) Умова завжди працює правильно, немає проблем

Пояснення: комп’ютери зберігають десяткові числа у форматі з плаваючою комою з обмеженою точністю; 0,1 + 0,2 зберігається з дуже невеликим відхиленням, не зовсім 0,3. Тому замість точної рівності '==' слід використовувати допуск, наприклад 'abs(a-b) < 1e-9'.

8. Який найкращий «тест здорового глузду» перед застосуванням коду пошуку скалярного кореня до реальної проблеми?

A) Застосування коду безпосередньо до реальної проблеми без її тестування взагалі
B) Перевірте довжину коду та порахуйте його правильно, якщо він довгий.
C) Перевірка коду за допомогою простого введення, відповідь якого відома (наприклад, x²-4=0 коренів ±2) і перевірка того, що він дає очікуваний результат ✔
D) Підтвердження штучному інтелекту, що код правильний

Пояснення: тестування коду за допомогою простого введення, відповідь якого ви вже знаєте (наприклад, ±2 для x²-4=0 з очевидними коренями), є найдешевшою та найефективнішою перевіркою. Якщо код правильно передає відому ситуацію, ймовірність того, що він надійний для проблем, які вам не відомі, зростає.

9. Як у візуалізації перевірити, що графік правильно відображає математику?

А) Якщо графік виглядає естетично, він вважається правильним.
Б) Порівняння графіка з відомими властивостями функції та істинним значенням хоча б однієї точки ✔
C) Зовсім не дивлячись на позначки осей
D) Покладаючись на словесний опис графіка ШІ

Пояснення: графіка, яка виглядає гарно, не обов’язково має бути точною; ШІ може намалювати неправильну функцію, у неправильному діапазоні або з спотвореною асимптотою. Порівняння графіка з відомими властивостями функції (діапазон коливань, симетрія, асимптота) і обчислення хоча б однієї точки виявляє помилки.

10. Що є найважливішим пунктом перевірки в матеріалі курсу, створеному за допомогою штучного інтелекту, і чому?

А) Шрифт і колірне рішення матеріалу
Б) Обсяг матеріалу та кількість сторінок
В) Точність розв’язаних прикладів; тому що студенти беруть їх за моделі та навчають неправильному прикладі та неправильному методу ✔
Г) Як швидко виробляється матеріал

Пояснення: розв’язані приклади учні беруть за зразки; Неправильно розв’язаний приклад безпосередньо вчить учнів неправильному методу. Тому кожен розв’язаний приклад потрібно перевіряти окремо, крок за кроком, за допомогою SymPy або вручну. Невелику неоднозначність у поясненні предмета можна компенсувати, але неправильний приклад завдає каскадної шкоди.

11. Який найефективніший і надійний спосіб перевірити набір запитань з декількома варіантами відповідей, згенерований штучним інтелектом?

А) Ще раз запитати штучний інтелект, чи правильні запитання
B) Перевірка лише кількох запитань навмання та довіра решті
C) Використовуючи ключ відповіді без перевірки
D) Перевірка ключа відповіді сукупно та детерміновано шляхом друку та запуску коду, який вирішує всі запитання за допомогою SymPy ✔

Пояснення: Штучний інтелект найчастіше робить помилки, наприклад, неправильно позначає ключ відповіді та створює кілька правильних варіантів/нуль. Написання та запуск коду, який одночасно вирішує всі питання за допомогою SymPy, є найефективнішим способом детермінованої та масової перевірки ключа відповіді.

12. Що з перерахованого є основною причиною помилок штучного інтелекту в математиці?

А) Штучний інтелект є мовною моделлю; не перевіряє логічну достовірність, генерує текст статистично ✔
Б) Штучний інтелект ніколи не вчився математики
В) Штучний інтелект навмисно запрограмований давати неправильні відповіді
Г) Штучний інтелект робить помилки лише в дуже складних задачах, ніколи в легких.

Опис: Штучний інтелект — це не логічний механізм, а модель мови, яка створює текст зі статистичними шаблонами; Він не має внутрішнього механізму перевірки логічної достовірності кроків. «Достовірний доказ» із «тризначним множенням» для нього є завданням створення такого самого типу тексту, тому його правильність не може бути гарантована.

13. Коли результат ймовірнісної задачі дорівнює 1,4, як дізнатися, що є помилка, не вдаючись у подробиці?

A) Розрахунок правильний, оскільки результат дорівнює 1,4, ймовірність може перевищувати 1
Б) Знак ймовірності неважливий, значення приймається незалежно
В) Не розуміється, що є помилка, результат вважається остаточним.
D) Імовірність має бути між 0 і 1; ✔ Перевірка здорового глузду вказує на помилку, оскільки 1,4 перевищує цю межу

Опис: Тест здорового глузду та порядку величини протягом секунд перевіряє, чи відповідає результат розумному діапазону. Імовірність за визначенням має бути між 0 і 1; 1.4 знаходиться за межами цієї межі, тому очевидно, що є помилка, не дивлячись на деталі розрахунку.

14. Чому в LaTeX важливо писати 'e^{x^2}' замість 'e^x^2'?

А) Вони абсолютно однакові, різниця лише естетична
Б) Фігурні дужки визначають область визначення степеня; Без нього вираз був би неправильним або неоднозначним, тому багатосимвольний показник {} є важливим ✔
C) Фігурні дужки марні в LaTeX
D) 'e^x^2' завжди істинне, використання '{}' непотрібне

Пояснення: найпоширенішою помилкою в LaTeX є помилка області видимості: якщо фігурні дужки '{}' не використовуються в багатосимвольному показнику, нижньому індексі або дробі, покривається лише перший символ і вираз стає неправильним (або навіть двозначним). 'e^{x^2}' пояснює, що весь показник степеня дорівнює x²; Код слід відобразити та перевірити візуальним оглядом.

15. Ви хочете, щоб питання активного центрального іспиту були перевірені штучним інтелектом. Який найкращий підхід з точки зору етики та конфіденційності?

A) Вільне введення запитань у будь-який загальний інструмент ШІ, оскільки математика не містить конфіденційних даних
B) Використання питань на іспиті без їх перевірки
C) Перевірка запитань за допомогою безпечного/власного інструменту (наприклад, SymPy) або використання лише корпоративних інструментів із гарантованою конфіденційністю ✔
D) Ділитися запитаннями в соціальних мережах і просити інших контролювати

Опис: активні екзаменаційні питання є делікатними; Теоретично його можна викрити, якщо зламати інструмент штучного інтелекту, конфіденційність якого не гарантується. Правильний підхід полягає в тому, щоб або перевірити питання за допомогою безпечного/власного інструменту (наприклад, з колегою в SymPy), або використовувати лише корпоративні сертифіковані інструменти з гарантованою конфіденційністю даних.