Етика, академски интегритет, граници и работен тек од крај до крај

Добивки:

• Способност за разбирање и примена на етичките принципи за користење на вештачката интелигенција во математиката (да се биде во служба на учењето, транспарентноста, човечката одговорност, правдата, доверливоста).
• Способност да се проценат ризиците за приватност и да се преземат соодветни мерки на претпазливост во чувствителните содржини, како што се испитните прашања, податоците за студентите и необјавените истражувања
• Способност да се комбинираат сите делови од модулот (производство + верификација) во еден работен тек од крај до крај, завршувајќи го секој чекор на производство со чекор за верификација и конечно човечко одобрување

Во оваа завршна единица комбинираме две работи: од една страна, етичкиот, академскиот интегритет и димензиите на доверливост на употребата на вештачката интелигенција во математиката; Од друга страна, да го собереме она што го научивме низ модулот во еден работен тек од крај до крај. Вештачката интелигенција во математиката е моќна алатка, но доаѓа со одговорност како и моќ: за кого ја користите, за што ја користите и како ја користите има етички последици. Студентот кој ја извршува домашната задача со вештачка интелигенција и наставникот кој го забрзува предметниот материјал со вештачка интелигенција се многу различни работи. Оваа единица ја надополнува техничката вештина со одговорна употреба.

Неколку дефиниции. Академскиот интегритет значи искрено да се покаже кој навистина поседува дело и да не се скратува учењето. Плагијат претставува претставување туѓ (или медиум) производ како да е ваш оригинален производ. Транспарентност значи јасно да се наведе каде се користи вештачката интелигенција. Овие концепти станаа централни за математичкото образование во ерата на вештачката интелигенција.

Основни принципи на етичка употреба

1. Не на местото на учење, туку во служба на тоа. ВИ може да го поддржи ученикот во учењето на концептот (објаснување, алтернативно објаснување), но наместо тоа не треба да го натера да размислува. Тоа што вештачката интелигенција ја извршува домашната задача го поткопува учењето.
2. Транспарентност. Наведете каде е користена вештачката интелигенција - во статија, материјал за курсот или извештај. Сокривањето е нечесно.
3. Одговорноста им припаѓа на луѓето. Секој што објавува, предава или испорачува излез на вештачка интелигенција е одговорен за неговата точност. „Вештачката интелигенција рече така“ не е изговор.
4. Правда. Употребата на вештачка интелигенција во оценувањето треба да биде регулирана со еднакви и јасни правила за сите ученици.
5. Безбедност. Не внесувајте чувствителни информации, како што се испитни прашања, податоци за студенти или необјавени истражувања, во алатките за вештачка интелигенција чија доверливост не е загарантирана.

Приватност: што значи тоа во контекст на математиката?

Иако математиката може да изгледа дека „нема скриени податоци“, контекстот е важен. Необјавен резултат од истражувањето, банка за испитни прашања на институцијата, лични податоци за перформансите на студентите или комерцијален алгоритам на компанијата - сите се чувствителни. Сè што внесувате во алатката за вештачка интелигенција може да биде обработено од давателот на таа алатка и, во некои случаи, да се користи за обука на моделот. Значи, за чувствителна содржина, или користете локално/институционално обезбедени алатки или анонимизирајте ја содржината.

Тип на податоци

Ризик

претпазливост

Објавена теорема/проблем

низок

слободно достапни

Прашања за активни испити

високо

Не влегувајте и не обезбедувајте возило

Лични податоци/податоци за учинокот

високо

Анонимизирај/не влегувај

Необјавено истражување

високо

Безбедна/локална алатка

Преглед на предавање

ниско-средно

Генерално погоден

Внимание: Пред да влезете во вештачката интелигенција за да потврдите прашање за испит, размислете дали тоа прашање треба да остане тајно. Прашањата од активниот испит теоретски би можеле да бидат изложени кога се внесуваат во алатка за вештачка интелигенција чија доверливост не е загарантирана. За критичните испити, или сменете ги прашањата или користете само корпоративно одобрени алатки за кои се гарантира приватноста на податоците.

Работен тек од крај до крај: пример на задача

Да речеме дека треба да подготвите и предметен материјал и испит за предмет во рок од една недела. Протокот што ги комбинира сите делови на модулот може да биде вака:

1. Планирање. Разјаснете ја темата, нивото и целите (Глада 7).

2. Изработка на материјалот. Вештачката интелигенција нека произведе предавања соодветно на ниво + решени примери (Глада 7).

3. Проверка на примерок. Проверете го секој решен пример со SymPy (Единица 4).

4. Визуелизација. Направете и изведете графики за поддршка на наративот со Matplotlib код и споредете ги со математиката (Unit 6).

5. Нотација. Исчистете го индексот, рендерирајте и проверете ги формулите со LaTeX (Единица 10).

6. Генерирање прашања. Имајте прашања со повеќекратен избор + дистрактори произведени за испитот (Единица 8).

7. Масовна верификација. Решете ги сите прашања на големо со SymPy и проверете го копчето за одговор (Единица 8, 9).

8. Етика и контрола на транспарентноста. Дали е соодветна доверливоста? Дали сте ја навеле употребата на вештачка интелигенција во материјалот кога е потребно? Вие ја имате крајната одговорност (оваа единица).

9. Човечко одобрување. Прегледајте и потврдете сè за последен пат. Секое непроверено парче нема да оди во етер/тест.

Совет: во работниот тек од крај до крај, најефикасната стратегија е да ја поставите вештачката интелигенција како „слој на брзина“, детерминистичките алатки (SymPy, рендер) како „слој на исправност“ и себе си како „слој на расудување и одговорност“. Секој чекор на производство треба да биде проследен со чекор за верификација; Непроверениот излез не треба да се пренесува на следниот чекор.

три мини футроли

Случај 1 — Транспарентноста изгради доверба. Еден академик користел вештачка интелигенција во првиот нацрт на поглавје од учебникот, а потоа го потврдил секое математичко тврдење и во предговорот навел дека „поддршката за вештачка интелигенција е добиена во изработката на ракописот, целата содржина е потврдена од авторот“. Оваа транспарентност ја зголеми довербата на колегите и го задржа стандардот на интегритет.

Случај 2 - Употреба што го поткопува учењето. Еден ученик побарал вештачката интелигенција да му ја реши целата домашна задача и да ја достави. Тој падна на испитот по истите предмети бидејќи никогаш не ги научил поимите. Наставникот предложи да се користи вештачката интелигенција за „да се провери решението и да се добие алтернативно објаснување“, но прво самиот да ги реши проблемите. ВИ треба да биде во служба на учењето, а не на нејзино место.

Случај 3 - Ризик од нарушување на приватноста. Еден наставник размислувал за хакирање на општа алатка за вештачка интелигенција за да ги потврди прашањата за централниот испит што сè уште не бил спроведен, но потоа одлучил против тоа; наместо тоа, тој ги решаваше прашањата во SymPy сам и колега. Внесувањето активни испитни прашања во надворешна алатка беше сериозен ризик за приватноста; локалната автентикација ја обезбеди безбедната патека.

Четири шаблони за копирање

1) Употреба што го поддржува учењето (за студенти):

Јас го решив овој проблем ПРВО, моето решение е во прилог. НЕ ми го давајте решението; само покажи ми каде згрешив и кој концепт погрешно го разбрав за да можам да го поправам. Моето решение: [тука]

2) Создавање белешка за транспарентност:

Подготвив [материјал/извештај за курсот] и користев вештачка интелигенција во фазата на нацрт, потврдувајќи ја сам целата математика. Напишете кратка, професионална белешка за транспарентност која искрено го наведува ова.

3) Претходна проверка на приватноста:

Би сакал да ја квалификувам следнава содржина за приватност пред да ја внесам во алатка за вештачка интелигенција: [тип на содржина]. Дали овој тип на содржина се смета за чувствителен, какви ризици постојат, какви мерки на претпазливост (анонимизација, локална алатка) треба да преземам? Кажи го кратко и јасно.

4) План за контрола на верификација од крај до крај:

Подготвувам предметен материјал + испит за [предмет]. Наведете како контролен план каква верификација треба да направам на секој чекор од производството: проверка на примерокот, графичка контрола, нотација, клуч за одговор, доверливост, човечко одобрување.

Слаб промпт / Силен промпт

Слабо: „Решете ги овие прашања за домашна работа и јас ќе ги предадам“. (студент)

Резултат: Учењето е прескокнато, академскиот интегритет е нарушен, ученикот не успева да го научи концептот. Тоа е етички и педагошки непристојно.

Ѓучлу: „Се обидов да го решам ова прашање за домашна задача, но заглавив; моето решение е приложено. Не давајте го одговорот директно; покажете ми со поим кој чекор и зошто згрешив, потсетете ме на правилниот концепт, па ќе се обидам повторно“.

Заклучок: ВИ се користи во служба на учењето; Ученикот продолжува да размислува, чесноста се одржува.

Вообичаени грешки

• Користете го за да го прескокнете учењето. Ако вештачката интелигенција ја извршува домашната задача е лесно на краток рок, но го уништува учењето на долг рок.
• Не се транспарентни. Прикривањето на употребата на вештачка интелигенција е против академскиот интегритет; наведете кога е потребно.
• Ставајќи ја одговорноста на вештачката интелигенција. „Ви го кажа тоа“ не е изговор; Издавачот/наставникот е одговорен.
• Внесување доверлива содржина во надворешна алатка. Чувствителни се активниот испит, податоците за студентите, необјавените истражувања.
• Се остава валидацијата на крајот на работниот тек. Верификацијата треба да дојде по секој чекор на производство; Грешките не треба да се акумулираат.

Сумирано

Употребата на вештачката интелигенција во математиката бара етичка одговорност, како и техничка вештина: таа треба да биде во служба на учењето (не на негово место), да биде транспарентна, да ја задржи крајната одговорност, да се придржува до фер правила и да ја почитува доверливоста. Во работниот тек од крај до крај, вештачката интелигенција е слојот за брзина, SymPy и алатките за рендерирање се слојот на точност, а луѓето се слојот за расудување и одговорност. Секој чекор на производство треба да биде проследен со чекор за верификација; Ниту еден непроверен резултат не треба да оди во објавување, предавање или испит. Тоа е суштината на овој модул: бидете побрзо со вештачката интелигенција, но проверете и преземете одговорност за секој чекор.

Задача за апликација

Дизајнирајте задача од крај до крај од мали размери: краток наратив + 1 графикон + 3 прашања со повеќекратен избор за тема. Следете го текот на модулот: (1) планирајте, (2) нацртајте со вештачка интелигенција, (3) валидирајте ги примерите со SymPy, (4) прикажувајте и проверете го графикот, (5) исчистете ја и изведете ја ознаката со LaTeX, (6) сериски потврдете ги прашањата со SymPy, (7) направете проверка на приватноста и транспарентноста, (8) дадете конечно човечко одобрување. Запишете каква проверка сте направиле и што најдовте на секој чекор. На крајот од процесот, проценете каде вештачката интелигенција заштедува време и каде вашето расудување е незаменливо.

листа за проверка

• [ ] Користев вештачка интелигенција во служба на (не наместо) учење.
• [ ] Транспарентно ја наведов употребата на вештачка интелигенција каде што е потребно.
• [ ] Ја презедов одговорноста за крајната точност.
• [ ] Не пристапив до доверливи/чувствителни содржини преку необезбедени алатки.
• [ ] Го следев секој чекор на производство со чекор за верификација.
• [ ] Не носев никаков непроверен излез во емитувањето/часот/испитот.

Модул испит

1. Кое од наведеното е најточно позиционирање на вештачката интелигенција во математиката?

• А) Вештачката интелигенција е стратегија, план и алатка за организирање; На човекот му останува да ја потврди точната пресметка и резултат со детерминистички средства ✔
• Б) Вештачката интелигенција е како калкулатор и секој нумерички резултат што го дава е прецизен
• В) Вештачката интелигенција никогаш не греши во заклучоците што самоуверено ги изнесува, така што проверката е непотребна
• Г) Вештачката интелигенција е корисна само за пишување текст, нема никаква врска со никакви математички задачи

Опис: Голем јазичен модел е алатка која статистички генерира текст; Тоа не е калкулатор или проверка на доказ. Поголемиот дел од времето произведува правилна математика, но не гарантира; така што секој излез треба да се проверува со детерминистички алатки (SymPy, калкулатор, рачна валидација) и одговорноста треба да остане кај човекот.

2. Ученик бара вештачка интелигенција да реши интеграл и сака да го добие резултатот. Кој е најсигурниот начин да се потврди резултатот?

• А) Диференцирање на резултатот и проверка дали се враќа во првобитната функција (SymPy или рачно) ✔
• Б) Прашајте ја вештачката интелигенција „дали е ова вистина? да прашам
• В) Прифаќање на резултатот таков каков што е затоа што е претставен течно и самоуверено.
• Г) Премин на друго прашање и воопшто не проверување на резултатот

Објаснување: Инверзната извод-интегрална е вградена алатка за верификација во математиката: земањето на изводот на пронајдениот резултат и проверката дали тој се враќа во првобитната функција самостојно ја потврдува исправноста на интегралот. Истата вкрстена проверка може да се направи со SymPy.

3. Што значи принципот „вистинскиот резултат не е вистинскиот начин“ во решавањето проблеми со вештачка интелигенција?

• А) Вистинскиот резултат секогаш докажува дека и патот е правилен
• Б) Патот е неважен, само резултатот треба да се бодува
• В) Неточни средни чекори може случајно да доведат до точен резултат; Затоа, и резултатот и секој среден чекор мора да се проверат ✔
• Г) Невозможно е да се најде солиден пат, затоа гледаме само на исходот

Објаснување: Понекогаш погрешните средни чекори водат до вистинскиот резултат случајно; Дури и ако резултатот е точен, патеката може да биде неважечка. Затоа во математиката е само 'дали резултатот е точен?' туку 'дали секој среден чекор е точен?' Прашањето е исто така суштинско и секој чекор треба да биде надгледуван.

4. Што треба да направите кога вештачката интелигенција ја користи фразата „без губење на општоста“ во доказ?

• А) Прифаќање дека доказот е валиден затоа што изјавата е течна
• Б) Оправдување за себе дека генералноста всушност не е скршена; ✔ не прифаќа без прашање
• В) Сметајќи го доказот за валиден без воопшто да го прочитате
• Г) Пребарување на овој израз од изворот како име на теорема

Појаснување: Изјавата „без губење на општоста“ понекогаш е валидна (ако има вистинска симетрија), но понекогаш е скриена грешка. Вештачката интелигенција многу го користи овој израз; Мора секој пат да се правдате дека генералноста навистина не е нарушена и не смеете да ја прифатите изјавата без прашање.

5. На вештачката интелигенција и напишавте SymPy код. Како правилно да го добиете резултатот?

• А) Изработка на вештачка интелигенција да го предвиди излезот од кодот
• Б) Претпоставувајќи дека кодот е точен без да го прочитате
• В) Доверба на интерпретацијата на ВИ на излезот
• Г) Извршете го кодот сами во вистинска Python околина и видете го точниот излез ✔

Опис: Моќта на SymPy се открива само кога кодот се извршува во вистинска Python околина. Прашајте ја вештачката интелигенција „што произведува овој код? прашувањето не е верификација, бидејќи вештачката интелигенција може да го сочинува и излезот на кодот. Мора сами да го извршите кодот.

6. Ако решението на равенката пронајдена рачно со вештачката интелигенција и резултатот даден од SymPy се различни, на кое треба да му верувате и зошто?

• А) Резултат на SymPy бидејќи е детерминистички и прецизен; Потоа вештачката интелигенција нека ја најде локацијата на својата грешка ✔
• Б) Резултат на вештачката интелигенција бидејќи објаснува потечно
• В) Избор на еден по случаен избор бидејќи и двајцата се подеднакво сигурни
• Г) Отфрлање на двете и сметање на прашањето за нерешливо

Опис: SymPy е детерминистички симболичен компјутерски систем: тој секогаш го дава истиот точен резултат на истиот влез. Вештачката интелигенција произведува текст статистички и може да халуцинира. Во спорот, SymPy треба да се земе како основа и да се направи вештачката интелигенција за да се најде локацијата на нејзината грешка.

7. Зошто условот „0.1 + 0.2 == 0.3“ не работи како што се очекува во кодот на Python и како да се поправи?

• А) Додавањето е скршено во Python; треба да користите друг јазик
• Б) Точната еднаквост не важи поради прецизноста на бројот со подвижна запирка; Треба да се користи толеранција како што е 'abs(a-b) < 1e-9' ✔
• В) Вредноста 0,3 е неточна; Потребно е да се напише 0,30000000004
• Г) Состојбата секогаш функционира правилно, нема проблем

Објаснување: Компјутерите складираат децимални броеви во формат со подвижна запирка со ограничена прецизност; 0,1 + 0,2 се складира со многу мало отстапување, а не точно 0,3. Затоа, наместо точната еднаквост '==', треба да се користи толеранција како што е 'abs(a-b) < 1e-9'.

8. Кој е најдобриот „тест за здрав разум“ пред да се примени скаларен код за наоѓање корен на вистинскиот проблем?

• А) Примена на кодот директно на вистинскиот проблем без воопшто да се тестира
• Б) Проверете ја должината на шифрата и пребројте ја правилно ако е долга.
• В) Тестирање на кодот со едноставно внесување чиј одговор е познат (на пр. x²-4=0 корени ±2) и проверка дали го дава очекуваниот резултат ✔
• Г) Потврдување на вештачката интелигенција дека кодот е точен

Објаснување: Тестирањето на кодот со едноставен влез чиј одговор веќе го знаете (на пр. ±2 за x²-4=0 со очигледни корени) е најевтината и најефективната проверка. Ако кодот правилно ја дава познатата ситуација, веројатноста да биде сигурен за проблеми што не ги знаете се зголемува.

9. Во визуелизацијата, како да проверите дали графикот правилно ја одразува математиката?

• А) Ако графикот изгледа естетски пријатен, тој се смета за точен.
• Б) Споредување на графикот со познати својства на функцијата и вистинската вредност на најмалку една точка ✔
• В) Воопшто не гледајќи ги етикетите на оските
• Г) Потпирајќи се на вербалниот опис на графиконот на вештачката интелигенција

Објаснување: Графиката што изгледа убаво не мора да биде точна; ВИ може да нацрта погрешна функција, во погрешен опсег или со искривена асимптота. Споредувањето на графиконот со познатите својства на функцијата (опсег на осцилации, симетрија, асимптота) и пресметката на најмалку една точка фаќа грешки.

10. Која е најкритичната точка за верификација во предметниот материјал произведен со вештачка интелигенција и зошто?

• А) Фонт и шема на бои на материјалот
• Б) Должина на материјалот и број на страници
• В) Точност на решените примери; затоа што учениците ги земаат како модели и предаваат погрешен пример и погрешен метод ✔
• Г) Колку брзо се произведува материјалот

Објаснување: Решените примери се земаат како модели од страна на учениците; Неправилно решен пример директно ги учи учениците на погрешен метод. Затоа, секој решен пример мора да се проверува поединечно, чекор по чекор, или со SymPy или рачно. Мала нејасност во објаснувањето на темата може да се надомести, но погрешниот пример предизвикува каскадно оштетување.

11. Кој е најефикасен и најсигурен начин да се потврди множеството прашања со повеќекратен избор генерирано од вештачката интелигенција?

• А) Повторно прашување на вештачката интелигенција дали прашањата се точни
• Б) Проверување само неколку прашања по случаен избор и доверба во останатите
• В) Користење на клучот за одговор како што е без да проверите ништо од него
• Г) Колективно и детерминистичко проверување на клучот за одговор со печатење и извршување на код што ги решава сите прашања со SymPy ✔

Објаснување: Вештачката интелигенција најчесто прави грешки како што е погрешно обележување на клучот за одговор и производство на повеќе/нула точни опции. Пишувањето и водење на код кој ги решава сите прашања одеднаш со SymPy е најефикасниот начин за детерминистички и на големо да го проверите клучот за одговор.

12. Која од наведеното е главната причина зошто вештачката интелигенција прави грешки во математиката?

• А) Вештачката интелигенција е јазичен модел; не ја проверува логичката валидност, генерира текст статистички ✔
• Б) Вештачката интелигенција никогаш не научила математика
• В) Вештачката интелигенција е намерно програмирана да дава погрешни одговори
• Г) Вештачката интелигенција греши само во многу тешки проблеми, никогаш во лесни.

Опис: Вештачката интелигенција не е логички мотор, туку јазичен модел кој произведува текст со статистички обрасци; Нема внатрешен механизам за проверка на логичката валидност на чекорите. „Валиден доказ“ со „3-цифрено множење“ е за него задача да произведе ист тип на текст, така што неговата исправност не може да се гарантира.

13. Кога резултатот на проблемот со веројатноста е 1,4, како да знаете дека има грешка без да навлегувате во детали?

• А) Пресметката е точна бидејќи резултатот е 1,4, веројатноста може да надмине 1
• Б) Знакот на веројатноста е неважен, вредноста се прифаќа без разлика
• В) Не се разбира дека има грешка, резултатот се смета за конечен.
• Г) Веројатноста мора да биде помеѓу 0 и 1; ✔ Тестирањето на здравиот разум укажува на грешка бидејќи 1.4 ја надминува оваа граница

Опис: Тестот со здрав разум и редослед на големина проверува за неколку секунди дали резултатот е во разумен опсег. Веројатноста по дефиниција мора да биде помеѓу 0 и 1; 1.4 е надвор од оваа граница, па очигледно е дека има грешка без да се погледнат деталите од пресметката.

14. Зошто е важно да се напише 'e^{x^2}' наместо 'e^x^2' во LaTeX?

• А) Тие се сосема исти, разликата е само естетска
• Б) Кадравите загради го одредуваат обемот на експонентот; Без него изразот би бил неточен или двосмислен, така што експонентот со повеќе знаци {} е суштински ✔
• В) Кадравите загради се бескорисни во LaTeX
• Г) 'e^x^2' е секогаш точно, користењето на '{}' е непотребно

Објаснување: Најчеста грешка во LaTeX е грешката во опсегот: ако заградите „{}“ не се користат во повеќезнаковен експонент, подлог или дропка, само првиот знак е покриен и изразот станува неточен (или дури и двосмислен). 'e^{x^2}' јасно покажува дека целиот експонент е x²; Кодот треба да се изведе и да се потврди со визуелна инспекција.

15. Сакате прашањата од активен централен испит да бидат потврдени со вештачка интелигенција. Кој е најдобриот пристап во однос на етиката и приватноста?

• А) Слободно внесување прашања во која било општа алатка за вештачка интелигенција бидејќи математиката не содржи доверливи податоци
• Б) Користење прашања на испитот без нивна проверка
• В) Потврдување прашања со безбедна/матична алатка (на пр. SymPy) или со користење само алатки за претпријатието обезбедени со приватност ✔
• Г) Споделување прашања на социјалните медиуми и барање контрола од другите

Опис: Активните испитни прашања се чувствителни; Теоретски би можело да се открие кога ќе биде хакирана алатка за вештачка интелигенција чија доверливост не е загарантирана. Точниот пристап е или да се валидираат прашањата со безбедна/матична алатка (на пр. со колега во SymPy) или да се користат само корпоративно сертифицирани алатки загарантирани за приватност на податоците.