Etică, integritate academică, limite și flux de lucru end-to-end

Câștiguri:

• Abilitatea de a înțelege și aplica principiile etice ale utilizării inteligenței artificiale în matematică (a fi în slujba învățării, transparență, responsabilitate umană, dreptate, confidențialitate).
• Abilitatea de a evalua riscurile de confidențialitate și de a lua măsurile de precauție adecvate în conținutul sensibil, cum ar fi întrebările de la examen, datele studenților și cercetările nepublicate
• Abilitatea de a combina toate părțile modulului (producție + verificare) într-un singur flux de lucru end-to-end, completând fiecare pas de producție cu un pas de verificare și aprobare umană finală

În această unitate finală combinăm două lucruri: pe de o parte, dimensiunile etice, de integritate academică și de confidențialitate ale utilizării inteligenței artificiale în matematică; Pe de altă parte, să reunim ceea ce am învățat pe parcursul modulului într-un singur flux de lucru end-to-end. AI în matematică este un instrument puternic, dar vine cu responsabilitate, precum și putere: pentru cine îl folosești, pentru ce îl folosești și cum îl folosești are consecințe etice. Un elev care își face temele de AI și un profesor care accelerează materialele de curs cu AI sunt lucruri foarte diferite. Această unitate completează abilitățile tehnice cu utilizarea responsabilă.

Câteva definiții. Integritatea academică înseamnă să arăți cu onestitate cine deține cu adevărat o lucrare și nu să scurtezi învățarea. Plagiatul înseamnă prezentarea produsului altcuiva (sau al unui mediu) ca și cum ar fi propriul tău produs original. Transparența înseamnă a preciza în mod clar unde este folosită IA. Aceste concepte au devenit esențiale pentru educația matematică în era IA.

Principii de bază ale utilizării etice

1. Nu în locul învățării, ci în serviciul ei. AI poate sprijini un elev în învățarea conceptului (explicație, explicație alternativă), dar nu ar trebui să-l pună pe gânduri. Faptul ca AI să facă temele subminează învățarea.
2. Transparenţă. Indicați unde a fost folosită IA - într-un articol, material de curs sau raport. Ascunderea este necinstită.
3. Responsabilitatea aparține oamenilor. Oricine publică, predă sau furnizează rezultate AI este responsabil pentru acuratețea acestora. „AI a spus așa” nu este o scuză.
4. Justiţie. Utilizarea IA în evaluare ar trebui să fie guvernată de reguli egale și clare pentru toți elevii.
5. Securitate. Nu introduceți informații sensibile, cum ar fi întrebările de la examen, datele studenților sau cercetări nepublicate, în instrumentele AI a căror confidențialitate nu este garantată.

Confidențialitate: ce înseamnă în contextul matematicii?

Chiar dacă matematica poate părea că „nu are date ascunse”, contextul este important. Un rezultat nepublicat al unei cercetări, banca de întrebări pentru examen a unei instituții, datele personale de performanță ale studenților sau algoritmul proprietar al unei companii — toate sunt sensibile. Tot ceea ce introduceți într-un instrument AI poate fi procesat de furnizorul acelui instrument și, în unele cazuri, poate fi folosit în formarea modelului. Deci, pentru conținut sensibil, fie utilizați instrumente securizate la nivel local/instituțional, fie anonimizați conținutul.

Tip de date

Risc

precauție

Teoremă/problema publicată

scăzută

disponibil gratuit

Întrebări active de examen

înalt

Nu intrați și nu asigurați vehiculul

Date personale/de performanță ale elevilor

înalt

Anonimizați/nu intrați

Cercetare nepublicată

înalt

Instrument securizat/local

Schema cursului

scăzut-mediu

Potrivit în general

Atenție: înainte de a intra în AI pentru a verifica o întrebare de examen, luați în considerare dacă întrebarea ar trebui să rămână secretă. Întrebările de la un examen activ ar putea fi, teoretic, expuse atunci când sunt introduse într-un instrument AI a cărui confidențialitate nu este garantată. Pentru examenele critice, fie modificați întrebările, fie utilizați numai instrumente aprobate de companie și garantate de confidențialitatea datelor.

Flux de lucru end-to-end: un exemplu de sarcină

Să presupunem că trebuie să pregătiți atât materialul de curs, cât și un examen pentru un subiect într-o săptămână. Fluxul care combină toate părțile modulului ar putea fi astfel:

1. Planificare. Clarificați subiectul, nivelul și obiectivele (Unitatea 7).

2. Redactarea materialului. Puneți AI să producă prelegeri adecvate nivelului + exemple rezolvate (Unitatea 7).

3. Verificarea probei. Verificați fiecare exemplu rezolvat cu SymPy (Unitatea 4).

4. Vizualizarea. Produceți și redați grafice pentru a sprijini narațiunea cu codul Matplotlib și comparați-le cu matematica (Unitatea 6).

5. Notație. Curățați indexul, randați și verificați formulele cu LaTeX (Unitatea 10).

6. Generarea întrebărilor. Produceți întrebări cu răspunsuri multiple + elemente de distracție pentru examen (Unitatea 8).

7. Verificare în bloc. Rezolvați toate întrebările în bloc cu SymPy și verificați cheia de răspuns (Unitatea 8, 9).

8. Controlul eticii și al transparenței. Este adecvată confidențialitatea? Ați precizat utilizarea AI în material atunci când este necesar? Tu ai responsabilitatea finală (această unitate).

9. Aprobare umană. Examinați și confirmați totul pentru ultima dată. Orice piesă neverificată nu va intra în aer/test.

Sfat: într-un flux de lucru de la capăt la capăt, cea mai eficientă strategie este să poziționați AI ca „stratul de viteză”, instrumentele deterministe (SymPy, randare) ca „stratul de corectitudine” și pe dvs. ca „stratul de judecată și responsabilitate”. Fiecare etapă de producție ar trebui să fie urmată de o etapă de verificare; Rezultatele neverificate nu trebuie reportate la pasul următor.

trei mini cutii

Cazul 1 – Transparența a creat încredere. Un academic a folosit AI în prima schiță a unui capitol de manual, apoi a verificat fiecare afirmație matematică și a declarat în prefață că „a fost obținut sprijin AI în producerea manuscrisului, tot conținutul a fost verificat de către autor”. Această transparență a sporit încrederea colegilor și a menținut standardul de integritate.

Cazul 2 – Utilizare care subminează învățarea. Un student a pus AI să își rezolve întregul set de teme și să-l trimită. A picat examenul la aceleași materii pentru că nu învățase niciodată conceptele. Profesorul a sugerat să folosească AI pentru a „verifica soluția și a obține o explicație alternativă”, dar pentru a rezolva singur problemele mai întâi. AI ar trebui să fie în slujba învățării, nu în locul ei.

Cazul 3 – Risc de încălcare a vieții private. Un profesor s-a gândit să pirateze un instrument general de inteligență artificială pentru a verifica întrebările pentru un examen central care nu fusese încă administrat, dar apoi a decis să nu facă acest lucru; în schimb, a rezolvat întrebările din SymPy singur și un coleg. Introducerea întrebărilor de examen active într-un instrument extern a reprezentat un risc serios de confidențialitate; autentificarea locală a oferit calea sigură.

Patru șabloane copiabile

1) Utilizare care sprijină învățarea (pentru studenți):

Am rezolvat această problemă ÎNTÂI, soluția mea este atașată. NU-mi da solutia; Arată-mi doar unde am greșit și ce concept am înțeles greșit, ca să-l pot corecta. Soluția mea: [aici]

2) Generarea unei note de transparență:

Am pregătit un [material de curs/raport] și am folosit inteligența artificială în faza de proiect, verificând eu însumi toate calculele. Scrieți o notă de transparență scurtă, profesională, care să precizeze acest lucru cu onestitate.

3) Verificare prealabilă a confidențialității:

Aș dori să calific în mod confidențial următorul conținut înainte de a-l introduce într-un instrument AI: [tip de conținut]. Acest tip de conținut este considerat sensibil, ce riscuri există, ce măsuri de precauție (anonimizare, instrument local) ar trebui să iau? Spune-o scurt și clar.

4) Plan de control al verificării de la capăt la capăt:

Pregătesc material de curs + examen pentru [subiect]. Enumerați ca plan de control ce verificări trebuie să fac la fiecare pas de producție: verificarea probei, control grafic, notare, cheie de răspuns, confidențialitate, aprobare umană.

Prompt slab / Prompt puternic

Slab: „Rezolvă aceste întrebări legate de teme și le voi preda”. (student)

Rezultat: Învățarea este omisă, integritatea academică este încălcată, elevul nu reușește să învețe conceptul. Este inacceptabil din punct de vedere etic și pedagogic.

Güçlü: "Am încercat să rezolv această întrebare pentru acasă, dar m-am blocat; soluția mea este atașată. Nu dați răspunsul direct; arată-mi cu un indiciu care pas și de ce am greșit, reamintește-mi conceptul corect, apoi voi încerca din nou."

Concluzie: IA este folosită în serviciul învățării; Elevul continuă să gândească, se păstrează onestitatea.

Greșeli comune

• Folosindu-l pentru a sări peste învățare. Este ușor ca AI să facă temele pe termen scurt, dar distruge învățarea pe termen lung.
• Nefiind transparent. Ascunderea utilizării AI este împotriva integrității academice; specificați când este necesar.
• Pune responsabilitatea pe AI. „AI a spus așa” nu este o scuză; Editorul/profesorul este responsabil.
• Introducerea de conținut confidențial într-un instrument extern. Examenul activ, datele studenților, cercetările nepublicate sunt sensibile.
• Lăsând validarea la sfârșitul fluxului de lucru. Verificarea ar trebui să vină după fiecare etapă de producție; Erorile nu ar trebui să se acumuleze.

Pe scurt

Utilizarea IA în matematică necesită responsabilitate etică, precum și abilități tehnice: ar trebui să fie în slujba învățării (nu în locul acesteia), să fie transparentă, să-și păstreze responsabilitatea finală, să adere la reguli corecte și să respecte confidențialitatea. Într-un flux de lucru end-to-end, AI este stratul de viteză, SymPy și instrumentele de randare sunt stratul de acuratețe, iar oamenii sunt stratul de judecată și responsabilitate. Fiecare etapă de producție ar trebui să fie urmată de o etapă de verificare; Niciun rezultat neverificat nu trebuie să intre în publicare, prelegere sau examen. Aceasta este esența acestui modul: deveniți mai rapid cu AI, dar verificați și asumați-vă responsabilitatea pentru fiecare pas.

Sarcina de aplicare

Proiectați o sarcină la scară mică de la capăt la capăt: o scurtă narațiune + 1 diagramă + 3 întrebări cu răspunsuri multiple pentru un subiect. Urmați fluxul modulului: (1) planificați, (2) schițați cu AI, (3) validați exemple cu SymPy, (4) redați și verificați graficul, (5) curățați și redați notația cu LaTeX, (6) validați în lot întrebările cu SymPy, (7) faceți o verificare a confidențialității și transparenței, (8) acordați aprobarea umană finală. Înregistrați ce verificare ați făcut și ce ați găsit la fiecare pas. La sfârșitul procesului, evaluează unde AI economisește timp și unde raționamentul tău este indispensabil.

lista de verificare

• [ ] Am folosit AI în serviciul (nu în locul) învățării.
• [ ] Am declarat în mod transparent utilizarea AI acolo unde este necesar.
• [ ] Mi-am asumat responsabilitatea pentru acuratețea maximă.
• [ ] Nu am accesat conținut confidențial/sensibil prin instrumente nesecurizate.
• [ ] Am urmat fiecare pas de producție cu un pas de verificare.
• [ ] Nu am inclus niciun rezultat neverificat în transmisie/lecție/examen.

Examenul modulului

1. Care dintre următoarele este cea mai precisă poziționare pentru inteligența artificială în matematică?

• A) Inteligența artificială este o strategie, un plan și un instrument de organizare; Depinde de om să verifice calculul exact și rezultatul prin mijloace deterministe ✔
• B) Inteligența artificială este ca un calculator și fiecare rezultat numeric pe care îl oferă este precis
• C) Inteligența artificială nu greșește niciodată în concluziile pe care le prezintă cu încredere, deci verificarea nu este necesară
• D) Inteligența artificială este utilă doar pentru scrierea textului, nu are nicio legătură cu sarcinile matematice

Descriere: Un model de limbaj mare este un instrument care generează statistic text; Nu este un calculator sau un verificator de dovezi. Produce matematică corectă de cele mai multe ori, dar nu garantează; deci fiecare ieșire ar trebui verificată cu instrumente deterministe (SymPy, calculator, validare manuală) și responsabilitatea ar trebui să rămână la om.

2. Un elev cere inteligenței artificiale să rezolve o integrală și dorește să obțină rezultatul. Care este cea mai fiabilă modalitate de a verifica rezultatul?

• A) Diferențierea rezultatului și verificarea dacă acesta revine la funcția originală (SymPy sau manual) ✔
• B) Întrebați inteligența artificială „este adevărat?” a intreba
• C) Acceptarea rezultatului așa cum este, deoarece este prezentat fluent și cu încredere.
• D) Se trece la o altă întrebare și nu se verifică deloc rezultatul

Explicație: Inversul derivată-integrală este un instrument de verificare încorporat în matematică: luarea derivatei rezultatului găsit și verificarea dacă revine la funcția inițială în mod independent confirmă corectitudinea integralei. Aceeași verificare încrucișată se poate face cu SymPy.

3. Ce înseamnă principiul „rezultatul corect nu este calea corectă” în rezolvarea problemelor cu inteligența artificială?

• A) Rezultatul corect demonstrează întotdeauna că și calea este corectă
• B) Calea nu este importantă, doar rezultatul trebuie punctat
• C) Pașii intermediari incorecți pot duce întâmplător la rezultatul corect; Prin urmare, atât rezultatul, cât și fiecare pas intermediar trebuie inspectați ✔
• D) Este imposibil să găsim o cale solidă, așa că ne uităm doar la rezultat

Explicație: Uneori, pașii intermediari greșiți duc la rezultatul corect din întâmplare; Chiar dacă rezultatul este corect, calea poate fi invalidă. De aceea, în matematică este doar „rezultul este corect?” ci mai degrabă „fiecare pas intermediar este corect?” Întrebarea este, de asemenea, esențială și fiecare pas ar trebui supravegheat.

4. Ce ar trebui să faceți când AI folosește expresia „fără pierderea generalității” într-o dovadă?

• A) Acceptarea faptului că dovada este valabilă deoarece afirmația este fluentă
• B) Justificând pentru tine că generalitatea nu este de fapt ruptă; ✔ nu acceptă fără întrebări
• C) Considerând valabilă dovada fără a o citi deloc
• D) Căutarea acestei expresii din sursă ca nume de teoremă

Clarificare: Afirmația „fără pierderea generalității” este uneori validă (dacă există o simetrie autentică), dar uneori este o eroare ascunsă. Inteligența artificială folosește foarte mult această expresie; Trebuie să vă justificați de fiecare dată că generalitatea nu este cu adevărat încălcată și nu trebuie să acceptați afirmația fără îndoială.

5. Ai scris un cod SymPy pentru inteligența artificială. Cum obții corect rezultatul?

• A) A face ca inteligența artificială să prezică rezultatul codului
• B) Presupunând că codul este corect fără a-l citi
• C) Încredere în interpretarea AI a rezultatului
• D) Rulați singur codul într-un mediu Python real și vedeți rezultatul exact ✔

Descriere: Puterea SymPy este dezvăluită numai atunci când codul este rulat într-un mediu Python real. Întrebați inteligența artificială „ce produce acest cod?” Cererea nu este verificare, deoarece AI poate, de asemenea, să alcătuiască rezultatul codului. Trebuie să rulați singur codul.

6. Dacă soluția unei ecuații găsite manual de inteligența artificială și rezultatul dat de SymPy sunt diferite, în care ar trebui să ai încredere și de ce?

• A) Rezultatul SymPy deoarece este determinist și precis; Apoi, cereți inteligenței artificiale să găsească locația greșelii sale ✔
• B) Rezultatul inteligenței artificiale pentru că explică mai fluent
• C) Alegerea unuia la întâmplare deoarece ambele sunt la fel de fiabile
• D) Respingându-le pe ambele și considerând întrebarea de nerezolvată

Descriere: SymPy este un sistem de calcul simbolic determinist: dă întotdeauna același rezultat exact exact aceleiași intrări. Inteligența artificială produce text statistic și poate să aibă halucinații. În dispută, SymPy ar trebui să fie luat ca bază și ar trebui făcută inteligența artificială pentru a găsi locația greșelii sale.

7. De ce condiția „0.1 + 0.2 == 0.3” nu funcționează așa cum era de așteptat într-un cod Python și cum se remediază?

• A) Adunarea este întreruptă în Python; trebuie să folosească o altă limbă
• B) Egalitatea exactă nu este valabilă datorită preciziei numerelor în virgulă mobilă; Trebuie utilizată o toleranță precum „abs(a-b) < 1e-9” ✔
• C) Valoarea 0,3 este incorectă; Este necesar să scrieți 0,30000000004
• D) Condiția funcționează întotdeauna corect, nu există nicio problemă

Explicație: Calculatoarele stochează numere zecimale în format virgulă mobilă cu precizie limitată; 0,1 + 0,2 este stocat cu o abatere foarte mică, nu tocmai 0,3. Prin urmare, în loc de egalitatea exactă „==”, ar trebui utilizată o toleranță precum „abs(a-b) < 1e-9”.

8. Care este cel mai bun „test de bun simț” înainte de a aplica un cod de găsire a rădăcinii scalare la problema reală?

• A) Aplicarea codului direct la problema reală, fără a o testa deloc
• B) Verificați lungimea codului și numărați-l corect dacă este lung.
• C) Testarea codului cu o intrare simplă al cărei răspuns este cunoscut (ex. x²-4=0 rădăcini ±2) și verificarea faptului că dă rezultatul așteptat ✔
• D) Confirmarea inteligenței artificiale că codul este corect

Explicație: Testarea codului cu o intrare simplă al cărei răspuns îl cunoașteți deja (de exemplu, ±2 pentru x²-4=0 cu rădăcini evidente) este cea mai ieftină și eficientă verificare. Dacă codul dă situația cunoscută corect, probabilitatea ca aceasta să fie fiabilă pentru probleme pe care nu le cunoașteți crește.

9. În vizualizare, cum verifici dacă un grafic reflectă corect matematica?

• A) Dacă graficul arată plăcut din punct de vedere estetic, este considerat corect.
• B) Compararea graficului cu proprietățile cunoscute ale funcției și valoarea adevărată a cel puțin unui punct ✔
• C) Nu se uită deloc la etichetele axelor
• D) Bazându-se pe descrierea verbală a graficului de către AI

Explicație: O grafică care arată frumos nu trebuie să fie precisă; AI poate desena o funcție greșită, într-un interval greșit sau cu o asimptotă distorsionată. Compararea graficului cu proprietățile cunoscute ale funcției (gamă de oscilație, simetrie, asimptotă) și calculul cel puțin unui punct prinde erori.

10. Care este punctul de verificare cel mai critic dintr-un material de curs produs cu inteligență artificială și de ce?

• A) Font și schema de culori a materialului
• B) Lungimea materialului și numărul de pagini
• C) Acuratețea exemplelor rezolvate; pentru că elevii le iau drept modele și predau exemplul greșit și metoda greșită ✔
• D) Cât de repede este produs materialul

Explicație: Exemplele rezolvate sunt luate ca modele de către elevi; Un exemplu rezolvat incorect îi învață direct pe elevi metoda greșită. Prin urmare, fiecare exemplu rezolvat trebuie verificat individual, pas cu pas, fie cu SymPy, fie manual. O mică ambiguitate în explicarea subiectului poate fi compensată, dar exemplul greșit provoacă daune în cascadă.

11. Care este cea mai eficientă și mai fiabilă modalitate de a verifica un set de întrebări cu răspunsuri multiple generate de inteligența artificială?

• A) Întrebând încă o dată inteligența artificială dacă întrebările sunt corecte
• B) Verificarea doar a câteva întrebări la întâmplare și încrederea în restul
• C) Folosind cheia de răspuns așa cum este, fără a verifica nimic
• D) Verificarea cheii de răspuns colectiv și determinist prin imprimarea și rularea unui cod care rezolvă toate întrebările cu SymPy ✔

Explicație: Inteligența artificială face cel mai frecvent greșeli, cum ar fi marcarea incorect a cheii de răspuns și producerea de opțiuni multiple/zero corecte. Scrierea și rularea unui cod care rezolvă toate întrebările simultan cu SymPy este cea mai eficientă modalitate de a verifica cheia de răspuns în mod determinist și în bloc.

12. Care dintre următoarele este principalul motiv pentru care inteligența artificială face greșeli la matematică?

• A) Inteligența artificială este un model de limbaj; nu verifică validitatea logică, generează text statistic ✔
• B) Inteligența artificială nu a învățat niciodată matematica
• C) Inteligența artificială este programată în mod deliberat pentru a da răspunsuri greșite
• D) Inteligența artificială greșește doar în problemele foarte dificile, niciodată în cele ușoare.

Descriere: Inteligența artificială nu este un motor logic, ci un model de limbaj care produce text cu modele statistice; Nu are niciun mecanism intern care să verifice validitatea logică a pașilor. „O dovadă validă” cu „înmulțire cu 3 cifre” este pentru el sarcina de a produce același tip de text, deci corectitudinea acestuia nu poate fi garantată.

13. Când rezultatul unei probleme de probabilitate este 1,4, de unde știi că există o eroare fără a intra în detalii?

• A) Calculul este corect deoarece rezultatul este 1,4, probabilitatea poate depăși 1
• B) Semnul probabilității este neimportant, valoarea este acceptată indiferent
• C) Nu se înțelege că există o eroare, rezultatul este considerat final.
• D) Probabilitatea trebuie să fie între 0 și 1; ✔ Testarea de bun simț indică o eroare deoarece 1.4 depășește această limită

Descriere: testul de bun simț și ordinul de mărime verifică în câteva secunde dacă rezultatul este într-un interval rezonabil. O probabilitate trebuie să fie, prin definiție, între 0 și 1; 1.4 este în afara acestei limite, deci este evident că există o eroare fără a privi detaliile calculului.

14. De ce este important să scrieți „e^{x^2}” în loc de „e^x^2” în LaTeX?

• A) Sunt exact la fel, diferența este doar estetică
• B) Parantezele determină domeniul de aplicare al exponentului; Fără el, expresia ar fi incorectă sau ambiguă, deci exponentul cu mai multe caractere {} este esențial ✔
• C) Parantezele sunt inutile în LaTeX
• D) „e^x^2” este întotdeauna adevărată, utilizarea „{}” este inutilă

Explicație: Cea mai frecventă eroare în LaTeX este eroarea sferei: dacă parantezele „{}” nu sunt folosite într-un exponent, indice sau fracție cu mai multe caractere, doar primul caracter este acoperit și expresia devine incorectă (sau chiar ambiguă). „e^{x^2}” arată clar că întregul exponent este x²; Codul trebuie redat și verificat prin inspecție vizuală.

15. Vrei să ai întrebările unui examen central activ verificate prin inteligență artificială. Care este cea mai bună abordare în ceea ce privește etică și confidențialitate?

• A) Introducerea liberă a întrebărilor în orice instrument general AI, deoarece matematica nu conține date confidențiale
• B) Folosirea întrebărilor la examen fără a le verifica
• C) Validarea întrebărilor cu un instrument securizat/nativ (de exemplu, SymPy) sau folosind doar instrumente de întreprindere care asigură confidențialitatea ✔
• D) Distribuirea de întrebări pe rețelele sociale și solicitarea altora de control

Descriere: întrebările active ale examenului sunt sensibile; Teoretic, ar putea fi expus atunci când un instrument de inteligență artificială a cărui confidențialitate nu este garantată este piratat. Abordarea corectă este fie de a valida întrebările cu un instrument securizat/nativ (de exemplu, cu un coleg în SymPy), fie de a utiliza numai instrumente certificate de companie, garantate de confidențialitatea datelor.