Etik, akademisk integritet, gränser och end-to-end arbetsflöde

Vinster:

• Förmåga att förstå och tillämpa de etiska principerna för att använda artificiell intelligens i matematik (att stå i lärandets tjänst, transparens, mänskligt ansvar, rättvisa, konfidentialitet).
• Förmåga att bedöma integritetsrisker och vidta lämpliga försiktighetsåtgärder i känsligt innehåll som examensfrågor, studentdata och opublicerad forskning
• Möjlighet att kombinera alla delar av modulen (produktion + verifiering) till ett enda end-to-end-arbetsflöde, avsluta varje produktionssteg med ett verifieringssteg och slutligt mänskligt godkännande

I denna avslutande enhet kombinerar vi två saker: å ena sidan de etiska, akademiska integritets- och konfidentialitetsdimensionerna av användningen av artificiell intelligens i matematik; Å andra sidan, för att sammanföra det vi lärt oss genom hela modulen i ett enda arbetsflöde från början till slut. AI i matematik är ett kraftfullt verktyg, men det kommer med ansvar såväl som makt: vem du använder den till, vad du använder den till och hur du använder den har etiska konsekvenser. En elev som får sina läxor gjorda av AI och en lärare som påskyndar kursmaterialet med AI är väldigt olika saker. Denna enhet kompletterar teknisk skicklighet med ansvarsfull användning.

Några definitioner. Akademisk integritet innebär att ärligt visa vem som verkligen äger ett verk och inte kortväga lärandet. Plagiat är att presentera någon annans (eller ett mediums) produkt som om det vore din egen originalprodukt. Transparens innebär att tydligt ange var AI används. Dessa begrepp har blivit centrala för matematikundervisningen i AI-tiden.

Grundläggande principer för etiskt bruk

1. Inte i stället för lärande, utan i tjänst för det. AI kan stödja en elev i att lära sig konceptet (förklaring, alternativ förklaring), men bör inte få honom/henne att tänka istället. Att låta AI göra läxorna undergräver inlärningen.
2. Genomskinlighet. Ange var AI användes – i en artikel, kursmaterial eller rapport. Att dölja är oärligt.
3. Ansvaret tillhör människor. Alla som publicerar, undervisar eller levererar AI-utdata är ansvarig för dess noggrannhet. "AI sa det" är ingen ursäkt.
4. Rättvisa. Användningen av AI i bedömning bör styras av lika och tydliga regler för alla elever.
5. Säkerhet. Ange inte känslig information, såsom tentamensfrågor, studentdata eller opublicerad forskning, i AI-verktyg vars konfidentialitet inte garanteras.

Sekretess: vad betyder det i matematiksammanhang?

Även om matematiken kan verka som om den har "inga dolda data", är sammanhanget viktigt. Ett opublicerat forskningsresultat, en institutions examensfrågebank, studenters personliga prestationsdata eller ett företags egenutvecklade algoritm – allt är känsligt. Allt du matar in i ett AI-verktyg kan bearbetas av verktygets leverantör och i vissa fall användas för att träna modellen. Så för känsligt innehåll, använd antingen lokalt/institutionellt säkrade verktyg eller anonymisera innehållet.

Datatyp

Risk

försiktighetsåtgärd

Publicerad sats/problem

låg

fritt tillgänglig

Aktiva tentafrågor

hög

Gå inte in i eller säkra fordonet

Elevens personliga/prestationsdata

hög

Anonymisera/skriv inte in

Opublicerad forskning

hög

Säkert/lokalt verktyg

Föreläsningsöversikt

låg-medel

Allmänt lämplig

Varning: Innan du går in i AI för att verifiera en examensfråga, överväg om den frågan ska förbli hemlig. Frågor från ett aktivt prov kan teoretiskt sett exponeras när de läggs in i ett AI-verktyg vars konfidentialitet inte är garanterad. För kritiska tentor, antingen ändra frågor eller använd endast företagsgodkända, datasekretesssäkrade verktyg.

End-to-end-arbetsflöde: en exempeluppgift

Låt oss säga att du behöver förbereda både kursmaterial och en tentamen för ett ämne inom en vecka. Flödet som kombinerar alla delar av modulen kan vara så här:

1. Planering. Förtydliga ämne, nivå och mål (enhet 7).

2. Utformning av materialet. Låt AI producera nivåanpassade föreläsningar + lösta exempel (enhet 7).

3. Provverifiering. Kontrollera varje löst exempel med SymPy (enhet 4).

4. Visualisering. Producera och rendera grafik för att stödja berättelsen med Matplotlib-kod och jämför dem med matematik (enhet 6).

5. Notering. Rensa index, rendera och verifiera formler med LaTeX (enhet 10).

6. Frågegenerering. Har flervalsfrågor + distraktorer producerade för tentamen (enhet 8).

7. Bulkverifiering. Lös alla frågor i bulk med SymPy och kontrollera svarsnyckeln (enhet 8, 9).

8. Etik och transparenskontroll. Är sekretess lämplig? Har du angett användningen av AI i materialet vid behov? Du har det yttersta ansvaret (denna enhet).

9. Mänskligt godkännande. Granska och bekräfta allt en sista gång. Någon overifierad del kommer inte att gå på luft/test.

Tips: I ett end-to-end-arbetsflöde är den mest effektiva strategin att placera AI som "hastighetslagret", deterministiska verktyg (SymPy, render) som "korrekthetslagret" och dig själv som "bedömnings- och ansvarslagret." Varje produktionssteg bör följas av ett verifieringssteg; Overifierad utdata ska inte föras vidare till nästa steg.

tre minifodral

Fall 1 – Transparens byggt upp förtroende. En akademiker använde AI i det första utkastet av ett lärobokskapitel, verifierade sedan varje matematiskt påstående och sa i förordet att "AI-stöd erhölls vid framställningen av manuskriptet, allt innehåll verifierades av författaren." Denna transparens ökade kollegornas förtroende och bibehöll integritetsstandarden.

Fall 2 — Användning som undergräver lärande. En student fick AI:n att lösa hela sin läxuppsättning och skicka in den. Han blev underkänd på provet i samma ämnen eftersom han aldrig hade lärt sig begreppen. Läraren föreslog att man skulle använda AI för att "få lösningen kontrollerad och få en alternativ förklaring", men att lösa problemen själv först. AI ska vara i lärandets tjänst, inte på dess plats.

Fall 3 – Risk för integritetsintrång. En lärare övervägde att hacka sig in i ett allmänt AI-verktyg för att verifiera frågor till en central tentamen som ännu inte hade administrerats, men beslutade sig sedan för det; istället löste han frågorna i SymPy av sig själv och en kollega. Att lägga in aktiva tentamensfrågor i ett externt verktyg var en allvarlig integritetsrisk; lokal autentisering gav den säkra sökvägen.

Fyra kopierbara mallar

1) Användning som stöder lärande (för elever):

Jag löste det här problemet FÖRST, min lösning bifogas. Ge mig INTE lösningen; visa mig bara var jag gjorde fel och vilket koncept jag missförstod så att jag kan rätta till det. Min lösning: [här]

2) Skapa en öppenhetsanteckning:

Jag förberedde ett [kursmaterial/rapport] och använde AI i utkaststadiet, och verifierade all matematik själv. Skriv en kort, professionell transparensnotis som säger detta ärligt.

3) Sekretessförkontroll:

Jag skulle vilja sekretesskvalificera följande innehåll innan jag lägger in det i ett AI-verktyg: [innehållstyp]. Anses den här typen av innehåll vara känsligt, vilka risker finns det, vilka försiktighetsåtgärder (anonymisering, lokalt verktyg) ska jag vidta? Säg det kort och tydligt.

4) End-to-end-kontrollplan för verifiering:

Jag förbereder kursmaterial + tentamen för [ämne]. Lista som en kontrollplan vilken verifiering jag behöver göra vid varje steg i produktionen: provverifiering, grafisk kontroll, notering, svarsnyckel, konfidentialitet, mänskligt godkännande.

Svag prompt / Stark prompt

Svag: "Lös dessa läxfrågor så lämnar jag in dem." (student)

Resultat: Lärande hoppar över, akademisk integritet kränks, elev misslyckas med att lära sig konceptet. Det är etiskt och pedagogiskt förkastligt.

Güçlü: "Jag försökte lösa den här läxfrågan, men jag fastnade; min lösning är bifogad. Ge inte svaret direkt; visa mig med en aning om vilket steg och varför jag gjorde fel, påminn mig om det korrekta konceptet, så försöker jag igen."

Slutsats: AI används i lärandets tjänst; Eleven fortsätter att tänka, ärligheten upprätthålls.

Vanliga misstag

• Använder den för att hoppa över inlärningen. Att låta AI göra läxorna är lätt på kort sikt, men förstör lärandet på lång sikt.
• Att inte vara transparent. Att dölja användningen av AI strider mot akademisk integritet; specificera när det behövs.
• Lägger ansvaret på AI. "AI sa det" är ingen ursäkt; Förlaget/läraren är ansvarig.
• Ange konfidentiellt innehåll i externt verktyg. Aktiv tentamen, studentdata, opublicerad forskning är känsligt.
• Lämna valideringen till slutet av arbetsflödet. Verifiering bör ske efter varje produktionssteg; Fel bör inte ackumuleras.

Sammanfattningsvis

Användningen av AI i matematik kräver etiskt ansvar såväl som teknisk skicklighet: det bör vara i lärandets tjänst (inte i stället för det), vara transparent, behålla det yttersta ansvaret, följa rättvisa regler och respektera konfidentialitet. I ett end-to-end-arbetsflöde är AI hastighetslagret, SymPy och renderingsverktyg är noggrannhetslagret, och människor är bedömnings- och ansvarslagret. Varje produktionssteg bör följas av ett verifieringssteg; Ingen overifierad utdata ska gå till publicering, föreläsning eller tentamen. Det är kärnan i den här modulen: bli snabbare med AI, men verifiera och ta ansvar för varje steg.

Applikationsuppgift

Designa en småskalig end-to-end-uppgift: en kort berättelse + 1 diagram + 3 flervalsfrågor för ett ämne. Följ modulens flöde: (1) planera, (2) utkast med AI, (3) validera exempel med SymPy, (4) rendera och kontrollera grafen, (5) rengör och rendera notationen med LaTeX, (6) batchvalidera frågorna med SymPy, (7) gör en sekretess- och transparenskontroll, (8) ge ett slutgiltigt mänskligt godkännande. Anteckna vilken verifiering du gjorde och vad du hittade vid varje steg. I slutet av processen, utvärdera var AI sparar tid och var ditt omdöme är oumbärligt.

checklista

• [ ] Jag använde AI i (inte istället för) lärandes tjänst.
• [ ] Jag har öppet förklarat användningen av AI där det är nödvändigt.
• [ ] Jag har tagit på mig ansvaret för yttersta noggrannhet.
• [ ] Jag fick inte åtkomst till konfidentiellt/känsligt innehåll genom osäkra verktyg.
• [ ] Jag följde varje produktionssteg med ett verifieringssteg.
• [ ] Jag tog inte med mig något overifierat resultat i sändningen/lektionen/tentan.

Modulexamen

1. Vilken av följande är den mest exakta positioneringen för artificiell intelligens i matematik?

• A) Artificiell intelligens är ett strategi-, ritnings- och organiseringsverktyg; Det är upp till människan att verifiera den exakta beräkningen och resultatet med deterministiska medel ✔
• B) Artificiell intelligens är som en miniräknare och varje numeriskt resultat den ger är exakt
• C) Artificiell intelligens har aldrig fel i de slutsatser den med tillförsikt presenterar, så verifiering är onödig
• D) Artificiell intelligens är bara användbar för att skriva text, det har ingenting att göra med några matematiska uppgifter

Beskrivning: En stor språkmodell är ett verktyg som statistiskt genererar text; Det är inte en miniräknare eller provkontroll. Det producerar korrekt matematik för det mesta, men det garanterar inte; så varje utdata bör verifieras med deterministiska verktyg (SymPy, kalkylator, manuell validering) och ansvaret bör ligga hos människan.

2. En elev ber artificiell intelligens att lösa en integral och vill få resultatet. Vilket är det mest tillförlitliga sättet att verifiera resultatet?

• A) Differentiera resultatet och kontrollera om det återgår till den ursprungliga funktionen (SymPy eller manuellt) ✔
• B) Fråga artificiell intelligens "är detta sant?" att fråga
• C) Acceptera resultatet som det är eftersom det presenteras flytande och säkert.
• D) Går vidare till en annan fråga och kontrollerar inte resultatet alls

Förklaring: Derivata-integralens invers är ett inbyggt verifieringsverktyg i matematik: att ta derivatan av det hittade resultatet och kontrollera om det återgår till den ursprungliga funktionen oberoende bekräftar integralens korrekthet. Samma korskontroll kan göras med SymPy.

3. Vad innebär principen om "rätt resultat är inte rätt sätt" vid problemlösning med artificiell intelligens?

• A) Rätt resultat bevisar alltid att vägen också är rätt
• B) Banan är oviktig, endast resultatet ska poängsättas
• C) Felaktiga mellansteg kan leda till rätt resultat av en slump; Därför måste både resultatet och varje mellansteg inspekteras ✔
• D) Det är omöjligt att hitta en fast väg, så vi tittar bara på resultatet

Förklaring: Ibland leder fel mellansteg till rätt resultat av en slump; Även om resultatet är korrekt kan sökvägen vara ogiltig. Det är därför det i matematik bara är "är resultatet korrekt?" utan snarare "är varje mellansteg korrekt?" Frågan är också väsentlig och varje steg bör övervakas.

4. Vad ska du göra när AI använder frasen "utan förlust av allmänhet" i ett bevis?

• A) Acceptera att beviset är giltigt eftersom påståendet är flytande
• B) Att motivera för dig själv att generaliteten faktiskt inte är bruten; ✔ accepterar inte utan att ifrågasätta
• C) Att betrakta beviset som giltigt utan att ha läst det alls
• D) Söka efter detta uttryck från källan som ett teoremnamn

Förtydligande: Påståendet "utan förlust av allmänhet" är ibland giltigt (om det finns äkta symmetri) men ibland är det ett dolt fel. Artificiell intelligens använder det här uttrycket mycket; Du måste motivera för dig själv varje gång att det allmänna inte verkligen kränks, och du får inte acceptera påståendet utan att ifrågasätta.

5. Du skrev en SymPy-kod till den artificiella intelligensen. Hur får du resultatet korrekt?

• A) Att få artificiell intelligens att förutsäga kodens utdata
• B) Förutsatt att koden är korrekt utan att läsa den
• C) Lita på AI:s tolkning av utdata
• D) Kör koden själv i en riktig Python-miljö och se den exakta utgången ✔

Beskrivning: Kraften i SymPy avslöjas bara när koden körs i en riktig Python-miljö. Fråga artificiell intelligens "vad producerar den här koden?" fråga är inte verifiering, eftersom AI också kan utgöra koden. Du måste köra koden själv.

6. Om lösningen av en ekvation som hittas manuellt av artificiell intelligens och resultatet som ges av SymPy är olika, vilken ska du lita på och varför?

• A) SymPy-resultat eftersom det är deterministiskt och exakt; Låt sedan den artificiella intelligensen hitta platsen för sitt misstag ✔
• B) Resultatet av artificiell intelligens eftersom den förklarar mer flytande
• C) Att välja en slumpmässigt eftersom de båda är lika tillförlitliga
• D) Avvisa båda och anser att frågan är olöslig

Beskrivning: SymPy är ett deterministiskt symboliskt datorsystem: det ger alltid samma exakta korrekta resultat till samma indata. Artificiell intelligens producerar text statistiskt och kan hallucinera. I tvisten bör SymPy tas som grund och den artificiella intelligensen bör göras för att hitta platsen för dess misstag.

7. Varför fungerar inte villkoret '0.1 + 0.2 == 0.3' som förväntat i en Python-kod och hur fixar man det?

• A) Addition är bruten i Python; behöver använda ett annat språk
• B) Exakt likhet gäller inte på grund av flyttalsprecision; En tolerans som 'abs(a-b) < 1e-9' bör användas ✔
• C) Värdet 0,3 är felaktigt; Det är nödvändigt att skriva 0,30000000004
• D) Skicket fungerar alltid korrekt, det är inga problem

Förklaring: Datorer lagrar decimaltal i flyttalsformat med begränsad precision; 0,1 + 0,2 lagras med en mycket liten avvikelse, inte exakt 0,3. Därför, istället för den exakta likheten '==', bör en tolerans som 'abs(a-b) < 1e-9' användas.

8. Vilket är det bästa "sunt förnuftstestet" innan man använder en skalär rotkod på det verkliga problemet?

• A) Applicera koden direkt på det faktiska problemet utan att testa det alls
• B) Kontrollera längden på koden och räkna den korrekt om den är lång.
• C) Testa koden med en enkel ingång vars svar är känt (t.ex. x²-4=0 rötter ±2) och kontrollera att den ger det förväntade resultatet ✔
• D) Bekräfta för artificiell intelligens att koden är korrekt

Förklaring: Att testa koden med en enkel ingång vars svar du redan vet (t.ex. ±2 för x²-4=0 med uppenbara rötter) är den billigaste och mest effektiva verifieringen. Om koden ger den kända situationen korrekt ökar sannolikheten att den är tillförlitlig för problem du inte känner till.

9. Hur kontrollerar man i visualisering att en graf reflekterar matematiken korrekt?

• A) Om grafen ser estetiskt tilltalande ut anses den vara korrekt.
• B) Jämföra grafen med kända egenskaper för funktionen och det sanna värdet av minst en punkt ✔
• C) Tittar inte alls på axeletiketterna
• D) Att förlita sig på AI:s verbala beskrivning av grafen

Förklaring: En grafik som ser snygg ut behöver inte vara korrekt; AI kan rita fel funktion, i fel intervall eller med en förvrängd asymptot. Att jämföra grafen med kända egenskaper hos funktionen (svängningsområde, symmetri, asymptot) och minst en punktberäkning fångar upp fel.

10. Vilken är den mest kritiska verifieringspunkten i ett kursmaterial som tagits fram med artificiell intelligens och varför?

• A) Typsnitt och färgschema för materialet
• B) Materialets längd och antal sidor
• C) Noggrannhet av lösta exempel; eftersom eleverna tar dem som modeller och lär ut fel exempel och fel metod ✔
• D) Hur snabbt materialet produceras

Förklaring: Lösta exempel tas som modeller av eleverna; Ett felaktigt löst exempel lär eleverna direkt fel metod. Därför måste varje löst exempel verifieras individuellt, steg för steg, antingen med SymPy eller manuellt. En liten oklarhet i förklaringen av ämnet kan kompenseras, men fel exempel orsakar kaskadskador.

11. Vilket är det mest effektiva och pålitliga sättet att verifiera en uppsättning flervalsfrågor genererad av artificiell intelligens?

• A) Fråga den artificiella intelligensen igen om frågorna är korrekta
• B) Kontrollera bara några få frågor slumpmässigt och lita på resten
• C) Använda svarsknappen som den är utan att markera något av den
• D) Kontrollera svarsnyckeln kollektivt och deterministiskt genom att skriva ut och köra en kod som löser alla frågor med SymPy ✔

Förklaring: Artificiell intelligens gör oftast misstag som att markera svarsnyckeln felaktigt och skapa flera/noll korrekta alternativ. Att skriva och köra en kod som löser alla frågor på en gång med SymPy är det mest effektiva sättet att kontrollera svarsnyckeln deterministiskt och i bulk.

12. Vilket av följande är huvudorsaken till att artificiell intelligens gör misstag i matematik?

• A) Artificiell intelligens är en språkmodell; kontrollerar inte logisk giltighet, genererar text statistiskt ✔
• B) Artificiell intelligens har aldrig lärt sig matematik
• C) Artificiell intelligens är medvetet programmerad att ge fel svar
• D) Artificiell intelligens gör misstag endast i mycket svåra problem, aldrig i lätta.

Beskrivning: Artificiell intelligens är inte en logisk motor, utan en språkmodell som producerar text med statistiska mönster; Den har ingen intern mekanism för att kontrollera den logiska giltigheten av stegen. 'Ett giltigt bevis' med '3-siffrig multiplikation' är för honom uppgiften att producera samma typ av text, så dess riktighet kan inte garanteras.

13. När resultatet av ett sannolikhetsproblem är 1,4, hur vet du att det finns ett fel utan att gå in på detaljer?

• A) Beräkningen är korrekt eftersom resultatet är 1,4, sannolikheten kan överstiga 1
• B) Sannolikhetens tecken är oviktigt, värdet accepteras oavsett
• C) Det är inte underförstått att det finns ett fel, resultatet anses vara slutgiltigt.
• D) Sannolikheten måste vara mellan 0 och 1; ✔ Sunt förnuftstestning indikerar ett fel eftersom 1,4 överskrider denna gräns

Beskrivning: Det sunda förnuftet och testet av storleksordning kontrollerar inom några sekunder om resultatet ligger inom ett rimligt intervall. En sannolikhet måste per definition vara mellan 0 och 1; 1,4 ligger utanför denna gräns, så det är uppenbart att det finns ett fel utan att titta på detaljerna i beräkningen.

14. Varför är det viktigt att skriva 'e^{x^2}' istället för 'e^x^2' i LaTeX?

• A) De är exakt likadana, skillnaden är bara estetisk
• B) Lockiga parenteser bestämmer exponentens omfattning; Utan det skulle uttrycket vara felaktigt eller tvetydigt, så flerteckenexponenten {} är viktig ✔
• C) Lockiga parenteser är värdelösa i LaTeX
• D) 'e^x^2' är alltid sant, att använda '{}' är onödigt

Förklaring: Det vanligaste felet i LaTeX är räckviddsfelet: om de krulliga parenteserna '{}' inte används i en exponent med flera tecken, sänkt eller bråktal, täcks bara det första tecknet och uttrycket blir felaktigt (eller till och med tvetydigt). 'e^{x^2}' gör det klart att hela exponenten är x²; Koden ska återges och verifieras genom visuell inspektion.

15. Du vill få frågorna från ett aktivt centralt prov verifierat med artificiell intelligens. Vad är det bästa förhållningssättet när det gäller etik och integritet?

• A) Skriv in frågor fritt i alla allmänna AI-verktyg eftersom matematiken inte innehåller konfidentiell data
• B) Använda frågor i tentamen utan att verifiera dem
• C) Validera frågor med ett säkert/inbyggt verktyg (t.ex. SymPy) eller endast använda integritetssäkrade företagsverktyg ✔
• D) Dela frågor på sociala medier och be andra om kontroll

Beskrivning: Aktiva tentamensfrågor är känsliga; Det skulle teoretiskt kunna avslöjas när ett verktyg för artificiell intelligens vars konfidentialitet inte kan garanteras hackas. Det korrekta tillvägagångssättet är att antingen validera frågor med ett säkert/inbyggt verktyg (t.ex. med en kollega i SymPy) eller att endast använda företagscertifierade, dataintegritetssäkrade verktyg.