Etika, akademski integritet, granice i tok rada od kraja do kraja

Dobici:

• Sposobnost razumijevanja i primjene etičkih principa korištenja umjetne inteligencije u matematici (biti u službi učenja, transparentnosti, ljudske odgovornosti, pravde, povjerljivosti).
• Sposobnost procjene rizika privatnosti i poduzimanja odgovarajućih mjera opreza u osjetljivom sadržaju kao što su ispitna pitanja, podaci o studentima i neobjavljena istraživanja
• Sposobnost kombiniranja svih dijelova modula (proizvodnja + verifikacija) u jedan end-to-end tok rada, dovršavajući svaki proizvodni korak korakom verifikacije i konačnim ljudskim odobrenjem

U ovoj završnoj cjelini kombiniramo dvije stvari: s jedne strane, etički, akademski integritet i dimenziju povjerljivosti upotrebe umjetne inteligencije u matematici; S druge strane, da objedinimo ono što smo naučili kroz modul u jedan end-to-end tok posla. AI u matematici je moćno oruđe, ali dolazi sa odgovornošću kao i moći: za koga ga koristite, za šta ga koristite i kako ga koristite ima etičke posljedice. Učenik koji svoj domaći zadatak radi AI i nastavnik koji ubrzava gradivo sa AI su vrlo različite stvari. Ova jedinica dopunjuje tehničku vještinu odgovornom upotrebom.

Nekoliko definicija. Akademski integritet znači iskreno pokazati ko zaista posjeduje djelo, a ne skratiti učenje. Plagijat predstavlja predstavljanje tuđeg (ili medija) proizvoda kao da je vaš originalni proizvod. Transparentnost znači jasno navođenje gdje se AI koristi. Ovi koncepti su postali centralni za matematičko obrazovanje u doba AI.

Osnovni principi etičke upotrebe

1. Ne umjesto učenja, već u službi toga. AI može podržati učenika u učenju koncepta (objašnjenje, alternativno objašnjenje), ali ga ne bi trebalo natjerati na razmišljanje. Ako AI radi domaći zadatak, to potkopava učenje.
2. Transparentnost. Navedite gdje je AI korišten - u članku, materijalu kursa ili izvještaju. Skrivanje je nepošteno.
3. Odgovornost pripada ljudima. Svako ko objavljuje, predaje ili isporučuje AI izlaze odgovoran je za njegovu tačnost. "AI je tako rekao" nije izgovor.
4. Pravda. Upotreba AI u ocjenjivanju treba da bude regulisana jednakim i jasnim pravilima za sve učenike.
5. Sigurnost. Nemojte unositi osjetljive informacije, kao što su ispitna pitanja, podaci o studentima ili neobjavljena istraživanja, u AI alate čija povjerljivost nije zajamčena.

Privatnost: šta to znači u kontekstu matematike?

Iako matematika može izgledati kao da nema "nema skrivenih podataka", kontekst je važan. Neobjavljeni rezultati istraživanja, banka ispitnih pitanja institucije, podaci o ličnom učinku studenata ili vlasnički algoritam kompanije – svi su osjetljivi. Sve što unesete u AI alat može obraditi dobavljač tog alata i, u nekim slučajevima, upotrijebiti za obuku modela. Dakle, za osjetljivi sadržaj, ili koristite lokalno/institucionalno osigurane alate ili anonimizirajte sadržaj.

Tip podataka

Rizik

mjera opreza

Objavljena teorema/problem

nisko

slobodno dostupan

Aktivna ispitna pitanja

visoko

Nemojte ulaziti u vozilo ili ga osiguravati

Lični podaci/podaci o učinku učenika

visoko

Anonimiziraj/ne ulazi

Neobjavljeno istraživanje

visoko

Bezbedan/lokalni alat

Pregled predavanja

nisko-srednje

Općenito prikladno

Oprez: Pre nego što krenete u AI da biste potvrdili ispitno pitanje, razmislite da li to pitanje treba da ostane tajno. Pitanja iz aktivnog ispita bi teoretski mogla biti izložena kada se unesu u AI alat čija povjerljivost nije zajamčena. Za kritične ispite, ili promijenite pitanja ili koristite samo korporativno odobrene alate sa sigurnošću privatnosti podataka.

End-to-end workflow: an example task

Recimo da treba da pripremite i materijal za kurs i ispit za predmet u roku od nedelju dana. Tok koji kombinuje sve delove modula može biti ovakav:

1. Planiranje. Clarify topic, level and objectives (Unit 7).

2. Drafting the material. Neka AI proizvede predavanja koja odgovaraju nivou + riješeni primjeri (Nastavna jedinica 7).

3. Provjera uzorka. Check each solved example with SymPy (Unit 4).

4. Vizualizacija. Napravite i renderujte grafiku za podršku naracije sa Matplotlib kodom i uporedite je sa matematikom (Nastavna jedinica 6).

5. Notacija. Očistite indeks, renderirajte i provjerite formule pomoću LaTeX-a (Jedinica 10).

6. Generisanje pitanja. Napravite pitanja sa višestrukim izborom + distraktore za ispit (Jedinica 8).

7. Skupna verifikacija. Riješite sva pitanja u grupi sa SymPy i provjerite ključ za odgovor (Jedinica 8, 9).

8. Ethics and transparency control. Is confidentiality appropriate? Da li ste naveli upotrebu AI u materijalu kada je to potrebno? Vi imate krajnju odgovornost (ova jedinica).

9. Ljudsko odobrenje. Review and confirm everything one last time. Any unverified piece will not go on air/test.

Savjet: U toku rada od kraja do kraja, najefikasnija strategija je pozicionirati AI kao „sloj brzine“, determinističke alate (SymPy, render) kao „sloj ispravnosti“, a sebe kao „sloj prosuđivanja i odgovornosti“. Svaki proizvodni korak trebao bi biti praćen korakom verifikacije; Neprovjereni izlaz ne treba prenositi na sljedeći korak.

tri mini kofera

Slučaj 1 — Transparentnost je izgradila povjerenje. Jedan akademik je koristio AI u prvom nacrtu poglavlja u udžbeniku, zatim je provjerio svaku matematičku tvrdnju i u predgovoru naveo da je "dobiđena podrška AI u izradi rukopisa, sav sadržaj je verificirao autor." Ova transparentnost povećala je povjerenje kolega i održala standard integriteta.

Case 2 — Use that undermines learning. Učeniku je AI riješio cijeli set domaćih zadataka i predao ga. Pao je na ispitu iz istih predmeta jer nikada nije naučio pojmove. Nastavnik je predložio korištenje AI-a da se “provjeri rješenje i dobije alternativno objašnjenje”, ali da prvo sam riješi probleme. AI bi trebao biti u službi učenja, a ne na svom mjestu.

Slučaj 3 — Rizik od povrede privatnosti. Jedan nastavnik je razmišljao o hakiranju općeg AI alata za verifikaciju pitanja za centralni ispit koji još nije bio administriran, ali se onda odlučio protiv toga; umjesto toga on je sam i kolega rješavao pitanja u SymPyju. Unošenje aktivnih ispitnih pitanja u eksterni alat predstavljalo je ozbiljan rizik za privatnost; lokalna autentifikacija je osigurala siguran put.

Četiri šablona za kopiranje

1) Upotreba koja podržava učenje (za učenike):

PRVO sam riješio ovaj problem, moje rješenje je u prilogu. NEMOJTE mi dati rješenje; samo mi pokažite gde sam pogrešio i koji koncept sam pogrešno razumeo da bih to mogao da ispravim. Moje rješenje: [ovdje]

2) Generisanje napomene o transparentnosti:

Pripremio sam [materijal/izvještaj] i koristio AI u fazi nacrta, provjeravajući svu matematiku. Napišite kratku, profesionalnu bilješku o transparentnosti koja to iskreno kaže.

3) Prethodna provjera privatnosti:

Želio bih kvalificirati privatnost sljedećeg sadržaja prije nego što ga unesem u AI alat: [tip sadržaja]. Da li se ova vrsta sadržaja smatra osjetljivom, koji rizici postoje, koje mjere opreza (anonimizacija, lokalni alat) trebam preduzeti? Reci kratko i jasno.

4) Plan kontrole od kraja do kraja:

Pripremam materijal za kurs + ispit za [predmet]. Navedite kao plan kontrole koju provjeru trebam obaviti u svakom koraku proizvodnje: provjeru uzorka, grafičku kontrolu, notaciju, ključ odgovora, povjerljivost, ljudsko odobrenje.

Slaba prompt / Jaka prompt

Slabo: "Riješi ova pitanja za domaći zadatak i ja ću ih predati." (student)

Rezultat: Učenje je preskočeno, akademski integritet je narušen, učenik ne uspijeva naučiti koncept. To je etički i pedagoški neprihvatljivo.

Güçlü: "Pokušao sam da riješim ovo pitanje za domaći zadatak, ali sam zapeo; moje rješenje je u prilogu. Ne dajte direktno odgovor; pokažite mi koji korak i zašto sam pogriješio, podsjetite me na ispravan koncept, a zatim ću pokušati ponovo."

Zaključak: AI se koristi u službi učenja; Učenik nastavlja da razmišlja, poštenje se održava.

Uobičajene greške

• Koristite ga da preskočite učenje. Kratkoročno je lako imati AI da uradi domaći zadatak, ali dugoročno uništava učenje.
• Nije transparentan. Prikrivanje upotrebe AI je protiv akademskog integriteta; navesti kada je potrebno.
• Stavljanje odgovornosti na AI. “AI je tako rekao” nije izgovor; Izdavač/nastavnik je odgovoran.
• Unošenje povjerljivog sadržaja u vanjski alat. Aktivni ispit, podaci o studentima, neobjavljena istraživanja su osjetljivi.
• Ostavljanje validacije do kraja toka posla. Provjera bi trebala doći nakon svakog proizvodnog koraka; Greške se ne bi trebale gomilati.

Ukratko

Upotreba veštačke inteligencije u matematici zahteva etičku odgovornost kao i tehničku veštinu: trebalo bi da bude u službi učenja (a ne umesto njega), da bude transparentna, da zadrži krajnju odgovornost, da se pridržava poštenih pravila i da poštuje poverljivost. U end-to-end radnom toku, AI je sloj brzine, SymPy i alati za renderiranje su sloj tačnosti, a ljudi su sloj prosuđivanja i odgovornosti. Svaki proizvodni korak trebao bi biti praćen korakom verifikacije; Nijedan neprovjereni rezultat ne bi trebao ići u publikaciju, predavanje ili ispit. To je suština ovog modula: postanite brži uz AI, ali provjerite i preuzmite odgovornost za svaki korak.

Zadatak aplikacije

Dizajnirajte mali zadatak od kraja do kraja: kratka priča + 1 grafikon + 3 pitanja sa višestrukim odgovorom za temu. Slijedite tok modula: (1) planirajte, (2) nacrtajte pomoću AI, (3) potvrdite primjere sa SymPy, (4) renderirajte i provjerite graf, (5) očistite i renderirajte notaciju pomoću LaTeX-a, (6) paketno potvrdite pitanja sa SymPyjem, (7) izvršite provjeru privatnosti i transparentnosti, (8) dajte konačnu provjeru ljudskih prava. Zabilježite koju ste verifikaciju obavili i šta ste pronašli u svakom koraku. Na kraju procesa procijenite gdje AI štedi vrijeme i gdje je vaša prosudba neophodna.

kontrolna lista

• [ ] Koristio sam AI u službi (a ne umjesto) učenja.
• [ ] Transparentno sam naveo upotrebu AI gdje je to potrebno.
• [ ] Preuzeo sam odgovornost za krajnju tačnost.
• [ ] Nisam pristupio povjerljivom/osjetljivom sadržaju putem neosiguranih alata.
• [ ] Svaki korak proizvodnje sam pratio korakom verifikacije.
• [ ] Nisam prenio nikakve neprovjerene rezultate u emisiju/lekciju/ispit.

Modul Exam

1. Koje od sljedećeg je najtačnije pozicioniranje umjetne inteligencije u matematici?

• A) Vještačka inteligencija je strategija, plan i alat za organizaciju; Na čovjeku je da provjeri tačan proračun i rezultat determinističkim sredstvima ✔
• B) Vještačka inteligencija je poput kalkulatora i svaki numerički rezultat koji daje je precizan
• C) Umjetna inteligencija nikada ne griješi u zaključcima koje samouvjereno iznosi, pa je provjera nepotrebna
• D) Umjetna inteligencija je korisna samo za pisanje teksta, nema veze ni sa kakvim matematičkim zadacima

Opis: Veliki jezički model je alat koji statistički generiše tekst; To nije kalkulator ili provera dokaza. On daje tačnu matematiku većinu vremena, ali ne garantuje; tako da svaki izlaz treba provjeriti determinističkim alatima (SymPy, kalkulator, ručna validacija) i odgovornost treba ostati na čovjeku.

2. Učenik traži od umjetne inteligencije da riješi integral i želi da dobije rezultat. Koji je najpouzdaniji način provjere rezultata?

• A) Razlikovanje rezultata i provjeravanje da li se vraća na originalnu funkciju (SymPy ili ručno) ✔
• B) Pitajte umjetnu inteligenciju 'je li ovo istina?' pitati
• C) Prihvatanje rezultata kakav jeste jer je predstavljen tečno i pouzdano.
• D) Prelazimo na drugo pitanje i uopće ne provjeravamo rezultat

Objašnjenje: Inverz izvod-integr je ugrađeni alat za verifikaciju u matematici: uzimanje derivacije pronađenog rezultata i provjera da li se vraća na izvornu funkciju nezavisno potvrđuje ispravnost integrala. Ista unakrsna provjera se može obaviti sa SymPy.

3. Šta znači princip 'pravi rezultat nije pravi način' u rješavanju problema umjetnom inteligencijom?

• A) Pravi rezultat uvijek dokazuje da je i put ispravan
• B) Put je nebitan, boduje se samo rezultat
• C) Nepravilni međukoraci mogu slučajno dovesti do ispravnog rezultata; Stoga se mora provjeriti i rezultat i svaki međukorak ✔
• D) Nemoguće je pronaći čvrst put, pa gledamo samo na ishod

Objašnjenje: Ponekad pogrešni međukoraci slučajno dovedu do pravog rezultata; Čak i ako je rezultat tačan, putanja može biti nevažeća. Zato je u matematici samo 'da li je rezultat tačan?' nego 'da li je svaki međukorak tačan?' Pitanje je takođe bitno i svaki korak treba nadgledati.

4. Šta treba da uradite kada veštačka inteligencija koristi frazu 'bez gubitka opštosti' u dokazu?

• A) Prihvatanje da je dokaz valjan jer je izjava tečna
• B) Pravdajući za sebe da uopštenost nije narušena; ✔ neprihvatanje bez pitanja
• C) Smatrati da je dokaz validan, a da ga uopšte ne čitamo
• D) Traženje ovog izraza iz izvora kao naziva teoreme

Pojašnjenje: Izjava 'bez gubitka generalnosti' ponekad je važeća (ako postoji istinska simetrija), ali ponekad je skrivena greška. Umjetna inteligencija često koristi ovaj izraz; Morate se svaki put opravdati da uopštenost nije zaista narušena i ne smijete prihvatiti izjavu bez pitanja.

5. Napisali ste SymPy kod za umjetnu inteligenciju. Kako da dobijete tačan rezultat?

• A) Napraviti umjetnu inteligenciju da predvidi izlaz koda
• B) Pod pretpostavkom da je kod ispravan bez čitanja
• C) Vjerovati u interpretaciju rezultata od strane AI
• D) Pokrenite kod sami u pravom Python okruženju i vidite tačan rezultat ✔

Opis: Moć SymPyja se otkriva samo kada se kod izvodi u stvarnom Python okruženju. Pitajte umjetnu inteligenciju 'šta proizvodi ovaj kod?' traženje nije provjera, jer AI također može napraviti izlaz koda. Morate sami pokrenuti kod.

6. Ako se rješenje jednadžbe koju je ručno pronašla umjetna inteligencija i rezultat koji je dao SymPy razlikuju, kojem od njih treba vjerovati i zašto?

• A) SymPy rezultat jer je deterministički i precizan; Zatim neka umjetna inteligencija pronađe lokaciju svoje greške ✔
• B) Rezultat umjetne inteligencije jer tečnije objašnjava
• C) Odabirom jednog nasumce jer su oba podjednako pouzdana
• D) Odbacivanje oba i smatranje pitanja nerešivim

Opis: SymPy je deterministički simbolički računarski sistem: uvijek daje isti tačan rezultat na isti ulaz. Umjetna inteligencija proizvodi tekst statistički i može halucinirati. U sporu treba uzeti SymPy kao osnovu i natjerati umjetnu inteligenciju da pronađe lokaciju svoje greške.

7. Zašto uslov '0.1 + 0.2 == 0.3' ne radi kako se očekuje u Python kodu i kako to popraviti?

• A) Sabiranje je prekinuto u Pythonu; treba koristiti drugi jezik
• B) Tačna jednakost ne vrijedi zbog preciznosti broja s pomičnim zarezom; Treba koristiti toleranciju kao što je 'abs(a-b) < 1e-9' ✔
• C) Vrijednost 0,3 je netačna; Potrebno je napisati 0,30000000004
• D) Stanje uvijek radi ispravno, nema problema

Objašnjenje: Računari pohranjuju decimalne brojeve u formatu s pomičnim zarezom s ograničenom preciznošću; 0,1 + 0,2 je pohranjeno sa vrlo malim odstupanjem, ne baš 0,3. Stoga, umjesto tačne jednakosti '==', treba koristiti toleranciju kao što je 'abs(a-b) < 1e-9'.

8. Koji je najbolji 'test zdravog razuma' prije primjene koda za pronalaženje skalarnog korijena na pravi problem?

• A) Primjena koda direktno na stvarni problem bez ikakvog testiranja
• B) Provjerite dužinu koda i prebrojite je ispravno ako je duga.
• C) Testiranje koda jednostavnim unosom čiji je odgovor poznat (npr. x²-4=0 korijena ±2) i provjera da li daje očekivani rezultat ✔
• D) Potvrđivanje vještačkoj inteligenciji da je kod ispravan

Objašnjenje: Testiranje koda jednostavnim unosom čiji odgovor već znate (npr. ±2 za x²-4=0 s očiglednim korijenima) je najjeftinija i najefikasnija provjera. Ako kod daje poznatu situaciju ispravno, povećava se vjerovatnoća da će biti pouzdan za probleme koje ne poznajete.

9. U vizualizaciji, kako provjeriti da li graf ispravno odražava matematiku?

• A) Ako grafikon izgleda estetski ugodan, smatra se ispravnim.
• B) Poređenje grafa sa poznatim svojstvima funkcije i pravom vrijednošću najmanje jedne tačke ✔
• C) Uopće se ne gledaju oznake osovine
• D) Oslanjajući se na verbalni opis grafa od strane AI

Objašnjenje: Grafika koja izgleda lijepo ne mora biti tačna; AI može nacrtati pogrešnu funkciju, u pogrešnom rasponu ili sa iskrivljenom asimptotom. Poređenje grafika sa poznatim svojstvima funkcije (opseg oscilovanja, simetrija, asimptota) i izračunavanje najmanje jedne tačke otkriva greške.

10. Koja je najkritičnija verifikaciona tačka u materijalu kursa proizvedenom uz pomoć veštačke inteligencije i zašto?

• A) Font i shema boja materijala
• B) Dužina materijala i broj stranica
• C) Tačnost riješenih primjera; jer ih učenici uzimaju kao uzore i podučavaju pogrešan primjer i pogrešan metod ✔
• D) Koliko brzo se materijal proizvodi

Objašnjenje: riješene primjere učenici uzimaju kao modele; Netačno riješen primjer direktno uči učenike pogrešnoj metodi. Stoga se svaki riješeni primjer mora provjeriti pojedinačno, korak po korak, bilo pomoću SymPy-a ili ručno. Mala nejasnoća u objašnjenju predmeta može se nadoknaditi, ali pogrešan primjer uzrokuje kaskadno oštećenje.

11. Koji je najefikasniji i najpouzdaniji način za provjeru skupa pitanja s višestrukim izborom generiranih od strane umjetne inteligencije?

• A) Još jednom pitati umjetnu inteligenciju da li su pitanja tačna
• B) Nasumično provjeriti samo nekoliko pitanja i vjerovati ostalima
• C) Korištenje ključa za odgovor kakav je bez provjere bilo čega od njega
• D) Provjera ključa odgovora zbirno i deterministički ispisivanjem i pokretanjem koda koji rješava sva pitanja sa SymPy ✔

Objašnjenje: Umjetna inteligencija najčešće pravi greške kao što je netačno označavanje ključa za odgovor i stvaranje više/nula tačnih opcija. Pisanje i pokretanje koda koji rješava sva pitanja odjednom uz SymPy je najefikasniji način da se deterministički i masovno provjeri ključ za odgovor.

12. Što je od sljedećeg glavni razlog zašto umjetna inteligencija pravi greške u matematici?

• A) Vještačka inteligencija je jezički model; ne provjerava logičku valjanost, generira tekst statistički ✔
• B) Vještačka inteligencija nikada nije naučila matematiku
• C) Vještačka inteligencija je namjerno programirana da daje pogrešne odgovore
• D) Veštačka inteligencija greši samo u veoma teškim problemima, nikada u lakim.

Opis: Umjetna inteligencija nije logički motor, već jezički model koji proizvodi tekst sa statističkim obrascima; Nema interni mehanizam za provjeru logičke ispravnosti koraka. 'Valjan dokaz' sa 'množenjem od 3 cifre' za njega je zadatak izrade istog tipa teksta, tako da se njegova ispravnost ne može garantirati.

13. Kada je rezultat problema vjerovatnoće 1,4, kako znate da postoji greška bez ulaska u detalje?

• A) Izračun je tačan jer je rezultat 1,4, vjerovatnoća može biti veća od 1
• B) Predznak vjerovatnoće je nebitan, vrijednost se prihvata bez obzira
• C) Ne razumije se da postoji greška, rezultat se smatra konačnim.
• D) Vjerovatnoća mora biti između 0 i 1; ✔ Testiranje zdravog razuma ukazuje na grešku jer 1.4 premašuje ovu granicu

Opis: Test zdravog razuma i reda veličine provjerava u roku od nekoliko sekundi da li je rezultat u razumnom rasponu. Vjerovatnoća po definiciji mora biti između 0 i 1; 1.4 je izvan ove granice, tako da je očigledno da postoji greška bez pogleda na detalje proračuna.

14. Zašto je važno pisati 'e^{x^2}' umjesto 'e^x^2' u LaTeX-u?

• A) Potpuno su isti, razlika je samo estetska
• B) Vitičaste zagrade određuju opseg eksponenta; Bez njega izraz bi bio netačan ili dvosmislen, tako da je eksponent sa više znakova {} bitan ✔
• C) Kovrčave zagrade su beskorisne u LaTeX-u
• D) 'e^x^2' je uvijek istina, korištenje '{}' je nepotrebno

Objašnjenje: Najčešća greška u LaTeX-u je greška opsega: ako se vitičaste zagrade '{}' ne koriste u višeznakovnom eksponentu, indeksu ili razlomku, pokriven je samo prvi znak i izraz postaje netačan (ili čak dvosmislen). 'e^{x^2}' jasno daje do znanja da je cijeli eksponent x²; Kod treba da bude prikazan i verifikovan vizuelnom inspekcijom.

15. Želite da pitanja aktivnog centralnog ispita provjerava umjetna inteligencija. Koji je najbolji pristup u smislu etike i privatnosti?

• A) Slobodno unošenje pitanja u bilo koji opći alat za umjetnu inteligenciju jer matematika ne sadrži povjerljive podatke
• B) Korišćenje pitanja na ispitu bez njihove verifikacije
• C) Potvrđivanje pitanja pomoću sigurnog/prirodnog alata (npr. SymPy) ili korištenjem samo poslovnih alata sa sigurnošću privatnosti ✔
• D) Dijeljenje pitanja na društvenim mrežama i traženje kontrole od drugih

Opis: Aktivna ispitna pitanja su osjetljiva; Teoretski bi mogao biti razotkriven kada se hakuje alat umjetne inteligencije čija povjerljivost nije zagarantovana. Ispravan pristup je ili validacija pitanja pomoću sigurnog/prirodnog alata (npr. sa kolegom u SymPyju) ili korištenje samo korporativnih certificiranih alata koji osiguravaju privatnost podataka.