Éthique, intégrité académique, limites et flux de travail de bout en bout — Intelligence artificielle en mathématiques

Gains :

Capacité à comprendre et appliquer les principes éthiques de l'utilisation de l'intelligence artificielle en mathématiques (être au service de l'apprentissage, de la transparence, de la responsabilité humaine, de la justice, de la confidentialité).
Capacité à évaluer les risques liés à la vie privée et à prendre les précautions appropriées concernant les contenus sensibles tels que les questions d'examen, les données des étudiants et les recherches non publiées.
Possibilité de combiner toutes les parties du module (production + vérification) en un seul flux de travail de bout en bout, complétant chaque étape de production par une étape de vérification et une approbation humaine finale

Dans cette dernière unité, nous combinons deux choses : d’une part, les dimensions éthiques, d’intégrité académique et de confidentialité de l’utilisation de l’intelligence artificielle en mathématiques ; D'autre part, rassembler ce que nous avons appris tout au long du module dans un workflow unique de bout en bout. L’IA en mathématiques est un outil puissant, mais elle s’accompagne de responsabilités ainsi que de pouvoir : pour qui vous l’utilisez, pourquoi vous l’utilisez et comment vous l’utilisez a des conséquences éthiques. Un étudiant qui fait faire ses devoirs grâce à l’IA et un enseignant qui accélère son cours grâce à l’IA sont des choses très différentes. Cette unité complète les compétences techniques avec une utilisation responsable.

Quelques définitions. L’intégrité académique signifie montrer honnêtement à qui appartient réellement une œuvre et ne pas raccourcir l’apprentissage. Le plagiat consiste à présenter le produit de quelqu'un d'autre (ou d'un média) comme s'il s'agissait de votre propre produit original. La transparence signifie indiquer clairement où l’IA est utilisée. Ces concepts sont devenus centraux dans l’enseignement des mathématiques à l’ère de l’IA.

Principes de base d'une utilisation éthique

Non pas à la place de l’apprentissage, mais au service de celui-ci. L’IA peut accompagner un élève dans l’apprentissage du concept (explication, explication alternative), mais ne doit pas plutôt le faire réfléchir. Demander à l’IA de faire ses devoirs nuit à l’apprentissage.
Transparence. Indiquez où l'IA a été utilisée : dans un article, un support de cours ou un rapport. La dissimulation est malhonnête.
La responsabilité appartient aux humains. Quiconque publie, enseigne ou diffuse des résultats d’IA est responsable de son exactitude. "L'IA l'a dit" n'est pas une excuse.
Justice. L’utilisation de l’IA dans l’évaluation devrait être régie par des règles égales et claires pour tous les étudiants.
Sécurité. Ne saisissez pas d’informations sensibles, telles que des questions d’examen, des données sur les étudiants ou des recherches non publiées, dans des outils d’IA dont la confidentialité n’est pas garantie.

Confidentialité : qu’est-ce que cela signifie dans le contexte des mathématiques ?

Même si les mathématiques semblent ne contenir « aucune donnée cachée », le contexte est important. Un résultat de recherche non publié, la banque de questions d'examen d'un établissement, les données de performances personnelles des étudiants ou l'algorithme propriétaire d'une entreprise : tous sont sensibles. Tout ce que vous saisissez dans un outil d'IA peut être traité par le fournisseur de cet outil et, dans certains cas, utilisé pour entraîner le modèle. Ainsi, pour le contenu sensible, utilisez des outils sécurisés localement/institutionnellement ou anonymisez le contenu.

Type de données

Risque

précaution

Théorème/problème publié

faible

disponible gratuitement

Questions d'examen actives

haut

Ne pas entrer ni sécuriser le véhicule

Données personnelles/performances des étudiants

haut

Anonymiser/ne pas entrer

Recherche non publiée

haut

Outil sécurisé/local

Plan de la conférence

faible-moyen

Généralement adapté

Attention : avant de vous lancer dans l'IA pour vérifier une question d'examen, demandez-vous si cette question doit rester secrète. Les questions d’un examen actif pourraient théoriquement être exposées lorsqu’elles sont saisies dans un outil d’IA dont la confidentialité n’est pas garantie. Pour les examens critiques, modifiez les questions ou utilisez uniquement des outils approuvés par l'entreprise et garantissant la confidentialité des données.

Workflow de bout en bout : un exemple de tâche

Disons que vous devez préparer à la fois du matériel de cours et un examen pour une matière en une semaine. Le flux combinant toutes les parties du module pourrait ressembler à ceci :

1. Planification. Clarifier le sujet, le niveau et les objectifs (Unité 7).

2. Rédaction du matériel. Demandez à l'IA de produire des cours adaptés au niveau + des exemples résolus (Unité 7).

3. Vérification de l'échantillon. Vérifiez chaque exemple résolu avec SymPy (Unité 4).

4. Visualisation. Produisez et restituez des graphiques pour soutenir le récit avec le code Matplotlib et comparez-les avec les mathématiques (Unité 6).

5. Notations. Nettoyer l'index, rendre et vérifier les formules avec LaTeX (Unité 10).

6. Génération de questions. Faites produire des questions à choix multiples + des distractions pour l'examen (Unité 8).

7. Vérification groupée. Résolvez toutes les questions en masse avec SymPy et vérifiez le corrigé (Unités 8, 9).

8. Contrôle d’éthique et de transparence. La confidentialité est-elle appropriée ? Avez-vous indiqué l’utilisation de l’IA dans le matériel lorsque cela est nécessaire ? Vous avez la responsabilité ultime (cette unité).

9. Approbation humaine. Vérifiez et confirmez tout une dernière fois. Toute pièce non vérifiée ne sera pas diffusée/testée.

Astuce : dans un flux de travail de bout en bout, la stratégie la plus efficace consiste à positionner l'IA comme la « couche de vitesse », les outils déterministes (SymPy, rendu) comme la « couche d'exactitude » et vous-même comme la « couche de jugement et de responsabilité ». Chaque étape de production doit être suivie d'une étape de vérification ; Les résultats non vérifiés ne doivent pas être reportés à l’étape suivante.

trois mini-cases

Cas 1 — La transparence a renforcé la confiance. Un universitaire a utilisé l’IA dans la première ébauche d’un chapitre de manuel, puis a vérifié chaque affirmation mathématique et a déclaré dans la préface que « le soutien de l’IA a été obtenu lors de la production du manuscrit, tout le contenu a été vérifié par l’auteur ». Cette transparence a accru la confiance des collègues et a maintenu le niveau d’intégrité.

Cas 2 — Utilisation qui nuit à l’apprentissage. Un étudiant a demandé à l'IA de résoudre l'intégralité de ses devoirs et de les soumettre. Il a échoué à l’examen dans les mêmes matières parce qu’il n’avait jamais appris les concepts. L’enseignant a suggéré d’utiliser l’IA pour « faire vérifier la solution et obtenir une explication alternative », mais pour résoudre d’abord les problèmes lui-même. L’IA doit être au service de l’apprentissage, pas à sa place.

Cas 3 — Risque de violation de la vie privée. Un enseignant a envisagé de pirater un outil général d’IA pour vérifier les questions d’un examen central qui n’avait pas encore été administré, mais a ensuite décidé de ne pas le faire ; au lieu de cela, il a résolu les questions dans SymPy par lui-même et par un collègue. La saisie de questions d'examen actif dans un outil externe représentait un risque sérieux pour la vie privée ; l'authentification locale fournissait le chemin sécurisé.

Quatre modèles copiables

1) Utilisation favorisant l’apprentissage (pour les étudiants) :

J'ai résolu ce problème EN PREMIER, ma solution est jointe. NE me donnez PAS la solution ; montre-moi simplement où je me suis trompé et quel concept j'ai mal compris afin que je puisse le corriger. Ma solution : [ici]

2) Générer une note de transparence :

J'ai préparé un [matériel de cours/rapport] et utilisé l'IA au stade de l'ébauche, vérifiant moi-même tous les calculs. Rédigez une courte note de transparence professionnelle qui l’indique honnêtement.

3) Pré-vérification de la confidentialité :

Je souhaite qualifier le contenu suivant en termes de confidentialité avant de le saisir dans un outil d'IA : [type de contenu]. Ce type de contenu est-il considéré comme sensible, quels sont les risques, quelles précautions (anonymisation, outil local) dois-je prendre ? Dites-le brièvement et clairement.

4) Plan de contrôle de vérification de bout en bout :

Je prépare du matériel de cours + un examen pour [sujet]. Lister sous forme de plan de contrôle les vérifications que je dois faire à chaque étape de la production : vérification des échantillons, contrôle graphique, notation, corrigé, confidentialité, approbation humaine.

Invite faible/Invite forte

Faible : « Résolvez ces questions de devoirs et je les rendrai. » (étudiant)

Résultat : l'apprentissage est ignoré, l'intégrité académique est violée, l'élève ne parvient pas à apprendre le concept. C’est répréhensible sur le plan éthique et pédagogique.

Güçlü : "J'ai essayé de résoudre cette question de devoir, mais je suis resté bloqué ; ma solution est jointe. Ne donnez pas la réponse directement ; montrez-moi avec un indice quelle étape et pourquoi j'ai mal fait, rappelez-moi le concept correct, puis je réessayerai."

Conclusion : l’IA est mise au service de l’apprentissage ; L'étudiant continue de réfléchir, l'honnêteté est maintenue.

Erreurs courantes

L'utiliser pour sauter l'apprentissage. Demander à l’IA de faire ses devoirs est facile à court terme, mais détruit l’apprentissage à long terme.
Ne pas être transparent. Dissimuler l’utilisation de l’IA va à l’encontre de l’intégrité académique ; préciser si nécessaire.
Mettre la responsabilité sur l’IA. « L’IA l’a dit » n’est pas une excuse ; L'éditeur/enseignant est responsable.
Saisie de contenu confidentiel dans un outil externe. L'examen actif, les données des étudiants, les recherches non publiées sont sensibles.
Laisser la validation à la fin du workflow. La vérification doit avoir lieu après chaque étape de production ; Les erreurs ne doivent pas s’accumuler.

En résumé

L’utilisation de l’IA en mathématiques requiert une responsabilité éthique ainsi que des compétences techniques : elle doit être au service de l’apprentissage (et non à sa place), être transparente, conserver la responsabilité ultime, adhérer à des règles équitables et respecter la confidentialité. Dans un flux de travail de bout en bout, l'IA est la couche de vitesse, SymPy et les outils de rendu sont la couche de précision, et les humains sont la couche de jugement et de responsabilité. Chaque étape de production doit être suivie d'une étape de vérification ; Aucun résultat non vérifié ne doit faire l’objet d’une publication, d’un cours ou d’un examen. C'est l'essence de ce module : allez plus vite avec l'IA, mais vérifiez et assumez la responsabilité de chaque étape.

Tâche de candidature

Concevoir une tâche de bout en bout à petite échelle : un court récit + 1 graphique + 3 questions à choix multiples pour un sujet. Suivez le déroulement du module : (1) planifier, (2) rédiger avec l'IA, (3) valider les exemples avec SymPy, (4) rendre et vérifier le graphique, (5) nettoyer et restituer la notation avec LaTeX, (6) valider par lots les questions avec SymPy, (7) effectuer une vérification de confidentialité et de transparence, (8) donner l'approbation humaine finale. Enregistrez la vérification que vous avez effectuée et ce que vous avez trouvé à chaque étape. À la fin du processus, évaluez où l’IA fait gagner du temps et où votre jugement est indispensable.

liste de contrôle

[ ] J'ai utilisé l'IA au service (et non à la place) de l'apprentissage.
[ ] J'ai déclaré de manière transparente l'utilisation de l'IA lorsque cela était nécessaire.
[ ] J'ai assumé la responsabilité de l'exactitude ultime.
[ ] Je n'ai pas accédé à du contenu confidentiel/sensible via des outils non sécurisés.
[ ] J'ai suivi chaque étape de production d'une étape de vérification.
[ ] Je n'ai apporté aucun résultat non vérifié dans la diffusion/leçon/examen.

Examen de module

1. Lequel des énoncés suivants est le positionnement le plus précis pour l’intelligence artificielle en mathématiques ?

A) L'intelligence artificielle est un outil de stratégie, de plan et d'organisation ; C'est à l'homme de vérifier le calcul exact et le résultat par des moyens déterministes ✔
B) L'intelligence artificielle est comme une calculatrice et chaque résultat numérique qu'elle donne est précis
C) L’intelligence artificielle ne se trompe jamais dans les conclusions qu’elle présente avec assurance, la vérification n’est donc pas nécessaire
D) L'intelligence artificielle n'est utile que pour écrire du texte, elle n'a rien à voir avec des tâches mathématiques

Description : un grand modèle de langage est un outil qui génère statistiquement du texte ; Ce n'est pas une calculatrice ou un vérificateur d'épreuves. Il produit des mathématiques correctes la plupart du temps, mais il ne garantit pas ; chaque sortie doit donc être vérifiée avec des outils déterministes (SymPy, calculatrice, validation manuelle) et la responsabilité doit rester avec l'humain.

2. Un élève demande à l’intelligence artificielle de résoudre une intégrale et souhaite obtenir le résultat. Quelle est la manière la plus fiable de vérifier le résultat ?

A) Différencier le résultat et vérifier s'il revient à la fonction d'origine (SymPy ou manuellement) ✔
B) Demandez à l'intelligence artificielle « est-ce vrai ? demander
C) Accepter le résultat tel qu'il est car il est présenté avec fluidité et confiance.
D) Passer à une autre question et ne pas vérifier du tout le résultat

Explication : L'inverse dérivée-intégrale est un outil de vérification intégré en mathématiques : prendre la dérivée du résultat trouvé et vérifier si elle revient à la fonction d'origine confirme indépendamment l'exactitude de l'intégrale. La même vérification croisée peut être effectuée avec SymPy.

3. Que signifie le principe selon lequel « le bon résultat n'est pas la bonne voie » dans la résolution de problèmes avec l'intelligence artificielle ?

A) Le bon résultat prouve toujours que le chemin est également le bon
B) Le chemin n'a pas d'importance, seul le résultat doit être noté
C) Des étapes intermédiaires incorrectes peuvent conduire au résultat correct par hasard ; Par conséquent, le résultat et chaque étape intermédiaire doivent être inspectés ✔
D) Il est impossible de trouver un chemin solide, nous regardons donc uniquement le résultat

Explication : Parfois, de mauvaises étapes intermédiaires conduisent au bon résultat par hasard ; Même si le résultat est correct, le chemin peut être invalide. C'est pourquoi en mathématiques, on se demande simplement « le résultat est-il correct ? mais plutôt « chaque étape intermédiaire est-elle correcte ? » La question est également essentielle et chaque étape doit être encadrée.

4. Que devez-vous faire lorsque l'IA utilise l'expression « sans perte de généralité » dans une preuve ?

A) Accepter que la preuve soit valide car la déclaration est fluide
B) Justifier par vous-même que la généralité n'est pas réellement rompue ; ✔ ne pas accepter sans poser de questions
C) Considérer la preuve comme valable sans la lire du tout
D) Recherche de cette expression à partir de la source comme nom de théorème

Clarification : L'affirmation « sans perte de généralité » est parfois valable (s'il existe une véritable symétrie) mais parfois c'est une erreur cachée. L’intelligence artificielle utilise beaucoup cette expression ; Vous devez vous justifier à chaque fois que la généralité n'est pas réellement violée, et vous ne devez pas accepter l'affirmation sans poser de questions.

5. Vous avez écrit un code SymPy pour l'intelligence artificielle. Comment obtenir le résultat correctement ?

A) Faire en sorte que l'intelligence artificielle prédise la sortie du code
B) Supposer que le code est correct sans le lire
C) Faire confiance à l'interprétation du résultat par l'IA
D) Exécutez le code vous-même dans un véritable environnement Python et voyez le résultat exact ✔

Description : La puissance de SymPy n'est révélée que lorsque le code est exécuté dans un véritable environnement Python. Demandez à l'intelligence artificielle : « Que produit ce code ? » demander n’est pas une vérification, car l’IA peut également constituer la sortie du code. Vous devez exécuter le code vous-même.

6. Si la solution d'une équation trouvée manuellement par l'intelligence artificielle et le résultat donné par SymPy sont différents, à laquelle devriez-vous faire confiance et pourquoi ?

A) Résultat SymPy car il est déterministe et précis ; Demandez ensuite à l'intelligence artificielle de trouver l'emplacement de son erreur ✔
B) Le résultat de l'intelligence artificielle car elle explique plus couramment
C) En choisir un au hasard car ils sont tous deux également fiables
D) Rejeter les deux et considérer la question comme insoluble

Description : SymPy est un système informatique symbolique déterministe : il donne toujours exactement le même résultat correct à la même entrée. L'intelligence artificielle produit du texte de manière statistique et peut halluciner. Dans le litige, SymPy devrait être pris comme base et l'intelligence artificielle devrait être amenée à trouver l'emplacement de son erreur.

7. Pourquoi la condition '0.1 + 0.2 == 0.3' ne fonctionne-t-elle pas comme prévu dans un code Python et comment y remédier ?

A) L'addition est interrompue en Python ; besoin d'utiliser une autre langue
B) L'égalité exacte n'est pas valable en raison de la précision des nombres à virgule flottante ; Une tolérance telle que « abs(a-b) < 1e-9 » doit être utilisée ✔
C) La valeur 0,3 est incorrecte ; Il faut écrire 0.30000000004
D) La condition fonctionne toujours correctement, il n'y a pas de problème

Explication : Les ordinateurs stockent les nombres décimaux au format à virgule flottante avec une précision limitée ; 0,1 + 0,2 est stocké avec un très petit écart, pas exactement 0,3. Par conséquent, au lieu de l'égalité exacte « == », une tolérance telle que « abs(a-b) < 1e-9 » doit être utilisée.

8. Quel est le meilleur « test de bon sens » avant d’appliquer un code de recherche de racine scalaire au problème réel ?

A) Appliquer le code directement au problème réel sans le tester du tout
B) Vérifiez la longueur du code et comptez-le correctement s'il est long.
C) Tester le code avec une saisie simple dont la réponse est connue (ex²-4=0 racines ±2) et vérifier qu'elle donne le résultat attendu ✔
D) Confirmer à l'intelligence artificielle que le code est correct

Explication : Tester le code avec une simple saisie dont vous connaissez déjà la réponse (par exemple ±2 pour x²-4=0 avec des racines évidentes) est la vérification la moins chère et la plus efficace. Si le code donne correctement la situation connue, la probabilité qu'il soit fiable pour des problèmes que vous ne connaissez pas augmente.

9. En visualisation, comment vérifier qu'un graphique reflète correctement les mathématiques ?

A) Si le graphique semble esthétique, il est considéré comme correct.
B) Comparer le graphique avec les propriétés connues de la fonction et la vraie valeur d'au moins un point ✔
C) Ne pas regarder du tout les étiquettes des axes
D) S'appuyer sur la description verbale du graphique par l'IA

Explication : Un graphique qui semble joli n'a pas besoin d'être précis ; L'IA peut dessiner la mauvaise fonction, dans la mauvaise plage ou avec une asymptote déformée. La comparaison du graphique avec les propriétés connues de la fonction (plage d'oscillation, symétrie, asymptote) et le calcul d'au moins un point détectent les erreurs.

10. Quel est le point de vérification le plus critique dans un support de cours réalisé avec l’intelligence artificielle et pourquoi ?

A) Police et palette de couleurs du matériau
B) Longueur du matériel et nombre de pages
C) Précision des exemples résolus ; parce que les étudiants les prennent comme modèles et enseignent le mauvais exemple et la mauvaise méthode ✔
D) À quelle vitesse le matériau est produit

Explication : Les exemples résolus sont pris comme modèles par les étudiants ; Un exemple mal résolu enseigne directement aux étudiants la mauvaise méthode. Par conséquent, chaque exemple résolu doit être vérifié individuellement, étape par étape, soit avec SymPy, soit manuellement. Une petite ambiguïté dans l’explication du sujet peut être compensée, mais un mauvais exemple provoque des dégâts en cascade.

11. Quel est le moyen le plus efficace et le plus fiable de vérifier un ensemble de questions à choix multiples généré par l'intelligence artificielle ?

A) Demander à nouveau à l'intelligence artificielle si les questions sont correctes
B) Cocher seulement quelques questions au hasard et faire confiance au reste
C) Utiliser le corrigé tel quel sans rien vérifier
D) Vérifier le corrigé collectivement et de manière déterministe en imprimant et en exécutant un code qui résout toutes les questions avec SymPy ✔

Explication : L'intelligence artificielle commet le plus souvent des erreurs telles que marquer incorrectement le corrigé et produire plusieurs options correctes/zéro. Écrire et exécuter un code qui résout toutes les questions à la fois avec SymPy est le moyen le plus efficace de vérifier le corrigé de manière déterministe et en masse.

12. Laquelle des affirmations suivantes est la principale raison pour laquelle l'intelligence artificielle fait des erreurs en mathématiques ?

A) L'intelligence artificielle est un modèle de langage ; ne vérifie pas la validité logique, génère du texte de manière statistique ✔
B) L'intelligence artificielle n'a jamais appris les mathématiques
C) L'intelligence artificielle est délibérément programmée pour donner de mauvaises réponses
D) L’intelligence artificielle ne commet des erreurs que dans les problèmes très difficiles, jamais dans les problèmes faciles.

Description : L'intelligence artificielle n'est pas un moteur logique, mais un modèle de langage qui produit du texte avec des modèles statistiques ; Il ne dispose d'aucun mécanisme interne pour vérifier la validité logique des étapes. « Une preuve valide » avec une « multiplication à 3 chiffres » consiste pour lui à produire le même type de texte, son exactitude ne peut donc pas être garantie.

13. Lorsque le résultat d’un problème de probabilité est 1,4, comment savoir qu’il y a une erreur sans entrer dans les détails ?

A) Le calcul est correct car le résultat est 1,4, la probabilité peut dépasser 1
B) Le signe de la probabilité n'a pas d'importance, la valeur est acceptée indépendamment
C) Il n'est pas entendu qu'il y ait une erreur, le résultat est considéré comme définitif.
D) La probabilité doit être comprise entre 0 et 1 ; ✔ Les tests de bon sens indiquent une erreur car 1,4 dépasse cette limite

Description : Le test de bon sens et d'ordre de grandeur vérifie en quelques secondes si le résultat se situe dans une fourchette raisonnable. Une probabilité doit par définition être comprise entre 0 et 1 ; 1,4 est en dehors de cette limite, il est donc évident qu'il y a une erreur sans regarder les détails du calcul.

14. Pourquoi est-il important d'écrire « e^{x^2} » au lieu de « e^x^2 » dans LaTeX ?

A) Ce sont exactement les mêmes, la différence n’est qu’esthétique
B) Les accolades déterminent la portée de l'exposant ; Sans cela, l'expression serait incorrecte ou ambiguë, donc l'exposant à plusieurs caractères {} est essentiel ✔
C) Les accolades sont inutiles dans LaTeX
D) 'e^x^2' est toujours vrai, utiliser '{}' n'est pas nécessaire

Explication : L'erreur la plus courante dans LaTeX est l'erreur de portée : si les accolades '{}' ne sont pas utilisées dans un exposant, un indice ou une fraction à plusieurs caractères, seul le premier caractère est couvert et l'expression devient incorrecte (voire ambiguë). 'e^{x^2}' indique clairement que l'exposant entier est x² ; Le code doit être rendu et vérifié par inspection visuelle.

15. Vous souhaitez faire vérifier les questions d'un examen central actif par l'intelligence artificielle. Quelle est la meilleure approche en termes d’éthique et de confidentialité ?

A) Saisir librement des questions dans n'importe quel outil général d'IA car les mathématiques ne contiennent pas de données confidentielles
B) Utiliser des questions à l'examen sans les vérifier
C) Valider les questions avec un outil sécurisé/natif (par exemple SymPy) ou en utilisant uniquement des outils d'entreprise garantissant la confidentialité ✔
D) Partager des questions sur les réseaux sociaux et demander aux autres de prendre le contrôle

Description : Les questions de l'examen actif sont sensibles ; Elle pourrait théoriquement être dévoilée lors du piratage d’un outil d’intelligence artificielle dont la confidentialité n’est pas garantie. L'approche correcte consiste soit à valider les questions avec un outil sécurisé/natif (par exemple avec un collègue dans SymPy), soit à utiliser uniquement des outils certifiés par l'entreprise et garantissant la confidentialité des données.