Gains :
- Être capable de distinguer où l'intelligence artificielle fait gagner du temps réel dans le flux de travail de la recherche universitaire (littérature, conception, analyse, rédaction) et où le jugement et la responsabilité scientifiques incombent au chercheur, en fonction du niveau de risque de la tâche.
- Être capable d'appliquer une discipline qui connecte et vérifie chaque sortie de l'intelligence artificielle à la source et comprendre le problème de l'attribution des hallucinations (fabriquées), qui est le risque le plus critique de l'académie.
- Capacité à adopter un cadre d'utilisation conforme aux politiques d'utilisation de l'intelligence artificielle des institutions et des revues, ainsi qu'aux principes d'honnêteté académique et de transparence.
Le travail d'un chercheur implique bien plus d'écriture, de lecture et d'édition qu'il n'y paraît : analyser des centaines d'articles, les résumer, affiner la question de recherche, concevoir des méthodes, analyser les données, transcrire les résultats, formater les citations, sélectionner les revues, répondre aux commentaires des évaluateurs. Une grande partie de ce travail est répétitive, prend du temps et est distrayante ; Il vole ce qui est vraiment précieux, la pensée et l’interprétation originales. L’intelligence artificielle (IA) – des programmes informatiques capables de comprendre le langage humain et de produire des résultats tels que du texte, des résumés, du code, des brouillons, etc. – est une aide puissante pour accélérer ce fardeau répétitif. Tout au long de ce module, nous considérons l’IA non pas comme une source magique d’informations ; Nous apprendrons à l'utiliser comme assistant de recherche, produisant des ébauches, donnant des idées et éditant.
Mais d’emblée, mettons la phrase la plus importante propre au monde universitaire : l’IA ne prend pas de décisions scientifiques à la place du chercheur ; produit le projet, le jugement scientifique et la responsabilité appartiennent au chercheur. Dans le monde universitaire, cette règle est encore plus stricte que dans d’autres professions, car la valeur de la science est la confiance, et la base de cette confiance est que chaque affirmation est liée à une source vérifiable.
Cette première unité établit trois fondements : distinguer où l'IA fonctionne et où elle doit rester dans le flux de travail de recherche ; vérifier chaque sortie ; Adopter le principe d’honnêteté académique et de transparence. Ces trois éléments constituent la base de sécurité sous-jacente à toutes les unités ultérieures.
Où l’IA fait-elle gagner du temps, où la décision appartient-elle au chercheur ?
Il est utile de penser les tâches de recherche en termes de niveau de risque. Le niveau de risque correspond au préjudice que cela pourrait causer au dossier scientifique si cela était mal fait.
Tâches à faible risque et que l'IA accélère beaucoup : Générer une stratégie de recherche (mot clé, synonyme), faire un premier résumé d'un texte long, simplifier la langue d'un paragraphe, suggérer un en-tête de tableau, brainstormer, expliquer un concept de différentes manières, élaborer la structure d'un plan. Ici, l’IA résout le problème des « pages blanches » ; vous corrigez, vérifiez et enrichissez.
Tâches à risque moyen produites par l'IA qui nécessitent une vérification rigoureuse : recommandation de sélection de tests statistiques, projet de code, formatage des citations, projet d'interprétation d'un résultat, comparaison des options de méthode. Ici, l'IA donne de la vitesse, mais chaque numéro, chaque balise, chaque étape logique doit être confirmé manuellement.
Tâches à haut risque où la décision est laissée uniquement au chercheur : détermination finale de l'hypothèse et de la méthode, décider de la signification des données, juger si un résultat est significatif, décisions au sein du comité d'éthique (IRB), décider si une source existe réellement et soutient l'affirmation, déclaration de paternité et de contribution. Ces décisions déterminent la fiabilité du dossier scientifique ; La responsabilité et le dernier mot appartiennent toujours au chercheur.
Attention : « AI a dit » n'est pas une justification. Un éditeur de journal ou un jury de thèse n'acceptera pas l'affirmation « mon modèle l'a produit comme ça ». Une sortie non vérifiée de l’IA est comme une rumeur non vérifiée.
Pourquoi la vérification est-elle nécessaire ? Hallucination et attribution fabriquée
L'IA produit du texte non pas en « connaissant » mais en « prédisant le mot possible ». C'est pourquoi il donne parfois des informations extrêmement fluides mais en réalité incorrectes. C’est ce qu’on appelle une hallucination (fabrication). La forme la plus dangereuse de cette situation dans le monde universitaire est l’attribution fallacieuse : l’IA génère un nom d’auteur, une année, une revue ou même un DOI (identifiant d’objet numérique – l’adresse permanente d’une publication) qui semble réel, mais cette source n’a jamais existé. Si un chercheur l’utilise sans vérifier, il fait une affirmation basée sur une étude qui n’existe pas ; Cela entraîne le rejet de la thèse, le retrait de l’article et une perte de réputation.
Le deuxième problème est la distorsion : lorsqu'elle résume un article, l'IA peut exagérer un résultat, résumant une étude qui disait "il n'y avait pas de différence significative" par "une différence significative a été trouvée". Le troisième est le biais : l’IA répète les tendances des données sur lesquelles elle est formée ; Cela peut mettre en valeur une certaine école, une certaine langue ou un certain point de vue et donner l’impression que la littérature est déformée.
En raison de ces limites, nous proposons une discipline de validation simple à appliquer à chaque sortie :
- Connectez-le à la source. Recherchez et vérifiez la source réelle (article, base de données, DOI) pour chaque fait, date, numéro, citation et surtout chaque citation.
- Revérifier. Vérifiez manuellement les sorties numériques ou logiques (résultat statistique, exemple de calcul).
- Filtre scientifique. « Cette affirmation est-elle cohérente avec la littérature connue dans mon domaine ? gérez-le avec votre propre expertise.
- Prenez vos responsabilités. Dès que vous la mettez dans votre publication ou votre thèse, cette phrase vous appartient ; Toute erreur est de votre responsabilité.
Honnêteté et transparence académique
L'intégrité académique garantit que le travail constitue véritablement votre contribution originale et que toutes les sources sont citées honnêtement. Le recours à l’IA n’élimine pas ce principe, mais ajoute plutôt une nouvelle responsabilité : la transparence. La plupart des revues et universités exigent désormais une déclaration explicite de l’utilisation de l’IA. La ligne éditoriale commune (par exemple, les principes des organismes d'éthique des publications tels que l'ICMJE et le COPE) dit clairement deux choses : l'IA ne peut pas en être l'auteur (car elle ne peut pas prendre de responsabilité, ne peut pas déclarer un conflit d'intérêts), et l'utilisation de l'IA n'est pas cachée, mais divulguée dans la section méthode ou remerciements.
Astuce : Avant de coller du texte dans un outil, posez deux questions : (1) Comment cet outil stocke-t-il les données, est-il utilisé dans l'éducation ? (2) Que dit la politique en matière d'IA de mon institution et de la revue cible ? Ne commencez pas sans connaître ces deux-là.
trois mini-cases
Cas 1 – Thèse compromise par une attribution fabriquée. Un étudiant diplômé a demandé à YZ 12 sources pour l'introduction de sa thèse et les a toutes reçues avec leurs citations. Son conseiller en a recherché 4 au hasard sur Google Scholar ; 2 d'entre eux n'existaient pas du tout, 1 d'entre eux avait un DOI menant à un autre article. L'étudiant devait vérifier l'intégralité de la liste une à une et n'utilisait que 7 sources authentiques. La vérification a pris 40 minutes ; mais s'il avait été livré avec une référence fictive, la confiance du jury aurait été complètement ébranlée.
Cas 2 — Gain de temps. Un chercheur postdoctoral passait 6 heures à numériser et à résumer 15 à 20 nouveaux articles chaque semaine. Il a commencé à utiliser l'IA comme premier générateur de résumés : demander à l'IA de résumer le résumé et l'introduction de chaque article, de l'approfondir avec sa propre lecture critique et de vérifier les conclusions du texte original. Le temps passé est passé de 6 heures par semaine à environ 2,5 heures ; Il a consacré le temps qu'il gagnait à rédiger des synthèses originales.
Cas 3 — Retour de la furtivité. Un spécialiste des sciences sociales était sur le point de coller des données de terrain inédites et des témoignages de participants dans l’IA pour analyse. Il s'est rendu compte qu'il contenait des informations d'identification ; Au lieu de partager les données brutes, il a simplement demandé un échantillon et un plan d’analyse anonymisés et résumés. Il a reçu une précieuse recommandation de méthode, mais aucune donnée sensible n’a été divulguée.
Modèles copiables
1) Séparer la tâche par niveau de risque :
Votre rôle : assistant académique assistant un chercheur. Divisez les tâches de recherche suivantes en trois listes : (A) les tâches à faible risque pour lesquelles l'IA peut produire un manuscrit en toute sécurité, (B) les tâches à risque moyen pour lesquelles l'IA peut produire un manuscrit et nécessitent une vérification rigoureuse, (C) les tâches à haut risque pour lesquelles la décision finale doit revenir au chercheur. Écrivez une justification en une phrase pour chaque tâche. Quêtes : [coller ses propres quêtes]
2) Invite de vérification de validation :
Marquez chaque phrase du texte ci-dessous qui contient un fait, une date, un numéro, une citation ou une attribution et marquez-la comme « à vérifier ». Indiquez clairement les points sur lesquels vous n'êtes pas sûr. N'inventez PAS la source ou le numéro ; Si vous ne savez pas, écrivez « Je ne sais pas ». Texte : [coller le brouillon]
3) Projet de déclaration d’utilisation de l’IA :
Pour la section méthodes/remerciements d'un article, rédigez un brouillon de 2 à 3 phrases « Déclaration d'utilisation de l'IA » qui explique de manière transparente à quelles étapes j'ai utilisé l'IA (par exemple, correction linguistique, brouillon). Utilisation : [expliquer]
4) Liste de vérification de la source :
Générez une feuille de contrôle de vérification pour chaque source dans la liste de citations suivante : [auteur, année, titre, DOI, vérifié ?]. Vous ne pouvez pas vérifier ; Donnez-moi un tableau vide que je vérifierai manuellement. Liste : [coller les citations]
Invite faible/Invite forte
Invite faible :
Trouvez-moi des sources pour l'introduction de ma thèse.
Aucun contexte et dangereux : l'IA crache de fausses pièces d'identité et vous pensez qu'elles sont réelles.
Invite puissante :
Votre rôle : un consultant en méthodologie. Localisation : "motivation des étudiants en enseignement à distance". NE ME TROUVEZ PAS DE SOURCE ; Suggérez plutôt 8 mots-clés, 3 groupes de synonymes et une chaîne de recherche booléenne pour rechercher ce sujet dans Scopus. Véritable article signé FAKE. Je vérifierai moi-même les sources que je trouve.
Quête
Niveau de risque
Rôle de l'IA
décision finale
Générer une stratégie de recherche
faible
Suggère un mot-clé/une chaîne
chercheur
Projet de résumé d'article
Faible-Moyen
Génère un brouillon
Le chercheur confirme
Recommandation de test statistique
moyen
Fournit des options
Le chercheur sélectionne/confirme
Liste de citations
haut
Assistant de formatage
Chaque empreinte est vérifiée à la main
Trouver une interprétation/hypothèse
haut
donne des idées
chercheur solitaire
Erreurs courantes
- Utiliser des citations sans vérification. L’attribution fabriquée de toutes pièces est l’erreur la plus fréquente et la plus dévastatrice dans le monde universitaire ; conduit au retrait.
- Remplacement du résumé par la source. Le résumé de l’IA peut fausser les résultats ; Aucune citation n'est donnée sans revenir au texte original.
- Sauter la transparence. La dissimulation de l'utilisation constitue une violation éthique lorsqu'elle est découverte.
- Laissez l’IA prendre des décisions scientifiques. Les décisions d’hypothèse, d’interprétation et de méthode appartiennent au chercheur.
- Téléchargement de données confidentielles vers l’outil ouvert. Les données non publiées et les informations sur les participants sont hors de votre contrôle.
Astuce : considérez chaque session d'IA comme si vous travailliez avec un stagiaire expérimenté mais peu fiable : il est rapide et appliqué, mais vous vérifiez tout ce qu'il dit avant de signer.
En résumé
L'IA est un assistant puissant qui allège le fardeau de lecture et d'écriture répétitives du chercheur ; mais en raison des hallucinations, des distorsions et des biais, chaque sortie nécessite une vérification. Le risque le plus critique dans le monde universitaire est celui des citations fallacieuses : chaque source doit être vérifiée via le DOI et la base de données. Séparez les tâches par niveau de risque, protégez les données, déclarez les utilisations de manière transparente. Règle empirique la plus courte : le plan vient de l’IA, la responsabilité scientifique vient du chercheur.
Tâche de candidature
Énumérez 8 tâches de votre propre projet de recherche actuel et marquez chacune comme étant à risque faible/moyen/élevé. Choisissez ensuite une tâche à faible risque et rédigez une invite contextuelle, comme « Invite puissante » ci-dessus. Marquez au moins 3 éléments (numéro, empreinte, revendication) que vous devez vérifier dans le résultat et écrivez comment vous allez le vérifier.
liste de contrôle
- [ ] Ai-je séparé les tâches par niveau de risque ?
- [ ] Est-ce que je prévois de vérifier chaque citation et chaque décompte dans la sortie de l'IA ?
- [ ] Est-ce que je connais la politique de conservation des données du véhicule que j'utilise ?
- [ ] Ai-je lu la politique en matière d'IA de mon institution et de la revue cible ?
- [ ] Suis-je sûr de retenir le jugement scientifique final ?