利益:
- 文献の要約や科学論文の草稿に人工知能を使用し、不正な引用（偽の論文、間違った DOI）のリスクを認識する能力
- DOI/PubMedを介して一次情報源の各引用を検証し、盗作/捏造された引用のリスクを防ぐ習慣を適用する能力
- 執筆を加速する製図および言語ツールとして人工知能を使用し、科学的責任を著者に委ねる原則を採用する能力
分子生物学と遺伝学は膨大な文献に依存しており、毎年数十万の論文が追加されています。バリアントの臨床的重要性、遺伝子の機能、または方法の有効性はすべて、公開された証拠に依存します。人工知能 (AI) は、この文献の科学テキストのスクリーニング、要約、草稿作成に強力に役立ちますが、この分野で最も危険な幻覚の原因でもあります。AI は、本物のジャーナルに存在しなかった論文、本物の著者による、整った署名付きの論文を偽造することができます。この単元では、文学や執筆において AI を安全に使用する方法と、すべての引用を検証する方法を学びます。
重要なルール: YZ が提供する参考文献は、ソースを開いて確認することなく使用しないでください。 DOI (出版物の永久デジタル ID)、PubMed ID (PMID)、または直接の出版社ページのない署名欄は信頼しないでください。 AI が提供するタグは「現実的すぎる」ように思えるかもしれません。リアリズムは現実ではありません。
文学における AI の 2 つの顔
便利な側面: トピックを素早く要約し、複雑な記事を簡略化し、検索用語を提案し、原稿の言語を修正し、矛盾する調査結果を比較します。
危険な側面: 存在しない記事を捏造し(偽の引用)、本物の記事の結果を歪曲し、古い情報をあたかも最新のものであるかのように提示し、出典を主張に「適用」します。
したがって、AI を最終的な言葉としてではなく、文献レビューの出発点として使用してください。実際の検索は、PubMed、Google Scholar、Europe PMC などの権威あるディレクトリで行われます。 AI の概要はこの検索に代わるものではありません。
ステップバイステップ: 安全な文献ワークフロー
1. AIで質問を明確にし、検索ワードを抽出します。 AI に「このトピックについてどのキーワードと MeSH 用語 (PubMed のトピック タグ) を検索すればよいですか?」と尋ねます。聞く。
2. 権限のあるディレクトリで実際の検索を実行します。 PubMed/Scholar で自分で検索してください。 AI の「こんな記事があります」リストに頼らないでください。
3. 見つけた記事をAIに要約してもらいます。テキスト（または要約）を AI に渡して要約してもらうのが安全です。リソースがあるからです。 AI に「記憶に基づいて」記事のナレーションを依頼するのは危険です。
4. 各引用を DOI/PMID で検証します。テキストに含まれるすべての情報源が実際に存在し、その主張を裏付けていることを確認してください。
5. AI を事実生成のためではなく、言語と構造のために文章を作成する際に使用します。 AI は文章の流暢さ、段落の構成、要約の概要に優れています。しかし、結果、数値、引用はあなたから得られます。
ヒント: 引用を確認する最も簡単な方法は、doi.org 経由で指定された DOI を開くか、タイトルを引用符で囲んで PubMed を検索することです。開かない場合、またはタイトル/著者が一致しない場合、その引用はでっち上げである可能性が高くなります。
ミニケース3個
ケース 1 — 5 つの参考文献のうち 3 つは偽物です。ある大学院生が AI に導入文と 5 件の引用を求めました。 DOI を 1 つずつチェックしたところ、そのうち 3 つはどこにも開かれておらず、1 つは別の記事に属しており、正しいのは 1 つだけであることがわかりました。その段落は流暢でしたが、情報源のほとんどは捏造されました。
ケース 2 — 歪んだ所見。研究者はAIに実際の論文を要約させた。 YZは、記事には「遺伝子Xが病気Yを引き起こす」と書かれていると書いた。研究者がその論文を開くと、実際には「遺伝子 X は Y と関連していることが判明したが、因果関係は示されていない」と書かれていることがわかりました。関連性と因果関係の違いは科学的に重要でした。
ケース 3 — 確認が得られました。博士課程の学生が、YZ が提案した MeSH 用語を使用して PubMed を検索したところ、このトピックの中心であるにもかかわらず、YZ の要約には決して言及されていない最近のレビューを見つけました。 AI は検索語 (役に立つ) を生成しましたが、本当の発見は権威あるインデックスにありました。
コピー可能な 4 つのテンプレート
1) 検索戦略:
あなたの役割: 文献レビューアシスタント。次の研究質問に対して PubMed で使用する検索用語、MeSH 用語、およびブール (AND/OR) の組み合わせを提案します: [質問]。記事一覧;適切な検索クエリを設定するだけです。 PubMedで検索してみます。
2) 与えられたテキストを要約します (ソースはあります):
以下に貼り付けた記事のテキスト/要約を要約します: [テキスト]。主な発見、方法、サンプルサイズ、制約を区別します。「相関関係」と「因果関係」の主張を混同しないでください。記事の内容をそのまま引用します。本文にないものは追加しないでください。
3) 引用検証チェックリスト:
この参考文献リストをあげておきます。それぞれについて検証する必要があるフィールド (DOI、PMID、ジャーナル、年、タイトルと著者の一貫性) がチェックリストとして表示されます。参照が本物であるかどうかを確認することはできません。 DOI/PMID に確認し、確認手順を教えてください。
4) 科学用語の修正:
次の段落の文言と流れを修正しますが、事実、数字、参照を使用してください。変更、追加、削除: [段落]。文法、流暢さ、科学的なスタイルの点でのみ向上します。変更した各文にマークを付けます。
弱いプロンプト / 強いプロンプト
弱者: 「がん治療における CRISPR の役割に関する 5 つの情報源の紹介文を書いてください。」
問題: AI は記憶に基づいて書き込みを行うため、偽の引用が生成される可能性があります。ソースが表示されません。
ストロング: 「CRISPR とがん治療に関して PubMed で使用すべき検索用語を提案してください。その後、5 つの論文の要約を提示して、それを見つけて貼り付けます。それらのみに基づいて序文の下書きを作成し、各文を関連する論文にリンクします。本文にない主張は追加しないでください。」
これが強力な理由: アトリビューションは現実のものであり、ユーザーが制御できます。 AI は目に見えるテキストのみを処理します。
クエスト
AIは安全ですか？
状態
検索語を提案する
はい
電話をかけるのはあなたです
与えられたテキストを要約する
はい
ソースはあなたのものにしましょう。
記憶にある記事をリストアップする
いいえ
虚偽引用のリスクが高い
言語/スタイルの修正
はい
事実/参照を変更しないでください
転移所見
注意深い
関係性・因果関係の区別
よくある間違い
- 検証せずに引用を使用する。最も一般的で最も有害な間違い。虚偽の引用は学術的誠実性の侵害です。
- 記憶から記事をリクエストします。 AIの「こんな研究がある」リストは捏造される可能性がある。
- 関係性を因果関係と勘違いする。 AI は要約するときにこの区別を消去できます。源に戻ります。
- 適時性を前提とします。 AI の知識は特定の日付で遮断されます。インデックスから最新の調査結果を入手します。
- ファクト生成は AI に任せます。数値、結果、主張は AI からではなく、あなた自身から得られるものでなければなりません。
注意: 論文執筆中に AI を使用した場合は、ジャーナルおよび機関の AI 使用ポリシーを確認してください。多くのジャーナルは、AI を著者とすることはできず、その使用は透明性を持って表明されなければならないと規定しています。虚偽の引用は退学および学術的制裁の理由となります。
深さ: 偽の見積もりを 30 秒で見つける
ほとんどの偽の帰属は、いくつかの機械的なチェックですぐに無効になります。検証反射を段階的に開発してください。まず、doi.org 経由で DOI を開きます。実際の DOI では、発行者のページに直接移動します。 「DOI が見つかりません」というエラーが表示された場合、その引用はほぼ確実に偽物です。次に、引用符を含むタイトルを PubMed で検索します。タイトルがまったく表示されない場合、または AI が提供する著者/雑誌/年と一致しない場合は、疑ってください。AI は多くの場合、実際のタイトルを間違った著者または間違った雑誌に帰します。第三に、ジャーナルの年の一貫性: AI はジャーナルが存在しない年に論文を捏造することがあります (「2019 年に出版」ですが、ジャーナルの創刊は 2021 年です)。
具体的な例: 学生が AI に変異体の病原性を裏付ける引用を求めました。有名なジャーナル、実際の研究グループの名前、正式に正しい DOI など、刻印は完璧に見えました。 DOI を開くと、まったく別のトピックに関する記事が表示されました。AI は本物の DOI と架空のタイトルを照合していました。教訓: DOI を「開く」だけでは十分ではありません。また、開いたページのタイトルと作成者が引用と正確に一致していることも確認してください。
特に危険な状況の 1 つは、変異種が「以前に病原性があると報告されている」という主張です。この主張は、臨床上の決定 (ACMG における PS1/PM5 など) に変換される可能性があります。もしその根拠となる参考文献が偽りであれば、証拠の連鎖は根本的に崩壊してしまいます。臨床体重のすべての参照は、最も厳密な方法で 2 つの独立した指標で検証されなければなりません。
5) 引用相互検証テンプレート:
次の帰属を確認するために行うチェックを順番にリストします:[インプリント]。 DOIは表示されていますか？開いたページのタイトル/作成者/年は表示されますか? PubMed でタイトル検索すると表示されますか?各ステップで「合格/不合格」ボックスを残します。帰属を確認することはできません。チェックリストを教えてください。
要約すると
- AI は文献レビューや科学論文の作成に強力に役立ちますが、不正引用の最大の原因でもあります。
- 実際の検索は、信頼できるディレクトリ (PubMed、Scholar) で行われます。 AIのリストが最終決定ではない。
- 各引用は DOI/PMID によって個人的に検証される必要があります。関係性と因果関係の区別は維持されるべきです。
- AI を使用して言語と構造を作成します。事実、数字、帰属はあなた自身からのものでなければなりません。
アプリケーションタスク
研究の質問を選択します。テンプレート 1 を使用して AI から検索語を取得し、PubMed で自分で検索し、実際の論文を 3 件見つけます。これらをAIに要約します（テンプレート2）。また、AI に「記憶にある 3 つの記事」を尋ねて、その DOI を確認します。そのうちのどれだけが本物であるかに注目してください。 2 つの方法の信頼性の違いを 1 文で書きます。
チェックリスト
- [ ] AIで検索ワードを抽出して自分で検索しました。
- [ ] 私は信頼できるインデックスで記事を見つけましたが、YZ のリストは信頼できませんでした。
- [ ] 各引用をDOI/PMIDで確認しました。
- [ ] 関係性と因果関係の区別をソースで確認しました。
- [ ] AI は言語/構造のみに使用し、事実の生成には使用しませんでした。
- [ ] ジャーナル/機関の AI 使用ポリシーを遵守しました。