利益:
- 実際のデータベースから文献を検索し、人工知能を使用して手元にある実際のテキストのみを要約、翻訳、修正する能力
- DOI またはタイトルによって各引用を個別に検証し、捏造された情報源を排除する機能
- 言語の修正と翻訳において、専門用語の意味と曖昧さを保持する能力
物理学の研究が孤立して終わることはありません。それぞれの結論は以前の研究に基づいています。そのため、文献レビュー (あるテーマに関する出版論文を見つけ、読み、適切に引用すること) が学術研究の根幹となっています。人工知能 (AI) はこのプロセスを大幅に加速します。分野を要約し、複雑な記事を簡略化し、テキストを英語に翻訳し、下書きを修正します。しかし、ここで AI の最も危険な間違いが発生します。それは、でっち上げられた帰属です。この単元では、文学や科学論文で AI を使用する方法と、すべての情報源、すべての引用、すべての事実を独自に検証する方法を学びます。この単元の主なメッセージは 1 つです。AI がテキストを高速化します。しかし、独立した検証がなければ、帰属は信頼できません。
なぜ AI は偽のリソースを生成するのでしょうか?
大規模な言語モデルは実際のデータベースに依存しません。トレーニング データ内で見られる引用パターンを模倣することにより、「本物のような」タグを生成します。その結果、信頼できる著者名、実際のジャーナル名、適切な年が記載された、適切に書かれた記事が作成されましたが、まったく存在しない記事でした。これは学術界で深刻な問題になっています。検証なしに参考文献に虚偽の引用が入力された場合、その研究は無効となり、科学的完全性が侵害されます。したがって、AI は文献を見つけるために使用するのではなく、見つけた実際の文献を理解して整理するために使用します。
クエスト
AIは安全ですか？
検証
フィールドの概要
一部（要事実確認）
教科書・復習記事
特定の記事を検索/引用する
いいえ（補います）
実データベースの検索 (DOI による)
読んだ記事を要約する
はい（テキストを提供した場合）
要約と本文を比較する
テキストを翻訳する
はい
専門用語を確認する
言語/スタイルの修正
はい
意味が保たれていることを確認する
参考文献の書式設定
はい（本物の刻印あり）
各フィールドを元のソースにマッピングする
ステップバイステップ: 正直な文学と執筆のプロセス
1. 実際のデータベースから文献を検索します。査読済みデータベース (所属機関のアクセス、学術検索エンジン) から論文を検索します。各記事の DOI (デジタル オブジェクト識別子) に注目してください。 DOI は記事の信頼性を証明する最も信頼できる証拠です。
2. AI を使用して、検索した実際のテキストを理解します。あなたが持っている本物の記事をAIに与えて要約し、複雑なセクションを簡略化します。 AI に「このトピックに関する記事を見つけて」とは言わないでください。AI が見つけた記事のほとんどはでっち上げである可能性があります。
3. 各帰属を独立して検証します。 AI が出典を提案した場合、実際のデータベースで DOI またはタイトルでその引用を検索します。見つからない場合、そのソースはおそらく偽物です。使用しないでください。
4. 元の情報源から事実を確認します。 AIが「あの実験でこういう結果が出た」と言ったら、実際の論文を読んでその主張を検証します。 AI は実際の論文の結論を偽って伝えることもあります。
5. 文章の意味を維持する。 AI はテキストを合理化するため、技術的なフレーズや不確実なフレーズ (「可能性が高い」、「傾向がある」) を置き換えることができます。修正されたテキストを元の意味と比較します。
ヒント: 引用の信頼性をテストする最も確実な方法は、DOI を確認することです。 DOI アナライザーで YZ によって提供された引用の DOI を検索します。本物の記事であれば存在しますが、「見つかりません」と表示されていれば偽物である可能性が高くなります。 DOI を与えていない、または間違った DOI を与えている AI 引用を決して信頼しないでください。
ミニケース3個
ケース 1 — 参考文献内の偽の記事。学生が YZ に論文紹介用のリソースを求めました。 YZ は、有名なジャーナルの名前で、信頼できる著者による 3 つの論文を投稿しました。学生は学術データベースでタイトルを検索しましたが、3 つのうち 2 つはまったく存在しませんでした。検証がなければ、偽の情報源が論文に入り込み、論文の弁護において重大な完全性の問題が生じることになります。
ケース 2 — 正しい記事、間違った要約。研究者はAIに実際の論文を要約させましたが、本文は与えずにタイトルのみを与えました。 AIは記事を見ずに「もっともらしい要約」をでっち上げた。実際の記事を読んでみると、結果は全く逆でした。教訓: 要約は、本文が与えられ、本文と比較される場合にのみ信頼できます。
ケース 3 — 翻訳用語のエラー。教師はAIに要約を英語に翻訳させた。 AIは流暢なテキストを生成しましたが、「不確実性」の代わりに文脈に合わない単語が使用され、専門用語が誤訳されました。教師は専門用語をチェックして修正しました。翻訳はこの検査後に初めて利用可能になりました。
コピー可能な 4 つのテンプレート
1) 実際のテキストを要約すると、次のようになります。
以下は私が読んだ実際の記事の本文/要約です。主な結果、方法、制限が明確になるように単純化します。本文にない結果や数値は追加しないでください。不明な部分は「本文中で不明」とマークしてください。テキスト: [ここ]
2) 引用検証規律:
次の帰属を評価してください。この記事の信頼性を 100% 確信できない場合は、「データベース内の DOI を使用してこの帰属を確認する」ことは行わないでください。存在しない DOI または署名欄を作成しないでください。インプリント: [ここ]
3) 科学的な言語の修正 (意味の保持):
以下の科学文書の表現と流暢さを改善します。ただし、専門用語、数値、不確実性の表現 (「可能性」、「傾向」) は変更しないでください。意味はそのままにしておいてください。変更した場所にマークを付けて確認できるようにします。テキスト: [ここ]
4) 技術翻訳 + 用語管理:
次の物理学のテキストを [言語] に翻訳してください。翻訳の最後に、翻訳の正確性を確認できるよう、使用した主要な専門用語のリストと、ソースとターゲットのマッピングを提供してください。よくわからない用語にチェックを入れてください。テキスト: [ここ]
弱いプロンプト / 強いプロンプト
弱者: 「この主題に関する 5 つの学術情報源とその引用を挙げてください。」
結果: AI は本物に見えるがおそらく偽物であるドッグタグを生成します。検証せずに使用すると、科学的完全性に違反します。
ストロング: 「以下は、私が実際に読んだ論文の本文です。本文にないものは何も追加せずに、その主な発見と方法を要約し、曖昧な部分にマークを付けます。また、専門用語や曖昧な表現を変更することなく、導入段落の文言を修正してください。」
結果: 捏造がなく、意味が保たれた、実際の情報源に基づいた信頼できる作品。
よくある間違い
- AI 用のリソースを見つける。 AI は実際のデータベースではありません。それが生み出す帰属は捏造される可能性があります。実際のデータベースからソースを検索します。
- 検証せずに引用を使用する。 DOI またはタイトルによって確認されていない引用は危険です。偽のソースが作品全体を曇らせます。
- 本文を提示せずに要約を要求する。 AIは見たことのない記事を「もっともらしく」でっち上げます。要約は本文のみで信頼できます。
- 元の情報源からの事実を確認していません。 AI は実際の論文の結論を偽って伝えることさえできます。
- 翻訳・編集時に意味を確認していない。 AI は流暢さを保つために専門用語や曖昧な表現を変更する場合があります。意味は守られなければなりません。
注意: 引用に実際のジャーナル名、本物に見える著者、適切な年が含まれているからといって、その引用が存在することを意味するわけではありません。まさにこれが、捏造された帰属が信頼できる理由です。作品にソースを含める前に、必ず実際のデータベースで検索し、DOI で確認してください。検証されていない引用は学術的誠実性の侵害であり、責任は媒体ではなく完全に著者にあります。
要約すると
文学や科学論文の分野では、AI は実際のテキストの理解、要約、翻訳、言語修正を強力に促進します。しかし、引用情報の入手や生成においては危険です。信頼できるのに存在しない記事が生成されてしまいます。安全な規律は明確です。実際のデータベースから文献を検索し、AI を使用して見つけた実際のテキストを処理し、すべての引用を DOI で検証し、元の情報源からすべての事実を確認し、翻訳と編集の意味を保持します。次の単元では、この検証の分野を物理学の教育に取り入れます (教材と誤解)。
アプリケーションタスク
実際に所有している物理学の記事または教科書の章を選択してください。 1番目のテンプレートでAIにテキストを与えて要約します。要約と実際のテキストを比較し、AI が何かを追加/変更したかどうかを確認します。次に、AI に「このトピックに関する情報源を提案してください」と意図的に指示し、実際のデータベース/DOI で提案された引用を検索します。実際に何人存在するのでしょうか？ 5 ～ 6 文の注: 要約は忠実でしたか、提案された引用は不自然に見えましたか?
チェックリスト
- [ ] 私は実際のデータベースから文献を見つけました。AI に見つけさせたわけではありません。
- [ ] 原文を要約しながらYZに渡しました。
- [ ] 私は、DOI またはタイトルによって、それぞれの帰属を本物の情報源で確認しました。
- [ ] 私は元の情報源からの各事実の主張を確認しました。
- [ ] 専門用語や曖昧さがないか翻訳・編集を確認しました。
- [ ] 私の作品には未確認の出典は含まれていません。