利益:
- 幻覚が人間の領域に隠されている理由を知り、各情報源を 5 段階の検証チェーン (存在、痕跡、引用、文脈、帰属) に通すことができる
- DOI、ISBN、カタログなどの具体的なアイデンティティを使用してソースの信頼性を確認する機能。
- 人工知能による捏造を禁止し、引用と帰属の誠実さの検証を人工知能に決して委任しないという規律を理解してください。
人間的および社会的分野におけるテキストの価値は、そのテキストが基づいている情報源の信頼性と正確な転送によって決まります。文学エッセイ、論文、講義ノートはすべて、信頼できる情報源と誠実な帰属 (情報や引用を誰/どこで入手したかを示す) に依存しています。 AI はこの分野で大きな利便性をもたらしますが、同時に最大の危険も伴います。それは幻覚、つまり、存在しない情報源、引用、事実を本物のように作り出すことです。この部隊は、この危険に対する「検証装甲」の確立に専念する。
一文ルール: AI で生成された情報源、引用、日付、数字は、一次情報源または信頼できる情報源からの本人確認なしにテキストを入力することはできません。このルールは、このモジュールで最も繰り返され、柔軟性が最も低いルールです。
この分野ではなぜ幻覚がそれほど危険なのでしょうか?
AI が技術的な問題に関して間違っている場合、多くの場合それに気づかれます。しかし人間の領域では幻覚は巧みに隠蔽されます。
- 現実的な署名: AI は、実際の著者の名前と、その分野に適したタイトルおよび適切な年を組み合わせます。その結果、存在しないものの、まったく本物のように見えるソースが得られます。
- 文体に合った引用：AIは著者の文体を模倣し、その著者に属さない文章を「彼の言葉」として提示することができます。
- 近いが日付が間違っている: 作品の年は 1 年または 2 年ずれている可能性があります。これは不注意な読者を避けます。
- 帰属の混乱: アイデアを間違った人物の帰属としてしまう可能性があります。
これらはすべて、正直な意図を持って著者の文章に静かに侵入する可能性があり、捕らえられなかった場合、著者の評判と読者の信頼の両方を損なうことになります。
注意: AI にとってリソースが「現実的」に見えるからといって、それが現実であるとは限りません。リアリズムと現実は別のものです。 AI は前者については達人ですが、後者については保証できません。
検証アーマー: ステップバイステップ
それぞれの情報源と引用について、次のチェーンに従います。
- ありますか？図書館カタログ、信頼できるデータベース、または出版社のサイトで情報源を検索します。見つからない場合は存在しないので、使用しないでください。
- 刻印は正しいですか？著者、タイトル、出版社/雑誌、年、ページ - すべてが正確に一致する必要があります。
- その見積もりは本当ですか？指定されたページのソース自体で引用を見つけて、逐語的に比較します。
- 文脈は正しいですか?この引用は文字通りに使用されていますか、それとも歪められていますか?
- 帰属は誠実ですか?アイデアは適切な人物によるものですか、二次情報源から取得したものは一次情報源として描写されていますか?
この連鎖のリンクが 1 つでも切れると、原文に入ることができなくなります。
ヒント: 最初から AI に次のように指示します。「存在するかどうかわからない情報源は出さないでください。確信がない場合は、『情報源が見つかりませんでした』と言ってください。」これで幻覚が完全に終わるわけではありませんが、AIは補う代わりに「分からない」と言うようになります。
引用と引用の規律
検証とともに、誠実な帰属も規律のひとつです。
- 引用符とページを使用して直接見積もりを提供します。文字通りにしましょう。
- また、間接引用 (自分の言葉で要約) を出典にリンクします。アイデアがあなたのものではない場合は、帰属が必要です。
- 組織のルールに従って AI への貢献を明確に表明します。 AIは「資源」ではありませんが、使用する場合は申告が必要です。
- 二次情報源を一次情報源として描写しないでください。別の本から著者から引用した場合は、その旨を明記してください。
ミニケース3個
ケース 1 — 5 つの情報源のうち 2 つは架空のものであることが判明しました。研究者は、AI によって提供された 5 つの情報源の検証プロセスを実行しました。 2 つはカタログにまったく載っておらず、1 つは年式が間違っており、2 つは本物で正しいものでした。検証された 2 つだけが使用されました。記事は架空の帰属から保護されています。
ケース 2 — 引用符の歪みが検出されました。ある学生は、実際の本の中で AI からの引用を見つけましたが、その引用は元の文脈ではまったく逆の意味でした。 AI はその文を文脈から切り離してしまいました。学生は正しい文脈で引用を修正しました。
ケース 3 — 間違った帰属を修正しました。ある講義ノートでは、AI は意見を間違った著者によるものだとしました。教師が 2 つの信頼できる情報源と照合したところ、正当な所有者を見つけて修正しました。そのメモは学生にとって間違いなく残りました。
コピー可能な 4 つのテンプレート
1) 製造禁止命令:
今後は、存在するかどうかわからない出典、引用、日付、数字を作成しないでください。よくわからない場合は、「確認が必要です」または「見つかりませんでした」と言ってください。現実的なタグは決して付けないでください。ただし、その信頼性は保証できません。すべての応答でこのルールに従ってください。
2) ソース検証ロードマップ:
以下のソースを私自身で確認してみます。このリソース (カタログ、データベース、出版社) をどこで探せばよいのか、また重要な情報は何かを教えてください。あなたはリソースが存在することを確認します。確認手順を記載するだけです。出典: [クレジットを貼り付け]
3) 引用コンテキストのチェック:
以下は引用とそれが実際に登場する段落です。引用は元の文脈で使用されていますか、それとも歪められていますか?私があなたに与えたテキストに頼ってください。コメントを追加しています。引用: [...] 元の段落: [...]
4) 帰属の整合性監査:
以下の私の文章の中で、出典が必要だが出典が明示されていない文、他の人のアイデアである可能性がある文、二次出典を一次出典として示す場所はありますか?捏造された情報源を示唆する。引用の欠落を指摘するだけです。テキスト: [テキストを貼り付け]
弱いプロンプト / 強いプロンプト
弱者: 「このトピックに関する学術情報源と引用を 5 つ挙げてください。」
グシュリュ: 「このテーマについて調べるときに、どのような情報源やキーワードを調べるべきか教えてください。存在するかどうかわからない参考文献や引用は出さないでください。確信がない場合は、『見つかりませんでした』と言ってください。後で見つけた情報源を提示します。書籍からの引用を確認します。」
強力なプロンプトは幻覚への扉を閉ざし、検証は人間に任せます。弱いプロンプトは、想像上の資源の生産を直接招きます。
検証チェーンテーブル
ステップ
質問
確認場所
エンティティ
ソースは本当に存在するのでしょうか？
カタログ・データベース
刻印
著者、年、ページは正しいですか?
出版社/出版社
引用
文中にそのまま記載されていますか？
ソースそのもの
コンテキスト
意味が歪んでるのかな？
メインパラグラフ
引用
適切な人に?
クロスチェック
永久リンクとインプリントによる検証
リソースが実際に存在するかどうかを迅速かつ確実に確認する具体的な方法があります。最新の学術出版物のほとんどには、DOI (デジタル オブジェクト識別子 - 出版物に永続的に割り当てられる不変の一意の ID。これはリンクのように機能し、出版物に直接アクセスできます) があります。ブラウザに記事の DOI を入力して実際の出版物にアクセスすると、そのソースが存在します。 DOI が見つからない場合、または DOI がまったく存在しない場合は、疑ってください。 AI によって生成された「DOI」は、多くの場合でっちあげられ、どこにも行きません。これは、想像上のソースを捉えるための最も実践的なテストの 1 つです。
ISBN (国際標準書籍番号) は、書籍に同様の識別情報を提供します。図書館カタログまたは信頼できる書籍データベースで ISBN で検索することで、書籍の信頼性を確認できます。定期刊行物については、出版社の公式ウェブサイトで雑誌名および巻数・号数情報をご確認ください。これらの具体的なアイデンティティは、「情報源は本物ですか?」という質問に対する答えです。数分以内にあなたの質問に明確に答えます。
これらの方法は検証を「在庫」ではなく「取引」に変えます。各情報源を開いて直接、カタログで、DOI で、または発行者サイトで表示すると、架空の帰属のリスクが大幅に排除されます。
ヒント: 文献目録を終了したら、「クリック ツアー」を実行します。実際に各情報源の DOI またはカタログ レコードを開きます。開かないリソースが 1 つでもあると警告になります。正しいインプリントで修正するか、リストから削除してください。
よくある間違い
- リアリズムを現実と取り違える。 AI のもっともらしいアイデンティティは、その存在を証明するものではありません。
- 情報源からの引用を確認していません。捏造または歪曲された引用が漏洩する可能性があります。
- 単一のソースから履歴を取得します。少なくとも 2 つの信頼できる情報源とクロスチェックしてください。
- セカンダリをプライマリのように見せる。伝達経路を正直に述べてください。
- 出典としてAIを挙げています。 AI はリソースではありません。その使用が宣言されている場合は、一次情報源への参照が行われます。
要約すれば
人文科学における誠実さは、出典と引用の正確さに依存します。 AI の最大の危険は、現実的に見えても存在しない出典や引用を生成してしまうことです。各ソースと引用を 5 段階の検証チェーン (エンティティ、クレジット、引用、コンテキスト、帰属) に渡します。 AIによる捏造を最初から禁止し、AIに検証を委任することは決してない。この規律は、この職業におけるあなたの信頼性を保証します。
アプリケーションタスク
AI にトピックに関するいくつかの情報源と引用を提案してみてください。検証チェーンを通じて各ソースを実行します。実際に存在するものがいくつあるか、出典が正しいものがどれだけあるか、引用が実際にソースに含まれているか、などです。結果を表に書きます。この経験は、この分野におけるAIの限界を具体的に示すことになるだろう。
チェックリスト
- [ ] カタログ内の各資料の存在を確認しました。
- [ ] 私は各引用を元の情報源から逐語的に確認しました。
- [ ] 引用の文脈が歪曲されていないことを確認しました。
- [ ] 少なくとも 2 つの情報源と日付を照合しました。
- [ ] 私は AI の捏造を禁止し、AI に検証を委任しませんでした。