利益:
- 各情報源の存在を確認し、一次情報源にアクセスし、独立した相互確認ステップを実行することで幻覚を捉える能力
- 人文社会科学における捏造された引用や文書に対して独創性と学術的誠実性を維持する能力
- AI時代における情報源の検証と情報リテラシーのスキルをユーザーに教える能力
図書館の社会的使命の中心には、信頼できる情報という 1 つの約束があります。図書館員は、ユーザーに情報だけでなく検証済みの情報をもたらし、その情報を自分で評価する方法を教えます。人工知能の時代において、この使命はより困難であると同時により重要になっています。なぜなら、AIは非常に説得力のある方法で誤った情報を生み出すことができるからです。この単元では、幻覚の認識、ソース検証の規律、AI 時代の情報リテラシーの教育について取り上げます。
概念を定義しましょう。幻覚とは、AI が実際には存在しない情報、情報源、引用、または出来事をあたかも現実であるかのように生成することです。情報源の検証とは、情報が本物で信頼できる一次情報源に基づいていることを確認することです。情報リテラシーとは、情報を検索し、評価し、その信頼性を疑問視し、それを倫理的に使用する個人の能力です。この単元は、図書館員が自身の実践と利用者への指導の両方でこれらのスキルを強化することを目的としています。
ステップバイステップ: ソース検証規律
1. ソースを要求し、その存在を確認します。 AIが主張や引用をするとき、「これはどのソースから来たものですか？」そして、ソースが実際に独立したカタログ、データベース、または一次文書に存在することを確認します。
2. 一次ソースに移動します。最も信頼できる情報の形式は、直接の情報源です。 AI の概要や副次的なテキストで満足しないでください。可能であれば、元の文書、データ、または出版物にアクセスしてください。
3. 相互確認。重要な主張は、互いに独立した少なくとも 2 つの信頼できる情報源を使用して検証してください。リソース、特に AI リソースは 1 つだけでは十分ではありません。
4. 情報源の信頼性を評価します。誰が、いつ、どんな目的で、どんな証拠に基づいて書いたのでしょうか？最新ですか?情報が存在するからといってそれが真実であるとは限りません。情報源の性質にも疑問を呈します。
5. 不確実性を正直に表現します。情報が確認できない場合は、その旨をはっきりと伝えてください。捏造された確実性を提示するよりも、「未確認」と言う方が常に良いです。
ヒント: AI から引用や出典を取得する場合は、まず実際のカタログでタイトルと著者を検索してください。存在しないリソースはここにすぐに表示されます。この 30 秒間のチェックにより、捏造された情報源が参考文献、課題、または出版物に入力されることが防止されます。
人文社会科学における真実性と検証
人文科学と社会科学は特に幻覚のリスクに脆弱です。これらの分野では、証拠は特定の文書、日付、引用、またはコメントの出典に基づいていることがよくあります。 AI は、「あの歴史家はこう言った」や「1923 年のあの文書はこう言っている」など、非常に具体的だが完全に捏造された主張を生成する可能性があります。文学、歴史、法律の作品において、これは偽りの証拠の連鎖を意味します。
さらに、オリジナリティはこれらの分野の基本的な価値であり、テキスト、解釈、翻訳が実際に誰に属するかが重要です。 AIが作成したテキストをオリジナルの著作物として発表したり、AIが作成した「ソース」に依存したりすることは、学術的誠実さを侵害します。図書館員は、検証と、独創性と盗作の限界の両方をユーザーに教えるガイドです。
注意: AI によって生成された引用が一字一句正確であるように見え、実際の著者によるものである場合でも、その引用は捏造されている可能性があります。著者の実際の作品の中でのみ引用を見つけて、引用を検証してください。 「この作者はこう言ったかもしれない」というロジックだけでは不十分です。
ミニケース3個
ケース 1 — 生徒は検証を教えられました。ある図書館員は、学生の課題で AI から提供された 5 つのリソースを発見しました。彼らは一緒にカタログでそれを確認しました：2つの情報源が捏造されました。学生は「本物に見えるのは違う」という教訓を身をもって体験し、あらゆる情報源を確認する習慣を改めて身につけた。
ケース 2 — 捏造された歴史文書。研究者はAIから「1919年の新聞報道」を受け取りました。日付、新聞名、内容は非常に説得力がありました。図書館司書は新聞アーカイブを調べましたが、当時はそのようなニュースはありませんでした。捏造された一次情報源は記事になる前に摘発された。
ケース 3 — 引用元が間違っている。 AI は、ある有名な思想家の言葉を引用したと考えました。図書館司書は思想家の作品の中でこの言葉を探しましたが、見つかりませんでした。その言葉はどこにも言及されていませんでした。クロスチェックにより、帰属が間違っている引用の流布を防止しました。
誤報拡散の連鎖と図書館司書の役割
誤った情報は多くの場合、単一の捏造された出力から始まりますが、それだけでは終わりません。ユーザーは、AI が生成した偽のリソースを課題に配置します。割り当ては出版物になります。その出版物は他者によって引用され、繰り返し引用されることで架空の情報源が「真実」であるかのように見えます。これを帰属汚染と呼ぶことができます。誤った情報は何度も繰り返されることで正当性を獲得します。図書館司書は、この連鎖の中で最も重要なつながりに立っています。これは、システムに入る前に情報が検証される最後の管理ポイントであるためです。情報源が「多くの場所で発生する」というだけでは、それが真実であるとは限りません。同じ偽の情報が相互にコピーされることで、さまざまな場所に出現する可能性があります。したがって、相互確認は、「それが何箇所に表示されるか」ではなく、「どれだけの信頼できる情報源が相互に独立して確認するか」という質問に基づいて行う必要があります。同じ主張を繰り返す 10 個の二次資料には、単一の独立した一次資料ほどの価値はありません。図書館員は、この区別（独立性と反復を混同しないこと）を自身の検証と利用者への教育の両方の中心に据えるべきです。
注意: 検索エンジンや多くの Web ページに情報が表示されることは、その正確性を証明するものではありません。同じ間違いが情報源から情報源へとコピーされて広まった可能性があります。普及率と正確性は別のものです。確認には独立した信頼できる情報源が必要です。
コピー可能な 4 つのテンプレート
1) リソースエンティティクエリ:
以下の本文中のすべての出典と引用をリストします。それぞれについて: 著者、タイトル、年、および出版情報 (存在する場合)。確認する必要がある情報を項目ごとに抽出します。追加しないでください。テキスト: [ここ]
2) 確認可能性の評価:
以下の各主張について、検証する必要がある事実の要素 (日付、名前、番号、引用) を分離します。どのような種類のソース (カタログ、一次文書、データベース) に対して検証できるかを提案します。正確性を判断するのではなく、検証パスを示すだけです。アサーション: [ここ]
3) 溶接信頼性チェックリスト:
次の情報源の信頼性を評価します。誰が、いつ、どのような目的で書いたか、証拠はありますか、最新のものか、偏見がある可能性はありますか?私が与えた情報を信頼して、情報が欠けているところには「不明」と書いてください。出典情報：[こちら]
4) 情報リテラシー教育計画:
次のユーザー グループ (例: 学部生) を対象に、AI 時代のソース検証と幻覚に関する 20 分間の短いチュートリアルを作成します: 目的、例 3 つ、応用例 1 つ。グループ: [ここ]
弱いプロンプト / 強いプロンプト
弱いプロンプト:
信頼できる情報源を使用して、このトピックに関する要約を作成します。
「信頼できる情報源を使って」と言うと、AI は本物のように見える偽の情報源を作成するようになります。検証フックはありません。
強力なプロンプト:
あなたの役割: 情報リテラシーアシスタント。次のトピックについて要約を書きます。代わりに、ユーザーが検証する必要がある事実上の質問と、それを検証できる信頼できる情報源の種類をリストします。出典の引用を捏造しないでください。不明な箇所には「要確認」とマークを付けてください。件名: [ここ]
強力なプロンプト。答えを出すのではなく、検証への道を示すガイドとしてAIを活用し、構造的に捏造を防ぐ。
認証レイヤーテーブル
レイヤー
質問
方法
エンティティ
このソースは本物ですか?
カタログ/データベース検索
優位性
これが一番近い情報源でしょうか？
元のドキュメントへのアクセス
確認
別の情報源がこれを裏付けていますか?
独立したクロスチェック
信頼性
ソースの固さはどのくらいですか？
著者、日付、目的、証拠
正直さ
そうですか？
不確実性を明確に述べる
よくある間違い
- 納得できるものを真実だと思い込むこと。見た目が良いことは正義の証拠ではありません。
- 単一のソースで満足すること。重要な情報には独立した相互確認が必要です。
- 引用元を探していません。こうして誤って帰属された言葉が広まっていくのです。
- 不確実性を隠します。 「検証不能」は、誤った確実性よりも優れています。
- ユーザーに認証を教えていない。情報リテラシーは図書館員の使命です。
要約すると
情報源の検証と情報リテラシーは、AI 時代における図書館員の最も重要なタスクです。幻覚は説得力があるが捏造された情報を生み出し、人文科学/社会科学では特に危険です。規律は明確です。各情報源の存在を確認し、一次情報源にアクセスし、独立した照合チェックを実施し、情報源の信頼性に疑問を呈し、不確実性を正直に表明します。図書館員は、自分の業務だけでなく、利用者に教えることによって、この検証の文化を広めます。この使命には、独創性と学術的誠実さが不可欠です。
アプリケーションタスク
あなたの分野の AI から 6 つの情報源と 2 つの引用をリクエストします。実際のカタログおよび著者の実際の著作内の各引用で検索して、各情報源を確認します。捏造がどれだけあるかに注目してください。次に、「情報リテラシー指導計画」テンプレートを使用して、ユーザー グループにソース検証を説明するための 20 分間のチュートリアルを作成し、自分で見つけた実際の例を含めます。
チェックリスト
- [ ] 私は各情報源が実際に存在することを独自に検証しました。
- [ ] 可能な限り一次情報源を使用しました。
- [ ] 私は、少なくとも 2 つの独立した情報源と批判的な主張を照合しました。
- [ ] 著者の実際の作品から引用を検索して確認しました。
- [ ] 検証できない情報には「検証不能」と明記しました。