利益:
- 出所、情報源の信頼性、独立したクロスチェック手順を通じて主張を体系的に検証する能力
- 人工知能自体が幻覚、トレーニングデータの偏り、お世辞を通じて誤った情報を生成する可能性があることを理解し、その出力を特別な疑いを持って扱う能力
- 結果を明確な信頼水準ラベルでマークし、同じイベントをさまざまな観点から評価することでバイアスをテストする機能
外交は情報を使って行われ、情報の価値はその正確さに依存します。誤った情報に基づいた説明、交渉上の立場、または公式声明は、覆すことが困難な結果をもたらします。だからこそ、外交官の最も重要なスキルの 1 つは情報源の検証であり、主張の出所、信頼性、そしてそれが実際に真実であるかどうかを体系的に評価することです。この単元では、人工知能を検証に組み込む方法を学びます。ただし、AI 自体が誤った情報や偏見の源になる可能性があることを念頭に置きながら、その使用方法を学びます。
まず 3 つの概念を分離しましょう。誤った情報: 誤った情報が意図せずに広まること。偽情報: 意識的かつターゲットを絞って作成され、拡散される偽情報。偏見：情報や評価が組織的に特定の側に偏ること。外交官は 3 つすべてに注意を払う必要があり、AI は 3 つすべてにおいて助けにもなり、リスクにもなり得ます。
ステップバイステップ: 申し立てを検証する
1. 主張を明確に述べます。具体的に何を検証するのでしょうか？それを要約すると、「X 国は Y 協定から離脱した」というような、単一の明確な主張になります。あいまいな主張は検証できません。
2. 自分の原点を見つけてください。この主張は、いつ、どこで、誰によって最初に行われたのでしょうか?ほとんどの誤った情報は単一の疑わしい情報源から発生し、増幅されます。ソースに戻ります。
3. 情報源の信頼性を評価します。情報源は公式のものですか、独立したものですか、それとも偏ったものですか?彼は過去に正確な情報を提供したことがありますか?彼はこれに利害関係を持っていますか?信頼できる情報源であっても間違っている可能性があります。ただし、信頼性の低い情報源については追加の確認が必要です。
4. クロスチェック。少なくとも 2 つの独立した信頼できる情報源を使用して主張を確認してください。同じ通信社が提供する 50 のサイトは独立した情報源ではありません。
5. 内部の一貫性とコンテキストをテストします。主張は内部的に一貫していますか?それは既知の事実と矛盾しますか?文脈から切り離されていませんか?正しい文章でも、文脈を間違えると誤解を招く可能性があります。
6. 結果に信頼水準をマークします。 「検証済み」、「部分的に検証済み」、「唯一の情報源」、「検証できなかった」、「偽」などの明確なラベルを付けます。 「よくわかりません」でも結論なので正直に言うべきです。
ヒント: 主張が共鳴したり、感情的な反応を引き起こしたりするほど、その主張をより慎重に検証する必要があります。偽情報は、怒り、恐怖、または「私たちが望んでいるニュース」という感情そのものをターゲットにしています。迅速な行動を促す情報は、多くの場合、最も検証が必要な情報です。
AI自体がリスクの源である
この単元の最も重要な注意点は、AI は検証機関ではないということです。それ自体が誤った情報や偏見を生み出す可能性があります。 AI は次の 3 つの方法で誤解を招く可能性があります。
1. 幻覚: 存在しない情報源、引用、または出来事を現実のものとして提示します。 「この主張を裏付ける情報源はどこですか?」あなたが尋ねると、彼はあなたに架空のソース名を与えることさえあるかもしれません。
2. トレーニング データのバイアス: AI は、トレーニングの対象となるテキストの支配的な視点を反映します。特定の問題に関する世界の一部の見方がデータを支配している場合、AI はそのように傾く可能性があります。これは意図的なものではなく、データの反映ですが、それでも結果は偏った出力になります。
3. お調子者: AI は、ユーザーが満足するように質問に答える傾向があるかもしれません。主張を検証したい場合、それを裏付ける回答が得られる傾向があります。
したがって、AI を検証ツールとして使用します (ソースの編集、矛盾の報告、出所追跡の支援)。ただし、AI の「これは真実です」という言葉を最終的な言葉として受け取らないでください。
注意: AI にソースを検証させる場合は、AI が本物のソースを表示しているのか、それとももっともらしく見える捏造を作成しているのかを確認してください。彼が提供するすべてのソース名、リンク、引用を自分で開いて確認するまでは、それが「検証済み」であるとは考えないでください。 AI がでっち上げた情報源は、実際の情報源よりも説得力があるように見えるかもしれません。
ミニケース3個
ケース 1 — 送信元検証が保存されました。 「公式発表」のスクリーンショットがテーブルの上に落ちましたが、それは本物のように見えました。検証の結果、その機関の公式チャンネルにはそのような声明は存在しなかったことがわかりました。画像は偽物でした。出所チェックにより、ブリーフィングに虚偽の発言が入るのを防ぎました。
ケース 2 — AI で捏造されたソース。専門家がAIに統計を検証してもらいました。 YZは「この組織の2023年の報告書によれば…」と情報源を引用し、専門家の情報源に電話をかけた。そのような報告書もそのような数字もなかった。 AIが両方をでっち上げたのだ。独立した検査機関が捏造した「確認」を摘発した。
ケース 3 — バイアス オフセット。専門家は物議を醸す出来事を AI に要約させたところ、その出力が明らかに一方の側の物語に近いことに気づきました。もう一度「同じ出来事を相手の視点から要約してください」と尋ねると、まったく異なる姿が浮かび上がってきました。 2 つの結果を比較することで、報告書に一方的な枠組みが導入されることを防ぎました。
コピー可能な 4 つのテンプレート
1) クレーム検証プロトコル:
あなたの役割: 検証アナリスト。次の主張について: (1) 主張を nettek 文に要約する、(2) 私が提供した情報源の中でその主張が最初に言及された場所と時期を見つける、(3) それをサポートする独立した情報源がいくつあるか、(4) 矛盾する情報源はあるか、(5) 結果を次のタグのいずれかでマークします: 検証済み / 単一情報源 / 矛盾 / 未検証。ソースの製造。私があなたに与えるものを使ってください。主張+出典: [ここ]
2) AI バイアス テスト:
まず、次の出来事をできるだけ客観的に要約してください。次に、同じイベントを (a) 当事者 A の観点から、(b) 当事者 B の観点から別々に要約します。 3 つのバージョン間の違いをリストします。これにより、どの点が当事者の解釈であり、どの点が共通の事実であるかがわかります。事例/情報源: [ここ]
3) ソースの信頼性評価:
次の情報源を評価します: タイプ (公式/独立/偏向/匿名)、その問題への潜在的な関心、過去の信頼性に関して提供された情報、検証に必要な追加手順。ソースが間違っている可能性がある理由も書き留めてください。出典: [こちら]
4) 偽情報の危険信号:
偽情報については、以下のコンテンツをスキャンしてください。これらのフラグを探してください: 出典のない統計、感情を刺激する言葉、文脈のない画像、「急いで共有せよ」という圧力、検証不可能な権威ある言葉、一斉に調整された拡散。それぞれの結果に正当な理由を付けてください。最終的な判断をしないでください。内容：【こちら】
弱いプロンプト / 強いプロンプト
弱いプロンプト:
この主張は本当ですか?ネットで検索して教えて下さい。
AI が「真実」と言っているのは検証ではありません。彼は誤った情報源を提供したり、偏った回答や媚びた回答をしたりする可能性があります。
強力なプロンプト:
あなたの役割: 検証アナリスト。以下は主張と私が収集した情報源です。 「正しい/間違っている」なんて言わないでください。代わりに、主張の出所、独立した情報源の数、矛盾、および信頼度を示してください。私が提示した情報源を超えたり、情報源をでっち上げたりしないでください。よくわからない場合は、「人間による検証が必要」とマークしてください。主張+出典: [ここ]
違いは明らかです。「真/偽」の判断ではなく、出所、独立した確認、信頼レベルを要求することで、AI のリスクが制限されます。
検証ステータス表
ラベル
意味
レポートでの使用法
確認済み
少なくとも 2 つの独立した信頼できる情報源
ケースとしても使える
部分的に確認済み
一部確認済み
限定、解説付き
単一ソース
ソースは 1 つだけ
「クレーム」なので要確認
矛盾した
ソースが一致しません
不確実性として提示される
確認できませんでした
確認が見つかりませんでした
事実として利用されていない
間違っています
その逆が証明された
報告書の訂正として
よくある間違い
- AI が「正しい」と言ったことを検証とみなします。 AIは捏造したり、偏見を持ったり、迎合したりする可能性があります。
- AIから与えられたソースを開いて、見ずに受け入れること。捏造された情報源には説得力があるようだ。
- ニーズに合った小さな情報を確認します。感情的・適切な情報は最も確認が必要な情報です。
- 部数の多さを確証と勘違いする。同じソースからフィードを提供する何百ものサイトが単一のソースです。
- バイアスをまったくテストしていません。同じ出来事をさまざまな視点から要約すると、バランスが取れます。
要約すると
情報源の検証は外交知識の基礎であり、AI はこの作業において助けであると同時にリスクでもあります。 AI は情報源を整理し、出所の追跡と競合の報告を支援します。しかし、それ自体が幻覚、トレーニングデータの偏り、お世辞によって誤った情報を生み出す可能性があります。出所追跡、独立したクロスチェック、ソース情報の信頼性の分離、信頼レベルのタグ付け、および AI 出力に対する追加の疑念が、このユニットのバックボーンです。
アプリケーションタスク
現在物議を醸している主張を選択し、さまざまなジャンルから情報源を収集します。 「クレーム検証プロトコル」を使用して、クレームの出所と独立した検証を評価します。 「AIバイアステスト」では、同じ出来事をさまざまな視点から要約し、違いをリストアップします。 AIがリソースを与えたら、それを独自に開き、実際に存在するかどうかを確認します。
チェックリスト
- [ ] 私はその主張を単一の明確な文にまとめ、その起源を探しました。
- [ ] 私は少なくとも 2 つの独立した信頼できる情報源と照合しました。
- [ ] AI が提供するすべてのソースを独自に検証しました。
- [ ] 同じ出来事をさまざまな視点から要約することでバイアスをテストしました。
- [ ] 結果に明確な信頼レベルのラベルを付けました。