利益:
- 機密クラス (公開/内部/機密/最高機密) に従って情報を評価し、「クラスを尋ね、ツールに一致する」という反射を適用する能力
- AI のデータ ストレージ、モデル トレーニング、収集、侵害のリスクを理解し、オープンな世界と機密の世界を分離する
- 最小限のデータ原則、個人データ保護、および不確実な情報を保護する規律を、あたかも上級クラスであるかのように採用できる能力。
外交は信頼に基づいており、信頼は秘密に基づいています。交渉上の立場、情報評価、対話者との会話の内容、あるいはまだ発表されていない決定が、悪者の手に渡れば、国家の利益、交渉の結果、さらには人々の安全さえも危険にさらす可能性があります。人工知能はこの分野に驚異的なスピードをもたらしますが、同時に新たな深刻なプライバシー リスクも伴います。この単元では、人工知能時代に機密情報を保護する方法、どのデータがどの車両に入る可能性があるか、安全な使用の規律を学びます。
この単元は、このモジュールの最も重要なセキュリティのレッスンです。ここでの 1 つの間違い、つまり機密文書を間違ったツールに貼り付けるというミスは、取り返しのつかないことになります。したがって、記憶する必要がある反射神経がここで確立されます。AI ツールにデータを与える前に、必ず次のことを尋ねてください。このデータはどのクラスに属しており、このツールはこのクラスで承認されていますか?
情報分類: 基本的な区別
外交情報は機密性に従って分類されることがよくあります。機関によって異なりますが、基本的なロジックは次のとおりです。
- 未分類/公開: すでに公開されており、一般にアクセスできる情報。例: 公式プレスリリース、公開ニュース。
- 制限付き/内部: 公開されていないが機密性が低い内部情報。
- 機密: 開示すると国家の利益を著しく損なう可能性のある情報。例：交渉上の立場、社内評価。
- 極秘: 公開すると最も深刻な損害が生じる情報。例: 機密情報、重要なセキュリティ情報。
経験則は単純です。一般公開されていない機密情報は、教育機関がそのクラスに対して承認していない AI ツールに入力されることはありません。パブリック AI サービスは、定義上、このクラスの情報については認定されていません。
ヒント: よくわからない場合は、その情報を上級者のように扱ってください。 「これはおそらくすでに知られているだろう」と言うのは危険な推測です。情報が公開されていることを 100% 確信できるまでは、機密情報であるかのように保護してください。不必要な注意はコストではなく、保証です。
AI のプライバシー リスク
AI ツールは、従来のソフトウェアとは異なるプライバシー リスクをもたらします。
1. データの処理と保存: パブリック AI サービスに書き込んだテキストは、そのサービスのサーバーで処理および保存される場合があります。誰がアクセスするか、どのくらいの期間保存されるか、どのように使用されるかを制御することはできません。
2. モデルのトレーニングでの使用: 一部のサービスでは、モデルを改善するために入力されたデータが使用される場合があります。これにより、機密情報が間接的にモデルの「メモリ」に入り、他の人に漏洩するリスクが生じます。
3. 集約リスク: 個別には無害に見える情報が、組み合わされると機密性の高い状況を形成する可能性があります。異なる時間に入力された小さな情報が集合して秘密の位置を明らかにする可能性があります。
4. アクセスと侵害のリスク: 他の外部システムと同様に、AI サービスもデータ侵害の危険にさらされる可能性があります。あなたが提供したデータは、その侵害によって漏洩する可能性があります。
これらのリスクに対する解決策は、オープンソース作業のための一般的なツールと、オープンソース作業のための一般的なツールという 2 つの異なる世界を確立することです。機密作業のデータをエクスポートしない、社内の安全な承認済みシステムのみ。決してこの 2 つを混ぜないでください。
注意: 「匿名にしました」と言うだけでは十分ではないことがよくあります。名前を削除したとしても、専門家が身元や立場を編集するにはコンテキスト (日付、場所、イベント、パーティーの数) があれば十分な場合があります。実際の機密情報はマスキングによって保護されるのではなく、適切なツールとメディアの選択によって保護されます。
安全な使用規則
実際の制御フローを設定します。
- クラスを決めます。このデータは公開、内部、機密、または最高機密ですか?
- 車両をペアリングします。このクラスはこのツールで処理できますか?そうでない場合は、停止してください。
- 最小限のデータ ポリシー。たとえ実行可能な仕事であっても、その仕事に必要以上の情報を提供しないでください。
- 個人データを保護します。個人データ (名前、連絡先、所在地) は、必要な場合にのみ法的根拠に基づいて処理されます。不要な場合はマスクされるか、まったく与えられません。
- 記録を残してください。どのジョブでどのデータを使用してどのツールを使用したかを文書化します。問題があれば追跡可能です。
ヒント: チーム内に「プライバシー最優先」の文化を確立します。新人事務員やインターンは初日から「機密文書をパブリック ドメインに入れない」という反射神経を学ぶ必要があります。違反のほとんどは悪意によるものではなく、車両がどの程度開いているかを知らなかったことに起因しています。
ミニケース3個
ケース 1 — 反射が違反を防止しました。専門家がインタビューメモを要約しようとしていたとき、彼は立ち止まってその分類を尋ねました。メモは対話者との秘密の会話でした。公開ツールではなく社内のセキュアなシステムに切り替えました。 「クラスを最初に尋ねる」という単純な反射により、侵害は阻止されました。
ケース 2 — 回収リスクが認識されている。チームは、小さな、一見「無害な」情報を別の日に外部ツールに入力します。セキュリティレビューの結果、これらの部分を組み合わせると、今後の交渉の議題が明らかになることが判明した。アプリケーションは停止されました。作業は安全な環境に移動されました。
ケース 3 — 偽の匿名性。事務官は名前を削除して文書を外部代理人に渡したため、文書を「匿名」とみなしていた。しかし、文書内の日付、場所、出来事の説明から、誰を意味しているのかは明らかでした。名前を削除するだけでは十分ではありませんでした。いずれにせよ、文書は安全な環境で処理されるべきでした。
コピー可能な 4 つのテンプレート
1) クラスと車両の事前チェック:
以下にその作業について説明します。教えてください (その仕事はしないでください): (1) このデータにはどの機密クラスがある可能性があるか (公開/内部/機密/極秘)、(2) このクラスは公開 AI ツールで処理すべきか、(3) そうでない場合、どのような種類の環境が必要か。ジョブ/データの説明: [こちら]
2) 個人データのスキャンとマスキング:
以下のテキストで処理する前にマスクする必要がある個人/機密データ (名前、役職、連絡先、場所、健康状態、ID 番号) をリストします。テキストの処理;どの部分を除去する必要があるかを教えてください。マスキングをして再送させていただきます。テキスト: [ここ]
3) 収集リスク評価:
次の情報を外部ツールに個別にエクスポートすることを検討しています: [個数]。これらは個別には無害に見えるかもしれませんが、組み合わせると機密性の高い全体像 (立場、議題、アイデンティティなど) を生み出すことができるでしょうか?収集のリスクを評価し、どのアイテムを一緒に与えるべきではないかを伝えます。
4) 公開可能性の確認:
次の情報が公開されているかどうかはわかりません: [情報]。公開とみなす前にどのような検証を行う必要があるかをリストします (公式リリースがあるか、誰が公開したか、日付)。確信が持てない場合は、「機密情報として扱う」原則を思い出してください。
弱いプロンプト / 強いプロンプト
弱いプロンプト:
このインタビューノートを要約します。 (非表示のコンテンツはノートに直接貼り付けられます)
これは最も危険な間違いです。機密文書が、その品位が問われることなく公共の媒体に入ってしまったのです。漏洩のリスクは発生しており、元に戻すことはできません。
強力なプロンプト (最初に確認してください):
会議メモを処理したい。ただし、その前に、このメモはおそらく秘密クラスにあると考えられます。このタイプの文書は公開ツールで処理できるかどうか、また正しい方法は何であるかを教えてください。私は文書の内容をあなたに提供するつもりはありません。正しいプロセスを求めているだけです。
違いは明らかです。機密内容はまったく提供されず、正しいプロセスが最初に尋ねられ、作業は適切な環境に向けられます。
クラスから車両への対応表
情報クラス
例
パブリックAI
適切な環境
公共の
プレスリリース
適切な
一般的なツール
内部/サービス固有
内なるメモ
通常はありません
社内承認済み
秘密
交渉の立場
決して
安全な機関システム
極秘
敏感な知性
決して
最高のセキュリティ
個人データ
資格情報
必要かつ合法のみ
マスク/セキュリティ保護
よくある間違い
- クラスに問い合わせずにデータを入力する。すべての仕事の前に、「これはどのクラスですか？」という反射が起こります。は必須です。
- 「それはおそらく明らかだろう」と仮定します。不確実な情報は機密として保護されます。
- 名前の削除を匿名化と間違える。コンテキストによってアイデンティティが明らかになる場合があります。
- 収集のリスクを無視します。小さな部品は組み立てる際に繊細な場合があります。
- 二つの世界を混ぜ合わせる。オープンなジョブと分類されたジョブは、別のツール/環境で実行されます。
要約すると
秘密保持は、外交 AI 使用の最も重要な制限です。このユニットのバックボーンとして、情報分類 (公開/内部/機密/最高機密)、「クラスを尋ね、車両を照合する」反射、最小限のデータ原則、個人データ保護、および収集リスクを取り上げます。オープンソース作業のための一般的なツール。機密扱いの作業には、社内の安全で承認されたシステムのみを使用してください。この 2 つを決して混同しないでください。疑わしい場合は、先輩のように情報を守りましょう。
アプリケーションタスク
自分の (または架空の) デスクから 8 つの異なるデータをリストします (一部は公開、一部は機密)。それぞれをクラスに入れて「どのツールで処理できるか」を決めます。曖昧なものは「クラスと車両の事前チェック」テンプレートで評価します。 3 つの作品を選択し、「収集リスク評価」と組み合わせた場合にセンシティブな画像を形成するかどうかを検討します。
チェックリスト
- [ ] まず、各データの感度クラスを決定しました。
- [ ] クラスが公用車に適さないデータを入力したことはありません。
- [ ] 不確かな情報は上司のように守っていました。
- [ ] 私は個人データを必要かつ合法な場合にのみ、マスクして処理します。
- [ ] 私は危険を冒して 2 つの世界を収集し、分離しました。