利益:
- 認証、ストレージ、データ常駐、サブプロセッサの軸で AI ベンダーを評価する能力
- 口頭ではなく文書や契約条項によって保証を確認する能力
- DPA とオプトアウト/削除条件を購入前のセキュリティ レビューに結び付ける機能
ほとんどの組織は独自のモデルをトレーニングしません。プロバイダーの API を使用します。これはリスクを排除するものではなく、リスクを他の人に移転するだけであり、移転するリスクを評価するのはあなたの責任です。データが送信されるサードパーティはすべて、セキュリティ境界の延長です。この単元では、AI サプライヤーを評価する方法を学びます。コンプライアンス証明書、データ処理契約 (DPA)、データ ストレージ、データの住所、および副処理者を通じて、購入前のセキュリティ レビューを実施する方法を学びます。
なぜサードパーティリスクがあるのか?
監査や侵害が発生した場合、「私たちはデータを処理していない、プロバイダーが処理した」という弁護はあなたを救うことはできません。あなたはデータ管理者です。プロバイダーはデータ処理者です。 KVKK と GDPR はこの区別を行っていますが、責任のほとんどはユーザーにあります。そのため、サプライヤーの選択は購入の決定ではなく、セキュリティの決定となります。
注意: 「大手で有名なプロバイダー」はセキュリティを保証するものではありません。保証は、署名された契約条項と検証可能な認証によって得られます。ブランドの評判のせいではありません。
評価軸
AI ベンダーを 7 つの軸で調べます。
- コンプライアンス認証: SOC 2 Type II (組織のセキュリティ管理の独立監査)、ISO/IEC 27001 (情報セキュリティ管理標準)、さらに ISO/IEC 42001 (人工知能管理システム標準) も増えています。
- データ保持: プロンプト/応答はどのくらいの期間保持されますか? ZDR (ゼロデータ保持) は提供されますか?
- トレーニングでの使用: データはモデルのトレーニングに使用されていますか? (通常、企業レベルでは「いいえ」です。)
- データの所在地: データはどの国/地域で処理および保存されますか?
- サブプロセッサ: プロバイダーは他にどのような会社を使用していますか (クラウド、モニタリング)。それらはあなたの境界の一部でもあります。
- セキュリティ機能: 暗号化 (転送中/保存時)、アクセス制御、監査ログ、イベント通知時間。
- 契約と終了: DPA はありますか?サービスが終了した場合、データは確実に削除されますか?ロックインのリスクは何ですか?
ステップバイステップ: サプライヤーのレビュー
- セキュリティ調査を送信します。上の軸を質問のリストに変えます。
- 証拠を求めてください。文書 (SOC 2 レポート、ISO 証明書、DPA ドラフト) で主張を検証します。
- データフローをマッピングします。どのデータがどこに、どのプロセスに送られるのでしょうか?
- DPAと交渉します。データ処理契約 (プロバイダーがデータを処理する方法を指定する法的文書) に署名せずに運用を開始しないでください。
- 副処理者をレビューします。チェーン全体を考えてみましょう。
- 再評価スケジュールを設定します。サプライヤーのリスクは少なくとも年に 1 回再検査する必要があります。
4 つのコピー可能なテンプレート
サプライヤーセキュリティ調査のコア:
プロバイダーに問い合わせること: 1.どのようなコンプライアンス認証を取得していますか? (SOC 2 Type II、ISO 27001/42001) レポートを共有していただけますか?2.どれくらいのリクエスト/レスポンス データが保持されますか? ZDR オプションはありますか?3.私たちのデータはモデルのトレーニングに使用されていますか? ４．契約書に書いてありますか？データはどのリージョンで処理/保存されますか?地域を選択できますか? 5.副処理者は誰ですか?変更された場合、どのように通知しますか?6.違反の場合の通知期間はどれくらいですか?7.契約終了後、データはいつどのように削除されますか?
証拠検証チェックルール：
それぞれの主張について「証拠はあるのか？」チェック:- 認証要求 -> 現在のレポート/認証番号を見たことがありますか?- ZDR/保管要求 -> 契約条項に記載されていますか?- トレーニングでの不使用 -> DPA に未公開条項はありますか?証拠のないすべての主張には「未検証」とマークを付けます。言葉による言葉を受け入れないでください。
データフロー マッピング プロンプト:
次の統合のデータ フローを抽出します。{{ シナリオ }}各ステップで、どのデータ (PII が含まれているか)、どこに送信されるか (どの会社/地域)、どのような目的で、どのくらいの量が保存されるかを指定します。企業の境界を越える各ステップとサブプロセッサをマークします。
サプライヤーリスクスコアカード:
各軸に 0 ～ 2 (0=なし、1=部分的、2=完全) のスコアを付けます:証明書、ZDR/保持、トレーニングでは使用しない、データ常駐、サブプロセッサの透明性、違反通知、終了/削除。合計が 10 未満の場合、またはいずれかの軸が 0 の場合: 「リスクが高く、運用開始」。
弱いプロンプト / 強いプロンプト
下手なアプローチ
強力なアプローチ
「大手だから安心」を前提に
証明書と DPA を文書で検証します
口頭での保証に頼る
あらゆる保証を契約条項に結び付ける
プロバイダーを確認してください
サブプロセッサチェーンも考慮してください
一度選んで忘れる
年次再評価カレンダー
ミニケース3個
ケース 1 — DPA なしで開始されたプロジェクトが中止されました。ある小売会社はすぐにアシスタントを生産現場に導入しました。その後、法務チームはプロバイダーと署名された DPA が存在しないことを発見しました。顧客データの処理中にプロジェクトは中断され、DPA が交渉され、データの所在地が EU 地域に固定された後に再開されました。
ケース 2 — サブプロセッサ チェーンが予期せぬ事態を引き起こします。医療会社が主な医療提供者を承認していました。しかし、データ フロー マッピングにより、プロバイダーが監視に第三国の企業を使用していることが判明しました。これはデータの保存場所の要件に違反していました。同社は契約に地域内滞在を追加した。
ケース 3 — スコアカードにより、安い入札が排除されました。 3 つの提案が評価されました。最も安価なプロバイダーは、認証軸で 0 (SOC 2 なし) を受け取りました。 「いずれかの軸が 0 の場合、それを運用環境に置く」というスコアカードのルールは削除されました。 22% 高価ですが完全に評価されたプロバイダーが選択され、その決定は監査のために文書化されました。
ヒント: 2 つの異なる保証を決して混同しないでください。「データは保存されない (ZDR)」と「データはトレーニングで使用されない」は別個の条項です。プロバイダーは一方を提供しても、もう一方を提供しない場合があります。契約書で両方を明確に要求してください。
よくある間違い
- セキュリティ保証としてプロバイダーの規模/ブランドを考慮します。
- 主張を文書で確認せずに口頭で信頼する。
- DPA に署名せずに本番環境に入る。
- サブプロセッサ チェーンを無視します (そこにデータが存在します)。
- ZDRと「教育に使用しない」保証は同じものだと考えています。
- サプライヤーを一度承認すると、毎年再評価されません。
要約すると
- あなたはデータ管理者です。サプライヤーの選択はセキュリティ上の決定であり、購入の決定ではありません。
- 認定、保持/ZDR、教育用途、データ保管場所、サブプロセッサー、セキュリティ機能、契約/終了の 7 つの軸で評価します。
- 各保証を文書および契約条項によって検証します。ブランドや口コミだけでは十分ではありません。
- サブプロセッサ チェーンも考慮してください。データの居住地がそこに突き刺さることがよくあります。
- DPA が署名されるまでは生産を開始せず、毎年サプライヤーを再評価してください。
アプリケーションタスク
あなたが使用している (または評価している) AI ベンダーについて上記のセキュリティ調査に記入し、「証拠はありますか?」と尋ねてください。それぞれの答えに対して。列にチェックを入れます。次に、データ フローをマッピングし、企業の境界を越える各ステップをマークします。最後に、7 つの軸にスコアを付けてリスク スコアカードを作成し、「本番環境に適しているかどうか」を尋ねます。決定の理由を書きます。
チェックリスト
- [ ] プロバイダーのコンプライアンス認証 (SOC 2 / ISO 27001) を文書化しました。
- [ ] データストレージ、ZDR、および「教育での使用禁止」条項は契約に記載されています。
- [ ] データ レジデンスの要件 (KVKK/GDPR) を満たしています。
- [ ] サブプロセッサ チェーンをマッピングして評価しました。
- [ ] 署名された DPA なしでは本番環境に入ることができませんでした。
- [ ] サプライヤーに対して年次再評価カレンダーを設定しました。