利益:
- ソースで機密データをマスキングしたり、カード番号を送信したりすることなく、最小化の原則に基づいて安全な AI フローを確立する機能
- 個別の認証レイヤーでマスキングを制御し、エンタープライズで DPA 対応でトレーニングにデータを使用しないツールを選択する機能
- 顧客との透明性を維持しながら、承認された、防御的および同意の目的にのみツールを使用する機能
コールセンターは、組織内で最も激しい個人データの流れが発生する場所です。名前、電話番号、住所、TR ID、注文履歴、健康情報、さらには支払いカード番号さえもあらゆる会話で言及される可能性があります。このデータを人工知能に処理している間、たとえ一瞬でも気を緩めると、深刻な法的制裁（KVKKの罰金は数百万リラに達する可能性があり、GDPRの罰金は売上高の何パーセントに達する可能性があります）と顧客の信頼の取り返しのつかない損失の両方につながる可能性があります。このユニットは、これまでのすべてのユニットの上に位置するセキュリティ基盤です。ボット、要約、分析、またはアシスタントがどれほど賢くても、データを安全に処理できなければ使用できません。
この単元では、データ プライバシー (個人データの保護 - KVKK/GDPR)、支払いセキュリティ (PCI-DSS)、およびマスキング/秘匿化 (人工知能に渡す前に機密データを隠す) という 3 つの主要トピックを取り上げます。さらに、IT セキュリティの観点から、これらのツールは許可された防御的な使用のみを行うことを強調します。
基本的な概念と法的枠組み
KVKK (個人データ保護法) は、トゥルキエにおける個人データの処理を規制しています。 GDPR は欧州版に相当します。これらの法律によれば、個人データは、特定の正当な目的のために必要な場合にのみ安全に処理できます。健康、宗教、生体認証などの情報は特別な個人データであり、特別に保護されています。 PCI-DSS (Payment Card Industry Data Security Standard) は、カード データの処理方法を決定します。これは最も厳格なルールの 1 つであり、完全なカード番号の不必要な保管/送信を禁止します。
人工知能の文脈におけるいくつかの重要な概念:
- マスキング/編集: 機密データ (名前、ID、カード、電話) を人工知能に渡す前に非表示/削除します。 「Ahmet Yılmaz」の代わりに「[CUSTOMER]」、カードの代わりに「[CARD]」。
- データの最小化: ビジネスに必要な量のデータのみを共有します。必須でない限り、概要に完全な住所を含めないでください。
- データの所在地: データが処理される国/サーバー。一部のデータは海外に持ち出すことができません。
- データ処理契約 (DPA): 使用する AI ツールがデータをどのように処理し、保存せず、モデルのトレーニングに使用しないかを指定する契約。
- 同意と目的: 会話録音の処理に必要な情報と法的根拠。
注意: 「個人データをマスキングした」と言うだけでは十分ではありません。マスキングが機能していることを確認する必要があります。自動マスキングにより、名前やカード番号が見逃される場合があります。高リスクストリームのマスキング出力をサンプリングして検査します。
安全なアーキテクチャ: データをどこでどのように処理するか?
AI をコールセンターに導入する場合、次のセキュリティ層を確立する必要があります。
- ソースでのマスキング: 個人/カード データは、トランスクリプトが AI に送られる前に自動的にマスキングされます。カード番号がそのままの形式でモデルに入力されることはありません。
- 企業ツールの選択: モデルのトレーニングにデータを使用せず、DPA 署名があり、データの所在地が保証されている企業ツールが推奨されます。顧客データは、無料で公開されているツールには入力されません。
- アクセス制御: 記録されるデータ (監査ログ) に誰がアクセスできるか。不正なアクセスは防止されます。
- ストレージ制限: データは必要な期間だけ保存されます。不要なレコードは削除されます。
- 透明性: 顧客は、自分の会話が記録/処理されていること、およびボットと話していることを知っています。
次の表は、安全な実践と危険な実践を比較しています。
件名
危険な行為
安全なアプリケーション
車両の選択
誰でも利用できる無料ツール
企業、DPA、教育では使用されない
カードデータ
テキストへの生の貼り付け
決して。マスク/[カード]
個人データ
そのままシェア
マスキング + 最小化
ストレージ
無期限に
目的限定、削除ポリシーあり
アクセス
みんな
承認済み、記録済み
透明性
秘密の録音
照明＋情報
ステップバイステップ: AI による安全なデータ フロー
- 分類: どのデータ フィールドが機密ですか (TC、カード、健康状態、住所)?事前にこれらにマークを付けてください。
- マスク: AI に進む前に自動マスキングを適用します。カードを転送しないでください。
- 最小化: ジョブに必要以上のデータを送信しないでください。
- 検証: マスキングによって欠落したデータがないかサンプリングによって確認します。
- 契約と保持: 車両の DPA、データの保存期間、および保持期間を確認します。
- 監視と監査: アクセスをログに記録し、定期的なセキュリティ監査を実施します。
コピー可能な 4 つのテンプレート
1) マスキング (編集) リクエスト:
以下のテキスト内で次の個人データを見つけてマスクします: 名前-姓 → [顧客]、TR ID → [IDN]、電話番号 → [PHONE]、カード番号 → [CARD]、住所 → [ADDRESS]、電子メール → [EMAIL]。マスクされたテキストを入力します。また、マスクされるデータの数と種類もリストします。また、不明な領域 (安全側) をマスクします。テキスト: <<...>>
2) マスキング検証 (リークスキャン):
以下のテキストはマスクする必要があります。目に見えるマスクされていない個人データやカードデータがまだ内部に残っていますか? (名前、ID、電話番号、カード、住所、電子メール) 見つけたものをリストします。何もない場合は、「クリーン」と言います。テキストは変更せず、検査するだけです。テキスト: <<マスクされたテキスト>>
3) データ最小化制御:
次の AI プロンプト/出力については、ビジネス目的に基づいて必須ではない個人データ フィールドを確認してください。目的: <<例:電話概要>>.どのフィールドを抽出できますか?最小限のデータで同じジョブを実行する簡略化されたバージョンを提案します。内容: <<...>>
4) 車両/コンプライアンスの事前チェックリスト (登録):
コールセンターで新しい AI ツールを使用する前に、次の質問に答えてコンプライアンスに関するメモを作成してください。 - データは国内で処理されていますか? - DPA に署名されていますか? - データはモデルのトレーニングに使用されますか? - 保管期間は？ - カードのデータは処理されていますか? PCI-DSS の適用範囲? - アクセスは記録されますか?不足しているアイテムや危険なアイテムには「承認なしでは使用できません」とマークを付けます。
弱いプロンプト / 強いプロンプト
弱いプロンプト:
この通話記録を要約します。「Ahmet Yılmaz、TC 12345678901、kart5312 3456 7890 1234、住所 Bağdat Cad No 5、彼の請求書に異議を唱えました。」
重大な違反: 生の名前、ID、カード番号が公開ツールに送られます。 PCI-DSS および KVKK 違反。
強力なプロンプト:
次のマスクされた通話を要約します。「[顧客] は [IDN]、[カード]、[住所] で確認され、請求書に異議を唱えました。」概要は匿名にしてください。個人データやカードデータを生成したり要求したりしないでください。
違い: データはマスクされ、最小化され、概要は匿名になります。違反はありません。
ミニケース3個
ケース 1 — 正しいマスキング。保険センターでは、毎日 8,000 件の通話記録が分析されました。トランスクリプトは、AI に送られる前に自動マスキング レイヤーを通過しました。名前、TR ID 番号、保険契約番号、健康情報がマスキングされ、マスキング出力が毎日のサンプリングで検査されました。分析ではすべての価値が保持され、個人データが生のままモデルに入力されることはありませんでした。安心とメリットを両立しました。
ケース 2 — カードデータの侵害。電子商取引の従業員は、支払いの問題を分析するために、完全なカード番号を含む通話録音を公開ツールにアップロードしました。これは、PCI-DSS の最も基本的なルール (カード データを未承認のメディアに送信しない) に違反しました。監査中に重大な発見があり、罰則が科せられるリスクがありました。正しい方法は、ソースでカード データを完全にマスクし、「[CARD] での支払いに失敗しました」情報のみを分析することでした。
ケース 3 — マスキング漏れ。ある銀行では、自動マスキングにより、通常とは異なる形式で書かれたいくつかの ID 番号が見落とされました。幸いなことに、「2) マスキング検証」ステップが有効であったため、分析前にリークが検出され、修正されました。教訓: マスキングだけでは十分ではありません。認証層が必要です。単一レイヤーは、人的エラーと同様、単一点障害です。
よくある間違い
- 生データをツールに貼り付けます。名前、ID、カード、住所をマスクせずに AI 車両に入力してはなりません。
- カードデータを処理します。完全なカード番号がモデル入力に入力されることはありません。 PCI-DSS ではこれを禁止しています。
- 公共の場での運転。 DPA を持たないツールには顧客データが提供されず、トレーニングでデータが使用されます。
- マスキングを検証していません。自動マスキングが見逃される可能性があります。サンプリング/検証レイヤーが必要です。
- 透明度をスキップします。顧客は、録音が処理されてボットと会話していることを認識する必要があります。秘密処理は非倫理的かつ違法です。
- 保存するデータが多すぎます。目的が終わっても保管されるデータはリスクでしかありません。
注意 (情報セキュリティ): この単元のすべてのテクニックは、許可された防御目的および組織のデータに対してのみ有効です。音声分析、音声認識、およびデータ処理ツールを使用して権限のない人物を監視したり、同意なしに他人のデータや記録にアクセスしたりすることは違法であり、職業倫理に反します。許可、目的、同意なしにデータが処理されることはありません。
要約すると
データのプライバシー、セキュリティ、コンプライアンス。はコールセンター AI の譲れない根拠です。 KVKK/GDPR は個人データ、PCI-DSS 支払いカードを保護します。いずれかに違反すると、厳しい制裁が科せられ、信頼が失われます。機密データは AI に渡さずにソースでマスクし、カード番号は決して渡さず、必要な量のデータのみを共有し (最小化)、必ずマスキングを検証し、データをトレーニングに使用しないエンタープライズ DPA 対応ツールのみを選択します。顧客に対して透明性を保ち、すべてのツールは権限、擁護、同意がある場合にのみ使用してください。
アプリケーションタスク
コールセンターのシナリオで AI に送信される可能性のある 5 つの異なるデータ フィールド (名前、ID、カード、住所、健康情報など) をリストし、それぞれにどのマスキング タグを使用するかを決定します。架空の生のトランスクリプトを作成し、「1) マスキング」および「2) マスキング検証」テンプレートを適用します。最後に、最近使用した (または使用を検討している) AI ツールについて、「4) ツール/コンプライアンスの事前チェックリスト」テンプレートを使用してコンプライアンスメモを作成し、不足している項目またはリスクのある項目にマークを付けます。
チェックリスト
- [ ] 機密データ (名前、ID、電話番号、住所) を AI に渡さずに送信元でマスクします。
- [ ] 完全なカード番号がモデル エントリ (PCI-DSS) に含まれることはありません。
- [ ] ジョブに必要な量のデータのみを共有します (最小化)。
- [ ] 別の認証レイヤーでマスキングを制御します。
- [ ] 私は、教育でデータを使用しない、企業向けの DPA 対応ツールのみを使用しています。
- [ ] 私は、ボットとの録音/処理および会話について顧客に対して透明性を持っています。
- [ ] 私は、承認された、防御的、および同意の目的でのみツールを使用します。