Gewinne:
- Möglichkeit, einen sicheren KI-Fluss mit dem Prinzip der Minimierung zu etablieren, ohne sensible Daten an der Quelle zu maskieren und niemals die Kartennummer zu übermitteln
- Möglichkeit, die Maskierung mit einer separaten Authentifizierungsschicht zu steuern und Tools auszuwählen, die unternehmensfähig und DPA-fähig sind und keine Daten in Schulungen verwenden
- Fähigkeit, Tools nur für autorisierte, defensive und einvernehmliche Zwecke zu verwenden und gleichzeitig die Transparenz gegenüber dem Kunden aufrechtzuerhalten
Das Callcenter ist der Ort, an dem der intensivste personenbezogene Datenfluss des Unternehmens stattfindet. Name, Telefonnummer, Adresse, TR-ID, Bestellhistorie, Gesundheitsinformationen und sogar die Nummer der Zahlungskarte können in jedem Gespräch erwähnt werden. Sich auch nur für einen Moment zu entspannen, während diese Daten in künstlicher Intelligenz verarbeitet werden, wird sowohl zu schwerwiegenden rechtlichen Sanktionen (KVKK-Bußgelder können Millionen von Lira erreichen, DSGVO-Bußgelder können einen Prozentsatz des Umsatzes erreichen) als auch zu einem irreversiblen Verlust des Kundenvertrauens führen. Diese Einheit ist das Sicherheitsfundament, das über allen vorherigen Einheiten liegt: Egal wie intelligent ein Bot, eine Zusammenfassung, eine Analyse oder ein Assistent ist, er kann nicht verwendet werden, wenn er die Daten nicht sicher verarbeitet.
In dieser Einheit werden wir drei Hauptthemen behandeln: Datenschutz (Schutz personenbezogener Daten – KVKK/DSGVO), Zahlungssicherheit (PCI-DSS) und Maskierung/Redaktion (Verbergen sensibler Daten vor der Weitergabe an künstliche Intelligenz). Darüber hinaus legen wir im Hinblick auf die IT-Sicherheit besonderen Wert auf den ausschließlich autorisierten und defensiven Einsatz dieser Tools.
Grundbegriffe und rechtliche Rahmenbedingungen
KVKK (Gesetz zum Schutz personenbezogener Daten) regelt die Verarbeitung personenbezogener Daten in der Türkei; Die DSGVO ist das europäische Äquivalent. Nach diesen Gesetzen dürfen personenbezogene Daten nur sicher und nur dann verarbeitet werden, wenn dies für einen bestimmten, legitimen Zweck erforderlich ist. Informationen wie Gesundheit, Religion und Biometrie sind besondere personenbezogene Daten und unterliegen einem besonderen Schutz. PCI-DSS (Payment Card Industry Data Security Standard) legt fest, wie Kartendaten verarbeitet werden; Es handelt sich um eine der strengsten Regeln und verbietet die unnötige Speicherung/Übermittlung der vollständigen Kartennummer.
Einige kritische Konzepte im Kontext der künstlichen Intelligenz:
- Maskierung/Schwärzung: Verstecken/Löschen sensibler Daten (Name, Ausweis, Karte, Telefon), bevor sie an die künstliche Intelligenz weitergegeben werden. „[KUNDE]“ statt „Ahmet Yılmaz“, „[KARTE]“ statt Karte.
- Datenminimierung: Nur so viele Daten weitergeben, wie das Unternehmen benötigt. Die vollständige Adresse wird nicht in die Zusammenfassung aufgenommen, es sei denn, dies ist erforderlich.
- Datenspeicherort: In welchem Land/Server werden die Daten verarbeitet; Manche Daten dürfen nicht ins Ausland gelangen.
- Datenverarbeitungsvereinbarung (DPA): Ein Vertrag, der festlegt, wie das von Ihnen verwendete KI-Tool die Daten verarbeitet, nicht speichert und nicht im Modelltraining verwendet.
- Einwilligung und Zweck: Die notwendigen Informationen und Rechtsgrundlagen für die Verarbeitung von Gesprächsaufzeichnungen.
Achtung: Es reicht nicht aus zu sagen „Ich habe personenbezogene Daten maskiert“; Es muss überprüft werden, ob die Maskierung funktioniert. Bei der automatischen Maskierung kann es manchmal vorkommen, dass ein Name oder eine Kartennummer übersehen wird. Überprüfen Sie, indem Sie Maskierungsausgaben in Streams mit hohem Risiko testen.
Sichere Architektur: Wo und wie werden Daten verarbeitet?
Bei der Einführung von KI im Callcenter sollten folgende Sicherheitsebenen eingerichtet werden:
- Maskierung an der Quelle: Persönliche Daten/Kartendaten werden automatisch maskiert, bevor das Transkript an die KI weitergeleitet wird. Kartennummern werden niemals in Rohform in das Modell eingegeben.
- Auswahl von Unternehmenstools: Unternehmenstools, die Ihre Daten nicht im Modelltraining verwenden, DPA-signiert sind und deren Datenresidenz garantiert ist, werden bevorzugt. Kundendaten werden nicht in kostenlose, öffentlich zugängliche Tools eingegeben.
- Zugriffskontrolle: Wer darf auf welche Daten zugreifen (Audit-Log)? Unbefugter Zugriff wird verhindert.
- Speicherbegrenzung: Daten werden nur so lange wie nötig gespeichert; unnötige Datensätze werden gelöscht.
- Transparenz: Der Kunde weiß, dass sein Gespräch aufgezeichnet/verarbeitet wird und er mit dem Bot spricht.
Die folgende Tabelle vergleicht sichere und riskante Praktiken:
Betreff
Riskante Praxis
Sichere Anwendung
Fahrzeugauswahl
Kostenloses Tool für alle verfügbar
Unternehmen, DPA, nicht im Bildungsbereich verwendet
Kartendaten
Rohes Einfügen in Text
Niemals; maskiert/[KARTE]
Persönliche Daten
Teilen Sie es so wie es ist
Maskierung + Minimierung
Lagerung
Auf unbestimmte Zeit
Zweckgebunden, Löschungsrichtlinie
Zugang
alle
Autorisiert, protokolliert
Transparenz
geheime Aufnahme
Beleuchtung + Informationen
Schritt für Schritt: ein sicherer KI-Datenfluss
- Klassifizieren: Welche Datenfelder sind sensibel (TC, Karte, Gesundheit, Adresse)? Markieren Sie diese vorab.
- Maske: Wenden Sie eine automatische Maskierung an, bevor Sie zur KI wechseln. Geben Sie die Karte niemals weiter.
- Minimieren: Senden Sie nicht mehr, als für den Auftrag erforderlich ist.
- Überprüfen: Überprüfen Sie durch Stichprobenziehung, ob durch Maskierung Daten übersehen wurden.
- Vertrag und Aufbewahrung: Bestätigen Sie die DPA des Fahrzeugs, den Datenspeicherort und den Aufbewahrungszeitraum.
- Überwachen und prüfen: Protokollieren Sie den Zugriff und führen Sie regelmäßige Sicherheitsüberprüfungen durch.
Vier kopierbare Vorlagen
1) Maskierungs-(Schwärzungs-)Anfrage:
Suchen und maskieren Sie die folgenden personenbezogenen Daten im folgenden Text: Vor- und Nachname → [KUNDE], TR-ID → [IDN], Telefon → [TELEFON], Kartennummer → [KARTE], Adresse → [ADRESSE], E-Mail → [EMAIL]. Geben Sie den maskierten Text an; Listen Sie außerdem auf, wie viele und welche Arten von Daten maskiert werden. Maskieren Sie auch einen Bereich, bei dem Sie sich nicht sicher sind (sichere Seite). Text: <<...>>
2) Maskierungsüberprüfung (Leck-Scanning):
Der Text unten sollte maskiert sein. Befinden sich darin NOCH sichtbare, unmaskierte persönliche Daten/Kartendaten? (Name, Ausweis, Telefon, Karte, Adresse, E-Mail) Listen Sie auf, was Sie gefunden haben; Wenn keine vorhanden ist, sagen Sie „sauber“. Ändern Sie den Text nicht, sondern prüfen Sie ihn einfach.Text: <<maskierter Text>>
3) Kontrolle der Datenminimierung:
Überprüfen Sie für die folgende KI-Eingabeaufforderung/-Ausgabe die Felder für personenbezogene Daten, die aufgrund des Geschäftszwecks NICHT ERFORDERLICH sind. Zweck: <<zB. Anrufzusammenfassung>>.Welche Felder können extrahiert werden? Schlagen Sie eine vereinfachte Version vor, die die gleiche Aufgabe mit minimalen Daten erfüllt. Inhalt: <<...>>
4) Fahrzeug-/Compliance-Vorab-Checkliste (Registrierung):
Bevor Sie ein neues KI-Tool in einem Callcenter verwenden, erstellen Sie einen Compliance-Hinweis, indem Sie die folgenden Fragen beantworten: Werden Daten im Inland verarbeitet? - Ist es DPA-signiert? - Werden die Daten im Modelltraining verwendet? - Speicherdauer? - Werden die Kartendaten verarbeitet? PCI-DSS-Abdeckung? - Wird der Zugriff protokolliert? Markieren Sie fehlende/riskante Elemente als „Kann nicht ohne Genehmigung verwendet werden“.
Schwache Eingabeaufforderung / Starke Eingabeaufforderung
Schwache Eingabeaufforderung:
Fassen Sie diesen Anrufdatensatz zusammen: „Ahmet Yılmaz, TC 12345678901, kart5312 3456 7890 1234, Adresse Bağdat Cad No 5, hat Einspruch gegen seine Rechnung erhoben.“
Schwerwiegender Verstoß: Rohname, Personalausweis und Kartennummer gehen an ein öffentliches Tool; PCI-DSS- und KVKK-Verstoß.
Kraftvolle Aufforderung:
Fassen Sie den folgenden maskierten Anruf zusammen: „[KUNDE] wurde mit [IDN], [KARTE], [ADRESSE] verifiziert und hat Einspruch gegen seine Rechnung erhoben.“ Halten Sie die Zusammenfassung anonym; Erzeugen oder fordern Sie keine persönlichen Daten/Kartendaten an.
Unterschied: Daten maskiert, minimiert, Zusammenfassung anonym; kein Verstoß.
drei Mini-Koffer
Fall 1 – Korrekte Maskierung. In einem Versicherungszentrum wurden täglich 8.000 Anrufprotokolle analysiert. Die Transkripte wurden durch eine automatische Maskierungsschicht geleitet, bevor sie an die KI weitergeleitet wurden; Name, TR-ID-Nummer, Versicherungsnummer und Gesundheitsinformationen wurden maskiert und die Maskierungsausgabe wurde anhand täglicher Stichproben überprüft. Die Analyse behielt ihren vollen Wert, es gingen keine personenbezogenen Daten in das Modell ein. Sicherheit und Nutzen wurden gemeinsam erreicht.
Fall 2 – Verletzung der Kartendaten. Ein E-Commerce-Mitarbeiter hat Anrufaufzeichnungen mit vollständigen Kartennummern in ein öffentliches Tool hochgeladen, um Zahlungsprobleme zu analysieren. Dies verstieß gegen die grundlegendste Regel des PCI-DSS (keine Übertragung von Kartendaten an nicht autorisierte Medien); Bei der Prüfung bestand die Gefahr schwerwiegender Feststellungen und Strafen. Der richtige Weg bestand darin, die Kartendaten an der Quelle vollständig zu maskieren und nur die Information „Zahlung mit [KARTE] fehlgeschlagen“ zu analysieren.
Fall 3 – Maskierungsleck. Bei einer Bank wurden bei der automatischen Maskierung mehrere ID-Nummern in einem ungewöhnlichen Format übersehen. Glücklicherweise war der Schritt „2) Maskierungsüberprüfung wirksam, sodass die Lecks vor der Analyse erkannt und korrigiert wurden. Lektion: Maskierung allein reicht nicht aus; Authentifizierungsschicht ist erforderlich. Eine Einzelschicht ist, wie menschliches Versagen, ein Einzelpunktfehler.
Häufige Fehler
- Einfügen der Rohdaten in das Tool. Name, Ausweis, Karte und Adresse dürfen nicht unmaskiert in ein KI-Fahrzeug eingegeben werden.
- Kartendaten verarbeiten. Bei der Modelleingabe wird nie die vollständige Kartennummer eingegeben; PCI-DSS verbietet dies.
- Fahren in der Öffentlichkeit. Kundendaten werden nicht an Tools weitergegeben, die nicht über DPA verfügen und die Daten in Schulungen verwenden.
- Maskierung wird nicht überprüft. Möglicherweise fehlt die automatische Maskierung. Es muss eine Sampling-/Validierungsschicht vorhanden sein.
- Transparenz überspringen. Der Kunde muss wissen, dass die Aufzeichnung verarbeitet wird und mit dem Bot kommuniziert; Die verdeckte Verarbeitung ist sowohl unethisch als auch illegal.
- Es werden zu viele Daten gespeichert. Daten, die nach Ablauf des Zwecks aufbewahrt werden, stellen lediglich ein Risiko dar.
Achtung (Informationssicherheit): Alle Techniken in dieser Einheit gelten nur für autorisierte Verteidigungszwecke und für die Daten Ihrer eigenen Organisation. Der Einsatz von Sprachanalyse-, Spracherkennungs- und Datenverarbeitungstools zur Überwachung unbefugter Personen und zum Zugriff auf die Daten oder Aufzeichnungen anderer Personen ohne deren Zustimmung ist sowohl illegal als auch gegen die Berufsethik. Ohne Autorisierung, Zweck und Einwilligung werden keine Daten verarbeitet.
Zusammenfassend
Datenschutz, Sicherheit und Compliance; ist der nicht verhandelbare Grundstein für Callcenter-KI. KVKK/DSGVO schützt personenbezogene Daten, PCI-DSS-Zahlungskarte; Ein Verstoß gegen beides zieht schwere Sanktionen und Vertrauensverlust nach sich. Maskieren Sie sensible Daten an der Quelle, ohne sie an die KI weiterzugeben, geben Sie niemals die Kartennummer weiter, geben Sie nur so viele Daten wie nötig weiter (Minimierung), stellen Sie sicher, dass die Maskierung überprüft wird, und wählen Sie nur DPA-fähige Enterprise-Tools aus, die die Daten nicht für Schulungen verwenden. Seien Sie gegenüber dem Kunden transparent und verwenden Sie alle Tools nur mit Autorität, Fürsprache und Zustimmung.
Anwendungsaufgabe
Listen Sie 5 verschiedene Datenfelder auf, die in Ihrem Callcenter-Szenario an die KI weitergeleitet werden könnten (z. B. Name, Ausweis, Karte, Adresse, Gesundheitsinformationen) und legen Sie fest, welches Maskierungs-Tag Sie jeweils verwenden. Schreiben Sie ein imaginäres Rohtranskript und wenden Sie die Vorlagen „1) Maskierung“ und „2) Maskierungsüberprüfung an. Erstellen Sie abschließend für ein KI-Tool, das Sie kürzlich verwendet haben (oder die Verwendung in Betracht ziehen), eine Compliance-Notiz mit der Vorlage „4) Vorläufige Checkliste für Tool/Compliance“ und markieren Sie die fehlenden/riskanten Elemente.
Checkliste
- [ ] Ich maskiere sensible Daten an der Quelle (Name, ID, Telefonnummer, Adresse), ohne sie an die KI weiterzugeben.
- [ ] Im Modelleintrag (PCI-DSS) ist niemals die vollständige Kartennummer enthalten.
- [ ] Ich gebe nur so viele Daten weiter, wie der Job erfordert (Minimierung).
- [ ] Ich kontrolliere die Maskierung mit einer separaten Authentifizierungsebene.
- [ ] Ich verwende nur unternehmenseigene, DPA-fähige Tools, die keine Daten im Bildungsbereich verwenden.
- [ ] Ich bin gegenüber dem Kunden transparent hinsichtlich der Aufzeichnung/Verarbeitung und der Kommunikation mit dem Bot.
- [ ] Ich verwende Tools nur für autorisierte, defensive und einvernehmliche Zwecke.