Authentifizierung, Grenzen, Datenschutz und Ethik

Gewinne:

• Versteht, dass das Modell Halluzinationen erzeugen kann und dass jede Ausgabe überprüft werden muss
• Kennt die Risiken und sicheren Alternativen der Offenlegung vertraulicher und personenbezogener Daten
• Wendet Ethik-, Urheberrechts- und Haftungsbeschränkungen beim Einsatz künstlicher Intelligenz an

Es reicht nicht aus, das Schreiben von Eingabeaufforderungen zu beherrschen; Es gilt auch zu lernen, verantwortungsvoll mit künstlicher Intelligenz umzugehen. Diese Einheit stellt die Sicherheitsebene dar, die über den technischen Fähigkeiten liegen muss. KI liefert Antworten, die schnell, überzeugend und oft genau sind; Aber manchmal produziert es mit der gleichen Sicherheit völlig falsche Informationen, kann sensible Daten gefährden und ethische Grenzen verschieben. In dieser Einheit befassen wir uns mit der Überprüfung der Ergebnisse, den Einschränkungen des Modells, der Vertraulichkeit und der ethischen Verantwortung. Ohne dieses Wissen bleiben alle anderen Techniken unvollständig.

Halluzination: Anpassung an das Modell

Eine Halluzination liegt vor, wenn das Modell unwirkliche Informationen in einer sicheren Sprache produziert. Beispiele dafür sind eine nicht vorhandene Quelle, ein falsches Datum, eine erfundene Statistik oder ein Gesetz, das nie geschrieben wurde. Warum passiert es? Denn das Modell ist nicht darauf ausgelegt, „die Wahrheit zu kennen“, sondern „die mögliche Fortsetzung zu generieren“ (denken Sie an die Logik in der ersten Einheit). Nur weil ein Satz grammatikalisch möglich ist, heißt das nicht, dass er tatsächlich wahr ist.

Die praktische Implikation davon ist klar: Jede von KI produzierte Tatsache ist eine Behauptung und keine Tatsache, bis sie unabhängig überprüft wird. Überprüfen Sie insbesondere immer:

• Zahlen und Statistiken
• Namen, Daten, Ortsnamen
• Zitate und Quellenangaben
• Rechtliche Bestimmungen, technische Standards, medizinische/finanzielle Informationen

Validierungsgewohnheit

Mit einer Prompt-Technik können Sie die Überprüfung reduzieren, aber nicht zurücksetzen. Arbeiten Sie in zwei Schichten:

1. Eingabeaufforderungsebene: Geben Sie dem Modell Einschränkungen an, z. B. „Verlassen Sie sich nur auf die von mir angegebene Quelle, fügen Sie keine Informationen hinzu, die nicht vorhanden sind. Schreiben Sie „Ich weiß nicht“, wenn Sie sich nicht sicher sind. Geben Sie die Quelle jeder Behauptung an.“ Dies verringert die Anpassung.
2. Menschliche Ebene: Überprüfen Sie jede kritische Tatsache selbst anhand der Quelle. Dieser Schritt ist nicht verhandelbar; Dies gilt insbesondere für Inhalte, die veröffentlicht werden, als Grundlage für Entscheidungen dienen oder Auswirkungen auf andere haben.

Grenzen: Was das Modell nicht gut kann

Bereich

Risiko

richtige Herangehensweise

aktuelle Ereignisse

Die Trainingsdaten sind möglicherweise veraltet

Überprüfen Sie anhand einer datierten/aktuellen Quelle

genaue Zahlen

Die Passwahrscheinlichkeit ist hoch

Überprüfen Sie es mit dem Rechner/der Quelle

Rechtlich/medizinisch/finanziell

Es besteht die Gefahr schwerer Schäden

Konsultieren Sie einen echten Experten und verlassen Sie sich nicht allein

Quelle/Zitat

Kann nicht vorhandene Ressourcen produzieren

Überprüfen Sie selbst die Echtheit der Quelle

Seltenes/Nischenthema

Oberflächlich oder ungenau

Vergleichen Sie mit Expertenwissen

Das Modell ist ein Assistent, nicht die letzte Autorität. Die Verantwortung liegt immer beim Anwender.

Datenschutz und persönliche Daten

Text, den Sie in ein öffentliches KI-Tool eingeben, unterliegt den Verarbeitungsrichtlinien dieses Tools und liegt möglicherweise außerhalb der Kontrolle Ihrer Organisation. Daher stellt die unüberlegte Eingabe vertraulicher und persönlicher Daten ein ernstes Risiko dar. Die Verarbeitung personenbezogener Daten in der Türkei wird durch das KVKK (Gesetz zum Schutz personenbezogener Daten) geregelt. Institutionen haben oft auch ihre eigenen Datenrichtlinien.

Sichere Arbeitsweisen:

• Anonymisieren/Maskieren: Schreiben Sie „Kunde“ statt echten Namen, „[Kontonummer]“ statt echte Nummer. In den meisten Fällen reicht die Angabe „Firmenkunde mit 3 Jahren Laufzeit“ aus.
• Verwenden Sie ein von der Institution genehmigtes Tool: Einige Institutionen bieten vertraglich vereinbarte/institutionelle Tools an, die keine Daten preisgeben. Verarbeiten Sie sensible Daten nur über sie.
• Geben Sie nichts preis, was nicht benötigt wird: Geben Sie keine sensiblen Details an, die für die Erledigung der Aufgabe nicht unbedingt erforderlich sind.
• Machen Sie sich mit den Richtlinien vertraut: Informieren Sie sich über die Nutzungsregeln für künstliche Intelligenz in Ihrem Unternehmen und halten Sie diese ein.

Ethik und Urheberrecht

Verantwortungsvoller Umgang endet nicht beim Datenschutz. Drei Prinzipien:

1. Transparenz: KI-generierte Inhalte angemessen würdigen, wenn der Kontext dies erfordert (z. B. wenn menschliche Arbeit erwartet wird). Vermeiden Sie betrügerische Nutzung.
2. Urheberrecht und Originalität: Die Ausgabe des Modells kann anderen Werken ähneln. Überprüfen Sie Originalität und Rechtestatus vor der kommerziellen Nutzung. Imitieren Sie nicht die Marke/Arbeit einer anderen Person.
3. Nicht böswillig: Nicht zur Erstellung von Inhalten verwenden, die irreführend, diskriminierend, manipulativ oder zielgerichtet sind. Die Leistungsfähigkeit des Tools erhöht die Verantwortung.

Vier kopierbare Vorlagen

1) Einschränkungsbegrenzende Anpassung:

Verlassen Sie sich einfach auf die unten stehende Quelle. Fügen Sie keine Informationen hinzu, die nicht in der Quelle enthalten sind. Schreiben Sie „nicht in der Quelle“, wenn Sie sich nicht sicher sind. Geben Sie neben jeder wichtigen Behauptung die Zeile an, auf der sie basiert. Quelle: [Text]

2) Verifizierungsliste extrahieren:

Listen Sie im folgenden Text alle Fakten auf (Nummer, Datum, Name, Anspruch), die überprüft werden müssen. Machen Sie kurz Vorschläge, wie ich die einzelnen Elemente überprüfen kann. Text: [Ausgabe]

3) Anonymisierung:

Maskieren Sie alle persönlichen/vertraulichen Daten im folgenden Text: Namen [PERSON], Firma [FIRMA], Nummern [NUMMER]. Geben Sie eine anonymisierte Version mit intakter Bedeutung an. Text: [Text]

4) Ethische Überprüfung:

Bewerten Sie diesen Inhalt vor der Veröffentlichung ethisch: Ist er irreführend, diskriminierend oder unfair? Markieren Sie es, wenn ja, und schlagen Sie Korrekturen vor. Inhalt: [Text]

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwach (riskant):

Finden Sie die Probleme im Vertrag von Ahmet Yılmaz (TC: ...) und vergleichen Sie sie mit dem Branchendurchschnitt.

Stark (sicher):

Die riskanten Klauseln finden Sie unten im Vertragstext. - Verwendung personenbezogener Daten; Lassen Sie die Parteien als [UNTERNEHMEN-A] und [PERSON] bezeichnen. – Verlassen Sie sich nur auf das, was im Text steht; Branchendurchschnitt zusammengestellt, schreiben Sie „Daten nicht verfügbar“. – Zeigen Sie jedes Risiko mit seinem Eintrag an.Text (anonymisiert): [Text]

Die leistungsstarke Version schützt sowohl personenbezogene Daten als auch gefälschte Branchendaten. Die Ausgabe steht zur Prüfung durch die Rechtsabteilung bereit.

Drei Mini-Hüllen

Fall 1 – Hergestellte Quelle. Ein Forscher hat drei vom Modell bereitgestellte „wissenschaftliche Quellen“ in die Präsentation eingefügt, ohne sie zu überprüfen. Zwei der Quellen waren überhaupt nicht verfügbar. Einem Kollegen ist es vor der Präsentation aufgefallen. Anschließend übernahm das Team die Regel „Suchen und öffnen Sie jede Ressource persönlich, bevor Sie sie veröffentlichen“.

Fall 2 – Vertraulichkeit. Ein Mitarbeiter hat den tatsächlichen Kundenvertrag intakt in ein öffentliches Tool eingefügt und um eine Zusammenfassung gebeten. Als das Informationssicherheitsteam der Institution dies feststellte, wurde der Prozess überprüft; Sensible Dokumente werden jetzt nur noch in dem von der Institution genehmigten Unternehmenstool verarbeitet und anonymisiert.

Fall 3 – Entscheidungsverantwortung. Ein Kleinunternehmer wollte auf der Grundlage der durch das Modell gegebenen Steuerauslegung Maßnahmen ergreifen; Der Kommentar entsprach nicht der geltenden Gesetzgebung. Der Fehler wurde entdeckt, als er seinen Finanzberater konsultierte. Die Lektion ist klar: Die KI bereitet vor, der Experte und der Mensch entscheiden.

Tipp: Machen Sie es sich zur Gewohnheit, eine Tatsache als „nicht bestätigt“ zu markieren. Setzen Sie bei jeder Nummer und Quelle in der Ausgabe ein Häkchen, bis Sie es bestätigen; Diese einfache Disziplin verhindert, dass sich Fehlinformationen stillschweigend verbreiten.

Achtung: „KI hat es gesagt“ ist keine Entschuldigung. Sie sind für alle Inhalte verantwortlich, die Sie veröffentlichen, versenden oder auf die Sie Ihre Entscheidungen stützen. Die Geschwindigkeit des Fahrzeugs entbindet Sie nicht von Ihrer Kontrollpflicht.

Häufige Fehler

• Flüssige Ausgabe als korrekt verwechseln. Überzeugende Sprache mit Beweisen für die Wahrheit verwechseln.
• Verwendung der Quelle, ohne sie zu überprüfen. Veröffentlichung einer nicht vorhandenen Quelle.
• Vertrauliche Daten eingeben, ohne nachzudenken. Einfügen sensibler Dokumente, ohne sie zu anonymisieren.
• Überlassen Sie das Fachwissen allein dem Modell. Versäumnis, rechtliche/medizinische/finanzielle Entscheidungen zu überprüfen.
• Die Verantwortung auf das Fahrzeug übertragen. Sich der Kontrolle entziehen, indem man sagt: „Die KI hat es gesagt“.

Zusammenfassend

• Von einer Halluzination spricht man, wenn das Modell selbstbewusst etwas produziert, was nicht real ist; Jede Tatsache ist eine Behauptung, bis sie überprüft wird.
• Die Verifizierung erfolgt in zweierlei Hinsicht: Prompte Einschränkungen reduzieren die Herstellung, menschliche Kontrolle erkennt sie.
• Das Modell beschränkt sich auf aktuelle, präzise rechtliche/medizinische/finanzielle Angelegenheiten; ist nicht die letzte Autorität.
• Anonymisieren Sie vertrauliche und personenbezogene Daten oder verarbeiten Sie sie nur in dem von der Institution genehmigten Tool (KVKK und Institutionsrichtlinie).
• Einhaltung ethischer, urheberrechtlicher und rechtswidriger Grundsätze; Die Verantwortung für den Inhalt liegt immer bei der Person.

Anwendungsaufgabe

Nehmen Sie einen Ausdruck, den Sie kürzlich erstellt haben, und extrahieren Sie alle darin enthaltenen Fakten (Nummer, Datum, Name, Quelle, Anspruch) als Prüfliste. Notieren Sie sich jeweils die Verifizierungsmethode und überprüfen Sie tatsächlich mindestens drei davon. Überprüfen Sie außerdem, ob in der Eingabe derselben Ausgabe vertrauliche/personenbezogene Daten enthalten sind, und anonymisieren Sie diese gegebenenfalls.

Checkliste

• [ ] Ich kann erklären, was eine Halluzination ist und warum sie auftritt.
• [ ] Ich überprüfe die sachliche Ausgabe einer unabhängigen Quelle.
• [ ] Ich anonymisiere vertrauliche/persönliche Daten oder verarbeite sie in einem sicheren Tool.
• [ ] Ich konsultiere einen echten Experten in rechtlichen/medizinischen/finanziellen Angelegenheiten.
• [ ] Ich akzeptiere, dass ich für den Inhalt verantwortlich bin.