Gewinne:
- Fähigkeit zur Klassifizierung und Anonymisierung von Studierendendaten im Rahmen von KVKK und speziellen personenbezogenen Datenkonzepten sowie zur Anwendung einer sicheren Fahrzeugauswahl
- Fähigkeit, die berufsethischen Grundsätze der PDR (Vertraulichkeit, Wohltätigkeit, Nichtschädigung, Autonomie) an den Einsatz künstlicher Intelligenz anzupassen
- Fähigkeit, Voreingenommenheit, kulturelle Unempfindlichkeit und Halluzinationen in der Ausgabe künstlicher Intelligenz zu erkennen und eine ethische Nutzungsrichtlinie zu erstellen
Vertrauen ist das Herzstück des PDR-Berufs. Wenn ein Schüler einem Spezialisten seine intimsten Gefühle, seine Familie und seine Ängste mitteilen kann, dann nur, weil er/sie glaubt, dass die Informationen geschützt werden. Werkzeuge der künstlichen Intelligenz stellen dieses Vertrauen vor eine ernsthafte neue Probe: Die sensibelsten Daten können in einem Satz außer Kontrolle geraten. In dieser Einheit diskutieren wir systematisch die Berufsethiken Datenschutz, KVKK und PDR und deren Anwendung auf den Einsatz künstlicher Intelligenz. Wir haben diese Prinzipien in den vorherigen Einheiten Stück für Stück angewendet; Hier werden wir es als Ganzes zusammenfassen und in eine dauerhafte Richtlinie umwandeln.
KVKK und Datentypen: Was ist besser geschützt?
KVKK (Gesetz zum Schutz personenbezogener Daten) ist das Gesetz, das die rechtmäßige Verarbeitung personenbezogener Daten regelt. Zwei Konzepte sind besonders wichtig. Personenbezogene Daten sind alle Informationen, die eine Person identifizieren oder identifizieren: Name, Nachname, Schulnummer, Klasse, Adresse, Foto. Besondere personenbezogene Daten sind eine Art sensibler Daten, die einen höheren Schutz erfordern: Gesundheit, Geisteszustand, Diagnose, Sexualleben, Religion, ethnische Zugehörigkeit, Strafstatus. Die meisten PDR-Datensätze fallen in diese zweite, sensible Kategorie; denn psychischer Status, familiäre Probleme und Unterstützungsgeschichte sind direkt private Daten. Das bedeutet, dass PDR-Daten niemals in ihrer Rohform in öffentliche Tools eingegeben werden sollten.
In der Praxis lässt sich dies in drei Regeln umsetzen: (1) Datenminimierung – Arbeiten Sie mit der geringsten Datenmenge, die für die Erledigung einer Aufgabe erforderlich ist. (2) Anonymisierung – Daten können nicht mehr mit der Person in Verbindung gebracht werden, indem personenbezogene Daten entfernt werden. (3) Sichere Mittel- und Zweckgrenze: Verwenden Sie nach Möglichkeit datengesicherte Unternehmenstools und verarbeiten Sie Daten nur für den Zweck, für den sie erfasst wurden.
Achtung: Es reicht nicht zu sagen „Ich habe es irgendwie anonymisiert“. Selbst wenn in einem Text ein Name weggelassen wird, kann eine eindeutige Beschreibung der Situation (eine sehr spezifische Situation bei einem einzelnen Schüler an einer kleinen Schule) die Person identifizierbar machen. Bei der Anonymisierung verallgemeinern Sie nicht nur den Namen, sondern auch die Angaben, die zusammen auf die Person hinweisen.
Anonymisierungspraxis: ein Kontrollverfahren
Bevor Sie einen Text in das Tool exportieren, gehen Sie folgendermaßen vor: (a) Entfernen Sie direkte Identifikatoren wie Vorname, Nachname, Nummer, Klassenzweig, Name des Elternteils, Adresse, Telefonnummer, Schulname. (b) Verallgemeinern Sie indirekte Deskriptoren: „ein Mittelschüler“ statt „der einzige sehbehinderte Schüler in 12-B.“ (c) Verwischen Sie Datum und Veranstaltungsdetails nach Bedarf. (d) Nachlesen: „Kann jemand, der diesen Text liest, herausfinden, wer erwähnt wird?“ Wenn die Antwort vage ist, verallgemeinern Sie sie weiter. Der authentifizierte Datensatz wird nur in das geschlossene, sichere System der Institution geschrieben; Das KI-Tool befindet sich außerhalb dieses Systems.
PDR-Berufsethik und KI
Die PDR-Berufsethik basiert auf vier Grundprinzipien, die jeweils direkt auf den Einsatz von KI anwendbar sind:
- Vertraulichkeit (Geheimhaltung): Die Daten der Studierenden sind geschützt. Voraussetzung für diesen Grundsatz ist, keine Rohdaten in die KI einzugeben, sie zu anonymisieren und ein sicheres Tool zu wählen.
- Wohltätigkeit: Alles, was getan wird, soll dem Wohl des Schülers dienen. KI wird aus Bequemlichkeitsgründen eingesetzt und nicht in einer Weise, die den Nutzen des Schülers beeinträchtigen würde.
- Schadensfreiheit: Die Priorität besteht darin, keinen Schaden anzurichten. Nicht verifizierte Ergebnisse, ungenaue Statistiken, Kennzeichnungen und der Einsatz von KI in Krisenzeiten bergen die Gefahr von Schäden; Daher ist die Überprüfung und Krisengrenze ein ethisches Gebot.
- Autonomie: Das Recht des Studierenden, seine oder ihre eigene Entscheidung zu treffen, wird geschützt. KI sollte den Schüler nicht auf ein Etikett reduzieren oder in seinem Namen Entscheidungen treffen.
Hinzu kommt die Verantwortlichkeit: Die Verantwortung für jeden verwendeten Output liegt beim Experten; „KI hat es produziert“ ist keine Verteidigung.
Voreingenommenheit, kulturelle Sensibilität und Transparenz
KI kann soziale Muster in Trainingsdaten widerspiegeln. In der PDR ist dies eine Frage der Fairness: Ergebnisse, die einen Schüler aufgrund seines Geschlechts, seiner Kultur oder seines sozioökonomischen Status stereotypisieren, untergraben die Chancengleichheit. Der Experte prüft die produzierten Inhalte auf kulturelle Sensibilität und Voreingenommenheit. Auch Transparenz: Gegebenenfalls sollte intern klargestellt werden, dass bei der Erstellung eines Materials oder Entwurfs KI eingesetzt wurde; Es sollte nicht als geheime „Magie“ verwendet werden. Im Umgang mit dem Studierenden ist Vertraulichkeit unerlässlich; Was der Student erklärt, lässt sich nicht auf ein Fahrzeug übertragen.
Schritt für Schritt: Festlegung einer KI-Nutzungsrichtlinie
- Daten klassifizieren. Trennen Sie alle Informationen, die Sie haben, in „persönlich/privat/öffentlich“.
- Fahrzeug auswählen. Das einzige sichere Unternehmenstool für sensible Daten; Arbeiten Sie anonym an der allgemeinen Gliederung.
- Befolgen Sie das Anonymisierungsverfahren. Führen Sie vor jeder Eingabe die Prüfroutine durch.
- Validierung und Bias-Prüfung. Untersuchen Sie jede Ausgabe auf Fakten und Fairness.
- Krisengrenze einhalten. Halten Sie die Krisen- und Beratungsbeziehungen aus dem Vehikel heraus.
- Übernehmen Sie Verantwortung und seien Sie transparent. Die endgültige Genehmigung obliegt dem Sachverständigen; Die Nutzung ist innerhalb der Organisation offen.
Kopierbare Vorlagen
1) Anonymisierungskontrolle:
Ihre Rolle: Datenschutz-Audit-Assistent. Listen Sie jede Aussage im Text unten auf, die die Person DIREKT oder INDIREKT identifizieren könnte (Name, Nummer, Klasse, Schule, eindeutige Situationsbeschreibung) und schlagen Sie für jede eine allgemeinere Alternative vor. Inhalt kommentieren.Text: [Text einfügen]
2) Prüfung auf Voreingenommenheit und kulturelle Sensibilität:
Überprüfen Sie das folgende PDR-Material auf Voreingenommenheit und kulturelle Sensibilität: Enthält es Stereotypen über Geschlecht, Kultur, sozioökonomischen Status oder Familienstruktur? Wer kann ausschließen? Markieren Sie riskante Aussagen und schlagen Sie inklusive Alternativen vor.Material: [Material einfügen]
3) Entwurf einer Unternehmens-KI-Nutzungsrichtlinie:
Ihre Rolle: PDR-Schreibassistent. Entwerfen Sie für den Beratungsdienst eine kurze interne Richtlinie zum Einsatz von Tools der künstlichen Intelligenz. Überschriften: In welchen Berufen wird es verwendet, in welchen Berufen wird es nicht verwendet (Krise, Diagnose, Beratung), Datenanonymisierungsregel, Überprüfungspflicht, Verantwortung liegt beim Experten. Kurz und treffend.
Schwache Eingabeaufforderung / Starke Eingabeaufforderung
Schwach:
Um die Situation von Ahmet Yılmaz 8-C zusammenzufassen: Er war zu Hause Gewalt ausgesetzt.
Es gibt die sensibelsten Daten (Name, Klasse, Sonderstatus) in Rohform in das Fahrzeug ein – ein schwerwiegender Verstoß gegen KVKK und Ethik; Darüber hinaus kann es sich um eine Benachrichtigungssituation handeln (Einheit 9).
Stark:
Ihre Rolle: Assistent für die Datenschutzkontrolle. Hinweis: Ich habe den Text unten anonymisiert, bevor ich ihn an das Tool übermittelt habe. Überprüfen Sie jedoch noch einmal: Gibt es noch Details, die die Person identifizierbar machen? Text: „Ein Mittelschüler deutete an, dass er zu Hause unter Spannungen litt.“
drei Mini-Koffer
Fall 1 – Indirekte Offenlegung. Ein Experte wollte gerade einen Text in das Tool eingeben, in dem er den Namen weggelassen hatte; Aber er erkannte, dass sich die Formulierung „der einzige Schüler der Schule, der einen Rollstuhl benutzt“ direkt auf diese Person bezog. Er verallgemeinerte dies auf „einen Studenten“. Die bloße Namensgebung reichte nicht aus; Auch die Beschreibung der einzigartigen Situation war identifizierend.
Fall 2 – Bias-Korrektur. Ein Experte, der ein Karrierematerial prüfte, stellte fest, dass die KI in Ingenieursbeispielen immer männliche Namen und in Pflegeberufen weibliche Namen verwendete. Es balancierte die Proben aus und sprengte neue Maßstäbe. Diese scheinbar geringfügige Korrektur bewahrte die Fairness der an die Studierenden gesendeten Nachricht.
Fall 3 – Festlegung einer Richtlinie. Ein Beratungsdienst hat einen gemeinsamen internen Richtlinientext erstellt, um die Verwirrung zu beseitigen, die sich aus der Tatsache ergibt, dass jeder KI anders nutzt: bei welchen Aufgaben sie eingesetzt wird, nicht bei Krisen und Diagnosen, Daten werden anonymisiert, Ergebnisse werden überprüft, die Verantwortung liegt beim Experten. AI gab Entwurf; Das Team rundete den Inhalt mit seinen eigenen Werten ab. Die Unsicherheit wich einem klaren Rahmen.
Häufige Fehler
- Rohdaten eingeben. Beschreiben des Fahrzeugs mit Name/Status. Lösung: Anonymisierungsverfahren, sicheres Tool.
- Ich entferne einfach den Namen. Indirekte Identifikatoren vergessen. Lösung: Auch einzigartige Details verallgemeinern.
- Voreingenommenheit ignorieren. Übernahme stereotyper Ausgaben. Lösung: Voreingenommenheits- und Kulturaudit.
- Die Verantwortung auf das Fahrzeug übertragen. Es bedeutet „KI hat es produziert“. Lösung: Die Verantwortung liegt beim Experten.
- Missbrauch. Verarbeitung der für einen Zweck erhobenen Daten für einen anderen Zweck. Lösung: Respektieren Sie die Zweckgrenze.
Tabelle: Datentyp und KI-Regel
Datentyp
Beispiel
KI-Regel
öffentlich
Allgemeine Berufseinführung
frei verfügbar
Persönliche Daten
Name, Nummer, Klasse
Ohne Anonymisierung ist eine Eingabe nicht möglich
Daten in besonderer Qualität
Geisteszustand, Familie, Diagnose
Es kann niemals in seiner Rohform eingegeben werden.
Krisendaten
Risiko, Missbrauch, Selbstmord
Betreten Sie niemals das Fahrzeug (Einheit 9)
Zusammenfassend
Bei PDR ist Vertraulichkeit die Grundlage des Vertrauens in den Beruf und das am meisten erprobte Prinzip im KI-Zeitalter. KVKK trennt Daten in personenbezogene und private Daten; Die meisten PDR-Daten sind vertraulich und werden nicht in Rohform in das Tool eingegeben. Datenminimierung, Anonymisierung (mit direkten und indirekten Identifikatoren) und sichere Werkzeugauswahl sind die Grundregeln. Die vier Grundsätze der Berufsethik – Vertraulichkeit, Wohltätigkeit, Nichtschädigung, Autonomie – sind für den Einsatz von KI verbindlich; Die Voreingenommenheit wird kontrolliert, die Verantwortung liegt beim Experten und die Nutzung ist innerhalb der Organisation transparent.
Anwendungsaufgabe
Entwerfen Sie eine kurze „KI-Nutzungsrichtlinie“ für Ihren eigenen Beratungsdienst. Verschaffen Sie sich einen Vorsprung mit der Vorlage „Entwurf der KI-Nutzungsrichtlinie für Unternehmen“. Passen Sie es dann entsprechend der Realität Ihrer eigenen Institution an. Führen Sie außerdem einen (fiktiven) Text durch die Vorlage „Anonymisierungsprüfung“ und erfassen und verallgemeinern Sie mindestens einen indirekten Identifikator.
Checkliste
- [ ] Ich habe die mir vorliegenden Daten als persönlich / privat / öffentlich eingestuft.
- [ ] Ich habe direkte und indirekte Identifikatoren bei der Anonymisierung verallgemeinert.
- [ ] Ich habe ein sicheres/Enterprise-Tool für sensible Daten verwendet.
- [ ] Ich habe die Ausgabe auf Voreingenommenheit und kulturelle Sensibilität überprüft.
- [ ] Ich habe Verantwortung übernommen und die Nutzung transparent gehalten.