Ganancias:
- Capacidad para clasificar y anonimizar los datos de los estudiantes en el marco de KVKK y conceptos especiales de datos personales y aplicar la selección segura de vehículos.
- Capacidad de adaptar los principios de ética profesional del PDR (confidencialidad, beneficencia, no maleficencia, autonomía) al uso de la inteligencia artificial.
- Capacidad para reconocer prejuicios, insensibilidad cultural y alucinaciones en los resultados de la inteligencia artificial y crear una política de uso ético.
La confianza está en el corazón de la profesión de PDR. Si un estudiante puede contar sus sentimientos más íntimos, familiares y miedos a un especialista es sólo porque cree que la información estará protegida. Las herramientas de inteligencia artificial plantean una nueva prueba seria a esta confianza: los datos más sensibles pueden salirse de control en una frase. En esta unidad, discutimos sistemáticamente la privacidad, KVKK, la ética profesional de PDR y cómo se aplican al uso de la inteligencia artificial. Hemos aplicado estos principios pieza por pieza en unidades anteriores; Aquí lo combinaremos en su conjunto y lo convertiremos en una política permanente.
KVKK y tipos de datos: qué está más protegido
KVKK (Ley de Protección de Datos Personales) es la ley que regula el procesamiento legal de los datos de las personas. Dos conceptos son particularmente importantes. Dato personal es cualquier información que identifique o identifique a una persona: nombre, apellido, número de escuela, clase, dirección, fotografía. Los datos personales especiales son un tipo de datos sensibles que requieren mayor protección: salud, estado mental, diagnóstico, vida sexual, religión, etnia, situación penal. La mayoría de los registros PDR entran en esta segunda categoría sensible; porque el estado mental, los problemas familiares y el historial de apoyo son datos directamente privados. Esto significa que los datos del PDR nunca deben ingresarse en su forma original en herramientas públicas.
En la práctica, esto se traduce en tres reglas: (1) Minimización de datos: trabajar con la menor cantidad de datos necesarios para realizar un trabajo. (2) Anonimización: hacer que los datos no puedan vincularse al individuo eliminando información de identificación personal. (3) Medios seguros y límites de propósito: utilice herramientas empresariales seguras para los datos cuando sea posible y procese los datos solo para el propósito para el cual fueron recopilados.
Atención: No basta con decir "Lo anonimicé de alguna manera". Incluso si se omite un nombre en un texto, una descripción única de la situación (una situación muy específica de un solo estudiante en una escuela pequeña) puede hacer que la persona sea identificable. En la anonimización, generalice no sólo el nombre sino también los detalles que en conjunto indican a la persona.
Práctica de anonimización: un procedimiento de control
Antes de exportar un texto a la herramienta, siga este procedimiento: (a) Elimine identificadores directos como nombre, apellido, número, rama de clase, nombre de los padres, dirección, teléfono, nombre de la escuela. (b) Generalizar descriptores indirectos: “un estudiante de secundaria” en lugar de “el único estudiante con discapacidad visual en 12-B”. (c) Difuminar la fecha y los detalles del evento según sea necesario. (d) Post-lectura: "¿Alguien que lea este texto puede saber a quién se menciona?" Si la respuesta es vaga, generalice más. El registro autenticado se escribe únicamente en el sistema cerrado y seguro de la institución; La herramienta de IA está fuera de este sistema.
PDR ética profesional e IA
La ética profesional de PDR se basa en cuatro principios fundamentales, cada uno de los cuales se aplica directamente al uso de la IA:
- Confidencialidad (guardar secretos): La información del estudiante está protegida. Un requisito de este principio es no introducir datos sin procesar en la IA, anonimizarlos y elegir una herramienta segura.
- Beneficencia: Todo lo que se haga debe servir al bienestar del estudiante. La IA se utiliza por conveniencia, no de una manera que comprometa el beneficio del estudiante.
- No maleficencia: La prioridad es no hacer daño. Los resultados no verificados, las estadísticas inexactas, el etiquetado y el uso de IA en crisis son riesgos de daño; por lo tanto, la verificación y el límite de la crisis es un imperativo ético.
- Autonomía: Se protege el derecho del estudiante a tomar su propia decisión. La IA no debe reducir al estudiante a una etiqueta ni tomar decisiones en su nombre.
A esto se suma la rendición de cuentas: la responsabilidad de cada producto utilizado recae en el experto; "La IA lo produjo" no es una defensa.
Sesgo, sensibilidad cultural y transparencia
La IA puede reflejar patrones sociales en los datos de entrenamiento. En PDR, se trata de una cuestión de justicia: los resultados que estereotipan a un estudiante según su género, cultura o estatus socioeconómico socavan la igualdad de oportunidades. El experto comprueba el contenido producido en busca de sensibilidad y prejuicios culturales. También transparencia: cuando corresponda, debe quedar claro internamente que se utilizó IA en la preparación de un material o borrador; No debe utilizarse como una "magia" secreta. La confidencialidad es esencial en la relación con el estudiante; Lo que el estudiante explica no se traslada a un vehículo.
Paso a paso: establecer una política de uso de IA
- Clasificar datos. Separa toda la información que tengas como "personal/privada/pública".
- Seleccione vehículo. La única herramienta empresarial segura para datos confidenciales; Trabaje de forma anónima para el esquema general.
- Siga el procedimiento de anonimización. Ejecute la rutina de verificación antes de cada entrada.
- Validación y comprobación de sesgos. Examine cada resultado en busca de hechos y equidad.
- Mantener el límite de crisis. Mantener la relación de crisis y consulta fuera del vehículo.
- Asumir la responsabilidad y ser transparente. La aprobación final corresponde al experto; El uso está abierto dentro de la organización.
Plantillas copiables
1) Control de anonimización:
Su función: asistente de auditoría de privacidad. Enumere cada afirmación en el texto a continuación que podría identificar DIRECTA o INDIRECTAMENTE a la persona (nombre, número, clase, escuela, descripción única de la situación) y sugiera una alternativa más general para cada una. Comentando contenido. Texto: [pegar texto]
2) Auditoría de sesgo y sensibilidad cultural:
Verifique el siguiente material PDR para detectar prejuicios y sensibilidad cultural: ¿Contiene estereotipos sobre género, cultura, estatus socioeconómico o estructura familiar? ¿Quién puede excluir? Señale declaraciones riesgosas y sugiera alternativas inclusivas.Material: [pegar material]
3) Borrador de política corporativa de uso de IA:
Su función: asistente de redacción de PDR. Para el servicio de orientación, redactar una breve política interna sobre el uso de herramientas de inteligencia artificial. Epígrafes: en qué trabajos se utiliza, en qué trabajos no se utiliza (crisis, diagnóstico, consulta), regla de anonimización de los datos, obligación de verificación, la responsabilidad es del experto. Breve y aplicable.
Aviso débil / Aviso fuerte
Débil:
Para resumir la situación de Ahmet Yılmaz 8-C, estaba siendo objeto de violencia en su hogar.
Ingresa los datos más confidenciales (nombre, clase, estatus especial) en el vehículo en su forma original, una grave violación de la KVKK y de la ética; Además, esta puede ser una situación de notificación (unidad 9).
Fuerte:
Tu función: asistente de control de privacidad. Nota: Anonimicé el texto a continuación antes de enviarlo a la herramienta. Sin embargo, verifique nuevamente: ¿queda algún detalle que haga identificable a la persona? Texto: "Un estudiante de secundaria insinuó que estaba experimentando tensión en casa".
tres mini casos
Caso 1: Divulgación indirecta. Un experto estaba a punto de ingresar un texto en la herramienta del cual había omitido el nombre; pero se dio cuenta de que la frase "el único estudiante de la escuela que usa silla de ruedas" se refería directamente a esa persona. Generalizó esto a "un estudiante". Dar un nombre por sí solo no era suficiente; La descripción de la singular situación también fue identificativa.
Caso 2: Corrección de sesgo. Un experto que auditó un material profesional descubrió que la IA siempre usaba nombres masculinos en los ejemplos de ingeniería y nombres femeninos en las profesiones asistenciales. Equilibró las muestras y rompió el molde. Esta corrección aparentemente menor preservó la imparcialidad del mensaje enviado a los estudiantes.
Caso 3: Establecimiento de políticas. Un servicio de orientación ha creado un texto de política interna común para eliminar la confusión que surge del hecho de que cada uno utiliza la IA de forma diferente: en qué tareas se utiliza, no en crisis y diagnóstico, los datos se anonimizan, los resultados se verifican, la responsabilidad recae en el experto. AI dio borrador; El equipo finalizó el contenido con sus propios valores. La incertidumbre dio paso a un marco claro.
Errores comunes
- Ingresando datos sin procesar. Escribir al vehículo con nombre/estado. Solución: procedimiento de anonimización, herramienta segura.
- Simplemente eliminando el nombre. Olvidar identificadores indirectos. Solución: generalice también los detalles únicos.
- Ignorando el sesgo. Adoptar resultados estereotipados. Solución: auditoría de sesgos y cultura.
- Poniendo la responsabilidad en el vehículo. Significa "la IA lo produjo". Solución: la responsabilidad recae en el experto.
- Mal uso. Procesar los datos recopilados para un fin para otro fin. Solución: respetar el límite de finalidad.
Tabla: Tipo de datos y regla de IA
tipo de datos
ejemplo
regla de la IA
publico
Introducción general a la profesión.
disponible gratuitamente
datos personales
Nombre, número, clase
No se puede ingresar sin anonimización
Datos de calidad especial
Estado mental, familia, diagnóstico.
Nunca se puede ingresar en su forma original.
datos de crisis
Riesgo, abuso, suicidio.
Nunca entrar al vehículo (unidad 9)
En resumen
En PDR, la confidencialidad es la base de la confianza en la profesión y el principio más probado en la era de la IA. KVKK separa los datos en datos personales y privados; La mayoría de los datos PDR son confidenciales y no se ingresan en la herramienta en su forma original. La minimización de datos, la anonimización (con identificadores directos e indirectos) y la selección segura de herramientas son las reglas básicas. Los cuatro principios de la ética profesional (confidencialidad, beneficencia, no maleficencia y autonomía) son vinculantes para el uso de la IA; Se controla el sesgo, la responsabilidad sigue siendo del experto y el uso es transparente dentro de la organización.
Tarea de aplicación
Redacte una breve "Política de uso de IA" para su propio servicio de orientación. Empiece con ventaja con la plantilla "Borrador de política de uso de IA empresarial"; Luego ajústelo según la realidad de su propia institución. También pase un texto (ficticio) a través de la plantilla de "verificación de anonimización" y capture y generalice al menos un identificador indirecto.
lista de verificación
- [ ] He clasificado los datos que tengo como personales/privados/públicos.
- [] He generalizado identificadores directos e indirectos en anonimización.
- [] Utilicé una herramienta segura/empresarial para datos confidenciales.
- [] Revisé el resultado en busca de sesgos y sensibilidad cultural.
- [] Acepté la responsabilidad y mantuve el uso transparente.