KVKK, Privacidad y Gobernanza Pública Responsable de la Inteligencia Artificial

Ganancias:

• Aplica los principios de KVKK y la minimización de datos al procesar datos personales de ciudadanos en herramientas de inteligencia artificial.
• Establece un marco de gobernanza para una organización que incluye una política de uso de IA, un seguimiento de auditoría y una cadena de responsabilidad.
• Sostiene de manera integral que la IA pública responsable se basa en la supervisión humana, la transparencia y la rendición de cuentas.

A lo largo de este módulo, vimos cómo la IA es un poderoso acelerador en público: respuesta a preguntas, peticiones y correspondencia de los ciudadanos, investigación legislativa, análisis de políticas, informes, toma de decisiones basada en datos, gobierno electrónico y transparencia. Ahora llegamos al marco que lo mantiene todo unido: protección de datos personales y gobernanza responsable. Público, por su naturaleza, trata los datos más sensibles del ciudadano: identidad, domicilio, ingresos, salud, antecedentes penales, situación familiar. El procesamiento de estos datos con herramientas de inteligencia artificial debe cumplir plenamente con el marco de la KVKK (Ley de Protección de Datos Personales N° 6698; la ley que regula el procesamiento legal, limitado y seguro de datos personales). En esta unidad final, estableceremos la columna vertebral de la privacidad y la gobernanza del uso público de la IA: qué datos se pueden proporcionar a qué herramienta, qué políticas se aplican, quién es responsable, cómo una organización gestiona la IA de forma segura. Esta unidad es el techo colocado sobre las diez unidades anteriores.

Principios básicos de KVKK sobre la IA pública

KVKK establece varios principios básicos, cada uno de los cuales limita directamente el uso de la IA:

• Cumplimiento de la ley y cumplimiento de la finalidad: Los datos personales se procesan únicamente para una finalidad específica y legítima. Los datos recopilados para un propósito (por ejemplo, solicitar ayuda) no se pueden utilizar para otro propósito (por ejemplo, entrenar un modelo) sin permiso.
• Minimización de datos: No se tratan más datos de los necesarios para la finalidad. Si no se requiere un nombre para un análisis de categoría, no se proporciona ningún nombre.
• Seguridad: Los datos están protegidos contra el acceso no autorizado. Pegar datos de ciudadanos en una herramienta pública de inteligencia artificial es sacar esos datos de la organización; es una violación de la política de seguridad.
• Plazo de conservación: Los datos se suprimen cuando finaliza la finalidad; No se conserva indefinidamente.
• Información y derechos: Los ciudadanos tienen derecho a conocer cómo se tratan, rectifican, suprimen sus datos y a oponerse a decisiones automatizadas.

Atención: Cargar los datos de un ciudadano en una herramienta pública de inteligencia artificial que la institución no ha aprobado, dónde se almacenan los datos y quién tiene acceso a ellos no está claro, es en la mayoría de los casos una violación de la KVKK y expone a la institución a sanciones. Las reglas nunca se modifican "para facilitar el trabajo".

¿Qué datos, para qué vehículo? Modelo de tres zonas

Como regla general, divida los datos en tres regiones:

1. Rojo (nunca ingresa a vehículo público): número de cédula, salud, delincuencia, religión, etnia, datos biométricos, dirección completa, cualquier cosa que identifique a la persona. Estos se procesan únicamente en un entorno contratado/interno y que cumple con KVKK y aprobado por la institución.
2. Amarillo (cuidado, mediante enmascaramiento): Datos que pueden vincularse indirectamente a la persona. Anonimizar/agregar primero, luego procesar.
3. Verde (gratis): Información impersonal, pública, general (texto legislativo, estadísticas públicas, procedimiento general). Puede procesarlos fácilmente con IA.

Consejo: antes de darle un texto a la IA, haz la prueba de 5 segundos: "¿Hay algo en este contenido que pueda identificar a una persona?" Si la respuesta es “sí/tal vez”, use mascarilla o conduzca un vehículo aprobado. En caso de duda, considere el rojo.

Gobierno corporativo: de la persona al sistema

La IA pública responsable no puede dejarse en manos de la buena voluntad de funcionarios públicos individuales; Se requiere un marco institucional:

• Política: La institución debe tener una política de uso de la IA: qué herramientas se aprueban, qué datos se pueden ingresar, quién es el responsable.
• Lista de herramientas aprobadas: El personal debe utilizar herramientas que la institución haya evaluado y aprobado, no al azar.
• Capacitación: el personal debe conocer la disciplina de verificación y las regiones de datos (como este módulo).
• Registro y auditoría: se debe mantener un registro de auditoría de las decisiones producidas con IA.
• Responsabilidad: cada producto impulsado por IA debe tener un propietario y aprobación humanos. La responsabilidad recae en la institución y el oficial, no en el vehículo.
• Principio centrado en el ser humano: Ninguna decisión final que cree o restrinja derechos se toma sin el consentimiento humano.

tres mini casos

Caso 1: se evitó la fuga de datos rojos. Un miembro del personal estaba a punto de cargar un resumen de una lista de beneficios de salud para 1200 personas en una herramienta pública. Gracias a la política de vehículos aprobada por la agencia y a la capacitación sobre "datos rojos", se detuvo; Los datos se procesaron en un entorno interno aprobado y con campos de identidad enmascarados. Se evitó una posible violación del KVKK y la pérdida de confianza de decenas de miles de personas.

Caso 2: Uso indebido. Una unidad quería utilizar los datos recopilados para la divulgación de un plan de comunicaciones preelectoral. El delegado de protección de datos recordó el principio de cumplimiento de la finalidad: se trataba de un uso de los datos fuera de la finalidad para la que fueron recogidos y era ilícito. La solicitud fue denegada.

Caso 3: Se cerró la brecha de gobernanza. En un municipio, diferentes unidades utilizaban diferentes herramientas de IA sin control; Nadie sabía qué datos iban adónde. La agencia introdujo una política de uso de IA, una lista de vehículos aprobados y un seguimiento de auditoría; En 3 meses, el uso de vehículos no registrados disminuyó en un 90% y se creó un inventario de datos.

Cuatro plantillas copiables

1) Clasificación de la región de datos (antes de exportar al vehículo):

Su función: asesor de protección de datos. Clasifica el siguiente contenido antes de entregárselo a un agente de IA: ROJO (identifica a la persona, nunca entra en vehículo público), AMARILLO (conectable indirectamente, máscara), VERDE (no personal, gratuito). Marque las áreas rojas/amarillas una por una y dígales cómo usar la mascarilla. Cuente al sospechoso como rojo. CONTENIDO: [texto]

2) Enmascaramiento/anonimización:

Anonimizar todos los datos personales antes de procesar el siguiente texto: nombre -> [PERSONA-1], número de DNI -> [IDENTIDAD], dirección ->[DIRECCIÓN], salud/sanción -> [SENSIBLE]. Etiqueta a la misma persona. Exporte texto anónimo por separado. Nunca escriba datos reales en la salida. TEXTO: [texto]

3) Lista de verificación de cumplimiento de KVKK (para el uso de una IA):

Su función: especialista en cumplimiento de KVKK. Produzca una lista de verificación de cumplimiento para el siguiente uso de la IA: (1) el propósito del procesamiento es legítimo y específico, (2) está conectado con el propósito (¿está cambiando a otro propósito), (3) está optimizado, (4) la herramienta es segura/aprobada, (5) el período de retención es seguro, (6) están protegidos los derechos de los ciudadanos (objeción, eliminación). Marque los elementos que faltan con una bandera roja. USO: [receta]

4) Marco de políticas corporativas de IA:

Su función: experto en gobernanza de TI pública. Producir un marco de políticas de uso de IA para nuestra organización: alcance, herramientas aprobadas, zonas de datos (roja/amarilla/verde), usos prohibidos, puntos de aprobación humana, seguimiento de auditoría, responsabilidades, capacitación y notificación de violaciones. Complete cada título con 1 o 2 oraciones. INSTITUCIÓN: [unidad y puestos de trabajo típicos]

Aviso débil / Aviso fuerte

Débil: "Resuma esta lista de referencias".

Fuerte: "Su función es la de consultor de protección de datos. Primero, clasifique esta lista por región de datos (rojo/amarillo/verde) y marque todos los campos que identifican a la persona. Enmascare los campos rojo/amarillo con [PERSONA]/[IDENTIDAD]/[SENSITIVO], mantenga a la misma persona con la misma etiqueta. Solo produzca un resumen de categoría con datos agregados anonimizados; no escriba datos personales reales en el resultado. Al final, observe dónde este proceso requiere atención en términos de KVKK (propósito, almacenamiento, seguridad del vehículo) añadir."

La diferencia: el poderoso mensaje clasifica, enmascara, minimiza e integra los principios KVKK antes de procesar los datos.

Regiones de datos y regla

Región

ejemplo

regla

rojo

Número de identificación TR, salud, sanción, dirección completa

Nunca entre a un vehículo público; entorno aprobado

amarillo

Edad+barrio+ocupación, identificador indirecto

Enmascarar/agregar, luego procesar

verde

Legislación, estadísticas públicas, procedimiento general.

trabajo independiente

Errores comunes

• Exportación de datos rojos a herramienta pública. La infracción más grave; Los datos de identificación/salud/penalización no salen del entorno aprobado.
• Mal uso. Es ilegal utilizar datos recopilados para un propósito para otro propósito (formación de modelos, comunicación) sin permiso.
• Procesar demasiados datos. No mueva campos innecesarios (nombre, dirección) para este propósito; Minimizar.
• Conducir sin autorización. No está claro adónde van los datos en los vehículos que la institución no ha evaluado.
• No determinar el plazo de conservación. Los datos deberán eliminarse cuando se haya cumplido la finalidad; no debe conservarse indefinidamente.
• Poniendo la responsabilidad en el vehículo. La salida es propiedad del ser humano y está aprobada por él; "La IA lo hizo" no es una defensa.

En resumen

El marco para una IA pública responsable es la protección de datos personales y el gobierno corporativo. Los principios de KVKK (intencionalidad, minimización, seguridad, límite de retención, derechos de los ciudadanos) limitan cualquier uso de la IA. Separe los datos en zonas roja/amarilla/verde, nunca dé rojo a una herramienta pública, enmascare los datos personales, use solo herramientas aprobadas y conecte a un propietario humano con cada decisión. Política a nivel institucional, lista de vehículos aprobados, registro de capacitación e inspección; La disciplina de la verificación a nivel de persona. Por tanto, la IA sirve al público protegiendo los derechos de los ciudadanos.

Tarea de aplicación

Elija un uso real de la IA que haya hecho (o esté considerando hacer) en su unidad. Separe el contenido que procesará en rojo/amarillo/verde con la plantilla "Clasificación de regiones de datos". Aplique la plantilla "Lista de verificación de cumplimiento de KVKK" y encuentre al menos un punto faltante o riesgoso. Finalmente, redacte una política breve adecuada para su unidad con el "esqueleto de política corporativa de IA".

lista de verificación

• [] Dividí el contenido en zona roja/amarilla/verde; Conté al sospechoso como rojo.
• [ ] No proporcioné los datos rojos a la herramienta pública; Utilicé medios aprobados.
• [ ] Oculté datos personales y eliminé campos innecesarios (minimización).
• [ ] He comprobado el propósito del procesamiento, el período de almacenamiento y la seguridad del vehículo.
• [ ] He respetado los derechos de oposición/supresión de los ciudadanos.
• [] Adjunté un propietario humano y una aprobación a cada salida; Mantuve un registro de auditoría.

Examen del módulo

1. Como funcionario público, ¿cuál es la mejor pregunta prioritaria que debería hacerse antes de traspasar un trabajo a AI?

• A) ¿Qué pierde el ciudadano si esta salida es errónea? ✔
• B) ¿Qué tan rápido puede la IA hacer este trabajo?
• C) ¿Esta herramienta de IA es gratuita?
• D) ¿Otra unidad también utilizará esta salida?

Explicación: La decisión de trasladar se toma en función del daño que sufrirá el ciudadano si la salida es incorrecta. El daño se transfiere fácilmente con solo unos minutos de reescritura; Si se trata de un rechazo injusto, una sanción injusta o una pérdida de derechos, AI sólo elabora un borrador, la decisión y la verificación pertenecen al funcionario.

2. ¿Cómo se llama cuando la IA presenta como real una ley inexistente o una decisión judicial inventada?

• A) Almacenamiento en caché
• B) Triaje
• C) Anonimización
• D) Alucinación ✔

Explicación: La alucinación ocurre cuando la IA produce con confianza información que en realidad no existe (sustancia fabricada, regulación derogada, número incorrecto). En el ámbito legislativo, este es uno de los riesgos más peligrosos, ya que puede provocar la pérdida de derechos y la anulación de la actuación administrativa.

3. Un funcionario está a punto de rechazar la solicitud basándose en un artículo reglamentario señalado por YZ. ¿Cuál es el comportamiento más correcto?

• A) La IA escribe directamente el rechazo porque parece segura
• B) Haga la misma pregunta a otro vehículo de IA y obtenga confirmación
• C) Confirma el artículo del texto consolidado actual en Çözüm.gov.tr ✔
• D) Solicita verbalmente la decisión a un superior

Descripción: Los datos de entrenamiento de la IA se congelan en una fecha determinada; El artículo que muestra puede haber sido derogado o modificado. Confirmar que el artículo está en vigor y su versión final del texto consolidado actual en Çözüm.gov.tr ​​​​antes de la decisión evita un rechazo injusto y una posible demanda de anulación.

4. ¿Por qué es garantía de calidad que un chatbot ciudadano pueda decir 'No sé, te paso a un funcionario'?

• A) Mejora las estadísticas aumentando la tasa de rotación
• B) Previene la desinformación al delegar información a humanos cuando no está seguro ✔
• C) Amplía el tiempo de llamada distrayendo a los ciudadanos
• D) Permite que el chatbot reciba menos preguntas

Explicación: En público, una respuesta incorrecta y segura es mucho más costosa que una respuesta honesta; Conduce a la pérdida de derechos y a la desconfianza en la institución. La capacidad del chatbot de ceder el control al humano cuando no está seguro es un mecanismo de seguridad que previene la desinformación alucinatoria.

5. ¿Cuál es el riesgo más importante a considerar al "simplificar" la correspondencia oficial con AI?

• A) El texto es demasiado corto.
• B) Cambiar la fuente
• C) Eliminar una condición o excepción ✔
• D) Error ortográfico del nombre del destinatario

Explicación: La adaptación estilística no debe cambiar el contenido. Al simplificar, la IA a veces descarta una excepción, condición o duración. Por lo tanto, el texto simplificado siempre debe compararse con la decisión o legislación original.

6. Nombre y R.T. en un conjunto de datos. ¿Cómo se llama cuando la combinación 'barrio + año de nacimiento + tipo de discapacidad' puede revelar a una persona incluso si se ha eliminado el número de identificación?

• A) Redefinición ✔
• B) Minimización de datos
• C) Tasa de cobertura
• D) Consolidación

Explicación: La reidentificación consiste en encontrar a una persona mediante una combinación de identificadores indirectos a partir de datos que se consideran anónimos. Si se encuentra una categoría rara en una sola persona, borrar el nombre no será suficiente; Se requieren medidas adicionales, como convertir la edad en rango y combinar categorías raras.

7. ¿Cómo se llama cuando un modelo de inspección marca un vecindario que ha sido fuertemente inspeccionado en el pasado como "riesgoso" y envía más inspecciones allí, lo que empuja al modelo a ver ese vecindario como más riesgoso?

• A) Minimización de datos
• B) Alucinación
• C) Anonimización
• D) Bucle de retroalimentación ✔

Explicación: El ciclo de retroalimentación ocurre cuando la salida del modelo afecta los datos de entrenamiento posteriores, lo que refuerza el sesgo existente. La diferencia no aumenta en el riesgo real, sino en dónde se mira. La forma de protegerse es monitorear el impacto, no el resultado, y controlar la distribución grupal de las decisiones.

8. Después de que una solicitud de beneficios se trasladara completamente en línea, la cantidad de solicitudes cayó un 30 por ciento en el primer mes. ¿Cuál es la explicación más probable para esto?

• A) Las necesidades reales de los ciudadanos han disminuido
• B) Los ciudadanos sin internet y sin alfabetización digital quedaron fuera ✔
• C) Los intereses disminuyeron porque el importe de la ayuda disminuyó
• D) El sistema aprobó automáticamente todas las solicitudes.

Descripción: La brecha digital es la incapacidad de los ciudadanos sin acceso a Internet o alfabetización digital para acceder a los servicios. El número disminuye porque el grupo más necesitado, las personas mayores y los ciudadanos sin internet, no pueden postularse. La solución es dejar canales alternativos, como los puntos de referencia asistidos.

9. Si bien la tasa real de éxito en un informe anual es del 63 por ciento, el resumen ejecutivo elaborado por YZ dice que "la gran mayoría de las solicitudes fueron positivas". ¿Cuál es el comportamiento correcto?

• A) La expresión se deja como está porque es positiva.
• B) Se elimina la relación y solo se utiliza la expresión cualitativa.
• C) La expresión se reemplaza con el número real 63 por ciento ✔
• D) El resumen se elimina completamente del informe.

Explicación: La percepción positiva exagerada en el informe público pone a la institución en una situación difícil en auditorías posteriores. Cada afirmación en el resumen ejecutivo debe compararse con los datos sin procesar y se debe escribir el número real (63 por ciento); Los resúmenes de IA no se incluyen en el informe sin ser auditados.

10. Al tomar decisiones basadas en datos en el sector público, si el 'número de expedientes cerrados mensualmente' aumenta mientras que la 'tasa de resolución en el primer contacto' disminuye, ¿qué nos enseña esto primero?

• A) Elegir el indicador correcto es más importante que multiplicar el número ✔
• B) Se debe aumentar el número de personal
• C) Los gráficos deben estar coloreados.
• D) El chatbot debería responder más preguntas

Explicación: Un indicador incorrecto lleva a una decisión equivocada incluso con datos correctos. Los archivos se pueden cerrar y volver a abrir rápidamente. Elegir el indicador correcto y leerlos juntos evita alardear basándose únicamente en un número engañoso.

11. En un gráfico, el eje vertical comienza en 40 en lugar de cero y un aumento del 2 por ciento parece un salto dramático, ¿de qué problema es un ejemplo?

• A) Alucinación
• B) Minimización de datos
• C) Brecha digital
• D) Visualización engañosa ✔

Explicación: La visualización engañosa distorsiona la percepción mediante técnicas como que el eje no comience desde cero, una escala desproporcionada o un período de tiempo seleccionado. Es parte de una gobernanza visual honesta de los datos públicos; La tabla real debería mostrarse llevando el eje a cero.

12. ¿Por qué es inaceptable decir "AI escribió eso" como justificación de una acción administrativa?

• A) Porque las herramientas de IA son demasiado caras
• B) La acción administrativa debe estar justificada y la responsabilidad es del funcionario ✔
• C) Porque la IA no sabe turco
• D) Porque a los ciudadanos no les gusta la IA

Explicación: La acción administrativa debe ser motivada y auditable; La responsabilidad no recae en la IA, sino en el funcionario público y la institución que utiliza el resultado sin verificarlo. 'La IA lo dijo' no es una justificación y no sustenta la actuación administrativa.

13. ¿Cuáles son los cuatro principios que distinguen el uso de la IA en el sector público del sector privado y que además deberían observarse?

• A) Rapidez, bajo costo, rentabilidad, competencia.
• B) Automatización, escala, marketing, marca.
• C) Igualdad, transparencia, rendición de cuentas, protección de datos personales ✔
• D) Privacidad, confidencialidad, privacidad y confidencialidad

Explicación: En obras donde se utiliza el poder público, la IA se enmarca en los principios de igualdad (tratamiento similar de una situación similar), transparencia (explicabilidad de la justificación de la decisión), rendición de cuentas (responsable de cada transacción y pista de auditoría) y protección de datos personales (KVKK).

14. ¿Qué debe hacer un sistema de verificación previa automatizado cuando no está seguro de un tipo de documento poco común?

• A) Rechazar la solicitud tácitamente
• B) Reenviar la solicitud a revisión humana ✔
• C) Aprobar automáticamente la solicitud
• D) Eliminar la aplicación

Explicación: Una buena automatización dirige el modelo al oficial cuando no está seguro en lugar de rechazarlo silenciosamente. De lo contrario, las aplicaciones legítimas caerán en un punto ciego y se producirá la victimización. Mantener a las personas en el punto de decisión es la base de la gestión de excepciones.