Ganancias:
- Capacidad para preparar la lista de verificación de factores de riesgo y protección y el esqueleto del plan de seguridad con inteligencia artificial y trabajar sin saltarse ninguna área.
- Comprenda que las decisiones sobre el nivel/puntuación de riesgo y la seguridad las toman únicamente expertos, equipos, supervisión y procesos legales, y que la inteligencia artificial no puede producir decisiones.
- Ver que la inteligencia artificial puede atribuir sesgos sistemáticos a grupos desfavorecidos y aplicar la disciplina de no utilizar nunca su producción como decisión y procesar los datos más sensibles solo en un sistema seguro.
La responsabilidad más seria del trabajo social es la evaluación de riesgos: juicios que conciernen directamente a la seguridad de la vida, como por ejemplo si un niño es abandonado o abusado, si es probable que un individuo se haga daño a sí mismo o a otra persona, si una persona mayor está segura o qué tan en peligro está una víctima de violencia. La primera y más audaz regla de esta unidad es la siguiente: la toma de decisiones de riesgo no pertenece, no puede ni debe pertenecer a la IA. Decisión sobre la seguridad de una persona; Requiere autoridad profesional, juicio clínico, opinión de un equipo multidisciplinario, supervisión y responsabilidad legal. Aquí la IA es solo una herramienta de preparación y recordatorio: le recuerda qué factores de riesgo y de protección debe revisar, organiza sus notas y describe un plan de seguridad. No da puntuación, no dice "el riesgo es bajo/alto", no toma una decisión.
¿Por qué enfatizamos esto con tanta dureza? Porque en el ámbito del riesgo, el coste de un error de IA es irreversible. La calificación de AI de un riesgo como "bajo" deja al niño desprotegido; Hacer que un riesgo parezca innecesariamente "alto" podría llevar a que una familia sea separada injustamente. Además, la IA conlleva sesgos en los datos de entrenamiento: se han documentado en todo el mundo algoritmos que atribuyen sistemáticamente un mayor riesgo a ciertos grupos socioeconómicos, etnias o vecindarios. Entonces, incluso si la salida de la IA es una entrada, nunca podrá anular su juicio independiente.
El papel legítimo de la IA: recordatorio y regulación
Hay tres lugares donde puedes utilizar la IA de forma segura en situaciones de riesgo:
1. Recordatorio de factores. Los factores de riesgo (p. ej., antecedentes de violencia, uso de sustancias, aislamiento social, admisiones previas) y factores de protección (p. ej., un adulto comprensivo, asistencia regular a la escuela, una red social sólida) que deben considerarse en una evaluación de riesgos son extensos; La IA le ayuda a evitar perder áreas al recordar una lista de verificación que se ajusta al marco que utiliza su organización.
2. Edición de notas. Traduce sus observaciones y declaraciones de clientes en un texto organizado y fáctico, para que pueda basar su juicio en datos claros.
3. Proyecto de plan de seguridad. Un plan de seguridad (un plan concreto que determina qué hará la víctima en caso de peligro, con quién contactará, adónde irá) tiene una estructura determinada. La IA puede producir un borrador de esqueleto para completar con el cliente; Pero usted y el cliente completan el contenido del plan según la realidad.
Precaución: nunca le preguntes a la IA "¿cuál es el nivel de riesgo en este caso?" o “¿está el niño seguro en casa?” No preguntes. NO utilice el resultado como una decisión, incluso si lo solicita. Estas preguntas son respondidas únicamente por el experto autorizado, equipo y supervisión a través de la herramienta oficial de riesgos de la institución.
Paso a paso: posicionar correctamente la IA en el proceso de riesgo
- La seguridad es lo primero. Si existe un peligro inmediato y grave (seguridad humana), es necesario aplicar el procedimiento de emergencia de la institución, no tratar con IA. La IA no debería retrasar ninguna urgencia.
- Desidentificar. Las calificaciones de riesgo son los datos más sensibles; La información que identifica al cliente no se ingresa en la herramienta abierta, solo se utiliza la herramienta segura de la institución.
- Recuérdame la lista de factores. Solicitar una lista de verificación de factores de riesgo y protección adecuada al marco institucional.
- Haz tu propio juicio. Sopesas los factores, evalúas con el equipo y consultas con el supervisor. No quieres que la IA "evalúe".
- Completar el plan de seguridad con el cliente. El borrador del esqueleto puede provenir de la IA; El contenido se completa con la red, los recursos y las preferencias reales del cliente.
tres mini casos
Caso 1: factor de protección omitido. Un experto se centró en los factores de riesgo en un caso de violencia doméstica. La lista de verificación de factores que le pidió a AI le pedía que preguntara sobre la red de apoyo segura del cliente en el trabajo en la sección de "factores de protección", un área que el experto había pasado por alto. Esta red se convirtió en la parte más realista del plan de seguridad. La decisión volvió a depender del experto; La IA simplemente recordó la pregunta.
Caso 2: No se confiaba en la puntuación incorrecta. Una agencia vio cómo una herramienta de prueba de inteligencia artificial etiquetaba un caso como de “bajo riesgo”. Sin embargo, la observación del perito y la declaración del cliente indicaron un grave peligro. El equipo rechazó la etiqueta de IA e inició medidas protectoras basadas en su propia evaluación. Más tarde se confirmó que el peligro era real. Lección: la puntuación de la IA no es una decisión; El juicio humano tiene prioridad.
Caso 3: Sesgo detectado. En un juicio, el mismo caso fue entregado dos veces a AI; La única diferencia era el barrio donde vivía el cliente. La IA produjo sistemáticamente un “lenguaje de riesgo” más alto para el vecindario que se sabe que está en desventaja. Esto demostró un sesgo en los datos de entrenamiento de la IA y reforzó la política de la agencia de no utilizar la IA en la toma de decisiones de riesgo.
Cuatro plantillas copiables
1) Recordatorio de factores de riesgo/protección:
Su función: asistente del supervisor de trabajo social. Prepare una lista de verificación de factores de riesgo y factores de protección que se recomienda revisar en una evaluación de riesgos en casos de [violencia doméstica]. Presente esto como una lista de RECORDATORIOS; NO produzca puntuaciones, decisiones o "niveles de riesgo". La evaluación y la decisión pertenecen al experto.
2) Anteproyecto de esqueleto del plan de seguridad:
Tu papel: editor. Prepare un esquema EN BLANCO de un plan de seguridad para completar con una víctima de violencia doméstica: señales de advertencia, lugares seguros, personas e instituciones a contactar, documentos importantes, plan para niños, seguridad digital. Completar el contenido; Deje espacios en blanco debajo de cada encabezado para completar con el cliente.
3) Editar una nota de riesgo (sin tomar una decisión):
Traduzca las siguientes notas de observación y declaración a un texto organizado y objetivo. Etiquete la observación y la declaración del cliente por separado. DECLARANDO el nivel de riesgo, TOMANDO una decisión, AGREGANDO un comentario. Edite solo lo que hay en la nota y marque las áreas faltantes/oscuras. Nota: [pegar nota anónima]
4) Autocontrol del sesgo:
En el borrador de la nota de riesgo a continuación, ¿hay alguna declaración que transmita un sesgo no probado debido al nivel socioeconómico, origen étnico, vecindario o característica similar del cliente? Marque cada oración que se base en estereotipos en lugar de evidencia. No cambies el texto, solo avisa. Nota: [pegar nota]
Aviso débil / Aviso fuerte
Aviso débil:
Lea este caso y decida si es seguro que el niño se quede en casa y cuál es el nivel de riesgo.
Se trata de subcontratar la decisión más importante sobre la vida humana a un software. No es ético, va en contra de la responsabilidad profesional y lleva el sesgo de la IA directamente al destino del niño.
Potente mensaje:
Tu función: asistente de recordatorios. Antes de leer la nota no identificada a continuación, prepare una lista de verificación de factores de riesgo y de protección para revisar en la evaluación de casos [de negligencia infantil]. PRODUCCIÓN de decisión, puntuación o nivel de riesgo. Haré la evaluación con mi equipo; Simplemente recuérdame qué áreas no debo saltarme.
La diferencia: decir “qué preguntas no debo olvidar” en lugar de pedir decisiones mantiene a la IA en la frontera ética y segura.
Límites de roles en el campo del riesgo.
Búsqueda
¿Puede la IA hacerlo?
¿Quién lo hace?
Recordatorio de la lista de verificación de factores
si
IA (recordatorio)
Editar notas objetivamente
si
IA + aprobación de expertos
Esqueleto en blanco del plan de seguridad
si
IA; cliente de contenidos+experto
Determinación del nivel de riesgo/puntuación
no
Experto + equipo + supervisión
"¿Es seguro?" decisión
no
Experto competente, proceso legal.
Iniciar medidas de protección
no
Institución, autoridad competente
Errores comunes
- Pedirle a AI una puntuación/decisión de riesgo. El error más peligroso; La decisión requiere autoridad profesional y responsabilidad legal.
- Confiando en la etiqueta AI. Una conclusión de "bajo riesgo" nunca invalidará su observación de lo contrario.
- Ignorando los prejuicios. La IA puede atribuir un alto riesgo sistemático a los grupos desfavorecidos; El autocontrol es esencial.
- Dilatar la urgencia. Si hay seguridad humana, primero el procedimiento de emergencia; Lidiar con la IA no puede esperar.
- Dando los datos más sensibles a la herramienta abierta. Las notas de riesgo se procesan únicamente en la herramienta segura de la institución.
En resumen
La evaluación de riesgos es la responsabilidad más grave del trabajo social, y la decisión recae directamente en la persona: el profesional, el equipo, la supervisión, la autoridad legal. En este caso, la IA es solo una herramienta para recordar (lista de factores de riesgo/protección), organizar (nota factual) y redactar (esqueleto del plan de seguridad); No marca, no toma decisiones. Recuerde que la IA conlleva prejuicios, nunca utilice sus resultados como una decisión y procese los datos más confidenciales solo en el sistema seguro.
Tarea de aplicación
Elija un tipo de caso ficticio. Obtenga una lista de verificación con una plantilla de “recordatorio de factores de riesgo/protección” y verifique que la IA no produzca ningún “nivel de riesgo”. Luego, tome un esqueleto del plan en blanco con la plantilla "esquema del esquema del plan de seguridad". Preguntarle conscientemente a la IA “¿cuál es el nivel de riesgo?” y escriba en una oración por qué NO debería utilizar el resultado como decisión.
lista de verificación
- [] Solo le pedí a la IA un recordatorio de factor, no una decisión/puntuación.
- [] Procesé los datos más confidenciales solo en la herramienta empresarial segura.
- [ ] Planeaba completar el contenido del plan de seguridad junto con el cliente.
- [] Revisé la salida de IA en busca de sesgos.
- [ ] Confirmé que la decisión final sobre el riesgo recae en el equipo, la supervisión y el debido proceso.