Ganancias:
- Poder distinguir dónde la inteligencia artificial ahorra tiempo en el flujo de trabajo filosófico y ético (lectura, resumen, mapeo, borrador) y dónde decisiones como interpretación, justificación y pensamiento original quedan en manos del humano, dependiendo del nivel de riesgo.
- Capacidad para aplicar una disciplina que verifica cada resultado a través de los pasos de vincularlo a la fuente, confirmarlo con el texto principal y filtrarlo mediante sesgos.
- Ser capaz de comprender por qué los riesgos de alucinación, pérdida de originalidad de juicio e interpretación superficial deben tenerse en cuenta desde el principio en el ámbito humano.
Estás en la sala de estudio de un departamento de filosofía. Sobre su escritorio hay un capítulo de la Fundación de la metafísica de la moral de Kant, un expediente de un caso real del comité de ética de un hospital, tres artículos contemporáneos diferentes y un plan de lección para un seminario que se impartirá mañana. Un estudiante se queja de no poder extraer la estructura argumental de un texto largo, hay que comparar tres artículos para la revisión de una revista y un comité de ética debate quién tiene la responsabilidad de un sistema de apoyo a las decisiones médicas con inteligencia artificial. La filosofía (la disciplina que examina crítica y sistemáticamente conceptos, argumentos y suposiciones; pensando en el conocimiento, la existencia, el valor y el razonamiento) y la ética aplicada (la rama que aplica principios morales abstractos a decisiones reales en campos concretos como la medicina, la tecnología, el medio ambiente y los negocios) son campos que requieren un uso intensivo de textos y conceptos y requieren un razonamiento meticuloso por naturaleza. Aquí es exactamente donde la inteligencia artificial (IA, software que puede aprender patrones de datos de texto anteriores y producir resúmenes, traducciones, borradores y clasificaciones) puede acelerarlo en esta abundancia de textos y conceptos.
Pero el comienzo de este módulo es claro: la IA es un asistente de lectura, mapeo, resúmenes y redacción; Eres el experto y pensador competente que juzga el argumento, defiende una tesis, justifica una decisión ética y se adueña de ese pensamiento. En filosofía, el producto mismo es el razonamiento; Delegar el razonamiento a una máquina no es terminar el trabajo, sino renunciar al trabajo mismo.
En esta primera unidad nos centraremos en la disciplina, no en el vehículo. Aprenderemos en qué parte del flujo de trabajo filosófico y ético la IA ahorra tiempo real, dónde es peligrosa, cómo verificar cada resultado, cómo mantener la integridad de la fuente y cómo observar la integridad académica. Sin sentar estas bases, las unidades posteriores quedan suspendidas en el aire, porque en humanidades, un resultado no verificado puede ser no sólo una respuesta incorrecta, sino una cita inventada, la visión de un filósofo distorsionada o una violación de la integridad académica que presenta la mente de otra persona como propia.
¿Dónde resulta útil la IA en el flujo de trabajo filosófico?
Dividamos las cosas en dos grandes montones. Primer grupo: obras voluminosas, con mucho texto y extraíbles mediante patrones. El primer resumen de un texto extenso, el primer borrador de la estructura premisa-conclusión de un párrafo complejo, la extracción de temas recurrentes en una obra literaria, la comparación de cómo diferentes autores definen un concepto, el esqueleto de un plan de lección, la señalización de lugares ambiguos en un texto de un estudiante, borradores de traducción. En estos trabajos, la IA reduce las horas a minutos y no cansa.
Segundo grupo: tareas que requieren juicio, interpretación, justificación y pensamiento original. Si un argumento es realmente válido o no, la interpretación más plausible de lo que un filósofo quiere decir en un pasaje, cómo resolver la tensión real entre dos valores, qué principio prevalecerá en un caso ético, cuál es la contribución original de una tesis. Estos requieren experiencia, sensibilidad conceptual y juicio humano. Aquí, la IA multiplica las opciones, genera objeciones, señala puntos ciegos, pero la evaluación, la justificación y la firma son suyas.
Aclaremos la distinción en una frase: la IA es fuerte en cuestiones de "qué está escrito en este texto y cómo es su estructura"; La decisión es suya cuando se trata de preguntas como "¿Es bueno este argumento y qué pienso?"
Consejo: antes de subcontratar un trabajo a una IA, pregunte: "¿Qué pierdo si este resultado es incorrecto?" Si la respuesta es "unos minutos de arreglo", no dudes en delegar. Si la respuesta es "la opinión de un filósofo distorsionada, una fuente inventada o que la máquina piense lo que necesito", entonces deje que la IA simplemente produzca borradores; Tú das la interpretación, justificación y decisión.
Tres riesgos críticos en humanidades
La filosofía y la ética se encuentran entre las áreas en las que la IA tropieza más. Conozcamos los tres riesgos desde el principio.
Alucinación. La IA produce con fluidez y confianza; Eso no significa que sea verdad. Una alucinación ocurre cuando una IA presenta un libro inexistente, una cita inventada, una frase que el filósofo en realidad no dijo o una visión erróneamente atribuida como real. En la literatura filosófica esto es desastroso: es muy común que una frase entre comillas, "Aristóteles le dice a Nicómaco en la Ética", esté ausente del texto.
Pérdida de originalidad del razonamiento. En filosofía, el valor está en tu razonamiento. Presentar el texto "filosófico" fluido pero normal, cliché y sin fuentes producido por AI como propio es intelectualmente inútil y una violación de la integridad académica. La IA produce la media; La tesis original, la distinción sutil y la objeción audaz se dejan al hombre.
Interpretación superficial y prejuicio. La IA podría resumir a un filósofo con un estereotipo popular pero inexacto (reducir a Nietzsche a un eslogan, por ejemplo), presentar una sola tradición como “correcta” sobre un tema controvertido o replicar sesgos culturales en los datos de entrenamiento. Los comentarios siempre deben pasar por el filtro crítico.
Disciplina de verificación: tres pasos
Aplique un reflejo de tres pasos a cada salida:
- Conéctelo a la fuente. Cada cita, atribución y afirmación de "el filósofo dijo" de AI debe basarse en el texto principal. "¿Exactamente en qué obra, en qué sección, en qué traducción?" y vea el original usted mismo. Verifica cada oración entre comillas con su fuente.
- Confirmar con fuente independiente. Verifique una interpretación o afirmación “comúnmente aceptada” con una fuente secundaria confiable (enciclopedia académica, artículo revisado por pares). No confíe en un párrafo fluido.
- Pasarlo por el filtro de la interpretación y el sesgo. ¿El resultado distorsiona a un filósofo? ¿Existe una lectura alternativa? ¿Presenta unilateralmente una cuestión controvertida? Su juicio experto es el filtro final.
tres mini casos
Caso 1: Mapear ahorró tiempo. Un estudiante de posgrado intentaba extraer la estructura argumental de un denso artículo de epistemología de 40 páginas. AI dio el primer borrador del esqueleto premisa-consecuencia en 15 minutos; El estudiante aceleró el mapeo que normalmente tomaría medio día. Pero validó cada premisa relacionándola con el párrafo del texto, y él mismo añadió una suposición implícita que la IA había omitido.
Caso 2: La verificación detectó una cotización inventada. Un investigador pidió a la IA que preguntara la opinión de Hume sobre la causalidad. YZ dio una oración clara y un número de página entre comillas. Cuando el investigador miró la sección correspondiente de Tratado sobre la naturaleza humana, no había ni esa frase ni esa página; La IA había elaborado una cita plausible pero inventada. El paso de vinculación evitó que ingresara una atribución fraudulenta al artículo.
Caso 3 — Límite de originalidad. Un estudiante recibió una tarea de ética escrita íntegramente por IA y la presentó. El texto era fluido, pero carecía de fuentes, era cliché y carecía de la propia opinión del estudiante; Además, las dos "fuentes" fueron inventadas. Esto fue a la vez cero contribución original y una violación de la integridad académica. El uso correcto fue utilizar la IA como compañero de discusión y herramienta de redacción, y que el estudiante construyera la justificación, la tesis y las fuentes por sí mismo.
Aviso débil / Aviso fuerte
Aviso débil:
Escribe algo sobre la ética de Kant.
Esta solicitud es vaga: no requiere fuentes, está abierta a distorsiones y clichés, no se puede verificar y el resultado no será su opinión.
Potente mensaje:
Su papel: cuidadoso profesor de filosofía. Resuma el texto que le daré sobre la formulación de "universalización" del imperativo categórico de Kant. Reglas: Confíe únicamente en el texto que doy; Añade información extratextual. Vincula cada afirmación a un párrafo del texto. Si no está seguro, márquelo como "no está claro en el texto". Si utilizas comillas, utiliza sólo aquellas que aparezcan palabra por palabra en el texto. Texto: [pegue el texto aquí]
Este mensaje limita la fuente, evita la fabricación, es verificable y deja que usted piense.
Cuatro plantillas copiables
1) Evaluación de idoneidad laboral:
Su función: asesor senior de filosofía. Describiré el trabajo a continuación. Dígame (1) si este es un trabajo de lectura/resumen/mapeo/dibujo que se puede delegar a una IA, o un trabajo que requiere justificación y pensamiento original, (2) el costo intelectual/académico de una producción incorrecta, (3) la verificación que debo hacer antes y después de delegar. Trabajo: [insertar trabajo aquí]
2) Obligación de vincular a la fuente:
Te daré un texto filosófico. Para cada comentario y afirmación, SIEMPRE haga referencia al párrafo/oración del texto. No atribuir al filósofo ninguna opinión que no esté en el texto. Utilice únicamente citas que aparezcan palabra por palabra en el texto. Si no está seguro, márquelo como "necesita verificación".
3) Originalidad y límite de roles:
Eres mi compañero de entrenamiento, no mi escritor. NO escriba mi tesis sobre este tema. En su lugar: nombre 3 objeciones fuertes a mi tesis, 2 suposiciones que quizás haya pasado por alto y 1 concepto que necesito aclarar. Escribiré el texto final. Mi tesis: [inserta tu tesis aquí]
4) Control de deformación/sesgo:
Verifique si el siguiente resumen distorsiona a un filósofo. (1) ¿Existe una reducción a un cliché popular pero falso? (2) ¿Se presenta un tema controvertido de manera unilateral? (3) ¿Cuál es la interpretación alternativa? Muestra lecturas fieles del texto, no tu propia interpretación. Resumen: [pegue el resumen aquí]
Tabla de separación de roles
negocio
Papel de la IA
el papel del hombre
Nivel de riesgo
Resumir texto largo
Primer borrador de resumen
Autenticación contra fuente
medio
Mapeo de argumentos
Marco antecedente-consecuencia
juicio de validez
medio
Encontrar una cita/cita
Generando candidatos
Confirmación en fuente primaria
alto
Justificando el caso ético
Generando opciones y objeciones
Decisión y justificación
muy alto
Redacción de tesis/contribución original
compañero de entrenamiento
el artículo en sí
muy alto
Errores comunes
- Utilizando la cotización dada por AI sin verificarla. El error más común y más destructivo en el ámbito humano; Cada oración entre comillas debe estar confirmada en la fuente primaria.
- Delegar pensamiento. Dejar que la IA construya el argumento, defienda la tesis y produzca la justificación es renunciar al trabajo mismo en filosofía.
- Confundir un cliché con información. Aceptar como “correcto” que la IA resuma a un filósofo con un slogan; No debes aceptar comentarios sin volver al texto.
- Entregar texto de IA sin citar la fuente. Violación de la integridad académica; Siga las pautas de uso de IA y la declaración de transparencia de su organización.
- Depender de una única salida. Hacer la misma pregunta de manera diferente y aceptar una interpretación como definitiva sin confirmarla con una fuente secundaria.
En resumen
Inteligencia artificial; Es un poderoso asistente que acelera la lectura de textos, el mapeo de argumentos, el escaneo de literatura y la generación de borradores en filosofía y ética aplicada. Pero es responsabilidad humana juzgar el argumento, interpretar correctamente a un filósofo, justificar una decisión ética y producir una tesis original. Se deben reconocer tres riesgos desde el principio: alucinación (cita/fuente inventada), pérdida de originalidad del juicio e interpretación superficial/sesgada. El antídoto es la disciplina de verificación de tres pasos: vincular a la fuente, verificar de forma independiente, filtrar a través de interpretaciones y sesgos. A lo largo de este módulo utilizaremos la IA de un extremo a otro, pero usted siempre será quien piense y firme.
Tarea de aplicación
- Elige un párrafo denso de un texto filosófico que estés estudiando.
- Utilice la plantilla de "mensaje fuerte" para brindarle a la IA un resumen basado únicamente en ese texto.
- Vincule cada afirmación del resumen con la oración del texto; Marca si la IA añade información extratextual o énfasis inventado.
- Si AI ha dado una cita, verifique si está textualmente en la fuente principal.
- Escriba su propio comentario de una frase: conviértalo en su contribución, no en la de la IA.
lista de verificación
- [ ] Antes de entregar el trabajo, "¿qué pierdo si sale mal?" Hice la pregunta.
- [] He verificado cada cita y atribución en el resultado con la fuente principal.
- [ ] He marcado comentarios fuera de texto o distorsionados.
- [ ] Yo mismo tomé la decisión sobre la validez del argumento y la justificación.
- [ ] Escribí la tesis original y el texto final; La IA se ha convertido simplemente en un compañero de entrenamiento.
- [] Seguí las reglas de transparencia y uso de IA de mi institución.