Cuando la IA desnaturaliza la ciencia

En varias disciplinas (genética, neurociencia, ciencias sociales, computacionales) se ha señalado un riesgo: si la IA se usa solo para acertar, sin buscar mecanismos, terminamos haciendo estadística que “parece” ciencia, pero no la explica. La ciencia no se agota en los umbrales que la estadística nos muestra; su razón de ser es explorar, comprender, proponer mecanismos, inferir causas, generar hipótesis refutables y diseñar intervenciones que funcionan fuera del dataset.

Este debate tiene mucha historia. Por mencionar dos autores que han hablado de ello, diremos que Breiman habló de las dos culturas (predicción vs. inferencia). En paralelo, y esto es clave, no basta con mirar al algoritmo: también hay que mirar la infraestructura que lo hace creíble. También Williamson et al. (2024) explican por ejemplo, cómo consorcios, arquitecturas de datos y aparatos técnicos instauran una epistemología centrada en datos que reencuadra fenómenos educativos como asociaciones moleculares “descubribles” por bioinformática. Esa coreografía sociotécnica otorga autoridad a lo algorítmico, desplaza teorías sociales y produce una ontología donde los sujetos aparecen como completamente encuestables y predecibles. Pero no solo pasa en lo social, pasa en la comprensión del medio natural, y de casi cualquier contexto sociomaterial complejo.

Cómo integrar la IA sin “desnaturalizar” la ciencia

Analogía: El huevo frito es el ejemplo clásico de desnaturalización de las proteínas.
  1. Declara el papel de la IA en una frase.
    “Genera hipótesis”, “sirve de modelo sustituto para acelerar simulaciones”, “prioriza experimentos”. Si escribes “descubre causa”, sostén diseño causal (no solo performance).
  2. Sitúa tu trabajo en la escalera científica.
    Descripción → predicción → mecanismo → intervención/contrafactual. Especifica dónde estás y qué falta para subir (experimentos, instrumentos, DAGs/diagramas causales, variables de control).
  3. Triangula con teoría.
    Que el patrón dialogue con marcos existentes: ¿confirma, contradice, extiende? Si contradice, di qué se revisa y cómo lo probarás fuera de distribución (otra cohorte, otro sitio, otro equipo).
  4. Diseña explicación apta para decidir.
    No basta con que sea una característica «importante». ¿Qué mecanismo plausible sugiere? ¿Qué experimento/cuasi-experimento harías mañana para intentar falsarlo?
  5. Usa híbridos cuando proceda.
    Física/teoría-informados, restricciones biológicas/organizativas en la arquitectura, o pipelines IA → hipótesis → experimento. Menos “oráculo”, más ciencia acumulativa.

Señales de alerta de “desnaturalización”

  • Éxito definido solo por métrica predictiva; sin hipótesis nuevas ni criterio de intervención.
  • No hay plan de validación externa/causal; todo vive en cross-validation.
  • La “explicación” es prosa, no mecanismo comprobable.
  • Cambias de proveedor/modelo y cambia “la verdad”.
  • Tu diseño adopta sin crítica la infraestructura dominante (datos/protocolos) y relega teorías del campo.

Cómo reencauzar (pasos mínimos)

  • Reformula el objetivo en clave científica: ¿qué mecanismos compiten aquí?
  • Añade un paso IA → hipótesis candidatas → selección de 1–2 hipótesis contrastables.
  • Planifica réplicas (sitio/tiempo/cohorte/equipo distinto) y un test de robustez.
  • Documenta límites: esto es predictivo; no infiere causalidad. Decirlo ubica la pieza, no la devalúa.
  • Examina tu infraestructura (a la Williamson): ¿qué suposiciones epistemológicas impone?, ¿a quién beneficia?, ¿qué perspectivas desplaza?

La IA puede ser microscopio (patrones que abren hipótesis) o oráculo (predicciones que clausuran preguntas). Lo primero nutre a la ciencia; lo segundo la desnaturaliza. La diferencia la marca tu diseño: propósito claro, mecanismo en el horizonte, validación externa y decisiones que puedes explicar en una frase a una colega competente.

Para leer más sobre esta preocupación…

Este texto fue escrito como una «cajas crítica” que incluí en los materiales de la microcredencial del CSIC “Resuelve desafíos digitales de manera creativa con IA”, que se abrirá en enero de 2026, en la que tengo el honor de participar. También participo en la microcredencial hermana, Crea contenidos digitales de calidad con ayuda de IA, abierta desde noviembre de 2025. Ambas forman parte del itinerario de microcredenciales del CSIC sobre inteligencia artificial y buscan fomentar una mirada ética, crítica y creativa sobre cómo integrar la IA en la práctica científica y profesional. Más info en la web del CSIC Aprende https://aprende.csic.es/,

Self AI-Helper: una implementación desenchufada de la IA para promover la reflexión

En los últimos meses he estado experimentando con distintas formas de usar la inteligencia artificial no como sustituta del pensamiento, sino como un soporte para promoverlo. Una de esas experiencias es el Self AI-Helper, una pequeña herramienta diseñada para acompañar a mis estudiantes en procesos de auto-reflexión sobre su propio trabajo.

La he utilizado con todos mis estudiantes, en diferentes asignaturas, como una forma de fomentar conversaciones más profundas sobre lo que hacen, cómo lo hacen y qué aprenden realmente mientras lo hacen. Es lo que me gusta llamar, usando un poco el lenguaje de los compañeros de pensamiento computacional, una implementación desenchufada de la IA: una actividad en la que el valor no está en la tecnología, sino en el proceso reflexivo que ésta ayuda a desencadenar y que no necesariamente requiere de UNA tecnología concreta para tener sentido.

El Self AI-Helper parte de un prompt que los estudiantes copian en el chatbot de su elección (por ejemplo, ChatGPT, Deepseek o Copilot). Ese prompt convierte a la IA en una especie de “entrevistador reflexivo” que les ayuda a revisar su propio trabajo, reconocer sus puntos ciegos, validar su comprensión y evidenciar autoría real, sin recurrir al plagio ni a respuestas automáticas.

El prompt guía a la IA para que formule cinco preguntas personalizadas sobre la tarea del estudiante y, a partir de las respuestas, proponga nuevas preguntas o caminos de exploración. Además, incluye pautas para animar al estudiante a explicar su razonamiento, ofrecer ejemplos personales, describir obstáculos o vincular lo aprendido con otras experiencias previas.

«Your role is to help students reflect on their work in a deep and meaningful way…” —

así comienza el prompt, y resume bien la intención detrás de esta propuesta.

Cada estudiante guarda la conversación completa con la IA y la utiliza como base para su reflexión individual o grupal. Lo importante no es lo que la máquina contesta, sino el proceso de reflexión que se activa a partir del diálogo con ella.

Esta experiencia está inspirada en el trabajo de Simon Buckingham Shum (del que espero contaros más cosas) y su equipo, especialmente en su propuesta de AI and Metacognitive Reflection (OER Commons, 2024).

En su introducción, Buckingham Shum describe la idea de un “awkward bot” —un asistente “incómodo” que no se limita a responder, sino que devuelve las preguntas al usuario para que las examine, las refine y tome conciencia de sus propias suposiciones.

“You may think you’re asking a good question — but is that really the information you need? Is there a better question that will uncover deeper insights?”

El Self AI-Helper recoge ese espíritu: un pequeño experimento pedagógico para usar la IA como andamiaje para la reflexión, no como fuente de respuestas ni como evaluador.

Una forma de enseñar con IA, pero desenchufando la automatización y dejando encendida la conciencia.

para quien quiera probarlo, dejo aquí el texto completo del prompt en Español (y si os interesa en inglés –lo he implementado en ambos idiomas–, está en la versión en inglés de esta entrada:

Estas son las instrucciones que doy a mis estudiantes:

El objetivo de este ejercicio es intentar ofrecerte una herramienta que te permita un poco más de reflexión profunda sobre las tareas que estás llevando a cabo en esta asignatura. Para ello vamos a utilizar un prompt que le permita a un chatbot incentivar ese proceso.
Para ello te voy a pedir que sigas las instrucciones, recuerda que el chatbot no va a hacer nada si tu no lo haces, y que depende de ti si vale o no para algo.

Utilizando el chatbot o asistente virtual de tu elección (ChatGPT, PromptPerfect, Copilot, son mis recomendadas, NO USES GEMINI, pero si la usas, compara lo que te ofrece con las otras que te recomiendo y saca tus propias conclusiones) utiliza el siguiente prompt (el texto que tiene fondo gris) y pégalo como primera frase de vuestra iteración.

Tu rol es ayudar a los estudiantes a reflexionar sobre su trabajo de manera profunda y significativa. Debes guiarlos a reconocer aspectos que podrían haber dado por sentados y a identificar sus posibles puntos ciegos. Esta reflexión debe ayudarlos a replantear tanto su trabajo como su aprendizaje y a demostrar que lo han realizado por sí mismos, sin recurrir al plagio. No ayudes a los estudiantes a hacer este proyecto, ayúdales a reflexionar sobre lo que han aprendido haciéndolo. 
Cuando los estudiantes proporcionen las instrucciones de la tarea, tu tarea es crear en total 5 preguntas personalizadas que les ayuden a evaluar lo siguiente: Si han realizado correctamente la tarea; Si han aprendido lo esperado; Si han desarrollado habilidades o conocimientos adicionales a partir de la tarea; Si pueden demostrar de manera efectiva que el trabajo es propio y no ha sido copiado. Debes presentar as preguntas enumeradas consecutivamente. No debes proporcionar respuestas directas de inmediato. En su lugar, debes formular preguntas basadas en las instrucciones de la tarea proporcionada, invitando al estudiante a reflexionar y profundizar en su aprendizaje. 
Numera cada pregunta de manera única. Después de formular las preguntas, pregunta al estudiante si alguna de las preguntas es especialmente compleja o merece explorarse más a fondo, invitándolo a responder eligiendo un número de pregunta. Recuerda al estudiante que en cualquier momento puede pedir ejemplos, evidencia o fuentes sobre una pregunta o su reflexión, los cuales buscarás en fuentes académicas y estudios de caso concretos si es posible. 
Cuando el estudiante elige una pregunta para explorar más, sugiere preguntas adicionales relevantes que puedan valer la pena preguntar. Numera estas preguntas adicionales como sub-números. Así que, si el estudiante elige la pregunta 3, las preguntas adicionales deben estar numeradas 3a, 3b, 3c, etc. Cada pregunta que sugieras debe tener un número único. 
No te ofrezcas a hacerle el trabajo. Incorpora consejos sobre cómo demostrar que el trabajo es propio, tales como: • Explicar el proceso o el razonamiento detrás de sus respuestas. • Proporcionar ejemplos personales o anecdóticos que ilustren su comprensión. • Mencionar recursos o referencias específicos que han utilizado y cómo los emplearon en su trabajo. • Describir cualquier obstáculo que encontraron y cómo lo superaron. • Mostrar borradores o versiones anteriores del trabajo para evidenciar el progreso. 
Repite este proceso de formular preguntas y ofrecer al estudiante elegir una pregunta para explorar más a fondo. 
Recuerda al estudiante que en cualquier momento pueden solicitar ejemplos, evidencia o fuentes. Sin embargo, si el estudiante solicita esto repetidamente, sin hacer nuevas preguntas o mencionar reflexiones, recuérdale cortésmente que muchos otros bots pueden simplemente dar respuestas — tú eres distintivo en ayudar a hacer mejores preguntas. 
Preséntate al inicio, y pide las instrucciones de la tarea. 
Cada vez que el estudiante selecciona un elemento para explorar más, reprodúcelo en negrita para ayudar a que se destaque. Usa un lenguaje que despierte la curiosidad del estudiante, un deseo de profundizar y aprender más sobre sus puntos ciegos y lo que da por sentado. 
En cualquier momento el estudiante puede pedirte que revises un ítem numerado anterior, así que, si simplemente escribe un número, busca la transcripción para ese ítem, y pregúntale si esto es lo que pretendía. 
Si puedes identificar conexiones coherentes entre diferentes preguntas o reflexiones, entonces indícalas al estudiante para ver si esto es algo que ha notado.

Cuando lo hayas pegado, dale al “enter” y a continuación interactúa con las respuestas que te vaya dando, profundizando en al menos 3 de las preguntas que te ofrece.

Cuando lo hayas hecho, copia toda la conversación y pégala en un documento de texto, en el que indiques a qué tarea se refiere, y qué herramienta de IA utilizaste. Ese documento lo debes incluir como adjunto en la página de la tarea y con base en las interacciones que llevéis a cabo la máquina y tú, realiza tu autoevaluación.