Un sistema detecta que un alumno presenta un riesgo elevado de abandono. Otro recomienda una actividad porque estima que su nivel actual es insuficiente. Una herramienta identifica patrones de absentismo, propone un itinerario, señala una posible dificultad de aprendizaje o advierte de que un trabajo podría haber sido generado con inteligencia artificial.
En ninguno de esos casos la máquina tiene necesariamente la última palabra. Puede existir un tutor, un orientador, un profesor o un equipo docente encargado formalmente de tomar la decisión. Sobre el papel, por tanto, sigue habiendo una persona «en el circuito».
Pero eso no resuelve el problema.
Porque una IA no necesita decidir para modificar una decisión. Basta con que determine qué alumno aparece primero en una pantalla, a quién etiqueta como «de riesgo», qué porcentaje muestra junto a su nombre, qué recomendación presenta como preferente o qué fragmentos colorea de rojo para orientar la atención de quien debe decidir después.
La cuestión importante, entonces, deja de ser únicamente si una inteligencia artificial puede acertar. Hay que preguntarse qué está prediciendo realmente, con qué datos, qué errores comete, quién fija los umbrales, cómo modifica el criterio profesional y qué capacidad conserva una persona para apartarse de su recomendación.
Porque entre utilizar IA para ampliar el criterio profesional y permitir que lo sustituya puede no existir una frontera visible. A veces existe una sucesión de pequeñas decisiones aparentemente inocuas que terminan desplazando el centro de gravedad desde el profesional hacia el sistema.
Una predicción no es una explicación, un diagnóstico ni una decisión
Conviene empezar por algo elemental que el lenguaje cotidiano tiende a borrar.
Cuando un sistema afirma que un estudiante tiene, por ejemplo, un 72 % de probabilidad de abandonar, no está viendo su futuro. Está realizando una inferencia a partir de información disponible y de relaciones encontradas previamente entre determinadas variables y determinados resultados.
Los modelos utilizados para predecir rendimiento o riesgo educativo pueden incorporar calificaciones anteriores, resultados de evaluaciones, entregas, actividad en plataformas digitales, asistencia, características personales o socioeconómicas y muchas otras variables. La investigación sobre predicción académica muestra además una gran diversidad de modelos, datos y métricas.
El resultado es probabilístico. Y esto obliga a distinguir cuatro conceptos que con frecuencia se mezclan: predicción, explicación, diagnóstico y decisión.
Un sistema puede detectar que determinados patrones de asistencia y rendimiento aparecen frecuentemente asociados al abandono. Eso no significa que haya descubierto por qué un alumno concreto está faltando a clase.
Quizá trabaja por las tardes. Quizá atraviesa una situación familiar difícil. Quizá ha dejado de participar porque piensa abandonar. Quizá falta precisamente porque ya domina parte del contenido. Quizá existe un problema económico, emocional, relacional o académico que no aparece en ninguna base de datos.
La correlación puede ser útil para llamar nuestra atención. No explica necesariamente la causa.
Y la diferencia importa porque una intervención educativa necesita algo más que saber que existe un riesgo. Necesita comprender qué está ocurriendo suficientemente bien como para decidir qué hacer.
Si confundimos indicador y causa, podemos terminar actuando sobre aquello que el sistema sabe medir en lugar de hacerlo sobre aquello que el alumno necesita.
El alumno que conoce el algoritmo no es necesariamente el alumno que conoce el profesor
Aquí aparece una diferencia fundamental entre conocimiento estadístico y conocimiento situado.
Un modelo puede procesar simultáneamente miles o millones de observaciones y descubrir relaciones imposibles de detectar mediante observación individual. Esa es precisamente una de sus grandes fortalezas.
El profesional dispone de otro tipo de información. Conoce —cuando las condiciones de trabajo se lo permiten— la evolución reciente del alumno, sus conversaciones, su comportamiento en diferentes contextos, cambios familiares, relaciones con compañeros, motivación, acontecimientos excepcionales o información aportada por otros profesionales.
Ninguna de las dos perspectivas es automáticamente superior en todos los casos. El problema aparece cuando confundimos una con la otra.
Los datos disponibles para el algoritmo no equivalen a toda la información relevante sobre la persona. Y el conocimiento profesional tampoco garantiza ausencia de prejuicios, errores de percepción o expectativas equivocadas.
Por eso la cuestión interesante no consiste en decidir quién «sabe más», humano o algoritmo. Consiste en diseñar una relación en la que las capacidades de uno permitan detectar los errores del otro.
Un 85 % de acierto puede esconder una mala decisión
Las métricas agregadas son especialmente peligrosas cuando se trasladan sin contexto a decisiones individuales.
Supongamos que un sistema afirma alcanzar un 85 % de precisión. Parece un resultado excelente. Pero para valorar su utilidad educativa necesitamos bastante más información.
¿Qué significa exactamente ese 85 %? ¿Qué porcentaje de alumnos realmente en riesgo consigue detectar? ¿Cuántos estudiantes que no iban a abandonar son clasificados como si fueran a hacerlo? ¿Comete los mismos errores con todos los grupos? ¿Ha sido validado con alumnado parecido al de nuestro centro? ¿Mantiene su rendimiento cuando cambian las cohortes, los programas o las circunstancias?
En educación, los errores tampoco son simétricos. Un falso negativo puede dejar sin apoyo a una persona que lo necesitaba. Un falso positivo puede provocar que alguien sea observado, derivado, orientado o tratado como estudiante de riesgo sin serlo.
No existe una respuesta matemática universal sobre cuál de los dos errores es peor. Depende de las consecuencias.
Si una alerta simplemente invita al tutor a revisar información adicional, un falso positivo puede tener un coste pequeño. Si la clasificación condiciona orientación, evaluación, acceso a oportunidades o expectativas sobre el alumno, las consecuencias pueden ser muy diferentes.
Por eso la pregunta relevante no es únicamente cuánto acierta el algoritmo. También debemos preguntar: ¿cómo se equivoca y quién soporta el coste de sus errores?
El umbral también es una decisión
Imaginemos que un modelo produce para cada estudiante un valor de riesgo entre 0 y 1: 0,43; 0,61; 0,72; 0,84. La máquina ha producido una puntuación. Todavía falta decidir qué hacemos con ella.
Podemos establecer que cualquier resultado superior a 0,60 active una alerta. O utilizar 0,70. O 0,80. Cada elección cambia el número de estudiantes identificados y modifica el equilibrio entre falsos positivos y falsos negativos.
Ese umbral puede parecer un detalle técnico escondido dentro del sistema. No lo es. Es una decisión institucional sobre qué riesgo estamos dispuestos a tolerar.
Un estudio de 2026 sobre un sistema de alerta temprana en educación STEM plantea precisamente que el umbral de clasificación debe relacionarse con el coste relativo de los distintos tipos de error.
Esto cambia mucho la pregunta «¿quién decide?». Porque la decisión no empieza cuando un tutor recibe una alerta. Alguien ya decidió anteriormente qué variables se utilizarían, qué resultado debía predecirse, qué modelo era suficientemente bueno, qué umbral transformaría una probabilidad en una alerta y quién tendría acceso a ella.
La responsabilidad está distribuida a lo largo de toda la cadena.
Exactitud y equidad no son la misma pregunta
Un modelo puede presentar un buen rendimiento global y funcionar peor para determinados grupos. Por eso evaluar únicamente su precisión media es insuficiente.
Una revisión sistemática sobre sesgos y equidad en algoritmos educativos examinó investigaciones sobre predicción del abandono, rendimiento, clasificación y recomendación, y subraya la necesidad de analizar la equidad además del rendimiento predictivo.
Esto introduce una dificultad que una cifra única de precisión oculta. No basta con preguntar: ¿funciona el sistema? Hay que añadir: ¿para quién funciona, en qué condiciones y para quién se equivoca más?
Los datos históricos describen además un sistema educativo que ya contiene desigualdades, diferencias de oportunidades y decisiones humanas anteriores. Aprender de esos datos no significa aprender de una realidad neutral.
Un modelo puede descubrir patrones reales y, precisamente por ser reales, reproducir desigualdades que ya existían.
Cuando una predicción empieza a cambiar aquello que predice
Este es probablemente uno de los problemas más profundos de la predicción educativa.
Una predicción meteorológica no cambia la trayectoria de un huracán. Una predicción sobre una persona puede cambiar cómo otras personas se relacionan con ella.
Imaginemos que junto al nombre de un estudiante aparece: RIESGO DE ABANDONO: ALTO.
Desde ese momento la información entra en el sistema social del centro. Puede hacer que el tutor preste más atención al alumno, que sería precisamente el objetivo deseado. Pero también puede modificar las expectativas sobre su futuro.
Puede cambiar la manera en que interpretamos una ausencia, una mala nota o una conversación. Una conducta ambigua que antes habría parecido circunstancial puede empezar a verse como confirmación del riesgo anunciado.
La clasificación deja entonces de limitarse a describir. Empieza a intervenir.
La investigación sobre learning analytics lleva tiempo señalando el riesgo de etiquetado y de dinámicas de profecía autocumplida. «Riesgo alto» no significa «alumno destinado al fracaso». Significa, en el mejor de los casos, que determinados datos se parecen suficientemente a patrones anteriores como para justificar una revisión profesional.
Convertir una probabilidad en una identidad es uno de los errores más peligrosos que podemos cometer.
La IA puede influir aunque no decida
Imaginemos que el centro establece: «La IA nunca decide. La decisión final corresponde siempre al profesor».
Puede parecer una garantía suficiente. No necesariamente.
Un experimento publicado en 2026 con 214 docentes universitarios mantuvo constante el mismo trabajo de un estudiante y modificó la información proporcionada por un supuesto detector de IA. Cuando la alerta algorítmica era alta, cambiaron las valoraciones del mismo texto en varias dimensiones y aumentó la disposición declarada a intervenir. Determinadas señales visuales reforzaron algunos efectos.
El alcance del estudio debe interpretarse con prudencia: es un experimento controlado con una población y una tarea concretas. Pero permite observar algo conceptualmente importante: la salida del algoritmo puede modificar el juicio humano aunque el algoritmo no tenga autoridad para tomar la decisión.
El porcentaje actúa como información previa. El color dirige la atención. La etiqueta crea un marco desde el que empezamos a interpretar la evidencia.
Esto transforma el diseño de una interfaz en una cuestión pedagógica y ética. No es igual mostrar en rojo «87 % — RIESGO ALTO» que indicar que el sistema ha identificado un patrón que requiere revisión, acompañado de las evidencias utilizadas, sus limitaciones y una advertencia explícita de que el resultado no determina la decisión.
La interfaz también gobierna.
El sesgo de automatización: cuando la recomendación se convierte en ancla
Este fenómeno se relaciona con el denominado sesgo de automatización: la tendencia a confiar automática o excesivamente en la salida de un sistema.
Resulta especialmente relevante cuando la máquina no ejecuta directamente una acción, sino que ofrece información o recomendaciones para que otra persona decida.
Es significativo que el propio Reglamento (UE) 2024/1689 de Inteligencia Artificial mencione expresamente este riesgo. Para los sistemas de alto riesgo, su artículo 14 exige que quienes ejercen la supervisión puedan comprender suficientemente las capacidades y limitaciones del sistema, interpretar correctamente sus resultados, ser conscientes de la posible tendencia a confiar automática o excesivamente en ellos y, cuando corresponda, ignorar, anular o revertir su salida.
Es una concepción de la supervisión humana mucho más exigente que tener una persona sentada frente a la pantalla.
Porque un humano puede estar formalmente dentro del circuito y cognitivamente fuera de él.
El humano en el circuito no garantiza criterio humano
Supongamos que un orientador recibe veinte alertas. Tiene poco tiempo para revisarlas. El algoritmo ofrece una recomendación clara. La documentación sobre cómo se obtiene es difícil de interpretar. La organización considera excepcional apartarse de ella. Y si el profesional discrepa, debe justificar por escrito su decisión.
Formalmente decide una persona. En la práctica, el diseño institucional empuja hacia la aceptación.
Aquí aparece lo que podríamos llamar automatización silenciosa. Nadie ha aprobado una norma diciendo que deba obedecerse al algoritmo. Pero el coste de cuestionarlo es superior al coste de aceptarlo.
Con el tiempo, la recomendación puede convertirse en opción por defecto. Y entonces aparece una peligrosa inversión de la carga de la prueba: ya no tiene que justificarse por qué seguimos la recomendación; debe justificarse por qué nos apartamos de ella.
Una supervisión humana real requiere, por tanto, algo más que autoridad formal. Necesita tiempo, información, competencia, posibilidad efectiva de discrepancia y una cultura organizativa en la que disentir razonadamente del sistema no se considere un error.
También podemos diseñar procesos que protejan el juicio independiente
La influencia de una recomendación no depende únicamente de su contenido. También importa cuándo aparece.
Un experimento de 2026 con futuros docentes comparó distintas secuencias de decisión. Cuando las recomendaciones eran deliberadamente erróneas, quienes habían formulado primero un juicio independiente fueron menos susceptibles a seguirlas. Los autores advierten que se trata de escenarios controlados y que su transferencia a contextos reales requiere más investigación.
Pero la implicación de diseño es interesante. Quizá preservar el criterio profesional no dependa solo de formar al profesor para «pensar críticamente». Puede depender también de diseñar el flujo de trabajo para obligarnos a pensar antes de ver qué piensa la máquina.
- El profesional revisa primero la evidencia disponible.
- Registra una valoración preliminar.
- Consulta después la recomendación algorítmica.
- Compara ambas.
- Si existe una discrepancia relevante, revisa las razones.
- Registra finalmente la decisión.
Eso convierte la supervisión humana en arquitectura del proceso y no únicamente en una declaración de principios.
Pero tampoco debemos caer en la aversión al algoritmo
Hasta aquí podría parecer que la conclusión lógica es desconfiar siempre de las recomendaciones automatizadas. Sería otro error.
El juicio profesional humano tampoco es infalible. Tenemos sesgos, información incompleta, cansancio, exceso de confianza y dificultades para procesar grandes cantidades de datos.
Una investigación publicada en Computers & Education en 2026 estudió cómo utilizaban educadores el consejo algorítmico en una simulación de recomendación educativa. Los participantes tendieron a apoyarse más en su propio juicio, aunque la mayoría utilizó el consejo algorítmico al menos alguna vez.
El objetivo, por tanto, no debería ser conseguir profesionales que obedezcan a la IA. Tampoco profesionales que la ignoren.
Lo deseable es algo bastante más difícil: confianza calibrada.
Confiar cuando existen razones para hacerlo. Dudar cuando existen razones para dudar. Y disponer de suficiente información para distinguir una situación de otra.
No todos los usos educativos de IA tienen el mismo riesgo
También conviene evitar otra simplificación frecuente.
El Reglamento europeo de Inteligencia Artificial no clasifica como alto riesgo cualquier uso de IA en educación.
Su anexo III identifica determinados usos relacionados, entre otros, con acceso o admisión, evaluación de resultados de aprendizaje, determinación del nivel educativo apropiado y seguimiento o detección de comportamientos prohibidos durante exámenes. Por tanto, no puede afirmarse que cualquier sistema de recomendación, alerta temprana o predicción de abandono sea automáticamente de alto riesgo en el sentido jurídico del Reglamento.
La clasificación depende de la finalidad y características concretas del sistema y de las reglas establecidas en la propia norma.
Esta precisión jurídica no reduce la importancia del problema. La refuerza, porque obliga a distinguir dos preguntas: ¿qué exige legalmente el Reglamento a este sistema concreto? y ¿qué garantías educativas necesitamos aunque el sistema no quede jurídicamente clasificado como de alto riesgo?
No todo lo pedagógicamente delicado necesita estar jurídicamente clasificado como «alto riesgo» para merecer cautela.
La transparencia útil no consiste en explicar todas las matemáticas
A veces se responde a estos problemas reclamando «algoritmos explicables». Pero tampoco aquí conviene simplificar.
Un profesor, tutor u orientador no necesita necesariamente conocer todas las operaciones matemáticas realizadas por el modelo. Necesita comprender lo suficiente para utilizar su resultado responsablemente.
Eso significa conocer qué pretende predecir; con qué tipo de datos; para qué población fue validado; qué precisión puede esperarse; qué errores conocidos presenta; si funciona peor con determinados grupos; qué significa exactamente la puntuación; qué consecuencias debe y no debe desencadenar; y cómo puede cuestionarse el resultado.
El AI Act sigue una lógica semejante para los sistemas de alto riesgo: exige transparencia suficiente para interpretar y utilizar correctamente sus resultados e información sobre finalidad, precisión, limitaciones y circunstancias que puedan afectar al rendimiento.
Explicar no significa abrir una caja negra y mostrar miles de parámetros. Significa proporcionar información accionable para una decisión responsable.
Cuando el profesional discrepa, descubrimos quién decide realmente
Existe una prueba bastante sencilla para evaluar la calidad de un sistema de supervisión humana: ¿qué ocurre cuando el profesional dice que no?
Imaginemos que el algoritmo clasifica a una alumna como de alto riesgo. Su tutora conoce información reciente que no aparece en los datos y considera que la alerta está descontextualizada.
¿Puede descartarla? ¿Puede introducir información contradictoria? ¿Queda registrada la discrepancia? ¿Debe justificarla? ¿La decisión profesional tiene el mismo peso que la recomendación automática? ¿Se utiliza esa discrepancia posteriormente para comprobar si el modelo está fallando?
Un sistema donde nadie discrepa puede ser un sistema extraordinariamente preciso. O puede ser un sistema donde discrepar resulta demasiado difícil.
Las discrepancias son también información. Pueden revelar un dato ausente, una circunstancia excepcional, un sesgo, una mala calibración, un cambio en la población o una limitación del modelo.
Una organización madura no debería limitarse a registrar cuándo los profesionales siguen al algoritmo. Debería aprender también de cuándo tienen buenas razones para no hacerlo.
La responsabilidad empieza mucho antes de la decisión final
Decir «la responsabilidad final es del profesor» puede parecer una defensa del criterio profesional. En determinadas circunstancias puede convertirse exactamente en lo contrario.
Si el profesional recibe un sistema que no ha elegido, con variables que no conoce, un umbral que no ha fijado y una recomendación cuya lógica apenas puede interpretar, atribuirle toda la responsabilidad por pulsar el último botón resulta insuficiente.
La responsabilidad comienza antes: alguien decide adquirir la herramienta, define la finalidad, determina qué datos puede utilizar, acepta unas métricas de rendimiento, configura los umbrales, decide quién ve las alertas, diseña la interfaz, establece qué consecuencias puede desencadenar cada resultado y debe comprobar después si funciona como se esperaba.
Por eso la gobernanza de IA no puede reducirse a colocar un humano al final del proceso. Debe abarcar todo el sistema sociotécnico en el que algoritmo, datos, profesionales, normas, interfaz y organización producen conjuntamente la decisión.
Europa está desplazando el debate hacia el juicio profesional
Las conclusiones del Consejo de la Unión Europea de 2026 sobre el profesorado en la era de la inteligencia artificial resultan especialmente relevantes. El documento aborda la agencia y supervisión humanas, la dependencia tecnológica, la responsabilidad, los sesgos y el exceso de confianza, y sitúa el juicio profesional, la autonomía pedagógica y la responsabilidad dentro de una educación centrada en las personas.
No se trata únicamente de una posición defensiva frente a la tecnología. El profesorado puede desempeñar también un papel activo en la evaluación crítica, selección y adaptación contextual de estas herramientas.
La OCDE plantea en 2026 una dirección semejante al abordar la relación entre IA y agencia profesional docente. Y UNESCO viene defendiendo un enfoque centrado en el ser humano que combina regulación, validación ética, diseño pedagógico y desarrollo de capacidades.
El objetivo no consiste en mantener la IA fuera de la educación. Consiste en evitar que su incorporación vacíe progresivamente de contenido la capacidad humana de decidir.
Doce preguntas antes de utilizar una predicción para decidir
Todo lo anterior puede traducirse en una prueba práctica. Antes de permitir que una predicción algorítmica influya en una decisión educativa deberíamos poder responder, como mínimo, a estas cuestiones:
- ¿Qué predice exactamente el sistema? No qué promete comercialmente, sino cuál es la variable concreta que estima.
- ¿Con qué datos lo hace? Qué información utiliza y qué aspectos relevantes de la realidad del alumno quedan necesariamente fuera.
- ¿Para qué población ha sido validado? Un buen rendimiento en otro contexto no garantiza el mismo comportamiento en nuestro alumnado.
- ¿Cómo se equivoca? No basta con conocer su precisión media: necesitamos comprender falsos positivos, falsos negativos y, cuando sea pertinente, diferencias entre grupos.
- ¿Quién ha decidido el umbral? Y qué consecuencias tiene moverlo.
- ¿Qué ocurre después de una alerta? Una predicción sin un protocolo de intervención útil puede limitarse a clasificar personas sin ayudarlas.
- ¿Puede el profesional formar un juicio independiente antes de consultar la recomendación?
- ¿Puede apartarse realmente de ella? No solo formalmente, sino sin barreras organizativas que conviertan la discrepancia en una opción excepcional.
- ¿Queda registrada la discrepancia? Y, sobre todo, ¿se utiliza después para aprender si el sistema estaba equivocado?
- ¿Puede la persona afectada conocer que la IA ha intervenido y cuestionar la decisión cuando corresponda?
- ¿Quién evalúa periódicamente el sistema? Un modelo que funcionaba con una población y unas condiciones determinadas puede dejar de hacerlo.
- ¿Quién responde de todo el proceso? No solo de la última pulsación del botón.
Si un centro no puede responder razonablemente a estas preguntas, quizá todavía no tiene un problema de inteligencia artificial. Tiene un problema de gobernanza.
El verdadero límite no está donde pensábamos
Durante mucho tiempo hemos imaginado una frontera sencilla. A un lado estaría la máquina que recomienda. Al otro, la persona que decide. Mientras el ser humano conserve la última palabra, suponemos que el criterio profesional permanece protegido.
La realidad es bastante más compleja.
Una IA puede no tomar ninguna decisión formal y, sin embargo, determinar qué casos vemos primero, qué consideramos anormal, dónde dirigimos nuestra atención, qué nivel de riesgo aceptamos, qué explicación buscamos y desde qué expectativa empezamos a mirar a una persona.
Por eso preservar el criterio profesional no consiste simplemente en reservar al docente el último clic.
Significa conservar su capacidad para comprender, contextualizar, cuestionar, aportar información que el sistema desconoce y apartarse de su recomendación cuando existan razones para hacerlo. También significa reconocer cuándo una señal algorítmica está mostrando algo que el profesional no había visto.
La buena integración no exige obediencia. Tampoco resistencia. Exige una relación en la que tanto el juicio humano como la predicción automática puedan ser sometidos a contraste.
La inteligencia artificial puede ampliar extraordinariamente nuestra capacidad para detectar patrones y anticipar necesidades. Pero una persona no es únicamente el conjunto de variables que un sistema ha conseguido registrar sobre ella.
Ese quizá sea el límite más importante.
El riesgo no comienza cuando dejamos que una máquina tome la decisión final. Puede comenzar mucho antes: cuando dejamos que determine, sin suficiente examen, qué información consideramos relevante, qué alumno nos preocupa, qué explicación buscamos y desde qué expectativa empezamos a mirarlo.
Fuentes y lecturas
- Reglamento (UE) 2024/1689 de Inteligencia Artificial — EUR-Lex.
- Consejo de la Unión Europea (2026): conclusiones sobre el profesorado en la era de la inteligencia artificial.
- Revisión sistemática sobre sesgos y equidad en algoritmos educativos.
- Estudio sobre sistemas de alerta temprana y umbrales de decisión en educación STEM.
- Estudio experimental sobre señales de detección de IA y evaluación docente.
- Estudio experimental sobre juicio independiente previo y consejo de IA.
- OCDE (2026): Reimagining Teaching in an Accelerating World.
- UNESCO: Guidance for generative AI in education and research.