¿Qué debería hacer un tutor basado en inteligencia artificial cuando una estudiante pide una respuesta para entregar, cuando un docente introduce datos sensibles o cuando la herramienta no encuentra una fuente fiable? La respuesta no empieza por elegir un modelo. Empieza por decidir qué papel tendrá la tecnología y qué responsabilidades seguirán siendo humanas.
Índice
El problema no es solo elegir una herramienta
En educación, una aplicación puede redactar, resumir, traducir o proponer actividades en pocos segundos. Esa capacidad resulta útil, pero también puede desplazar la pregunta importante: si una respuesta es técnicamente posible, ¿es adecuada para aprender? Un tutor IA puede facilitar el acceso a explicaciones y ejemplos, pero también puede entregar soluciones, ocultar errores o convertir una actividad en una secuencia de textos producidos sin comprensión.
La guía de la UNESCO invita a cambiar el punto de partida. En vez de medir el valor de la IA solo por su potencia, conviene analizar cómo afecta a la dignidad, la autonomía, la igualdad, la privacidad y la calidad de la educación. Para un centro o un equipo docente, esto significa definir antes los usos aceptables, los límites y las formas de supervisión.
IDEA CLAVE
Una IA educativa no es más responsable por parecer más inteligente. Lo es cuando ayuda a las personas a comprender, decidir y revisar, y cuando deja claro qué puede hacer y qué no puede garantizar.
Qué aporta un enfoque centrado en las personas
La fuente principal de este artículo es Guidance for generative AI in education and research, publicada por la UNESCO en 2023. Su aportación no consiste en ofrecer una configuración concreta para un chatbot, sino en situar la IA generativa dentro de un marco de derechos, responsabilidades y decisiones pedagógicas.
La primera implicación es que la persona debe conservar capacidad de juicio. El docente no queda reducido a validar respuestas automáticas, y el estudiante no debería quedar convertido en receptor de productos generados. La tecnología puede ampliar el acceso a explicaciones, preguntas y materiales, pero la interpretación, la autoría y la decisión educativa necesitan un contexto humano.
La segunda implicación es la transparencia. Un sistema que recupera documentos, genera una respuesta o combina ambas operaciones debería poder explicarlo de forma comprensible. Cuando no localiza información suficiente, debe decirlo. Cuando existe incertidumbre, debe expresarla. Esta trazabilidad no elimina los errores, pero permite detectarlos y corregirlos.
La tercera es la protección de datos. No basta con preguntar si un servicio es gratuito o si funciona en un servidor propio. Hay que saber qué información se envía, dónde se almacena, quién puede acceder, cuánto tiempo se conserva y qué medidas existen para limitar los daños de una filtración o de un uso indebido.
AVISO
El autoalojamiento puede facilitar el control sobre la infraestructura, pero no equivale a seguridad automática. Siguen siendo necesarias medidas de acceso, actualización, copias, minimización de datos, registro y respuesta ante incidentes.
Del marco de la UNESCO a un tutor IA educativo
La interpretación aplicada a esta serie es concreta: un tutor IA debe acompañar el aprendizaje sin sustituirlo. En una tarea evaluable, puede formular preguntas orientadoras, señalar qué concepto conviene revisar, proponer una fuente o mostrar un ejemplo distinto. No debería entregar sin más el producto que el estudiante tiene que comprender y construir.
En Formación Profesional, esta diferencia se puede observar en actividades como analizar un mercado, interpretar métricas de una tienda en línea o comparar decisiones comerciales. El tutor puede ayudar a ordenar variables y detectar preguntas pendientes. La competencia profesional, sin embargo, sigue estando en justificar una decisión, reconocer sus límites y asumir sus consecuencias.
También conviene separar tres capas. La fuente establece principios y recomendaciones. La interpretación los traduce a criterios de diseño. La aplicación al proyecto los convierte en comportamientos observables: citar el documento recuperado, distinguir recuperación de generación, pedir confirmación en situaciones sensibles y ofrecer pistas graduadas en vez de soluciones completas.
APLICACIÓN AL AULA
Antes de usar un tutor IA, pide al grupo que compare una respuesta automática con una fuente de referencia. La actividad permite trabajar verificación, sesgos, autoría y calidad de la evidencia sin presentar la herramienta como una autoridad.
Límites que deben quedar visibles
Un enfoque humano no convierte la IA en neutral ni elimina la necesidad de supervisión. Los modelos pueden producir afirmaciones plausibles pero incorrectas, reproducir sesgos de los datos y responder de forma desigual según el idioma, el contexto o el perfil de la persona usuaria. Una interfaz amable puede ocultar esa incertidumbre si no incorpora mensajes, controles y hábitos de revisión.
Tampoco existe una única solución técnica para todos los centros. Un servicio externo puede ofrecer más capacidad, pero exigir una evaluación de privacidad y condiciones de uso. Un modelo local puede reducir ciertas transferencias de datos, pero requerir más mantenimiento, recursos y conocimientos. La decisión debe relacionarse con el riesgo, el presupuesto, la competencia del equipo y la finalidad pedagógica.
La agencia humana exige además una política clara de uso. El alumnado necesita saber cuándo puede utilizar IA, cómo debe declarar esa ayuda y qué partes del trabajo deben ser propias. El profesorado necesita criterios para evaluar procesos, no solo resultados finales. Y la institución necesita un canal para comunicar errores, revisar prácticas y modificar las reglas cuando cambien las herramientas.
Diseñar antes de desplegar
La lección práctica de la UNESCO es que la arquitectura viene después del propósito. Antes de instalar un modelo o conectar un repositorio documental, hay que definir qué aprendizaje se quiere apoyar, qué datos son imprescindibles, qué fuentes se consideran válidas y qué decisiones no se delegarán.
Para esta serie, el criterio queda resumido en cuatro preguntas: ¿protege el sistema la privacidad necesaria?, ¿hace visibles sus fuentes y límites?, ¿aumenta la capacidad de actuar de docentes y estudiantes?, ¿se ajusta a la tarea y al contexto curricular? Si una respuesta es negativa, añadir más potencia no resuelve el problema.
- Privacidad: ¿se usan solo los datos necesarios y con controles comprensibles?
- Transparencia: ¿se muestran las fuentes, la incertidumbre y los límites de la respuesta?
- Agencia: ¿la interacción ayuda a pensar y revisar sin sustituir la autoría?
- Adecuación: ¿el uso responde a una finalidad educativa y a un contexto curricular concreto?
Un tutor que amplía el criterio educativo
Diseñar un tutor IA centrado en las personas no significa rechazar la tecnología. Significa colocarla en el lugar adecuado: como apoyo contextualizado, revisable y subordinado a una finalidad educativa. La UNESCO aporta el marco; el proyecto debe convertirlo en decisiones verificables sobre datos, fuentes, interacción, evaluación y responsabilidad.
Antes de preguntar qué modelo usar, conviene preguntar qué queremos proteger y qué capacidades queremos que sigan creciendo en las personas.
Fuente principal
UNESCO. (2023). Guidance for generative AI in education and research. https://doi.org/10.54675/EWZM9535
SERIE TUTORIA
Esta publicación forma parte de la serie Diseñar un tutor IA educativo con criterio, dedicada a los principios éticos, pedagógicos y técnicos que orientan el desarrollo de TutorIA.
Juan Armada Blanco
Profesor de Formación Profesional en Comercio y Marketing. Escribo sobre comercio digital, WordPress, inteligencia artificial y tecnología aplicada al aula, a partir de proyectos, experiencias y recursos que utilizo en mi trabajo docente.