Una inteligencia artificial que se niega a hacerte la tarea

La nueva generación de herramientas educativas de inteligencia artificial empieza a hacer algo inesperado: negarse a dar la respuesta. Detrás de ese cambio hay una pregunta mucho más importante para los colegios: ¿cómo utilizar una tecnología diseñada para ayudarnos sin permitir que sustituya el esfuerzo necesario para aprender?

Durante los últimos tres años, buena parte de la discusión sobre inteligencia artificial en educación se ha concentrado en lo que estas herramientas son capaces de hacer. Resolver un problema, resumir un libro, redactar un ensayo, explicar una ecuación o producir en segundos algo que antes requería horas de trabajo.

El 23 de octubre, Orange presentó en España una herramienta que parte de una idea diferente. MentorIA no pretende demostrar cuánto puede responder una inteligencia artificial, sino decidir deliberadamente qué respuestas no debería entregar.

Una IA diseñada para no resolverlo todo

MentorIA es una plataforma educativa desarrollada específicamente para estudiantes de entre 14 y 18 años. En su primera etapa está disponible para alumnos de 4.º de ESO en Historia y Biología, después de una prueba piloto realizada en tres colegios de la Comunidad de Madrid.

La diferencia importante está en cómo interactúa con el alumno. Frente al modelo habitual de un chatbot al que formulamos una pregunta y del que esperamos una respuesta, MentorIA utiliza un enfoque inspirado en el método socrático: plantea preguntas, proporciona pistas y guía al estudiante para que avance hacia una respuesta sin entregársela directamente.

El concepto puede parecer contradictorio. Hemos dedicado enormes recursos a construir máquinas capaces de responder cada vez mejor y ahora empezamos a diseñar algunas precisamente para que no respondan demasiado.

Pero esa aparente contradicción apunta a uno de los problemas centrales de la inteligencia artificial educativa.

Resolver una tarea no es lo mismo que aprender a resolverla.

Cuando obtener mejores resultados produce peor aprendizaje

Ya existe evidencia que permite entender por qué esta diferencia importa.

Un experimento realizado con casi mil estudiantes de secundaria comparó el desempeño de alumnos que utilizaban dos tipos diferentes de tutores basados en GPT-4. Uno funcionaba de manera relativamente similar a un chatbot convencional; el otro incorporaba salvaguardas pedagógicas diseñadas para favorecer el aprendizaje.

Mientras tenían acceso a la inteligencia artificial, ambos grupos mejoraron considerablemente su desempeño. El problema apareció cuando la herramienta desapareció.

Los estudiantes que habían utilizado la versión sin restricciones obtuvieron posteriormente resultados inferiores a quienes nunca habían tenido acceso a la IA. La herramienta les había ayudado a resolver mejor los problemas mientras estaba presente, pero parte de esa mejora no se había convertido en aprendizaje independiente.

El resultado no demuestra que utilizar inteligencia artificial perjudique el aprendizaje. De hecho, otros experimentos han encontrado resultados muy prometedores con tutores de IA cuidadosamente diseñados. Un ensayo controlado realizado en Harvard encontró que estudiantes universitarios aprendieron más en menos tiempo utilizando un tutor basado en IA que mediante una clase de aprendizaje activo sobre el mismo contenido.

La diferencia fundamental parece estar cada vez menos en una pregunta binaria —utilizar IA o no utilizarla— y cada vez más en cómo está diseñada la interacción entre el estudiante y la máquina.

MentorIA entra precisamente en esa conversación.

Todavía no disponemos de evidencia pública suficiente para afirmar que su implementación produzca mejores resultados educativos. Tres colegios piloto y una valoración positiva constituyen un comienzo, no una demostración.

Pero la dirección que propone merece atención: utilizar la inteligencia artificial como andamiaje del pensamiento en lugar de como sustituto.

El director ya no puede limitarse a decidir qué herramienta comprar

Para un colegio, esto cambia considerablemente la naturaleza de la decisión tecnológica.

Hace algunos años, evaluar una plataforma educativa podía consistir principalmente en revisar precio, funcionalidades, facilidad de implementación, privacidad y compatibilidad con los sistemas existentes. Con inteligencia artificial aparece otra pregunta que es fundamentalmente pedagógica: ¿qué comportamiento queremos que esta herramienta provoque en el alumno?

Dos sistemas construidos sobre tecnologías similares pueden producir experiencias educativas radicalmente diferentes. Uno puede entregar inmediatamente una respuesta correcta; otro puede hacer una pregunta que obligue al estudiante a recuperar conocimientos, formular una hipótesis, equivocarse y volver a intentarlo.

Desde la perspectiva administrativa, ambos pueden clasificarse como herramientas de IA.

Desde la perspectiva educativa, no son equivalentes.

Esto obliga a los equipos directivos a ampliar sus criterios. La seguridad y la protección de datos siguen siendo indispensables, pero una herramienta puede ser técnicamente segura y pedagógicamente deficiente. También puede ser pedagógicamente prometedora y no encajar con la edad, el currículo o las capacidades de los profesores que deberán utilizarla.

El Reino Unido ofrece un ejemplo útil de cómo empieza a evolucionar esta discusión. Sus estándares de seguridad para productos de IA generativa destinados a educación ya incorporan consideraciones sobre desarrollo cognitivo, desarrollo social y emocional, salud mental y manipulación. No son normas mexicanas ni deberían presentarse como tales, pero muestran cómo la evaluación de tecnología educativa empieza a ir más allá de preguntarse simplemente si el software funciona.

La pregunta para un director deja entonces de ser “¿tenemos inteligencia artificial?” y se convierte en algo bastante más exigente:

¿Sabemos por qué la estamos utilizando?

El profesor sigue siendo la pieza que no podemos automatizar

MentorIA incorpora otra decisión relevante: el profesor puede crear aulas virtuales, hacer seguimiento del progreso y personalizar contenidos. La tecnología no se plantea como un espacio independiente del docente, sino como una herramienta que forma parte de una estructura pedagógica.

Esto importa porque la adopción está avanzando mucho más rápido que la preparación.

El Educator Confidence Report 2026 de HMH, basado en una encuesta a 1,200 educadores K–12 en Estados Unidos, encontró que 80% ya incorpora herramientas de inteligencia artificial a su trabajo. En 2023 lo hacía apenas 10%.

Sin embargo, el crecimiento en uso no ha producido un crecimiento equivalente en capacidad. El 87% de los docentes encuestados dice sentirse seguro de que utiliza la IA de manera efectiva para su propia enseñanza, pero solo 62% considera que sabe qué enseñar a sus alumnos para prepararlos para un mundo atravesado por inteligencia artificial.

Esa diferencia de 25 puntos merece atención.

Saber utilizar ChatGPT para preparar una clase no significa saber enseñar a un adolescente cuándo debería utilizarlo, cómo verificar lo que produce, cuándo una ayuda se convierte en sustitución o qué parte del trabajo intelectual necesita realizar por sí mismo.

La capacitación docente, por tanto, no puede reducirse a enseñar prompts.

Necesitamos profesores capaces de tomar decisiones pedagógicas sobre inteligencia artificial.

Y después vienen las familias

Para los padres, la situación puede resultar todavía más confusa.

Reciben simultáneamente mensajes sobre alumnos que utilizan ChatGPT para evitar hacer tareas, herramientas capaces de personalizar el aprendizaje, riesgos para el pensamiento crítico y promesas de tutores disponibles las veinticuatro horas.

Ante esa incertidumbre, los colegios pueden caer fácilmente en dos extremos. Uno consiste en prometer beneficios que todavía no pueden demostrar. El otro, en presentar la restricción como sinónimo de seguridad.

Ninguno genera confianza sostenible.

Una familia no necesita que el colegio garantice que la inteligencia artificial será siempre segura o que mejorará inevitablemente el aprendizaje. Necesita entender qué herramientas están permitidas, para qué se utilizan, qué información procesan, qué papel conserva el profesor y qué hace la institución cuando aparece un problema.

Sobre todo, necesita percibir que existe un criterio detrás de las decisiones.

Decir “utilizamos IA porque es el futuro” es insuficiente.

Decir “prohibimos IA porque puede utilizarse mal” también lo es.

Gobernanza, capacidad y confianza

El lanzamiento de MentorIA es interesante no porque haya resuelto el problema de la inteligencia artificial educativa. Todavía tiene que demostrar que su propuesta produce los resultados que promete.

Lo interesante es el cambio de pregunta que representa.

La primera generación de IA generativa nos impresionó demostrando todo lo que podía hacer por nosotros. La siguiente empieza a enfrentarse a una pregunta bastante más difícil: qué cosas debería ayudarnos a seguir haciendo por nosotros mismos.

Para un colegio, esa pregunta atraviesa tres niveles diferentes.

La dirección necesita gobernanza: saber qué herramientas existen, quién las autoriza, qué riesgos presentan y bajo qué criterios se revisan.

Los docentes necesitan capacidad: saber cuándo la IA aporta valor, cómo integrarla pedagógicamente y cuándo evitarla.

Y las familias necesitan confianza: comprender las decisiones de la institución sin recibir promesas de seguridad absoluta ni beneficios que todavía no pueden demostrarse.

Un colegio puede tener excelentes profesores y una gobernanza tecnológica deficiente. Puede adquirir una herramienta técnicamente segura y utilizarla pedagógicamente mal. Y puede tomar decisiones perfectamente razonables y perder la confianza de las familias porque nunca explicó por qué las tomó.

Por eso medir la madurez tecnológica de una institución por el número de herramientas que utiliza empieza a tener cada vez menos sentido.

Quizá deberíamos medirla por la calidad de las decisiones que es capaz de tomar sobre ellas.

La pregunta que deberíamos hacer antes de introducir una IA

En Interdependencia partimos precisamente de esa idea. Con Mentat Signals buscamos ayudar a los colegios a entender cómo están utilizando inteligencia artificial en la práctica, contrastar lo que dicen sus políticas con lo que ocurre entre directivos, docentes, alumnos y familias, e identificar dónde existen contradicciones, riesgos y oportunidades de mejora.

No se trata de recomendar más inteligencia artificial.

Tampoco de recomendar menos.

Se trata de que una institución pueda justificar cada decisión relevante con evidencia, propósito y criterio, incluida la decisión de no utilizar una herramienta.

MentorIA tendrá que demostrar con el tiempo si su propuesta cumple lo que promete. Pero la pregunta que plantea ya merece quedarse con nosotros.

Antes de incorporar la próxima herramienta de inteligencia artificial a un colegio, quizá no deberíamos empezar preguntando qué puede hacer.

Deberíamos empezar preguntando qué queremos que el alumno siga siendo capaz de hacer cuando la herramienta ya no esté ahí.