El uso de la IA en la educación: decidir el futuro que queremos

Los educandos y los docentes utilizan sin duda la IA con diferentes fines: para crear, para escribir, para programar y mucho más. La IA proporciona nuevas vías que permiten explorar y buscar ayuda sobre determinados temas, aunque también proporciona accesos rápidos. 

En la mayoría de los exámenes estandarizados los nuevos sistemas de IA generativa con grandes modelos lingüísticos obtienen mejores puntuaciones que la media de los estudiantes y, a menudo, se sitúan en el décimo o incluso en el primer rango porcentual. Esto es algo que obliga a los sistemas escolares a replantearse los modos de evaluación normales y que impulsará innovaciones en la manera de medir el aprendizaje. En otras palabras, se trata de replantear la manera en que aprendemos y enseñamos y, en consecuencia, cómo se enseña a los educandos y qué es lo que éstos deberán priorizar.

Pero a pesar de todos estos usos, los beneficios que la tecnología puede proporcionar permanecen en gran medida en el ámbito de la esperanza y la expectativa. Aún no existen pruebas sólidas que permitan afirmar que aplicaciones de IA generativa como ChatGPT mejoran los rendimientos en el aprendizaje. 

La IA se suele considerar como una herramienta que permite crear experiencias de aprendizaje personalizadas. Confiamos en este potencial, pero también creemos que la educación es un esfuerzo colectivo y social, y los centros educativos son el lugar donde los niños socializan y aprenden a convivir.

Además de apoyar la enseñanza y el aprendizaje, la IA se utiliza para automatizar diversas tareas administrativas, como la calificación y el control de la asistencia y el rendimiento. Esta evolución podría aliviar la carga administrativa de los docentes y, si es gestionada cuidadosamente por operadores bien formados y cualificados, puede suponer un progreso positivo. Al mismo tiempo, el FMI ha dado la voz de alarma sobre el riesgo de que el 60% de los nuevos puestos de trabajo sean sustituidos y/o puedan verse afectados por la IA en un futuro próximo. Por ello, nuestro lema es “dirigir la tecnología para que no sea ella quien nos dirija”. En cualquier ámbito, tenemos que permanecer abiertos a la innovación y debemos prepararnos bien en lugar de quedarnos estancados en una posición defensiva frente al futuro.

Tenemos que plantearnos de manera abierta preguntas tan difíciles como: ¿Debería utilizarse la IA para decidir las admisiones universitarias? ¿Para leer y anotar los trabajos de los educandos? ¿Para indicarles sus puntos fuertes y débiles? ¿Para ayudar a los estudiantes mientras se examinan (como ocurre ahora con las calculadoras y los procesadores de texto)? La madre de todas estas preguntas es quién decide qué y con qué propósito, y es ahí en donde interviene la visión de la UNESCO: la tecnología no es neutral y debe ser dirigida por nuestro albedrío. La tecnología en nuestros términos se aplica bajo nuestras condiciones, como se pone de relieve en nuestra última edición del Informe de Seguimiento de la Educación en el Mundo, centrado en la tecnología en la educación. 

Las ventajas que proporciona la IA no siempre merecen la pena. Por ejemplo: no hay duda de que los sistemas de IA pueden leer y responder al trabajo de los estudiantes con mayor rapidez y eficacia que los docentes en carne y hueso. Pero, ¿qué pasa con la calidad de estas respuestas? Este es el planteamiento en el que a los gobiernos y asociados de la UNESCO hacemos hincapié regularmente.

También se ven luces y maneras positivas de aplicar la IA. Esto es especialmente cierto en la investigación relativa a los grandes conjuntos de datos, que ya arroja apasionantes avances. Las herramientas de IA, por citar sólo un ejemplo, han facilitado el trabajo para modelizar casi todas las proteínas conocidas por la ciencia. Estas son muy buenas noticias, pues nos muestra lo que es posible lograr cuando los humanos utilizan la IA para el bien y mantienen un cuidadoso seguimiento de la tecnología.

La aplicación de la IA en la educación varía enormemente de un país a otro, lo que suele reflejar las disparidades ya existentes en cuanto a la infraestructura tecnológica, la financiación, el apoyo político y los niveles de alfabetización digital. Los países desarrollados y ricos pueden contar con una infraestructura tecnológica más sólida, así como con un ecosistema de innovación que incluye al sector privado. Este ecosistema apoya a las escuelas y universidades para que lideren los experimentos relativos a la IA en la educación. Pero no es el caso en el Sur Global y, en términos generales, en los países en vías de desarrollo, que deben hacer frente a desafíos fundamentales relacionados sobre todo con los requisitos previos básicos para que la tecnología sea funcional con miras a obtener una educación de calidad, desde la infraestructura hasta la electricidad.

En este contexto, veo dos prioridades fundamentales para que la tecnología pueda cumplir con su propio cometido a largo plazo de “dar el salto” para todos. En primer lugar, se trata de garantizar que las inversiones puedan colmar realmente la brecha digital existente, en términos de conectividad, contenidos y capacidad. Más de la mitad del mundo sigue sin acceso a la conexión, mientras que la otra mitad está desarrollando la futura generación de herramientas de IA gracias a una inversión sin precedentes de los sectores público y privado. Por otro lado, las capacidades humanas serán decisivas a la hora de dirigir la revolución tecnológica. Por eso, las capacidades digitales de docentes y estudiantes deben ser prioritarias en el desarrollo de los planes de estudio, y la alfabetización digital debe formar parte de las competencias básicas que todos los ciudadanos deben tener en el futuro, independientemente de su edad, nivel educativo y posición social.    

En segundo lugar, debemos centrarnos en la inclusión. En la UNESCO trabajamos para garantizar que la tecnología de la IA mejore las oportunidades educativas para todos y contribuya a colmar la brecha ya existente en lugar de aumentarla.     

Aunque la tecnología no es neutral, como ya se ha mencionado, la toma de decisiones es y seguirá siendo nuestra responsabilidad como seres humanos. Podemos decidir qué tipo de futuro queremos, y esto requiere un cambio radical en nuestras relaciones con la naturaleza, la tecnología y entre nosotros mismos. En lo que respecta a la tecnología, incluida la IA generativa, podemos decidir liberar el potencial, tomándonos más en serio la ética, la seguridad y la inclusión o intentando protegernos a nosotros y a nuestro futuro de la tecnología, prohibiendo e intentando ganar tiempo. Sin duda, la IA proporciona oportunidades innovadoras que permiten enriquecer y transformar las experiencias educativas. Pero mientras lo hacemos, será crucial dar prioridad a las consideraciones éticas y a la preservación de la educación como un empeño social y centrado en el ser humano. En otras palabras, se trata de encontrar el justo equilibrio entre el fanatismo ciego y la inacción absoluta, y soy prudentemente optimista al respecto.  En la UNESCO somos firmes partidarios de que los docentes deben dirigir en gran medida la utilización de la IA en las aulas, velando por que se ajuste a los objetivos pedagógicos y a las normas éticas y a que sea de la manera adecuada según contextos y culturas que varían enormemente dentro de los propios países y también entre ellos. 

Las líneas rojas se refieren a la protección de la privacidad y los datos personales, que no se pueda manipular a los estudiantes usuarios y que se mantenga un enfoque constante en lo relativo a la seguridad, especialmente para los niños que terminan la enseñanza obligatoria. Las escuelas deben ser seguras tanto en su entorno digital como en el físico, y reflejar el reconocimiento de que los estudiantes atraviesan constantemente por estas etapas.

La reciente guía para el uso de la IA en la educación publicada por la UNESCO y su más amplia Recomendación sobre la ética de la inteligencia artificial, giran en torno a la necesidad de garantizar el uso ético de la IA y prevenir los sesgos, especialmente en las interacciones con menores. Debería establecerse un límite de edad de 13 años para el uso de herramientas de IA en las aulas y pedir la a los docentes que estén formados sobre este tema.

Por último, nuestra reciente publicación “La tecnología: ¿una tragedia para la educación?” puso de relieve los peligros que representa el uso no regulado de la tecnología en la educación en su análisis de las modalidades de tecnología educativa en el aprendizaje utilizadas durante la pandemia de COVID-19. 

Un objetivo fundamental de la educación es ayudar a los jóvenes a tener conocimientos, conciencia y, en consecuencia, comportamientos que les permitan vivir en armonía entre sí, con el planeta y con la tecnología. La consecución de estos objetivos requiere orientación e instrucción humanas, algo que la tecnología puede ayudar a que se lleve a cabo de manera más eficaz.   

La mejor manera de conseguirlo es utilizar la IA como herramienta para complementar, y no para sustituir, los elementos humanos de la enseñanza. Los buenos docentes y mentores humanos desempeñan un poderoso papel a la hora de ayudar a los educandos a descubrir sus puntos fuertes a nivel personal y a desarrollar su potencial. Proporcionan orientación y apoyo sensibles a cada alumno y que prestan atención a las particularidades de los contextos en que cada alumno aprende y vive. 

A menudo se pretende que la IA es consciente del contexto, pero, fuera de las tareas limitadas, su aporte es limitado si se le compara con la conciencia que los docentes pueden aportar a las aulas en cuanto a la comunidad y la cultura locales.

De cara al futuro, necesitamos enfoques equilibrados en los que la IA apoye los procesos educativos, al mismo tiempo que mantenga a los seres humanos al mando.

En la UNESCO proponemos ideas para orientar la IA de manera que aumente la autonomía de los educandos y amplíe las opciones pedagógicas a su disposición, adaptándose mejor a sus necesidades de aprendizaje.

Es comprensible que los padres estén preocupados, sobre todo teniendo en cuenta el vacío normativo y político en torno al uso de la IA en la educación y otros ámbitos. 

Dicho esto, yo recomendaría e incitaría a los padres a que no se conviertan en observadores pasivos de la rápida evolución de la IA y que no se pongan a la defensiva, sino a que participen con los niños, cuando sea factible, utilizando aplicaciones de IA para el aprendizaje y otros fines. Esto garantiza el seguimiento de un adulto y puede ayudar a los niños a comprender con más matices los puntos fuertes y las limitaciones de la nueva tecnología, una valiosa habilidad para la vida por derecho propio. El miedo por sí solo no constituye una perspectiva adecuada.

La normativa sobre IA que está tomando forma en la Unión Europea representa un comienzo prometedor para regular el uso de la IA, también en el sector educativo. Estas regulaciones son un paso adelante con miras a maximizar las oportunidades y a minimizar los desafíos y peligros que plantean las tecnologías de IA, al tiempo que la ley de la UE sienta las bases para normativas de IA más específicas para cada sector, que son claramente pertinentes en el ámbito de la educación. Observamos que la UE ha clasificado de manera acertada la educación como un ámbito de “alto riesgo” de la IA.

Creo que es prudente considerar estas normativas como iterativas, del mismo modo que los innovadores ven la tecnología. Los reguladores deben ser tan audaces como los propios creadores de tecnología. Las normativas del pasado no son suficientes para nuestra era de desarrollo tecnológico acelerado.

En general, me siento alentada por el hecho de que muchos gobiernos estén actuando actualmente con más rapidez para fijar límites a la IA que con respecto a tecnologías digitales anteriores, concretamente mediante la Recomendación sobre la ética de la IA de la UNESCO, que se anticipó en 2021 a la ley de la UE como el primer marco global en esta materia.

La IA está configurando el futuro del mundo y por esto debe ser considerada y regulada como una cuestión global.