Utilisation de l’IA dans l’éducation : décider de l’avenir que nous voulons

Les élèves et les enseignants utilisent l’IA à des fins diverses : pour mettre en forme leurs idées, pour écrire, pour faire de la programmation et bien plus encore. Cette technologie offre de nouvelles possibilités pour explorer des sujets variés et trouver de l’aide, mais elle propose aussi des raccourcis. 

Les nouveaux systèmes d’IA générative basés sur de grands modèles de langage obtiennent ainsi de meilleurs résultats que les élèves moyens dans la plupart des tests standardisés, et leurs scores figurent souvent parmi les 10 %, voire les 1 %, de résultats les plus élevés. Cela force les systèmes éducatifs à revoir les modes d’évaluation habituels, ce qui va sans doute amener des innovations dans l’évaluation de l’apprentissage. En d’autres termes, nous allons devoir repenser la manière dont nous apprenons et nous enseignons et, par conséquent, la manière dont les élèves sont formés et les priorités qu’ils sont encouragés à définir. 

Néanmoins, malgré toutes les utilisations possibles de l’IA, ses bénéfices restent largement de l’ordre de l’espoir et de l’attente. Il n’a pas encore été prouvé de manière concluante que les applications d’IA générative comme ChatGPT peuvent améliorer les résultats de l’apprentissage. 

L’IA est souvent présenté comme un outil permettant de personnaliser les expériences d’apprentissages. Nous croyons en son potentiel, mais nous pensons aussi que l’éducation est une démarche collective et sociale, et que les écoles doivent être des lieux de socialisation où les enfants apprennent à vivre ensemble. 

En plus de soutenir l’enseignement et l’apprentissage, l’IA est utilisée pour automatiser différentes tâches administratives, comme la notation des copies et le suivi de l’assiduité et de la performance des élèves. Cette innovation peut alléger la charge administrative des enseignants et, si elle est gérée avec soin par des opérateurs qualifiés et bien formés, constituer un vrai progrès. Cependant, le FMI alerte sur le risque que 60 % des nouveaux emplois soient remplacés ou lourdement affectés par l’IA dans un avenir proche. C’est pourquoi notre devise est « être aux commandes de la technologie pour ne pas être commandés par elle ». Quel que soit le domaine concerné, nous devons être ouverts à l’innovation et bien préparés plutôt que rester sur une approche défensive opposée au progrès. 

Nous ne devons pas hésiter à nous poser des questions difficiles, par exemple : l’IA doit-elle être utilisée pour décider des admissions à l’université ? Pour lire et évaluer les dissertations des élèves ? Pour déterminer les points forts et les points faibles des élèves ? Pour aider les élèves pendant leurs devoirs et leurs examens (comme c’est déjà souvent le cas avec les calculatrices et les logiciels de traitement de texte) ? La question la plus importante est de savoir qui décide des buts dans lesquels l’IA est utilisée, et c’est là que la vision de l’UNESCO entre en jeu : la technologie n’est pas neutre, et c’est nous qui devons définir son orientation. Nous devons être aux commandes des technologies, comme le souligne la dernière édition du Rapport mondial de suivi sur l’éducation, qui s’intéresse aux technologies dans l’éducation. 

Les gains d’efficacité permis par l’IA ne justifient pas toujours les compromis qu’ils exigent de faire. Par exemple, il ne fait aucun doute que les systèmes d’IA peuvent lire et évaluer le travail d’un élève plus vite et plus efficacement que les enseignants humains. Mais qu’en est-il de la qualité de cette évaluation ? C’est cette approche critique que l’UNESCO invite régulièrement les gouvernements et les partenaires à suivre. 

Bien sûr, nous voyons aussi les bons côtés et les applications positives de l’IA, en particulier en ce qui concerne les recherches scientifiques impliquant de grands ensembles de données, un domaine dans lequel nous observons déjà des avancées encourageantes. Pour ne citer qu’un exemple, des outils d’IA ont aidé à modéliser presque toutes les protéines connues. C’est une excellente nouvelle ! Cela montre ce qu’il est possible de réaliser lorsque les humains utilisent l’IA pour le bien commun tout en encadrant rigoureusement cette technologie. 

L’application de l’IA dans l’éducation varie énormément selon les pays et reflète généralement les disparités existantes en matière d’infrastructure technologique, de financement, de soutien politique et de niveau d’alphabétisation numérique. Les pays développés et riches peuvent s’appuyer sur une infrastructure technologique plus solide ainsi que sur un écosystème favorable à l’innovation, qui inclut le secteur privé. C’est cet écosystème qui aide les écoles et les universités à mener des expérimentations avec l’IA dans l’éducation. Mais la situation est très différente dans les pays du Sude et plus généralement dans les pays en développement. Ceux-ci font face à d’importantes difficultés principalement liées au fait qu’ils ne disposent pas des prérequis nécessaires, que ce soit en matière d’infrastructure ou d’accès à l’électricité, pour permettre à la technologie de soutenir une éducation de qualité. 

Dans ce contexte, je vois se dégager deux priorités pour que la technologie tienne sa vieille promesse de permettre à tous de faire un « bond en avant ». Premièrement, il faut s’assurer que les investissements comblent réellement le fossé numérique existant en matière de connectivité, de contenu et de capacité. Alors que la moitié du monde est en train de développer la nouvelle génération d’outils d’IA grâce à des investissements sans précédent des secteurs publics et privés, l’autre moitié est toujours hors ligne. Par ailleurs, les capacités humaines seront déterminantes pour guider la révolution technologique. C’est pourquoi il faut donner la priorité aux compétences numériques des enseignants et des apprenants dans la conception des programmes d’enseignement. En outre, l’alphabétisation numérique devrait à l’avenir faire partie des compétences de base que tous les citoyens possèdent, quel que soit leur âge, leur niveau d’éducation ou leur position sociale. 

Deuxièmement, nous devons nous concentrer sur l’inclusion. À l’UNESCO, nous œuvrons pour que la technologie de l’IA améliore les perspectives éducatives pour tous et toutes et contribue à combler, plutôt qu’à creuser, les écarts existants.   

Bien que comme je l’ai déjà dit, la technologie ne soit pas neutre, la prise de décisions est et restera notre responsabilité en tant qu’humains. Nous pouvons décider de l’avenir que nous voulons, mais cela suppose une transformation radicale de notre rapport à la nature, aux technologies et aux autres. En ce qui concerne les technologies, notamment l’IA générative, nous pouvons essayer de nous protéger de la technologie et de l’exclure de notre avenir en interdisant et en essayant de gagner du temps, ou nous pouvons décider de libérer leur potentiel tout en veillant au respect des principes d’éthique, de sécurité et d’inclusion. Il ne fait pas de doute que l’IA présente des possibilités novatrices pour enrichir et transformer les expériences éducatives. Mais tandis qu’elle est déployée dans l’éducation, il est crucial de penser en priorité aux considérations éthiques que cela entraîne et à la préservation de l’éducation en tant que démarche sociale et collective. En d’autres termes, il s’agit de trouver un équilibre entre le fanatisme aveugle et l’inaction totale. Je suis plutôt optimiste à ce sujet. À l’UNESCO, nous défendons fermement l’idée selon laquelle les enseignants humains doivent déterminer en grande partie les utilisations de l’IA en classe, pour s’assurer que ces utilisations sont conformes aux objectifs pédagogiques et aux normes éthiques et qu’elles sont appropriées pour des contextes et des cultures qui varient énormément d’un pays ou même d’une région à l’autre. 

Les lignes rouges concernent la protection de la vie privée et des données à caractère personnel, la non-manipulation des élèves utilisateurs, et une position inflexible en matière de sécurité, en particulier celles des enfants qui suivent leur scolarité obligatoire. Les écoles doivent être sûres tant dans leurs espaces physiques que dans leurs espaces numériques. Elles doivent aussi tenir compte du fait qu’aujourd’hui, les élèves passent constamment des uns aux autres. 

Le récent guide de l’IA dans l’éducation de l’UNESCO ainsi que sa Recommandation sur l’éthique de l’intelligence artificielle, à la portée plus globale, soulignent la nécessité de veiller à une utilisation éthique de l’IA et de prévenir les biais, en particulier dans les interactions des mineurs avec cette technologie. Par conséquent, un seuil d’âge devrait être fixé à 13 ans pour l’utilisation d’outils d’IA en classe, et les enseignants devraient recevoir des formations à ce sujet. 

Enfin, notre récente publication, Un drame des technologies de l’éducation ? a mis en lumière, dans sa critique des modes d’apprentissage à distance mis en place pendant la pandémie de COVID­19, les dangers d’une utilisation non réglementée des technologies dans l’éducation. 

Un des objectifs principaux de l’éducation est d’aider les jeunes à acquérir les connaissances, la sensibilité et les comportements nécessaires pour vivre en harmonie avec les autres, la planète et les technologies. Sa réalisation nécessite une supervision et un enseignement humains, que les technologies peuvent toutefois rendre plus efficace. 

Le mieux est donc d’utiliser l’IA comme outil pour compléter, plutôt que remplacer, les éléments humains de l’enseignement. Les enseignants et les mentors humains qualifiés ont un rôle important à jouer pour aider les apprenants à découvrir leurs atouts personnels et à exploiter pleinement leur potentiel. Ils offrent des conseils et un soutien adaptés à chaque élève et connaissent les contextes spécifiques dans lesquels les élèves apprennent et vivent. 

On entend souvent dire que l’IA tient compte du contexte, mais en dehors de tâches très étroitement délimitées, elle fait pâle figure comparée à la sensibilité que les enseignants apportent en classe concernant les communautés et les cultures locales. 

À l’avenir, nous devrons suivre des approches équilibrées, dans le cadre desquelles l’IA soutient les processus éducatifs tout en laissant le plein contrôle aux humains. 

À l’UNESCO, nous proposons des idées pour orienter l’IA de manière à renforcer l’autonomie des apprenants et à élargir les options pédagogiques qui leur sont proposées afin de mieux s’adapter aux besoins d’apprentissage de chacun. 

Il est tout à fait naturel que les parents s’inquiètent, surtout au vu du vide réglementaire et politique qui entoure généralement l’utilisation de l’IA dans l’éducation et dans d’autres domaines. 

Cela dit, je leur conseillerais de ne pas observer passivement l’évolution rapide de l’IA en étant sur la défensive, mais plutôt de guider l’utilisation qu’en font leurs enfants en utilisant des applications d’apprentissage ou autres, lorsque cela est possible. Ainsi, leurs enfants bénéficieront d’une supervision par des adultes et pourront acquérir une compréhension plus fine des points forts et des limites des nouvelles technologies, ce qui est en soi une compétence précieuse. La peur ne peut pas être le seul prisme par lequel aborder le sujet de l’IA dans l’éducation. 

Le règlement sur l’IA en cours d’adoption dans l’Union européenne représente une étape prometteuse vers la réglementation de l’utilisation de l’IA, notamment dans le secteur de l’éducation. C’est une initiative positive pour décupler les possibilités tout en limitant les problèmes et les risques posés par la technologie de l’IA. Elle jette les bases qui permettront la formulation de réglementations par secteur, dont nous avons clairement besoin en ce qui concerne l’éducation. De plus, l’UNESCO se félicite du fait que l’UE a, à raison, catégorisé comme « à haut risque » les systèmes d’IA utilisés dans le domaine de l’éducation. 

Je pense qu’il est prudent de considérer que ces réglementations sont itératives, comme le sont les technologies aux yeux des innovateurs. Les régulateurs doivent faire preuve d’autant d’audace que les créateurs des technologies qu’ils réglementent. À notre époque d’accélération constante des avancées technologiques, les réglementations ponctuelles et définitives du passé ne suffisent plus. 

De manière générale, je me réjouis de voir que de nombreux gouvernements ont réagi plus vite pour établir des garde-fous autour de l’IA qu’ils ne l’avaient fait pour d’autres technologies antérieures. Ils respectent ainsi la Recommandation sur l’éthique de l’intelligence artificielle, qui prévoyait déjà en 2021 que la loi sur l’IA de l’UE serait le premier cadre international sur ce sujet. 

L’IA influe sur l’avenir du monde, et elle doit donc être considérée et réglementée en tant que question mondiale.