RAPPORT sur l’intelligence artificielle dans les domaines de l’éducation, de la culture et de l’audiovisuel

EXPOSÉ DES MOTIFS

«Je pense, néanmoins, qu’à la fin du siècle l’usage des mots et l’opinion générale éduquée auront tellement évolué qu’on pourra parler de machines pensantes sans s’attendre à être contredit.»

Alan Turing, 1947

Ces dix dernières années ont vu l’IA se transformer, suscitant à la fois la crainte et l’enthousiasme pour l’humanité. L’intelligence artificielle, perçue comme «la nouvelle électricité», a progressé jusqu’au point d’avoir un tel impact systémique qu’elle pourrait modifier en profondeur tous les aspects de la société pour le siècle à venir.

S’il est facile de comprendre les effets potentiels de l’IA dans des secteurs tels que les télécommunications, les transports, la gestion du trafic ou la santé, il est bien plus difficile d’évaluer ses conséquences à long terme pour l’éducation, la culture et le secteur audiovisuel. Même s’il existe un consensus autour du fait que l’IA et l’automatisation créeront probablement plus de richesses et simplifieront un large éventail de processus, l’utilisation de l’IA a également suscité de vives inquiétudes quant au fait qu’elle pourrait causer une augmentation des inégalités, de la discrimination et du chômage.

L’impact potentiel de l’IA sur l’éducation, la culture et le secteur audiovisuel est toutefois rarement abordé et reste en grande partie inconnu. Pourtant, cette question est capitale, car l’IA est déjà utilisée pour enseigner des programmes, mais aussi pour produire des films, des chansons, des histoires et des tableaux.

Le présent rapport a donc pour objectif de comprendre concrètement comment l’IA affecte aujourd’hui ces secteurs et quelles autres conséquences auront, au cours des dix prochaines années, les futurs progrès technologiques dans le domaine de l’IA. Votre rapporteure se penche plus particulièrement sur la manière dont l’IA pourrait transformer ces secteurs et à quels défis réglementaires particuliers l’Union pourra être confrontée à cet égard.

i) L’IA transforme l’éducation

L’IA transforme radicalement l’apprentissage, l’enseignement et l’éducation. La rapidité époustouflante des avancées technologiques accélère la transformation drastique des pratiques, des institutions et des politiques en matière d’éducation. L’IA a de nombreuses applications dans ce domaine, telles que des approches personnalisables de l’apprentissage, le tutorat fondé sur l’IA, des manuels et supports éducatifs intégrant des contenus personnalisés, des algorithmes intelligents pour établir les meilleures méthodes d’enseignement, des moteurs de jeux fondés sur l’IA, ainsi que des modèles d’utilisateurs adaptatifs dans des environnements d’apprentissage personnalisés à même de permettre l’identification précoce de difficultés telles que la dyslexie ou le risque de décrochage scolaire.

L’expérience d’apprentissage personnalisée est la pierre angulaire de l’utilisation de l’IA dans l’éducation. Elle permettrait aux étudiants de bénéficier d’une approche éducative pleinement adaptée à leurs capacités, à leurs besoins et à leurs difficultés, tout en permettant aux enseignants de suivre de près les progrès des étudiants. Toutefois, pour faire de l’éducation personnalisée une réalité, il est nécessaire de collecter, d’utiliser et d’analyser de grandes quantités de données à caractère personnel.

Votre rapporteure souligne à cet égard que l’actuel manque d’accès aux données à caractère personnel concernant les étudiants empêchera probablement une intégration réussie de l’IA dans l’éducation. Il est donc essentiel de garantir la sécurité et la transparence de la collecte, de l’utilisation, de la gestion et de la diffusion des données à caractère personnel, tout en préservant la confidentialité et le respect de la vie privée concernant les données à caractère personnel des apprenants. De plus, toute initiative en faveur du déploiement à grande échelle de l’IA dans le système éducatif au niveau de l’Union devrait donner la priorité à la gestion du risque de biais potentiels de l’IA ainsi qu’à la résolution de la question du stockage des données.

Bien qu’il soit peu probable que les enseignants soient remplacés par des machines dans un avenir proche, l’utilisation croissante de l’IA dans l’éducation implique la nécessité de repenser l’éducation dans son ensemble, ainsi que de réfléchir à une redéfinition de l’enseignement, du rôle des enseignants et, en conséquence, à la reconversion qui sera nécessaire pour qu’ils s’adaptent à un système éducatif fondé sur l’IA.

Considérant que moins de 40 % des enseignants de l’Union ont suivi des cours sur l’intégration des TIC dans la salle de classe pendant leur formation initiale, votre rapporteure souhaiterait insister sur l’importance capitale de former les enseignants pour qu’ils acquièrent des compétences numériques, en tant que prérequis pour se familiariser avec l’IA. Les enseignants pourraient alors tirer profit des technologies de l’IA, mais également être conscients des dangers potentiels de l’intelligence artificielle.

Ce problème peut également être considéré de manière plus large: 42 % de la population de l’Union ne dispose pas des compétences numériques de base. Il existe également de graves disparités régionales en ce qui concerne l’accès aux infrastructures numériques et le niveau de compétences numériques dans l’ensemble de l’Union.

Les tendances technologiques émergentes liées à la transformation numérique, telles que l’IA, ont d’importantes conséquences s’agissant des compétences nécessaires à une économie numérique en évolution. En particulier, la notion d’apprentissage tout au long de la vie concernant l’IA a émergé comme l’une des principales stratégies pour l’emploi et la sécurité de l’emploi à l’ère numérique.

Voter rapporteure suggère de former les citoyens pour qu’ils acquièrent les compétences numériques indispensables, tout en évaluant soigneusement quelles compétences en matière d’IA sont nécessaires aujourd’hui et pour l’avenir, et de prendre les mesures appropriées pour combler les pénuries de compétences actuelles et émergentes.

Il est également essentiel de veiller à remplir les conditions préalables au déploiement et à l’utilisation pertinente de l’IA s’agissant d’accès à l’internet, de connectivité, de réseaux et d’infrastructures.

 ii) L’IA peut servir à promouvoir le patrimoine culturel

Ces dernières années, l’IA a gagné en importance pour le patrimoine culturel, notamment en réponse à d’éventuelles menaces modernes telles que le changement climatique ou les conflits. L’IA peut avoir de nombreuses applications à cet égard: elle peut par exemple servir à renforcer l’expérience des utilisateurs en permettant aux visiteurs d’institutions culturelles et de musées de créer des parcours narratifs personnels ou de bénéficier d’un guide-conférencier virtuel. Des robots conversationnels pourraient communiquer de manière interactive à propos du patrimoine culturel, sur n’importe quel sujet et dans n’importe quelle langue. Ils faciliteraient également l’accès aux informations tout en offrant aux utilisateurs une expérience culturelle vivante.

L’IA pourrait également aider à comprendre l’histoire de l’Union. Par exemple, le projet «Time Machine» a pour but de créer des technologies de pointe en matière d’IA afin de donner sens à de grandes quantités d’informations issues de jeux de données historiques complexes stockés dans des archives et des musées. Ainsi, il devient possible de transformer des données fragmentées en des connaissances exploitables, grâce à une cartographie de l’ensemble de l’évolution sociale, culturelle et géographique de l’Union. Cela peut faciliter l’exploration de l’évolution culturelle, économique et historique de villes européennes et améliorer la compréhension de ces éléments.

iii) L’IA change le fonctionnement des secteurs de la culture et de la création, et notamment de l’audiovisuel

L’utilisation de l’IA se développe rapidement dans les médias et trouve de nombreuses applications:

– le marketing et la publicité fondés sur les données, en entraînant des algorithmes d’apprentissage automatique pour développer des bandes-annonces de films et concevoir des publicités;

– la personnalisation de l’expérience des utilisateurs, en utilisant l’apprentissage automatique pour recommander des contenus personnalisés en fonction de données relatives à l’activité et au comportement de l’utilisateur;

– l’optimisation des recherches, en utilisant l’IA pour rendre plus rapide et efficace le processus de production de médias et la capacité d’organisation des éléments visuels;

– la création de contenus, en générant des clips vidéo à partir de segments de vidéo automatiques prêts à être diffusés et des effets spéciaux, tels que la recréation numérique d’une version rajeunie d’un acteur ou la création de nouveaux contenus avec un acteur décédé;

– l’écriture de scripts, notamment la création de textes factuels simples (reportages sportifs ou d’actualité produits par des robots), mais également pour l’écriture d’œuvres de fiction, comme le court-métrage expérimental «Sunspring»;

– l’interaction du spectateur avec des narrations complexes, par exemple dans le dernier épisode de la série britannique «Black Mirror» intitulé «Bandersnatch»;

– le sous-titrage automatisé, par exemple par des procédés de transcription vocale, pour les spectateurs handicapés;

– la modération automatisée des contenus audiovisuels.

Si l’IA offre un large éventail de possibilités pour la production de contenus culturels et créatifs de haute qualité, la distribution et l’accès centralisés à ces contenus soulèvent un certain nombre de questions éthiques et juridiques, notamment en ce qui concerne la protection des données, la liberté d’expression et la diversité culturelle.

Les œuvres culturelles et créatives, notamment audiovisuelles, sont majoritairement distribuées par

de grandes plateformes centralisées, ce qui soumet la consommation de médias aux algorithmes propriétaires développés par ces plateformes.

Votre rapporteure signale que les recommandations personnalisées fondées sur des algorithmes peuvent être néfastes pour la diversité culturelle et linguistique, en empêchant les contenus culturels et créatifs sous-représentés de figurer parmi les suggestions proposées par ces systèmes. Sur les plateformes les plus importantes, les critères utilisés pour sélectionner ou recommander une œuvre ne sont ni transparents ni contrôlables, et ils sont susceptibles d’être établis en fonction de facteurs économiques qui profitent uniquement à ces plateformes.

La question de la diversité culturelle et linguistique dans les systèmes de recommandation est donc essentielle et doit être abordée. Votre rapporteure insiste sur la nécessité d’établir un cadre juridique clair pour des algorithmes transparents, responsables et inclusifs, afin de préserver et de promouvoir la diversité culturelle et linguistique.

Les difficultés réglementaires suscitées par les applications fondées sur l’IA dans le secteur de l’audiovisuel sont également liées aux actes juridiques existants, tels que la directive sur les services de médias audiovisuels. Une évaluation plus approfondie pourrait donc s’avérer nécessaire concernant l’urgence et/ou l’élan politique pour les futures adaptations de ces dossiers à l’IA.

Si l’intelligence artificielle peut aider à renforcer de nombreux créateurs en augmentant la prospérité des secteurs de la culture et de la création et en accroissant la diversité culturelle, la grande majorité des artistes et des entrepreneurs peut ne pas encore être familiarisée avec les outils fondés sur l’IA.

Les créateurs souffrent d’un manque de connaissances techniques qui les empêche d’expérimenter avec l’apprentissage automatique et d’en tirer des bénéfices. Il est donc essentiel de déterminer quelles compétences seraient nécessaires dans un avenir proche et, dans le même temps, d’améliorer les systèmes de formation, y compris de perfectionnement et de reconversion professionnels, pour garantir l’apprentissage tout au long de la vie professionnelle et au-delà.

Dans ce contexte, votre rapporteure suggère de créer un observatoire de l’IA avec pour objectif d’harmoniser et de faciliter l’étude des nouvelles évolutions de l’IA en s’appuyant sur des données probantes, afin de répondre à la question de la vérifiabilité et de la responsabilité des applications fondées sur l’IA dans les secteurs de la culture et de la création.

v) Lutter contre les fausses informations

Les technologies fondées sur l’IA sont de plus en plus utilisées pour propager des fausses informations, notamment par le recours aux «deep fakes».

Il s’agit d’images de synthèse ou de trucages vidéo ultra-réalistes générés par l’IA au moyen de machines à apprentissage profond et de réseaux antagonistes génératifs (GAN). Ils ne peuvent pas être distingués de contenus authentiques par les humains. Les «deep fakes» peuvent être utilisés pour toutes sortes de tromperies. La plus courante consiste à coller un visage à la place d’un autre («face swap»), ce qui permet des créations satiriques ou des films modifiés sans gravité, mais également des canulars malveillants, du harcèlement ciblé, de la pornographie ou de la fraude financière. Le danger de ces falsifications ultra‑réalistes est qu’elles font croire que quelque chose est vrai alors que ça ne l’est pas, et peuvent donc être une arme particulièrement puissante et redoutable de désinformation en ligne, se propageant de manière virale sur les plateformes et les médias sociaux, où elles peuvent influencer l’opinion publique, les processus électoraux et les résultats des élections.

Si l’IA est souvent pointée du doigt pour son rôle dans la propagation des fausses informations, elle pourrait également jouer un rôle important pour contrer et combattre les fausses nouvelles et la désinformation, comme l’ont démontré des projets tels que le «Fake News Challenge». En effet, les systèmes d’IA peuvent analyser les fausses informations créées par l’IA et aider à déceler les contenus manipulés. Toutefois, les algorithmes produisant des trucages vidéo ultra-réalistes sont de plus en plus sophistiqués et détecter ces trucages devient donc toujours plus difficile.

Votre rapporteure insiste donc sur la nécessité de lutter contre l’utilisation abusive de l’IA pour propager des fausses informations et de la désinformation en ligne, notamment en étudiant les moyens de détecter efficacement les trucages vidéo ultra‑réalistes.

AVIS DE LA COMMISSION DES LIBERTÉS CIVILES, DE LA JUSTICE ET DES AFFAIRES INTÉRIEURES (16.7.2020)

à l’intention de la commission de la culture et de l’éducation

sur l’intelligence artificielle dans les domaines de l’éducation, de la culture et de l’audiovisuel

(2020/2017(INI))

Rapporteur pour avis (*): Ondřej Kovařík

(*) Commission associée – article 57 du règlement intérieur

SUGGESTIONS

La commission des libertés civiles, de la justice et des affaires intérieures invite la commission de la culture et de l’éducation, compétente au fond, à incorporer dans la proposition de résolution qu’elle adoptera les suggestions suivantes:

1. souligne que l’utilisation de l’intelligence artificielle (IA) dans les domaines de l’éducation, de la culture et de l’audiovisuel doit respecter pleinement les droits fondamentaux, les libertés et les valeurs consacrés dans les traités de l’Union européenne et la charte des droits fondamentaux de l’Union européenne, en particulier la protection de la vie privée et des données à caractère personnel, la non-discrimination et la liberté d’expression et d’information; salue à cet égard le livre blanc de la Commission sur l’intelligence artificielle et invite la Commission à inclure le secteur de l’éducation, limité aux domaines comportant des risques importants, dans le futur cadre réglementaire applicable aux systèmes d’IA à haut risque;

2. rappelle que l’IA peut être empreinte de partis pris et, partant, être source de diverses formes de discrimination fondées sur le sexe, la race, la couleur, l’origine ethnique ou sociale, les caractéristiques génétiques, la langue, la religion ou les convictions, les opinions politiques ou autres, l’appartenance à une minorité nationale, la fortune, la naissance, un handicap, l’âge ou l’orientation sexuelle; souligne à cet égard que les droits de tout un chacun doivent être garantis et que les initiatives de l’IA doivent éviter toute forme de discrimination;

3. souligne que ces partis pris et cette discrimination peuvent découler d’ensembles de données déjà empreints de partis pris, et reflétant la discrimination existant dans la société; souligne que l’IA doit se garder des partis pris menant à une discrimination interdite et ne pas reproduire les processus discriminatoires; insiste sur la nécessité de tenir compte de ces risques lors de la conception des technologies de l’IA, ainsi que sur l’importance de collaborer avec les fournisseurs de technologies de l’IA pour combler les lacunes persistantes qui favorisent la discrimination, et recommande que les équipes qui conçoivent et développent l’IA soient à l’image de la diversité de la société;

4. observe que l’utilisation de l’IA dans l’éducation offre un vaste éventail de possibilités et d’opportunités, par exemple pour faciliter l’accès à l’information, améliorer les méthodes de recherche ou comprendre la façon dont les élèves apprennent et pour leur proposer un apprentissage personnalisé, tout en présentant également des risques en matière d’égalité d’accès à l’éducation et d’égalité d’apprentissage à un âge de plus en plus jeune ainsi que pour les groupes vulnérables et traditionnellement défavorisés; réclame une infrastructure suffisante de partage des données entre les applications d’IA et les organismes publics de recherche; souligne que l’équité et l’inclusion sont des valeurs fondamentales dont il faut dûment tenir compte lors de la définition des politiques d’IA dans le domaine de l’éducation; réclame une utilisation non discriminatoire de l’IA dans le domaine éducatif; rappelle les risques et les discriminations qui pourraient être causés par les outils d’IA récemment développés pour l’admission dans les écoles et demande que ces outils soient rectifiés le plus rapidement possible; insiste sur la nécessité d’évaluer correctement les outils d’IA utilisés dans le secteur de l’éducation, afin de déterminer l’incidence que ces outils peuvent avoir sur les droits des enfants;

5. reconnaît que l’utilisation des technologies numériques et d’IA peut contribuer au développement d’outils éducatifs de plus en plus efficaces et rendre la société plus ouverte, en neutralisant les formes traditionnelles de discrimination, y compris le manque d’accès aux services, en apportant l’éducation aux groupes défavorisés, aux personnes handicapées conformément à l’acte législatif européen sur l’accessibilité, ainsi qu’aux autres catégories de citoyens européens qui n’ont pas correctement accès à l’éducation, et en donnant accès à des possibilités d’apprentissage adéquates;

6. souligne que les avantages de l’IA devraient être partagés avec toutes les composantes de la société et ne laisser personne de côté; souligne la nécessité de tenir pleinement compte des besoins spécifiques des catégories les plus vulnérables, telles que les enfants, les personnes handicapées, les personnes âgées et les autres catégories menacées d’exclusion; exprime son inquiétude face à l’accès limité à l’internet dans certaines régions de l’Union, et invite la Commission et les États membres à déployer des efforts soutenus pour améliorer les infrastructures de télécommunication;

7. prend acte des possibilités offertes par l’IA dans le secteur culturel pour développer l’expression musicale, artistique et culturelle; souligne que la liberté d’expression est une liberté primordiale et une valeur fondamentale, et qu’un paysage culturel diversifié revêt une valeur inestimable pour la société; demande à la Commission de garder à l’esprit ces valeurs lorsqu’elle rédige ses propositions relatives à l’IA;

8. salue l’intention de la Commission de mettre à jour le plan d’action en matière d’éducation numérique pour le rendre plus ambitieux et intégré afin d’adapter les systèmes éducatifs à l’ère numérique, notamment en faisant un meilleur usage des données et des technologies fondées sur l’IA; demande à tous les acteurs, aussi bien publics que privés, de coopérer étroitement dans la mise en œuvre de ces réformes de l’éducation;

9. souligne la nécessité de mieux sensibiliser le grand public à l’IA à tous les niveaux, ce qui constitue un élément essentiel pour permettre aux citoyens de prendre des décisions éclairées et contribuer à renforcer la résilience de nos sociétés; souligne qu’il faut également sensibiliser le grand public aux risques relatifs au respect de la vie privée et aux partis pris liés à l’IA; invite la Commission et les États membres à intégrer tout ceci dans les programmes éducatifs et les programmes qui soutiennent les arts;

10. insiste sur l’urgence d’éduquer les citoyens à tous les niveaux au sujet de l’utilisation de l’IA et de doter toute la population européenne, y compris les groupes vulnérables, des compétences numériques de base leur garantissant une égalité d’accès aux opportunités économiques et sociales, ainsi que sur la nécessité de mettre en place des programmes de haute qualité sur les technologies de l’information et de la communication dans les systèmes éducatifs, à tous les niveaux; invite à ne pas sous-estimer l’écart numérique entre les hommes et les femmes et à prendre des mesures pour y remédier; se félicite de la prochaine mise à jour de la stratégie en matière de compétences pour permettre à tous les citoyens de bénéficier de la transformation numérique de l’Union; souligne qu’il importe de former les enseignants et les éducateurs, en particulier ceux qui sont responsables d’élèves mineurs, à l’utilisation de l’IA; observe une pénurie persistante de compétences dans les secteurs numériques et technologiques; souligne qu’il importe de diversifier ce secteur et d’encourager les élèves et étudiants, en particulier les femmes et les filles, à suivre des cours dans les domaines des sciences, des technologies, de l’ingénierie et des mathématiques, en particulier en lien avec la robotique et l’IA, en sus des cours liés à leurs souhaits de carrière; demande de consacrer des ressources financières et scientifiques plus importantes pour motiver les personnes dotées de compétences à rester dans l’Union et attirer les personnes de pays tiers formées à ces compétences; observe en outre qu’un nombre considérable de startups travaillent avec l’IA ou développent des technologies de l’IA; souligne que les petites et moyennes entreprises (PME) devront bénéficier d’un soutien supplémentaire et d’une formation sur l’IA pour se conformer à la législation en matière de numérique et d’IA;

11. rappelle que la protection des données et le respect de la vie privée peuvent être tout particulièrement affectés par l’IA; insiste sur le fait que les principes établis dans le règlement (UE) 2016/679 du Parlement européen et du Conseil (règlement général sur la protection des données ou RGPD)[18] constituent des principes contraignants pour le déploiement de l’IA; rappelle que toutes les applications d’IA doivent respecter pleinement le droit de l’Union en matière de protection des données, à savoir le RGPD et la directive 2002/58/CE du Parlement européen et du Conseil (directive vie privée et communications électroniques)[19], actuellement en cours de révision;

12. rappelle que les enfants constituent un public vulnérable, qui mérite une attention et une protection particulières; rappelle que, lorsqu’elles ont une implication légale ou assimilée, les décisions automatisées relatives aux personnes physiques sur la base du profilage doivent être strictement limitées et toujours inclure le droit d’obtenir une intervention humaine et une explication en vertu du RGPD; souligne que cette disposition devrait être strictement respectée dans le système éducatif lorsque des décisions sont prises sur les chances et les possibilités; relève qu’un petit nombre d’entreprises privées dominent le secteur des technologies éducatives dans certains États membres, et estime que cette situation devrait faire l’objet d’un examen au titre des règles de l’Union européenne relatives à la concurrence; rappelle avec vigueur que les données concernant les mineurs sont strictement protégées par le RGPD, et que les données concernant des enfants ne peuvent faire l’objet d’un traitement que si elles sont intégralement anonymisées ou que le titulaire de l’autorité parentale de l’enfant concerné a donné son approbation; réclame dès lors une protection et des garanties plus robustes dans le secteur de l’éducation lorsqu’il est question de données relatives aux enfants; demande que des informations claires soient fournies aux enfants et à leurs parents, notamment au moyen de campagnes de sensibilisation et d’information, au sujet de l’utilisation et du traitement potentiels des données relatives aux enfants;

13. souligne les risques spécifiques liés à l’utilisation des applications de reconnaissance automatisée utilisant l’IA qui se développent rapidement à l’heure actuelle; rappelle que les enfants constituent un groupe particulièrement sensible; recommande que la Commission et les États membres interdisent l’identification biométrique automatisée, comme la reconnaissance faciale à des fins éducatives et culturelles, dans les locaux dédiés à l’éducation et à la culture, à moins que son utilisation soit permise par la loi;

14. demande à la Commission et aux États membres d’instaurer une obligation de transparence et d’explicabilité des décisions individuelles automatisées fondées sur l’IA prises dans le cadre des prérogatives des pouvoirs publics, et d’appliquer des sanctions pour faire respecter ces obligations; demande la mise en place de systèmes utilisant la vérification et l’intervention humaines par défaut, et que le traitement soit équitable, avec notamment un droit de recours et un accès auxdits recours; rappelle que, lorsqu’elles ont une implication légale ou assimilée, les décisions automatisées relatives aux personnes physiques sur la base du profilage doivent être strictement limitées et toujours inclure le droit d’obtenir une intervention humaine et une explication en vertu du RGPD;

15. demande la réalisation régulière d’audits indépendants afin d’examiner si les applications d’IA utilisées et le système de garde-fou en place respectent les critères définis, et recommande que ces audits soient supervisés par une autorité indépendante disposant de pouvoirs de surveillance suffisants; réclame des tests de résistance spécifiques visant à faciliter et à assurer le respect des règles en vigueur;

16. souligne que l’IA peut jouer un rôle majeur dans la diffusion rapide de la désinformation; demande dès lors à la Commission d’évaluer les risques que l’IA favorise la diffusion de fausses informations dans l’environnement numérique, et de proposer entre autres des recommandations d’actions contre toute menace utilisant l’IA contre le principe d’élections libres et équitables et contre la démocratie; observe que les trucages vidéo ultra-réalistes (deep fakes) peuvent être utilisés à des fins de manipulation d’élections et de désinformation ainsi qu’à d’autres fins tout aussi peu recommandables; relève en outre que les expériences immersives que facilite l’IA peuvent être exploitées par des acteurs malintentionnés; demande à la Commission de proposer des recommandations, y compris d’éventuelles restrictions à cet égard, pour prévenir efficacement l’utilisation de ces technologies à des fins illicites; réclame par ailleurs une évaluation de la manière dont l’IA pourrait être utilisée pour lutter contre la désinformation; demande à la Commission de veiller à ce que tout cadre réglementaire qu’elle pourrait développer à l’avenir n’entraîne pas la censure de contenus individuels licites mis en ligne par des utilisateurs; rappelle à cet égard qu’il est plus nécessaire que jamais de faire preuve d’esprit critique et d’être capable d’interagir avec savoir-faire et assurance sur internet;

17. relève que l’IA est souvent utilisée pour permettre aux algorithmes de prise de décision automatique de diffuser et organiser le contenu présenté aux utilisateurs; souligne que ces algorithmes sont opaques pour les utilisateurs; demande à la Commission de se pencher sur les manières dont les algorithmes de modération du contenu sont optimisés pour faire en sorte que les utilisateurs reviennent; demande également à la Commission de proposer des recommandations pour renforcer le contrôle de l’utilisateur sur le contenu qui lui est présenté, et d’enjoindre les plateformes internet et les applications fondées sur l’IA de permettre aux utilisateurs de choisir une présentation des contenus dans un ordre neutre, afin qu’ils aient davantage de contrôle pour choisir quels contenus leur sont présentés en priorité, y compris des options permettant que leur soient présentés des contenus sortant de leurs habitudes de lecture ou visionnage et leur permettant de refuser purement et simplement toute organisation de contenu;

18. fait observer que la publicité personnalisée, notamment la publicité microciblée et la publicité comportementale, ainsi que l’évaluation des personnes peuvent avoir des conséquences négatives, en particulier sur les mineurs, sans leur consentement, parce qu’elles empiètent sur la vie privée des individus et soulèvent des questions quant à la collecte et à l’utilisation des données servant à personnaliser ladite publicité, proposer des produits ou des services ou fixer des prix; demande dès lors à la Commission d’instaurer des limitations strictes à la publicité ciblée s’appuyant sur le recueil de données à caractère personnel, en commençant par interdire la publicité comportementale interplateformes, sans nuire aux PME; rappelle qu’à l’heure actuelle, la directive vie privée et communications électroniques autorise la publicité ciblée uniquement si l’accord de l’utilisateur a été obtenu, faute de quoi elle est illégale; demande à la Commission d’interdire le recours à des pratiques discriminatoires pour la fourniture de produits ou de services;

19. souligne que ce qui est illégal hors ligne devrait l’être également en ligne; observe que les outils de l’IA peuvent lutter, et luttent déjà, contre les contenus illicites en ligne, mais souligne instamment, dans le cadre de la législation sur les services numériques attendue pour la fin de cette année, que ces outils doivent toujours respecter les droits fondamentaux, en particulier la liberté d’expression et d’information, et ne doivent pas entraîner de surveillance généralisée d’internet, ni le retrait de contenus licites diffusés à des fins éducatives, journalistiques, artistiques ou de recherche; souligne que les algorithmes ne devraient être utilisés, dans le cadre de la modération de contenu, que comme mécanisme d’alerte assujetti à une intervention humaine, l’IA étant incapable de réellement faire la différence entre contenu licite, contenu illicite et contenu nuisible; observe que les modalités et conditions devraient toujours intégrer les lignes directrices de l’Union ainsi qu’une procédure de recours;

20. note les avantages mais aussi les risques que présente l’IA en matière de cybersécurité ainsi que le potentiel qu’elle présente pour lutter contre la cybercriminalité et souligne la nécessité que toutes les solutions d’IA soient résistantes aux cyberattaques tout en respectant les droits fondamentaux de l’Union européenne, en particulier le droit à la protection des données à caractère personnel et le droit à la vie privée; souligne que l’utilisation en toute sécurité de l’IA doit être contrôlée et doit faire l’objet d’une étroite collaboration entre les secteurs public et privé afin de pallier les risques et les faiblesses qui en découlent; demande à la Commission d’évaluer la nécessité d’une prévention renforcée en matière de cybersécurité et de mesures d’atténuation des risques en la matière;

21. souligne que les infrastructures numériques et la couverture internet de la prochaine génération revêtent une importance stratégique pour offrir aux citoyens européens une éducation fondée sur l’IA; demande à la Commission, compte tenu de la crise liée à l’épidémie de COVID-19, d’élaborer une stratégie européenne pour la 5G qui garantisse la résilience stratégique de l’Europe sans dépendre de la technologie d’États qui ne partagent pas nos valeurs;

22. demande à la Commission et aux États membres de favoriser l’utilisation de l’IA dans le domaine de la numérisation du patrimoine culturel.

INFORMATIONS SUR L’ADOPTION
PAR LA COMMISSION SAISIE POUR AVIS

VOTE FINAL PAR APPEL NOMINAL
EN COMMISSION SAISIE POUR AVIS

Légende des signes utilisés:

+ : pour

- : contre

0 : abstention

AVIS DE LA COMMISSION DU MARCHÉ INTÉRIEUR ET DE LA PROTECTION DES CONSOMMATEURS (6.7.2020)

à l’intention de la commission de la culture et de l’éducation

sur l’intelligence artificielle dans les domaines de l’éducation, de la culture et de l’audiovisuel

(2020/2017(INI))

Rapporteure pour avis: Kim Van Sparrentak

SUGGESTIONS

La commission du marché intérieur et de la protection des consommateurs invite la commission de la culture et de l’éducation, compétente au fond, à incorporer dans la proposition de résolution qu’elle adoptera les suggestions suivantes:

A. considérant que l’intelligence artificielle (IA) peut apporter des solutions aux défis rencontrés au quotidien dans le secteur de l’éducation, comme la personnalisation de l’apprentissage, la surveillance des difficultés d’apprentissage, l’automatisation des contenus/connaissances spécifiques à un sujet, l’accès à une formation professionnelle de meilleure qualité et le soutien à la transition vers une société numérique;

B. considérant que l’IA pourrait avoir des applications pratiques en matière de réduction de la charge administrative des éducateurs et des établissements d’enseignement, ce qui permettrait à ces derniers de consacrer plus de temps à leurs activités fondamentales d’enseignement et d’apprentissage;

C. considérant que l’utilisation de l’IA dans l’éducation suscite des préoccupations quant à l’utilisation éthique des données, aux droits des apprenants, à l’accès aux données et à la protection des données à caractère personnel et présente par conséquent des risques pour les droits fondamentaux, tels que la création de modèles stéréotypés de profils d’apprenants et de comportements qui pourrait conduire à des discriminations ou à des préjudices liés à la multiplication de pratiques pédagogiques inappropriées;

D. considérant que les systèmes d’IA sont omniprésents dans le secteur audiovisuel, en particulier sur les plateformes de contenus audiovisuels;

1. note que la Commission a proposé de soutenir la passation de marchés publics pour des services numériques intelligents afin d’encourager les autorités publiques à déployer rapidement les produits et services reposant sur l’IA dans les domaines d’intérêt public et le secteur public; insiste sur l’importance que revêt l’investissement public dans ces services et sur la valeur ajoutée complémentaire qu’apportent les partenariats publics-privés pour réaliser cet objectif et exploiter pleinement le potentiel de l’IA dans les secteurs de l’éducation, de la culture et de l’audiovisuel; souligne que dans le domaine de l’éducation, le développement et le déploiement de l’IA doit permettre la participation de l’ensemble des acteurs du processus éducatif et de la société en général, et tenir compte de leurs besoins et des bénéfices escomptés, surtout en ce qui concerne les plus vulnérables et défavorisés, afin de garantir que l’IA est utilisée de manière appropriée et éthique et qu’elle est source de réelles améliorations pour les personnes concernées; estime que les produits et services mis au point au moyen d’un financement public doivent être publiés sous licences libres, dans le plein respect de la législation applicable, y compris de la directive (UE) 2019/790 du Parlement européen et du Conseil du 17 avril 2019 sur le droit d’auteur et les droits voisins dans le marché unique numérique; insiste sur l’importance de ce déploiement pour la reconversion professionnelle et le renforcement des compétences du marché du travail européen, en particulier dans les domaines de la culture et de l’audiovisuel, qui seront durement éprouvés par la crise de la COVID;

2. reconnaît que les enfants constituent un groupe particulièrement vulnérable dans la mesure où leur comportement peut être influencé; souligne que si l’IA est susceptible de leur profiter sur un plan éducatif, il est nécessaire de tenir compte des aspects technologiques, réglementaires et sociaux de l’introduction de l’IA dans l’éducation, par la mise en place de garanties appropriées et l’adoption d’une démarche centrée sur l’humain qui permette aux êtres humains d’être toujours en mesure de contrôler et de corriger les décisions du système; signale la nécessité de réviser et de mettre à jour la législation pertinente dans le secteur; souligne à cet égard que le cadre juridique régissant l’IA dans le domaine de l’éducation devrait, en particulier, prévoir des normes et mesures contraignantes afin d’empêcher des pratiques qui nuiraient aux droits et libertés fondamentaux, et de garantir le développement de systèmes d’IA dignes de confiance, éthiques et robustes sur le plan technique, et notamment d’outils, de services et de produits numériques intégrés, tels que la robotique et l’apprentissage automatique;

3. prend acte des possibilités qu’offrent les produits basés sur l’IA en matière d’éducation, notamment pour permettre à tous les étudiants de l’Union européenne l’accès à une éducation de haute qualité, souligne la nécessité pour les gouvernements et les établissements d’enseignement de repenser et d’adapter les programmes éducatifs en mettant davantage l’accent sur les matières STIAM, afin de préparer les apprenants et les consommateurs à la présence accrue de l’IA et de faciliter l’acquisition de compétences cognitives; souligne la nécessité d’améliorer les compétences numériques des acteurs du processus éducatif et de la société en général, tout en tenant compte de la stratégie «Une Europe adaptée à l’ère du numérique»;

4. souligne que les systèmes algorithmiques peuvent contribuer à réduire plus rapidement la fracture numérique, mais qu’un déploiement inégal risque de créer de nouvelles fractures ou d’accentuer celles qui existent; exprime l’inquiétude que lui inspire le développement inégal du savoir et des infrastructures dans l’Union, qui limite l’accessibilité des produits et services fondés sur l’IA, notamment dans les régions à faible densité de population ou vulnérables sur le plan socioéconomique; demande à la Commission de garantir la cohésion dans le partage des bénéfices de l’IA et des technologies connexes;

5. demande à la Commission de considérer l’éducation comme un secteur dans lequel certaines utilisations des systèmes d’IA sont susceptibles de présenter des risques considérables, pouvant prendre la forme d’atteintes aux droits fondamentaux ou avoir des répercussions importantes sur un plan humain et social, et d’en tenir compte dans le cadre de l’évaluation des catégories ou des utilisations des systèmes d’IA devant être couvertes par le cadre réglementaire applicable aux systèmes d’IA à haut risque, compte tenu de la nécessité de veiller à ce que l’éducation continue à contribuer au bien public et du caractère particulièrement sensible des données sur les élèves, étudiants et autres apprenants; invite la Commission à inclure dans le secteur de l’éducation certains systèmes d’IA, notamment ceux qui font l’objet de programmes de certification ou qui incluent des données sensibles à caractère personnel, dans le cadre réglementaire applicable aux systèmes d’IA à haut risque; souligne que les ensembles de données utilisés pour entraîner l’IA et les résultats doivent être révisés afin d’éviter toute forme de stéréotype, de discrimination ou de biais et, s’il y a lieu, d’utiliser l’IA pour identifier et corriger les biais humains lorsqu’ils existent; indique que, par conséquent, des évaluations de conformité appropriées sont nécessaires pour vérifier et garantir le respect de toutes les dispositions relatives aux systèmes à haut risque, y compris les exigences en matière d’essais, d’inspections et de certifications; insiste sur la nécessité de garantir l’intégrité et la qualité des données;

6. souligne les efforts fournis par la Commission pour intégrer les compétences numériques dans les exigences de qualification de certaines professions harmonisées au niveau de l’Union conformément à la directive sur les qualifications professionnelles; souligne le besoin de garantir la reconnaissance mutuelle dans l’ensemble de l’Union de qualifications professionnelles pour les compétences en IA, à l’heure où plusieurs États membres adaptent leur offre éducative en y intégrant des compétences liées à l’IA et mettent en place des programmes spécifiques pour les développeurs en IA; souligne que ceux-ci doivent être conformes à la liste d’évaluation des lignes directrices en matière d’éthique pour une IA digne de confiance, et salue la proposition de la Commission de transformer cette liste en un programme indicatif destiné aux développeurs de l’IA; souligne l’importance de former des professionnels hautement qualifiés dans ce secteur, notamment en incluant les aspects éthiques dans leur programme, et de soutenir les groupes sous-représentés dans ce domaine, ainsi que de mettre en place des mesures incitatives pour que ces professionnels recherchent un emploi dans l’Union;

7. note que les écoles et autres acteurs de l’enseignement public utilisent de plus en plus les services de technologie éducative, et notamment des systèmes d’IA; exprime l’inquiétude que lui inspire la fourniture de ces technologies par un petit nombre seulement d’entreprises technologiques à l’heure actuelle; souligne que cela pourrait conduire à un accès inéquitable aux données et limiter la concurrence en confortant des positions dominantes sur le marché et en restreignant le choix des consommateurs; encourage les autorités publiques à adopter une approche innovante de la passation de marchés publics, afin d’élargir les offres proposées aux acteurs de l’enseignement public partout en Europe; souligne à cet égard l’importance de soutenir l’adoption de l’IA par les PME des secteurs de l’éducation, de la culture et de l’audiovisuel au moyen de mesures incitatives appropriées qui créent des conditions de concurrence équitables; invite, dans ce cadre, à investir dans des entreprises européennes des technologies de l’information aux fins de la mise au point des technologies nécessaires au sein de l’Union européenne; estime que les technologies utilisées par les acteurs de l’enseignement public ou acquises avec des fonds publics doivent, dans la mesure du possible, reposer sur une technologie libre, dans le plein respect de la législation applicable, y compris de la directive (UE) 2019/790 du Parlement européen et du Conseil du 17 avril 2019 sur le droit d’auteur et les droits voisins dans le marché unique numérique;

8. demande que les données utilisées par les systèmes d’IA dans le domaine de l’éducation soient accessibles, interopérables et de haute qualité, et qu’elles soient partagées avec les autorités publiques concernées d’une manière standardisée et conforme à la législation sur le droit d’auteur et les secrets d’affaires, afin que les données puissent être utilisées dans le respect des règles européennes en matière de protection des données et de confidentialité, ainsi que des normes éthiques, démocratiques et de transparence, en vue du développement de programmes et de pratiques pédagogiques (notamment lorsque ces services sont acquis avec des fonds publics ou proposés à titre gratuit aux acteurs de l’enseignement public, étant donné que l’éducation est un bien public); invite la Commission à garantir un accès équitable aux données à l’ensemble des entreprises, et en particulier aux PME et aux entreprises des secteurs de la culture et de la création, qui jouent un rôle essentiel dans le maintien de la cohésion sociale et de la diversité culturelle en Europe, ainsi que des valeurs démocratiques;

9. souligne l’importance d’élaborer des lignes directrices applicables aux marchés publics relatifs à ces services et utilisations destinés au secteur public, notamment aux acteurs de l’enseignement, afin de garantir des objectifs éducatifs pertinents, le choix des consommateurs, des conditions de concurrence égales et équitables pour les fournisseurs de solutions d’IA et le respect des droits fondamentaux; insiste sur la nécessité pour les acheteurs publics de tenir compte de critères spécifiques liés aux objectifs éducatifs pertinents, tels que la non-discrimination, les droits fondamentaux, la diversité, les normes les plus élevées de confidentialité et de protection des données, l’accessibilité pour les apprenants ayant des besoins spécifiques, la durabilité environnementale ainsi que la participation de l’ensemble des acteurs du processus éducatif, en particulier lors de l’achat de services pour les acteurs de l’enseignement public; souligne l’importance de renforcer le marché en offrant la possibilité aux PME de participer aux marchés publics relatifs aux systèmes d’IA, afin d’assurer la participation d’entreprises technologiques de toutes tailles dans le secteur et ainsi de garantir la résilience et la concurrence;

10. souligne l’absence de fiabilité des moyens automatisés actuellement mis en œuvre pour retirer les contenus illégaux des plateformes de partage de contenus audiovisuels, ce qui pourrait conduire à la suppression par inadvertance de contenus légitimes; note que ni la directive sur le commerce électronique, ni la directive Services de médias audiovisuels révisée relative aux plateformes de partage de vidéos n’imposent d’obligation générale en matière de surveillance; rappelle à cette fin que, en vertu de l’article 15 de la directive sur le commerce électronique, il ne peut y avoir de surveillance générale et que la surveillance spécifique des contenus des services audiovisuels doit se faire conformément aux exceptions prévues dans la législation européenne; rappelle les principales exigences relatives aux systèmes d’IA, telles que la responsabilité, notamment au moyen de structures de réexamen intégrées dans les procédures des entreprises, et la déclaration des conséquences négatives; souligne que la transparence doit également englober la traçabilité et l’explicabilité des systèmes concernés; rappelle que les systèmes d’IA doivent respecter des protocoles de sécurité internes et externes qui doivent être à la fois précis d’un point de vue technique et rigoureux; considère cette mesure devrait s’étendre à une utilisation dans des conditions normales, inconnues ou imprévisibles;

11. invite à veiller, dans la mesure de ce qui est techniquement possible, à l’explicabilité des algorithmes de recommandations et du marketing personnalisé sur les plateformes audiovisuelles, y compris les plateformes de streaming vidéo, les plateformes d’information et les plateformes diffusant des contenus culturels et créatifs, afin de permettre aux consommateurs d’appréhender ces processus et contenus de manière exacte et globale et de garantir que les services personnalisés ne présentent pas de caractère discriminatoire et qu’ils respectent le règlement sur les relations entre plateformes et entreprises et la directive de portée générale «Une nouvelle donne pour les consommateurs» récemment adoptés; souligne la nécessité de garantir et de mettre en œuvre de manière adéquate le droit des utilisateurs de refuser les services recommandés et personnalisés; signale, à cet égard, que les utilisateurs doivent recevoir une description permettant une compréhension générale et adéquate des fonctions concernées, en ce qui concerne notamment les données utilisées, l’objectif de l’algorithme, la personnalisation et ses résultats, conformément aux principes d’explicabilité et d’équité; demande que soient élaborés des mécanismes de surveillance des droits du consommateur de donner son consentement éclairé et d’exercer sa liberté de choix lors de la soumission de données;

12. note que le déploiement de l’IA dans le cadre des procédures de contrôle douanier peut soutenir les efforts consentis en vue de la prévention du trafic illicite de biens culturels, en particulier en complétant les systèmes qui permettent aux autorités douanières de cibler leurs efforts et leurs ressources sur les aspects présentant le plus de risque;

13. souligne que les consommateurs doivent être informés lorsqu’ils interagissent avec un processus de décision automatisé et que leurs choix et comportements ne doivent pas être restreints; souligne qu’il convient de restreindre l’utilisation de mécanismes d’IA pour la surveillance commerciale des consommateurs, même si cela concerne des «services gratuits», en veillant à ce que cette pratique respecte strictement les droits fondamentaux et le RGPD; souligne que toutes les modifications réglementaires doivent prendre en considération l’incidence sur les consommateurs vulnérables;

14. note que le déploiement, le développement et la mise en œuvre de l’IA doivent faciliter l’utilisation d’outils pour l’accès aux contenus audiovisuels pour les consommateurs et les apprenants qui présentent un handicap;

15. souligne la nécessité de renforcer les compétences de la main-d’œuvre de demain; reconnaît l’intérêt d’identifier en amont les emplois qui seront perturbés par les technologies numériques, comme l’automatisation, la numérisation et l’IA.

16. souligne que les systèmes d’IA élaborés, mis en œuvre et utilisés au sein de l’Union européenne, dans l’un des trois secteurs visés dans ce rapport, doivent refléter la diversité culturelle et le multilinguisme de l’Union.

INFORMATIONS SUR L’ADOPTION
PAR LA COMMISSION SAISIE POUR AVIS

VOTE FINAL PAR APPEL NOMINAL EN COMMISSION SAISIE POUR AVIS

Légende des signes utilisés:

+ : pour

- : contre

0 : abstention

AVIS DE LA COMMISSION DES AFFAIRES JURIDIQUES (22.9.2020)

à l’intention de la commission de la culture et de l’éducation

sur l’intelligence artificielle dans les domaines de l’éducation, de la culture et de l’audiovisuel

(2020/2017(INI))

Rapporteur pour avis: Angel Dzhambazki

SUGGESTIONS

La commission des affaires juridiques invite la commission de la culture et de l’éducation, compétente au fond, à incorporer dans la proposition de résolution qu’elle adoptera les suggestions suivantes:

1. souligne l’importance stratégique de l’utilisation de l’intelligence artificielle (IA) et des technologies connexes, et insiste sur le fait que l’approche européenne à cet égard doit être centrée sur l’humain afin que l’IA devienne véritablement un instrument au service des personnes et du bien commun, contribuant à l’intérêt général des citoyens, y compris dans les domaines de l’éducation, de la culture et de l’audiovisuel; rappelle que l’IA peut jouer un rôle de soutien à la création de contenus dans ces secteurs; insiste sur le fait que l’IA peut favoriser la création de contenu dans les secteurs de l’éducation, de la culture et de l’audiovisuel, parallèlement aux plateformes d’information et d’éducation, y compris les listes de différents types de biens culturels et une multitude de sources de données; mesure le risque de violation des droits de propriété intellectuelle (DPI) associé à l’application de l’IA et de différentes technologies à une multiplicité de sources (documents, photographies, films) pour améliorer l’affichage, l’interrogation et la visualisation de ces données; demande que l’IA soit utilisée de manière à garantir un niveau élevé de protection des DPI dans le cadre législatif actuel, notamment en avertissant les citoyens et les entreprises lorsqu’ils risquent d’enfreindre involontairement les règles en matière de droits d’auteur, ainsi qu’en aidant les titulaires de droits de propriété intellectuelle en cas d’infraction à ces règles; souligne dès lors l’importance de disposer d’un cadre juridique européen approprié pour la protection des droits de propriété intellectuelle en rapport avec l’utilisation de l’IA;

2. souligne que l’intégration cohérente de l’intelligence artificielle dans le secteur de l’éducation peut permettre de relever certains des plus grands défis en la matière, de mettre au point des pratiques d’enseignement et d’apprentissage innovantes et, enfin, d’accélérer la réalisation des objectifs de développement durable et du programme 2030 en matière d’éducation;

3. réaffirme l’importance de l’accès à la culture pour chaque citoyen dans l’ensemble de l’Union; souligne, dans ce contexte, l’importance de l’échange de bonnes pratiques entre les États membres, les établissements d’enseignement et les institutions culturelles et autres parties prenantes; juge en outre essentiel que les ressources disponibles tant au niveau de l’Union qu’au niveau national soient utilisées au maximum de leur potentiel afin d’améliorer encore l’accès à la culture; souligne que de multiples options existent en matière d’accès à la culture et qu’il conviendrait d’explorer toutes ces possibilités afin de déterminer l’option la plus appropriée; souligne qu’il importe de garantir la cohérence avec le traité de Marrakech;

4. invite la Commission à tirer pleinement parti du potentiel de l’intelligence artificielle pour améliorer sa communication avec les citoyens, notamment via les plateformes culturelles et audiovisuelles en ligne, dans le but de fournir à ceux-ci les informations du secteur public qui les concernent, de les rapprocher de l’Union et de favoriser la cohésion sociale;

5. souligne que l’éducation, la culture et le secteur audiovisuel sont des domaines où l’utilisation de l’IA et des technologies connexes est délicate étant donné qu’ils peuvent avoir une incidence sur nos sociétés et sur les droits fondamentaux qu’elles garantissent; soutient donc que des principes éthiques juridiquement contraignants doivent être respectés lors du déploiement, du développement et de l’utilisation de ces technologies;

6. observe que l’intelligence artificielle et les technologies connexes peuvent être utilisées pour mettre au point ou appliquer de nouvelles méthodes d’enseignement, notamment en ce qui concerne l’apprentissage des langues, l’enseignement universitaire en général, l’apprentissage spécialisé, etc.; souligne l’importance non seulement de l’utilisation de ces technologies à des fins éducatives, mais aussi de l’habileté numérique et de la sensibilisation du public à ces technologies; souligne l’importance de fournir aux éducateurs, aux formateurs et aux autres parties prenantes les outils et le savoir-faire nécessaires en matière d’IA et de technologies connexes afin qu’ils sachent en quoi ces technologies consistent, à quoi elles servent et comment les utiliser de façon adéquate et dans le respect de la législation afin d’éviter toute violation des DPI; souligne en particulier l’importance de renforcer l’habileté numérique du personnel dans le secteur de l’éducation et d’améliorer la formation numérique offerte aux personnes âgées, considérant que les nouvelles générations possèdent déjà des notions de base relatives à ces technologies puisqu’elles ont grandi avec elles;

7. souligne que l’intelligence artificielle européenne devrait sauvegarder et promouvoir les valeurs fondamentales de notre Union, telles que la démocratie, l’indépendance et la liberté des médias et des sources d’information, la qualité de l’enseignement, la durabilité environnementale, la parité hommes-femmes et la diversité culturelle et linguistique;

8. invite la Commission, les États membres de l’Union et l’industrie à exploiter activement et pleinement le potentiel de l’IA pour promouvoir des informations factuelles et combattre les fausses nouvelles, la désinformation, la xénophobie et le racisme sur les plateformes culturelles et audiovisuelles en ligne, sans pour autant recourir à la censure;

9. constate que l’indépendance du processus de création pose des problèmes en ce qui concerne la propriété des droits de propriété intellectuelle; considère à cet égard qu’il ne serait pas approprié de vouloir doter les technologies d’IA de la personnalité juridique;

10. note que l’IA peut jouer un rôle important dans la promotion et la protection de notre diversité culturelle européenne et nationale, en particulier lorsqu’elle est utilisée sur les plateformes audiovisuelles en ligne pour recommander des contenus aux clients;

11. relève que l’IA pourrait profiter au secteur de la recherche, par exemple grâce au rôle que l’analyse prédictive peut jouer pour affiner l’analyse des données, notamment sur l’acquisition et la circulation des biens culturels; souligne la nécessité pour l’Union européenne d’augmenter les investissements et de favoriser les partenariats entre l’industrie et le monde universitaire pour renforcer l’excellence de la recherche au niveau européen;

12. souligne le rôle important que jouent les médias indépendants dans la culture et la vie quotidienne des citoyens; souligne que les faux médias constituent un problème fondamental, étant donné qu’ils ont tendance à violer constamment les droits d’auteur et les DPI; demande à la Commission de poursuivre, en coopération avec les États membres, son travail de sensibilisation à ce problème, en luttant contre les effets de la publication par certains médias de fausses informations ainsi que contre le problème des sources; estime en outre qu’il importe de mettre au point des stratégies éducatives pour améliorer l’habileté numérique, notamment à cet égard;

13. relève que les logiciels fondés sur l’IA, tels que la reconnaissance d’images, pourraient considérablement améliorer la capacité des établissements d’enseignement et des enseignants à offrir et à élaborer des méthodes pédagogiques de qualité modernes et innovantes, à améliorer l’habileté numérique et les compétences électroniques de l’ensemble de la population et à rendre l’éducation plus accessible; considère que ces méthodes pédagogiques devraient néanmoins être évaluées quant à leur fiabilité et à leur exactitude et devraient garantir l’équité dans l’éducation, la non-discrimination et la sécurité des enfants et des mineurs, tant au sein des infrastructures éducatives que lorsqu’ils sont connectés à distance dans le contexte pédagogique; souligne l’importance de la législation relative à la vie privée et à la protection des données afin de garantir une protection adéquate des données à caractère personnel, en particulier celles des enfants, grâce à des sources de données transparentes, fiables et respectueuses des DPI; juge essentiel que ces technologies ne soient intégrées dans les systèmes existants que si la protection des droits fondamentaux et de la vie privée est garantie dans l’absolu; souligne toutefois que les logiciels de reconnaissance ne doivent pas servir des buts autres que pédagogiques et ne doivent en aucun cas être utilisés à des fins de contrôle de l’accès aux établissements; souligne à cet égard la dépendance à l’égard de données externes et de quelques fournisseurs de logiciels qui dominent le marché; rappelle que les technologies acquises avec des fonds publics devraient être développées en tant que logiciels libres pour permettre le partage et la réutilisation des ressources, en les rendant disponibles dans toute l’Union, ce qui augmenterait les bénéfices et réduirait les dépenses publiques, tout en respectant pleinement la législation applicable, en particulier la directive (UE) 2019/790 du Parlement européen et du Conseil du 17 avril 2019 sur le droit d’auteur et les droits voisins dans le marché unique numérique[20];

14. note que pour que l’utilisation de l’IA soit bénéfique au secteur de l’éducation et de la recherche, l’Union européenne doit favoriser la formation aux compétences de demain, et notamment à une approche éthique et responsable des technologie de l’IA; ajoute dans cette perspective que cet enseignement ne doit pas être réservé aux filières scientifiques et techniques, déjà plus familiarisés avec ces outils, mais doit au contraire s’adresser au plus grand nombre, en particulier parmi les jeunes générations;

15. juge fondamentalement nécessaire d’investir dans la recherche et l’innovation en matière d’utilisation et de développement de l’IA et de ses applications dans les domaines de la culture, de l’éducation et de l’audiovisuel; demande à la Commission de trouver des fonds supplémentaires pour promouvoir la recherche et l’innovation en ce qui concerne les applications de l’intelligence artificielle dans ces secteurs;

16. exprime une vive inquiétude quant à la dépendance croissante des écoles et autres acteurs de l’enseignement à l’égard des services de technologie éducative, et notamment des systèmes d’IA, fournis par des entreprises dominantes, basées essentiellement hors de l’Union européenne;

17. souligne qu’il est nécessaire de veiller à la maîtrise de compétences fondamentales dans les domaines du numérique et de l’IA, en développant notamment les possibilités de formation offertes aux enseignants; insiste sur le fait que l’utilisation des technologies de l’IA à l’école devrait contribuer à réduire la fracture numérique au sein de la société et entre les différentes régions;

18. souligne que la crise liée à la pandémie de COVID-19 peut être considérée comme une période d’essais en ce qui concerne le développement et l’utilisation de technologies numériques ou liées à l’IA dans les secteurs de l’éducation et de la culture, comme le montrent les nombreuses plateformes d’enseignement à distance et les outils en ligne de promotion de la culture utilisés dans tous les États membres; invite dès lors la Commission à dresser le bilan de ces expériences lors de l’élaboration d’une stratégie commune de l’Union concernant le recours accru à de telles solutions technologiques;

19. rappelle que la protection des données et le respect de la vie privée peuvent être particulièrement remis en cause par l’IA; défend le respect des principes établis dans le règlement général sur la protection des données (RGPD);

20. demande à la Commission une protection plus forte des données personnelles des élèves et des enseignants dans le domaine de l’éducation;

21. souligne que l’interaction entre l’IA et les secteurs de la création est complexe et requiert une évaluation approfondie; se félicite des études en cours intitulées «Trends and Developments in Artificial Intelligence - Challenges to the IPR Framework» (Tendances et évolutions dans le domaine de l’intelligence artificielle: enjeux pour le cadre en matière de DPI) et «Study on Copyright and New technologies: copyright data management and Artificial Intelligence» (Étude sur le droit d’auteur et les nouvelles technologies: gestion des droits d’auteurs et intelligence artificielle); souligne qu’il importe de préciser les conditions d’utilisation des contenus protégés par le droit d’auteur en tant que données d’entrée (images, musique, films, bases de données, etc.) et dans le cadre de la production de données de sortie culturelles et audiovisuelles, qu’elles soient créées par des humains avec l’aide de l’intelligence artificielle ou générées de manière autonome par des technologies d’intelligence artificielle; invite la Commission à étudier les incidences de l’intelligence artificielle sur les secteurs de la création européens; rappelle l’importance des données européennes et salue les déclarations de la Commission à cet égard ainsi que le fait que l’intelligence artificielle et les technologies qui y sont liées soient considérées comme une priorité;

22. souligne le rôle que joue la personnalité d’un auteur pour effectuer des choix libres et créatifs qui font l’originalité des œuvres[21]; souligne qu’il importe de prévoir des limites et des exceptions au droit d’auteur lorsque des contenus sont utilisés en tant que données d’entrée, notamment dans l’enseignement, dans le milieu universitaire et dans la recherche, et dans le cadre de la production de données de sortie culturelles et audiovisuelles, y compris les contenus générés par les utilisateurs;

23. souligne que l’interaction entre l’IA et les secteurs de la création est complexe et requiert une évaluation approfondie; considère que la protection des créations techniques et artistiques générées par l’IA doit être envisagée afin d’encourager cette forme de création;

24. souligne que, dans le contexte de l’économie des données, il est possible d’améliorer la gestion des données relatives aux droits d’auteur afin de mieux rémunérer les auteurs, interprètes et exécutants, notamment en permettant l’identification rapide de l’auteur et du titulaire des droits sur les contenus, ce qui contribuerait à réduire le nombre d’œuvres orphelines; souligne en outre que les solutions technologiques de l’IA devraient être utilisées pour améliorer les infrastructures de données relatives aux droits d’auteur et l’interconnexion des métadonnées relatives aux œuvres, mais aussi pour favoriser l’application de l’obligation de transparence prévue à l’article 19 de la directive sur le droit d’auteur et les droits voisins dans le marché unique numérique afin de produire des informations à jour, pertinentes et exhaustives sur l’exploitation des œuvres et performances des auteurs, interprètes et exécutants, notamment lorsqu’il y a plusieurs titulaires de droits ou que le système de licence est complexe;

25. souligne la nécessité de rechercher la manière la plus efficace d’atténuer les biais dans les systèmes d’intelligence artificielle, conformément aux normes éthiques et de non-discrimination; souligne que les ensembles de données utilisés pour entraîner l’IA doivent être aussi vastes que possible afin de représenter la société au mieux, que les résultats doivent être révisés pour éviter toute forme de stéréotype, de discrimination ou de biais et que l’IA doit au besoin être employée pour identifier et corriger les biais humains, lorsqu’ils existent; invite la Commission à encourager et à faciliter le partage de stratégies de suppression des biais concernant les données;

26. demande à la Commission d’évaluer l’incidence de l’IA et des technologies connexes sur les secteurs de l’audiovisuel et de la création, notamment en ce qui concerne la qualité d’auteur et les questions y afférentes;

27. demande à ce que le plan d’action sur la propriété intellectuelle, annoncé par la Commission aborde la question de l’IA et son impact sur les secteurs créatifs, en prenant en compte la nécessité de trouver un équilibre entre la protection des DPI et l’incitation à la création dans les domaines de l’éducation, de la culture et de la recherche; estime que l’Union peut être chef de file dans la création de technologies de l’IA si elle se dote d’un cadre règlementaire opérationnel, ainsi que de politiques publiques volontaristes, notamment en matière de programmes de formation et de soutien financier à la recherche; demande à la Commission d’évaluer l’incidence des droits de propriété intellectuelle sur la recherche et le développement de l’IA et des technologies connexes, ainsi que sur les secteurs de l’audiovisuel et de la création, notamment en ce qui concerne la qualité d’auteur, la juste rémunération des auteurs et les questions y afférentes;

28. souligne le futur rôle que l’introduction d’outils technologiques fondés sur l’IA devrait jouer en matière de conservation, de communication et de contrôle du patrimoine, de même que dans les projets de recherche associés;

29. souligne la nécessité de trouver un équilibre entre, d’une part, le développement des systèmes d’IA et leur utilisation dans les secteurs de l’éducation, de la culture et de l’audiovisuel et, d’autre part, les mesures visant à préserver la concurrence et la compétitivité des entreprises d’IA dans ces secteurs; rappelle à cet égard qu’il faut encourager les entreprises à investir dans l’innovation des systèmes d’IA utilisés dans ces secteurs, tout en veillant à ce que celles qui produisent de telles applications n’obtiennent pas de monopole sur le marché;

30. insiste sur le fait qu’il est tout à fait exclu que l’IA et les technologies y afférentes soient utilisées sans contrôle humain; réaffirme l’importance des droits fondamentaux et la primauté incontournable de la législation en matière de protection des données et de la vie privée, qui s’impose pour régir ces technologies;

31. demande à la Commission d’évaluer l’incidence de l’IA et des technologies y afférentes en ce qui concerne la création de nouvelles œuvres audiovisuelles, comme les trucages vidéo ultra-réalistes, et de déterminer quelles seront les conséquences juridiques appropriées en cas de création, de production ou de distribution de telles œuvres à des fins malveillantes;

32. note que l’automatisation et le développement de l’IA pourraient représenter une menace pour l’emploi et réaffirme la priorité de maintenir les emplois, en particulier dans les secteurs de l’éducation, de la culture et de la création;

33. invite la Commission à lancer un plan d’éducation à l’échelle de l’Union concernant les compétences fondamentales dans les domaines du numérique et de l’IA, en coordination avec les États membres, en accordant une attention particulière aux élèves et aux jeunes;

34. prie la Commission de se pencher sur les aspects juridiques du produit des technologies de l’IA, ainsi que des contenus culturels créés en ayant recours à l’IA et aux technologies y afférentes; estime qu’il est important de soutenir la production de contenus culturels; réaffirme toutefois qu’il importe de préserver le cadre unique de l’Union en matière de DPI et que toute modification doit être apportée avec le soin nécessaire, afin de ne pas rompre l’équilibre fragile; invite la Commission à procéder à une évaluation approfondie portant sur la personnalité juridique à laquelle pourrait être rattaché le contenu produit par l’IA, ainsi que sur l’application des DPI au contenu généré par l’IA et au contenu créé en utilisant des outils de l’IA;

35. invite la Commission à fixer des exigences pour l’acquisition et le déploiement de l’intelligence artificielle et de technologies y afférentes par les organismes du secteur public de l’Union, ainsi qu’à garantir le respect du droit de l’Union et des droits fondamentaux; souligne la valeur ajoutée d’instruments tels que les consultations publiques et les analyses d’impact qui doivent être effectuées avant l’acquisition ou le déploiement de systèmes d’intelligence artificielle, comme le recommande le rapport sur l’IA et ses incidences sur la liberté d’opinion et d’expression[22] présenté à l’Assemblée générale des Nations unies par le rapporteur spécial;

36. invite la Commission à établir des règles assurant une réelle interopérabilité des données afin de rendre le contenu acheté sur une plateforme accessible sur n’importe quel outil numérique indépendamment de la marque;

37. souligne que les défis que pose le recours à l’intelligence artificielle et aux technologies y afférentes ne peuvent être surmontés qu’en fixant des obligations relatives à la qualité des données et des exigences en matière de transparence et de contrôle, afin de permettre au public et aux autorités de vérifier que le droit de l’Union et les droits fondamentaux sont respectés; attend les propositions de la Commission, dans le sillage de sa communication sur une stratégie européenne pour les données[23], en ce qui concerne le partage et la mutualisation d’ensembles de données;

38. invite en outre la Commission à envisager d’élaborer, en étroite coopération avec les États membres et les parties prenantes, des mécanismes ou systèmes de vérification destinés à aider les éditeurs, les auteurs et les créateurs, entre autres, à vérifier quels contenus ils peuvent utiliser et à déterminer plus facilement lesquels sont protégés au titre de la législation relative aux DPI.

INFORMATIONS SUR L’ADOPTION
PAR LA COMMISSION SAISIE POUR AVIS

VOTE FINAL PAR APPEL NOMINAL
EN COMMISSION SAISIE POUR AVIS

Légende des signes utilisés:

+ : pour

- : contre

0 : abstention

AVIS DE LA COMMISSION DES DROITS DES FEMMES ET DE L’ÉGALITÉ DES GENRES (14.9.2020)

à l’intention de la commission de la culture et de l’éducation

sur l’intelligence artificielle dans les domaines de l’éducation, de la culture et de l’audiovisuel

(2020/2017(INI))

Rapporteure pour avis: Maria da Graça Carvalho

SUGGESTIONS

La commission des droits des femmes et de l’égalité des genres invite la commission de la culture et de l’éducation, compétente au fond, à incorporer dans la proposition de résolution qu’elle adoptera les suggestions suivantes:

A. considérant que l’égalité entre les hommes et les femmes est un principe essentiel de l’Union européenne, qui est consacré dans ses traités et qui devrait être incorporé dans toutes ses politiques, notamment dans les domaines de l’éducation, de la culture et de l’audiovisuel, ainsi que dans le développement de technologies telles que l’intelligence artificielle (IA), qui sont des instruments essentiels permettant de faire évoluer les mentalités et de remettre en question les stéréotypes et les préjugés sexistes; considérant que le développement de la numérisation et des technologies telles que l’IA transforme fondamentalement notre réalité et que la réglementation de ces technologies aujourd’hui influencera fortement nos sociétés futures; qu’il est nécessaire de plaider en faveur d’une approche centrée sur l’humain et ancrée dans les droits de l’homme ainsi que dans l’éthique pour le développement et l’utilisation de l’IA;

B. considérant que l’article 21 de la charte des droits fondamentaux interdit la discrimination fondée sur un large éventail de motifs et devrait constituer un principe directeur; que les multiples formes de discrimination ne devraient pas être reproduites dans la conception, l’implantation, le développement et l’utilisation de systèmes d’IA basés sur des algorithmes fondés sur des préjugés sexistes, ou dans les contextes sociaux dans lesquels de tels algorithmes sont utilisés;

C. considérant que les expériences passées, en particulier dans les domaines techniques, nous ont montré que les évolutions et les innovations reposent souvent principalement sur des données masculines et que les besoins des femmes ne sont pas pleinement pris en compte; que la lutte contre ces préjugés exige une plus grande vigilance, des solutions techniques et l’élaboration d’exigences claires en matière d’équité, de responsabilité et de transparence;

D. considérant que des ensembles de données incomplets et imprécis, l’absence de données ventilées par sexe et des algorithmes erronés peuvent fausser le raisonnement d’un système d’IA et porter atteinte à la réalisation de l’égalité entre les hommes et les femmes dans la société; que les données relatives aux groupes défavorisés et aux formes intersectionnelles de discrimination ont tendance à être incomplètes, voire absentes;

E. considérant que les inégalités, la discrimination et les stéréotypes fondés sur le sexe peuvent également être créés et reproduits par les images et le langage véhiculés par les médias et les applications fondées sur l’IA; que l’éducation, les programmes culturels et les contenus audiovisuels ont une influence considérable sur la formation des croyances et des valeurs des citoyens et constituent un outil fondamental pour lutter contre les stéréotypes sexistes, réduire l’écart numérique entre les hommes et les femmes et établir des modèles solides; considérant qu’un cadre éthique et réglementaire doit être en place avant que des solutions automatisées ne puissent être prévues pour ces domaines clés de la société;

F. considérant que la science et l’innovation sont capables d’apporter des bienfaits pouvant changer la vie, en particulier pour les personnes qui sont le plus laissées pour compte, comme les femmes et les filles vivant dans des régions reculées; que l’éducation scientifique est importante pour acquérir des compétences, un travail décent et les emplois de l’avenir ainsi que pour mettre un terme aux stéréotypes de genre selon lesquels ces emplois constituent des domaines typiquement réservés aux hommes; que la science et la pensée scientifique sont essentielles à la culture démocratique, qui est à son tour fondamentale pour faire progresser l’égalité des genres;

G. considérant que les femmes sont largement sous-représentées dans le secteur de l’IA, que ce soit comme créatrices, comme développeuses ou comme consommatrices; que le fait d’exploiter pleinement le potentiel des compétences, des connaissances et des qualifications dont disposent les femmes dans les domaines du numérique, de l’intelligence artificielle et des technologies de l’information et de la communication (TIC), ainsi que leur reconversion professionnelle, peut contribuer à stimuler l’économie européenne; que, au niveau mondial, seulement 22 % des professionnels dans le domaine de l’IA sont des femmes; que le manque de femmes dans le développement de l’IA, en plus d’accroître le risque de partialité, prive également l’Union européenne de talents, de vision et de ressources, et constitue donc un obstacle à l’innovation; que la mixité renforce l’interaction des femmes dans les équipes et les performances des équipes, et qu’elle favorise le potentiel d’innovation tant dans les entreprises publiques que privées;

H. considérant qu’au sein de l’Union européenne, une femme sur dix âgée de 15 ans ou plus a déjà subi une forme de cyberviolence, et que le cyberharcèlement reste un sujet de préoccupation dans le développement de l’IA, y compris dans le domaine de l’éducation; que la cyberviolence est souvent dirigée contre les femmes qui osent s’exprimer, comme les activistes, les femmes politiques et d’autres personnalités publiques; que l’IA et d’autres technologies émergentes peuvent jouer un rôle important dans la prévention de la cyberviolence contre les femmes et les filles ainsi que dans l’éducation des personnes;

I. considérant que l’Union européenne est confrontée à une pénurie sans précédent de femmes dans les carrières et l’enseignement liés aux sciences, aux technologies, à l’ingénierie et aux mathématiques (STIM), étant donné que les femmes représentent 52 % de la population européenne, mais que seulement une sur trois est diplômée des STIM;

J. que, malgré la tendance positive de la participation et de l’intérêt des femmes dans l’enseignement des STIM, les pourcentages restent insuffisants, surtout si l’on considère l’importance des carrières liées aux STIM dans un monde toujours plus numérisé;

1. estime que l’IA présente un potentiel considérable de promotion de l’égalité entre les hommes et les femmes, à condition que les partis pris conscients et inconscients déjà existants soient supprimés; souligne la nécessité de poursuivre les efforts réglementaires pour veiller à ce que l’IA respecte les principes et les valeurs de l’égalité entre les hommes et les femmes et de la non-discrimination, tels qu’ils sont consacrés à l’article 21 de la charte des droits fondamentaux; souligne, en outre, qu’il est important de veiller à l’obligation de rendre des comptes, de mettre en place une approche différenciée et transparente fondée sur les risques et une surveillance continue des algorithmes existants et des nouveaux algorithmes, ainsi que de leurs résultats;

2. souligne la nécessité, pour les organisations de médias, d’être informées des principaux paramètres des systèmes d’IA fondés sur des algorithmes qui déterminent le classement et les résultats de recherche sur des plateformes tierces, ainsi que, pour les utilisateurs, d’être informés de l’utilisation de l’IA dans les services de prise de décision et d’être habilités à définir leurs paramètres de confidentialité au moyen de mesures transparentes et compréhensibles;

3. rappelle que les algorithmes et l’IA doivent être «éthiques dès la conception», sans intégrer de préjugé, de manière à garantir une protection maximale des droits fondamentaux;

4. demande que soient adoptées des politiques visant à accroître la participation des femmes dans les STIM et à l’IA, ainsi qu’une approche à plusieurs niveaux afin de combler l’écart entre les hommes et les femmes à tous les niveaux d’éducation, et plus particulièrement dans l’enseignement élémentaire, et à tous les niveaux d’emploi dans le secteur numérique, en insistant sur l’importance du perfectionnement et de la reconversion;

5. constate que les stéréotypes de genre, le découragement culturel et le manque de sensibilisation et de promotion des modèles féminins entravent les possibilités que rencontrent les filles et les femmes dans les TIC, les STIM et l’IA et conduisent à la discrimination ainsi qu’à un éventail de possibilités plus restreint pour les femmes sur le marché du travail; stresses the importance of increasing the number of women in these sectors, which will contribute to women’s participation and economic empowerment, as well as to reducing the risks associated with the creation of so-called ‘biased algorithms’;

6. encourage la Commission et les États membres à acheter des services éducatifs, culturels et audiovisuels qui appliquent un équilibre hommes-femmes sur leur lieu de travail, à soutenir des politiques et des lignes directrices en matière de marchés publics qui incitent les entreprises à embaucher davantage de femmes dans les STIM ainsi qu’à faciliter la distribution de fonds aux entreprises des secteurs de l’éducation, de la culture et de l’audiovisuel qui tiennent compte des critères d’équilibre entre les hommes et les femmes;

7. souligne la nature intersectorielle de la discrimination fondée sur le sexe, enracinée dans un préjugé sexiste conscient ou inconscient et manifestée dans le secteur de l’éducation, la représentation des femmes dans les médias et la publicité à l’écran et hors écran, et la responsabilité des secteurs public et privé dans le recrutement, le développement et la rétention des femmes de talent ainsi que l’instauration d’une culture d’entreprise inclusive;

8. invite la Commission et les États membres à prendre en considération les aspects éthiques, notamment la dimension hommes-femmes, lors de l’élaboration des politiques et de la législation en matière d’IA et, si nécessaire, à adapter la législation actuelle, y compris les programmes de l’Union et les lignes directrices en matière d’éthique pour l’utilisation de l’IA;

9. encourage les États membres à adopter une stratégie visant à promouvoir la participation des femmes aux études et aux carrières liées aux STIM, aux TIC et à l’IA dans les stratégies nationales existantes pertinentes en vue d’atteindre l’égalité des sexes ainsi qu’à définir un objectif en matière de participation de chercheuses aux projets dans les domaines des STIM et de l’IA; demande instamment à la Commission de combler l’écart entre les sexes observé dans les carrières et l’éducation liées aux STIM, aux TIC et à l’IA, et d’en faire une priorité du paquet de mesures sur les compétences numériques afin de promouvoir la présence des femmes à tous les niveaux d’éducation, ainsi que dans le renforcement des compétences et la reconversion professionnelle de la main-d’œuvre;

10. constate que les concepteurs d’applications du domaine de l’IA doivent démultiplier leurs efforts en soumettant leurs produits à des tests approfondis visant à prévoir les erreurs susceptibles de toucher des groupes sensibles de la société; appelle de ses vœux l’intensification des travaux d’élaboration d’un outil capable d’apprendre aux algorithmes à reconnaître les comportements humains préoccupants, lequel permettra d’indiquer les éléments qui engendrent le plus souvent des mécanismes discriminatoires au sein des processus décisionnels automatisés des algorithmes;

11. souligne l’importance de veiller à ce que les intérêts des femmes victimes de multiples formes de discrimination, qui appartiennent à des groupes marginalisés et vulnérables, soient dûment pris en considération et représentés dans tout futur cadre réglementaire; fait remarquer avec inquiétude que les groupes marginalisés risquent de subir de nouvelles fractures technologiques, économiques et sociales avec le développement de l’IA;

12. appelle de ses vœux des mesures et des textes spécifiques voués à lutter contre la cyberviolence; souligne que la Commission et les États membres devraient octroyer un financement approprié pour le développement de solutions d’IA qui préviennent et luttent contre la cyberviolence ainsi que le harcèlement et l’exploitation sexuels en ligne faites aux femmes et aux filles et contribuent à l’éducation des jeunes; demande l’élaboration et la mise en œuvre de mesures efficaces pour lutter contre les anciennes et les nouvelles formes de harcèlement en ligne pour les victimes sur le lieu de travail;

13. fait remarquer que, pour analyser les incidences des systèmes algorithmiques sur les citoyens, l’accès aux données devrait être étendu aux parties appropriées, notamment aux chercheurs indépendants, aux médias et aux organisations de la société civile, tout en respectant pleinement la législation de l’Union en matière de protection des données et de la vie privée; note que les utilisateurs doivent toujours être informés de ce qu’une décision à leur égard a été prise au moyen d’un algorithme, en particulier s’il s’agit d’une décision concernant l’accès à des services ou à un produit donné;

14. invite la Commission et les États membres à concevoir des mesures qui intègrent pleinement la dimension de genre, comme les campagnes de sensibilisation, la formation et les programmes d’études, lesquelles devraient informer les citoyens sur la manière dont fonctionnent les algorithmes et les incidences de ces derniers sur leur vie quotidienne; les invite, en outre, à cultiver une mentalité et des conditions de travail fondées sur l’égalité entre les hommes et les femmes, qui débouchent sur le développement de produits technologiques et d’environnements de travail plus inclusifs; demande instamment à la Commission et aux États membres d’assurer l’inclusion des compétences numériques et de la formation à l’IA dans les programmes scolaires et de les rendre obligatoires pour tous, afin de réduire la fracture numérique entre les sexes; 

15. insiste sur la nécessité de former les travailleurs et les éducateurs qui s’occupent des questions relatives à l’IA afin de promouvoir la capacité à recenser et à corriger les pratiques discriminatoires fondées sur le sexe sur le lieu de travail et dans l’éducation, ainsi que les travailleurs qui élaborent des systèmes et des applications d’IA afin qu’ils décèlent et remédient à la discrimination fondée sur le sexe dans les systèmes et les applications d’IA qu’ils développent; demande que soient établies des responsabilités claires dans les entreprises et les établissements d’enseignement afin de garantir qu’il n’y ait pas de discrimination ou de discrimination fondée sur le sexe sur le lieu de travail et dans les établissements d’enseignement; souligne que les images sans genre de l’IA et des robots doivent être privilégiées à des fins éducatives et culturelles, sauf si le sexe est un facteur clé pour une raison quelconque;

16. souligne l’importance que revêtent le développement et le déploiement d’applications fondées sur l’IA dans les domaines de l’éducation, de la culture et de l’audiovisuel pour collecter des données ventilées par sexe et d’autres données relatives à l’égalité ainsi que pour appliquer, si nécessaire, des techniques modernes d’apprentissage automatique dénuées de tout parti pris afin de corriger les stéréotypes et préjugés sexistes susceptibles d’avoir des incidences négatives; 

17. prie instamment la Commission et les États membres de recueillir des données ventilées par genre afin d’alimenter les ensembles de données d’une manière qui favorise l’égalité; invite également la Commission et les États membres à mesurer les incidences des politiques publiques mises en place pour intégrer la dimension de genre grâce à l’analyse des données recueillies; souligne l’importance d’utiliser des données complètes, fiables, actuelles, dénuées de tout parti pris, non discriminatoires et sensibles à la dimension de genre dans le cadre du développement de l’IA;

18. invite la Commission à inclure l’éducation dans le cadre réglementaire applicable aux systèmes d’IA à haut risque, compte tenu de la nécessité de veiller à ce que l’éducation continue à contribuer au bien public et du caractère particulièrement sensible des données sur les élèves, étudiants et autres apprenants; souligne que, dans le domaine de l’éducation, ce déploiement doit permettre la participation des éducateurs, des apprenants et de la société en général, et tenir compte des besoins de ces derniers et des bénéfices escomptés, afin de garantir l’usage approprié et éthique de l’IA;

19. invite la Commission à encourager l’utilisation de programmes de l’Union tels que Horizon Europe, le programme pour une Europe numérique et Erasmus+ pour promouvoir la recherche pluridisciplinaire, les projets pilotes, les expérimentations et l’élaboration d’outils, y compris la formation, pour l’identification des préjugés sexistes dans l’IA, ainsi que les campagnes de sensibilisation du grand public;

20. insiste sur la nécessité de créer des équipes diversifiées de développeurs et d’ingénieurs qui travaillent aux côtés des principaux acteurs des domaines de l’éducation, de la culture et de l’audiovisuel afin d’éviter que les préjugés d’ordre sexiste ou social ne soient pris en compte par inadvertance dans les algorithmes, les applications et les systèmes fondés sur l’IA; souligne la nécessité de tenir compte de la diversité des théories suivant lesquelles l’IA a été développée jusqu’à présent et pourrait encore être perfectionnée à l’avenir;

21. souligne que l’attention dûment apportée à l’élimination des préjugés et des discriminations à l’égard des différents groupes, y compris des stéréotypes de genre, ne devrait pas freiner le progrès technologique;

INFORMATIONS SUR L’ADOPTION
PAR LA COMMISSION SAISIE POUR AVIS

VOTE FINAL PAR APPEL NOMINAL
EN COMMISSION SAISIE POUR AVIS

Légende des signes utilisés:

+ : pour

- : contre

0 : abstention

INFORMATIONS SUR L’ADOPTION PAR LA COMMISSION COMPÉTENTE AU FOND

VOTE FINAL PAR APPEL NOMINAL EN COMMISSION COMPÉTENTE AU FOND

Légende des signes utilisés:

+ : pour

- : contre

0 : abstention