Le Parlement européen,

–  vu la Charte des droits fondamentaux de l’Union européenne («la Charte»),

–  vu les articles 165, 166 et 167 du traité sur le fonctionnement de l’Union européenne,

–   vu les conclusions du Conseil du 9 juin 2020 intitulées «Façonner l’avenir numérique de l’Europe»(1),

–   vu l’avis du 19 septembre 2018 du Comité économique et social européen sur l’écart numérique entre les hommes et les femmes(2),

–   vu la proposition de règlement du Parlement européen et du Conseil du 6 juin 2018 établissant le programme pour une Europe numérique pour la période 2021-2027 (COM(2018)0434),

–   vu la communication de la Commission du 30 septembre 2020 concernant le «Plan d’action en matière d’éducation numérique 2021-2027: Réinitialiser l’éducation et la formation à l’ère du numérique» (COM(2020)0624),

–   vu la communication de la Commission du 30 septembre 2020 relative à la réalisation place d’un espace européen de l’éducation d’ici à 2025 (COM(2020)0625),

–  vu le rapport de la Commission du 19 février 2020 sur les conséquences de l’intelligence artificielle, de l’internet des objets et de la robotique sur la sécurité et la responsabilité (COM(2020)0064),

–  vu le livre blanc de la Commission du 19 février 2020 intitulé «Intelligence artificielle - Une approche européenne axée sur l’excellence et la confiance» (COM(2020)0065),

–  vu la communication de la Commission du 19 février 2020 intitulée «Une stratégie européenne pour les données» (COM(2020)0066),

–  vu la communication de la Commission du 25 avril 2018 intitulée «L’intelligence artificielle pour l’Europe» (COM(2018)0237),

–  vu la communication de la Commission du 17 janvier 2018 concernant le plan d’action en matière d’éducation numérique (COM(2018)0022),

–   vu le rapport du groupe d’experts de haut niveau sur l’intelligence artificielle du 8 avril 2019 intitulé «Lignes directrices en matière d’éthique pour une IA digne de confiance»,

–  vu sa résolution du 12 février 2019 sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique(3),

–  vu sa résolution du 11 septembre 2018 sur l’égalité des langues à l’ère numérique(4),

–   vu sa résolution du 12 juin 2018 sur la modernisation de l’enseignement dans l’Union européenne(5),

–  vu sa résolution du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique(6),

–  vu sa résolution du 1er juin 2017 sur le passage au numérique des entreprises européennes(7),

–   vu le briefing de son département thématique des politiques structurelles et de cohésion de mai 2020 sur l’utilisation de l’intelligence artificielle dans les domaines de la culture et de la création,

–   vu l’analyse approfondie de son département thématique des politiques structurelles et de cohésion de mai 2020 sur l’utilisation de l’intelligence artificielle dans le domaine de l’audiovisuel,

–   vu l’étude de son département thématique des droits des citoyens et des affaires constitutionnelles d’avril 2020 intitulée «Éducation et emploi des femmes dans les sciences, les technologies et l’économie numérique, y compris l’IA et son influence sur l’égalité hommes-femmes»,

–  vu l’article 54 de son règlement intérieur,

–  vu les avis de la commission des libertés civiles, de la justice et des affaires intérieures, de la commission du marché intérieur et de la protection des consommateurs, de la commission des affaires juridiques et de la commission des droits de la femme et de l’égalité des genres,

–  vu le rapport de la commission de la culture et de l’éducation (A9-0127/2021),

A.  considérant que les technologies liées à l’intelligence artificielle (IA), qui peuvent avoir une incidence directe sur nos sociétés, se développent rapidement et sont toujours plus utilisées dans chaque domaine ou presque de nos vies, y compris dans l’éducation, la culture et le secteur audiovisuel; considérant qu’une IA éthique contribuera probablement à améliorer la productivité de la main-d’œuvre et à accélérer la croissance économique;

B.  considérant que le développement, le déploiement et l’utilisation de l’IA, y compris des logiciels, des algorithmes et des données utilisés ou produits par elle, devraient respecter les principes éthiques que sont la transparence, l’explicabilité, l’équité et la responsabilité;

C.  considérant que l’Union est largement à la traîne par rapport aux autres grandes économies en ce qui concerne les investissements publics dans l’IA; que le sous-investissement dans l’IA risque de se ressentir sur la compétitivité de l’Union dans tous les domaines;

D.  considérant que le développement d’une IA éthique requiert une approche intégrée de l’IA, ainsi que la disponibilité, la collecte et l’interprétation de données de haute qualité, fidèles, équitables, transparentes, fiables, sûres et compatibles;

E.  considérant que l’article 21 de la charte interdit la discrimination fondée sur un large éventail de motifs; que la mise au point, le déploiement et l’utilisation des systèmes d’IA devraient éviter de répliquer diverses formes de discrimination;

F.  considérant que l’égalité entre les hommes et les femmes est un principe essentiel de l’Union, qui est consacré dans ses traités et qui devrait être incorporé dans toutes ses politiques, notamment dans les domaines de l’éducation, de la culture et de l’audiovisuel ainsi que dans le développement de technologies telles que l’IA;

G.  considérant que les expériences passées, en particulier dans les domaines techniques, ont montré que les évolutions et les innovations reposent souvent principalement sur des données masculines et que les besoins des femmes ne sont pas pleinement pris en compte; que la lutte contre ces préjugés exige une plus grande vigilance, des solutions techniques et l’élaboration d’exigences claires en matière d’équité, de responsabilité et de transparence;

H.  considérant que des ensembles de données incomplets et imprécis, l’absence de données ventilées par sexe et des algorithmes erronés peuvent fausser le raisonnement d’un système d’IA et porter atteinte à la réalisation de l’égalité entre les hommes et les femmes dans la société; que les données relatives aux groupes défavorisés et aux formes intersectionnelles de discrimination ont tendance à être incomplètes, voire absentes;

I.  considérant que les inégalités, la discrimination et les stéréotypes fondés sur le sexe peuvent également être créés et reproduits par les images et le langage véhiculés par les médias et les applications fondées sur l’IA; que l’éducation, les programmes culturels et les contenus audiovisuels ont une influence considérable sur la formation des croyances et des valeurs des citoyens et constituent un outil fondamental pour lutter contre les stéréotypes sexistes, réduire l’écart numérique entre les hommes et les femmes et établir des modèles solides; qu’un cadre éthique et réglementaire doit être en place avant que des solutions automatisées ne puissent être prévues pour ces domaines clés de la société;

J.  considérant que la science et l’innovation sont capables d’apporter des bienfaits pouvant changer la vie, en particulier pour les personnes qui sont le plus laissées pour compte, comme les femmes et les filles vivant dans des régions reculées; que l’éducation scientifique est importante pour acquérir des compétences, un travail décent et les emplois de l’avenir ainsi que pour mettre un terme aux stéréotypes de genre selon lesquels ces emplois constituent des domaines typiquement réservés aux hommes; que la science et la pensée scientifique sont essentielles à la culture démocratique, qui est à son tour fondamentale pour faire progresser l’égalité des genres;

K.  considérant qu’au sein de l’Union, une femme sur dix âgée de 15 ans ou plus a déjà subi une forme de cyberviolence, et que le cyberharcèlement reste un sujet de préoccupation dans le développement de l’IA, y compris dans le domaine de l’éducation; que la cyberviolence est souvent dirigée contre les femmes qui participent à la vie publique, comme les activistes, les femmes politiques et d’autres personnalités publiques; que l’IA et d’autres technologies émergentes peuvent jouer un rôle important dans la prévention de la cyberviolence contre les femmes et les filles ainsi que dans l’éducation des personnes;

L.  considérant que l’Union et ses États membres ont la responsabilité particulière d’exploiter, de promouvoir et d’augmenter la valeur ajoutée des technologies de l’IA et de veiller à ce que ces technologies soient sans danger et contribuent au bien-être et à l’intérêt général des citoyens européens; que ces technologies peuvent grandement contribuer à la réalisation de notre objectif commun, à savoir améliorer le quotidien de nos citoyens et favoriser la prospérité dans l’Union, en soutenant le développement de meilleures stratégies et l’innovation dans plusieurs domaines, en l’occurrence l’éducation, la culture et l’audiovisuel;

M.  considérant que l’IA repose majoritairement sur des logiciels libres, ce qui signifie que les codes source peuvent être consultés, modifiés et améliorés;

N.  considérant qu’il peut être nécessaire d’apporter certains ajustements à des instruments juridiques spécifiques de l’Union afin de tenir compte de la transformation numérique et de répondre aux nouveaux enjeux liés à l’utilisation des technologies de l’IA dans les domaines de l’éducation, de la culture et de l’audiovisuel, comme la protection des données à caractère personnel et de la vie privée, la lutte contre la discrimination, l’égalité des genres, le respect des droits de propriété intellectuelle (DPI), la protection de l’environnement et les droits des consommateurs;

O.  considérant qu’il importe, pour garantir des conditions de concurrence équitables, de donner au secteur audiovisuel accès aux données des plateformes mondiales et des grands acteurs;

P.  considérant que l’IA et les applications ou inventions futures auxquelles elle aura contribué, comme toute autre technologie, peuvent avoir une double nature; que l’IA et les technologies connexes suscitent de nombreuses inquiétudes concernant l’éthique et la transparence de leur développement, de leur déploiement et de leur utilisation, notamment s’agissant de la collecte, de l’utilisation et de la diffusion des données; qu’il convient d’évaluer soigneusement les avantages et les risques des technologies de l’IA dans les domaines de l’éducation, de la culture et de l’audiovisuel et d’analyser de manière approfondie et continue ses effets sur tous les aspects de la société, sans saper leur potentiel;

Q.  considérant que l’éducation a pour but de réaliser le potentiel humain, de développer la créativité et d’amener un changement social authentique, tandis que, mal utilisés, des systèmes de l’IA fondés sur les données peuvent entraver le développement humain et social;

R.  considérant que l’éducation et les possibilités d’éducation sont un droit fondamental; que le développement, le déploiement et l’utilisation des technologies liées à l’IA dans le domaine de l’éducation devraient être considérés comme à haut risque et faire l’objet d’exigences plus strictes en matière de sécurité, de transparence, d’équité et de responsabilité;

S.  considérant qu’une connectivité omniprésente de haute qualité, rapide et sécurisée, des connexions à haut débit, des réseaux à haute capacité, des compétences informatiques, des compétences numériques, ainsi que des équipements et infrastructures numériques, l’acceptation par la société et un cadre stratégique ciblé et souple sont parmi les conditions préalables nécessaires au déploiement réussi à grande échelle de l’IA dans l’Union; qu’il est essentiel de déployer ces infrastructures et ces équipements de manière égale dans l’Union afin de résorber la fracture numérique qui continue de diviser les régions et les citoyens de l’Union;

T.  considérant qu’il est impératif de combler l’écart entre les hommes et les femmes dans les sujets liés aux sciences, aux technologies, à l’ingénierie, aux arts et aux mathématiques (STIAM) pour garantir une représentation équitable et juste de toute la société dans le développement, le déploiement et l’utilisation des technologies liées à l’IA, y compris des logiciels, des algorithmes et des données utilisés et produits par celles-ci;

U.  considérant qu’il est indispensable de garantir l’acquisition par toutes les personnes dans l’Union, dès le plus jeune âge, des compétences nécessaires pour mieux comprendre le potentiel mais aussi les limites de l’IA, de manière à mieux se préparer à la présence croissante de l’IA et des technologies qui y sont liées dans tous les aspects de l’activité humaine et à être en mesure de saisir pleinement toutes les opportunités qu’elles offrent; que l’acquisition répandue de compétences numériques dans toutes les franges de la société européenne est un préalable nécessaire à la réalisation d’une transition numérique juste et profitable à tous;

V.  considérant qu’à cette fin, les États membres doivent investir dans l’éducation numérique et aux médias, équiper les écoles d’infrastructures adéquates et des équipements terminaux nécessaires et accorder une plus grande attention à l’enseignement des aptitudes et compétences numériques dans les programmes d’études;

W.  considérant que l’IA et les technologies qui y sont liées peuvent être utilisées pour améliorer les méthodes d’enseignement et d’apprentissage, notamment en aidant les systèmes éducatifs à utiliser les données équitables pour améliorer l’équité et la qualité de l’enseignement, tout en favorisant des programmes sur mesure et un meilleur accès à l’éducation, ainsi qu’en améliorant et en automatisant certaines tâches administratives; que, pour que l’utilisation de l’IA profite à toute la société, un accès équitable et juste aux technologies numériques et à une connectivité à grande vitesse est nécessaire; qu’il est de la plus haute importance de rendre l’éducation numérique accessible à tous, y compris aux personnes issues de milieux défavorisés et aux personnes handicapées; que les résultats de l’apprentissage ne dépendent pas de la technologie en elle-même, mais de la manière dont les enseignants peuvent utiliser cette technologie à des fins pédagogiques constructives;

X.  considérant que l’IA est particulièrement à même d’apporter des solutions aux défis rencontrés au quotidien dans le secteur de l’éducation, comme la personnalisation de l’apprentissage, la surveillance des difficultés d’apprentissage et l’automatisation des contenus/connaissances spécifiques à un sujet, la mise à disposition d’une formation professionnelle de meilleure qualité et le soutien à la transition vers une société numérique;

Y.  considérant que l’IA pourrait avoir des applications pratiques en matière de réduction de la charge administrative des éducateurs et des établissements d’enseignement, ce qui permettrait à ces derniers de consacrer plus de temps à leurs activités fondamentales d’enseignement et d’apprentissage;

Z.  considérant que les nouvelles applications fondées sur l’IA dans le domaine de l’éducation favorisent les progrès dans des disciplines aussi variées que l’apprentissage des langues et les mathématiques;

AA.  considérant que les expériences d’apprentissage personnalisées proposées par l’IA peuvent contribuer non seulement à stimuler la motivation des étudiants et à les aider à aller au bout de leur potentiel, mais également à réduire les taux d’abandon scolaire;

AB.  considérant que l’IA peut renforcer de plus en plus l’efficacité des enseignants en leur assurant une meilleure compréhension des méthodes et des styles d’apprentissage des étudiants, ainsi qu’en les aidant à cerner les difficultés d’apprentissage et à mieux évaluer les progrès accomplis par chacun;

AC.  considérant que le marché du travail numérique dans l’Union connaît une pénurie de près d’un demi-million d’experts en sciences des mégadonnées et analyse des données, des secteurs qui sont au cœur du développement et de l’utilisation d’une IA de haute qualité et digne de confiance;

AD.  considérant que l’utilisation de l’IA dans l’éducation suscite des préoccupations quant à l’utilisation éthique des données, aux droits des apprenants, à l’accès aux données et à la protection des données à caractère personnel, et présente par conséquent des risques pour les droits fondamentaux, tels que la création de modèles stéréotypés de profils d’apprenants et de comportements, qui pourrait conduire à des discriminations ou à des préjudices liés à la multiplication de pratiques pédagogiques inappropriées;

AE.  considérant que la culture joue un rôle central dans l’utilisation des technologies de l’IA à grande échelle et émerge en tant qu’une discipline essentielle au patrimoine culturel grâce au développement de technologies et d’outils innovants et à leur utilisation efficace pour répondre aux besoins du secteur;

AF.  considérant que les technologies de l’IA peuvent être utilisées pour promouvoir et protéger le patrimoine culturel, y compris en mettant les outils numériques au service de la conservation des sites historiques et en trouvant des moyens innovants de rendre plus largement et facilement accessibles des ensembles de données d’œuvres culturelles détenues par les institutions culturelles dans l’ensemble de l’Union, tout en permettant aux utilisateurs d’explorer la grande quantité de contenus culturels et créatifs; qu’il est essentiel à cet égard d’encourager l’interopérabilité des normes et des cadres;

AG.  considérant que l’utilisation de technologies de l’IA pour les contenus culturels et créatifs, notamment des contenus médiatiques et des recommandations de contenus sur mesure, soulève des questions en matière de protection des données, de discrimination, ainsi que de diversité linguistique et culturelle, risque de produire des résultats discriminatoires fondés sur des données biaisées, et pourrait limiter la diversité d’opinion et le pluralisme des médias;

AH.  considérant que des recommandations de contenus personnalisées fondées sur l’IA peuvent, bien souvent, cibler plus précisément les besoins spécifiques d’une personne, notamment ses préférences culturelles et linguistiques; que l’IA peut contribuer à la promotion de la diversité linguistique dans l’Union et à une meilleure circulation des œuvres audiovisuelles européennes, grâce notamment au sous-titrage et au doublage automatisés des contenus audiovisuels dans d’autres langues; que la production de contenus médiatiques dans diverses langues est, dès lors, fondamentale pour soutenir la diversité linguistique et culturelle;

AI.  considérant que l’IA fait entrer l’innovation dans les salles de presse en automatisant une série de tâches matérielles, en interprétant des données et même en produisant des bulletins d’information comme des prévisions météorologiques et des résultats sportifs;

AJ.  considérant que, du fait de la diversité linguistique de l’Europe, la promotion de la linguistique informatique pour une IA fondée sur les droits représente un potentiel d’innovation spécifique pouvant être mis à profit pour conférer un caractère démocratique et non discriminatoire à l’échange mondial de culture et d’informations à l’ère numérique;

AK.  considérant que les technologies de l’IA pourraient être bénéfiques pour l’éducation répondant à des besoins spéciaux ainsi que pour l’accessibilité de contenus culturels et créatifs pour les personnes handicapées; que l’IA rend possibles des solutions telles que la reconnaissance vocale, les assistants virtuels et les représentations numériques d’objets physiques; que les créations numériques remplissent déjà leur rôle en rendant ces contenus accessibles aux personnes handicapées;

AL.  considérant que les systèmes d’IA sont omniprésents dans le secteur audiovisuel, en particulier sur les plateformes de contenus audiovisuels;

AM.  considérant que les technologies de l’IA contribuent donc à la création, à la planification, à la gestion, à la production, à la distribution, à la localisation et à la consommation de produits audiovisuels;

AN.  considérant que, bien que l’IA puisse servir à générer de faux contenus, tels que les trucages vidéo ultra-réalistes («deep fake»), qui connaissent une croissance exponentielle et sont une menace imminente pour la démocratie, elle peut également s’avérer extrêmement précieuse dans la reconnaissance et dans la lutte immédiate contre ces activités malveillantes, par exemple en permettant d’examiner les faits en temps réel ou en catégorisant les contenus; que la plupart de ces trucages sont faciles à repérer; que, par ailleurs, les outils de détection fondés sur l’IA sont généralement efficaces pour signaler et éliminer ces contenus; qu’un cadre juridique régissant cette question fait défaut;

Observations générales

1.  souligne l’importance stratégique de l’IA et des technologies connexes pour l’Union européenne; insiste sur le fait que l’approche de l’IA et des technologies connexes doit être centrée sur l’humain et s’appuyer sur les droits de l’homme et l’éthique, afin que l’IA devienne véritablement un instrument au service des personnes, du bien commun et de l’intérêt général des citoyens;

2.  souligne que le développement, le déploiement et l’utilisation de l’IA dans les domaines de l’éducation, de la culture et de l’audiovisuel doivent respecter pleinement les droits fondamentaux, les libertés et les valeurs consacrés dans les traités de l’Union européenne et la charte, en particulier la dignité humaine, la protection de la vie privée et des données à caractère personnel, la non-discrimination, la liberté d’expression et d’information, la diversité culturelle et les droits de propriété intellectuelle;

3.  affirme que l’éducation, la culture et le secteur audiovisuel sont des domaines où l’utilisation de l’IA et des technologies connexes est délicate, étant donné que celles-ci peuvent avoir une incidence sur les pierres angulaires de notre société que sont les droits fondamentaux et les valeurs; souligne par conséquent qu’il convient de respecter des principes éthiques, dans ces domaines, lors du développement, du déploiement et de l’utilisation de l’IA et des technologies connexes, ce qui comprend les logiciels et les algorithmes ainsi que les données qu’ils utilisent et qu’ils produisent;

4.  rappelle que les algorithmes et l’IA doivent être «éthiques dès la conception», sans intégrer de biais, de manière à garantir une protection maximale des droits fondamentaux;

5.  réitère qu’il est important que les systèmes utilisant l’IA et les technologies connexes en vue de l’apprentissage profond soient inclusifs, compatibles et de qualité, et qu’ils respectent et protègent les valeurs de l’Union, en particulier l’égalité entre les hommes et les femmes, le multilinguisme et les conditions nécessaires au dialogue interculturel; rappelle en effet que l’utilisation de données de piètre qualité, dépassées, incomplètes ou incorrectes peut générer de mauvaises prédictions conduisant à des biais et à des discriminations; souligne qu’il est essentiel de développer les capacités à la fois au niveau national et à l’échelle de l’Union, afin d’améliorer la collecte et la systématisation des données ainsi que leur sécurité et leur transférabilité, en veillant à ne pas porter atteinte à la vie privée; prend acte de la proposition de la Commission de créer un espace européen unique des données;

6.  rappelle que l’IA peut engendrer des biais et, partant, être source de diverses formes de discrimination fondées sur le sexe, la couleur de peau, l’origine ethnique ou sociale, les caractéristiques génétiques, la langue, la religion ou les convictions, les opinions politiques ou autres, l’appartenance à une minorité nationale, la richesse, la naissance, un handicap, l’âge ou l’orientation sexuelle; souligne à cet égard qu’il convient de garantir les droits de toutes et de tous; rappelle que l’IA et les technologies connexes ne doivent conduire à aucune forme de discrimination;

7.  souligne que ces biais et cette discrimination peuvent découler d’ensembles de données déjà biaisés qui reflètent la discrimination à l’œuvre dans la société; rappelle à cet égard qu’il est essentiel de faire participer également les acteurs pertinents, notamment ceux issus de la société civile, afin d’empêcher que des biais sexistes, sociaux et culturels se retrouvent par inadvertance dans les algorithmes, systèmes et applications de l’IA; souligne la nécessité de rechercher la manière la plus efficace d’atténuer les biais dans les systèmes d’IA, conformément aux normes éthiques et de non-discrimination; souligne que les ensembles de données utilisés pour entraîner l’IA doivent être aussi vastes que possible, afin de représenter la société de la manière la plus exacte et pertinente possible; indique que les résultats doivent être révisés pour éviter toute forme de stéréotype, de discrimination ou de biais, et que l’IA doit au besoin être employée pour repérer et corriger tous les biais humains existants; invite la Commission à encourager et à faciliter le partage de stratégies de suppression des biais concernant les données;

8.  invite la Commission et les États membres à prendre en considération les aspects éthiques, notamment la dimension hommes-femmes, lors de l’élaboration des politiques et de la législation en matière d’IA et, si nécessaire, à adapter la législation actuelle, y compris les programmes de l’Union et les lignes directrices en matière d’éthique pour l’utilisation de l’IA;

9.  invite la Commission et les États membres à concevoir des mesures qui intègrent pleinement la dimension hommes-femmes, par exemple des campagnes de sensibilisation et de formation ainsi que des programmes d’études; souhaite que ces mesures informent les citoyens sur la manière dont fonctionnent les algorithmes et les incidences de ces derniers sur leur vie quotidienne; prie en outre la Commission et les États membres d’encourager une mentalité et des conditions de travail fondées sur l’égalité entre les hommes et les femmes, en vue du développement de produits technologiques et d’environnements de travail plus inclusifs; demande instamment à la Commission et aux États membres d’assurer l’inclusion des compétences numériques et de la formation à l’IA dans les programmes scolaires, et de les rendre accessibles à tous, afin de réduire la fracture numérique entre les sexes;

10.  insiste sur la nécessité de former les travailleurs et les éducateurs qui s’occupent des questions relatives à l’IA, afin qu’ils soient plus à même de recenser et de corriger les pratiques sexistes sur le lieu de travail et dans l’éducation, ainsi que les travailleurs qui élaborent des systèmes et des applications d’IA, afin qu’ils repèrent et éliminent toute discrimination sexiste dans les systèmes et les applications d’IA qu’ils développent; demande l’établissement de responsabilités claires dans les entreprises et les établissements d’enseignement afin de garantir l’absence de discrimination sexiste sur le lieu de travail et dans les établissements d’enseignement; souligne qu’il convient, dans le cadre éducatif et culturel, d’éviter les représentations genrées de l’IA et des robots, sauf si cela est pertinent;

11.  souligne l’importance que revêtent, dans les domaines de l’éducation, de la culture et de l’audiovisuel, le développement et le déploiement d’applications de l’IA en vue de la collecte de données ventilées par sexe et d’autres données relatives à l’égalité, ainsi que, si nécessaire, de l’application de techniques modernes éliminant les biais grâce à l’apprentissage automatique, afin de corriger les stéréotypes et préjugés sexistes susceptibles d’avoir des incidences négatives;

12.  invite la Commission à inclure l’éducation dans le cadre réglementaire applicable aux systèmes d’IA à haut risque, compte tenu de la nécessité de veiller à ce que l’éducation continue à contribuer au bien public, ainsi que du caractère particulièrement sensible des données sur les élèves, étudiants et autres apprenants; souligne que, dans le domaine de l’éducation, ce déploiement doit non seulement permettre la participation des éducateurs, des apprenants et de la société en général, mais aussi tenir compte des besoins de chacun et des bénéfices escomptés, afin de garantir un usage approprié et éthique de l’IA;

13.  invite la Commission à encourager l’utilisation de programmes de l’Union tels qu’Horizon Europe, le programme pour une Europe numérique et Erasmus+ pour promouvoir la recherche pluridisciplinaire, les projets pilotes, les expérimentations, les campagnes de sensibilisation du grand public ainsi que l’élaboration d’outils, y compris en matière de formation, permettant de repérer les préjugés sexistes présents dans l’IA;

14.  insiste sur la nécessité de créer des équipes diversifiées de développeurs et d’ingénieurs qui travaillent aux côtés des principaux acteurs des domaines de l’éducation, de la culture et de l’audiovisuel, afin d’éviter que des préjugés sexistes ou sociaux soient pris en compte par inadvertance dans les algorithmes, les applications et les systèmes fondés sur l’IA; souligne qu’il faut tenir compte de la diversité des cadres théoriques dans lesquels l’IA a été développée jusqu’à présent et qui pourraient guider son perfectionnement futur;

15.  remarque que l’attention dûment apportée à l’élimination des préjugés et des discriminations à l’égard des différents groupes, y compris des stéréotypes sexistes, ne devrait pas freiner le progrès technologique;

16.  réaffirme l’importance des droits fondamentaux et la primauté incontournable de la législation en matière de protection des données et de la vie privée, sachant que cette législation s’applique de façon contraignante à ces technologies; rappelle que l’IA peut tout particulièrement affecter la protection des données et le respect de la vie privée, notamment lorsqu’il en va des données des enfants; souligne à ce propos que les principes établis dans le règlement général sur la protection des données(8) (RGPD) présentent un caractère contraignant pour le déploiement de l’IA; rappelle en outre que toutes les applications de l’IA doivent respecter pleinement le droit de l’Union en matière de protection des données, à savoir le RGPD et la directive vie privée et communications électroniques(9); insiste sur le droit à obtenir une intervention humaine en cas d’utilisation de l’IA et des technologies connexes;

17.  demande à la Commission et aux États membres d’instaurer une obligation de transparence et d’explicabilité des décisions individuelles automatisées fondées sur l’IA prises dans le cadre des prérogatives des pouvoirs publics, et d’appliquer des sanctions pour la faire respecter; souhaite la mise en place de systèmes s’appuyant par défaut sur la vérification et l’intervention humaines, appliquant un traitement équitable et prévoyant notamment un droit de réclamation et de rectification assorti d’un accès à des voies de recours;

18.  fait observer que la publicité personnalisée, notamment la publicité microciblée et la publicité comportementale, ainsi que l’évaluation des personnes, en particulier mineures, sans leur consentement peuvent avoir des conséquences négatives, parce qu’elles empiètent sur la vie privée des individus et soulèvent des questions quant à la collecte et à l’utilisation des données servant à personnaliser ladite publicité, à proposer des produits ou des services, ou à fixer des prix; demande dès lors à la Commission de limiter strictement la publicité ciblée s’appuyant sur la collecte de données à caractère personnel et d’interdire la publicité comportementale interplateformes, sans toutefois nuire aux PME; rappelle qu’à l’heure actuelle, la directive vie privée et communications électroniques interdit de recourir à la publicité ciblée sans l’accord explicite de l’utilisateur; demande à la Commission d’interdire les pratiques discriminatoires dans le cadre de la fourniture de produits ou de services;

19.  souligne que les organisations de médias doivent être informées des principaux paramètres des systèmes d’IA fondés sur des algorithmes qui déterminent le classement et les résultats de recherche sur des plateformes tierces; affirme qu’il faut notifier les utilisateurs du recours à l’IA dans les services de prise de décision et leur donner la possibilité de choisir leurs paramètres de confidentialité au moyen de mesures transparentes et compréhensibles;

20.  insiste sur le fait que l’IA peut favoriser la création de contenu dans les secteurs de l’éducation, de la culture et de l’audiovisuel, parallèlement aux plateformes d’information et d’éducation, par exemple en dressant des listes de différents types de biens culturels et en donnant accès à une multitude de sources de données; prend note du risque de violation des droits de propriété intellectuelle (DPI) découlant de l’application de l’IA et de différentes technologies à une multiplicité de sources (documents, photographies, films) pour améliorer l’affichage, l’interrogation et la visualisation des données; souhaite une protection solide des DPI dans le cadre législatif actuel grâce à l’IA, qui peut notamment servir à avertir les citoyens et les entreprises lorsqu’ils risquent d’enfreindre involontairement les règles en vigueur, ainsi qu’à aider les titulaires de DPI en cas d’infraction à ces règles; souligne dès lors l’importance de disposer d’un cadre juridique européen approprié pour protéger les DPI en utilisant l’IA;

21.  souligne la nécessité de trouver un équilibre entre, d’une part, le développement des systèmes d’IA et leur utilisation dans les secteurs de l’éducation, de la culture et de l’audiovisuel et, d’autre part, les mesures visant à préserver la concurrence et la compétitivité des entreprises d’IA dans ces secteurs; rappelle à cet égard qu’il faut encourager les entreprises à investir dans l’innovation concernant les systèmes d’IA utilisés dans ces secteurs, tout en veillant à ce que les sociétés qui produisent de telles applications n’obtiennent pas de monopole sur le marché; souligne la nécessité de rendre l’IA largement disponible dans les secteurs et industries de la culture et de la création en Europe, de manière à maintenir des conditions de concurrence équitables et loyales pour tous les acteurs européens concernés; invite la Commission et les États membres, lorsqu’ils prennent des décisions en matière de concurrence, et notamment de fusions, à tenir davantage compte du rôle des données et des algorithmes dans la concentration des parts de marché;

22.  insiste sur la nécessité de traiter de manière systématique les questions sociales, éthiques et juridiques soulevées par le développement, le déploiement et l’utilisation de l’IA, telles que la transparence et la responsabilité des algorithmes, la non-discrimination, l’égalité des chances, la liberté et la diversité des opinions, le pluralisme dans les médias ainsi que la propriété, la collecte, l’utilisation et la diffusion des données et des contenus; recommande de mettre au point des lignes directrices et des normes communes européennes visant à protéger la vie privée tout en permettant une exploitation efficace des données disponibles; demande de faire preuve de transparence dans le développement des algorithmes, et de responsabilité dans leur utilisation;

23.  invite la Commission à présenter un cadre réglementaire général, qui s’applique à toutes les applications de l’IA, et à le compléter par des règles propres à chaque secteur, par exemple les services de médias audiovisuels;

24.  met en avant la nécessité d’investir dans la recherche et l’innovation concernant le développement, le déploiement et l’utilisation de l’IA et de ses applications dans les domaines de la culture, de l’éducation et de l’audiovisuel; insiste sur l’importance que revêt l’investissement public dans ces services, et sur la valeur ajoutée qu’apportent les partenariats publics-privés pour réaliser cet objectif et exploiter pleinement le potentiel de l’IA dans ces secteurs, en particulier l’éducation, compte tenu du volume considérable de fonds privés investis au cours des dernières années; demande à la Commission de trouver des fonds supplémentaires pour promouvoir la recherche et l’innovation concernant les applications de l’IA dans ces secteurs;

25.  souligne que les systèmes algorithmiques peuvent contribuer à réduire plus rapidement la fracture numérique, mais qu’un déploiement inégal risque de créer de nouvelles fractures ou d’accentuer celles qui existent; exprime l’inquiétude que lui inspirent les disparités en matière de diffusion du savoir et de développement des infrastructures dans l’Union, qui restreignent l’accessibilité des produits et des services fondés sur l’IA, notamment dans les régions à faible densité de population ou vulnérables sur le plan socioéconomique; demande à la Commission de veiller à la cohésion dans le partage des bénéfices de l’IA et des technologies connexes;

26.  invite la Commission à fixer des exigences pour l’acquisition et le déploiement de l’IA et des technologies connexes par les organismes du secteur public de l’Union, afin de garantir le respect du droit européen et des droits fondamentaux; souligne la valeur ajoutée d’instruments tels que les consultations publiques et les analyses d’impact effectuées avant l’acquisition ou le déploiement de systèmes d’IA, comme le recommande le rapport sur l’IA et ses incidences sur la liberté d’opinion et d’expression présenté à l’Assemblée générale des Nations unies par le rapporteur spécial(10); encourage les pouvoirs publics à encourager le développement et le déploiement de l’IA en proposant des financements et en lançant des appels d’offres; souligne l’importance de renforcer le marché en offrant la possibilité aux PME de participer aux appels d’offres relatifs aux applications de l’IA, afin d’assurer la participation d’entreprises technologiques de toutes tailles et ainsi de garantir la résilience et la concurrence;

27.  demande la réalisation régulière d’audits indépendants qui examinent si les applications de l’IA utilisées et les systèmes de garde-fous en place respectent les critères définis; recommande que ces audits soient supervisés par des autorités indépendantes disposant de pouvoirs de surveillance suffisants; réclame des tests de résistance spécifiques visant à faciliter et à assurer le respect des règles en vigueur;

28.  prend note des avantages comme des risques associés à l’IA en matière de cybersécurité, ainsi que du potentiel qu’elle présente pour lutter contre la cybercriminalité; souligne qu’il est indispensable que toutes les solutions d’IA soient résistantes aux cyberattaques et respectent les droits fondamentaux de l’Union européenne, en particulier le droit à la protection des données à caractère personnel et le droit à la vie privée; réclame des contrôles sur l’utilisation en toute sécurité de l’IA ainsi qu’une étroite collaboration entre les secteurs public et privé, afin d’éviter que les usagers ne courent des risques et que des faiblesses ne surgissent à cette occasion; demande à la Commission d’évaluer si de nouvelles mesures sont nécessaires pour renforcer la prévention et l’atténuation des risques en matière de cybersécurité;

29.  souligne que la crise liée à la pandémie de COVID-19 a été une période d’expérimentation pour le développement, le déploiement et l’utilisation de technologies numériques ou liées à l’IA dans les secteurs de l’éducation et de la culture, comme le montrent les nombreuses plateformes d’enseignement à distance et les multiples outils de promotion de la culture en ligne utilisés dans tous les États membres; invite dès lors la Commission à dresser le bilan de ces expériences lors de l’élaboration d’une stratégie commune de l’Union concernant le recours accru à de telles solutions technologiques;

Éducation

30.  rappelle l’importance de renforcer les compétences numériques et d’atteindre un degré élevé de maîtrise des médias, du numérique et des informations au niveau de l’Union, en tant que condition préalable à l’utilisation de l’IA dans l’éducation; souligne qu’il est nécessaire, à cet égard, de veiller, à l’échelle de l’Union, à la maîtrise de compétences fondamentales dans les domaines du numérique et de l’IA, notamment en développant les possibilités de formation offertes aux enseignants; insiste sur le fait que l’utilisation des technologies de l’IA à l’école devrait contribuer à réduire la fracture numérique au sein de la société et entre les différentes régions; salue le plan d’action mis à jour de la Commission en matière d’éducation numérique, qui aborde la question de l’utilisation de l’IA dans l’éducation; invite la Commission, à cet égard, à faire des compétences numériques, de l’éducation et de la formation aux médias et des compétences liées à l’IA des priorités de ce plan, tout en sensibilisant aux cas éventuels d’utilisation abusive et de défaillance de l’IA; invite la Commission, dans ce contexte, à accorder une attention particulière aux enfants et aux jeunes en situation précaire qui ont besoin d’un soutien particulier dans le domaine de l’éducation numérique; invite instamment la Commission à prendre dûment en considération les initiatives en matière d’IA et de robotique dans le domaine éducatif dans ses prochaines propositions législatives sur l’IA; prie instamment les États membres d’investir dans des équipements numériques pour les écoles et d’utiliser des fonds de l’Union à cette fin;

31.  fait valoir que l’utilisation de l’IA dans le système éducatif offre une multitude de possibilités, de perspectives et d’outils permettant de le rendre plus innovant, inclusif, efficace et performant, grâce à de nouvelles méthodes d’apprentissage de qualité, à la fois rapides, personnalisées et axées sur l’étudiant; souligne toutefois que, puisqu’il est question d’éducation et d’inclusion sociale, il faut veiller à rendre ces outils disponibles à tous les groupes sociaux en garantissant une égalité d’accès à l’éducation et à l’apprentissage pour tous sans exception, en particulier les personnes handicapées;

32.  souligne que pour se familiariser avec l’IA de manière à la fois critique et efficace, les citoyens doivent acquérir au moins une compréhension élémentaire de cette technologie; invite les États membres à prévoir des campagnes de sensibilisation à l’IA dans leurs programmes en faveur d’une culture numérique; invite la Commission et les États membres à promouvoir des projets en faveur de la culture numérique et des forums de discussion réunissant les citoyens, les parents et les élèves autour d’un dialogue démocratique avec les autorités publiques et les parties prenantes au sujet du développement, du déploiement et de l’utilisation des technologies de l’IA dans les systèmes éducatifs; souligne l’importance de fournir aux éducateurs, aux formateurs et aux autres parties prenantes les outils et le savoir-faire nécessaires en matière d’IA et de technologies connexes afin qu’ils sachent en quoi ces technologies consistent, à quoi elles servent et comment les utiliser de façon adéquate et dans le respect de la législation afin d’éviter toute violation des DPI; souligne en particulier l’importance de renforcer l’habileté numérique des personnes travaillant dans les secteurs de l’éducation et de la formation et d’améliorer la formation numérique offerte aux personnes âgées, en gardant à l’esprit que les jeunes générations possèdent déjà des notions de base relatives à ces technologies puisqu’elles ont grandi avec elles;

33.  souligne que le véritable objectif de l’IA dans les systèmes éducatifs devrait être de parvenir à une éducation aussi individualisée que possible, qui propose aux élèves des parcours académiques personnalisés en fonction de leurs forces et de leurs faiblesses et mette à leur disposition du matériel pédagogique adapté à leur profil, tout en préservant la qualité de l’éducation et le principe d’intégration de nos systèmes éducatifs;

34.  rappelle le rôle éducatif fondamental, aux multiples facettes, que tiennent les enseignants, y compris pour rendre l’éducation inclusive, en particulier dans la petite enfance, où sont acquises des compétences qui permettront aux étudiants de progresser tout au long de leur vie, notamment en matière de relations personnelles, de capacités d’apprentissage, d’empathie et de travail coopératif; insiste, par conséquent, sur le fait que les technologies de l’IA ne sauraient être utilisées au détriment ou aux dépens de l’enseignement présentiel, car les enseignants ne doivent pas être remplacés par l’IA ou des technologies qui lui sont liées;

35.  souligne que les avantages pour l’apprentissage liés à l’utilisation de l’IA dans l’éducation ne dépendront pas seulement de l’IA elle-même, mais de la manière dont les enseignants l’utiliseront dans l’environnement d’apprentissage numérique pour répondre aux besoins des élèves, des étudiants et des enseignants; signale par conséquent qu’il est nécessaire pour les programmeurs d’IA d’associer, dans la mesure du possible, les communautés d’enseignement à la conception, au déploiement et à l’utilisation des technologies de l’IA, en créant un réseau propice aux contacts et à la coopération entre les programmeurs d’IA, les développeurs, les entreprises, les écoles, les enseignants et d’autres parties prenantes publiques et privées aux fins de la conception de solutions d’IA qui soient adaptées aux environnements pédagogiques réels, tiennent compte de l’âge, de la maturité et de la réceptivité de chaque apprenant et respectent les normes éthiques les plus élevées; fait valoir que les établissements d’enseignement ne doivent déployer que des technologies dignes de confiance, éthiques, axées sur l’humain et pouvant être contrôlées à chaque stade de leur développement par les autorités publiques et la société civile; souligne les avantages, à cet égard, de solutions gratuites et à code source ouvert; demande que les écoles et les autres établissements d’enseignement soient, dans cette optique, soutenus sur les plans financier et logistique et avec l’expertise requise afin de mettre en place des solutions pour l’apprentissage du futur;

36.  relève en outre la nécessité de continuellement former les enseignants afin qu’ils puissent s’adapter aux réalités de l’éducation soutenue par l’IA et acquérir les connaissances et les compétences nécessaires pour utiliser les technologies de l’IA de manière pédagogique et constructive, en leur permettant de saisir pleinement toutes les possibilités offertes par l’IA et d’en comprendre les limites; demande que l’enseignement numérique fasse à l’avenir partie de toute formation des enseignants et que ceux-ci, ainsi que les autres professionnels de l’éducation et de la formation, aient la possibilité de suivre une formation continue et un perfectionnement tout au long de la vie dans ce domaine; demande par conséquent l’élaboration de programmes de formation à l’IA destinés aux enseignants de toutes les disciplines et de toute l’Europe; souligne en outre l’importance de réformer les programmes d’enseignement pour les nouvelles générations d’enseignants afin qu’ils puissent s’adapter aux réalités de l’enseignement soutenu par l’IA, ainsi que l’importance d’élaborer et de mettre à jour des manuels et des lignes directrices sur l’IA à l’intention des enseignants;

37.  est préoccupé par l’absence de programmes consacrés à l’IA dans l’enseignement supérieur et par le manque de fonds publics destinés à l’IA au sein des États membres; est convaincu que cette situation compromet les ambitions numériques de l’Europe;

38.  s’inquiète de ce que peu de chercheurs dans le domaine de l’IA entreprennent une carrière universitaire, situation qui s’explique par la capacité des entreprises technologiques à proposer de meilleures conditions salariales et moins de formalités administratives pour des emplois dans la recherche; est convaincu qu’une partie de la solution consisterait à consacrer davantage de fonds publics à la recherche en matière d’IA au sein des universités;

39.  souligne l’importance de transmettre des aptitudes et des compétences numériques générales dès l’enfance afin de combler le déficit de compétences et de mieux intégrer certains groupes de population dans le marché du travail et la société numériques; souligne qu’il sera de plus en plus important de former des professionnels hautement qualifiés issus de tous horizons dans le domaine de l’IA, de garantir la reconnaissance mutuelle de leurs qualifications dans l’Union et de renforcer les compétences de la main-d’œuvre actuelle et future afin de faire face aux réalités à venir du marché du travail; encourage par conséquent les États membres à évaluer leur offre pédagogique et à la mettre à jour en y intégrant, au besoin, des compétences liées à l’IA, et à mettre en place des programmes spécifiques pour les développeurs en IA, tout en intégrant également l’IA dans les parcours traditionnels; souligne le besoin de garantir la reconnaissance mutuelle dans l’ensemble de l’Union de qualifications professionnelles pour les compétences en IA, à l’heure où plusieurs États membres adaptent leur offre éducative en y intégrant des compétences liées à l’IA et mettent en place des programmes spécifiques pour les développeurs en IA; salue les efforts déployés par la Commission pour intégrer les compétences numériques dans les exigences de qualification de certaines professions harmonisées au niveau de l’Union conformément à la directive sur les qualifications professionnelles(11); souligne que celles-ci doivent être conformes à la liste d’évaluation des lignes directrices en matière d’éthique pour une IA digne de confiance, et salue la proposition de la Commission de transformer cette liste en un programme indicatif destiné aux développeurs en IA; rappelle les besoins spécifiques de la formation et de l’enseignement professionnels en matière d’IA et appelle à adopter une approche collaborative au niveau européen pour valoriser le potentiel de l’IA dans ce domaine; souligne l’importance de former des professionnels hautement qualifiés dans ce secteur, notamment en incluant les aspects éthiques dans les programmes, et de soutenir les groupes sous-représentés dans ce domaine, ainsi que de mettre en place des mesures incitatives pour que ces professionnels recherchent un emploi dans l’Union; rappelle que les femmes sont sous-représentées dans le domaine de l’IA, ce qui peut donner lieu à d’importants déséquilibres hommes-femmes sur le marché du travail de demain;

40.  souligne la nécessité pour les gouvernements et les établissements d’enseignement de repenser, de remanier et d’adapter les programmes éducatifs aux besoins du XXIe siècle en mettant davantage l’accent sur les matières STIAM, afin de préparer les apprenants et les consommateurs à la présence accrue de l’IA et de faciliter l’acquisition de compétences cognitives; souligne, à cet égard, qu’il importe de diversifier ce secteur et d’encourager les élèves et étudiants, en particulier les femmes et les filles, à suivre des cours dans les matières STIAM, notamment en lien avec la robotique et l’IA; invite à mobiliser des ressources financières et scientifiques plus importantes pour motiver les personnes dotées de compétences à rester dans l’Union, tout en attirant les personnes de pays tiers formées à ces compétences; relève en outre le nombre considérable de jeunes entreprises actives dans le domaine de l’IA et développant des technologies de l’IA; souligne que les PME devront bénéficier d’un soutien supplémentaire et d’une formation sur l’IA pour se conformer à la législation en matière de numérique et d’IA;

41.  note que l’automatisation et le développement de l’IA sont susceptibles de bouleverser l’emploi de manière irréversible; souligne que la priorité devrait être donnée à l’adaptation des compétences aux besoins du futur marché du travail, en particulier dans les secteurs de l’éducation, de la culture et de la création; souligne la nécessité, à cet égard, de renforcer les compétences de la main-d’œuvre future; insiste en outre sur l’importance du déploiement de l’IA pour la reconversion professionnelle et le renforcement des compétences du marché du travail européen dans les secteurs de la culture et de la création, et en particulier dans l’audiovisuel, déjà durement éprouvé par la crise de la COVID-19;

42.  invite la Commission à évaluer le niveau de risque du déploiement de l’IA dans le secteur de l’éducation afin de déterminer si les applications de l’IA dans le domaine éducatif doivent être incluses dans le cadre réglementaire applicable aux systèmes d’IA à haut risque et faire l’objet d’exigences plus strictes en matière de sécurité, de transparence, d’équité et de responsabilité, compte tenu de la nécessité de veiller à ce que l’éducation continue à contribuer au bien public et du caractère particulièrement sensible des données relatives aux élèves, aux étudiants et aux autres apprenants; souligne que les ensembles de données utilisés pour entraîner l’IA doivent être réexaminés afin d’éviter le renforcement de certains stéréotypes et autres biais;

43.  invite la Commission à proposer un cadre juridique pérenne pour l’IA, qui prévoie des mesures et normes éthiques contraignantes afin de garantir les droits et libertés fondamentaux et le développement de systèmes d’IA dignes de confiance, éthiques et robustes sur le plan technique, et notamment d’outils, de services et de produits numériques intégrés, tels que la robotique et l’apprentissage automatique, en accordant une attention particulière au domaine de l’éducation; demande que les données utilisées et produites par les applications d’IA dans le domaine de l’éducation soient accessibles, interopérables et de haute qualité, et qu’elles soient partagées avec les autorités publiques concernées d’une manière accessible et conforme à la législation sur le droit d’auteur et le secret d’affaires; rappelle que les enfants constituent un groupe vulnérable, qui mérite une attention et une protection particulières; souligne que si l’IA peut profiter à l’éducation, il est nécessaire de tenir compte de ses aspects technologiques, réglementaires et sociaux par la mise en place de garanties appropriées et l’adoption d’une démarche centrée sur l’humain qui permette aux êtres humains d’être toujours, in fine, en mesure de contrôler et de corriger les décisions du système; souligne à cet égard que les enseignants doivent contrôler et surveiller le déploiement et l’utilisation des technologies de l’IA dans les écoles et les universités lorsqu’ils interagissent avec leurs élèves et leurs étudiants; rappelle que les systèmes d’IA ne doivent pas prendre de décision finale susceptible d’influer sur les possibilités d’éducation, comme l’évaluation finale des étudiants, sans surveillance humaine complète; rappelle que, lorsqu’elles ont une implication légale ou assimilée, les décisions automatisées relatives aux personnes physiques sur la base du profilage doivent être strictement limitées et toujours inclure le droit d’obtenir une intervention humaine et une explication en vertu du RGPD; souligne que cette disposition devrait être strictement respectée, tout particulièrement dans le système éducatif, lorsque des décisions sont prises sur les chances et les possibilités;

44.  exprime la vive inquiétude que lui inspire la dépendance croissante des écoles et autres acteurs de l’enseignement à l’égard des services de technologie éducative (edtech), et notamment des applications d’IA, fournis par un petit nombre d’entreprises privées qui occupent une position dominante sur le marché; estime que cette situation devrait faire l’objet d’un examen au titre des règles de l’Union relatives à la concurrence; souligne l’importance à cet égard de soutenir l’adoption de l’IA par les PME des secteurs de l’éducation, de la culture et de l’audiovisuel au moyen de mesures incitatives appropriées qui créent des conditions de concurrence équitables; invite, dans ce cadre, à investir dans des entreprises européennes des technologies de l’information afin de mettre au point les technologies nécessaires au sein de l’Union, étant donné que les grandes entreprises qui fournissent actuellement des solutions d’IA sont établies en dehors de l’Union; rappelle avec vigueur que les données concernant les mineurs sont strictement protégées par le RGPD, et ne peuvent faire l’objet d’un traitement que si elles sont intégralement anonymisées ou que le titulaire de l’autorité parentale a donné son approbation, dans le strict respect des principes de minimisation des données et de limitation des finalités; réclame une protection et des garanties plus solides dans le secteur de l’éducation en ce qui concerne les données relatives aux enfants et invite la Commission à prendre des mesures plus efficaces à cet égard; demande que des informations claires soient fournies aux enfants et à leurs parents au sujet de l’utilisation et du traitement potentiels des données relatives aux enfants, notamment au moyen de campagnes de sensibilisation et d’information;

45.  souligne les risques spécifiques liés à l’utilisation des applications de reconnaissance automatisée utilisant l’IA, qui se développent rapidement; rappelle que les enfants constituent un groupe particulièrement sensible; recommande que la Commission et les États membres interdisent l’identification biométrique automatisée, comme la reconnaissance faciale à des fins éducatives et culturelles, dans les locaux affectés à l’éducation et à la culture, à moins que son utilisation soit permise par la loi;

46.  souligne la nécessité de proposer plus de choix aux consommateurs, de stimuler la concurrence et d’élargir la palette de services proposés par les technologies de l’IA à des fins d’éducation; invite, à cet égard, les pouvoirs publics à encourager le développement et le déploiement de technologies de l’IA au moyen de financements et d’appels d’offres; considère que les technologies utilisées par les acteurs de l’enseignement public ou acquises avec des fonds publics doivent reposer sur des technologies de source ouverte;

47.  fait observer que l’innovation n’a que trop tardé dans le domaine de l’éducation, un constat mis en lumière par la pandémie de COVID-19 et le passage à l’enseignement en ligne et à distance imposé par la situation; souligne que les outils éducatifs reposant sur l’IA, comme les outils d’évaluation et de détection des difficultés d’apprentissage, peuvent améliorer la qualité et l’efficacité de l’enseignement en ligne;

48.  souligne que les infrastructures numériques et la couverture internet de la prochaine génération revêtent une importance stratégique pour offrir aux citoyens européens une éducation soutenue par l’IA; demande à la Commission, compte tenu de la crise liée à la pandémie de COVID-19, d’élaborer une stratégie européenne pour la 5G qui garantisse la résilience stratégique de l’Europe sans dépendre de technologies d’États qui ne partagent pas nos valeurs;

49.  appelle de ses vœux la création d’un réseau paneuropéen d’universités et de chercheurs consacré à l’IA dans l’éducation, qui rassemblerait des établissements et des experts issus de tous les domaines pour examiner l’incidence de l’IA sur l’apprentissage et recenser des solutions afin d’en exploiter le potentiel;

Patrimoine culturel

50.  réaffirme l’importance de l’accès à la culture pour chaque citoyen dans l’ensemble de l’Union; souligne, dans ce contexte, l’importance de l’échange de bonnes pratiques entre les États membres, les établissements d’enseignement et les institutions culturelles et autres parties prenantes; juge en outre essentiel que les ressources disponibles tant au niveau de l’Union qu’au niveau national soient utilisées au maximum de leur potentiel afin d’améliorer encore l’accès à la culture; souligne que de multiples options existent en matière d’accès à la culture et qu’il conviendrait d’explorer toutes ces possibilités afin de déterminer l’option la plus appropriée; souligne qu’il importe de garantir la cohérence avec le traité de Marrakech;

51.  souligne que les technologies de l’IA peuvent jouer un rôle important dans la préservation, la restauration, la documentation, l’analyse, la promotion et la gestion du patrimoine culturel matériel et immatériel, y compris en surveillant et en analysant les évolutions des sites du patrimoine culturel dues à des menaces telles que le changement climatique, les catastrophes naturelles et les conflits armés;

52.  souligne que les technologies de l’IA peuvent accroître la visibilité de la diversité culturelle en Europe; souligne que ces technologies offrent aux institutions culturelles, par exemple les musées, de nouvelles possibilités de créer des outils innovants pour cataloguer des objets et pour documenter les sites du patrimoine culturel et les rendre plus accessibles, notamment grâce à la modélisation 3D ainsi qu’à la réalité virtuelle et à la réalité augmentée; souligne que l’IA permettra également aux musées et aux galeries d’art de proposer aux visiteurs des services interactifs et personnalisés, en leur offrant une liste de suggestions inspirées de leurs intérêts, exprimés sur place ou en ligne;

53.  souligne que grâce à l’IA, les chercheurs et les travailleurs du monde culturel auront à leur disposition des techniques, des méthodes et des ressources nouvelles et innovantes avec lesquelles ils pourront créer des bases de données uniformes assorties de plans de classement adéquats et de métadonnées multimédias, ce qui leur permettra d’établir des liens entre différents objets du patrimoine culturel et, ainsi, d’améliorer les connaissances et d’acquérir une meilleure compréhension du patrimoine culturel;

54.  souligne qu’il convient de repérer les bonnes pratiques en matière de technologies de l’IA pour la protection et l’accessibilité du patrimoine culturel, en particulier pour les personnes handicapées, et de les partager entre les réseaux culturels de toute l’Union, tout en encourageant la recherche sur les applications de l’IA dans la valorisation, l’accessibilité et la préservation du patrimoine culturel; invite la Commission et les États membres à promouvoir les possibilités d’utilisation de l’IA dans les secteurs de la création et de la culture;

55.  souligne que les technologies de l’IA peuvent également être utilisées pour surveiller le trafic illicite et la destruction de biens culturels, tout en soutenant la collecte de données aux fins des efforts de récupération et de reconstruction du patrimoine culturel matériel et immatériel; note en particulier que le développement, le déploiement et l’utilisation de l’IA dans le cadre des procédures de contrôle douanier peut soutenir les efforts consentis en vue de la prévention du trafic illicite de biens culturels, en particulier en complétant les systèmes qui permettent aux autorités douanières de cibler leurs efforts et leurs ressources sur les objets présentant le plus de risques;

56.  relève que l’IA pourrait profiter au secteur de la recherche, par exemple grâce au rôle que l’analyse prédictive peut jouer pour affiner l’analyse des données, notamment sur l’acquisition et la circulation des biens culturels; souligne la nécessité pour l’Union d’augmenter les investissements et de favoriser les partenariats entre l’industrie et le monde universitaire pour renforcer l’excellence de la recherche au niveau européen;

57.  rappelle que l’IA peut devenir un outil révolutionnaire pour promouvoir le tourisme culturel et met en exergue son grand potentiel de prévision des flux touristiques, ce qui pourrait aider les villes confrontées au surtourisme;

Secteurs et industries de la culture et de la création

58.  regrette le fait que la culture ne figure pas parmi les priorités définies dans les options et recommandations sur l’IA au niveau de l’Union, et notamment dans le livre blanc de la Commission du 19 février 2020 sur l’intelligence artificielle; demande que ces recommandations soient révisées afin d’y intégrer la culture parmi les priorités stratégiques de l’Union en matière d’IA; invite la Commission et les États membres à s’intéresser aux répercussions possibles de l’utilisation des technologies liées à l’IA dans les secteurs de la culture et de la création et à tirer le meilleur parti de NextGenerationEU pour faire prendre un virage numérique à ces secteurs afin qu’ils répondent aux nouveaux modes de consommation du XXIe siècle;

59.  souligne que l’IA a également atteint les secteurs de la culture et de la création et se manifeste, par exemple, dans la production automatisée de textes, de vidéos ou de musique; souligne que les professionnels des secteurs de la création et de la culture doivent également posséder les aptitudes et les compétences numériques nécessaires pour utiliser l’IA et d’autres technologies numériques; invite la Commission et les États membres à promouvoir les possibilités d’utilisation de l’IA dans les secteurs de la création et de la culture en augmentant le montant des financements au titre des budgets consacrés à la science et à la recherche, et à créer des centres de créativité numérique où les professionnels de la création et de la culture pourront développer des applications d’IA, apprendre à les utiliser et à utiliser d’autres technologies et tester leur utilisation;

60.  reconnaît que les technologies liées à l’IA sont susceptibles de créer des emplois dans les secteurs de la culture et de la création, ce qui serait facilité par un accès accru à ces technologies; insiste dès lors sur l’importance de promouvoir la culture numérique dans les secteurs de la culture et de la création pour rendre cette technologie plus inclusive, plus simple d’utilisation, plus simple à apprendre et plus interactive dans ces secteurs;

61.  souligne que l’interaction entre l’IA et les secteurs de la culture et de la création est complexe et requiert une évaluation approfondie; se félicite du rapport publié par la Commission en novembre 2020 intitulé «Trends and Developments in Artificial Intelligence - Challenges to the IPR Framework» (Tendances et évolutions dans le domaine de l’intelligence artificielle: enjeux pour le cadre en matière de DPI) et de l’étude intitulée «Study on Copyright and New technologies: copyright data management and artificial intelligence» (Étude sur le droit d’auteur et les nouvelles technologies: gestion des données relatives aux droits d’auteur et intelligence artificielle); souligne qu’il importe de préciser les conditions d’utilisation des contenus protégés par le droit d’auteur en tant que données d’entrée (images, musique, films, bases de données, etc.) et dans le cadre de la production de données de sortie culturelles et audiovisuelles, qu’elles soient créées par des humains avec l’aide de l’IA ou générées de manière autonome par des technologies d’IA; invite la Commission à étudier les incidences de l’intelligence artificielle sur les secteurs de la création européens; rappelle l’importance des données européennes et salue les déclarations de la Commission à cet égard ainsi que le fait que l’IA et les technologies qui y sont liées soient considérées comme une priorité;

62.  insiste sur la nécessité d’établir une vision cohérente des technologies de l’IA au sein des secteurs de la culture et de la création au niveau de l’Union; invite les États membres à se concentrer davantage sur la culture dans leurs stratégies nationales en matière d’IA pour faire en sorte que les secteurs de la culture et de la création fassent le choix de l’innovation et restent compétitifs, et afin de garantir la sauvegarde et la promotion de la diversité culturelle au niveau de l’Union dans le nouveau contexte numérique;

63.  souligne l’importance de créer au sein de l’Union un milieu hétérogène propice aux technologies de l’IA pour encourager la diversité culturelle et défendre les minorités et la diversité linguistique, tout en renforçant les secteurs de la culture et de la création grâce à des plateformes en ligne qui permettront aux citoyens de l’Union d’y être associés et d’y participer;

64.  invite la Commission et les États membres à soutenir un débat démocratique concernant les technologies de l’IA et à mettre en place un forum de discussion réunissant régulièrement la société civile, les chercheurs, le milieu universitaire et les parties prenantes afin de sensibiliser aux avantages et aux enjeux de son utilisation dans les secteurs de la culture et de la création; souligne dans ce contexte le rôle de l’art et de la culture dans l’enseignement de l’IA et le débat de société à ce sujet, étant donné qu’ils peuvent rendre l’apprentissage machine clair et concret, par exemple dans le domaine de la musique;

65.  invite la Commission et les États membres à se pencher sur la question des contenus générés par l’IA et sur les enjeux qu’ils représentent pour la qualité d’auteur et les violations des droits d’auteur; demande à la Commission, à cet égard, d’évaluer l’impact de l’IA et des technologies connexes sur le secteur audiovisuel et les secteurs de la culture et de la création, en vue de promouvoir la diversité culturelle et linguistique, tout en respectant les droits des auteurs et des artistes interprètes ou exécutants;

66.  souligne que l’Institut européen d’innovation et de technologie (EIT), et en particulier sa future communauté de la connaissance et de l’innovation (CCI) consacrée aux industries de la culture et de la création, devrait jouer un rôle de premier plan dans la mise en place d’une stratégie européenne pour l’IA dans les domaines de l’éducation, de la culture et de l’audiovisuel, et peut contribuer à accélérer l’adoption de ces applications de l’IA dans ces secteurs;

67.  note que l’IA est déjà présente dans la chaîne de valeur créative au niveau de la création, de la production, de la diffusion et de la consommation, et qu’elle a par conséquent d’énormes répercussions sur les secteurs de la culture et de la création, y compris l’industrie musicale et cinématographique, l’art et la littérature, domaines dans lesquels elle introduit de nouveaux outils, logiciels et processus de production assistée par l’IA qui, tous, facilitent la production, sans compter qu’elle est source d’inspiration et qu’elle permet à un plus grand nombre de créer du contenu;

68.  invite la Commission à réaliser des études et à envisager des solutions stratégiques pour contrer l’effet néfaste du contrôle par l’IA des services de streaming en ligne conçus pour limiter la diversité et/ou maximiser les bénéfices tirés de l’inclusion de certains contenus, ou de la priorité donnée à ceux-ci, dans leurs offres aux consommateurs, et la manière dont cela nuit à la diversité culturelle et aux revenus des créateurs;

69.  est convaincu que l’IA deviendra de plus en plus utile dans les activités de création et de production des secteurs de la culture et de la création;

70.  souligne le rôle que joue la personnalité d’un auteur pour effectuer des choix libres et créatifs qui font l’originalité des œuvres(12); souligne qu’il importe de prévoir des limites et des exceptions au droit d’auteur lorsque des contenus sont utilisés en tant que données d’entrée, notamment dans l’enseignement, dans le milieu universitaire et dans la recherche, et dans le cadre de la production de données de sortie culturelles et créatives, telles que les données de sortie audiovisuelles et les contenus générés par les utilisateurs;

71.  considère qu’il y a lieu d’envisager la protection des créations techniques et artistiques générées par l’IA afin d’encourager cette forme de création;

72.  souligne que, dans le contexte de l’économie des données, il est possible d’améliorer la gestion des données relatives aux droits d’auteur afin de mieux rémunérer les auteurs, interprètes et exécutants, notamment en permettant l’identification rapide de l’auteur et du titulaire des droits sur les contenus, ce qui contribuerait à réduire le nombre d’œuvres orphelines; souligne en outre que les solutions technologiques de l’IA devraient être utilisées pour améliorer les infrastructures de données relatives aux droits d’auteur et l’interconnexion des métadonnées relatives aux œuvres, mais aussi pour favoriser l’application de l’obligation de transparence prévue à l’article 19 de la directive (UE) 2019/790(13) sur le droit d’auteur et les droits voisins dans le marché unique numérique afin de produire des informations à jour, pertinentes et exhaustives sur l’exploitation des œuvres et performances des auteurs, interprètes et exécutants, notamment lorsqu’il y a plusieurs titulaires de droits ou que le système de licence est complexe;

73.  demande que le plan d’action sur la propriété intellectuelle, annoncé par la Commission aborde la question de l’IA et de son impact sur les secteurs créatifs, en tenant compte de la nécessité de trouver un équilibre entre la protection des DPI et l’incitation à la création dans les domaines de l’éducation, de la culture et de la recherche; estime que l’Union peut être chef de file dans la création de technologies de l’IA si elle se dote d’un cadre règlementaire opérationnel, ainsi que de politiques publiques volontaristes, notamment en matière de programmes de formation et de soutien financier en faveur de la recherche; demande à la Commission d’évaluer l’incidence des droits de propriété intellectuelle sur la recherche et le développement de l’IA et des technologies connexes, ainsi que sur les secteurs de la culture et de la création, y compris le secteur de l’audiovisuel, notamment en ce qui concerne la qualité d’auteur, la juste rémunération des auteurs et les questions y afférentes;

74.  prie la Commission de se pencher sur les aspects juridiques du produit des technologies de l’IA, ainsi que des contenus culturels créés en ayant recours à l’IA et aux technologies y afférentes; estime qu’il est important de soutenir la production de contenus culturels; réaffirme toutefois qu’il importe de préserver le cadre unique de l’Union en matière de DPI et que toute modification doit être apportée avec le soin nécessaire, afin de ne pas rompre l’équilibre fragile; invite la Commission à procéder à une évaluation approfondie portant sur la personnalité juridique à laquelle pourrait être rattaché le contenu produit par l’IA, ainsi que sur l’application des DPI au contenu généré par l’IA et au contenu créé en utilisant des outils de l’IA;

75.  invite en outre la Commission à envisager d’élaborer, en étroite coopération avec les États membres et les parties prenantes, des mécanismes ou systèmes de vérification destinés à aider les éditeurs, les auteurs et les créateurs à vérifier quels contenus ils peuvent utiliser et à déterminer plus facilement lesquels sont protégés au titre de la législation relative aux DPI;

76.  invite la Commission à établir des règles assurant une réelle interopérabilité des données afin de rendre le contenu acheté sur une plateforme accessible sur n’importe quel outil numérique indépendamment de la marque;

Secteur audiovisuel

77.  relève que l’IA est souvent utilisée pour permettre aux algorithmes de prise de décision automatique de diffuser et d’organiser le contenu culturel et créatif présenté aux utilisateurs; souligne que ces algorithmes sont opaques pour les utilisateurs; souligne que les algorithmes utilisés par les fournisseurs de services de médias, les plateformes de partage de vidéos et les services de streaming musical devraient être conçus de manière à ne pas favoriser certaines œuvres en limitant leurs suggestions «personnalisées» aux œuvres les plus populaires, pour la publicité ciblée, à des fins commerciales ou pour maximiser les bénéfices; demande que les algorithmes de recommandation et le marketing personnalisé soient, dans la mesure du possible, faciles à expliquer et transparents, afin de permettre aux consommateurs de comprendre ces processus d’une manière correcte et complète, et de s’assurer que les services personnalisés ne présentent pas un caractère discriminatoire et qu’ils sont conformes au règlement sur les relations entre plateformes et entreprises(14) et à la directive de portée générale «Une nouvelle donne pour les consommateurs»(15), adoptés récemment; invite la Commission à examiner la manière dont les algorithmes de modération du contenu sont optimisés afin d’associer les utilisateurs et à proposer des recommandations visant à renforcer le contrôle des utilisateurs sur le contenu qu’ils voient, en garantissant et en appliquant correctement le droit des utilisateurs de renoncer aux services recommandés et personnalisés; souligne, par ailleurs, que les consommateurs doivent être informés lorsqu’ils interagissent avec un processus de décision automatisé et que leurs choix et comportements ne doivent pas être restreints; souligne qu’il convient de restreindre l’utilisation de mécanismes d’IA pour la surveillance commerciale des consommateurs, même si cela concerne des «services gratuits», en veillant à ce que cette pratique respecte strictement les droits fondamentaux et le RGPD; souligne que toutes les modifications réglementaires doivent prendre en considération l’incidence sur les consommateurs vulnérables;

78.  souligne que ce qui est illégal hors ligne devrait l’être également en ligne; observe que les outils de l’IA peuvent lutter, et luttent déjà, contre les contenus illicites en ligne, mais rappelle avec insistance, dans la perspective de l’adoption prochaine de la législation sur les services numériques, que ces outils doivent toujours respecter les droits fondamentaux, en particulier la liberté d’expression et d’information, et ne doivent pas entraîner de surveillance généralisée d’internet, ni le retrait de contenus licites diffusés à des fins éducatives, journalistiques, artistiques ou de recherche; souligne que les algorithmes ne devraient être utilisés, dans le cadre de la modération de contenu, que comme mécanisme d’alerte assujetti à une intervention humaine, l’IA étant incapable de réellement faire la différence entre contenu licite, contenu illicite et contenu nuisible; relève que les modalités et conditions devraient toujours intégrer les lignes directrices de l’Union ainsi qu’une procédure de recours;

79.  rappelle également que, conformément à l’article 15 de la directive sur le commerce électronique(16), il ne peut y avoir de surveillance générale et que la surveillance spécifique des contenus des services de médias audiovisuels doit se faire dans le respect des exceptions prévues dans la législation de l’Union; rappelle que les systèmes d’IA doivent respecter des protocoles de sécurité internes et externes qui doivent être à la fois précis d’un point de vue technique et rigoureux; considère que cette mesure devrait s’appliquer à une utilisation dans des conditions aussi bien normales que inconnues ou imprévisibles;

80.  relève également que l’utilisation de l’IA dans les recommandations de contenu algorithmiques des prestataires de services de médias, des services de vidéo à la demande et des plateformes de partage de vidéos, peut avoir de graves répercussions sur la diversité culturelle et linguistique, notamment en ce qui concerne l’obligation de veiller à la place importante des œuvres européennes conformément à l’article 13 de la directive sur les services de médias audiovisuels (directive (UE) 2018/1808(17)); note que ces mêmes préoccupations s’appliquent également aux services de streaming musical et appelle de ses vœux le développement d’indicateurs évaluant la diversité culturelle ainsi qu’à la promotion des œuvres européennes par ces services;

81.  invite la Commission et les États membres à soutenir davantage sur le plan financier le développement, le déploiement et l’utilisation de l’IA dans le domaine du sous‑titrage et du doublage automatisés des œuvres audiovisuelles européennes afin de promouvoir la diversité culturelle et linguistique dans l’Union et d’améliorer la circulation et l’accès au contenu audiovisuel européen;

82.  prie la Commission d’établir un cadre éthique clair pour l’utilisation des technologies fondées sur l’IA dans les médias afin d’éviter toutes formes de discrimination et de garantir l’accès à des contenus culturellement et linguistiquement variés à l’échelle de l’Union, sur la base d’algorithmes responsables, transparents et inclusifs, tout en respectant les choix et les préférences de chacun;

83.  souligne que l’IA peut jouer un rôle majeur dans la diffusion rapide de la désinformation; souligne, à cet égard, que le cadre devrait s’attaquer à l’utilisation abusive de l’IA pour diffuser des fausses informations et pour la mésinformation et la désinformation en ligne, tout en évitant la censure; demande à la Commission d’évaluer les risques que l’IA favorise la diffusion de fausses informations dans l’environnement numérique, ainsi que la manière dont l’IA pourrait être utilisée pour lutter contre la désinformation;

84.  invite la Commission à prendre des mesures réglementaires afin de garantir que les fournisseurs de services de médias aient accès aux données générées dans le cadre de la fourniture et de la distribution de leurs contenus sur des plateformes de tiers; souligne que la divulgation intégrale des données par les opérateurs de plateformes aux fournisseurs de services de médias est cruciale pour permettre à ces derniers de mieux comprendre leur public et d’améliorer ainsi leurs services en fonction des attentes du public;

85.  insiste sur l’importance d’accroître les financements en faveur des programmes pour une Europe numérique, une Europe créative et Horizon Europe afin de renforcer l’aide dont bénéficie le secteur européen de l’audiovisuel, en l’occurrence grâce à des projets de recherche collaborative et à des initiatives pilotes expérimentales en faveur du développement, du déploiement et de l’utilisation des technologies liées à l’IA éthique;

86.  appelle de ses vœux une étroite collaboration entre les États membres pour développer des programmes de formation en faveur de la reconversion professionnelle ou du perfectionnement professionnel des travailleurs, pour que ceux-ci soient mieux préparés à la transition sociale qui découlera de l’utilisation des technologies liées à l’IA dans le secteur de l’audiovisuel;

87.  considère que l’IA recèle un potentiel énorme pour favoriser l’innovation dans le secteur des médias de l’information; est convaincu que l’intégration à grande échelle de l’IA, par exemple pour la création et la distribution des contenus, le contrôle des commentaires publiés, l’utilisation de l’analyse des données et l’identification des photos et vidéos truquées, est essentielle pour réduire les coûts des salles de presse, dont les revenus tirés de la publicité sont en berne, et pour consacrer davantage de ressources aux reportages de terrain, de manière à accroître la qualité et la variété des contenus;

Désinformation en ligne: trucages vidéo ultra-réalistes

88.  souligne qu’il importe de veiller au pluralisme des médias en ligne et hors ligne pour garantir la qualité, la diversité et la fiabilité des informations disponibles;

89.  rappelle que la précision, l’indépendance, l’équité, la confidentialité, l’humanité, la responsabilité et la transparence, qui sont les valeurs qui inspirent les principes de la liberté d’expression et de la liberté d’accès à l’information dans les médias en ligne et hors ligne, sont déterminantes pour lutter contre la désinformation et la mésinformation;

90.  souligne le rôle important que jouent les médias indépendants dans la culture et la vie quotidienne des citoyens; souligne que la désinformation constitue un problème fondamental, étant donné qu’elle donne constamment lieu à la violation des droits d’auteur et des DPI en général; demande à la Commission de poursuivre, en coopération avec les États membres, son travail de sensibilisation à ce problème, en luttant contre les effets de la désinformation ainsi que contre le problème des sources; estime en outre qu’il importe de mettre au point des stratégies éducatives pour améliorer en particulier l’habileté numérique à cet égard;

91.  rappelle qu’avec l’émergence rapide de nouvelles techniques, il peut être de plus en plus difficile de détecter les contenus faux et manipulés, tels que les trucages vidéo ultra-réalistes («deep fakes»), étant donné qu’il est possible pour les créateurs malveillants de générer des algorithmes sophistiqués pouvant être entraînés pour échapper à la détection, et de compromettre ainsi gravement nos valeurs démocratiques fondamentales; demande à la Commission d’évaluer l’incidence des technologies liées à l’IA lors de la création des trucages vidéo ultra‑réalistes, d’établir des cadres juridiques appropriés pour régir leur création, leur production ou leur distribution à des fins malveillantes, et de proposer entre autres des recommandations d’actions contre toute menace utilisant l’IA contre le principe d’élections libres et équitables et contre la démocratie;

92.  salue les initiatives et projets récents visant à créer des outils de détection de trucages vidéo ultra-réalistes plus efficaces ainsi que des exigences de transparence; souligne à cet égard la nécessité, en tant qu’étape essentielle de la lutte contre la désinformation et les contenus nuisibles, d’explorer les méthodes permettant de lutter contre les trucages vidéo ultra-réalistes et d’investir dans ce domaine; considère que l’IA peut apporter des solutions utiles à cet égard; demande dès lors à la Commission d’imposer une obligation, pour tous les trucages vidéo ultra-réalistes de tout ordre, de signaler que le matériel concerné n’est pas original, et d’en limiter strictement l’emploi dans le contexte électoral;

93.  s’inquiète du fait que l’IA influence de plus en plus la façon dont les informations sont trouvées et consommées en ligne; souligne que les «bulles de filtrage» et les «chambres d’écho» restreignent la diversité des opinions et ont un effet néfaste sur le débat social ouvert; demande à ce titre que l’utilisation d’algorithmes de choix de l’information par les opérateurs de plateformes soit rendue transparente et que les utilisateurs aient plus de liberté pour décider dans quelle mesure ils souhaitent recevoir quel type d’information;

94.  souligne que les technologies de l’IA sont déjà utilisées en journalisme, par exemple dans la production de textes ou dans l’analyse de grands ensembles de données dans le domaine de la recherche d’investigation; souligne que, dans la production d’informations pertinentes pour la société dans son ensemble, il est important que le journalisme automatisé fasse appel à des données correctes et complètes afin d’éviter la diffusion de fausses informations; souligne que les principes de base du journalisme de qualité, tels que le contrôle éditorial, doivent également s’appliquer au contenu journalistique créé à l’aide des technologies de l’IA; exige que les textes générés par l’IA soient étiquetés afin de maintenir la confiance dans le journalisme;

95.  met en évidence le potentiel de l’IA pour faciliter et encourager le multilinguisme en développant des technologies du langage et en permettant la découverte des contenus européens en ligne.

o
o   o

96.  charge son Président de transmettre la présente résolution au Conseil et à la Commission.

(1) JO C 202 I du 16.6.2020, p. 1. (2) JO C 440 du 6.12.2018, p. 37. (3) JO C 449 du 23.12.2020, p. 37. (4) JO C 433 du 23.12.2019, p. 42. (5) JO C 28 du 27.1.2020, p. 8. (6) JO C 252 du 18.7.2018, p. 239. (7) JO C 307 du 30.8.2018, p. 163. (8) Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE (règlement général sur la protection des données) (JO L 119 du 4.5.2016, p. 1). (9) Directive 2002/58/CE du Parlement européen et du Conseil du 12 juillet 2002 concernant le traitement des données à caractère personnel et la protection de la vie privée dans le secteur des communications électroniques (directive vie privée et communications électroniques) (JO L 201 du 31.7.2002, p. 37). (10) Rapport du rapporteur spécial sur la promotion et la protection du droit à la liberté d’opinion et d’expression du 29 août 2018. (11) Directive 2005/36/CE du Parlement européen et du Conseil du 7 septembre 2005 relative à la reconnaissance des qualifications professionnelles (JO L 255 du 30.9.2005, p. 22). (12) 1 Cour de justice de l’Union européenne, affaire C-833/18, SI et Brompton Bicycle Ltd contre Chedech / Get2Get. (13) Directive (UE) 2019/790 du Parlement européen et du Conseil du 17 avril 2019 sur le droit d’auteur et les droits voisins dans le marché unique numérique et modifiant les directives 96/9/CE et 2001/29/CE (JO L 130 du 17.5.2019, p. 92). (14) Règlement (UE) 2019/1150 du Parlement européen et du Conseil du 20 juin 2019 promouvant l’équité et la transparence pour les entreprises utilisatrices de services d’intermédiation en ligne (JO L 186 du 11.7.2019, p. 57). (15) Directive (UE) 2019/2161 du Parlement Européen et du Conseil du 27 novembre 2019 modifiant la directive 93/13/CEE du Conseil et les directives 98/6/CE, 2005/29/CE et 2011/83/UE du Parlement européen et du Conseil en ce qui concerne une meilleure application et une modernisation des règles de l’Union en matière de protection des consommateurs (JO L 328 du 18.12.2019, p. 7). (16) Directive 2000/31/CE du Parlement européen et du Conseil du 8 juin 2000 relative à certains aspects juridiques des services de la société de l’information, et notamment du commerce électronique, dans le marché intérieur (JO L 178 du 17.7.2000, p. 1). (17) Directive (UE) 2018/1808 du Parlement européen et du Conseil du 14 novembre 2018 modifiant la directive 2010/13/UE visant à la coordination de certaines dispositions législatives, réglementaires et administratives des États membres relatives à la fourniture de services de médias audiovisuels (directive «Services de médias audiovisuels»), compte tenu de l’évolution des réalités du marché (JO L 303 du 28.11.2018, p. 69).