Élections législatives : pourquoi l’IA pourrait être un problème pendant la campagne

Le gendarme des données personnelles entre aussi en campagne. Ou plutôt, la Cnil promet d’être justement intraitable avec les candidats qui useraient de techniques douteuses pour parvenir à leurs fins.

Les élections modernes génèrent des problèmes modernes. Dans une publication datée du 19 juin 2024, la Cnil rappelle aux candidats et candidates lancés dans l’actuelle campagne des législatives leurs obligations en termes de respects des données personnelles. L’autorité indépendante les invite aussi à être prudents sur les nouveaux outils d’intelligence artificielle, souvent utilisés à tort et à travers.

Fort de son observation de la campagne pour les élections européennes, le gendarme des données personnelles tire d’abord quelques conclusions générales sur l’utilisation du numérique durant des périodes d’élection. Le mode de prospection des partis a tout d’abord radicalement changé entre 2019 et 2024. Là où les appels automatisés représentaient 93 % des signalements il y a 5 ans, c’est désormais les campagnes par SMS qui sont dans le viseur de l’autorité indépendante (88 % des signalements en 2024).

Rien que sur les quelques semaines d’élections de mai, la Cnil a enregistré 167 signalements et 2 plaintes. Quatre rappels à la loi ont donc été adressés aux structures politiques concernées et une procédure de contrôle est en cours chez un candidat non dévoilé.

L’IA, les hallucinations et les données personnelles

Mais plus que les bonnes vieilles méthodes de communication, c’est la montée en puissance de l’IA qui fait craindre le pire à la Cnil. L’autorité indépendante met en garde contre l’utilisation des grands modèles de langage « en tant que générateur de contenus officiels » à cause des « risques que cette utilisation comporte en matière “d’hallucinations”, de discriminations, de biais culturel ou encore de sécurité des données. »

Les « hypertrucages » (deepfake) se sont également multipliés par ce qui « pose des questions relatives à l’utilisation de l’image et des voix des personnes concernées », note le gendarme des données personnelles. Les outils d’analyse de données via IA font aussi craindre « une montée en intensité dans l’analyse, le profilage et le ciblage des électeurs », énumère la Cnil.

La Cnil prête à punir

La présidente de la Cnil a donc envoyé un courrier à tous les chefs de partis embarqués dans la campagne des législatives 2024. Il y est précisé que l’autorité « effectuera des contrôles formels » auprès des partis qui susciteront le plus de plaintes afin « d’adopter des mesures correctrices » si besoin.

Le règlement européen sur l’intelligence artificielle n’étant pas encore entré en application, le gendarme des données personnelles ne peut taper sur les doigts des partis qu’avec