Élections historiques et nouvelles Intelligences artificielles ne font pas bon ménage. Nous sommes en effet dans l’année de tous les dangers avec la moitié des démocraties dans le monde qui votent en 2024 tandis que plane une menace de manipulation massive. Jamais le danger de cyber-ingérence n’était apparu aussi élevé tant l’IA générative donne aux ennemis de la démocratie des moyens sans précédents de déstabilisation. Dans ce contexte, les élections européennes s’annoncent particulièrement cruciales, elles représentent en effet un immense « crash test démocratique » aux conséquences géopolitiques potentiellement majeures. ons, soient accessibles à tous via un commun numérique.

Élections historiques et nouvelles Intelligences artificielles ne font pas bon ménage. Nous sommes en effet dans l’année de tous les dangers avec la moitié des démocraties dans le monde qui votent en 2024 tandis que plane une menace de manipulation massive. Jamais le danger de cyber-ingérence n’était apparu aussi élevé tant l’IA générative donne aux ennemis de la démocratie des moyens sans précédents de déstabilisation. Dans ce contexte, les élections européennes s’annoncent particulièrement cruciales, elles représentent en effet un immense « crash test démocratique » aux conséquences géopolitiques potentiellement majeures.

Pour envisager des stratégies de protection des élections contre les influences technologiques malveillantes, Democratic Shield propose par dix mesures concrètes. Parmi celles-ci, l’idée de renforcer sur les plateformes de médias sociaux une “période de réserve” – période juste avant le jour des élections visant à préserver la sérénité du vote – afin d’éviter la multiplication de cas comme l’épisode récent en Slovaquie, où un Deepfake particulièrement réaliste a déstabilisé dans les dernières 48h le candidat progressiste au profit du candidat pro-Poutine.

Autres mesures, la mise en place de codes de conduite pour les médias, avec la mise en place d’une norme ISO labelisant les pratiques journalistiques éthiques. La norme ne dit pas “ce contenu est vrai”, elle dit « cette source d’information est digne de confiance ». La “Journalism Trust Initiative” (JTI) illustre précisément cette recherche d’un équilibre entre le journalisme fiable et la lutte contre la désinformation en promouvant un journalisme digne de confiance.

Code de conduite également pour les partis politiques. A l’instar de ce qui s’est passé aux précédentes législatives en Allemagne, le programme propose que les candidats s’engagent à une transparence en matière d’utilisation du contenu produits par l’IA, et à une responsabilité sur le partage d’informations non vérifiées sur les réseaux sociaux.

Des efforts sont également déployés pour développer des outils capables de détecter le contenu généré par IA, ainsi que pour établir un système de certification de contenu par blockchain. Par ailleurs, un projet ambitieux est mené pour créer une base de données des voix des candidats afin de repérer et contrecarrer le contenu manipulatif.

Toutes ces initiatives cherchent à impliquer les institutions européennes et à sensibiliser le public à l’urgence de défendre les processus démocratiques dans un paysage médiatique de plus en plus numérisé. Elles cherchent aussi à responsabiliser les grandes plateformes technologiques sur des pratiques éthiques et transparentes pour maintenir la confiance du public. D’où une proposition complémentaire dans la conclusion du rapport, sur la question des algorithmes publicitaires des réseaux sociaux qui accentuent la visibilité des contenus du type fake news et deepfake pour accroître leurs revenus publicitaires. Devenant de facto des accélérateurs de campagnes de déstabilisation, les IA de ces régies publicitaires devraient selon Digital New Deal être qualifiées juridiquement comme “IA à risque élevé » afin de bénéficier des obligations de transparence et conformité prévue dans l’AI Act.

Toutes ces propositions visent à donner des moyens défensifs mais aussi à s’armer offensivement face à cette guerre informationnelle que Von der Leyen et Thierry Breton semblent résolus à mener. Nous sommes et serons en effet de plus en plus exposés à des contenus fabriqués et manipulés comme le montre le cas de la Slovaquie. L’intérêt des puissances étrangères à affaiblir nos démocraties ne fera en outre que s’accroître compte-tenu des tensions géopolitiques actuelles, aidées par une IA générative aux services de hackers inventifs.

Ce rapport « Strengthening pan-european democracy in the era of AI » tente ainsi d’armer nos démocraties face à cette guerre informationnelle. Si les institutions européennes et nationales ne reconnaissent pas la menace imminente de l’IA sur les élections et n’agissent pas en conséquence, l’intégrité du scrutin pourrait être gravement compromise. Nous appelons donc à une mobilisation urgente, quitte à bousculer les relations établies avec les citoyens et groupes d’intérêts, et à l’allocation de ressources substantielles pour assurer la résilience de la démocratie face aux nouveaux défis technologiques croissants.

Il faut être à la hauteur des enjeux et montrer la voie aux États-Unis qui suivront en novembre. L’Union européenne s’est dotée d’armes juridiques avec le DSA, le DMA et l’AI act, elle doit maintenant mobiliser ses forces, civiles et médiatiques, pour mener cette bataille.

Axel Dauchez, Make.org

Arno Pons, Digital New Deal

Article publié dans La Tribune : https://www.latribune.fr/opinions/tribunes/ia-2024-l-annee-de-tous-les-dangers-pour-les-democraties-996725.html