Démocratie et IA : l’année de tous les dangers

6/5/2024

Élections historiques et nouvelles Intelligences artificielles ne font pas bon ménage. Nous sommes en effet dans l’année de tous les dangers avec la moitié des démocraties dans le monde qui votent en 2024 tandis que plane une menace de manipulation massive. Jamais le danger de cyber-ingérence n’était apparu aussi élevé tant l’IA générative donne aux ennemis de la démocratie des moyens sans précédents de déstabilisation. Dans ce contexte, les élections européennes s’annoncent particulièrement cruciales, elles représentent en effet un immense « crash test démocratique » aux conséquences géopolitiques potentiellement majeures. ons, soient accessibles à tous via un commun numérique.

Élections historiques et nouvelles Intelligences artificielles ne font pas bon ménage. Nous sommes en effet dans l’année de tous les dangers avec la moitié des démocraties dans le monde qui votent en 2024 tandis que plane une menace de manipulation massive. Jamais le danger de cyber-ingérence n’était apparu aussi élevé tant l’IA générative donne aux ennemis de la démocratie des moyens sans précédents de déstabilisation. Dans ce contexte, les élections européennes s’annoncent particulièrement cruciales, elles représentent en effet un immense « crash test démocratique » aux conséquences géopolitiques potentiellement majeures.

 

Pour envisager des stratégies de protection des élections contre les influences technologiques malveillantes, Democratic Shield propose par dix mesures concrètes. Parmi celles-ci, l’idée de renforcer sur les plateformes de médias sociaux une « période de réserve » – période juste avant le jour des élections visant à préserver la sérénité du vote – afin d’éviter la multiplication de cas comme l’épisode récent en Slovaquie, où un Deepfake particulièrement réaliste a déstabilisé dans les dernières 48h le candidat progressiste au profit du candidat pro-Poutine.

 

Autres mesures, la mise en place de codes de conduite pour les médias, avec la mise en place d’une norme ISO labelisant les pratiques journalistiques éthiques. La norme ne dit pas « ce contenu est vrai », elle dit « cette source d’information est digne de confiance ». La « Journalism Trust Initiative » (JTI) illustre précisément cette recherche d’un équilibre entre le journalisme fiable et la lutte contre la désinformation en promouvant un journalisme digne de confiance.

 

Code de conduite également pour les partis politiques. A l’instar de ce qui s’est passé aux précédentes législatives en Allemagne, le programme propose que les candidats s’engagent à une transparence en matière d’utilisation du contenu produits par l’IA, et à une responsabilité sur le partage d’informations non vérifiées sur les réseaux sociaux.

Des efforts sont également déployés pour développer des outils capables de détecter le contenu généré par IA, ainsi que pour établir un système de certification de contenu par blockchain. Par ailleurs, un projet ambitieux est mené pour créer une base de données des voix des candidats afin de repérer et contrecarrer le contenu manipulatif.

 

Toutes ces initiatives cherchent à impliquer les institutions européennes et à sensibiliser le public à l’urgence de défendre les processus démocratiques dans un paysage médiatique de plus en plus numérisé. Elles cherchent aussi à responsabiliser les grandes plateformes technologiques sur des pratiques éthiques et transparentes pour maintenir la confiance du public. D’où une proposition complémentaire dans la conclusion du rapport, sur la question des algorithmes publicitaires des réseaux sociaux qui accentuent la visibilité des contenus du type fake news et deepfake pour accroître leurs revenus publicitaires. Devenant de facto des accélérateurs de campagnes de déstabilisation, les IA de ces régies publicitaires devraient selon Digital New Deal être qualifiées juridiquement comme « IA à risque élevé » afin de bénéficier des obligations de transparence et conformité prévue dans l’AI Act.

 

Toutes ces propositions visent à donner des moyens défensifs mais aussi à s’armer offensivement face à cette guerre informationnelle que Von der Leyen et Thierry Breton semblent résolus à mener. Nous sommes et serons en effet de plus en plus exposés à des contenus fabriqués et manipulés comme le montre le cas de la Slovaquie. L’intérêt des puissances étrangères à affaiblir nos démocraties ne fera en outre que s’accroître compte-tenu des tensions géopolitiques actuelles, aidées par une IA générative aux services de hackers inventifs.

 

Ce rapport « Strengthening pan-european democracy in the era of AI » tente ainsi d’armer nos démocraties face à cette guerre informationnelle. Si les institutions européennes et nationales ne reconnaissent pas la menace imminente de l’IA sur les élections et n’agissent pas en conséquence, l’intégrité du scrutin pourrait être gravement compromise. Nous appelons donc à une mobilisation urgente, quitte à bousculer les relations établies avec les citoyens et groupes d’intérêts, et à l’allocation de ressources substantielles pour assurer la résilience de la démocratie face aux nouveaux défis technologiques croissants.

 

Il faut être à la hauteur des enjeux et montrer la voie aux États-Unis qui suivront en novembre. L’Union européenne s’est dotée d’armes juridiques avec le DSA, le DMA et l’AI act, elle doit maintenant mobiliser ses forces, civiles et médiatiques, pour mener cette bataille.

Axel Dauchez, Make.org

Arno Pons, Digital New Deal

Article publié dans La Tribune : https://www.latribune.fr/opinions/tribunes/ia-2024-l-annee-de-tous-les-dangers-pour-les-democraties-996725.html

ÉDITO

Data Act : quand l’Europe transforme la donnée en arme de souveraineté

« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.

Lire la suite


« Indice de Résilience Numérique » : sortons les entreprises de l’aveuglement

« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.

Lire la suite


Politisons le numérique pour freiner l’alliance libertarienne des extrêmes

« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.

Lire la suite


AI Summit : le sursaut gaullien face aux libertariens

« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.

Lire la suite


Urbanisons le numérique

« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.

Lire la suite


IA publicitaires, clefs invisibles de nos démocraties

« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.

Lire la suite


LE NUMÉRIQUE AU SERVICE D’UN FUTUR DURABLE

« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.

Lire la suite


L’Open Source, chance unique de créer une IA de confiance européenne

L’avenir de la France se dessine aussi dans les lignes de code et les algorithmes. Face à la domination des géants américains et chinois en matière d’intelligence artificielle (IA), l’Europe, et la France en particulier, a une carte cruciale à jouer. Il est temps pour la France de prendre les devants et de se doter d’une IA de confiance pour renforcer sa souveraineté numérique et soutenir ses acteurs nationaux.

Lire la suite


Définir les normes, pas les subir.

Certains acteurs politiques et industriels critiquent la normalisation, allant pour les Britanniques jusqu’à justifier du Brexit du fait des contraintes normatives Européennes et du besoin de souveraineté. C’est oublier un peu rapidement que la normalisation est d’une part essentielle à la construction de la confiance et aux échanges économiques dans les pays modernes, et d’autre part que la normalisation est le résultat d’un consensus auquel chaque acteur peut contribuer. De fait, la normalisation n’est pas un objet éthéré qui tombe du ciel, mais le résultat d’un processus ouvert à toutes les organisations.

Lire la suite


La souveraineté numérique n’existe pas

La crise sanitaire que nous traversons aura eu le mérite de faire émerger des solutions, des talents, qui ont pu exprimer leur potentiel lors de ces circonstances exceptionnelles.

Lire la suite


POINT DE CLOUD SOUVERAIN SANS DATA DE CONFIANCE

La crise sanitaire que nous traversons aura eu le mérite de faire émerger des solutions, des talents, qui ont pu exprimer leur potentiel lors de ces circonstances exceptionnelles.

Lire la suite


Pour une IA des Lumières européenne

L’Intelligence Artificielle (IA) est au cœur des préoccupations et des fantasmes, sa simple définition constitue un défi en soi. Il est donc crucial que nous puissions y contribuer, afin de pouvoir offrir au monde une vision européenne, c’est-à-dire humaniste

Lire la suite


RGPD, quatre ans après, enfin l’acte II

A mesure que se développent les outils numériques, l’ampleur de la collecte et du traitement des données personnelles ne cesse d’augmenter. Chez certains, cela a nourri des craintes d’intrusion dans la vie privée, par les États ou des acteurs privés, mais aussi de discrimination, de surveillance ou de manipulation. La réponse réglementaire européenne, le Règlement Général pour la Protection des Données (RGPD), visant à garantir tant la protection des données que leur libre circulation, a été globalement considérée comme salutaire dans le monde entier.

Lire la suite


SERVICE PUBLIC AUGMENTÉ, BÉNÉFICE COLLATÉRAL DU COVID

La crise sanitaire que nous traversons aura eu le mérite de faire émerger des solutions, des talents, qui ont pu exprimer leur potentiel lors de ces circonstances exceptionnelles. Comme en temps de guerre, des héros du quotidien issus de la société civile ont fait la fierté de nos concitoyens. Des infirmières que l’on applaudit, des caissières que l’on remercie, mais aussi… des geeks que l’on gratifie. En faisant chevalier de l’ordre national du Mérite le jeune Guillaume Rozier pour la création CovidTracker et Vitemadose, l’Etat prend acte de sa mue en institutionnalisant la participation des citoyens à la défense de l’intérêt général dont il n’a plus le monopole.

Lire la suite


« Cloud de confiance » : cuisine et dépendance

Les annonces gouvernementales en début d'année sur le « Cloud souverain » semblaient pourtant frappées du bon sens, et ont été d'ailleurs globalement bien accueillies. À un détail près peut-être, mais pas des moindres : la question des licences aux GAFAM. Beaucoup en effet considèrent que c'était ouvrir la porte en grand aux Big techs dont ils étaient supposés nous protéger. Les fervents défenseurs de notre indépendance technologique, économique et géopolitique, dont notre think-tank Digital New Deal fait partie, sont en droit de s'interroger.

Lire la suite


Plateformes numériques : encore un effort pour être responsables !

Le président Trump chassé du réseau. La petite Mila pourchassée sur la toile. « La naissance du monde », célèbre toile de Courbet, interdite ! Chaque jour son lot de nouvelles étonnantes ou révoltantes qui montrent qu’il y a « quelque chose de pourri au royaume » des plateformes.

Lire la suite


Pour un Education Data Hub au service de l’ouverture des données éducatives

Unique distributeur d’applications sur ses terminaux, Apple abuse de sa mainmise sur le marché mobile iOS. Les victimes ? Les éditeurs d’applications, contraints de se plier aux exigences de la plateforme, et les consommateurs, dont la liberté de choix semble en pâtir.

Lire la suite


Monopole de l’Apple Store : la grogne monte

Unique distributeur d’applications sur ses terminaux, Apple abuse de sa mainmise sur le marché mobile iOS. Les victimes ? Les éditeurs d’applications, contraints de se plier aux exigences de la plateforme, et les consommateurs, dont la liberté de choix semble en pâtir.

Lire la suite


« 1 JEUNE 1 PME » : L’EMPLOI DES JEUNES POUR ACCELERER LA TRANSITION NUMERIQUE DES TPE-PME FRANCAISES

L’instauration d’une dynamique nouvelle entre les filières du numérique de l’enseignement supérieur et les TPE-PME pourrait contribuer positivement à la transition numérique des entreprises, en même temps qu’à l’emploi des jeunes.

Lire la suite


UNE GOUVERNANCE POUR LA CIRCULATION DES DONNEES PERSONNELLES

L'article 20 du Règlement général sur la protection des données, qui consacre un droit à la portabilité des données, constitue une des clés pour mettre sur pied une architecture de circulation des données personnelles plus vertueuse que celle qu'ont mise en place les Big Tech.

Lire la suite


DATA : LA SEPARATION DES POUVOIRS POUR CONTRER LA MONARCHIE DES GAFAM

Notre dernière publication propose un modèle concret de partage des données personnelles, centré sur l’individu, offrant ainsi un modus operandi commun aux entreprises et collectivités afin qu’elles coopèrent et innovent.

Lire la suite


QUEL NOUVEAU SOUFFLE POUR L’ETAT PLATEFORME ?

Le besoin d’État s’accompagne d’une demande de transformation des moyens de l’action publique pour en assurer la réactivité, la résilience et la proximité avec les citoyens et les territoires.

Lire la suite


NUMERIQUE EDUCATIF : ET APRES ?

La crise du Covid-19 a mis la résilience du système éducatif scolaire à rude épreuve, notamment pendant la période de confinement. En effet, l’impératif de continuité pédagogique du confinement a conduit à une expérience “grandeur nature” du numérique éducatif dans le milieu scolaire.

Lire la suite


BIG TECH : L’HEURE EST A LA RESPONSABILITE

Alors qu’Internet est devenu l’espace central de la circulation de l’information, il devient crucial d’imposer aux géants du numérique, principaux acteurs d’échanges, un régime de responsabilité à la hauteur de l’influence qu’ils détiennent.

Lire la suite


DEFENDRE NOTRE EXCEPTION EDUCATIVE A L’ERE NUMERIQUE

L’impact systémique du numérique sur la société doit pousser l’Education nationale à sortir de son immobilité, à amorcer une mutabilité pérenne de l’institution scolaire.

Lire la suite


BIG TECH : L’HEURE EST A LA REGULATION PAR LA MULTITUDE

Face à la concentration inédite du pouvoir sur Internet dans les mains d’un petit nombre d’entreprises identifiées, quelle est la nature du contre-pouvoir à adopter ?

Lire la suite


SORTONS DE NOTRE PARALYSIE EN DEMYSTIFIANT LES GEANTS DU NET !

La dépendance à deux systèmes d’exploitation (OS), MS/DOS Windows et Unix/Linux constitue la racine commune des difficultés et effets secondaires négatifs de notre développement technologique actuel.

Lire la suite


L’ADMINISTRATION, LA NOUVELLE AVENTURE ENTREPRENEURIALE ?

Aujourd’hui, l’innovation technologique profite majoritairement aux intérêts privés, et les innovations sociales – aussi prometteuses soient elles – peinent à atteindre une envergure à la hauteur des enjeux de société.

Lire la suite