IA publicitaires, clefs invisibles de nos démocraties
21/6/2024
La viralité n’aime pas la vérité. Les bonnes nouvelles ne font pas recette, tandis que les contenus polémiques, voire complotistes, font eux le bonheur des algorithmes de placement publicitaires qui repèrent ces foyers de viralité et soufflent dessus comme sur la braise afin que les revenus puissent s’enflammer.
Les réseaux sociaux (Facebook, Youtube, Twitter-X, TikTok,…) se défendent d’être des éditeurs, et ils n’ont pas tort puisque leurs algorithmes ont des critères commerciaux et non éditoriaux. Les IA à l’origine des recommandations sont en effet bien celles de leurs régies dédiées à vendre des espaces publicitaires aux annonceurs. Ces algorithmes sont développés pour maximiser l’engagement des utilisateurs en ciblant les placements en fonction de leurs préférences et comportements en ligne, mais aussi programmés pour augmenter leur inventaire publicitaire en repérant puis boostant artificiellement les contenus qui ont un potentiel de viralité. Faisant totalement fi de leurs messages et de leurs éventuels impacts négatifs, devenant ainsi de facto des alliés objectifs de campagnes de déstabilisation qui viennent menacer nos démocraties.
Rappelons un fait : Donald Trump en 2016 avait été élu Président dans des circonscriptions où aucun Républicain n’avait jamais été élu. Toutes ces circonscriptions avaient pour point commun le fait que la presse locale avait fermé, remplacé par un autre média de proximité : Facebook. L’IA publicitaire du réseau social et Cambridge Analytica avaient fait le reste… Imaginons maintenant un instant un scandale de ce type avec la puissance de l’IA générative. Les conséquences dans le contexte géopolitique que nous connaissons pourraient être dramatiques car un retour de Trump aux Etats-Unis et un une montée des extrêmes en France constitueraient une nouvelle équation mondiale au profit de la Russie et de leurs amis.
Cette menace se réalise sous nos yeux, il suffit de voir l’épisode récent en Slovaquie. En septembre 2023 cet État de l’UE a vu son élection nationale basculer suite à un deepfake particulièrement réaliste impliquant Šimečka, chef d’un parti pro-UE, évoquant des propos qui ont déstabilisé ce candidat progressiste dans les dernières 48h au profit du candidat pro-Kremlin, faisant ainsi basculer les élections dans la toute dernière ligne droite.
Pour ne pas reproduire les mêmes erreurs, nous devrions donc porter une attention particulière à la question des algorithmes publicitaires des grandes plateformes sociales. D’autant plus que certaines revendiquent de plus en plus clairement un agenda politique sous l’impulsion de leurs actionnaires, et que jamais le danger de cyber-ingérence n’était apparu aussi élevé tant l’IA générative donne aux ennemis de la démocratie des moyens sans précédents de manipulation massive. L’IA générative va immanquablement amplifier le phénomène de désintermédiation de l’information et ses conséquences sur l’invisibilisation de la vérité. Tout ce que nous n’aimions pas du Web2 risque d’être surenchéri : les fausses nouvelles, les cyberattaques, le contrôle des esprits, la contagion des théories du complot, l’exploitation des données personnelles, etc. On peut résumer ce phénomène en une formule : GenAI = Web2²
Pour faire face à ces guerres informationnelles, l’Union européenne nous a doté d’un arsenal réglementaire, dont bien-sûr le Digital Services Act (modération des contenus), mais aussi l’AI act dont il faut se saisir. L’AI act a adopté une approche par le risque en classant les IA en 4 niveaux de risque : minimum (ex video games), faible (ex deepfake), haut (ex décision magistrat) et inacceptable (ex credit social comme en Chine).
Le règlement prévoyant que la classification puisse être modifié, le think-tank Digital New Deal fait a fait une proposition dans son dernier rapport que nous soutenons, à savoir que les algorithmes de régies publicitaires jusqu’ici considérées comme risques faibles, soient qualifiées juridiquement comme « risque haut ». En relevant ce niveau de risque, ces IA devront répondre à des exigences de transparence, conformité et certifications plus strictes (versus les systèmes à risque limité où il est possible de développer de simples codes de conduite internes). Cette catégorisation permettrait en outre d’ouvrir la possibilité du dégroupage des réseaux sociaux tel que le prévoit le Digital Market Act (règlement européen sur la concurrence), en ouvrant à des tiers la possibilité de proposer des algorithmes de recommandation différents sur les réseaux sociaux, embarquant la fonction régie.
En faisant cela nous mettrions un frein à cette injustice consistant à permettre aux plateformes d’attirer des budgets publicitaires pour nuire à notre démocratie : nuire en alimentant des bulles algorithmiques avec leur IA publicitaire ; nuire en réduisant les revenus publicitaires des médias classiques et leur capacité à payer les journalistes.
« Maîtriser l’IA, c’est maîtriser le monde », cette citation n’est ni d’Elon Musk ni de Jeff Bezos, mais de Vladimir Poutine. Le maître du Kremlin a bien compris que maîtriser l’IA c’est maîtriser les réseaux sociaux, et par conséquent, influencer les élections. Alors donnons-nous les moyens de maitriser les IA, à commencer par celles qui régissent le monde : celles de l’argent.
Jean-Marie Cavada (iDFRight),
Axel Dauchez (Make.org),
Denis Olivennes (CMI),
Arno Pons (Digital New Deal).
Article publié dans La Tribune : https://www.latribune.fr/opinions/tribunes/ia-publicitaires-clefs-invisibles-de-nos-democraties-1000745.html
ÉDITO
3 septembre 2025
Data Act : quand l’Europe transforme la donnée en arme de souveraineté
« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.
10 juillet 2025
« Indice de Résilience Numérique » : sortons les entreprises de l’aveuglement
« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.
2 mars 2025
Politisons le numérique pour freiner l’alliance libertarienne des extrêmes
« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.
17 février 2025
AI Summit : le sursaut gaullien face aux libertariens
« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.
4 septembre 2024
Urbanisons le numérique
« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.
6 mai 2024
Démocratie et IA : l’année de tous les dangers
« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.
13 juillet 2023
LE NUMÉRIQUE AU SERVICE D’UN FUTUR DURABLE
« La “maison brûle”, ne laissons pas le thermomètre entre quelques mains… » Afin d’atteindre les Objectifs de Développement Durable, le think-tank Digital New Deal publie un nouveau rapport proposant que les données ESG, privatisées par 6 grandes compagnies américaines de notations, soient accessibles à tous via un commun numérique.
14 juin 2023
L’Open Source, chance unique de créer une IA de confiance européenne
L’avenir de la France se dessine aussi dans les lignes de code et les algorithmes. Face à la domination des géants américains et chinois en matière d’intelligence artificielle (IA), l’Europe, et la France en particulier, a une carte cruciale à jouer. Il est temps pour la France de prendre les devants et de se doter d’une IA de confiance pour renforcer sa souveraineté numérique et soutenir ses acteurs nationaux.
4 novembre 2022
Définir les normes, pas les subir.
Certains acteurs politiques et industriels critiquent la normalisation, allant pour les Britanniques jusqu’à justifier du Brexit du fait des contraintes normatives Européennes et du besoin de souveraineté. C’est oublier un peu rapidement que la normalisation est d’une part essentielle à la construction de la confiance et aux échanges économiques dans les pays modernes, et d’autre part que la normalisation est le résultat d’un consensus auquel chaque acteur peut contribuer. De fait, la normalisation n’est pas un objet éthéré qui tombe du ciel, mais le résultat d’un processus ouvert à toutes les organisations.
10 octobre 2022
La souveraineté numérique n’existe pas
La crise sanitaire que nous traversons aura eu le mérite de faire émerger des solutions, des talents, qui ont pu exprimer leur potentiel lors de ces circonstances exceptionnelles.
17 septembre 2022
POINT DE CLOUD SOUVERAIN SANS DATA DE CONFIANCE
La crise sanitaire que nous traversons aura eu le mérite de faire émerger des solutions, des talents, qui ont pu exprimer leur potentiel lors de ces circonstances exceptionnelles.
2 juillet 2022
Pour une IA des Lumières européenne
L’Intelligence Artificielle (IA) est au cœur des préoccupations et des fantasmes, sa simple définition constitue un défi en soi. Il est donc crucial que nous puissions y contribuer, afin de pouvoir offrir au monde une vision européenne, c’est-à-dire humaniste
7 mai 2022
RGPD, quatre ans après, enfin l’acte II
A mesure que se développent les outils numériques, l’ampleur de la collecte et du traitement des données personnelles ne cesse d’augmenter. Chez certains, cela a nourri des craintes d’intrusion dans la vie privée, par les États ou des acteurs privés, mais aussi de discrimination, de surveillance ou de manipulation. La réponse réglementaire européenne, le Règlement Général pour la Protection des Données (RGPD), visant à garantir tant la protection des données que leur libre circulation, a été globalement considérée comme salutaire dans le monde entier.
23 décembre 2021
SERVICE PUBLIC AUGMENTÉ, BÉNÉFICE COLLATÉRAL DU COVID
La crise sanitaire que nous traversons aura eu le mérite de faire émerger des solutions, des talents, qui ont pu exprimer leur potentiel lors de ces circonstances exceptionnelles. Comme en temps de guerre, des héros du quotidien issus de la société civile ont fait la fierté de nos concitoyens. Des infirmières que l’on applaudit, des caissières que l’on remercie, mais aussi… des geeks que l’on gratifie. En faisant chevalier de l’ordre national du Mérite le jeune Guillaume Rozier pour la création CovidTracker et Vitemadose, l’Etat prend acte de sa mue en institutionnalisant la participation des citoyens à la défense de l’intérêt général dont il n’a plus le monopole.
8 novembre 2021
« Cloud de confiance » : cuisine et dépendance
Les annonces gouvernementales en début d'année sur le « Cloud souverain » semblaient pourtant frappées du bon sens, et ont été d'ailleurs globalement bien accueillies. À un détail près peut-être, mais pas des moindres : la question des licences aux GAFAM. Beaucoup en effet considèrent que c'était ouvrir la porte en grand aux Big techs dont ils étaient supposés nous protéger. Les fervents défenseurs de notre indépendance technologique, économique et géopolitique, dont notre think-tank Digital New Deal fait partie, sont en droit de s'interroger.
30 juin 2021
Plateformes numériques : encore un effort pour être responsables !
Le président Trump chassé du réseau. La petite Mila pourchassée sur la toile. « La naissance du monde », célèbre toile de Courbet, interdite ! Chaque jour son lot de nouvelles étonnantes ou révoltantes qui montrent qu’il y a « quelque chose de pourri au royaume » des plateformes.
6 avril 2021
Pour un Education Data Hub au service de l’ouverture des données éducatives
Unique distributeur d’applications sur ses terminaux, Apple abuse de sa mainmise sur le marché mobile iOS. Les victimes ? Les éditeurs d’applications, contraints de se plier aux exigences de la plateforme, et les consommateurs, dont la liberté de choix semble en pâtir.
3 février 2021
Monopole de l’Apple Store : la grogne monte
Unique distributeur d’applications sur ses terminaux, Apple abuse de sa mainmise sur le marché mobile iOS. Les victimes ? Les éditeurs d’applications, contraints de se plier aux exigences de la plateforme, et les consommateurs, dont la liberté de choix semble en pâtir.
16 décembre 2020
« 1 JEUNE 1 PME » : L’EMPLOI DES JEUNES POUR ACCELERER LA TRANSITION NUMERIQUE DES TPE-PME FRANCAISES
L’instauration d’une dynamique nouvelle entre les filières du numérique de l’enseignement supérieur et les TPE-PME pourrait contribuer positivement à la transition numérique des entreprises, en même temps qu’à l’emploi des jeunes.
2 novembre 2020
UNE GOUVERNANCE POUR LA CIRCULATION DES DONNEES PERSONNELLES
L'article 20 du Règlement général sur la protection des données, qui consacre un droit à la portabilité des données, constitue une des clés pour mettre sur pied une architecture de circulation des données personnelles plus vertueuse que celle qu'ont mise en place les Big Tech.
27 octobre 2020
DATA : LA SEPARATION DES POUVOIRS POUR CONTRER LA MONARCHIE DES GAFAM
Notre dernière publication propose un modèle concret de partage des données personnelles, centré sur l’individu, offrant ainsi un modus operandi commun aux entreprises et collectivités afin qu’elles coopèrent et innovent.
12 octobre 2020
QUEL NOUVEAU SOUFFLE POUR L’ETAT PLATEFORME ?
Le besoin d’État s’accompagne d’une demande de transformation des moyens de l’action publique pour en assurer la réactivité, la résilience et la proximité avec les citoyens et les territoires.
5 mai 2020
NUMERIQUE EDUCATIF : ET APRES ?
La crise du Covid-19 a mis la résilience du système éducatif scolaire à rude épreuve, notamment pendant la période de confinement. En effet, l’impératif de continuité pédagogique du confinement a conduit à une expérience “grandeur nature” du numérique éducatif dans le milieu scolaire.
12 mars 2020
BIG TECH : L’HEURE EST A LA RESPONSABILITE
Alors qu’Internet est devenu l’espace central de la circulation de l’information, il devient crucial d’imposer aux géants du numérique, principaux acteurs d’échanges, un régime de responsabilité à la hauteur de l’influence qu’ils détiennent.
6 décembre 2019
DEFENDRE NOTRE EXCEPTION EDUCATIVE A L’ERE NUMERIQUE
L’impact systémique du numérique sur la société doit pousser l’Education nationale à sortir de son immobilité, à amorcer une mutabilité pérenne de l’institution scolaire.
20 septembre 2019
BIG TECH : L’HEURE EST A LA REGULATION PAR LA MULTITUDE
Face à la concentration inédite du pouvoir sur Internet dans les mains d’un petit nombre d’entreprises identifiées, quelle est la nature du contre-pouvoir à adopter ?
25 octobre 2018
SORTONS DE NOTRE PARALYSIE EN DEMYSTIFIANT LES GEANTS DU NET !
La dépendance à deux systèmes d’exploitation (OS), MS/DOS Windows et Unix/Linux constitue la racine commune des difficultés et effets secondaires négatifs de notre développement technologique actuel.
22 juin 2018
L’ADMINISTRATION, LA NOUVELLE AVENTURE ENTREPRENEURIALE ?
Aujourd’hui, l’innovation technologique profite majoritairement aux intérêts privés, et les innovations sociales – aussi prometteuses soient elles – peinent à atteindre une envergure à la hauteur des enjeux de société.