Pour une IA des Lumières européenne

04/07/2022

Julien Chiaroni, Confiance.AI (Grand Défi IA)
Julien Chiaroni, Confiance.AI (Grand Défi IA)»
Arno Pons, Digital New Deal (Think-tank) Co-auteurs de la note « IA de confiance »
Arno Pons, Digital New Deal (Think-tank) Co-auteurs de la note « IA de confiance »

Digital New Deal, publie son rapport « IA de confiance : opportunité stratégique pour une souveraineté industrielle et numérique », produit à la demande du Secrétariat général pour l’investissement (SGPI), la structure chargée sous l’autorité du Premier ministre, d’assurer la cohérence et le suivi de la politique d’investissement de l’État à travers le déploiement du plan « France 2030 ».

L’Intelligence Artificielle (IA) est au cœur des préoccupations et des fantasmes, sa simple définition constitue un défi en soi. Il est donc crucial que nous puissions y contribuer, afin de pouvoir offrir au monde une vision européenne, c’est-à-dire humaniste, de ce sujet complexe qui devient de plus en plus structurant dans les champs économiques, sociaux, écologiques et démocratiques. L’Europe, France en tête avec « AI for humanity », doit donc être capable de penser et opérer une « IA des Lumières » qui soit transparente, sûre et responsable, refusant que des biais technologiques deviennent des biais idéologiques avec tous les impacts que l’on connaît. Pour que l’IA soit garante de ces valeurs, au service des citoyens, nous devons faire preuve envers elle d’une exigence éthique et politique sans faille, et donc faire de l’IA de confiance européenne une valeur étalon mondiale.

Nous ne pouvons tolérer que des IA opaques orientent nos choix, sans que nous en soyons conscients, et sans que nous puissions faire de recours. Le grand public et les acteurs économiques doivent pouvoir avoir « confiance » dans ces IA qui ont un impact tangible sur leurs vies (accès aux crédits, recommandations d’emplois, santé, etc.). Face à l’algorithmisation de nos vies et ses potentielles dérives, nous devons en effet reprendre en main nos destins numériques en faisant de l’IA un sujet politique. Cette impérieuse nécessité doit nous engager à traduire nos valeurs en standards mondiaux grâce au paquet réglementaire européen (DSA, DMA, DGA, DA, AI Act). Ils permettent d’imposer un cadre de confiance pour commercialiser son produit ou service au sein de l’UE conférant de facto à nos standards une portée extraterritoriale, à l’instar du RGPD qui a été adapté dans la plupart des pays. Nous sommes intimement convaincus qu’en faisant de l’IA de confiance une valeur étalon, l’Europe pourra devenir une troisième voie numérique crédible, attractive, et compétitive, à condition bien-sûr que cette fois-ci tous se saisissent des opportunités que font naître ces nouvelles régulations.

L’IA de confiance constitue selon nous un véritable éclaireur de notre souveraineté numérique et de notre compétitivité industrielle.

Souveraineté d’abord. Nous définissons dans ce rapport la souveraineté en fonction de notre autonomie, c’est-à-dire notre capacité à choisir le niveau et la nature de nos dépendances : « L’autonomie stratégique est une capacité à générer et défendre un écosystème de confiance qui organise nos interdépendances ». La souveraineté numérique est un idéal, l’autonomie stratégique un objectif politique, et le niveau de dépendance une mesure. À l’instar de la souveraineté énergétique qui conduit un État à orienter ses choix pour ne pas dépendre d’un seul fournisseur, ni d’une seule énergie, la souveraineté numérique cherche elle aussi à contrôler ses dépendances. À défaut de garantir une chaîne de valeur pleinement souveraine (auto-suffisante), l’enjeu majeur est de sanctuariser une “chaîne ou un réseau de confiance” pour atteindre un degré d’autonomie stratégique jugé satisfaisant. Cet écosystème de confiance s’appuie sur le tryptique « cloud, data et IA », d’où notre recommandation de déployer une gouvernance partagée entre data et IA, couplée à une approche conjointe par les usages via les Data spaces (Gaia-X).

Compétitivité ensuite. L’IA de confiance, avec un marché estimé à 53 milliards (€), est une opportunité de (re)conquête pour nos filières qui ont tant souffert de la désindustrialisation. Mais pour que notre excellence en recherche d’IA se traduise en capacité́ de leadership industriel, la réglementation seule ne suffit pas. Nous devons impérativement créer une coopération industrielle au niveau européen à la hauteur de nos ambitions. Nous proposons pour cela de créer une « Infratech », c’est à dire un écosystème d’acteurs européens spécialisés dans le logiciel, souvent start-ups et PME, qui se fédèrent en vue de proposer une offre de bout en bout autour d’une infrastructure logicielle. Elle doit porter intrinsèquement les valeurs et la réglementation européenne, des normes harmonisées ou des standards partagés. Elles s’appuient sur des communs numériques qu’il s’agira de valoriser collectivement sur le marché irriguant ainsi l’ensemble des secteurs stratégiques pour l’Europe (emploi, éducation, santé, finance, tourisme, mobilité, administration, etc.) Enfin, elle permettra mécaniquement d’abaisser les barrières à l’entrée du marché de l’IA de confiance: « L’infratech, socle de la confiance, et levier de scalabilité pour la Frenchtech »

L’autre pari défendu dans ce rapport, consiste à capitaliser sur la culture européenne des systèmes critiques, où les exigences en terme de confiance sont les plus fortes, pour en faire un avantage compétitif et une garantie pour les citoyens. Les développements de l’IA sont aujourd’hui fortement « tirés et influencés » par les acteurs du B2C comme les GAFAM. Or leur culture est basée sur les usages et l’expérimentation continue. L’Europe peut adopter à contrario une approche fondée sur l’apport de preuves, de performances et pas uniquement processus, fondée sur une analyse des risques et des exigences fortes qui caractérisent les systèmes critiques ou à « haut risque », ainsi que définit dans le cadre de la réglementation européenne. C’est ce que les citoyens et utilisateurs attendent. Ainsi, nous rapprocherons de facto IA et IA de confiance, nous permettant d’adresser un marché global de l’IA (231 Milliards €) et de faire de l’IA de confiance une véritable « force » de l’Europe.

La confiance est une arme défensive contre les monopoles que l’on subit et offensive pour les coopérations que l’on choisit. L’Union Européenne doit se donner tous les moyens de ses ambitions, à la fois réglementaire et industriel. Nous sommes convaincus que c’est en s’appuyant sur ces leviers que l’UE pourra bâtir son autonomie stratégique et édicter ses propres conditions extra-territoriales au marché mondial, offrant ainsi une opportunité d’export à nos entreprises. Pour cela, l’Europe ne doit pas reproduire les erreurs du passé. La « jurisprudence internet », avec toutes les conséquences que l’on connaît, nous oblige à plus d’anticipation et à une collaboration renforcée pour que le développement de la confiance dans l’IA soit au cœur des standards de demain.

Julien Chiaroni, Confiance.AI (Grand Défi IA)
Arno Pons, Digital New Deal (Think-tank)
Co-auteurs de la note « IA de confiance »

Article disponible sur le site de notre partenaire La Tribune : https://www.latribune.fr/opinions/tribunes/pour-une-ia-des-lumieres-europeenne-926286.html

ÉDITO

La souveraineté numérique n’existe pas

La crise sanitaire que nous traversons aura eu le mérite de faire émerger des solutions, des talents, qui ont pu exprimer leur potentiel lors de ces circonstances exceptionnelles.

Lire la suite


POINT DE CLOUD SOUVERAIN SANS DATA DE CONFIANCE

La crise sanitaire que nous traversons aura eu le mérite de faire émerger des solutions, des talents, qui ont pu exprimer leur potentiel lors de ces circonstances exceptionnelles.

Lire la suite


RGPD, quatre ans après, enfin l’acte II

A mesure que se développent les outils numériques, l’ampleur de la collecte et du traitement des données personnelles ne cesse d’augmenter. Chez certains, cela a nourri des craintes d’intrusion dans la vie privée, par les États ou des acteurs privés, mais aussi de discrimination, de surveillance ou de manipulation. La réponse réglementaire européenne, le Règlement Général pour la Protection des Données (RGPD), visant à garantir tant la protection des données que leur libre circulation, a été globalement considérée comme salutaire dans le monde entier.

Lire la suite


SERVICE PUBLIC AUGMENTÉ, BÉNÉFICE COLLATÉRAL DU COVID

La crise sanitaire que nous traversons aura eu le mérite de faire émerger des solutions, des talents, qui ont pu exprimer leur potentiel lors de ces circonstances exceptionnelles. Comme en temps de guerre, des héros du quotidien issus de la société civile ont fait la fierté de nos concitoyens. Des infirmières que l’on applaudit, des caissières que l’on remercie, mais aussi… des geeks que l’on gratifie. En faisant chevalier de l’ordre national du Mérite le jeune Guillaume Rozier pour la création CovidTracker et Vitemadose, l’Etat prend acte de sa mue en institutionnalisant la participation des citoyens à la défense de l’intérêt général dont il n’a plus le monopole.

Lire la suite


« Cloud de confiance » : cuisine et dépendance

Les annonces gouvernementales en début d'année sur le « Cloud souverain » semblaient pourtant frappées du bon sens, et ont été d'ailleurs globalement bien accueillies. À un détail près peut-être, mais pas des moindres : la question des licences aux GAFAM. Beaucoup en effet considèrent que c'était ouvrir la porte en grand aux Big techs dont ils étaient supposés nous protéger. Les fervents défenseurs de notre indépendance technologique, économique et géopolitique, dont notre think-tank Digital New Deal fait partie, sont en droit de s'interroger.

Lire la suite


Plateformes numériques : encore un effort pour être responsables !

Le président Trump chassé du réseau. La petite Mila pourchassée sur la toile. « La naissance du monde », célèbre toile de Courbet, interdite ! Chaque jour son lot de nouvelles étonnantes ou révoltantes qui montrent qu’il y a « quelque chose de pourri au royaume » des plateformes.

Lire la suite


Pour un Education Data Hub au service de l’ouverture des données éducatives

Unique distributeur d’applications sur ses terminaux, Apple abuse de sa mainmise sur le marché mobile iOS. Les victimes ? Les éditeurs d’applications, contraints de se plier aux exigences de la plateforme, et les consommateurs, dont la liberté de choix semble en pâtir.

Lire la suite


Monopole de l’Apple Store : la grogne monte

Unique distributeur d’applications sur ses terminaux, Apple abuse de sa mainmise sur le marché mobile iOS. Les victimes ? Les éditeurs d’applications, contraints de se plier aux exigences de la plateforme, et les consommateurs, dont la liberté de choix semble en pâtir.

Lire la suite


« 1 JEUNE 1 PME » : L’EMPLOI DES JEUNES POUR ACCELERER LA TRANSITION NUMERIQUE DES TPE-PME FRANCAISES

L’instauration d’une dynamique nouvelle entre les filières du numérique de l’enseignement supérieur et les TPE-PME pourrait contribuer positivement à la transition numérique des entreprises, en même temps qu’à l’emploi des jeunes.

Lire la suite


UNE GOUVERNANCE POUR LA CIRCULATION DES DONNEES PERSONNELLES

L'article 20 du Règlement général sur la protection des données, qui consacre un droit à la portabilité des données, constitue une des clés pour mettre sur pied une architecture de circulation des données personnelles plus vertueuse que celle qu'ont mise en place les Big Tech.

Lire la suite


DATA : LA SEPARATION DES POUVOIRS POUR CONTRER LA MONARCHIE DES GAFAM

Notre dernière publication propose un modèle concret de partage des données personnelles, centré sur l’individu, offrant ainsi un modus operandi commun aux entreprises et collectivités afin qu’elles coopèrent et innovent.

Lire la suite


QUEL NOUVEAU SOUFFLE POUR L’ETAT PLATEFORME ?

Le besoin d’État s’accompagne d’une demande de transformation des moyens de l’action publique pour en assurer la réactivité, la résilience et la proximité avec les citoyens et les territoires.

Lire la suite


NUMERIQUE EDUCATIF : ET APRES ?

La crise du Covid-19 a mis la résilience du système éducatif scolaire à rude épreuve, notamment pendant la période de confinement. En effet, l’impératif de continuité pédagogique du confinement a conduit à une expérience “grandeur nature” du numérique éducatif dans le milieu scolaire.

Lire la suite


BIG TECH : L’HEURE EST A LA RESPONSABILITE

Alors qu’Internet est devenu l’espace central de la circulation de l’information, il devient crucial d’imposer aux géants du numérique, principaux acteurs d’échanges, un régime de responsabilité à la hauteur de l’influence qu’ils détiennent.

Lire la suite


DEFENDRE NOTRE EXCEPTION EDUCATIVE A L’ERE NUMERIQUE

L’impact systémique du numérique sur la société doit pousser l’Education nationale à sortir de son immobilité, à amorcer une mutabilité pérenne de l’institution scolaire.

Lire la suite


BIG TECH : L’HEURE EST A LA REGULATION PAR LA MULTITUDE

Face à la concentration inédite du pouvoir sur Internet dans les mains d’un petit nombre d’entreprises identifiées, quelle est la nature du contre-pouvoir à adopter ?

Lire la suite


SORTONS DE NOTRE PARALYSIE EN DEMYSTIFIANT LES GEANTS DU NET !

La dépendance à deux systèmes d’exploitation (OS), MS/DOS Windows et Unix/Linux constitue la racine commune des difficultés et effets secondaires négatifs de notre développement technologique actuel.

Lire la suite


L’ADMINISTRATION, LA NOUVELLE AVENTURE ENTREPRENEURIALE ?

Aujourd’hui, l’innovation technologique profite majoritairement aux intérêts privés, et les innovations sociales – aussi prometteuses soient elles – peinent à atteindre une envergure à la hauteur des enjeux de société.

Lire la suite