L'intelligence artificielle souveraine

Vers une I.A de confiance ?

L'i.A souveraine doit concurrencer celles des indispensables GAFAM en demeurant ouverte.

Introduction

Même si ce n’est pas toujours visible, l'intelligence artificielle (IA) a déjà transformé de nombreux aspects de notre vie : des soins à l'éducation en passant par la finance et les transports, sans oublier la sécurité publique et les loisirs, pour ne citer que les plus évidents.

Cependant, avec cette transformation parfois dissimulée, il est naturel de se poser des questions : quid de la confidentialité des données récoltées ? Avec quel niveau de sécurité ? Qui contrôle l’apprentissage des modèles et avec quels algorithmes ?

L'IA souveraine, ou de confiance, vise à répondre à ces questions en créant des systèmes intelligents transparents, sécurisés et respectueux des droits des utilisateurs : alors, est-on sur le bon chemin ?

Pour mieux comprendre, un peu d’histoire :

Les origines de l'intelligence artificielle

Le concept d'intelligence artificielle est né dans les années 1950, lorsque des scientifiques comme Alan Turing ont commencé à explorer la possibilité de machines capables d’une certaine autonomie, voire de penser...

Avec un peu d’avance, Turing a même proposé le célèbre "test de Turing" pour déterminer si une machine pouvait imiter l'intelligence humaine...

Dans les décennies suivantes, les progrès en IA furent sporadiques, avec des périodes de grandes avancées suivies de ce que l'on appelait les "hivers de l'IA", où les financements comme les intérêts s'évanouissaient.

Ce n'est qu'au début du 21e siècle que l'IA a connu une résurgence majeure, grâce à des avancées concomitantes en apprentissage automatique, en puissance de calcul, notamment la spécialisation des GPU de la firme Nvidia, et en disponibilité de grandes quantités de données issues de la révolution logicielle précédente, celle du Big Data.

L'émergence des préoccupations liées à l'IA

Avec le succès des IA et leur généralisation en devenir, des préoccupations ont émergé quant à la manière dont les données étaient utilisées, illustrées par des scandales comme celui de Cambridge Analytica en 2016, où des fuites massives de données furent constatées, au point de provoquer une enquête du congrès des USA.

D’autres inquiétudes concernant la surveillance, voire la manipulation de masse, déjà usitées dans les régimes totalitaires, ont souligné la nécessité de disposer de systèmes d'IA transparents qui respectent la confidentialité des utilisateurs, comme la souveraineté des données utilisées.

La confidentialité et la sécurité des données

L'un des principaux défis de l'IA, toutes catégories confondues, réside dans la gestion sécurisée des données, car ces systèmes en absorbent de très grandes quantités, sur tous les sujets, pour apprendre et s'améliorer.

La souveraineté numérique

La souveraineté numérique concerne donc la capacité d'un État, d’une entreprise ou d'une organisation, à contrôler ses propres données et les systèmes numériques y afférant, ce qui devrait être un objectif, au moins partiel, dès que ces données sont importantes.

Pourtant, avec la domination des grandes entreprises technologiques IT, principalement basées aux États-Unis, la question de la souveraineté numérique se pose à tous les autres États, fussent-ils alliés des USA...

Avec un temps de retard, les autres pays cherchent maintenant à développer des technologies d'IA indépendantes pour garantir que leurs données soient traitées conformément à leurs intérêts, à leur réglementation, et non pas aux lois étrangères, d’où la naissance du concept d’I.A souveraine.

Développement local et décentralisation

Alors, comment faire ?

Pour garantir la souveraineté d’une IA, il faut en maitriser la technologie, et donc la développer localement, par exemple en créant des centres de recherche spécialisés afin d’éviter la fuite de nos cerveaux vers la terre promise…

La décentralisation des données et des systèmes d'IA est également une stratégie clé, permettant aux utilisateurs de contrôler leurs propres données localement sans dépendre de plateformes centralisées qui ne répondent qu’à leurs propres intérêts.

Par exemple, en Europe, l'initiative GAIA-X ( https://gaia-x.eu/ ) vise à créer une infrastructure de données européenne qui favorise l'innovation tout en garantissant la souveraineté numérique.

Cette initiative encourage la collaboration entre différents acteurs européens, donc avec une réglementation commune, pour développer des services de cloud et des technologies d'IA indépendantes des grands fournisseurs non européens.

Normes et régulations

L'établissement de normes et de régulations est donc crucial à une époque où l’ensemble des données mondiales, ou presque, sont susceptibles d’être aspirées par des systèmes d'IA propriétaires qui sont sous le contrôle des mêmes entreprises américaines qui font la météo d’internet depuis ses débuts…

Ces réglementations incluent des directives sur la manière dont les données doivent être collectées, stockées et utilisées, ainsi que des mesures pour garantir la transparence et la responsabilité des systèmes d'IA.

Un exemple notable est le Règlement Général sur la Protection des Données (RGPD) en Europe (nLPD en Suisse) qui impose des exigences strictes sur la manière dont les données personnelles doivent être traitées avec un droit de regard des citoyens.

Technologies de confidentialité

Des technologies telles que le chiffrement fort, l'anonymisation des données et l'apprentissage fédéré peuvent être utilisées dans la création de systèmes d'IA de confiance.

L'apprentissage fédéré, par exemple, permet aux modèles d'IA de s'entraîner avec des données décentralisées sans que ces données ne quittent les appareils des utilisateurs, garantissant ainsi leur confidentialité.

Cas d'utilisation de l'IA souveraine

L'intelligence artificielle souveraine trouve déjà des applications dans de nombreux domaines, par exemple dans les soins, où le projet européen HealthData@EU ( https://ehds2pilot.eu/ ) vise à créer une infrastructure de données de santé sécurisée et interopérable pour faciliter la recherche médicale et le développement de traitements, tout en garantissant la souveraineté des données des citoyens européens.

Un autre exemple est celui de la finance, où l'IA souveraine peut être utilisée pour détecter les manipulations des taux de changes, gérer les risques, notamment en matière d’investissement, tout en garantissant la confidentialité des données des clients.

Certaines grandes banques européennes utilisent l’I.A souveraine pour détecter les transactions frauduleuses en temps réel.

Ces systèmes utilisent des modèles d'IA sophistiqués pour analyser les comportements habituels des clients et identifier immédiatement les anomalies, bloquant préventivement la transaction suspecte, tout en garantissant la sécurité et la confidentialité des données ainsi collectées.

Défis et perspectives d'avenir

Interopérabilité

L'un des défis majeurs est l'interopérabilité entre les systèmes d'IA souverains et les technologies commerciales existantes, spécialement propriétaire, comme les IA génératives très en vogue actuellement.

Assurer la compatibilité entre différentes plateformes et normes maximiserait les performances de l'IA souveraine, mais les entreprises qui ont développé des modèles génératifs privés à coups de milliards de dollars entendent bien rentabiliser leurs investissements en protégeant leurs algorithmes…

Éthique et responsabilité

L'IA souveraine doit également aborder les questions d’éthiques et de responsabilité.

Cela inclut la garantie que les systèmes d'IA prennent des décisions justes et équitables, sans biais ni discrimination, et que leur comportement puisse être vérifié, voire modifié, le cas échéant, ce qui nécessite que leur code source soit ouvert.

Éducation et formation

Autre point très important : pour tirer parti de l'IA souveraine, il est essentiel de former une main-d'œuvre qualifiée capable de développer et de gérer ces technologies, et il faut le faire immédiatement !

Cela nécessite des investissements importants dans l'éducation, des filières spécialisées dans l’IA et de la formation continue en entreprise, ce qui est encore loin d’être acquis.

Conclusion

L'intelligence artificielle souveraine représente une évolution majeure vers des systèmes d'IA plus sûrs, plus ouverts, à des lieues des performantes mais opaques « boîtes noires » logicielles made in USA que nous connaissons actuellement.

En abordant les défis de la confidentialité, donc de la vie privée, de la souveraineté numérique et de l'éthique, l'IA souveraine peut contribuer à créer un avenir où les technologies intelligentes seront au service des utilisateurs, des entreprises et des gouvernements de manière équitable et transparente :

Vœux pieux ?

L’avenir nous le dira, mais, vu la puissance déjà conséquente des IA et leur formidable potentiel d’évolution, il faut espérer qu’un chemin sera tracé pour concurrencer l’écrasante puissance des GAFAM sinon, ce sera un pas de plus vers « Le meilleur des mondes »…