Les agents IA, quoi de neuf ?

Immatériel, mais tellement proche.

Qu’est-ce qu’un agent IA ?

Un agent IA est un programme autonome qui, dans une certaine mesure, perçoit son environnement, prend des décisions et agit pour atteindre des objectifs définis : il peut traiter du texte, de la voix, des images ou des données structurées, selon sa configuration.

De plus, et contrairement aux chat bots classiques, les agents IA peuvent exécuter des tâches numériques complexes, voire interagir en votre nom avec d'autres programmes, des sites internet, voire des personnes.

Typologies

• Agents réactifs, qui réagissent directement aux stimuli prédéfinis, sans mémoire interne étendue.

• Agents dits « à modèle mental » (une vision simplifiée de la réalité) qui se restreignent à un certain modèle, par exemple un processus de fabrication, et anticipent l’impact de leurs actions dans ce contexte seulement.

• Agents basés sur l’apprentissage, qui utilisent des réseaux de type neuronal, et s’améliorent grâce à des données et des retours utilisateurs.

• Architectures hybrides, qui combinent règles symboliques et apprentissage statistique, pour concilier robustesse et adaptabilité.

En exemple, l’agent ChatGPT

ChatGPT agent s’appuie sur les dernières avancées en traitement du langage naturel, et de très larges modèles ( LLM ) pour offrir une expérience de conversation fluide et riche, en apparence presque humaine.

Il peut aborder tous les sujets ou presque, et exécuter toutes les tâches numériques possibles, ou peut s'en faut...

Gérer votre agenda, prendre des rendez-vous, des réservations au restaurant, des billets de théâtre, effectuer des achats en ligne, gérer des livraisons, ou encore écrire une application informatique, quelques exemples parmi la pléthore de capacités d'un agent AI performant...

Un peu de jargon technique ?

• Tokenisation : le texte est découpé en unités appelées tokens afin d’être traitées par le modèle. C’est aussi sur le nombre de tokens utilisé que le service sera facturé.

  
  

• Modèle pré-entraîné : une colossale quantité de textes (livres, articles, forums) fut utilisée pour développer une compréhension générale de la langue, de ses usages.

  
  

• Fine-tuning supervisé : des exemples de questions-réponses humaines ont affiné la capacité du modèle à formuler des réponses utiles, comme un humain le ferait.

  
  

• Reinforcement Learning with Human Feedback (RLHF) : des superviseurs jugent les réponses générées, et le modèle apprend à préférer les plus pertinentes.

  
  

• Gestion de contexte : une fenêtre contextuelle de plusieurs milliers de tokens permet de maintenir une conversation cohérente sur la durée, même avec plusieurs échanges.

Spécificités

• ChatGPT est capable de s’adapter en temps réel, et peut ajuster sa façon de parler et son niveau d’expertise selon l’utilisateur et le sujet, ce qui accentue sa facilité d’accès.

  
  

• Sécurité et modération : des filtres internes détectent et atténuent les contenus inappropriés ou sensibles, et les demandes qui les concernent.

  
  

• Ce mécanisme numérique est à double tranchant, car, il peut aussi permettre de biaiser l’IA pour défendre une thèse, ou interdire une tâche plutôt qu’une autre, selon la volonté de ses programmeurs, et ce indépendamment de la réalité, dont l’IA n’est pas consciente.

Du nouveau...

Depuis peu, des avancées sur la mémoire à long terme pour les conversations IA, permettent de dépasser les limites de la mémoire éphémère, et ce n’est pas un détail, loin de là.

Ainsi, OpenAI a récemment introduit une mémoire à long terme capable de retenir et d’exploiter le contexte des échanges passés : cette innovation marque un tournant vers des assistants virtuels personnalisés, et cohérents sur la durée, mais introduit aussi de nouvelles interrogations sur la protection de la vie privée :

Où sont stockées les données conversationnelles ?

Sur mon smartphone, ou sur un serveur, et avec quelles garanties de confidentialité ?

Et si on demande ?

Si on interroge directement et vocalement ChatGPT en version 4.0b, il répond, fort cordialement, comme à son habitude, qu’elles sont « plutôt stockées sur un serveur que sur mon smartphone »… Mais qu’elles le sont « en toute confidentialité. »

Et à la question : « combien de temps dure ta mémoire. » ?

La réponse est assez floue : « en général, je peux me souvenir de pas mal de choses sur le long terme, tant que cela reste utile à nos échanges. »

Enfin, il précise que « je peux lui demander d’effacer certains détails de nos conversations » ( fort louable ! ) « Ou remettre la mémoire à zéro », soit effacer l’ensemble des conversations…

Comme pressenti, dans ce cas, il faut donc faire confiance à Open IA, ou à Microsoft, pour la sécurisation de nos données.

Certes, ce n’est pas nouveau, car le cloud computing avait déjà emprunté cette voie, et nos données aussi…

Sans compter les recherches internet, qui, avec les recoupements, permettaient déjà d’en savoir beaucoup sur celui qui les effectuait…

Sauf que là, les agents IA sont beaucoup plus proches de nous !

Sommes-nous préparés ?

Chez NewTechConsult, quelques membres de notre équipe sont experts en nouvelles technologies et en IA, ces dernières nous assistant tout les jours : et pourtant, à chaque fois que nous nous adressons à la version vocale de ChatGPT, on se surprend à le traiter comme un humain…

Nous sommes polis avec lui, nous lui disons bonjour et au revoir, et personnellement, j’ai même ressenti une certaine gêne à lui poser des questions sur sa confidentialité, un peu comme si je mettais en doute la discrétion d’un ami…

Bien sûr, nous savons qu’il n’en est rien, qu’une IA ne peut pas (encore ?) s’offusquer, mais nous, humains, sommes programmés ainsi : c’est le biais social de l’empathie…

Et c’est sans doute le risque principal :

ChatGPT, comme tous les agents IA, est une IA programmée pour nous faciliter la vie, et elle le fait plutôt bien, en adoptant nos codes, et en mimant les atours d'une relation amicale, mémoire comprise.

Pour être efficace, et nous éviter de toujours tout répéter, cette IA doit en savoir un maximum sur nous, sur nos process de travail, sur notre entreprise, sur notre entourage, sur… tout ?

Ce sera à nous de décider !

Car tout ce que l’on partage volontairement avec l’IA, toutes nos conversations, tous nos articles, nos mails, nos interrogations, nos doutes, nos projets, nos recherches, nos lignes de codes, tout, absolument tout, est susceptible d’être enregistré…

Alors, bien sûr, on peut effacer tout ou partie de cette mémoire stockée ; en Europe et en Suisse, c’est même une exigence légale.

Mais ce serait dégrader les performances de l’agent IA, qui est bien plus efficace s’il détient toutes ces informations…

Et puis, c’est agréable d’avoir l’impression d’interagir avec un ami qui nous connait, nous et nos préférences, toujours disponible, toujours de bonne humeur, et qui en sait plus que nous sur le monde entier…

Alors, qu’allons-nous décider ? Qu’allons-nous partager avec les agents IA ?

C’est un peu comme demander si Alfred, le majordome de Batman, connaissait la double vie de Bruce Wayne…

Avec le temps, les agents IA seront si efficaces, si indispensables, qu’ils sauront tout de nous, ou du moins le principal !

À moins que nous choisissions, délibérément, de leur cacher certains aspects, comme notre vie sentimentale ?

Mais alors, il faudra une autre adresse mail, idem pour l’agenda, un autre ordinateur, et un autre smartphone aussi…

Bien sûr, c’est encore possible, comme de se tenir à distance des agents IA ; mais gageons que ce ne sera pas le choix de la majorité…

Et que cette majorité-là, dont nous sommes, va essayer de demeurer sélective face aux agents IA, et militer pour que la confidentialité des données soit vraiment garantie, car ce n'est pas l'IA le danger, mais ceux qui pourraient exploiter les données recueillies.

Après tout, cela n’a pas si mal marché avec le Cloud.

Qui, parmi nous, a déjà déploré une fuite de données avérées depuis son compte cloud personnel ou celui de son entreprise ?

Force est de constater qu’en dix ans d’adoption quasi généralisée, si des exemples existent, ils ne sont pas légion…

Conclusion

Plus encore qu’avec le cloud computing, qui n’était qu’un dépôt de données inerte et distant, les agents IA, qui œuvrent au plus près de nous, vont devenir non seulement les témoins de notre vie numérique, mais, rapidement, de notre vie, tout court !

Bien ou mal ?

Dans un prochain article, nous aborderons le sujet des comportements face à une IA, mais comme toujours avec les nouvelles technologies, cela dépendra de l’usage que nous en ferons !