LeCun a raison — et la même faille structurelle traverse votre pile d'identité

Yann LeCun défend depuis des années un argument incisif sur les limites des grands modèles de langage. Il mérite d'être pris au sérieux — non seulement pour ce qu'il dit de l'IA, mais pour ce qu'il implique quant à l'infrastructure que nous construisons autour d'elle.

La thèse centrale de LeCun : pour être véritablement fiables, les agents d'IA ont besoin d'un modèle du monde — une représentation interne de la manière dont les actions conduisent à des conséquences. Les LLM sont extraordinairement doués pour prédire le prochain jeton, mais ils ne raisonnent pas naturellement sur ce qui se produit dans le monde une fois une action engagée. Ils savent écrire un plan ; ils ne savent pas modéliser s'il fonctionnera.

Ce que l'on observe plus rarement, c'est que cette même faiblesse structurelle se retrouve dans notre manière de gouverner l'identité au sein des systèmes agentiques.

Générer une réponse n'est pas prédire une conséquence

Un modèle peut produire une réponse cohérente et adaptée au contexte sans aucune représentation de ce que cette réponse provoquera ensuite. Pour des systèmes qui ne font que produire du texte, c'est acceptable. Pour des systèmes qui agissent — appellent des outils, modifient des bases de données, envoient des communications — c'est un risque structurel.

Un agent qui agit sans modéliser les conséquences est un agent qui ne peut pas être gouverné de façon fiable. LeCun le dit des modèles d'IA. C'est tout aussi vrai des systèmes d'identité.

La même faille dans l'identité

Un utilisateur s'authentifie. Les identifiants sont vérifiés. L'accès est accordé. On suppose que la confiance reste valable pour toute la durée de la session. Toute action ultérieure — qu'elle vienne de l'utilisateur ou d'un agent d'IA agissant en son nom — hérite de cette confiance initiale sans nouvelle évaluation.

C'est, structurellement, le même problème. L'événement d'authentification équivaut à la génération d'un jeton : une évaluation ponctuelle qui produit une réponse — « authentifié » — sans modéliser ce qui adviendra ensuite comme conséquence.

Un modèle du monde pour l'identité

Pour la gouvernance de l'identité dans les systèmes agentiques, l'équivalent du modèle du monde de LeCun est un modèle de propagation de la confiance : une représentation formelle de la manière dont la confiance évolue à mesure qu'une chaîne d'agents s'exécute, bond après bond. C'est l'intuition au cœur de l'Identity Living System — la confiance comme une grandeur en évolution continue, mise à jour à chaque étape et pilotant l'application des règles à chaque bond, et pas seulement à l'entrée.

• Bond 0 — l'utilisateur s'authentifie. Confiance 0.97. Un état de départ connu, et non un simple indicateur « authentifié ».
• Bond 1 — premier appel d'outil. La classe de risque, la portée et le volume de données sont observés. Confiance 0.91.
• Bond 2 — volume de données anormalement élevé détecté. La confiance se dégrade à 0.84. Suivie, mais pas encore bloquée.
• Bond 3 — dérive de portée : un outil de messagerie est appelé alors que l'intention de la session était une lecture CRM. Confiance 0.71.
• Bond 4 — un envoi en masse est demandé. 0.71 est en deçà du seuil de 0.82 requis pour une action irréversible à haut risque. Bloqué — parce que le modèle a suivi la conséquence de chaque bond précédent.

La dimension MCP

Chaque appel d'outil MCP est une intervention causale dans le monde. L'agent ne génère pas du texte au sujet de l'envoi d'un e-mail — il envoie l'e-mail. L'autorisation MCP actuelle répond à une seule question : cet agent a-t-il la permission d'appeler cette classe d'outil ? C'est l'équivalent, pour l'identité, de la prédiction du prochain jeton — localement correct, aveugle aux conséquences en aval. L'Identity Living System pose une autre question à chaque appel : compte tenu de tout ce qui s'est produit dans cette chaîne depuis l'authentification, et de la classe de risque de cette action précise, cet appel doit-il aboutir ?

La confiance n'est pas un événement de connexion. C'est une propriété de toute la chaîne d'exécution. L'architecture qui gouverne cette chaîne doit modéliser des conséquences, pas seulement des identifiants.

En attendant que les systèmes d'IA développent de meilleurs modèles du monde, l'infrastructure qui les entoure doit compenser. Si un agent ne peut pas prédire les conséquences de ses propres actions, la couche de gouvernance, elle, le doit.

Cette réflexion est intégrée à Corpilus Shield et à l'Identity Living System — en préparation pour le lancement. Préinscrivez-vous pour un accès anticipé.

Nous enseignons l'architecture qui sous-tend tout cela, en direct, avec notre partenaire expert Avenue78.