LeCun ha ragione — e la stessa lacuna strutturale è nel tuo stack di identità

Yann LeCun ha passato anni a portare avanti un'argomentazione tagliente sui limiti dei large language model. Vale la pena prenderla sul serio — non solo per ciò che dice sull'AI, ma per ciò che implica riguardo all'infrastruttura che costruiamo attorno ad essa.

La tesi centrale di LeCun: gli agenti AI davvero affidabili hanno bisogno di un modello del mondo — una rappresentazione interna di come le azioni portano a conseguenze. Gli LLM sono straordinariamente bravi a prevedere il token successivo, ma non ragionano in modo naturale su ciò che accade nel mondo dopo che un'azione è stata compiuta. Sanno scrivere un piano; non sanno modellare se funzionerà.

Ciò che si osserva meno spesso è che la stessa debolezza strutturale esiste nel modo in cui governiamo l'identità nei sistemi agentici.

Generare una risposta non è prevedere una conseguenza

Un modello può produrre una risposta coerente e contestualmente appropriata senza alcuna rappresentazione di ciò che quella risposta farà accadere in seguito. Per i sistemi che si limitano a produrre testo, questo è accettabile. Per i sistemi che compiono azioni — invocano strumenti, modificano database, inviano comunicazioni — è un rischio strutturale.

Un agente che agisce senza modellare le conseguenze è un agente che non può essere governato in modo affidabile. LeCun lo afferma a proposito dei modelli AI. È altrettanto vero per i sistemi di identità.

La stessa lacuna nell'identità

Un utente si autentica. Le credenziali vengono verificate. L'accesso viene concesso. Si presume che la fiducia rimanga valida per tutta la durata della sessione. Qualsiasi azione successiva — da parte dell'utente o di un agente AI che agisce per suo conto — eredita quella fiducia iniziale senza una nuova valutazione.

Questo è, strutturalmente, lo stesso problema. L'evento di autenticazione equivale a generare un token: una valutazione puntuale che produce una risposta — "autenticato" — senza modellare ciò che accade dopo come conseguenza.

Un modello del mondo per l'identità

Per la governance dell'identità nei sistemi agentici, l'equivalente del modello del mondo di LeCun è un modello di propagazione della fiducia: una rappresentazione formale di come la fiducia evolve mentre una catena di agenti viene eseguita, hop dopo hop. È questa l'intuizione al cuore dell'Identity Living System — la fiducia come grandezza in continua evoluzione, aggiornata a ogni passo e che guida l'enforcement a ogni hop, non solo all'ingresso.

• Hop 0 — l'utente si autentica. Fiducia 0.97. Uno stato di partenza noto, non solo un flag "autenticato".
• Hop 1 — prima chiamata a uno strumento. Vengono osservati classe di rischio, ambito e volume di dati. Fiducia 0.91.
• Hop 2 — rilevato volume di dati elevato. La fiducia scende a 0.84. Tracciata, non ancora bloccata.
• Hop 3 — deriva di ambito: viene invocato uno strumento di email mentre l'intento della sessione era una lettura dal CRM. Fiducia 0.71.
• Hop 4 — viene richiesto un invio massivo. 0.71 è al di sotto della soglia di 0.82 per un'azione irreversibile ad alto rischio. Bloccato — perché il modello ha tracciato la conseguenza di ogni hop precedente.

La dimensione MCP

Ogni chiamata a uno strumento MCP è un intervento causale nel mondo. L'agente non sta generando testo sull'invio di un'email — sta inviando l'email. L'attuale autorizzazione MCP risponde a una sola domanda: questo agente ha il permesso di chiamare questa classe di strumenti? È l'equivalente, in termini di identità, della previsione del token successivo — localmente corretta, cieca rispetto alle conseguenze a valle. L'Identity Living System pone una domanda diversa a ogni chiamata: dato tutto ciò che è accaduto in questa catena dall'autenticazione in poi, e la classe di rischio di questa azione specifica, questa chiamata dovrebbe procedere?

La fiducia non è un evento di login. È una proprietà dell'intera catena di esecuzione. L'architettura che governa quella catena dovrebbe modellare le conseguenze, non solo le credenziali.

Mentre aspettiamo che i sistemi AI sviluppino modelli del mondo migliori, l'infrastruttura attorno ad essi deve compensare. Se un agente non è in grado di prevedere le conseguenze delle proprie azioni, deve farlo il livello di governance.

Questo approccio è integrato in Corpilus Shield e nell'Identity Living System — in preparazione per il lancio. Pre-registrati per l'accesso anticipato.

Insegniamo l'architettura che sta dietro a tutto questo, dal vivo, insieme al nostro partner esperto Avenue78.