LeCun je u pravu — i isti strukturni jaz postoji u vašem sloju za upravljanje identitetom

Yann LeCun već godinama iznosi oštru argumentaciju o ograničenjima velikih jezičkih modela. Vredi je shvatiti ozbiljno — ne samo zbog onoga što govori o veštačkoj inteligenciji, već i zbog onoga što implicira o infrastrukturi koju gradimo oko nje.

LeCunova ključna tvrdnja: zaista pouzdani AI agenti zahtevaju model sveta — internu reprezentaciju toga kako akcije vode ka posledicama. LLM modeli su izuzetno dobri u predviđanju sledećeg tokena, ali ne rezonuju prirodno o tome šta se dešava u svetu nakon što se neka akcija preduzme. Mogu da napišu plan; ne mogu da modeluju da li će on funkcionisati.

Ono što se ređe primećuje jeste da ista strukturna slabost postoji i u načinu na koji upravljamo identitetom u agentskim sistemima.

Generisanje odgovora nije predviđanje posledice

Model može da proizvede koherentan, kontekstualno prikladan odgovor bez ikakve reprezentacije onoga što će taj odgovor izazvati u sledećem koraku. Za sisteme koji samo proizvode tekst, to je prihvatljivo. Za sisteme koji preduzimaju akcije — pozivaju alate, menjaju baze podataka, šalju komunikaciju — to predstavlja strukturni rizik.

Agent koji deluje bez modelovanja posledica jeste agent kojim se ne može pouzdano upravljati. LeCun to kaže za AI modele. To je jednako tačno i za sisteme za upravljanje identitetom.

Isti jaz u identitetu

Korisnik se autentifikuje. Akreditivi se proveravaju. Pristup se odobrava. Pretpostavlja se da poverenje važi tokom celog trajanja sesije. Svaka naredna akcija — bilo od strane korisnika, bilo od strane AI agenta koji deluje u njegovo ime — nasleđuje to inicijalno poverenje bez ponovne procene.

To je, strukturno gledano, isti problem. Događaj autentifikacije ekvivalentan je generisanju tokena: procena u određenom trenutku koja proizvodi odgovor — „autentifikovan” — bez modelovanja onoga što se dešava dalje kao posledice.

Model sveta za identitet

Za upravljanje identitetom u agentskim sistemima, ekvivalent LeCunovog modela sveta jeste model propagacije poverenja: formalna reprezentacija toga kako poverenje evoluira dok se lanac agenata izvršava, korak po korak. To je uvid u srži Identity Living System pristupa — poverenje kao kontinuirano promenljiva veličina, koja se ažurira na svakom koraku i pokreće primenu pravila na svakom skoku, a ne samo na ulazu.

• Skok 0 — korisnik se autentifikuje. Poverenje 0.97. Poznato početno stanje, a ne samo oznaka „autentifikovan”.
• Skok 1 — prvi poziv alata. Posmatraju se klasa rizika, opseg i obim podataka. Poverenje 0.91.
• Skok 2 — detektovan je povećan obim podataka. Poverenje opada na 0.84. Praćeno, ali još uvek nije blokirano.
• Skok 3 — odstupanje od opsega: poziva se alat za e-poštu iako je namera sesije bila čitanje iz CRM-a. Poverenje 0.71.
• Skok 4 — zahteva se masovno slanje. 0.71 je ispod praga od 0.82 za nepovratnu akciju visokog rizika. Blokirano — jer je model pratio posledicu svakog prethodnog skoka.

MCP dimenzija

Svaki MCP poziv alata predstavlja kauzalnu intervenciju u svetu. Agent ne generiše tekst o slanju e-pošte — on šalje e-poštu. Trenutna MCP autorizacija odgovara na jedno pitanje: ima li ovaj agent dozvolu da pozove ovu klasu alata? To je identitetski ekvivalent predviđanja sledećeg tokena — lokalno ispravan, ali slep za posledice koje slede. Identity Living System na svakom pozivu postavlja drugačije pitanje: s obzirom na sve što se dogodilo u ovom lancu od autentifikacije i na klasu rizika ove konkretne akcije, treba li ovaj poziv da se nastavi?

Poverenje nije događaj prijavljivanja. Ono je svojstvo celokupnog lanca izvršavanja. Arhitektura koja upravlja tim lancem treba da modeluje posledice, a ne samo akreditive.

Dok čekamo da AI sistemi razviju bolje modele sveta, infrastruktura oko njih mora to da nadoknadi. Ako agent ne može da predvidi posledice sopstvenih akcija, sloj za upravljanje mora.

Ovaj način razmišljanja ugrađen je u Corpilus Shield i Identity Living System — u pripremi za lansiranje. Pretprijavite se za rani pristup.

Arhitekturu koja stoji iza ovoga podučavamo uživo, zajedno sa našim stručnim partnerom Avenue78.