CORPILUS
Připravujeme · Qronos

Když AI agent jedná sám, kontrola musí přijít před akcí

Qronos je vrstva, která průběžně ověřuje, zda agent stále jedná v mezích toho, co jste mu povolili. Ještě ho stavíme, takže s ním nepočítejte dřív, než bude hotový.

Připravujeme

Qronos — ochrana agentů, kteří jednají sami

Shield chrání dveře. Qronos sleduje, co se děje za nimi.

Co Qronos není
  • Neřeší síťové útoky ani zahlcení linky — to zůstává úlohou WAF.
  • Není to Shield v jiném balení: Shield hlídá vstup do aplikace, Qronos chování toho, kdo v ní jedná.
  • Není to monitoring. Monitoring zaznamená, co se už stalo; Qronos zastaví akci ještě před jejím provedením.
Směr

K rozšířené ochraně autonomních agentů. Je to směr, ne hotová funkce — a řekneme to takto, i když by se tvrdit víc prodávalo lépe.

Proč to vzniká

Autorizovat agenta jednou na začátku nestačí

Povolení na začátku úlohy neříká nic o tom, kde agent bude o několik desítek kroků později. Problémem bývá celek, ne jednotlivý krok.

  1. 01
    Agent dostane úlohu
    Například: připrav přehled a rozešli ho. Povolení dostane jednou, na začátku.
  2. 02
    Rozloží si ji na kroky
    Přečíst data, seřadit je, připravit zprávy, odeslat je. Každý krok vypadá sám o sobě neškodně.
  3. 03
    Poslední krok má následek
    Rozeslání stovek e-mailů, přepsání záznamů v systému nebo platba. V této chvíli už nestačí vědět, že agent byl na začátku ověřen.
  4. 04
    Tady rozhoduje Qronos
    Rozhodne dřív, než takový krok proběhne — podle pravidla, na které lze ukázat, a se záznamem.
Stav

Qronos je ve vývoji. Není součástí žádného plánu, dnes ho nelze nasadit a nefiguruje v žádném ceníku. Pokud vás zajímá, ozvěte se a dáme vám vědět, až bude hotový.

Více o Qronosu

Pět věcí, na kterých Qronos stojí

Otevřete si, co vás zajímá. Popisujeme principy návrhu, ne hotový produkt.

Jistota při každém kroku agenta

Qronos posoudí každý krok zvlášť, takže agent zůstává v mezích, které jste mu dali.

Qronos posoudí každý krok, nástroj i dokument samostatně a zároveň sleduje, kam směřuje celá úloha. Zachytí tak i případ, kdy jednotlivě neškodné kroky dohromady vedou k něčemu, co jste nikdy nezamýšleli. Hranice, které agentovi nastavíte na začátku, platí až do posledního kroku — takže mu můžete svěřit práci s klidem.

Rozhodnutí před vykonáním

Qronos nerozhoduje dodatečně, ale ještě před krokem.

Běžný krok může projít. Krok, který si žádá větší pozornost, se sleduje. Krok se skutečným následkem, jako je hromadné odeslání, zápis do systému nebo platba, může počkat na potvrzení člověka. A krok, který překročí povolené, se zastaví. Rozdíl oproti zpětné kontrole je v načasování: o kroku se rozhodne dřív, než proběhne.

Rozhodnutí, která lze doložit

Nejen že se něco zablokovalo, ale i proč.

Každé rozhodnutí Qronosu odkazuje na konkrétní pravidlo a zanechá záznam, který můžete předložit při kontrole. Kdo se později zeptá, proč agent nesměl pokračovat, dostane odpověď, na kterou se dá odkázat, ne jen výsledek.

Vztah k Shieldu

Shield chrání vstupy, výstupy a akce. Qronos průběžně sleduje běh agenta.

Shield stojí u aplikace: posuzuje, co do ní vstupuje, co z ní vychází a jaké akce se přes ni spouštějí. Qronos se dívá z druhé strany, na agenta, který už pracuje, a po celou dobu běhu sleduje, zda nepřekračuje to, co jste mu dovolili, i když by si odchylky jinak nikdo nevšiml. Shield můžete nasadit už dnes; Qronos zatím ne.

Architektura

Rozhodování je samostatná vrstva nad kroky agenta, oddělená od agenta samotného.

Qronos navrhujeme jako vrstvenou architekturu rozhodování. Oddělení od agenta je záměrné: o tom, zda krok smí proběhnout, nerozhoduje ten, kdo ho vykonává. Každé rozhodnutí se zapisuje do auditního logu. Architektura je navržena s ohledem na využití kvantových počítačů.

Kdo za tím stojí

Za produktem jsou lidé, které můžete oslovit jménem

Bezpečnostní vrstvu si firma nekupuje od anonymního dodavatele.

Daniel Hrivniak
Daniel Hrivniak
CEO / zakladatel · hlavní AI architekt Corpilus a produktů CREBISO.com
Daniel Buchta
Daniel Buchta
Hlavní partner, garant projektu
Profil na LinkedIn

Na nasazení, provozu a podpoře s nimi pracuje podpůrný tým.