CORPILUS
Pripravujeme · Qronos

Keď AI agent koná sám, kontrola musí prísť pred akciou

Qronos je vrstva, ktorá priebežne overuje, či agent stále koná v rámci toho, čo ste mu povolili. Zatiaľ ju pripravujeme, a preto s ňou nepočítajte skôr, než bude hotová.

Pripravujeme

Qronos — ochrana pre agentov, ktorí konajú sami

Shield chráni dvere. Qronos sleduje, čo sa deje za nimi.

Čo Qronos nie je
  • Sieťové útoky a zahltenie linky nerieši — to ostáva úlohou WAF-u.
  • Nie je to Shield v inom obale: Shield stráži vstup do aplikácie, Qronos správanie toho, kto v nej koná.
  • Nie je to monitoring. Ten zapíše, čo sa už stalo, Qronos zastaví akciu ešte pred vykonaním.
Smer vývoja

K rozšírenej ochrane samostatne konajúcich agentov. Je to smer, nie hotová funkcia — a napíšeme to takto aj vtedy, keď by sa lepšie predávalo tvrdiť viac.

Prečo to vzniká

Autorizácia na začiatku nestačí

Povolenie na začiatku úlohy nepovie nič o tom, kam sa agent dostane o niekoľko desiatok krokov neskôr. Problémom býva celok, nie jednotlivý krok.

  1. 01
    Agent dostane úlohu
    Napríklad: priprav prehľad a rozpošli ho. Povolenie dostane raz, na začiatku.
  2. 02
    Rozloží si ju na kroky
    Prečítať dáta, zoradiť, pripraviť správy, odoslať. Každý krok sám za sebe vyzerá nevinne.
  3. 03
    Posledný krok má následok
    Rozposlanie stoviek e-mailov, prepis záznamov v systéme alebo platba. Tu už nestačí vedieť, že agent bol na začiatku prihlásený.
  4. 04
    Qronos rozhoduje tu
    Rozhodne skôr, než taký krok prebehne — podľa pravidla, na ktoré sa dá ukázať, a so záznamom.
Stav

Qronos je vo vývoji. Nie je súčasťou žiadneho plánu, nedá sa dnes nasadiť a nefiguruje v cenníku. Ak vás téma zaujíma, ozvite sa a dáme vám vedieť, keď bude pripravený.

Viac o Qronose

Päť vecí, na ktorých Qronos stojí

Rozkliknite, čo vás zaujíma. Opisujeme princípy návrhu, nie hotový produkt.

Istota pri každom kroku agenta

Qronos posúdi každý krok zvlášť, takže agent ostáva v hraniciach, ktoré ste mu dali.

Qronos posúdi každý krok, nástroj aj dokument samostatne a zároveň sleduje, kam smeruje celá práca. Zachytí tak aj prípad, keď jednotlivo nevinné kroky spolu vedú inam, než ste zamýšľali. Hranice, ktoré agentovi nastavíte na začiatku, platia až do posledného kroku — a vy mu tak môžete zveriť prácu s pokojom.

Rozhodnutie pred vykonaním

Qronos nerozhoduje dodatočne, ale ešte pred krokom.

Bežný krok môže prejsť. Krok, pri ktorom treba zbystriť pozornosť, sa sleduje. Krok s citeľným následkom, napríklad hromadné odoslanie, zápis do systému alebo platba, môže počkať na potvrdenie človeka. A krok, ktorý vybočí z povoleného, sa zastaví. Rozdiel oproti spätnej kontrole je v načasovaní: o kroku sa rozhodne ešte predtým, ako prebehne.

Doložiteľnosť

Nielen že sa niečo zablokovalo, ale aj prečo.

Každé rozhodnutie Qronosu odkazuje na konkrétne pravidlo a ostáva po ňom záznam, ktorý môžete predložiť pri kontrole. Kto sa neskôr opýta, prečo agent nesmel pokračovať, dostane odpoveď, na ktorú sa dá ukázať, nie len výsledok.

Vzťah k Shieldu

Shield chráni vstupy, výstupy a akcie. Qronos priebežne sleduje beh agenta.

Shield stojí pri aplikácii: posudzuje, čo do nej vstupuje, čo z nej vychádza a aké akcie sa cez ňu spúšťajú. Qronos sa pozerá z druhej strany, na agenta, ktorý už pracuje, a počas celého behu sleduje, či neprekračuje, čo ste mu dovolili, aj keď by si odchýlku inak nikto nevšimol. Shield môžete nasadiť už dnes, Qronos zatiaľ nie.

Architektúra

Rozhodovanie je samostatná vrstva nad krokmi agenta, oddelená od agenta samotného.

Qronos navrhujeme ako vrstvenú architektúru rozhodovania. Oddelenie od agenta je zámerné: o tom, či krok smie prebehnúť, nerozhoduje ten, kto ho vykonáva. Každé rozhodnutie sa zapisuje do auditu. V návrhu architektúry počítame s využitím kvantových počítačov.

Kto za tým stojí

Za produktom sú ľudia, ktorých viete osloviť menom

Bezpečnostnú vrstvu si firma nekupuje od anonymného dodávateľa.

Daniel Hrivniak
Daniel Hrivniak
CEO / Founder · hlavný architekt AI pre Corpilus a produkty CREBISO.com
Daniel Buchta
Daniel Buchta
Hlavný partner, garant projektu
Profil na LinkedIn

Na nasadení, prevádzke a podpore s nimi pracuje podporný tím.