Qronos — ochrana pre agentov, ktorí konajú sami
Pripravujeme ochranu, ktorá bude posudzovať priebeh práce AI agenta.
- — Sieťové útoky a zahltenie linky nerieši — to ostáva úlohou WAF-u.
- — Nie je to dnešná ochrana v inom obale: tá posudzuje jednotlivú požiadavku, Qronos má posudzovať priebeh práce toho, kto koná.
- — Nie je to monitoring. Ten zapíše, čo sa už stalo, Qronos zastaví akciu ešte pred vykonaním.
Autorizácia na začiatku nestačí
Povolenie na začiatku úlohy nepovie nič o tom, kam sa agent dostane o niekoľko desiatok krokov neskôr. Problémom býva celok, nie jednotlivý krok.
- 01Agent dostane úlohuNapríklad: priprav prehľad a rozpošli ho. Povolenie dostane raz, na začiatku.
- 02Rozloží si ju na krokyPrečítať dáta, zoradiť, pripraviť správy, odoslať. Každý krok sám za sebe vyzerá nevinne.
- 03Posledný krok má následokRozposlanie stoviek e-mailov, prepis záznamov v systéme alebo platba. Tu už nestačí vedieť, že agent bol na začiatku prihlásený.
- 04Tu má Qronos rozhodovaťCieľom je rozhodnúť skôr, než taký krok prebehne — podľa pravidla, na ktoré sa dá ukázať, a so záznamom. Zatiaľ to pripravujeme.
Qronos je vo vývoji. Nie je súčasťou žiadneho plánu, nedá sa dnes nasadiť a nefiguruje v cenníku. Ak vás téma zaujíma, ozvite sa a dáme vám vedieť, keď bude pripravený.
Päť vecí, na ktorých Qronos stojí
Rozkliknite, čo vás zaujíma. Opisujeme princípy návrhu, nie hotový produkt.
Istota pri každom kroku agenta
Qronos posúdi každý krok zvlášť, takže agent ostáva v hraniciach, ktoré ste mu dali.
Qronos posúdi každý krok, nástroj aj dokument samostatne a zároveň sleduje, kam smeruje celá práca. Zachytí tak aj prípad, keď jednotlivo nevinné kroky spolu vedú inam, než ste zamýšľali. Hranice, ktoré agentovi nastavíte na začiatku, platia až do posledného kroku — a vy mu tak môžete zveriť prácu s pokojom.
Qronos posúdi každý krok, nástroj aj dokument samostatne a zároveň sleduje, kam smeruje celá práca. Zachytí tak aj prípad, keď jednotlivo nevinné kroky spolu vedú inam, než ste zamýšľali. Hranice, ktoré agentovi nastavíte na začiatku, platia až do posledného kroku — a vy mu tak môžete zveriť prácu s pokojom.
Rozhodnutie pred vykonaním
Qronos nerozhoduje dodatočne, ale ešte pred krokom.
Bežný krok môže prejsť. Krok, pri ktorom treba zbystriť pozornosť, sa sleduje. Krok s citeľným následkom, napríklad hromadné odoslanie, zápis do systému alebo platba, môže počkať na potvrdenie človeka. A krok, ktorý vybočí z povoleného, sa zastaví. Rozdiel oproti spätnej kontrole je v načasovaní: o kroku sa rozhodne ešte predtým, ako prebehne.
Bežný krok môže prejsť. Krok, pri ktorom treba zbystriť pozornosť, sa sleduje. Krok s citeľným následkom, napríklad hromadné odoslanie, zápis do systému alebo platba, môže počkať na potvrdenie človeka. A krok, ktorý vybočí z povoleného, sa zastaví. Rozdiel oproti spätnej kontrole je v načasovaní: o kroku sa rozhodne ešte predtým, ako prebehne.
Doložiteľnosť
Nielen že sa niečo zablokovalo, ale aj prečo.
Každé rozhodnutie Qronosu odkazuje na konkrétne pravidlo a ostáva po ňom záznam, ktorý môžete predložiť pri kontrole. Kto sa neskôr opýta, prečo agent nesmel pokračovať, dostane odpoveď, na ktorú sa dá ukázať, nie len výsledok.
Každé rozhodnutie Qronosu odkazuje na konkrétne pravidlo a ostáva po ňom záznam, ktorý môžete predložiť pri kontrole. Kto sa neskôr opýta, prečo agent nesmel pokračovať, dostane odpoveď, na ktorú sa dá ukázať, nie len výsledok.
Vzťah k dnešnej ochrane
Dnešná ochrana chráni vstupy, výstupy a akcie. Qronos má priebežne sledovať beh agenta.
Dnešná ochrana Corpilus stojí pri aplikácii: posudzuje, čo do nej vstupuje, čo z nej vychádza a aké akcie sa cez ňu spúšťajú. Qronos sa má pozerať z druhej strany, na agenta, ktorý už pracuje, a počas celého behu sledovať, či neprekračuje, čo ste mu dovolili, aj keď by si odchýlku inak nikto nevšimol. Ochranu Corpilus nasadíte už dnes, Qronos zatiaľ nie.
Dnešná ochrana Corpilus stojí pri aplikácii: posudzuje, čo do nej vstupuje, čo z nej vychádza a aké akcie sa cez ňu spúšťajú. Qronos sa má pozerať z druhej strany, na agenta, ktorý už pracuje, a počas celého behu sledovať, či neprekračuje, čo ste mu dovolili, aj keď by si odchýlku inak nikto nevšimol. Ochranu Corpilus nasadíte už dnes, Qronos zatiaľ nie.
Architektúra
Rozhodovanie je samostatná vrstva nad krokmi agenta, oddelená od agenta samotného.
Qronos navrhujeme ako vrstvenú architektúru rozhodovania. Oddelenie od agenta je zámerné: o tom, či krok smie prebehnúť, nerozhoduje ten, kto ho vykonáva. Každé rozhodnutie sa zapisuje do auditu. V návrhu architektúry počítame s využitím kvantových počítačov.
Qronos navrhujeme ako vrstvenú architektúru rozhodovania. Oddelenie od agenta je zámerné: o tom, či krok smie prebehnúť, nerozhoduje ten, kto ho vykonáva. Každé rozhodnutie sa zapisuje do auditu. V návrhu architektúry počítame s využitím kvantových počítačov.
Za produktom sú ľudia, ktorých viete osloviť menom
Bezpečnostnú vrstvu si firma nekupuje od anonymného dodávateľa.
Na nasadení, prevádzke a podpore s nimi pracuje podporný tím.