Qronos — ochrana agentů, kteří jednají sami
Připravujeme ochranu, která bude posuzovat průběh práce AI agenta.
- — Neřeší síťové útoky ani zahlcení linky — to zůstává úlohou WAF.
- — Není to dnešní ochrana v jiném balení: ta posuzuje jednotlivý požadavek, Qronos má posuzovat průběh práce toho, kdo jedná.
- — Není to monitoring. Monitoring zaznamená, co se už stalo; Qronos zastaví akci ještě před jejím provedením.
Autorizovat agenta jednou na začátku nestačí
Povolení na začátku úlohy neříká nic o tom, kde agent bude o několik desítek kroků později. Problémem bývá celek, ne jednotlivý krok.
- 01Agent dostane úlohuNapříklad: připrav přehled a rozešli ho. Povolení dostane jednou, na začátku.
- 02Rozloží si ji na krokyPřečíst data, seřadit je, připravit zprávy, odeslat je. Každý krok vypadá sám o sobě neškodně.
- 03Poslední krok má následekRozeslání stovek e-mailů, přepsání záznamů v systému nebo platba. V této chvíli už nestačí vědět, že agent byl na začátku ověřen.
- 04Tady má Qronos rozhodovatCílem je rozhodnout dřív, než takový krok proběhne — podle pravidla, na které lze ukázat, a se záznamem. Zatím to připravujeme.
Qronos je ve vývoji. Není součástí žádného plánu, dnes ho nelze nasadit a nefiguruje v žádném ceníku. Pokud vás zajímá, ozvěte se a dáme vám vědět, až bude hotový.
Pět věcí, na kterých Qronos stojí
Otevřete si, co vás zajímá. Popisujeme principy návrhu, ne hotový produkt.
Jistota při každém kroku agenta
Qronos posoudí každý krok zvlášť, takže agent zůstává v mezích, které jste mu dali.
Qronos posoudí každý krok, nástroj i dokument samostatně a zároveň sleduje, kam směřuje celá úloha. Zachytí tak i případ, kdy jednotlivě neškodné kroky dohromady vedou k něčemu, co jste nikdy nezamýšleli. Hranice, které agentovi nastavíte na začátku, platí až do posledního kroku — takže mu můžete svěřit práci s klidem.
Qronos posoudí každý krok, nástroj i dokument samostatně a zároveň sleduje, kam směřuje celá úloha. Zachytí tak i případ, kdy jednotlivě neškodné kroky dohromady vedou k něčemu, co jste nikdy nezamýšleli. Hranice, které agentovi nastavíte na začátku, platí až do posledního kroku — takže mu můžete svěřit práci s klidem.
Rozhodnutí před vykonáním
Qronos nerozhoduje dodatečně, ale ještě před krokem.
Běžný krok může projít. Krok, který si žádá větší pozornost, se sleduje. Krok se skutečným následkem, jako je hromadné odeslání, zápis do systému nebo platba, může počkat na potvrzení člověka. A krok, který překročí povolené, se zastaví. Rozdíl oproti zpětné kontrole je v načasování: o kroku se rozhodne dřív, než proběhne.
Běžný krok může projít. Krok, který si žádá větší pozornost, se sleduje. Krok se skutečným následkem, jako je hromadné odeslání, zápis do systému nebo platba, může počkat na potvrzení člověka. A krok, který překročí povolené, se zastaví. Rozdíl oproti zpětné kontrole je v načasování: o kroku se rozhodne dřív, než proběhne.
Rozhodnutí, která lze doložit
Nejen že se něco zablokovalo, ale i proč.
Každé rozhodnutí Qronosu odkazuje na konkrétní pravidlo a zanechá záznam, který můžete předložit při kontrole. Kdo se později zeptá, proč agent nesměl pokračovat, dostane odpověď, na kterou se dá odkázat, ne jen výsledek.
Každé rozhodnutí Qronosu odkazuje na konkrétní pravidlo a zanechá záznam, který můžete předložit při kontrole. Kdo se později zeptá, proč agent nesměl pokračovat, dostane odpověď, na kterou se dá odkázat, ne jen výsledek.
Vztah k dnešní ochraně
Dnešní ochrana chrání vstupy, výstupy a akce. Qronos má průběžně sledovat běh agenta.
Dnešní ochrana Corpilus stojí u aplikace: posuzuje, co do ní vstupuje, co z ní vychází a jaké akce se přes ni spouštějí. Qronos se má dívat z druhé strany, na agenta, který už pracuje, a po celou dobu běhu sledovat, zda nepřekračuje to, co jste mu dovolili, i když by si odchylky jinak nikdo nevšiml. Ochranu Corpilus nasadíte už dnes; Qronos zatím ne.
Dnešní ochrana Corpilus stojí u aplikace: posuzuje, co do ní vstupuje, co z ní vychází a jaké akce se přes ni spouštějí. Qronos se má dívat z druhé strany, na agenta, který už pracuje, a po celou dobu běhu sledovat, zda nepřekračuje to, co jste mu dovolili, i když by si odchylky jinak nikdo nevšiml. Ochranu Corpilus nasadíte už dnes; Qronos zatím ne.
Architektura
Rozhodování je samostatná vrstva nad kroky agenta, oddělená od agenta samotného.
Qronos navrhujeme jako vrstvenou architekturu rozhodování. Oddělení od agenta je záměrné: o tom, zda krok smí proběhnout, nerozhoduje ten, kdo ho vykonává. Každé rozhodnutí se zapisuje do auditního logu. Architektura je navržena s ohledem na využití kvantových počítačů.
Qronos navrhujeme jako vrstvenou architekturu rozhodování. Oddělení od agenta je záměrné: o tom, zda krok smí proběhnout, nerozhoduje ten, kdo ho vykonává. Každé rozhodnutí se zapisuje do auditního logu. Architektura je navržena s ohledem na využití kvantových počítačů.
Za produktem jsou lidé, které můžete oslovit jménem
Bezpečnostní vrstvu si firma nekupuje od anonymního dodavatele.
Na nasazení, provozu a podpoře s nimi pracuje podpůrný tým.