Ochrana, která bude posuzovat průběh práce AI agenta.
Rozšiřujeme ochranu o souvislosti mezi kroky autonomního agenta a rozsah úlohy, kterou dostal. Qronos je ve vývoji; dostupnost a podporované možnosti představíme po ověření.
Jednotlivé kroky mohou vést k jinému výsledku, než jste zamýšleli.
Agent dostane úkol připravit přehled. Postupně pracuje s podklady, sám si určuje další kroky a na konci navrhne, co udělat. Každý krok sám za sebe může být v pořádku, a přitom celek vybočí z toho, k čemu měl pověření. Posoudit se tedy musí souvislost mezi kroky a hranice zadání, nikoli jeden krok.
Tři principy, podle kterých Qronos navrhujeme.
Souvislosti mezi kroky
Cílem je posuzovat krok v souvislosti s předchozími kroky a se zadáním, ne izolovaně.
Posouzení před důsledkem
Navrhujeme, aby se krok s citelným důsledkem posoudil dřív, než proběhne, ne až zpětně ze záznamu.
Vysvětlitelný záznam rozhodnutí
Připravujeme záznam, z něhož bude zřejmé, co rozhodnutí vyvolalo a podle jakého pravidla padlo.
Co Corpilus chrání dnes a co má Qronos doplnit.
Corpilus poskytuje konkrétní kontroly v zapojených rozhraních. Qronos má rozšířit posuzování o průběh práce agenta. Přesný rozsah a dostupnost Qronosu zatím nejsou součástí nabídky.
Prohlédnout dostupnou ochranu AIV návrhu držíme rozhodování oddělené od vykonání: o tom, zda krok smí proběhnout, nerozhoduje ta část, která ho vykoná. Část směrů včetně kvantových technologií vedeme jako výzkum — neopíráme o ně žádnou dnešní funkci ani výkon.
Qronos je ve vývoji. Není součástí nabídky, nedá se dnes nasadit a termín vydání neuvádíme.