Ochrana, ktorá bude posudzovať priebeh práce AI agenta.
Rozvíjame ochranu o súvislosti medzi krokmi autonómneho agenta a rozsahom úlohy, ktorú dostal. Qronos je vo vývoji; dostupnosť a podporované možnosti predstavíme po overení.
Jednotlivé kroky môžu viesť k inému výsledku, než ste zamýšľali.
Agent dostane úlohu pripraviť prehľad. Postupne pracuje s podkladmi, sám si určuje ďalšie kroky a na konci navrhne, čo urobiť. Každý krok sám za sebe môže byť v poriadku, a pritom celok vybočí z toho, na čo mal poverenie. Posúdiť sa teda musí súvislosť medzi krokmi a hranica zadania, nie jeden krok.
Tri princípy, podľa ktorých Qronos navrhujeme.
Súvislosti medzi krokmi
Cieľom je posudzovať krok v súvislosti s predchádzajúcimi krokmi a so zadaním, nie izolovane.
Posúdenie pred dôsledkom
Navrhujeme, aby sa krok s citeľným dôsledkom posúdil skôr, než prebehne, nie až spätne zo záznamu.
Vysvetliteľný záznam rozhodnutia
Pripravujeme záznam, z ktorého bude zrejmé, čo rozhodnutie vyvolalo a podľa akého pravidla padlo.
Čo Corpilus chráni dnes a čo má Qronos doplniť.
Corpilus poskytuje konkrétne kontroly v zapojených rozhraniach. Qronos má rozšíriť posudzovanie o priebeh práce agenta. Presný rozsah a dostupnosť Qronosu zatiaľ nie sú súčasťou ponuky.
Pozrieť dostupnú ochranu AIV návrhu držíme rozhodovanie oddelené od vykonania: o tom, či krok smie prebehnúť, nerozhoduje tá časť, ktorá ho vykoná. Časť smerov vrátane kvantových technológií vedieme ako výskum — neopierame o ne žiadnu dnešnú funkciu ani výkon.
Qronos je vo vývoji. Nie je súčasťou ponuky, nedá sa dnes nasadiť a termín vydania neuvádzame.