Vaš AI asistent sada može da preduzima radnje. Nadgleda li iko šta on radi?

Postoji verzija ovog razgovora koja zvuči kao apstraktno modelovanje pretnji. Ovo nije ta verzija.

Ako vaš proizvod ima kontakt formular, upravo sada primate spam, prijave preko jednokratnih imejlova i pokušaje credential stuffing-a. Ako ste uveli AI asistenta, upravo sada ga neko ispituje radi prompt injection-a i izvlačenja sistemskog prompta. A ako ste mu dali MCP alate — slanje imejlova, upisivanje zapisa, postavljanje upita nad bazama — pitanje šta sme da radi i ko to proverava nije teorijsko.

Tri problema, jedna zajednička nit

Problem formulara

Botovi više ne izgledaju kao botovi. Headless pregledači, imitacija ljudskog ponašanja i distribuirani credential stuffing raspoređen po pojedinačnim nalozima prolaze kroz standardnu WAF proveru i kroz CAPTCHA.

Problem AI-ja

Vešto sročen prompt može da izvuče vaše sistemske instrukcije, preusmeri ponašanje modela ili procuri podatke iz ranijih delova kontekstnog prozora. OWASP ovo navodi kao rizik LLM-a broj jedan.

Problem agenata

Kada vaš AI može da poziva alate — da šalje, upisuje, briše, zakazuje — kompromitovani kontekst ili ubačena instrukcija ne izvlače samo informacije. Oni preduzimaju radnje.

Sve se dešava nakon autentifikacije. Korisnik ili sesija su već verifikovani. Pretnja ulazi kroz samu interakciju.

Ne treba vam Shield da biste znali ko su vaši korisnici. Treba vam da biste znali da li ono što oni rade — ili ono što vaš AI radi u njihovo ime — zaista treba da bude dozvoljeno baš sada.

Šta se menja kada je Shield na svom mestu

• Zloupotreba formulara i credential stuffing zaustavljaju se pre nego što stignu do logike vaše aplikacije — a ne čiste se naknadno.
• Vaš AI asistent ima ispred sebe zaštitni sloj kojim vi upravljate, bez ponovne izgradnje osnovnog sistema.
• Destruktivne radnje agenta zahtevaju kapiju. Ništa nepovratno se ne izvršava samo zato što je AI-ju to naložio manipulisani prompt.
• Svaka odluka je potpisana i sačuvana — kompletan zapis o tome šta je dozvoljeno, šta je blokirano i zašto.

Većina timova otkrije da im je to bilo potrebno tek pošto nešto pođe po zlu: poplava spama kroz kontakt formular, asistent nagovoren da otkrije svoje instrukcije, agent koji je poslao tri stotine imejlova jer poziv alata nije imao kapiju.

Shield se priprema za lansiranje. Prijavite se za rani pristup.

Učimo vas i zašto i kako, uživo, sa našim stručnim partnerom Avenue78.