Kybernetická a kvantová bezpečnost
Bezpečnost agentní AI a identita AI agentů
AI agenti, kteří mají jen přístup, který potřebují, a jen tak dlouho, jak jej potřebují
Agenti s klíči ke všemu
AI agenti dnes sami čtou dokumenty, volají API a přesouvají data. Každý z nich je nehumánní identita (NHI): účet, klíč nebo token, který používá software, ne člověk. Agentům se často dávají dlouhodobé klíče se širokými právy a nikdo nekontroluje, co s nimi dělají.
Útočníci si toho všimli. Připravený dokument může agentovi nařídit únik dat (prompt injection), otrávený popis nástroje jej může přesměrovat (tool poisoning) a ukradený klíč může vygenerovat účet na vašich modelech (LLMjacking).
Co se pro vás změní
Žádná trvalá oprávnění
Agenti dostávají krátkodobé přihlašovací údaje pro každý úkol a mezi úkoly nemají žádný přístup.
Útoky nalezené dřív než útočníky
Na vaše agenty a modely se útočí záměrně a řízeně a slabiny se opravují.
Data, která zůstanou uvnitř
Citlivá data nemohou uniknout odpověďmi modelu, jeho logy ani ukradeným klíčem.
Co dodáváme
Identita AI agenta
Každý agent dostane vlastní identitu, vlastníka a účel a spravuje se ve vašem řízení identit a přístupu (IAM) jako každý jiný účet, s každou akcí zalogovanou.
Dynamické přihlašovací údaje just-in-time
Údaje vydané pro jeden úkol s koncem platnosti po jeho dokončení, takže ukradený token má malou cenu a žádný agent nedrží přístup, který nepoužívá.
Red teaming AI
Řízené útoky na vaše modely a agenty včetně jailbreaků, prompt injection a tool poisoning, s každým zjištěním reprodukovaným, ohodnoceným a znovu otestovaným po opravě.
Firewally proti prompt injection a tool poisoning
Ochranné mantinely mezi agenty, jejich vstupy a nástroji, které odhalí a zablokují instrukce ukryté v dokumentech, webových stránkách a popisech nástrojů.
Prevence úniku dat z LLM
Kontroly, které brání osobním a důvěrným datům odejít přes prompty, odpovědi nebo logy, u suverénních i hostovaných modelů.
Obrana proti LLMjacking
Klíče modelů v trezoru, limity použití a upozornění na neobvyklou spotřebu, takže ukradený klíč je zachycen dřív, než vás něco stojí.
Audity dodavatelského řetězce modelů
Kontroly původu vašich modelů, vah, datových sad a agentních nástrojů a toho, zda se něco nezměnilo.
Jak práce probíhá
Vypište agenty
Najdeme každého agenta, model a nástroj v použití, identity, které drží, a data, ke kterým se dostanou.
Vymodelujte hrozby
U každého agenta určíme, na co by útočník cílil a jak, od jeho vstupů po jeho nástroje.
Red teaming
Na agenty a modely útočíme v dohodnutých pravidlech a každé zjištění zaznamenáme, aby šlo reprodukovat.
Zpevněte
Zavedeme identity agentů, přihlašovací údaje just-in-time, ochranné mantinely a kontroly úniku, počínaje nejvyššími riziky.
Znovu testujte a sledujte
Každou opravu znovu otestujeme a nastavíme monitoring chování agentů a používání modelů.
Ověřeno v produkci
Multiagentní systémy, které zabezpečujeme, také stavíme. V regulované finanční instituci naši agenti pracují pod lidským dohledem a s vyhledáváním podle oprávnění, takže každý vidí jen dokumenty, které smí vidět jeho uživatel.
Standardy a nástroje
- AI a strojové učení
- Jais
- Mistral
- Bezpečnost a kryptografie
- HashiCorp Vault
- Standardy a regulace
- EU AI Act
- GDPR
- MENA PDPL
Jak začít
Co bude následovat
Předkonzultační schůzka
Nejprve bezplatná 30minutová online předkonzultační schůzka: projdeme vaše cíle, systémy a omezení.
Kontrola připravenosti
bezplatná 48hodinová kontrola připravenosti prověří váš projekt proti šestibodové definici připravenosti a doporučí vhodnou cestu.
Volba cesty
Projekty připravené rozsahem dostanou závaznou nabídku do 3–5 pracovních dnů. Projekty ve fázi konceptu začínají v Blueprint Studio. Běžící systém, který selhává, není zdokumentovaný nebo potřebuje integraci, začíná diagnostikou 1–2 týdny. Blueprint Studio i diagnostika mají pevný poplatek uvedený v nabídce.
Dodávka v pěti fázích
Mobilizace, sprinty s živými ukázkami, integrace a zpevnění, akceptace a spuštění, poté řízené služby. Po spuštění následuje záruční doba a poté volitelná podpora a údržba.
Zanoření specialisté a strategické posílení
Principal inženýři a specialisté působící nearshore i na místě a architekti řešení, transformace, PQC a integrací začlenění do vašeho týmu.
AI-native produktové týmy
Řízené mezioborové pody seniorních inženýrů vybavené agentními nástroji pro kódování a QA.
Nejrychlejší vstup je balíček Post-kvantový (CBOM) a agentní bezpečnostní audit, jeden z našich balíčků rychlé spolupráce.
Kde začítOtázky a odpovědi
Co je nehumánní identita a proč záleží u AI?
Nehumánní identita je jakýkoli účet, klíč nebo token, který používá software místo člověka: servisní účty, API klíče a nyní AI agenti. Snadno se vytvářejí a snadno zapomínají a mnohé nikdy neexpirují. AI agent, který s takovým klíčem jedná samostatně, může napáchat velkou škodu, pokud je oklamán nebo je klíč ukraden.
Co je prompt injection?
Útok, který ukryje instrukce v obsahu, který AI model čte, například v e-mailu, dokumentu nebo webové stránce, takže model poslechne útočníka místo svého uživatele. Samotný model tomu zabránit nedokáže. Obrana spojuje ochranné mantinely na vstupech a výstupech, agenty s omezeným přístupem a lidské schválení citlivých akcí.
Jak fungují přihlašovací údaje just-in-time pro agenty?
Místo trvalého klíče agent požádá o přístup, když úkol začne. Dostane údaj omezený na tento úkol a tuto dobu a údaj expiruje, když úkol skončí. Každý požadavek se loguje, takže vidíte, který agent co udělal a jménem koho.
Co zahrnuje cvičení AI red teamingu?
Dohodneme rozsah a pravidla a poté na vaše modely a agenty útočíme tak, jak by to dělal protivník: jailbreaky, prompt injection, tool poisoning a pokusy o vytěžení dat. Dostanete každé zjištění s kroky k reprodukci, seřazené podle rizika, a po opravách znovu testujeme.
Umíte zabezpečit agenty a modely, které jsme s vámi nestavěli?
Ano. Identita, přihlašovací údaje, ochranné mantinely a monitoring stojí kolem agenta, takže fungují s agenty postavenými interně, jiným dodavatelem nebo na platformě výrobce. Potřebujeme přístup ke konfiguraci agenta a jeho propojením, ne nutně k jeho kódu.
Používáme hostovaný model od velkého poskytovatele. Jsou naše data v bezpečí?
Záleží na podmínkách poskytovatele, regionu, ve kterém běží, a na tom, co mu posíláte. Tyto tři věci projdeme, před model přidáme kontroly úniku a tam, kde data nesmějí opustit vaši jurisdikci, doporučíme suverénní nebo privátní model.
Připraveni stavět? Vyžádejte si nabídku.
Pošlete své požadavky nebo RFP (žádost o nabídku). Naši architekti je ověří a vrátí závaznou nabídku s pevným rozsahem.
Co bude následovat
Kontrola připravenosti
bezplatná 48hodinová kontrola připravenosti prověří váš projekt proti šestibodové definici připravenosti a doporučí vhodnou cestu.
Závazná nabídka
Po ověření architektury zdarma dostanete závaznou nabídku s pevným rozsahem do 3–5 pracovních dnů: milníky, architekturu, strukturu týmu a SLA. Na vyžádání s vámi podepíšeme dohodu o mlčenlivosti (NDA), a to ještě předtím, než nám sdělíte své požadavky.
Mobilizace
Po podpisu začnou naše inženýrské pody Sprint 0 do 5–10 pracovních dnů od podpisu smlouvy.
Dodávka v pěti fázích
Mobilizace, sprinty s živými ukázkami, integrace a zpevnění, akceptace a spuštění, poté řízené služby. Po spuštění následuje záruční doba a poté volitelná podpora a údržba.