Ágens alapú MI biztonsága és MI-ágensek identitása
MI-ágensek, amelyek csak a szükséges hozzáféréssel rendelkeznek, és csak addig, ameddig szükségük van rá
Ágensek, amelyeknek mindenhez van kulcsuk
Az MI-ágensek ma már önállóan olvasnak dokumentumokat, hívnak API-kat és mozgatnak adatokat. Mindegyik nem emberi identitás (NHI): olyan fiók, kulcs vagy token, amelyet nem ember, hanem szoftver használ. Az ágensek gyakran széles jogosultságú, hosszú életű kulcsokat kapnak, és senki nem vizsgálja felül, mit tesznek velük.
A támadók is felfigyeltek erre. Egy célzottan összeállított dokumentum adatszivárogtatásra utasíthatja az ágenst (promptinjekció), egy mérgezett eszközleírás eltérítheti (eszközmérgezés), egy ellopott kulcs pedig az Ön modelljein futtatva megnövelheti a számláját (LLMjacking).
Mi változik Önnél
Nincs állandó jogosultság
Az ágensek feladatonként rövid életű hitelesítő adatokat kapnak, és a feladatok között nem rendelkeznek hozzáféréssel.
Támadások, amelyeket még a támadók előtt megtalálunk
Az ágenseit és modelljeit szándékosan, ellenőrzött módon támadjuk, és a gyengeségeket kijavítjuk.
Adatok, amelyek bent maradnak
Az érzékeny adatok nem szivároghatnak ki egy modell válaszain, naplóin vagy egy ellopott kulcson keresztül.
Mit nyújtunk
MI-ágensidentitás
Minden ágens saját identitást, felelőst és célt kap, amelyet az identitás- és hozzáférés-kezelési (IAM) rendszerében ugyanúgy kezelünk, mint bármely más fiókot, és minden műveletét naplózzuk.
Dinamikus, igény szerinti (just-in-time) hitelesítő adatok
Egy feladatra kiállított és annak végén lejáró hitelesítő adatok, így egy kiszivárgott token keveset ér, és egyetlen ágens sem tart olyan hozzáférést, amelyet nem használ.
MI-támadásszimulációs (red team) tesztelés
Ellenőrzött támadások a modelljei és ágensei ellen, beleértve a jailbreaket, a promptinjekciót és az eszközmérgezést; minden megállapítást reprodukálunk, rangsorolunk, és a javítás után újratesztelünk.
Promptinjekció és eszközmérgezés elleni tűzfalak
Védőkorlátok az ágensek, a bemeneteik és az eszközeik között, amelyek észlelik és blokkolják a dokumentumokba, weboldalakba és eszközleírásokba rejtett utasításokat.
LLM-adatszivárgás elleni védelem
Ellenőrzések, amelyek megakadályozzák, hogy személyes és bizalmas adatok promptokon, válaszokon vagy naplókon keresztül távozzanak, szuverén és hosztolt modelleknél egyaránt.
LLMjacking elleni védelem
Kulcstárban tartott modellkulcsok, használati korlátok és riasztások a szokatlan fogyasztásra, így az ellopott kulcs még azelőtt lebukik, hogy költséget okozna.
A modellek ellátási láncának auditja
Annak ellenőrzése, honnan származnak a modelljei, a súlyok, az adatkészletek és az ágenseszközök, és hogy módosult-e bármelyikük.
Hogyan folyik a munka
Az ágensek számbavétele
Megkeressük az összes használatban lévő ágenst, modellt és eszközt, a hozzájuk tartozó identitásokat és az általuk elérhető adatokat.
A fenyegetések modellezése
Minden ágensnél végiggondoljuk, mit és hogyan támadna egy támadó, a bemeneteitől az eszközeiig.
Támadásszimuláció (red team)
A megállapodott szabályok szerint megtámadjuk az ágenseket és a modelleket, és minden megállapítást úgy rögzítünk, hogy reprodukálható legyen.
Megerősítés
Ágensidentitásokat, igény szerinti hitelesítő adatokat, védőkorlátokat és szivárgásvédelmi ellenőrzéseket vezetünk be, a legnagyobb kockázatokkal kezdve.
Újratesztelés és monitorozás
Minden javítást újratesztelünk, és monitorozást állítunk be az ágensviselkedésre és a modellhasználatra.
Bizonyíték éles környezetben
Mi építjük azokat a többágenses rendszereket, amelyeket védünk. Egy szabályozott pénzintézetnél ágenseink emberi felügyelet és jogosultságtudatos visszakeresés mellett dolgoznak, így mindegyik csak azokat a dokumentumokat látja, amelyeket a felhasználója láthat.
Szabványok és eszközök
- MI és gépi tanulás
- Jais
- Mistral
- Biztonság és kriptográfia
- HashiCorp Vault
- Szabványok és szabályozások
- EU AI Act
- GDPR
- MENA PDPL
Hogyan kezdje
Mi történik ezután
Előzetes konzultáció
Egy ingyenes 30 perces online előzetes konzultáció: áttekintjük a céljait, rendszereit és korlátait.
Felkészültségi értékelés
Egy ingyenes 48 órás felkészültségi értékelés során egyik vezető architektünk a hatpontos készenléti definíció (Definition of Ready) alapján megvizsgálja a projektjét, és javasolja a hozzá illő utat.
Az út kiválasztása
A kész hatókörű projektek 3 és 5 munkanapon belül kötelező érvényű ajánlatot kapnak. A koncepciószakaszban lévő projektek a Blueprint Studióban indulnak. A hibás, dokumentálatlan vagy integrációra szoruló éles rendszer diagnosztikával indul (időtartam: 1 és 2 hét között). A Blueprint Studiónak és a diagnosztikának egyaránt fix díja van, amelyet az ajánlat tartalmaz.
Megvalósítás öt szakaszban
Mobilizálás, sprintek élő bemutatókkal, integráció és megerősítés, átvétel és élesítés, majd menedzselt szolgáltatások. Az élesítés után következik: garanciaidőszak, majd opcionális támogatás és karbantartás.
Beágyazott szakértők és stratégiai kapacitásbővítés
Nearshore és helyszíni vezető mérnökök és szakértők, valamint beágyazott megoldás-, transzformációs, PQC- és integrációs architektek.
MI-natív termékcsapatok
Menedzselt, több funkciót lefedő szenior mérnöki podok, ágens alapú kódolási és QA-keretrendszerekkel felszerelve.
Leggyorsabban ezzel a csomaggal indulhat: Posztkvantum (CBOM) és ágensbiztonsági audit, amely egyik gyors indulású csomagunk.
Hol kezdjeKérdések és válaszok
Mi a nem emberi identitás, és miért számít az MI-nél?
A nem emberi identitás bármely fiók, kulcs vagy token, amelyet szoftver használ ember helyett: szolgáltatásfiókok, API-kulcsok, és ma már MI-ágensek. Könnyen létrehozhatók és könnyen feledésbe merülnek, és sok közülük soha nem jár le. Egy ilyen kulccsal önállóan cselekvő MI-ágens nagy kárt okozhat, ha félrevezetik, vagy ha ellopják a kulcsát.
Mi a promptinjekció?
Olyan támadás, amely utasításokat rejt egy MI-modell által olvasott tartalomba, például egy e-mailbe, dokumentumba vagy weboldalba, így a modell a felhasználója helyett a támadót követi. Ezt a modell önmagában nem képes megakadályozni. A védelem a bemenetekre és kimenetekre vonatkozó védőkorlátokat, a korlátozott hozzáférésű ágenseket és az érzékeny műveletek emberi jóváhagyását kombinálja.
Hogyan működnek az igény szerinti hitelesítő adatok az ágenseknél?
Állandó kulcs helyett az ágens a feladat indulásakor kér hozzáférést. Egy arra a feladatra és időtartamra korlátozott hitelesítő adatot kap, amely a feladat végén lejár. Minden kérést naplózunk, így láthatja, melyik ágens mit tett, és kinek a nevében.
Mit foglal magában egy MI-támadásszimulációs (red team) gyakorlat?
Megállapodunk a hatókörről és a szabályokról, majd úgy támadjuk a modelljeit és ágenseit, ahogy egy ellenfél tenné: jailbreakkel, promptinjekcióval, eszközmérgezéssel és adatkinyerési kísérletekkel. Minden megállapítást megkap a reprodukálás lépéseivel, kockázat szerint rangsorolva, a javítások után pedig újratesztelünk.
Tudják biztosítani azokat az ágenseket és modelleket, amelyeket nem Önökkel építettünk?
Igen. Az identitás, a hitelesítő adatok, a védőkorlátok és a monitorozás az ágens körül helyezkednek el, így a házon belül, más beszállító által vagy egy gyártó platformján épített ágensekkel is működnek. Az ágens konfigurációjához és kapcsolataihoz kell hozzáférnünk, a kódjához nem feltétlenül.
Nagy szolgáltató hosztolt modelljét használjuk. Biztonságban vannak az adataink?
A szolgáltató feltételeitől, a futtatási régiótól és attól függ, mit küld neki. Ezt a hármat vizsgáljuk felül, szivárgásvédelmi ellenőrzéseket teszünk a modell elé, és ahol az adatok nem hagyhatják el az Ön joghatóságát, szuverén vagy privát modellt javasolunk helyette.
Készen áll az építésre? Kérjen ajánlatot.
Küldje el követelményeit vagy ajánlatkérését (RFP). Architektjeink ellenőrzik őket, és kötelező érvényű, rögzített hatókörű ajánlatot küldenek.
Mi történik ezután
Felkészültségi értékelés
Egy ingyenes 48 órás felkészültségi értékelés során egyik vezető architektünk a hatpontos készenléti definíció (Definition of Ready) alapján megvizsgálja a projektjét, és javasolja a hozzá illő utat.
Kötelező érvényű ajánlat
Az ingyenes architektúra-validálás után 3 és 5 munkanapon belül kötelező érvényű, rögzített hatókörű ajánlatot kap: mérföldkövekkel, architektúrával, csapatszerkezettel és SLA-kkal. Kérésre titoktartási megállapodást (NDA) írunk alá Önnel, mielőtt megosztaná a követelményeit.
Mobilizálás
Mérnöki podjaink a szerződés aláírását követő 5 és 10 munkanapon belül megkezdik a Sprint 0-t.
Megvalósítás öt szakaszban
Mobilizálás, sprintek élő bemutatókkal, integráció és megerősítés, átvétel és élesítés, majd menedzselt szolgáltatások. Az élesítés után következik: garanciaidőszak, majd opcionális támogatás és karbantartás.