Cyberbezpieczeństwo i technologie kwantowe
Bezpieczeństwo agentów AI i tożsamość agentów AI
Agenci AI z dostępem tylko do tego, czego potrzebują, i tylko tak długo, jak go potrzebują
Agenci z kluczami do wszystkiego
Agenci AI czytają teraz dokumenty, wywołują interfejsy API i samodzielnie przenoszą dane. Każdy z nich to tożsamość nie-ludzka (NHI): konto, klucz lub token używany przez oprogramowanie, a nie osobę. Agentom często daje się długowieczne klucze z szerokimi uprawnieniami i nikt nie sprawdza, co z nimi robią.
Napastnicy to zauważyli. Spreparowany dokument może kazać agentowi wyciec dane (wstrzykiwanie poleceń), zatruty opis narzędzia może go przekierować (zatrucie narzędzi), a skradziony klucz może wygenerować rachunek na Państwa modele (LLMjacking).
Co się zmienia
Bez stałych uprawnień
Agenci dostają krótkotrwałe dane uwierzytelniające do każdego zadania i nie mają dostępu między zadaniami.
Ataki znalezione, zanim znajdą je napastnicy
Państwa agenci i modele są atakowani celowo i w kontrolowanych warunkach, a słabości są naprawiane.
Dane, które zostają w środku
Dane wrażliwe nie mogą wyjść przez odpowiedzi modelu, jego logi ani skradziony klucz.
Co dostarczamy
Tożsamość agenta AI
Każdy agent dostaje własną tożsamość, właściciela i cel, zarządzane w Państwa systemie zarządzania tożsamością i dostępem (IAM) jak każde inne konto, z rejestrowaniem każdego działania.
Dynamiczne dane uwierzytelniające just-in-time
Dane uwierzytelniające wydawane na jedno zadanie i wygasające po jego zakończeniu, więc ujawniony token niewiele znaczy, a żaden agent nie ma dostępu, którego nie używa.
Red teaming AI
Kontrolowane ataki na Państwa modele i agentów, w tym jailbreak, wstrzykiwanie poleceń i zatrucie narzędzi, z każdym ustaleniem odtworzonym, uszeregowanym i ponownie sprawdzonym po poprawce.
Zapory przed wstrzykiwaniem poleceń i zatruciem narzędzi
Bariery między agentami, ich wejściami i narzędziami, które wykrywają i blokują polecenia ukryte w dokumentach, stronach internetowych i opisach narzędzi.
Zapobieganie wyciekom danych z LLM
Kontrole powstrzymujące dane osobowe i poufne przed wyjściem przez prompty, odpowiedzi lub logi, zarówno w modelach suwerennych, jak i hostowanych.
Obrona przed LLMjacking
Klucze modeli w sejfie, limity użycia i alerty o nietypowym zużyciu, aby skradziony klucz został wychwycony, zanim wygeneruje koszt.
Audyty łańcucha dostaw modeli
Kontrole, skąd pochodzą Państwa modele, wagi, zbiory danych i narzędzia agentów oraz czy cokolwiek zostało zmienione.
Jak przebiega praca
Spisać agentów
Znajdujemy każdego używanego agenta, model i narzędzie, tożsamości, które posiadają, oraz dane, do których docierają.
Wymodelować zagrożenia
Dla każdego agenta ustalamy, co i jak zaatakowałby napastnik, od jego wejść po narzędzia.
Zespół atakujący
Atakujemy agentów i modele w uzgodnionych regułach i zapisujemy każde ustalenie, aby można je było odtworzyć.
Utwardzić
Wprowadzamy tożsamości agentów, dane uwierzytelniające just-in-time, bariery i kontrole wycieku, zaczynając od najwyższych ryzyk.
Ponownie sprawdzić i monitorować
Ponownie sprawdzamy każdą poprawkę i ustawiamy monitoring zachowania agentów i użycia modeli.
Sprawdzone na produkcji
Budujemy systemy wieloagentowe, które zabezpieczamy. W regulowanej instytucji finansowej nasi agenci działają pod nadzorem człowieka i z wyszukiwaniem z kontrolą uprawnień, więc każdy widzi tylko dokumenty, które może zobaczyć jego użytkownik.
Standardy i narzędzia
- AI i uczenie maszynowe
- Jais
- Mistral
- Bezpieczeństwo i kryptografia
- HashiCorp Vault
- Standardy i przepisy
- EU AI Act
- GDPR
- MENA PDPL
Jak zacząć
Co dalej
Sesja przeddoradcza
To bezpłatna 30-minutowa konsultacja wstępna online: omawiamy Państwa cele, systemy i ograniczenia.
Ocena gotowości
To bezpłatna 48-godzinna ocena gotowości: główny architekt sprawdza projekt pod kątem 6-punktowej definicji gotowości i rekomenduje dopasowaną ścieżkę.
Wybór ścieżki
Projekty gotowe zakresowo otrzymują wiążącą ofertę w ciągu 3–5 dni roboczych. Projekty na etapie koncepcji zaczynają się w Blueprint Studio. Działający system, który zawodzi, nie ma dokumentacji lub wymaga integracji, zaczyna się od diagnostyki: 1–2 tygodnie. Blueprint Studio i diagnostyka mają stałą opłatę podaną w ofercie.
Dostarczanie w pięciu etapach
Mobilizacja, sprinty z demonstracjami na żywo, integracja i utwardzanie, odbiór i uruchomienie produkcyjne, a następnie usługi zarządzane. Po starcie następuje okres gwarancji, a następnie opcjonalne wsparcie i utrzymanie.
Osadzeni specjaliści i wzmocnienie strategiczne
Inżynierowie główni i specjaliści nearshore i na miejscu oraz osadzeni architekci rozwiązań, transformacji, PQC i integracji.
Zespoły produktowe natywne dla AI
Zarządzane, interdyscyplinarne pody inżynierów seniorów, wyposażone w narzędzia do kodowania agentowego i QA.
Najszybszą drogą jest pakiet Audyt bezpieczeństwa postkwantowego (CBOM) i agentów, jeden z naszych szybkich pakietów współpracy.
Od czego zacząćPytania i odpowiedzi
Czym jest tożsamość nie-ludzka i dlaczego ma znaczenie dla AI?
Tożsamość nie-ludzka to każde konto, klucz lub token używany przez oprogramowanie zamiast osoby: konta usług, klucze API, a teraz agenci AI. Łatwo je tworzyć i łatwo zapomnieć, a wiele nigdy nie wygasa. Agent AI działający samodzielnie z takim kluczem może wyrządzić wiele szkody, jeśli zostanie oszukany lub klucz zostanie skradziony.
Czym jest wstrzykiwanie poleceń?
Atak ukrywający polecenia w treści czytanej przez model AI, takiej jak e-mail, dokument lub strona internetowa, aby model słuchał napastnika, a nie użytkownika. Nie da się temu zapobiec samym modelem. Obrona łączy bariery na wejściach i wyjściach, agentów z ograniczonym dostępem i zatwierdzanie wrażliwych działań przez człowieka.
Jak działają dane uwierzytelniające just-in-time dla agentów?
Zamiast stałego klucza agent prosi o dostęp na początku zadania. Otrzymuje dane uwierzytelniające ograniczone do tego zadania i czasu, które wygasają po jego zakończeniu. Każde żądanie jest rejestrowane, więc widać, który agent co zrobił i w czyim imieniu.
Na czym polega ćwiczenie red teamu AI?
Uzgadniamy zakres i reguły, a potem atakujemy Państwa modele i agentów jak napastnik: jailbreak, wstrzykiwanie poleceń, zatrucie narzędzi i próby wyciągnięcia danych. Otrzymują Państwo każde ustalenie z krokami odtworzenia, uszeregowane według ryzyka, a po poprawkach ponownie testujemy.
Czy mogą Państwo zabezpieczyć agentów i modele, których nie budowaliśmy z Państwem?
Tak. Tożsamość, dane uwierzytelniające, bariery i monitoring otaczają agenta, więc działają z agentami zbudowanymi wewnętrznie, przez innego dostawcę lub na platformie dostawcy. Potrzebujemy dostępu do konfiguracji agenta i jego połączeń, niekoniecznie do kodu.
Używamy hostowanego modelu dużego dostawcy. Czy nasze dane są bezpieczne?
To zależy od warunków dostawcy, regionu działania i tego, co mu wysyłają Państwo. Analizujemy te trzy elementy, dodajemy kontrole wycieku przed modelem i, gdy dane nie mogą opuścić Państwa jurysdykcji, rekomendujemy model suwerenny lub prywatny.
Gotowi do budowy? Prosimy poprosić o ofertę.
Prosimy przesłać wymagania lub RFP. Nasi architekci je weryfikują i zwracają wiążącą ofertę o stałym zakresie.
Co dalej
Ocena gotowości
To bezpłatna 48-godzinna ocena gotowości: główny architekt sprawdza projekt pod kątem 6-punktowej definicji gotowości i rekomenduje dopasowaną ścieżkę.
Wiążąca oferta
Najpierw walidacja architektury bez ponoszenia kosztów, a następnie wiążąca oferta o stałym zakresie w ciągu 3–5 dni roboczych: kamienie milowe, architektura, struktura zespołu i SLA. Na życzenie podpisujemy z Państwem umowę o zachowaniu poufności (NDA), zanim przekażą Państwo wymagania.
Mobilizacja
Po podpisaniu umowy nasze zespoły inżynierskie rozpoczynają Sprint 0 w ciągu 5–10 dni roboczych od podpisania umowy.
Dostarczanie w pięciu etapach
Mobilizacja, sprinty z demonstracjami na żywo, integracja i utwardzanie, odbiór i uruchomienie produkcyjne, a następnie usługi zarządzane. Po starcie następuje okres gwarancji, a następnie opcjonalne wsparcie i utrzymanie.