Przejście do treści
XSIS
Inżynier przechodzi alejką centrum danych między szafami serwerowymi

Studia przypadków

Odseparowana suwerenna platforma LLM, automatyzacja wieloagentowa MCP i FinOps tokenów

AI produkcyjna, którą zatwierdził CISO i przyjął CFO, z każdym bajtem danych klientów pozostającym w ich jurysdykcji.

W skrócie

  • Klient

    Regulowana instytucja usług finansowych z Europy i regionu MENA.

  • Zespół

    1 główny architekt AI i danych, 2 inżynierów suwerennego ML i agentów oraz 1 inżynier bezpieczeństwa chmury i PQC

  • Czas trwania

    10 tygodni

Wyzwanie

Klient chciał zautomatyzować złożone dwujęzyczne (angielskie i arabskie) wydobywanie danych z dokumentów KYC, audyt zgodności i wyszukiwanie wiedzy wewnętrznej. Surowsze przepisy o rezydencji danych, bliskowschodnie przepisy o ochronie danych osobowych (PDPL), unijny akt o AI i DORA zakazywały wysyłania surowych danych osobowych klientów do publicznych amerykańskich API konsumenckich LLM.

Jego pierwszy chmurowy prototyp AI borykał się też z wymykającymi się kosztami wnioskowania na tokenach i ryzykiem halucynacji.

Co zbudowaliśmy i połączyliśmy

  1. Prywatne wnioskowanie bez wypływu danych

    Prywatny klaster wnioskowania dla dużych i małych modeli językowych w suwerennej regionalnej chmurze VPC, z GraphRAG świadomym uprawnień, który egzekwuje dostęp do dokumentów według ról.

  2. Nadzorowani agenci MCP

    Autonomiczni agenci na protokole Model Context Protocol (MCP), nadzorowani przez ludzi w pętli, którzy wydobywają, weryfikują krzyżowo i księgują dokumenty KYC, finansowania handlu i onboardingu bezpośrednio w systemach rdzeniowych (inteligentne przetwarzanie dokumentów, IDP 2.0).

  3. Brama FinOps tokenów

    Buforowanie semantyczne i dynamiczne kierowanie modeli, które kierują 75% rutynowych zadań do skwantyzowanych małych modeli językowych, a modele frontier zachowują do złożonego rozumowania.

Systemy i stos technologiczny

AI i uczenie maszynowe
  • Mistral

Policzalne wyniki

niższe miesięczne wydatki na tokeny AI i wnioskowanie GPU dzięki buforowaniu semantycznemu i kierowaniu do małych modeli
52%
szybszy onboarding KYC i dokumentów, z deterministycznymi odnośnikami do źródeł dla ludzkich oficerów zgodności
78%
oraz brak wycieku danych osobowych na zewnątrz, z zaliczeniem wewnętrznych audytów ryzyka CISO i regulatora przy pierwszym przeglądzie
100% rezydencji danych

XSIS dostarczył nam produkcyjną suwerenną AI, którą zatwierdził nasz CISO i którą docenił nasz CFO — obcinając rachunek za wnioskowanie o połowę, a każdy bajt danych klientów pozostawiając w naszej jurysdykcji.

Dyrektor ds. informacji i AI

Najpierw rozmowa, nie umowa.

Prosimy opowiedzieć, co trzeba zbudować, połączyć lub zabezpieczyć. Architekt przechodzi przez to z Państwem, a następnie rekomenduje, od czego zacząć.

Co dalej

  1. Ustalenie terminu

    Nasz zespół pisze do Państwa, aby ustalić termin sesji.

  2. Sesja przeddoradcza

    To bezpłatna 30-minutowa konsultacja wstępna online: omawiamy Państwa cele, systemy i ograniczenia.

  3. Ocena gotowości

    To bezpłatna 48-godzinna ocena gotowości: główny architekt sprawdza projekt pod kątem 6-punktowej definicji gotowości i rekomenduje dopasowaną ścieżkę.

  4. Wybór ścieżki

    Projekty gotowe zakresowo otrzymują wiążącą ofertę w ciągu 3–5 dni roboczych. Projekty na etapie koncepcji zaczynają się w Blueprint Studio. Działający system, który zawodzi, nie ma dokumentacji lub wymaga integracji, zaczyna się od diagnostyki: 1–2 tygodnie. Blueprint Studio i diagnostyka mają stałą opłatę podaną w ofercie.