Ugrás a tartalomra
XSIS
ÜgyfélkapuAjánlatkérés
Egy mérnök végigsétál egy adatközpont folyosóján a szerverállványok között

Esettanulmányok

Fizikailag leválasztott szuverén LLM-platform, MCP-alapú többágenses automatizálás és token FinOps

Éles MI, amelyet a CISO jóváhagyott és a pénzügyi igazgató is üdvözölt, miközben az ügyféladatok minden bájtja a saját joghatóságában maradt.

Ingyenes konzultációIndulás a Blueprint Studióval

Röviden

  1. Ügyfél

    Egy szabályozott európai és MENA-régióbeli pénzügyi szolgáltató intézmény.

  2. Csapat

    1 vezető MI- és adatarchitekt, 2 szuverén ML- és ágensmérnök és 1 felhő- és PQC-biztonsági mérnök

  3. Időtartam

    10 hét

A kihívás

Az ügyfél automatizálni kívánta az összetett, kétnyelvű (angol és arab) KYC-dokumentumkinyerést, a megfelelőségi auditálást és a belső tudásvisszakeresést. Az adattárolási helyre vonatkozó szigorú jogszabályok, a MENA-régió személyesadat-védelmi törvényei (PDPL), az EU AI Act és a DORA megtiltották, hogy a nyers személyes ügyféladatokat nyilvános amerikai fogyasztói LLM-API-knak küldjék.

Első felhőalapú MI-prototípusát ráadásul elszabadult token-inferenciaköltségek és a hallucináció kockázata terhelte.

Mit építettünk és kötöttünk össze

  1. Privát inferencia, kimenő adatforgalom nélkül

    Privát inferenciaklaszter nagy és kis nyelvi modellekhez egy szuverén regionális felhő VPC-jén belül, jogosultságtudatos GraphRAG-gel, amely szerepköralapú hozzáférést kényszerít ki a dokumentumokhoz.

  2. Felügyelt MCP-ágensek

    Autonóm ágensek a Model Context Protocol (MCP) alapján, emberek felügyeletével (human on the loop), amelyek KYC-, kereskedelemfinanszírozási és ügyfélbevezetési dokumentumokat nyernek ki, vetnek össze, és könyvelnek közvetlenül az alaprendszerekbe (intelligens dokumentumfeldolgozás, IDP 2.0).

  3. Token FinOps-átjáró

    Szemantikus gyorsítótárazás és dinamikus modellútvonalválasztás, amely a rutinfeladatok 75%-át kvantált kis nyelvi modellekhez küldi, és az élvonalbeli modelleket az összetett érvelésre tartogatja.

Rendszerek és technológiák

MI és gépi tanulás
  • Mistral

Mért eredmények

alacsonyabb havi MI-token- és GPU-inferencia-költség szemantikus gyorsítótárazással és kis modellekre történő útválasztással
52%
gyorsabb KYC- és dokumentumalapú ügyfélbevezetés, determinisztikus forráshivatkozásokkal az emberi megfelelési tisztviselők számára
78%
és nulla külső személyesadat-szivárgás; a belső CISO- és szabályozói kockázati auditok már az első felülvizsgálatkor sikeresek voltak
100%-ban helyben tárolt adatok

Az XSIS élesüzemre kész szuverén MI-t adott nekünk, amelyet a CISO-nk jóváhagyott, a pénzügyi igazgatónk pedig lelkesen fogadott: felére csökkentette inferenciaszámlánkat, miközben az ügyféladatok minden bájtja a joghatóságunkon belül maradt.

Informatikai és MI-igazgató

Beszélgetéssel kezdje, nem szerződéssel.

Mondja el, mit szeretne megépíteni, összekötni vagy biztonságossá tenni. Egy architekt végigmegy Önnel a részleteken, majd javasolja, hol érdemes kezdeni.

Ingyenes konzultációIndulás a Blueprint Studióval

Mi történik ezután

  1. Időpont egyeztetése

    Csapatunk e-mailben egyeztet Önnel egy időpontot a konzultációra.

  2. Előzetes konzultáció

    Egy ingyenes 30 perces online előzetes konzultáció: áttekintjük a céljait, rendszereit és korlátait.

  3. Felkészültségi értékelés

    Egy ingyenes 48 órás felkészültségi értékelés során egyik vezető architektünk a hatpontos készenléti definíció (Definition of Ready) alapján megvizsgálja a projektjét, és javasolja a hozzá illő utat.

  4. Az út kiválasztása

    A kész hatókörű projektek 3 és 5 munkanapon belül kötelező érvényű ajánlatot kapnak. A koncepciószakaszban lévő projektek a Blueprint Studióban indulnak. A hibás, dokumentálatlan vagy integrációra szoruló éles rendszer diagnosztikával indul (időtartam: 1 és 2 hét között). A Blueprint Studiónak és a diagnosztikának egyaránt fix díja van, amelyet az ajánlat tartalmaz.