Săriți la conținut
XSIS
Un inginer parcurge culoarul unui centru de date, printre rack-uri de servere

Studii de caz

Platformă LLM suverană air-gapped, automatizare multi-agent MCP și FinOps pentru tokeni

IA în producție aprobată de CISO și bine primită de CFO, cu fiecare byte de date ale clienților păstrat în jurisdicția sa.

Pe scurt

  • Client

    O instituție de servicii financiare reglementată din Europa și MENA.

  • Echipă

    1 arhitect principal de IA și date, 2 ingineri de ML suveran și agenți și 1 inginer de securitate cloud și PQC

  • Durată

    10 săptămâni

Provocarea

Clientul voia să automatizeze extragerea complexă bilingvă (engleză și arabă) din documente KYC, auditul de conformitate și regăsirea cunoștințelor interne. Legile stricte privind rezidența datelor, legile MENA de protecție a datelor personale (PDPL), EU AI Act și DORA interziceau trimiterea datelor personale brute ale clienților către API-uri publice de LLM pentru consumatori din SUA.

Primul său prototip de IA în cloud s-a confruntat și cu costuri de inferență scăpate de sub control și cu riscul de halucinație.

Ce am construit și conectat

  1. Inferență privată, fără scurgeri de date

    Un cluster privat de inferență pentru modele lingvistice mari și mici, într-un VPC cloud regional suveran, cu GraphRAG conștient de permisiuni care aplică accesul bazat pe roluri la documente.

  2. Agenți MCP supravegheați

    Agenți autonomi pe Model Context Protocol (MCP), supravegheați de oameni, care extrag, verifică încrucișat și înregistrează documente KYC, de comerț exterior și de integrare direct în sistemele centrale (procesarea inteligentă a documentelor, IDP 2.0).

  3. Un gateway FinOps pentru tokeni

    Cache semantic și direcționare dinamică a modelelor care trimit 75 % din sarcinile de rutină către modele lingvistice mici cuantizate și păstrează modelele de frontieră pentru raționament complex.

Sisteme și stack

IA și învățare automată
  • Mistral

Rezultate măsurate

cheltuieli lunare mai mici cu tokenii de IA și cu inferența pe GPU, prin cache semantic și direcționarea către modele mici
52 %
integrare mai rapidă a KYC și a documentelor, cu linkuri de citare deterministe pentru ofițerii de conformitate
78 %
și nicio scurgere externă de date personale, trecând auditurile interne de risc ale CISO și cele de reglementare din prima evaluare
100 % rezidență a datelor

XSIS ne-a oferit IA suverană de nivel de producție, aprobată de CISO și aplaudată de CFO — reducându-ne factura de inferență la jumătate și păstrând fiecare byte de date ale clienților în jurisdicția noastră.

Director de informații și IA

Începeți cu o conversație, nu cu un contract.

Spuneți-ne ce trebuie să construiți, să conectați sau să securizați. Un arhitect parcurge totul împreună cu dumneavoastră, apoi recomandă de unde să începeți.

Ce se întâmplă în continuare

  1. Convenirea unei ore

    Echipa noastră vă scrie prin e-mail pentru a conveni o oră pentru sesiune.

  2. Sesiune de preconsultanță

    O sesiune online gratuită de preconsultanță de 30 de minute: trecem în revistă obiectivele, sistemele și constrângerile dumneavoastră.

  3. Evaluarea de pregătire

    Într-o evaluare de pregătire gratuită în 48 de ore, un arhitect principal verifică proiectul dumneavoastră față de definiția „pregătit” în 6 puncte și recomandă traseul potrivit.

  4. Alegerea traseului

    Proiectele cu scop definit primesc o propunere fermă în 3–5 zile lucrătoare. Proiectele aflate în faza de concept încep în Blueprint Studio. Un sistem live care eșuează, nu este documentat sau are nevoie de integrare începe cu un diagnostic de 1–2 săptămâni. Blueprint Studio și diagnosticul au fiecare un tarif fix, cotat în propunere.