Plateforme LLM souveraine en air-gapped, automatisation multi-agents MCP et FinOps des jetons
Une IA en production approuvée par le RSSI et accueillie favorablement par le directeur financier, chaque octet de données clients restant dans sa juridiction.
En un coup d’œil
Client
Une institution de services financiers régulée européenne et du Moyen-Orient et d’Afrique du Nord.
Équipe
1 architecte principal IA et données, 2 ingénieurs ML souverain et agents et 1 ingénieur cloud et sécurité PQC
Durée
10 semaines
Le défi
Le client voulait automatiser l’extraction complexe de documents KYC bilingues (anglais et arabe), l’audit de conformité et la recherche dans les connaissances internes. Les lois strictes de résidence des données, les lois de protection des données personnelles de la région MENA (PDPL), le règlement européen sur l’IA et DORA interdisaient d’envoyer des données personnelles brutes de clients à des API publiques de LLM grand public américaines.
Son premier prototype d’IA dans le cloud souffrait aussi de coûts d’inférence en jetons qui s’emballaient et d’un risque d’hallucination.
Ce que nous avons construit et connecté
Inférence privée sans aucune sortie de données
Un cluster d’inférence privé pour grands et petits modèles de langage dans un VPC de cloud souverain régional, avec un GraphRAG sensible aux permissions qui applique un accès fondé sur les rôles aux documents.
Agents MCP supervisés
Des agents autonomes sur le Model Context Protocol (MCP), supervisés par des personnes sur la boucle, qui extraient, recoupent et comptabilisent directement les documents KYC, de financement du commerce et d’entrée en relation dans les systèmes cœur (traitement intelligent des documents, IDP 2.0).
Une passerelle FinOps des jetons
Mise en cache sémantique et routage dynamique de modèles qui envoient 75 % des tâches courantes à des petits modèles de langage quantifiés et réservent les modèles de pointe au raisonnement complexe.
Systèmes et pile technique
- IA et apprentissage automatique
- Mistral
Résultats mesurés
- de dépenses mensuelles d’inférence en jetons d’IA et en GPU, grâce à la mise en cache sémantique et au routage vers de petits modèles
- 52 %
- d’entrée en relation KYC et documentaire plus rapide, avec des liens de citation déterministes pour les chargés de conformité
- 78 %
- et aucune fuite externe de données personnelles, les audits internes de risque du RSSI et des autorités de régulation étant passés dès la première revue
- 100 % de résidence des données
XSIS nous a livré une IA souveraine de qualité production, approuvée par notre RSSI et saluée par notre directeur financier — en divisant par deux notre facture d’inférence tout en gardant chaque octet de données clients dans notre juridiction.
Commencez par une conversation, pas par un contrat.
Dites-nous ce que vous devez construire, connecter ou sécuriser. Un architecte l’examine avec vous, puis recommande par où commencer.
Les prochaines étapes
Convenir d’un horaire
Notre équipe vous envoie un e-mail pour convenir d’un horaire pour l’entretien.
Entretien préalable
Un entretien préalable gratuit de 30 minutes en ligne : nous passons en revue vos objectifs, vos systèmes et vos contraintes.
Revue de préparation
Lors d’une revue de préparation gratuite de 48 heures, un architecte principal confronte votre projet à la définition de « prêt » en 6 points et recommande le parcours adapté.
Choisir le parcours
Les projets au périmètre prêt reçoivent une proposition ferme sous 3 à 5 jours ouvrés. Les projets au stade du concept démarrent dans le studio Blueprint. Un système en production qui défaille, n’est pas documenté ou doit être intégré commence par un diagnostic de 1 à 2 semaines. Le studio Blueprint et le diagnostic ont chacun des honoraires fixes, indiqués dans la proposition.