IA souveraine : moitié moins de jetons, données chez vous

Depuis deux ans, des centaines d’entreprises ont construit des prototypes d’IA prometteurs en reliant leurs documents internes à des API publiques de modèles d’IA. Pourtant, lorsque ces prototypes arrivent sur le bureau du CISO ou dans la revue budgétaire du CFO, la plupart s’arrêtent avant la production.

Pour les institutions financières, les ministères et les grands groupes commerciaux, deux limites strictes font obstacle :

• Les données doivent rester sur place. Envoyer des données personnelles de clients, des dossiers KYC bilingues ou des données quantitatives propriétaires à un service d’IA tiers viole les règles de localisation des données et les contrôles de risque internes.

• Les coûts augmentent avec chaque utilisateur. Quand chaque prompt, chaque passage récupéré et chaque étape d’un agent passe par un modèle de pointe de 70 milliards de paramètres ou plus, la facture mensuelle augmente bien plus vite que le nombre d’utilisateurs.

Une IA souveraine qu’un régulateur accepte et qu’un budget peut porter demande une ingénierie des systèmes rigoureuse, pas des prompts astucieux. Voici comment nous la construisons.

1. Une inférence privée, sans aucune sortie de données

Une vraie souveraineté des données signifie que rien ne quitte votre environnement : ni vos données, ni la télémétrie du modèle. Nous construisons des clusters d’inférence GPU privés, sur site ou dans un environnement cloud souverain dédié. Ils exécutent des modèles à poids ouverts, ajustés à votre domaine et quantifiés pour la vitesse, sur des moteurs de service à haut débit tels que vLLM et TensorRT-LLM. Vos données restent chiffrées dans votre périmètre de sécurité, et vos politiques existantes de gestion des identités et des accès (IAM) s’appliquent jusqu’aux lignes individuelles du stockage vectoriel.

2. Des agents qui agissent, sous contrôle

Un modèle qui ne fait que répondre à des questions est une barre de recherche. Un système qui exécute du travail a besoin d’une capacité d’action encadrée. Nous standardisons le Model Context Protocol (MCP) et l’orchestration agent à agent (A2A), qui gardent le modèle de raisonnement séparé de vos systèmes centraux :

• Les agents n’utilisent que des outils approuvés. Ils accèdent aux ERP, aux API de core banking et aux lakehouses de données uniquement par des serveurs MCP typés aux schémas fixes. Ils n’obtiennent jamais de mots de passe bruts de base de données ni de ligne de commande ouverte.

• Chaque étape est enregistrée. Chaque action, chaque appel d’outil et chaque récupération sont consignés dans un journal inaltérable. Les changements à haut risque, comme une validation de conformité ou la modification d’une décision de crédit, sont suspendus jusqu’à ce qu’une personne les approuve par une signature cryptographique.

3. Token FinOps : payer le modèle dont chaque tâche a besoin

En production, jusqu’à 60 % des requêtes et des contrôles de conformité suivent des schémas qui se répètent. Les envoyer tous au plus grand modèle gaspille de l’argent et du temps. Notre passerelle à trois niveaux réduit de plus de moitié les dépenses mensuelles de GPU et d’API :

• Un cache sémantique. Avant d’appeler un modèle, la passerelle vérifie si une réponse validée et conforme aux politiques existe déjà. Les questions répétées reçoivent une réponse en moins de 30 millisecondes, presque sans coût de calcul.

• Un routage selon la difficulté. Un petit classificateur juge ce dont chaque tâche a besoin. L’extraction, la classification et la traduction courantes vont à des modèles rapides et ajustés de 7 à 8 milliards de paramètres. Les modèles de raisonnement lourds ne traitent que le travail en plusieurs étapes.

• Des prompts plus courts. Le pipeline de récupération retire le texte répétitif avant la construction du prompt, afin que moins de jetons entrent, sans perte de précision.

Par où commencer

Si votre travail sur l’IA est bloqué entre les revues de sécurité et des factures cloud imprévisibles, commencez dans le Blueprint Studio de XSIS. En 1 à 2 semaines seulement, nos architectes IA et cloud cartographient où vos données doivent rester, testent le routage des modèles sur vos charges réelles et livrent une architecture de production au périmètre fixe.