Aller au contenu
XSIS
Parler à un ingénieur

Sécurité et données

Logiciel, IA et données

Vos données dans les modèles d’IA, explicabilité et biais, entrepôts de données, sécurité web, mobile et cloud, et migrations sûres.

10 questions

Qu’advient-il de nos données ?

Vos données restent dans des environnements que vous approuvez. Nous privilégions l’exécution des modèles dans votre propre compte cloud ou via des services de modèles pour entreprises qui ne s’entraînent pas sur vos données. Nous convenons des données auxquelles le système peut accéder, masquons les données personnelles lorsque la tâche le permet et journalisons les accès. Les données utilisées pour l’évaluation sont conservées selon les mêmes règles que les données de production.

Nos données serviront-elles à entraîner le modèle d’un tiers ?

Pas si nous pouvons l’éviter, et nous concevons les systèmes pour l’empêcher. Nous utilisons des services de modèles pour entreprises dont les conditions excluent l’entraînement sur vos données, ou des modèles ouverts hébergés dans votre propre environnement. Les prompts et les documents ne sont envoyés qu’aux services que vous approuvez, les journaux sont conservés selon vos règles de conservation et les données personnelles sont masquées lorsque la tâche le permet.

Pouvons-nous expliquer les décisions du modèle aux auditeurs et aux clients ?

Oui, et nous le prévoyons dès la conception lorsque les décisions concernent des personnes, par exemple en matière de crédit ou de sinistres. Nous privilégions des modèles dont le raisonnement peut être expliqué, fournissons les raisons de chaque résultat et documentons les données, les variables, la validation et les limites de chaque version du modèle. Cette documentation appuie vos revues du risque de modèle et vos revues réglementaires.

Comment vérifiez-vous l’absence de biais ?

Nous convenons avec vous des groupes et des résultats qui comptent pour la décision, puis mesurons les taux d’erreur et les résultats pour chacun d’eux sur des données réservées. Lorsque des écarts apparaissent, nous analysons les données et les variables en cause et discutons des arbitrages avec vos équipes. Les contrôles d’équité sont relancés à chaque réentraînement, et pas seulement au lancement.

Comment protégez-vous les données sensibles dans l’entrepôt ?

Les accès sont attribués par rôle et suivent votre fournisseur d’identité. Les champs personnels et financiers sont masqués ou tokenisés pour les utilisateurs qui n’en ont pas besoin, les données sont chiffrées au repos et en transit, et les accès sont journalisés. Nous conservons les données dans les régions que vous indiquez et appliquons vos règles de conservation aux données brutes comme aux données modélisées.

Comment nos documents et nos données sont-ils protégés ?

Les documents sont stockés chiffrés dans un environnement que vous approuvez, traités par des services dont les conditions excluent l’entraînement sur vos données, et conservés uniquement pendant la durée autorisée par vos règles de conservation. L’accès à l’écran de validation est attribué par rôle, les données personnelles sont masquées lorsqu’elles ne sont pas nécessaires, et chaque consultation et modification est journalisée.

Comment sécurisez-vous une application web ?

Nous suivons les recommandations de l’OWASP : validation des entrées, encodage des sorties, protection contre la falsification de requêtes intersites (CSRF), gestion sécurisée des sessions et politique de sécurité du contenu (CSP) stricte. Les autorisations sont vérifiées côté serveur, jamais uniquement dans le navigateur. Les dépendances sont analysées à chaque build pour détecter les vulnérabilités connues, et nous effectuons des tests de sécurité avant chaque mise en production. Un test d’intrusion par un spécialiste peut être ajouté avant le lancement.

Comment sécurisez-vous une application bancaire ou de portefeuille électronique ?

Nous conservons les clés et les jetons dans le stockage sécurisé matériel de la plateforme, jamais dans des fichiers en clair. Nous utilisons l’épinglage de certificats, une authentification biométrique ou liée à l’appareil, et des contrôles côté serveur pour chaque action sensible. Lorsque le risque le justifie, nous ajoutons la détection des appareils rootés ou jailbreakés et des builds falsifiés. Nous suivons les recommandations OWASP Mobile Application Security et pouvons accompagner un test d’intrusion externe avant le lancement.

Comment sécurisez-vous la plateforme cloud ?

L’identité passe en premier : authentification unique (SSO), rôles au moindre privilège et aucun identifiant partagé. Les réseaux sont segmentés, les données sont chiffrées au repos et en transit, et les secrets sont conservés dans un coffre-fort managé. Des garde-fous bloquent les configurations non sécurisées avant leur déploiement, les pipelines analysent le code et les images à la recherche de vulnérabilités connues, et les journaux d’audit sont conservés là où personne ne peut les modifier.

Comment migrez-vous les données en toute sécurité ?

Nous commençons par cartographier et profiler les données, afin de détecter les problèmes avant la migration plutôt qu’après. Les migrations sont scriptées et reproductibles, exécutées d’abord sur des copies, et rapprochées au moyen de comptages et de totaux qui démontrent que rien n’a été perdu ni altéré. Les données personnelles et sensibles sont protégées tout au long du processus, et leur accès est limité à des personnes désignées.

Dites-nous ce que vous devez construire ou connecter.

Décrivez les systèmes, le calendrier et les contraintes. Les ingénieurs concernés prennent ensuite le relais.