Seguridad de la IA agéntica e identidad de los agentes de IA
Agentes de IA que solo tienen el acceso que necesitan, y solo mientras lo necesitan
Agentes con llaves para todo
Los agentes de IA ya leen documentos, llaman a API y mueven datos por su cuenta. Cada uno es una identidad no humana (NHI): una cuenta, clave o token usado por software y no por una persona. A los agentes se les suele dar claves de larga duración con amplios derechos, y nadie revisa qué hacen con ellas.
Los atacantes se han dado cuenta. Un documento manipulado puede ordenar a un agente que filtre datos (inyección de prompts), una descripción de herramienta envenenada puede redirigirlo (envenenamiento de herramientas) y una clave robada puede generar una factura enorme en sus modelos (LLMjacking).
Qué cambia para usted
Sin privilegios permanentes
Los agentes reciben credenciales de corta duración para cada tarea y no conservan acceso entre tareas.
Ataques encontrados antes que los atacantes
Sus agentes y modelos se atacan a propósito, de forma controlada, y se corrigen las debilidades.
Datos que no salen
Los datos sensibles no pueden salir mediante las respuestas de un modelo, sus registros o una clave robada.
Qué entregamos
Identidad de los agentes de IA
Cada agente tiene su propia identidad, responsable y propósito, gestionados en su gestión de identidades y accesos (IAM) como cualquier otra cuenta, con cada acción registrada.
Credenciales dinámicas justo a tiempo
Credenciales emitidas para una tarea y caducadas al terminar, para que un token filtrado valga poco y ningún agente tenga acceso que no esté usando.
Red teaming de IA
Ataques controlados a sus modelos y agentes, incluidos jailbreaks, inyección de prompts y envenenamiento de herramientas, con cada hallazgo reproducido, clasificado y reprobado tras la corrección.
Cortafuegos contra inyección de prompts y envenenamiento de herramientas
Salvaguardas entre los agentes, sus entradas y sus herramientas que detectan y bloquean instrucciones ocultas en documentos, páginas web y descripciones de herramientas.
Prevención de fugas de datos de LLM
Controles que impiden que datos personales y confidenciales salgan mediante prompts, respuestas o registros, tanto en modelos soberanos como alojados.
Defensa frente al LLMjacking
Claves de modelo en una bóveda, límites de uso y alertas por consumo inusual, para que una clave robada se detecte antes de que le cueste dinero.
Auditorías de la cadena de suministro de modelos
Comprobaciones del origen de sus modelos, pesos, conjuntos de datos y herramientas de agentes, y de si algo se ha alterado.
Cómo se ejecuta el trabajo
Enumerar los agentes
Encontramos cada agente, modelo y herramienta en uso, las identidades que tienen y los datos a los que pueden llegar.
Modelar las amenazas
Para cada agente averiguamos qué objetivos elegiría un atacante y cómo, desde sus entradas hasta sus herramientas.
Equipo rojo
Atacamos los agentes y modelos dentro de reglas acordadas y registramos cada hallazgo para que pueda reproducirse.
Endurecer
Introducimos identidades de agentes, credenciales justo a tiempo, salvaguardas y controles de fuga, empezando por los riesgos más altos.
Reprobar y monitorizar
Reprobamos cada corrección y configuramos monitorización del comportamiento de los agentes y del uso de los modelos.
Prueba en producción
Construimos los sistemas multiagente que aseguramos. En una entidad financiera regulada, nuestros agentes trabajan con supervisión humana y recuperación con reconocimiento de permisos, para que cada uno vea solo los documentos que puede ver su usuario.
Estándares y herramientas
- IA y aprendizaje automático
- Jais
- Mistral
- Seguridad y criptografía
- HashiCorp Vault
- Estándares y normativas
- EU AI Act
- GDPR
- MENA PDPL
Cómo empezar
Próximos pasos
Sesión previa de consultoría
Una sesión de consultoría previa gratuita de 30 minutos en línea: repasamos sus objetivos, sistemas y restricciones.
Revisión de preparación
En una revisión de preparación gratuita de 48 horas, un Arquitecto Principal comprueba su proyecto frente a la Definición de preparado de 6 puntos y recomienda la vía que encaja.
Elegir la vía
Los proyectos con el alcance definido reciben una propuesta vinculante en un plazo de 3 a 5 días hábiles. Los proyectos en fase de concepto empiezan en el estudio con Blueprint. Un sistema en producción que falla, no está documentado o necesita integración empieza con un diagnóstico de 1 a 2 semanas. El estudio con Blueprint y el diagnóstico tienen cada uno un importe fijo, indicado en la propuesta.
Entrega en cinco etapas
Movilización, sprints con demostraciones en vivo, integración y endurecimiento, aceptación y puesta en producción, y después servicios gestionados. Tras el lanzamiento llega un periodo de garantía y, después, soporte y mantenimiento opcionales.
Especialistas integrados y aumento de personal estratégico
Ingenieros principales y especialistas en nearshore y en sus instalaciones, y arquitectos de soluciones, transformación, PQC e integración integrados en su equipo.
Equipos de producto nativos de IA
Equipos multidisciplinares gestionados de ingenieros sénior, equipados con entornos de codificación y QA con IA.
La vía más rápida es el paquete Auditoría de seguridad poscuántica (CBOM) y de agentes, uno de nuestros paquetes de colaboración rápida.
Por dónde empezarPreguntas y respuestas
¿Qué es una identidad no humana y por qué importa para la IA?
Una identidad no humana es cualquier cuenta, clave o token usado por software en lugar de por una persona: cuentas de servicio, claves de API y ahora agentes de IA. Son fáciles de crear y fáciles de olvidar, y muchas nunca caducan. Un agente de IA que actúa por su cuenta con una clave así puede causar mucho daño si se le engaña o si roban la clave.
¿Qué es la inyección de prompts?
Un ataque que oculta instrucciones en contenido que lee un modelo de IA, como un correo, un documento o una página web, para que el modelo obedezca al atacante en lugar de a su usuario. El modelo por sí solo no puede evitarlo. La defensa combina salvaguardas en entradas y salidas, agentes con acceso limitado y aprobación humana para acciones sensibles.
¿Cómo funcionan las credenciales justo a tiempo para agentes?
En lugar de una clave permanente, el agente pide acceso cuando empieza una tarea. Recibe una credencial limitada a esa tarea y ese momento, y la credencial caduca al terminar la tarea. Cada solicitud queda registrada, para que vea qué agente hizo qué y en nombre de quién.
¿Qué implica un ejercicio de red team de IA?
Acordamos el alcance y las reglas, y después atacamos sus modelos y agentes como lo haría un adversario: jailbreaks, inyección de prompts, envenenamiento de herramientas e intentos de extraer datos. Recibe cada hallazgo con los pasos para reproducirlo, clasificado por riesgo, y reprobamos tras las correcciones.
¿Pueden asegurar agentes y modelos que no construyeron con ustedes?
Sí. La identidad, las credenciales, las salvaguardas y la monitorización rodean al agente, así que funcionan con agentes construidos internamente, por otro proveedor o sobre la plataforma de un fabricante. Necesitamos acceso a la configuración del agente y a sus conexiones, no necesariamente a su código.
Usamos un modelo alojado de un gran proveedor. ¿Están seguros nuestros datos?
Depende de las condiciones del proveedor, de la región en la que se ejecuta y de lo que usted le envía. Revisamos esos tres aspectos, añadimos controles de fuga delante del modelo y, cuando los datos no pueden salir de su jurisdicción, recomendamos un modelo soberano o privado.
¿Listo para construir? Pida una propuesta.
Envíe sus requisitos o su RFP. Nuestros arquitectos los validan y devuelven una propuesta vinculante de alcance fijo.
Próximos pasos
Revisión de preparación
En una revisión de preparación gratuita de 48 horas, un Arquitecto Principal comprueba su proyecto frente a la Definición de preparado de 6 puntos y recomienda la vía que encaja.
Propuesta vinculante
Tras validación de arquitectura sin costo, recibe una propuesta vinculante de alcance fijo en un plazo de 3 a 5 días hábiles: hitos, arquitectura, estructura del equipo y SLA. Firmamos un acuerdo de confidencialidad (NDA) con usted a petición, antes de que comparta sus requisitos.
Movilización
Cuando firma, nuestros equipos de ingeniería inician el Sprint 0 en un plazo de 5 a 10 días hábiles desde la firma del contrato.
Entrega en cinco etapas
Movilización, sprints con demostraciones en vivo, integración y endurecimiento, aceptación y puesta en producción, y después servicios gestionados. Tras el lanzamiento llega un periodo de garantía y, después, soporte y mantenimiento opcionales.