Segurança de IA agêntica e identidade de agentes de IA
Agentes de IA que detêm apenas o acesso de que precisam, e só pelo tempo que precisam
Agentes com chaves para tudo
Os agentes de IA agora leem documentos, chamam APIs e movem dados por conta própria. Cada um é uma identidade não humana (NHI): uma conta, chave ou token usado por software, e não por uma pessoa. Frequentemente os agentes recebem chaves de longa duração com direitos amplos, e ninguém revisa o que fazem com elas.
Os atacantes perceberam. Um documento manipulado pode instruir um agente a vazar dados (injeção de prompt), uma descrição de ferramenta envenenada pode redirecioná-lo (envenenamento de ferramenta), e uma chave roubada pode gerar uma fatura enorme nos seus modelos (LLMjacking).
O que muda para si
Sem privilégios permanentes
Os agentes recebem credenciais de curta duração para cada tarefa e não detêm acesso entre tarefas.
Ataques encontrados antes dos atacantes
Os seus agentes e modelos são atacados de propósito, de forma controlada, e as fraquezas são corrigidas.
Dados que ficam dentro
Dados sensíveis não escapam pelas respostas de um modelo, pelos seus logs ou por uma chave roubada.
O que entregamos
Identidade de agentes de IA
Cada agente recebe a sua própria identidade, responsável e finalidade, gerida na sua gestão de identidades e acessos (IAM) como qualquer outra conta, com cada ação registada.
Credenciais dinâmicas just-in-time
Credenciais emitidas para uma tarefa e expiradas quando ela termina, para que um token vazado valha pouco e nenhum agente detenha acesso que não está a usar.
Red team de IA
Ataques controlados aos seus modelos e agentes, incluindo jailbreaks, injeção de prompt e envenenamento de ferramentas, com cada achado reproduzido, classificado e retestado após a correção.
Firewalls contra injeção de prompt e envenenamento de ferramentas
Salvaguardas entre os agentes, as suas entradas e as suas ferramentas que detectam e bloqueiam instruções escondidas em documentos, páginas web e descrições de ferramentas.
Prevenção de fuga de dados em LLMs
Controlos que impedem que dados pessoais e confidenciais escapem por prompts, respostas ou logs, tanto em modelos soberanos quanto hospedados.
Defesa contra LLMjacking
Chaves de modelo guardadas num cofre, limites de uso e alertas para consumo incomum, para que uma chave roubada seja detectada antes de custar caro.
Auditorias da cadeia de abastecimento de modelos
Verificações sobre a origem dos seus modelos, pesos, conjuntos de dados e ferramentas de agentes, e se algo foi alterado.
Como o trabalho acontece
Relacionar os agentes
Localizamos cada agente, modelo e ferramenta em uso, as identidades que detêm e os dados que alcançam.
Modelar as ameaças
Para cada agente, definimos o que um atacante visaria e como, das suas entradas às suas ferramentas.
Fazer o red team
Atacamos os agentes e modelos dentro de regras acordadas e registamos cada achado para que possa ser reproduzido.
Blindar
Introduzimos identidades de agentes, credenciais just-in-time, salvaguardas e controlos de fuga, começando pelos riscos mais altos.
Retestar e monitorizar
Retestamos cada correção e configuramos o monitorização do comportamento dos agentes e do uso dos modelos.
Prova em produção
Construímos os sistemas multiagente que protegemos. Numa instituição financeira regulada, os nossos agentes trabalham sob supervisão humana e recuperação ciente de permissões, para que cada um veja apenas os documentos que o seu utilizador pode ver.
Padrões e ferramentas
- IA e aprendizagem automática
- Jais
- Mistral
- Segurança e criptografia
- HashiCorp Vault
- Normas e regulamentos
- EU AI Act
- GDPR
- MENA PDPL
Como começar
O que acontece a seguir
Sessão de pré-consultoria
Uma sessão em linha gratuita de pré-consultoria de 30 minutos: analisamos os seus objetivos, sistemas e restrições.
Avaliação de prontidão
Numa avaliação de prontidão gratuita de 48 horas, um Arquiteto Principal verifica o seu projeto com a Definição de Prontidão em 6 pontos e recomenda o percurso adequado.
Escolha do percurso
Projetos com âmbito pronto recebem uma proposta vinculante em 3–5 dias úteis. Projetos em estágio de conceito começam no Blueprint Studio. Um sistema em produção com falhas, não documentado ou que precisa de integração começa com um diagnóstico de 1–2 semanas. O Blueprint Studio e o diagnóstico têm cada um uma taxa fixa, cotada na proposta.
Entrega em cinco etapas
Mobilização, sprints com demonstrações ao vivo, integração e robustecimento, aceitação e entrada em produção e, depois, serviços geridos. Após o lançamento vem um período de garantia e, depois, suporte e manutenção opcionais.
Especialistas embarcados e reforço estratégico
Engenheiros principais e especialistas nearshore e no local, e arquitetos embarcados de solução, de transformação, de PQC e de integração.
Equipas de produto nativas de IA
Pods geridos e multifuncionais de engenheiros seniores, equipados com harnesses de programação agêntica e de QA.
O caminho mais rápido é o pacote Auditoria de segurança pós-quântica (CBOM) e de agentes, um dos nossos pacotes de trabalho rápido.
Por onde começarPerguntas e respostas
O que é uma identidade não humana e por que ela importa para a IA?
Uma identidade não humana é qualquer conta, chave ou token usado por software em vez de uma pessoa: contas de serviço, chaves de API e agora agentes de IA. Elas são fáceis de criar e fáceis de esquecer, e muitas nunca expiram. Um agente de IA que age sozinho com uma chave dessas pode causar muito dano se for enganado ou se a chave for roubada.
O que é injeção de prompt?
É um ataque que esconde instruções em conteúdo que um modelo de IA lê, como um e-mail, um documento ou uma página web, para que o modelo obedeça ao atacante em vez do seu utilizador. O modelo sozinho não consegue impedir isso. A defesa combina salvaguardas nas entradas e saídas, agentes com acesso limitado e aprovação humana para ações sensíveis.
Como funcionam as credenciais just-in-time para agentes?
Em vez de uma chave permanente, o agente pede acesso quando uma tarefa começa. Ele recebe uma credencial limitada a essa tarefa e a esse tempo, e a credencial expira quando a tarefa termina. Cada pedido é registado, para que veja qual agente fez o quê e em nome de quem.
O que envolve um exercício de red team de IA?
Acordamos o âmbito e as regras, e então atacamos os seus modelos e agentes como um adversário faria: jailbreaks, injeção de prompt, envenenamento de ferramentas e tentativas de extrair dados. Recebe cada achado com os passos para reproduzi-lo, classificado por risco, e retestamos após as correções.
Podem proteger agentes e modelos que não construíram connosco?
Sim. Identidade, credenciais, salvaguardas e monitorização ficam em volta do agente, por isso funcionam com agentes construídos internamente, por outro fornecedor ou numa plataforma de terceiros. Precisamos de acesso à configuração do agente e às suas ligações, não necessariamente ao seu código.
Usamos um modelo hospedado de um grande fornecedor. Os nossos dados estão seguros?
Depende dos termos do fornecedor, da região em que ele corre e do que envia. Revisamos esses três pontos, adicionamos controlos de fuga na frente do modelo e, quando os dados não podem sair da sua jurisdição, recomendamos um modelo soberano ou privado.
Pronto para construir? Peça uma proposta.
Envie os seus requisitos ou o seu RFP. Os nossos arquitetos os validam e devolvem uma proposta vinculante de âmbito fixo.
O que acontece a seguir
Avaliação de prontidão
Numa avaliação de prontidão gratuita de 48 horas, um Arquiteto Principal verifica o seu projeto com a Definição de Prontidão em 6 pontos e recomenda o percurso adequado.
Proposta vinculante
Após validação de arquitetura sem custo, recebe uma proposta vinculante de âmbito fixo em 3–5 dias úteis: marcos, arquitetura, estrutura da equipa e SLAs. Assinamos um acordo de confidencialidade (NDA) consigo quando solicitado, antes de partilhar os seus requisitos.
Mobilização
Depois da assinatura, as nossas equipas de engenharia iniciam o Sprint 0 em 5–10 dias úteis após a assinatura do contrato.
Entrega em cinco etapas
Mobilização, sprints com demonstrações ao vivo, integração e robustecimento, aceitação e entrada em produção e, depois, serviços geridos. Após o lançamento vem um período de garantia e, depois, suporte e manutenção opcionais.