Segurança de IA agêntica e identidade de agentes de IA
Agentes de IA que detêm apenas o acesso de que precisam, e só pelo tempo que precisam
Agentes com chaves para tudo
Os agentes de IA agora leem documentos, chamam APIs e movem dados por conta própria. Cada um é uma identidade não humana (NHI): uma conta, chave ou token usado por software, e não por uma pessoa. Frequentemente os agentes recebem chaves de longa duração com direitos amplos, e ninguém revisa o que fazem com elas.
Os atacantes perceberam. Um documento manipulado pode instruir um agente a vazar dados (injeção de prompt), uma descrição de ferramenta envenenada pode redirecioná-lo (envenenamento de ferramenta), e uma chave roubada pode gerar uma fatura enorme nos seus modelos (LLMjacking).
O que muda para você
Sem privilégios permanentes
Os agentes recebem credenciais de curta duração para cada tarefa e não detêm acesso entre tarefas.
Ataques encontrados antes que os atacantes os encontrem
Os seus agentes e modelos são atacados de propósito, de forma controlada, e as fraquezas são corrigidas.
Dados que não saem
Dados sensíveis não escapam pelas respostas de um modelo, pelos seus logs ou por uma chave roubada.
O que entregamos
Identidade de agentes de IA
Cada agente recebe a sua própria identidade, responsável e finalidade, gerenciada na sua gestão de identidades e acessos (IAM) como qualquer outra conta, com cada ação registrada.
Credenciais dinâmicas just-in-time
Credenciais emitidas para uma tarefa e expiradas quando ela termina, para que um token vazado valha pouco e nenhum agente detenha acesso que não está usando.
Red team de IA
Ataques controlados aos seus modelos e agentes, incluindo jailbreaks, injeção de prompt e envenenamento de ferramentas, com cada achado reproduzido, classificado e retestado após a correção.
Firewalls contra injeção de prompt e envenenamento de ferramentas
Salvaguardas entre os agentes, as suas entradas e as suas ferramentas que detectam e bloqueiam instruções escondidas em documentos, páginas web e descrições de ferramentas.
Prevenção de vazamento de dados em LLMs
Controles que impedem que dados pessoais e confidenciais escapem por prompts, respostas ou logs, tanto em modelos soberanos quanto hospedados.
Defesa contra LLMjacking
Chaves de modelo guardadas em um cofre, limites de uso e alertas para consumo incomum, para que uma chave roubada seja detectada antes de custar caro.
Auditorias da cadeia de suprimentos de modelos
Verificações sobre a origem dos seus modelos, pesos, conjuntos de dados e ferramentas de agentes, e se algo foi alterado.
Como o trabalho acontece
Relacionar os agentes
Localizamos cada agente, modelo e ferramenta em uso, as identidades que detêm e os dados que alcançam.
Modelar as ameaças
Para cada agente, definimos o que um atacante visaria e como, das suas entradas às suas ferramentas.
Fazer o red team
Atacamos os agentes e modelos dentro de regras acordadas e registramos cada achado para que possa ser reproduzido.
Blindar
Introduzimos identidades de agentes, credenciais just-in-time, salvaguardas e controles de vazamento, começando pelos riscos mais altos.
Retestar e monitorar
Retestamos cada correção e configuramos o monitoramento do comportamento dos agentes e do uso dos modelos.
Prova em produção
Construímos os sistemas multiagente que protegemos. Em uma instituição financeira regulada, os nossos agentes trabalham sob supervisão humana e recuperação ciente de permissões, para que cada um veja apenas os documentos que o seu usuário pode ver.
Padrões e ferramentas
- IA e aprendizado de máquina
- Jais
- Mistral
- Segurança e criptografia
- HashiCorp Vault
- Normas e regulamentos
- EU AI Act
- GDPR
- MENA PDPL
Como começar
O que acontece a seguir
Sessão de pré-consultoria
Uma sessão on-line gratuita de pré-consultoria de 30 minutos: analisamos os seus objetivos, sistemas e restrições.
Avaliação de prontidão
Em uma avaliação de prontidão gratuita de 48 horas, um arquiteto principal verifica o seu projeto com a Definição de Prontidão em 6 pontos e recomenda a trilha adequada.
Escolha da trilha
Projetos com escopo pronto recebem uma proposta vinculante em 3 a 5 dias úteis. Projetos em estágio de conceito começam no Blueprint Studio. Um sistema em produção com falhas, não documentado ou que precisa de integração começa com um diagnóstico de 1 a 2 semanas. O Blueprint Studio e o diagnóstico têm cada um uma taxa fixa, cotada na proposta.
Entrega em cinco etapas
Mobilização, sprints com demonstrações ao vivo, integração e fortalecimento, aceitação e entrada em produção e, depois, serviços gerenciados. Após a entrada em produção vem um período de garantia e, depois, suporte e manutenção opcionais.
Especialistas embarcados e reforço estratégico
Engenheiros principais e especialistas nearshore e presenciais, e arquitetos embarcados de solução, de transformação, de PQC e de integração.
Equipes de produto nativas de IA
Pods gerenciados e multifuncionais de engenheiros seniores, equipados com harnesses de programação agêntica e de QA.
O caminho mais rápido é o pacote Auditoria de segurança pós-quântica (CBOM) e de agentes, um dos nossos pacotes de contratação rápidos.
Por onde começarPerguntas e respostas
O que é uma identidade não humana e por que ela importa para a IA?
Uma identidade não humana é qualquer conta, chave ou token usado por software em vez de uma pessoa: contas de serviço, chaves de API e agora agentes de IA. Elas são fáceis de criar e fáceis de esquecer, e muitas nunca expiram. Um agente de IA que age sozinho com uma chave dessas pode causar muito dano se for enganado ou se a chave for roubada.
O que é injeção de prompt?
É um ataque que esconde instruções em conteúdo que um modelo de IA lê, como um e-mail, um documento ou uma página web, para que o modelo obedeça ao atacante em vez do seu usuário. O modelo sozinho não consegue impedir isso. A defesa combina salvaguardas nas entradas e saídas, agentes com acesso limitado e aprovação humana para ações sensíveis.
Como funcionam as credenciais just-in-time para agentes?
Em vez de uma chave permanente, o agente pede acesso quando uma tarefa começa. Ele recebe uma credencial limitada a essa tarefa e a esse tempo, e a credencial expira quando a tarefa termina. Cada requisição é registrada, para que você veja qual agente fez o quê e em nome de quem.
O que envolve um exercício de red team de IA?
Acordamos o escopo e as regras, e então atacamos os seus modelos e agentes como um adversário faria: jailbreaks, injeção de prompt, envenenamento de ferramentas e tentativas de extrair dados. Você recebe cada achado com os passos para reproduzi-lo, classificado por risco, e retestamos após as correções.
Vocês podem proteger agentes e modelos que não construíram conosco?
Sim. Identidade, credenciais, salvaguardas e monitoramento ficam em volta do agente, então funcionam com agentes construídos internamente, por outro fornecedor ou em uma plataforma de terceiros. Precisamos de acesso à configuração do agente e às suas conexões, não necessariamente ao seu código.
Usamos um modelo hospedado de um grande provedor. Os nossos dados estão seguros?
Depende dos termos do provedor, da região em que ele roda e do que você envia. Revisamos esses três pontos, adicionamos controles de vazamento na frente do modelo e, quando os dados não podem sair da sua jurisdição, recomendamos um modelo soberano ou privado.
Pronto para construir? Peça uma proposta.
Envie os seus requisitos ou o seu RFP. Nossos arquitetos os validam e retornam uma proposta vinculante de escopo fixo.
O que acontece a seguir
Avaliação de prontidão
Em uma avaliação de prontidão gratuita de 48 horas, um arquiteto principal verifica o seu projeto com a Definição de Prontidão em 6 pontos e recomenda a trilha adequada.
Proposta vinculante
Após validação de arquitetura sem custo, você recebe uma proposta vinculante de escopo fixo em 3 a 5 dias úteis: marcos, arquitetura, estrutura da equipe e SLAs. Assinamos um acordo de confidencialidade (NDA) com você quando solicitado, antes de você compartilhar os seus requisitos.
Mobilização
Depois da assinatura, nossos pods de engenharia iniciam o Sprint 0 em 5 a 10 dias úteis após a assinatura do contrato.
Entrega em cinco etapas
Mobilização, sprints com demonstrações ao vivo, integração e fortalecimento, aceitação e entrada em produção e, depois, serviços gerenciados. Após a entrada em produção vem um período de garantia e, depois, suporte e manutenção opcionais.