에이전트형 AI 보안과 AI 에이전트 신원

비인간 신원은 사람 대신 소프트웨어가 사용하는 모든 계정, 키, 토큰입니다. 서비스 계정, API 키, 그리고 이제는 AI 에이전트가 해당합니다. 만들기는 쉽고 잊기도 쉬우며, 만료되지 않는 경우가 많습니다. 이런 키로 스스로 행동하는 AI 에이전트는 속임수를 당하거나 키가 탈취되면 큰 피해를 줄 수 있습니다.

이 질문 링크

AI 모델이 읽는 이메일, 문서, 웹 페이지 같은 콘텐츠에 지시를 숨겨, 모델이 사용자가 아니라 공격자를 따르게 만드는 공격입니다. 모델만으로는 막을 수 없습니다. 입력과 출력에 대한 가드레일, 접근 권한이 제한된 에이전트, 민감한 작업에 대한 사람 승인을 결합하여 방어합니다.

이 질문 링크

영구 키 대신, 에이전트는 작업이 시작될 때 접근 권한을 요청합니다. 해당 작업과 그 시간으로 제한된 자격 증명을 받고, 작업이 끝나면 자격 증명이 만료됩니다. 모든 요청이 기록되므로 어떤 에이전트가 누구를 대신해 무엇을 했는지 확인할 수 있습니다.

이 질문 링크

범위와 규칙을 합의한 뒤, 탈옥, 프롬프트 인젝션, 도구 오염, 데이터 추출 시도 등 공격자가 할 법한 방식으로 귀사의 모델과 에이전트를 공격합니다. 모든 발견 사항을 재현 단계와 함께 위험도순으로 전달하며, 수정 후 다시 테스트합니다.

이 질문 링크

네. 신원, 자격 증명, 가드레일, 모니터링은 에이전트를 둘러싸고 작동하므로, 사내에서 구축했거나 다른 공급업체가 만들었거나 벤더 플랫폼에서 운영하는 에이전트에도 적용됩니다. 에이전트의 코드가 아니라 구성과 연결에 접근할 수 있으면 됩니다.

이 질문 링크

공급업체의 약관, 운영 리전, 그리고 귀사가 전송하는 내용에 따라 다릅니다. 이 세 가지를 검토하고, 모델 앞에 유출 통제를 추가하며, 데이터가 관할권을 벗어나서는 안 되는 경우에는 소버린 또는 프라이빗 모델을 대신 권장합니다.

이 질문 링크