手握萬能鑰匙的智慧代理
AI 智慧代理現在能自行讀取文件、呼叫 API 並移動資料。每個智慧代理都是一種非人類身分（NHI）：由軟體而非人使用的帳戶、金鑰或權杖。智慧代理往往被授予權限寬泛、長期有效的金鑰，而沒有人審查它們用這些金鑰做了什麼。
攻擊者已經注意到了。一份精心設計的文件可以指示智慧代理外洩資料（提示詞注入），一段被投毒的工具描述可以將其引向別處（工具投毒），而遭竊的金鑰可能讓您的模型產生大額帳單（LLMjacking）。
為您帶來的變化
無常設權限
每項任務都會為智慧代理核發短期憑證，任務之間不保留任何存取權限。
在攻擊者發現之前先發現攻擊
您的智慧代理與模型會在受控條件下被刻意攻擊，發現的弱點隨即修復。
資料不外流
敏感資料無法透過模型的回答、日誌或被竊取的金鑰外流。
我們交付什麼
AI 智慧代理身分
每個智慧代理都有自己的身分、負責人和用途，像其他任何帳戶一樣在您的身分與存取管理（IAM）中管理，所有操作均有日誌。
動態即時憑證
憑證為單次任務簽發，任務結束即失效，因此外洩的權杖價值有限，也沒有智慧代理會持有閒置不用的權限。
AI 紅隊測試
對您的模型與智慧代理發起受控攻擊，包括越獄、提示詞注入與工具投毒，每項發現都會重現、分級，並在修復後複測。
提示詞注入與工具投毒防火牆
位於智慧代理、其輸入與工具之間的防護欄，用於偵測並攔截隱藏在文件、網頁與工具描述中的指令。
LLM 資料外洩防護
阻止個人與機密資料透過提示詞、回答或日誌外流的控制措施，主權模型與託管模型皆然。
LLMjacking 防禦
模型金鑰儲存在金鑰庫中，設定用量上限並對異常用量發出警示，使遭竊的金鑰在造成損失之前被發現。
模型供應鏈稽核
查核模型、權重、資料集與智慧代理工具的來源，以及其中是否有任何內容被竄改。
工作如何推進
盤點智慧代理
我們找出使用中的每一個智慧代理、模型與工具，它們持有的身分以及可以觸及的資料。
威脅建模
針對每個智慧代理，我們分析攻擊者會瞄準什麼、如何下手，從其輸入到其工具。
紅隊測試
我們在約定規則內攻擊智慧代理與模型，並記錄每項發現，以便重現。
強化
我們引入智慧代理身分、即時憑證、防護欄與防外洩控制，從最高風險處著手。
複測與監控
我們複測每項修復，並為智慧代理行為與模型用量建立監控。
正式環境實證
我們自己建置所要保護的多智慧代理系統。在一家受監理金融機構中，我們的智慧代理在人工監督與依權限過濾的檢索之下執行，每個智慧代理只能看到其使用者有權檢視的文件。
標準與工具
- AI 與機器學習
- Jais
- Mistral
- 資安與密碼學
- HashiCorp Vault
- 標準與法規
- EU AI Act
- GDPR
- MENA PDPL
如何開始
後續流程
諮詢前會談
一次免費 30 分鐘線上預諮詢：我們盤點您的目標、系統與限制條件。
就緒評估
在免費 48 小時就緒評估中，首席架構師對照 6 項就緒定義檢查您的專案，並建議合適的路線。
選擇路線
範圍就緒的專案會收到一份有約束力的方案 3–5 個工作天內。概念階段的專案從 Blueprint Studio 開始。已上線系統若出現故障、缺乏文件或需要整合，則先進行 1–2 週 的診斷。Blueprint Studio 與診斷服務各收取固定費用，費用在方案中列明。
五階段交付
動員、搭配現場示範的衝刺、整合與強化、驗收與上線，然後是託管服務。上線之後接著是保固期，之後選用支援與維護。
最快的切入點是 後量子（CBOM）與智慧代理資安稽核，屬於我們的快速合作方案之一。
從何處開始問題與解答
什麼是非人類身分？它對 AI 為何重要？
非人類身分是任何由軟體而非人使用的帳戶、金鑰或權杖：服務帳戶、API 金鑰，如今還包括 AI 智慧代理。它們易於建立、易於遺忘，而且許多永不過期。一個憑藉此類金鑰自主行動的 AI 智慧代理，一旦被誤導或金鑰被盜，可能造成巨大危害。
什麼是提示詞注入？
一種把指令隱藏進 AI 模型所讀取內容（如電子郵件、文件或網頁）的攻擊，使模型聽命於攻擊者而非其使用者。僅靠模型本身無法防範。防禦需要結合輸入與輸出防護欄、權限受限的智慧代理，以及對敏感操作的人工核准。
智慧代理的即時憑證如何運作？
智慧代理不再持有永久金鑰，而是在任務開始時申請存取權限。它獲得的憑證僅限該任務和該時段，任務結束後憑證即失效。每次請求都有日誌，因此您可以看清哪個智慧代理代表誰做了什麼。
AI 紅隊演練包括哪些內容？
我們約定範圍與規則，然後像對手一樣攻擊您的模型與智慧代理：越獄、提示詞注入、工具投毒以及資料竊取嘗試。您會收到每項發現及其重現步驟，並依風險分級；修復後我們會複測。
貴公司能保護不是與貴公司一起建置的智慧代理和模型嗎？
可以。身分、憑證、防護欄與監控都圍繞智慧代理部署，因此它們適用於自建、由其他供應商建置或執行於供應商平台上的智慧代理。我們需要存取智慧代理的設定及其連結，而不一定需要其程式碼。
我們使用大型供應商的託管模型，我們的資料安全嗎？
這取決於該供應商的條款、其執行的區域以及您傳送的內容。我們會審查這三點，在模型前增加防外洩控制，並在資料不得離開您所在司法管轄區時，建議改用主權或私有模型。
準備開始建置？索取方案。
傳送您的需求或 RFP。我們的架構師會驗證，並提供有約束力的固定範圍方案。
後續流程
就緒評估
在免費 48 小時就緒評估中，首席架構師對照 6 項就緒定義檢查您的專案，並建議合適的路線。
有約束力的方案
在免費架構驗證之後，您會收到有約束力的固定範圍方案 3–5 個工作天內：里程碑、架構、團隊結構與 SLA。應您要求，我們會在您分享需求之前與您簽署保密協議（NDA）。
動員
簽約後，我們的工程小組於合約簽署後 5–10 個工作天內開始 Sprint 0。
五階段交付
動員、搭配現場示範的衝刺、整合與強化、驗收與上線，然後是託管服務。上線之後接著是保固期，之後選用支援與維護。