Bảo mật AI tác nhân và danh tính tác nhân AI
Tác nhân AI chỉ giữ quyền cần thiết, trong đúng thời gian cần
Tác nhân có khóa mở mọi thứ
Tác nhân AI nay tự đọc tài liệu, gọi API và chuyển dữ liệu. Mỗi tác nhân là một danh tính phi con người (NHI): tài khoản, khóa hoặc token do phần mềm dùng thay vì con người. Tác nhân thường được cấp khóa dài hạn với quyền rộng, và không ai rà soát chúng làm gì với các khóa đó.
Kẻ tấn công đã để ý. Một tài liệu được soạn có chủ đích có thể chỉ dẫn tác nhân làm rò dữ liệu (chèn lệnh), một mô tả công cụ bị đầu độc có thể chuyển hướng nó (đầu độc công cụ), và một khóa bị đánh cắp có thể đẩy chi phí sử dụng mô hình của bạn lên cao (LLMjacking).
Những gì thay đổi với bạn
Không có đặc quyền thường trực
Tác nhân nhận thông tin xác thực ngắn hạn cho từng nhiệm vụ và không giữ quyền truy cập giữa các nhiệm vụ.
Phát hiện lỗ hổng trước kẻ tấn công
Tác nhân và mô hình của bạn bị tấn công có chủ đích, trong kiểm soát, và điểm yếu được sửa.
Dữ liệu ở lại bên trong
Dữ liệu nhạy cảm không thể rời đi qua câu trả lời của mô hình, nhật ký hoặc khóa bị đánh cắp.
Chúng tôi bàn giao gì
Danh tính tác nhân AI
Mỗi tác nhân có danh tính, người sở hữu và mục đích riêng, được quản lý trong hệ thống quản lý danh tính và truy cập (IAM) của bạn như mọi tài khoản khác, với mọi hành động được ghi nhật ký.
Thông tin xác thực động cấp đúng lúc
Thông tin xác thực được cấp cho một nhiệm vụ và hết hạn khi nhiệm vụ kết thúc, nên token bị lộ gần như vô giá trị và không tác nhân nào giữ quyền mà nó không dùng.
Diễn tập red team cho AI
Tấn công có kiểm soát vào mô hình và tác nhân của bạn, gồm jailbreak, chèn lệnh và đầu độc công cụ, với mọi phát hiện được tái hiện, xếp hạng và kiểm thử lại sau khi sửa.
Tường lửa chống chèn lệnh và đầu độc công cụ
Hàng rào đặt giữa tác nhân, đầu vào và công cụ, phát hiện và chặn chỉ dẫn ẩn trong tài liệu, trang web và mô tả công cụ.
Chống rò rỉ dữ liệu LLM
Biện pháp kiểm soát ngăn dữ liệu cá nhân và dữ liệu mật rời đi qua lời nhắc, câu trả lời hoặc nhật ký, với cả mô hình chủ quyền lẫn mô hình do nhà cung cấp lưu trữ.
Phòng thủ LLMjacking
Khóa mô hình giữ trong kho, giới hạn sử dụng và cảnh báo khi mức dùng bất thường, để khóa bị đánh cắp được phát hiện trước khi gây tốn kém cho bạn.
Đánh giá chuỗi cung ứng mô hình
Kiểm tra nguồn gốc mô hình, trọng số, bộ dữ liệu và công cụ tác nhân, và liệu có thành phần nào bị sửa đổi hay không.
Công việc diễn ra thế nào
Liệt kê tác nhân
Chúng tôi tìm mọi tác nhân, mô hình và công cụ đang dùng, danh tính chúng nắm giữ và dữ liệu chúng chạm tới.
Mô hình hóa mối đe dọa
Với mỗi tác nhân, chúng tôi xác định kẻ tấn công sẽ nhắm vào đâu và bằng cách nào, từ đầu vào đến công cụ.
Diễn tập red team
Chúng tôi tấn công tác nhân và mô hình trong quy tắc đã thỏa thuận và ghi lại mọi phát hiện để tái hiện được.
Gia cố
Chúng tôi đưa vào danh tính tác nhân, thông tin xác thực đúng lúc, hàng rào và kiểm soát rò rỉ, bắt đầu từ rủi ro cao nhất.
Kiểm thử lại và giám sát
Chúng tôi kiểm thử lại mọi bản sửa và thiết lập giám sát hành vi tác nhân cùng mức dùng mô hình.
Bằng chứng trong vận hành thật
Chúng tôi xây những hệ thống đa tác nhân mà mình bảo mật. Tại một tổ chức tài chính được quản lý, tác nhân của chúng tôi làm việc dưới giám sát của con người và truy xuất nhận biết quyền, nên mỗi tác nhân chỉ thấy tài liệu mà người dùng của nó được phép thấy.
Tiêu chuẩn và công cụ
- AI và học máy
- Jais
- Mistral
- Bảo mật và mật mã
- HashiCorp Vault
- Tiêu chuẩn và quy định
- EU AI Act
- GDPR
- MENA PDPL
Cách bắt đầu
Các bước tiếp theo
Buổi tư vấn sơ bộ
Một buổi tư vấn sơ bộ trực tuyến miễn phí 30 phút: chúng tôi cùng bạn xem xét mục tiêu, hệ thống và ràng buộc.
Đánh giá mức độ sẵn sàng
Trong một đánh giá mức độ sẵn sàng miễn phí trong 48 giờ, một kiến trúc sư chính kiểm tra dự án của bạn theo định nghĩa sẵn sàng (Definition of Ready) gồm 6 điểm và đề xuất lộ trình phù hợp.
Chọn lộ trình
Các dự án đã rõ phạm vi nhận đề xuất có ràng buộc trong vòng 3 đến 5 ngày làm việc. Các dự án ở giai đoạn ý tưởng bắt đầu trong Blueprint Studio. Hệ thống đang vận hành gặp lỗi, thiếu tài liệu hoặc cần tích hợp bắt đầu bằng chẩn đoán kéo dài 1 đến 2 tuần. Blueprint Studio và chẩn đoán đều có phí cố định, được báo trong đề xuất.
Triển khai trong năm giai đoạn
Khởi động, các sprint có trình diễn trực tiếp, tích hợp và gia cố, nghiệm thu và đưa vào vận hành, sau đó là dịch vụ được quản lý. Sau khi ra mắt là thời gian bảo hành, sau đó là hỗ trợ và bảo trì tùy chọn.
Chuyên gia tham gia đội ngũ và tăng cường chiến lược
Kỹ sư chính và chuyên gia nearshore, tại chỗ, cùng kiến trúc sư giải pháp, chuyển đổi, PQC và tích hợp tham gia đội ngũ của bạn.
Đội sản phẩm thuần AI
Các nhóm đa chức năng được quản lý, gồm kỹ sư cấp cao, được trang bị bộ công cụ viết mã và kiểm thử bằng tác nhân.
Cách nhanh nhất để bắt đầu là gói Đánh giá bảo mật hậu lượng tử (CBOM) và bảo mật tác nhân, một trong các gói hợp tác nhanh của chúng tôi.
Nên bắt đầu từ đâuCâu hỏi và trả lời
Danh tính phi con người là gì, và vì sao quan trọng với AI?
Danh tính phi con người là mọi tài khoản, khóa hoặc token do phần mềm dùng thay vì con người: tài khoản dịch vụ, khóa API, và nay là tác nhân AI. Chúng dễ tạo, dễ quên, và nhiều cái không bao giờ hết hạn. Một tác nhân AI tự hành động với khóa như vậy có thể gây hại lớn nếu bị dẫn dụ hoặc khóa bị đánh cắp.
Chèn lệnh là gì?
Một cuộc tấn công ẩn chỉ dẫn trong nội dung mô hình AI đọc, như email, tài liệu hoặc trang web, để mô hình làm theo kẻ tấn công thay vì người dùng. Bản thân mô hình không thể tự ngăn chặn. Phòng thủ kết hợp hàng rào trên đầu vào và đầu ra, tác nhân có quyền hạn chế, và phê duyệt của con người cho hành động nhạy cảm.
Thông tin xác thực đúng lúc hoạt động thế nào với tác nhân?
Thay vì khóa vĩnh viễn, tác nhân xin quyền khi nhiệm vụ bắt đầu. Nó nhận thông tin xác thực giới hạn cho nhiệm vụ và thời điểm đó, và thông tin hết hạn khi nhiệm vụ kết thúc. Mọi yêu cầu đều được ghi nhật ký, nên bạn thấy tác nhân nào làm gì và thay mặt ai.
Một đợt diễn tập red team cho AI gồm những gì?
Chúng tôi thống nhất phạm vi và quy tắc, rồi tấn công mô hình và tác nhân theo cách một đối thủ thực sự sẽ làm: jailbreak, chèn lệnh, đầu độc công cụ và các nỗ lực trích xuất dữ liệu. Bạn nhận mọi phát hiện kèm bước tái hiện, xếp theo rủi ro, và chúng tôi kiểm thử lại sau khi sửa.
XSIS có bảo mật được tác nhân và mô hình mà chúng tôi không xây cùng XSIS không?
Có. Danh tính, thông tin xác thực, hàng rào và giám sát nằm quanh tác nhân, nên chúng hoạt động với tác nhân xây nội bộ, bởi nhà cung cấp khác hoặc trên nền tảng của nhà cung cấp. Chúng tôi cần quyền truy cập cấu hình tác nhân và các kết nối của nó, không nhất thiết mã nguồn.
Chúng tôi dùng mô hình do một nhà cung cấp lớn lưu trữ. Dữ liệu của chúng tôi có an toàn không?
Tùy điều khoản của nhà cung cấp, khu vực mô hình chạy và những gì bạn gửi. Chúng tôi rà soát ba điểm đó, thêm kiểm soát rò rỉ trước mô hình và, khi dữ liệu không được rời khỏi khu vực tài phán của bạn, khuyến nghị dùng mô hình chủ quyền hoặc mô hình riêng thay thế.
Sẵn sàng xây dựng? Hãy yêu cầu đề xuất.
Gửi yêu cầu hoặc RFP của bạn. Các kiến trúc sư của chúng tôi kiểm chứng và gửi lại đề xuất có ràng buộc, phạm vi cố định.
Các bước tiếp theo
Đánh giá mức độ sẵn sàng
Trong một đánh giá mức độ sẵn sàng miễn phí trong 48 giờ, một kiến trúc sư chính kiểm tra dự án của bạn theo định nghĩa sẵn sàng (Definition of Ready) gồm 6 điểm và đề xuất lộ trình phù hợp.
Đề xuất có ràng buộc
Sau bước kiểm chứng kiến trúc miễn phí, bạn nhận đề xuất có ràng buộc, phạm vi cố định trong vòng 3 đến 5 ngày làm việc: cột mốc, kiến trúc, cơ cấu đội ngũ và SLA. Chúng tôi ký thỏa thuận bảo mật (NDA) với bạn theo yêu cầu, trước khi bạn chia sẻ yêu cầu của mình.
Khởi động
Sau khi bạn ký, các nhóm kỹ thuật của chúng tôi bắt đầu Sprint 0 trong vòng 5 đến 10 ngày làm việc kể từ khi ký hợp đồng.
Triển khai trong năm giai đoạn
Khởi động, các sprint có trình diễn trực tiếp, tích hợp và gia cố, nghiệm thu và đưa vào vận hành, sau đó là dịch vụ được quản lý. Sau khi ra mắt là thời gian bảo hành, sau đó là hỗ trợ và bảo trì tùy chọn.