Chuyển đến nội dung
XSIS
Một kỹ sư đi dọc lối giữa các giá máy chủ trong trung tâm dữ liệu

Nghiên cứu điển hình

Nền tảng LLM có chủ quyền chạy biệt lập hoàn toàn, tự động hóa đa tác nhân bằng MCP và FinOps token

AI vận hành thật được CISO phê duyệt và CFO hoan nghênh, với mọi byte dữ liệu khách hàng được giữ trong phạm vi tài phán của tổ chức.

Tổng quan nhanh

  1. Khách hàng

    Một tổ chức dịch vụ tài chính châu Âu và MENA được quản lý chặt chẽ.

  2. Đội ngũ

    1 kiến trúc sư AI và dữ liệu chính, 2 kỹ sư ML và tác nhân chủ quyền và 1 kỹ sư bảo mật đám mây và PQC

  3. Thời gian thực hiện

    10 tuần

Thách thức

Khách hàng muốn tự động hóa việc trích xuất tài liệu KYC song ngữ phức tạp (tiếng Anh và tiếng Ả Rập), kiểm toán tuân thủ và truy xuất tri thức nội bộ. Các luật lưu trú dữ liệu nghiêm ngặt, luật bảo vệ dữ liệu cá nhân của MENA (PDPL), EU AI Act và DORA cấm gửi dữ liệu cá nhân thô của khách hàng tới API LLM tiêu dùng công khai của Mỹ.

Nguyên mẫu AI đám mây đầu tiên của tổ chức cũng gặp chi phí suy luận token tăng vọt và rủi ro ảo giác.

Chúng tôi đã xây và kết nối gì

  1. Suy luận riêng, không dữ liệu rời khỏi hệ thống

    Một cụm suy luận riêng cho mô hình ngôn ngữ lớn và nhỏ bên trong một VPC đám mây có chủ quyền trong khu vực, với GraphRAG nhận biết quyền, thực thi quyền truy cập tài liệu theo vai trò.

  2. Tác nhân MCP được giám sát

    Các tác nhân tự chủ trên Giao thức ngữ cảnh mô hình (MCP), do con người giám sát, trích xuất, đối chiếu và hạch toán thẳng tài liệu KYC, tài trợ thương mại và tiếp nhận vào hệ thống lõi (xử lý tài liệu thông minh, IDP 2.0).

  3. Cổng FinOps token

    Bộ nhớ đệm ngữ nghĩa và định tuyến mô hình động chuyển 75% công việc thường quy tới mô hình ngôn ngữ nhỏ đã lượng tử hóa, và dành mô hình tiên phong cho suy luận phức tạp.

Hệ thống và công nghệ

AI và học máy
  • Mistral

Kết quả đo được

chi phí suy luận token AI và GPU hằng tháng thấp hơn, nhờ bộ nhớ đệm ngữ nghĩa và định tuyến sang mô hình nhỏ
52%
tiếp nhận KYC và tài liệu nhanh hơn, với liên kết trích dẫn tất định cho cán bộ tuân thủ
78%
và không rò rỉ dữ liệu cá nhân ra ngoài, vượt qua các đợt kiểm toán rủi ro nội bộ của CISO và kiểm toán rủi ro pháp lý ngay lần rà soát đầu tiên
100% lưu trú dữ liệu

XSIS mang đến cho chúng tôi AI có chủ quyền đạt chuẩn vận hành thật, được CISO phê duyệt và CFO hoan nghênh, giảm một nửa chi phí suy luận của chúng tôi trong khi giữ mọi byte dữ liệu khách hàng trong phạm vi tài phán của chúng tôi.

Giám đốc thông tin và AI

Bắt đầu bằng một cuộc trò chuyện, không phải hợp đồng.

Cho chúng tôi biết bạn cần xây dựng, kết nối hoặc bảo vệ điều gì. Một kiến trúc sư sẽ cùng bạn xem xét, rồi đề xuất nơi nên bắt đầu.

Các bước tiếp theo

  1. Thống nhất thời gian

    Đội ngũ của chúng tôi gửi email để thống nhất thời gian cho buổi tư vấn.

  2. Buổi tư vấn sơ bộ

    Một buổi tư vấn sơ bộ trực tuyến miễn phí 30 phút: chúng tôi cùng bạn xem xét mục tiêu, hệ thống và ràng buộc.

  3. Đánh giá mức độ sẵn sàng

    Trong một đánh giá mức độ sẵn sàng miễn phí trong 48 giờ, một kiến trúc sư chính kiểm tra dự án của bạn theo định nghĩa sẵn sàng (Definition of Ready) gồm 6 điểm và đề xuất lộ trình phù hợp.

  4. Chọn lộ trình

    Các dự án đã rõ phạm vi nhận đề xuất có ràng buộc trong vòng 3 đến 5 ngày làm việc. Các dự án ở giai đoạn ý tưởng bắt đầu trong Blueprint Studio. Hệ thống đang vận hành gặp lỗi, thiếu tài liệu hoặc cần tích hợp bắt đầu bằng chẩn đoán kéo dài 1 đến 2 tuần. Blueprint Studio và chẩn đoán đều có phí cố định, được báo trong đề xuất.