ข้ามไปยังเนื้อหา
XSIS
พื้นที่ลูกค้าขอข้อเสนอ
วิศวกรเดินผ่านทางเดินระหว่างตู้แร็กระบบในศูนย์ข้อมูล

กรณีศึกษา

แพลตฟอร์ม LLM แบบอธิปไตยที่แยกเครือข่าย ระบบอัตโนมัติหลายเอเจนต์บน MCP และ FinOps สำหรับโทเคน

AI สำหรับใช้งานจริงที่ CISO อนุมัติและ CFO ยินดี โดยข้อมูลลูกค้าทุกไบต์ยังอยู่ในเขตอำนาจศาลของตน

จองการปรึกษาฟรีเริ่มด้วย Blueprint Studio

ภาพรวมโดยย่อ

  1. ลูกค้า

    สถาบันบริการทางการเงินภายใต้การกำกับดูแลในยุโรปและ MENA

  2. ทีม

    สถาปนิก AI และข้อมูลหลัก 1 คน วิศวกร ML และเอเจนต์แบบอธิปไตย 2 คน และวิศวกรความปลอดภัยคลาวด์และ PQC 1 คน

  3. ระยะเวลา

    10 สัปดาห์

ความท้าทาย

ลูกค้าต้องการทำระบบอัตโนมัติสำหรับการสกัดข้อมูลจากเอกสาร KYC สองภาษา (อังกฤษและอาหรับ) การตรวจสอบด้านการปฏิบัติตามข้อกำหนด และการค้นคืนความรู้ภายในองค์กรที่ซับซ้อน กฎถิ่นที่อยู่ของข้อมูลที่เข้มงวด กฎหมายคุ้มครองข้อมูลส่วนบุคคลของ MENA (PDPL) EU AI Act และ DORA ห้ามส่งข้อมูลส่วนบุคคลดิบของลูกค้าไปยัง API ของ LLM สาธารณะในสหรัฐอเมริกา

ต้นแบบ AI บนคลาวด์ตัวแรกยังประสบกับค่าใช้จ่ายในการอนุมานด้วยโทเคนที่พุ่งสูง และความเสี่ยงที่โมเดลจะสร้างข้อมูลขึ้นมาเอง

สิ่งที่เราสร้างและเชื่อมต่อ

  1. การอนุมานภายในโดยไม่มีข้อมูลออกไป

    คลัสเตอร์การอนุมานภายในสำหรับโมเดลภาษาขนาดใหญ่และขนาดเล็ก ภายใน VPC ของคลาวด์ภูมิภาคอธิปไตย พร้อม GraphRAG ที่รับรู้สิทธิ์ ซึ่งบังคับใช้การเข้าถึงเอกสารตามบทบาท

  2. เอเจนต์ MCP ที่มีมนุษย์กำกับดูแล

    เอเจนต์อัตโนมัติบน Model Context Protocol (MCP) ที่มีมนุษย์กำกับดูแล ซึ่งสกัด ตรวจทานไขว้ และบันทึกเอกสาร KYC การค้าต่างประเทศ และการรับลูกค้าใหม่ เข้าสู่ระบบหลักโดยตรง (การประมวลผลเอกสารอัจฉริยะ, IDP 2.0)

  3. เกตเวย์ FinOps สำหรับโทเคน

    แคชเชิงความหมายและการกำหนดเส้นทางโมเดลแบบไดนามิก ที่ส่งงานประจำสัดส่วน 75% ไปยังโมเดลภาษาขนาดเล็กที่ทำ quantization และเก็บโมเดลระดับแนวหน้าไว้สำหรับการให้เหตุผลที่ซับซ้อน

ระบบและสแตก

AI และการเรียนรู้ของเครื่อง
  • Mistral

ผลลัพธ์ที่วัดได้

ค่าใช้จ่ายโทเคน AI และการอนุมานด้วย GPU รายเดือนที่ลดลง จากการแคชเชิงความหมายและการกำหนดเส้นทางไปยังโมเดลขนาดเล็ก
52%
เร็วขึ้นในการรับลูกค้าใหม่และประมวลผลเอกสาร KYC พร้อมลิงก์อ้างอิงที่แน่นอนสำหรับเจ้าหน้าที่ตรวจสอบการปฏิบัติตามข้อกำหนด
78%
และไม่มีการรั่วไหลของข้อมูลส่วนบุคคลออกภายนอก ผ่านการตรวจสอบความเสี่ยงภายในของ CISO และการตรวจสอบด้านกฎระเบียบตั้งแต่รอบแรก
ถิ่นที่อยู่ของข้อมูล 100%

XSIS มอบ AI อธิปไตยระดับใช้งานจริงที่ CISO ของเราอนุมัติและ CFO ของเราชื่นชม ช่วยลดบิลค่าการอนุมานลงครึ่งหนึ่ง ขณะที่ข้อมูลลูกค้าทุกไบต์ยังอยู่ในเขตอำนาจศาลของเรา

ประธานเจ้าหน้าที่สารสนเทศและ AI

เริ่มต้นด้วยการพูดคุย ไม่ใช่สัญญา

บอกเราว่าคุณต้องการสร้าง เชื่อมต่อ หรือรักษาความปลอดภัยอะไร สถาปนิกจะพิจารณาร่วมกับคุณ แล้วแนะนำว่าควรเริ่มที่ใด

จองการปรึกษาฟรีเริ่มด้วย Blueprint Studio

ขั้นตอนถัดไป

  1. การนัดหมายเวลา

    ทีมของเราส่งอีเมลถึงคุณเพื่อนัดหมายเวลาสำหรับการปรึกษา

  2. การปรึกษาก่อนเริ่มงาน

    การปรึกษาก่อนเริ่มงานออนไลน์ฟรี 30 นาที: เราพูดคุยถึงเป้าหมาย ระบบ และข้อจำกัดของคุณ

  3. การทบทวนความพร้อม

    ในการทบทวนความพร้อมฟรี 48 ชั่วโมง สถาปนิกหลักจะตรวจสอบโครงการของคุณเทียบกับนิยามของความพร้อม 6 ข้อ และแนะนำแนวทางที่เหมาะที่สุด

  4. การเลือกแนวทาง

    โครงการที่ขอบเขตพร้อมจะได้รับข้อเสนอที่มีผลผูกพัน ภายใน 3 ถึง 5 วันทำการ โครงการในระยะแนวคิดจะเริ่มใน Blueprint Studio ระบบที่ใช้งานอยู่แต่มีปัญหา ไม่มีเอกสาร หรือต้องเชื่อมต่อ จะเริ่มด้วยการวินิจฉัยระยะเวลา 1 ถึง 2 สัปดาห์ Blueprint Studio และการวินิจฉัยต่างมีค่าธรรมเนียมคงที่ ซึ่งระบุไว้ในข้อเสนอ