ความปลอดภัยของ AI เชิงเอเจนต์และตัวตนของเอเจนต์ AI
เอเจนต์ AI ที่ได้สิทธิ์เฉพาะที่จำเป็น และเพียงเท่าที่จำเป็น
เอเจนต์ที่มีกุญแจไขได้ทุกอย่าง
เอเจนต์ AI อ่านเอกสาร เรียก API และย้ายข้อมูลด้วยตัวเองได้แล้ว แต่ละตัวเป็นตัวตนที่ไม่ใช่มนุษย์ (NHI) คือบัญชี กุญแจ หรือโทเคนที่ซอฟต์แวร์ใช้แทนคน เอเจนต์มักได้กุญแจอายุยาวพร้อมสิทธิ์กว้าง และไม่มีใครทบทวนว่ามันทำอะไรกับกุญแจเหล่านั้น
ผู้โจมตีสังเกตเห็นแล้ว เอกสารที่สร้างขึ้นเป็นพิเศษสามารถสั่งให้เอเจนต์รั่วข้อมูล (prompt injection) คำอธิบายเครื่องมือที่ถูกวางยาเปลี่ยนทิศทางของเอเจนต์ได้ (tool poisoning) และกุญแจที่ถูกขโมยทำให้เกิดค่าใช้จ่ายบนโมเดลของคุณได้ (LLMjacking)
สิ่งที่เปลี่ยนไปสำหรับคุณ
ไม่มีสิทธิ์ที่ค้างอยู่ถาวร
เอเจนต์ได้รับข้อมูลรับรองอายุสั้นสำหรับแต่ละงาน และไม่ถือสิทธิ์ใดๆ ระหว่างงาน
พบการโจมตีก่อนผู้โจมตีค้นพบ
เอเจนต์และโมเดลของคุณถูกโจมตีโดยเจตนาในสภาพที่ควบคุมได้ และจุดอ่อนถูกแก้ไข
ข้อมูลที่อยู่ภายใน
ข้อมูลละเอียดอ่อนออกไปไม่ได้ผ่านคำตอบของโมเดล บันทึก หรือกุญแจที่ถูกขโมย
สิ่งที่เราส่งมอบ
ตัวตนของเอเจนต์ AI
เอเจนต์แต่ละตัวมีตัวตน ผู้รับผิดชอบ และวัตถุประสงค์ของตัวเอง จัดการในระบบจัดการตัวตนและการเข้าถึง (IAM) ของคุณเหมือนบัญชีอื่นๆ และบันทึกทุกการกระทำ
ข้อมูลรับรองแบบทันทีทันใด
ข้อมูลรับรองออกให้สำหรับงานเดียวและหมดอายุเมื่อจบงาน โทเคนที่รั่วจึงมีค่าเพียงเล็กน้อย และไม่มีเอเจนต์ใดถือสิทธิ์ที่ไม่ได้ใช้
การทดสอบเจาะระบบ AI
การโจมตีโมเดลและเอเจนต์ของคุณในสภาพที่ควบคุมได้ รวมถึง jailbreak, prompt injection และ tool poisoning โดยทุกข้อค้นพบถูกทำซ้ำ จัดอันดับ และทดสอบซ้ำหลังการแก้ไข
ไฟร์วอลล์ป้องกัน prompt injection และ tool poisoning
แนวป้องกันระหว่างเอเจนต์ อินพุต และเครื่องมือที่ตรวจจับและบล็อกคำสั่งที่ซ่อนในเอกสาร เว็บเพจ และคำอธิบายเครื่องมือ
การป้องกันการรั่วไหลของข้อมูล LLM
การควบคุมที่หยุดข้อมูลส่วนบุคคลและข้อมูลลับไม่ให้ออกไปผ่านคำสั่ง (prompt) คำตอบ หรือบันทึก ทั้งกับโมเดลอธิปไตยและโมเดลแบบโฮสต์
การป้องกัน LLMjacking
เก็บกุญแจโมเดลไว้ในตู้เซฟ จำกัดการใช้งาน และแจ้งเตือนเมื่อมีการใช้ผิดปกติ กุญแจที่ถูกขโมยจึงถูกจับได้ก่อนสร้างความเสียหาย
การตรวจสอบห่วงโซ่อุปทานของโมเดล
ตรวจสอบว่าโมเดล น้ำหนัก ชุดข้อมูล และเครื่องมือของเอเจนต์มาจากที่ใด และมีอะไรถูกแก้ไขหรือไม่
งานดำเนินไปอย่างไร
ทำรายการเอเจนต์
เราค้นหาเอเจนต์ โมเดล และเครื่องมือทุกตัวที่ใช้งาน ตัวตนที่ถืออยู่ และข้อมูลที่เข้าถึงได้
สร้างแบบจำลองภัยคุกคาม
สำหรับเอเจนต์แต่ละตัว เราวิเคราะห์ว่าผู้โจมตีจะเล็งอะไรและอย่างไร ตั้งแต่อินพุตจนถึงเครื่องมือ
ทดสอบเจาะระบบ
เราโจมตีเอเจนต์และโมเดลภายใต้กฎที่ตกลงกันและบันทึกทุกข้อค้นพบเพื่อให้ทำซ้ำได้
เสริมความแข็งแรง
เราเพิ่มตัวตนเอเจนต์ ข้อมูลรับรองแบบทันทีทันใด แนวป้องกัน และการควบคุมการรั่วไหล โดยเริ่มจากความเสี่ยงสูงสุด
ทดสอบซ้ำและเฝ้าระวัง
เราทดสอบซ้ำทุกการแก้ไข และตั้งการเฝ้าระวังพฤติกรรมเอเจนต์และการใช้งานโมเดล
หลักฐานจากการใช้งานจริง
เราสร้างระบบหลายเอเจนต์ที่เรารักษาความปลอดภัยเอง ในสถาบันการเงินที่อยู่ภายใต้การกำกับดูแล เอเจนต์ของเราทำงานภายใต้การกำกับของมนุษย์และการดึงข้อมูลตามสิทธิ์ เอเจนต์แต่ละตัวจึงเห็นเฉพาะเอกสารที่ผู้ใช้ของมันมีสิทธิ์เห็น
มาตรฐานและเครื่องมือ
- AI และการเรียนรู้ของเครื่อง
- Jais
- Mistral
- ความปลอดภัยและการเข้ารหัสลับ
- HashiCorp Vault
- มาตรฐานและกฎระเบียบ
- EU AI Act
- GDPR
- MENA PDPL
วิธีเริ่มต้น
ขั้นตอนถัดไป
การปรึกษาก่อนเริ่มงาน
การปรึกษาก่อนเริ่มงานออนไลน์ฟรี 30 นาที: เราพูดคุยถึงเป้าหมาย ระบบ และข้อจำกัดของคุณ
การทบทวนความพร้อม
ในการทบทวนความพร้อมฟรี 48 ชั่วโมง สถาปนิกหลักจะตรวจสอบโครงการของคุณเทียบกับนิยามของความพร้อม 6 ข้อ และแนะนำแนวทางที่เหมาะที่สุด
การเลือกแนวทาง
โครงการที่ขอบเขตพร้อมจะได้รับข้อเสนอที่มีผลผูกพัน ภายใน 3 ถึง 5 วันทำการ โครงการในระยะแนวคิดจะเริ่มใน Blueprint Studio ระบบที่ใช้งานอยู่แต่มีปัญหา ไม่มีเอกสาร หรือต้องเชื่อมต่อ จะเริ่มด้วยการวินิจฉัยระยะเวลา 1 ถึง 2 สัปดาห์ Blueprint Studio และการวินิจฉัยต่างมีค่าธรรมเนียมคงที่ ซึ่งระบุไว้ในข้อเสนอ
การส่งมอบในห้าขั้นตอน
การระดมทีม สปรินต์พร้อมการสาธิตสด การเชื่อมต่อและการเสริมความแข็งแกร่ง การตรวจรับงานและการเปิดใช้งานจริง แล้วจึงเป็นบริการที่จัดการให้ หลังเปิดใช้งานจริงจะมีระยะเวลารับประกัน จากนั้นเป็นการสนับสนุนและการบำรุงรักษาแบบเลือกได้
ผู้เชี่ยวชาญที่ฝังตัวและการเสริมบุคลากรเชิงกลยุทธ์
วิศวกรหลักและผู้เชี่ยวชาญแบบเนียร์ชอร์และในสถานที่ และสถาปนิกด้านโซลูชัน การเปลี่ยนผ่าน PQC และการเชื่อมต่อระบบที่ฝังตัว
ทีมผลิตภัณฑ์ที่ใช้ AI เป็นพื้นฐาน
ทีมย่อยข้ามสายงานของวิศวกรอาวุโสที่บริหารจัดการให้ พร้อมชุดเครื่องมือสำหรับการเขียนโค้ดด้วยเอเจนต์และการทดสอบ QA
วิธีเริ่มต้นที่เร็วที่สุดคือแพ็กเกจ การตรวจสอบความปลอดภัยหลังควอนตัม (CBOM) และเอเจนต์ ซึ่งเป็นหนึ่งในแพ็กเกจเริ่มงานแบบรวดเร็วของเรา
จุดเริ่มต้นคำถามและคำตอบ
ตัวตนที่ไม่ใช่มนุษย์คืออะไร และทำไมจึงสำคัญกับ AI
ตัวตนที่ไม่ใช่มนุษย์คือบัญชี กุญแจ หรือโทเคนใดๆ ที่ซอฟต์แวร์ใช้แทนคน ได้แก่ service account, API key และตอนนี้คือเอเจนต์ AI สร้างง่ายและลืมง่าย และหลายตัวไม่เคยหมดอายุ เอเจนต์ AI ที่ทำงานเองด้วยกุญแจลักษณะนี้สามารถก่อความเสียหายได้มากหากถูกหลอกหรือกุญแจถูกขโมย
prompt injection คืออะไร
การโจมตีที่ซ่อนคำสั่งในเนื้อหาที่โมเดล AI อ่าน เช่น อีเมล เอกสาร หรือเว็บเพจ เพื่อให้โมเดลทำตามผู้โจมตีแทนผู้ใช้ โมเดลเพียงลำพังป้องกันไม่ได้ การป้องกันต้องผสานแนวป้องกันที่อินพุตและเอาต์พุต เอเจนต์ที่มีสิทธิ์จำกัด และการอนุมัติโดยมนุษย์สำหรับการกระทำที่ละเอียดอ่อน
ข้อมูลรับรองแบบทันทีทันใดทำงานกับเอเจนต์อย่างไร
แทนกุญแจถาวร เอเจนต์ขอสิทธิ์เมื่อเริ่มงาน ได้รับข้อมูลรับรองที่จำกัดเฉพาะงานและเวลานั้น และข้อมูลรับรองหมดอายุเมื่องานจบ ทุกคำขอถูกบันทึก คุณจึงเห็นว่าเอเจนต์ใดทำอะไรและในนามของใคร
การทดสอบเจาะระบบ AI ประกอบด้วยอะไรบ้าง
เราตกลงขอบเขตและกฎ แล้วโจมตีโมเดลและเอเจนต์ของคุณแบบที่ผู้โจมตีทำ ได้แก่ jailbreak, prompt injection, tool poisoning และความพยายามดึงข้อมูล คุณได้รับทุกข้อค้นพบพร้อมขั้นตอนทำซ้ำ จัดอันดับตามความเสี่ยง และเราทดสอบซ้ำหลังการแก้ไข
คุณรักษาความปลอดภัยเอเจนต์และโมเดลที่ไม่ได้สร้างกับคุณได้หรือไม่
ได้ ตัวตน ข้อมูลรับรอง แนวป้องกัน และการเฝ้าระวังอยู่รอบเอเจนต์ จึงใช้ได้กับเอเจนต์ที่สร้างภายใน เอเจนต์จากผู้ให้บริการรายอื่น หรือบนแพลตฟอร์มของผู้จำหน่าย เราต้องเข้าถึงการตั้งค่าและการเชื่อมต่อของเอเจนต์ ไม่จำเป็นต้องเข้าถึงโค้ด
เราใช้โมเดลแบบโฮสต์จากผู้ให้บริการรายใหญ่ ข้อมูลของเรปลอดภัยหรือไม่
ขึ้นอยู่กับเงื่อนไขของผู้ให้บริการ ภูมิภาคที่ให้บริการ และสิ่งที่คุณส่งไป เราทบทวนทั้งสามเรื่อง เพิ่มการควบคุมการรั่วไหลหน้าโมเดล และเมื่อข้อมูลออกนอกเขตอำนาจของคุณไม่ได้ เราแนะนำโมเดลอธิปไตยหรือโมเดลส่วนตัวแทน
พร้อมจะสร้างแล้วหรือยัง ขอข้อเสนอได้เลย
ส่งความต้องการหรือ RFP ของคุณ สถาปนิกของเราจะตรวจสอบและส่งข้อเสนอที่มีผลผูกพันและขอบเขตคงที่กลับไปให้คุณ
ขั้นตอนถัดไป
การทบทวนความพร้อม
ในการทบทวนความพร้อมฟรี 48 ชั่วโมง สถาปนิกหลักจะตรวจสอบโครงการของคุณเทียบกับนิยามของความพร้อม 6 ข้อ และแนะนำแนวทางที่เหมาะที่สุด
ข้อเสนอที่มีผลผูกพัน
หลังการตรวจสอบความถูกต้องของสถาปัตยกรรมโดยไม่มีค่าใช้จ่าย คุณจะได้รับข้อเสนอที่มีผลผูกพันและขอบเขตคงที่ ภายใน 3 ถึง 5 วันทำการ: หมุดหมาย สถาปัตยกรรม โครงสร้างทีม และ SLA เราลงนามในข้อตกลงรักษาความลับ (NDA) กับคุณเมื่อร้องขอ ก่อนคุณแจ้งความต้องการ
การระดมทีม
เมื่อคุณลงนาม ทีมวิศวกรรมขนาดเล็กของเราจะเริ่มสปรินต์ 0 ภายใน 5 ถึง 10 วันทำการหลังลงนามสัญญา
การส่งมอบในห้าขั้นตอน
การระดมทีม สปรินต์พร้อมการสาธิตสด การเชื่อมต่อและการเสริมความแข็งแกร่ง การตรวจรับงานและการเปิดใช้งานจริง แล้วจึงเป็นบริการที่จัดการให้ หลังเปิดใช้งานจริงจะมีระยะเวลารับประกัน จากนั้นเป็นการสนับสนุนและการบำรุงรักษาแบบเลือกได้