אבטחת AI סוכני וזהות סוכני AI
סוכני AI שמחזיקים רק את הגישה שהם צריכים, ורק כל עוד הם צריכים אותה
סוכנים עם מפתחות לכל דבר
סוכני AI קוראים היום מסמכים, קוראים ל-API ומעבירים נתונים בעצמם. כל אחד מהם הוא זהות לא אנושית (NHI): חשבון, מפתח או טוקן שבהם משתמשת תוכנה ולא אדם. לעיתים קרובות ניתנים לסוכנים מפתחות ארוכי חיים עם הרשאות רחבות, ואיש אינו סוקר מה הם עושים איתם.
תוקפים שמו לב. מסמך מחוכם יכול להורות לסוכן להדליף נתונים (הזרקת הנחיות), תיאור כלי מורעל יכול לנתב אותו מחדש (הרעלת כלים), ומפתח גנוב יכול לצבור חשבון גבוה על המודלים שלכם (LLMjacking).
מה משתנה אצלכם
בלי הרשאות קבועות
סוכנים מקבלים הרשאות זמניות לפי דרישה לכל משימה ואינם מחזיקים גישה בין משימות.
תקיפות שמתגלות לפני התוקפים
הסוכנים והמודלים שלכם מותקפים בכוונה, באורח מבוקר, והחולשות מתוקנות.
נתונים שנשארים בפנים
נתונים רגישים אינם יכולים לצאת דרך תשובות של מודל, דרך היומנים שלו או דרך מפתח גנוב.
מה אנחנו מספקים
זהות לסוכני AI
כל סוכן מקבל זהות, בעלים ומטרה משל עצמו, מנוהלים בניהול הזהויות והגישה (IAM) שלכם כמו כל חשבון אחר, עם תיעוד של כל פעולה.
הרשאות זמניות דינמיות לפי דרישה
הרשאות מונפקות למשימה אחת ופגות כשהמשימה מסתיימת, כך שטוקן שהודלף שווה מעט וסוכן אינו מחזיק גישה שאינו משתמש בה.
תקיפת צוות אדום של AI
תקיפות מבוקרות על המודלים והסוכנים שלכם, ובהן פריצות מגבלות, הזרקת הנחיות והרעלת כלים, כשכל ממצא משוחזר, מדורג ונבדק מחדש אחרי התיקון.
חומות אש מפני הזרקת הנחיות והרעלת כלים
מעקות בטיחות בין הסוכנים, הקלטים והכלים שלהם שמזהים וחוסמים הנחיות מוסתרות במסמכים, בדפי אינטרנט ובתיאורי כלים.
מניעת דליפת נתונים ב-LLM
בקרות שמונעות מנתונים אישיים וחסויים לצאת דרך הנחיות, תשובות או יומנים, במודלים ריבוניים ובמודלים מתארחים כאחד.
הגנה מפני LLMjacking
מפתחות מודל נשמרים בכספת, עם מגבלות שימוש והתראות על צריכה חריגה, כך שמפתח גנוב נתפס לפני שהוא עולה לכם.
ביקורות שרשרת אספקה של מודלים
בדיקות מהיכן מגיעים המודלים, המשקולות, מערכי הנתונים וכלי הסוכנים שלכם, והאם משהו שונה.
איך העבודה מתנהלת
מיפוי הסוכנים
אנחנו מוצאים כל סוכן, מודל וכלי בשימוש, את הזהויות שהם מחזיקים ואת הנתונים שהם יכולים להגיע אליהם.
מודל האיומים
לכל סוכן אנחנו מחליטים מה תוקף היה מכוון אליו וכיצד, מהקלטים שלו ועד הכלים שלו.
תקיפה
אנחנו תוקפים את הסוכנים והמודלים בכללים מוסכמים ומתעדים כל ממצא כך שאפשר לשחזר אותו.
חיסון
אנחנו מכניסים זהויות לסוכנים, הרשאות זמניות לפי דרישה, מעקות בטיחות ובקרות דליפה, החל מהסיכונים הגבוהים ביותר.
בדיקה חוזרת וניטור
אנחנו בודקים מחדש כל תיקון ומקימים ניטור להתנהגות הסוכנים ולשימוש במודלים.
הוכחה בייצור
אנחנו בונים את המערכות מרובות הסוכנים שאנחנו מאבטחים. במוסד פיננסי מפוקח, הסוכנים שלנו פועלים תחת פיקוח אנושי ושליפה מודעת הרשאות, כך שכל אחד רואה רק את המסמכים שהמשתמש שלו רשאי לראות.
תקנים וכלים
- AI ולמידת מכונה
- Jais
- Mistral
- אבטחה וקריפטוגרפיה
- HashiCorp Vault
- תקנים ורגולציה
- EU AI Act
- GDPR
- MENA PDPL
איך מתחילים
מה קורה עכשיו
מפגש ייעוץ מקדים
מפגש ייעוץ מקדים מקוון ללא עלות של 30 דקות: אנחנו עוברים איתכם על המטרות, המערכות והמגבלות שלכם.
סקירת מוכנות
במסגרת סקירת מוכנות ללא עלות בת 48 שעות, מהנדס ראשי בודק את הפרויקט שלכם מול הגדרת המוכנות בת שש הנקודות וממליץ על המסלול המתאים.
בחירת המסלול
פרויקטים עם היקף מוכן מקבלים הצעה מחייבת בתוך 3–5 ימי עסקים. פרויקטים בשלב הרעיון מתחילים ב-Blueprint Studio. מערכת חיה שנכשלת, אינה מתועדת או זקוקה לאינטגרציה מתחילה באבחון של 1–2 שבועות. ל-Blueprint Studio ולאבחון יש שכר טרחה קבוע, הנקוב בהצעה.
אספקה בחמישה שלבים
התנעה, ספרינטים עם הדגמות חיות, אינטגרציה והקשחה, קבלה ועלייה לאוויר, ואז שירותים מנוהלים. לאחר ההשקה מגיע תקופת אחריות, ולאחריה תמיכה ותחזוקה אופציונליות.
מומחים מוטמעים ותגבור כוח אדם אסטרטגי
מהנדסים ראשיים ומומחים קרוב גיאוגרפית ובאתר הלקוח, ואדריכלי פתרונות, טרנספורמציה, PQC ואינטגרציה מוטמעים.
צוותי מוצר נייטיב ל-AI
צוותים מנוהלים ורב־תחומיים של מהנדסים בכירים, עם סביבות קידוד סוכניות וסביבות QA.
הדרך המהירה ביותר היא חבילת ביקורת אבטחת סוכנים ופוסט־קוונטית (CBOM), אחת מחבילות ההתקשרות המהירות שלנו.
מאיפה להתחילשאלות ותשובות
מהי זהות לא אנושית, ולמה היא חשובה ל-AI?
זהות לא אנושית היא כל חשבון, מפתח או טוקן שבהם משתמשת תוכנה במקום אדם: חשבונות שירות, מפתחות API, ועכשיו גם סוכני AI. קל ליצור אותם וקל לשכוח מהם, ורבים מהם אינם פגים לעולם. סוכן AI שפועל בעצמו עם מפתח כזה יכול לגרום לנזק רב אם מטעים אותו או אם המפתח נגנב.
מהי הזרקת הנחיות?
תקיפה שמסתירה הנחיות בתוכן שמודל AI קורא, כמו דואר אלקטרוני, מסמך או דף אינטרנט, כך שהמודל פועל לפי התוקף ולא לפי המשתמש שלו. אי אפשר למנוע אותה במודל לבדו. ההגנה משלבת מעקות בטיחות על קלטים ופלטים, סוכנים עם גישה מוגבלת ואישור אנושי לפעולות רגישות.
איך עובדות הרשאות זמניות לפי דרישה לסוכנים?
במקום מפתח קבוע, הסוכן מבקש גישה כשמשימה מתחילה. הוא מקבל הרשאה מוגבלת לאותה משימה ולאותו זמן, וההרשאה פוגה כשהמשימה מסתיימת. כל בקשה מתועדת, כך שאתם יכולים לראות איזה סוכן עשה מה ובשם מי.
מה כולל תרגיל צוות אדום של AI?
אנחנו מסכימים על ההיקף והכללים, ואז תוקפים את המודלים והסוכנים שלכם כפי שתוקף היה עושה: פריצות מגבלות, הזרקת הנחיות, הרעלת כלים וניסיונות לחלץ נתונים. אתם מקבלים כל ממצא עם השלבים לשחזורו, מדורג לפי סיכון, ואנחנו בודקים מחדש אחרי התיקונים.
האם אתם יכולים לאבטח סוכנים ומודלים שלא בניתם איתנו?
כן. זהות, הרשאות, מעקות בטיחות וניטור יושבים סביב הסוכן, ולכן הם עובדים עם סוכנים שנבנו בבית, על ידי ספק אחר או על פלטפורמה של ספק. אנחנו צריכים גישה לתצורה של הסוכן ולחיבורים שלו, ולא בהכרח לקוד שלו.
אנחנו משתמשים במודל מתארח של ספק גדול. האם הנתונים שלנו בטוחים?
זה תלוי בתנאים של הספק, באזור שבו הוא פועל ובמה שאתם שולחים לו. אנחנו בוחנים את שלושת אלה, מוסיפים בקרות דליפה לפני המודל, והיכן שהנתונים אינם יכולים לצאת מתחום השיפוט שלכם ממליצים על מודל ריבוני או פרטי במקום.
מוכנים לבנות? בקשו הצעה.
שלחו את הדרישות או ה-RFP שלכם. הארכיטקטים שלנו מאמתים אותם ומחזירים הצעה מחייבת בהיקף קבוע.
מה קורה עכשיו
סקירת מוכנות
במסגרת סקירת מוכנות ללא עלות בת 48 שעות, מהנדס ראשי בודק את הפרויקט שלכם מול הגדרת המוכנות בת שש הנקודות וממליץ על המסלול המתאים.
הצעה מחייבת
לאחר אימות ארכיטקטורה ללא עלות, תקבלו הצעה מחייבת בהיקף קבוע בתוך 3–5 ימי עסקים: אבני דרך, ארכיטקטורה, מבנה צוות ו-SLA. אנחנו חותמים איתכם על הסכם סודיות (NDA) לפי בקשה, לפני שאתם משתפים את הדרישות שלכם.
התנעה
לאחר החתימה, צוותי ההנדסה שלנו מתחילים את ספרינט 0 בתוך 5–10 ימי עסקים מחתימת החוזה.
אספקה בחמישה שלבים
התנעה, ספרינטים עם הדגמות חיות, אינטגרציה והקשחה, קבלה ועלייה לאוויר, ואז שירותים מנוהלים. לאחר ההשקה מגיע תקופת אחריות, ולאחריה תמיכה ותחזוקה אופציונליות.