الأمن السيبراني والحوسبة الكمية
أمن الذكاء الاصطناعي الوكيل وهوية وكلاء الذكاء الاصطناعي
وكلاء الذكاء الاصطناعي لا يملكون إلا الصلاحيات التي يحتاجونها، وللمدة التي يحتاجونها فقط
وكلاء يملكون مفاتيح كل شيء
يقرأ وكلاء الذكاء الاصطناعي اليوم المستندات، ويستدعون واجهات API، وينقلون البيانات من تلقاء أنفسهم. كل وكيل هو هوية غير بشرية (NHI): حساب أو مفتاح أو رمز تستخدمه البرمجيات بدلا من الإنسان. وكثيرا ما يحصل الوكلاء على مفاتيح طويلة الأجل بصلاحيات واسعة، ولا يراجع أحد ما يفعلونه بها.
وقد انتبه المهاجمون إلى ذلك. فمستند مصاغ بعناية يمكن أن يوجه وكيلا إلى تسريب البيانات (حقن التعليمات)، ووصف مسموم لأداة يمكن أن يعيد توجيهه (تسميم الأدوات)، ومفتاح مسروق يمكن أن يضخم فاتورة استخدام نماذجك (LLMjacking).
ما الذي يتغير لديك
لا صلاحيات دائمة
يحصل الوكلاء على بيانات اعتماد قصيرة الأجل لكل مهمة، ولا يحتفظون بأي صلاحية بين المهام.
هجمات نكتشفها قبل أن يكتشفها المهاجمون
نهاجم وكلاءك ونماذجك عمدا وبطريقة مضبوطة، ثم نعالج مواطن الضعف.
بيانات لا تخرج
لا يمكن للبيانات الحساسة أن تخرج عبر إجابات النموذج أو سجلاته أو مفتاح مسروق.
ما نقدمه
هوية وكيل الذكاء الاصطناعي
يحصل كل وكيل على هوية ومالك وغرض خاص به، وتدار في نظام إدارة الهوية والصلاحيات (IAM) لديك كأي حساب آخر، مع تسجيل كل إجراء.
بيانات اعتماد ديناميكية تصدر عند الحاجة
بيانات اعتماد تصدر لمهمة واحدة وتنتهي بانتهائها، فلا قيمة تذكر لرمز مسرب، ولا يحتفظ أي وكيل بصلاحية لا يستخدمها.
الاختبار الهجومي للذكاء الاصطناعي
هجمات مضبوطة على نماذجك ووكلائك، تشمل تجاوز ضوابط الحماية (jailbreaks) وحقن التعليمات وتسميم الأدوات، مع إعادة إنتاج كل اكتشاف وترتيبه وإعادة اختباره بعد المعالجة.
جدران حماية ضد حقن التعليمات وتسميم الأدوات
ضوابط حماية بين الوكلاء ومدخلاتهم وأدواتهم، تكشف التعليمات المخفية في المستندات وصفحات الويب وأوصاف الأدوات وتحجبها.
منع تسرب بيانات النماذج اللغوية الكبيرة (LLM)
ضوابط تمنع خروج البيانات الشخصية والسرية عبر التعليمات أو الإجابات أو السجلات، سواء للنماذج السيادية أو المستضافة.
الحماية من LLMjacking
مفاتيح النماذج محفوظة في خزانة، مع حدود للاستخدام وتنبيهات عند الاستهلاك غير المعتاد، بحيث نكتشف المفتاح المسروق قبل أن يكلفك شيئا.
تدقيق سلسلة توريد النماذج
فحوص لمصدر نماذجك وأوزانها ومجموعات بياناتك وأدوات الوكلاء، ولما إذا كان أي منها قد تغير.
كيف يسير العمل
حصر الوكلاء
نحدد كل وكيل ونموذج وأداة قيد الاستخدام، والهويات التي تحملها والبيانات التي يمكنها الوصول إليها.
نمذجة التهديدات
لكل وكيل، نحدد ما سيستهدفه المهاجم وكيف، من مدخلاته إلى أدواته.
الاختبار الهجومي
نهاجم الوكلاء والنماذج ضمن قواعد متفق عليها، ونسجل كل اكتشاف بما يتيح إعادة إنتاجه.
التحصين
ننشئ هويات للوكلاء، ونمنح بيانات الاعتماد عند الحاجة فقط، ونضيف ضوابط حماية وضوابط لمنع التسريب، بدءا من المخاطر الأعلى.
إعادة الاختبار والمراقبة
نعيد اختبار كل إصلاح، وننشئ مراقبة لسلوك الوكلاء واستخدام النماذج.
الإثبات في بيئة الإنتاج
نبني أنظمة الوكلاء المتعددين التي نؤمنها. في مؤسسة مالية خاضعة للتنظيم، تعمل وكلاؤنا تحت المراجعة البشرية واسترجاع يراعي الصلاحيات، فلا يرى كل وكيل إلا المستندات التي يجوز لمستخدمه رؤيتها.
المعايير والأدوات
- الذكاء الاصطناعي وتعلم الآلة
- Jais
- Mistral
- الأمن والتشفير
- HashiCorp Vault
- المعايير والتنظيمات
- EU AI Act
- GDPR
- MENA PDPL
كيف تبدأ
الخطوات التالية
الجلسة الاستشارية التمهيدية
جلسة استشارية تمهيدية مجانية عبر الإنترنت مدتها 30 دقيقة: نستعرض فيها أهدافك وأنظمتك والقيود التي تواجهك.
مراجعة الجاهزية
في مراجعة جاهزية مجانية مدتها 48 ساعة، يراجع مهندس معماري رئيسي مشروعك وفق تعريف الجاهزية المكون من 6 نقاط، ويوصي بالمسار المناسب.
اختيار المسار
المشاريع الجاهزة من حيث النطاق تحصل على عرض ملزم في غضون 3–5 أيام عمل. ومشاريع مرحلة الفكرة تبدأ في Blueprint Studio. والنظام القائم الذي يتعرض لأعطال أو يفتقر إلى توثيق أو يحتاج إلى تكامل يبدأ بتشخيص يستغرق 1–2 أسبوع. ولكل من Blueprint Studio والتشخيص رسم ثابت يرد في العرض.
التنفيذ في 5 مراحل
التعبئة، ثم دورات عمل بعروض حية، ثم التكامل والتقوية، ثم القبول وبدء التشغيل، ثم الخدمات المدارة. وبعد الإطلاق تأتي فترة ضمان، تليها خدمات الدعم والصيانة الاختيارية.
متخصصون مدمجون وتعزيز استراتيجي
مهندسون رئيسيون ومتخصصون في المواقع القريبة وفي موقع العميل، ومعماريو حلول وتحول وتكامل وPQC مدمجون.
فرق منتجات قائمة على الذكاء الاصطناعي
فرق مدارة متعددة التخصصات من كبار المهندسين، مزودة بمنظومات للبرمجة وضمان الجودة تعمل بالوكلاء.
أسرع طريقة للبدء هي باقة تدقيق التشفير ما بعد الكمي (CBOM) وأمن الوكلاء، إحدى باقات التعاون السريع لدينا.
من أين تبدأالأسئلة والأجوبة
ما هي الهوية غير البشرية، ولماذا تهم في الذكاء الاصطناعي؟
الهوية غير البشرية هي أي حساب أو مفتاح أو رمز تستخدمه البرمجيات بدلا من شخص: حسابات الخدمات، ومفاتيح API، والآن وكلاء الذكاء الاصطناعي. يسهل إنشاؤها ويسهل نسيانها، وكثير منها لا تنتهي صلاحيته. ووكيل الذكاء الاصطناعي الذي يتصرف من تلقاء نفسه بمثل هذا المفتاح يمكن أن يلحق ضررا كبيرا إذا ضلله أحد أو سرق المفتاح.
ما هو حقن التعليمات؟
هجوم يخفي تعليمات داخل محتوى يقرأه نموذج الذكاء الاصطناعي، مثل رسالة بريد إلكتروني أو مستند أو صفحة ويب، فيتبع النموذج المهاجم بدلا من مستخدمه. ولا يمكن للنموذج وحده منعه. يجمع الدفاع بين ضوابط حماية على المدخلات والمخرجات، ووكلاء بصلاحيات محدودة، وموافقة بشرية على الإجراءات الحساسة.
كيف تعمل بيانات الاعتماد التي تمنح عند الحاجة للوكلاء؟
بدلا من مفتاح دائم، يطلب الوكيل صلاحية الوصول عند بدء المهمة. فيحصل على بيانات اعتماد مقيدة بتلك المهمة وبتلك المدة، تنتهي صلاحيتها عند انتهاء المهمة. ويجري تسجيل كل طلب، فترى أي وكيل فعل ماذا وبالنيابة عمن.
ماذا يتضمن تمرين الفريق الأحمر للذكاء الاصطناعي؟
نتفق على النطاق والقواعد، ثم نهاجم نماذجك ووكلاءك كما يفعل الخصم: كسر القيود، وحقن التعليمات، وتسميم الأدوات، ومحاولات استخراج البيانات. وتتلقى كل نتيجة مع خطوات إعادة إنتاجها، مرتبة حسب المخاطر، ونعيد الاختبار بعد الإصلاحات.
هل يمكنك تأمين وكلاء ونماذج لم نبنها معك؟
نعم. الهوية وبيانات الاعتماد وضوابط الحماية والمراقبة تحيط بالوكيل، لذا تعمل مع الوكلاء الذين تبنيها فرق داخلية أو مورد آخر أو منصة أحد الموردين. نحتاج إلى الوصول إلى إعدادات الوكيل وروابطه، وليس بالضرورة إلى شيفرته.
نستخدم نموذجا مستضافا من مزود كبير. هل بياناتنا آمنة؟
يتوقف ذلك على شروط المزود، والمنطقة التي يعمل فيها، وما ترسله إليه. نراجع هذه الثلاثة، ونضيف ضوابط لمنع التسريب أمام النموذج، ونوصي بنموذج سيادي أو خاص بدلا منه حيث لا يجوز أن تغادر البيانات نطاق اختصاصك.
إن كنت جاهزا للبناء، اطلب عرضا.
أرسل متطلباتك أو طلب تقديم العروض (RFP). يتحقق منها مهندسونا المعماريون ويعيدون إليك عرضا ملزما بنطاق ثابت.
الخطوات التالية
مراجعة الجاهزية
في مراجعة جاهزية مجانية مدتها 48 ساعة، يراجع مهندس معماري رئيسي مشروعك وفق تعريف الجاهزية المكون من 6 نقاط، ويوصي بالمسار المناسب.
عرض ملزم
بعد التحقق من البنية التقنية دون تكلفة، تتلقى عرضا ملزما بنطاق ثابت في غضون 3–5 أيام عمل: المراحل الرئيسية والبنية التقنية وهيكل الفريق واتفاقيات مستوى الخدمة (SLA). نوقع معك اتفاقية عدم إفصاح (NDA) عند الطلب، قبل أن تشاركنا متطلباتك.
التعبئة
فور توقيعك، تبدأ فرق الهندسة لدينا Sprint 0 في غضون 5–10 أيام عمل من توقيع العقد.
التنفيذ في 5 مراحل
التعبئة، ثم دورات عمل بعروض حية، ثم التكامل والتقوية، ثم القبول وبدء التشغيل، ثم الخدمات المدارة. وبعد الإطلاق تأتي فترة ضمان، تليها خدمات الدعم والصيانة الاختيارية.