Ajan tabanlı yapay zekâ güvenliği ve yapay zekâ ajanı kimliği
Yalnızca ihtiyaç duydukları erişime, yalnızca ihtiyaç duydukları süre boyunca sahip olan yapay zekâ ajanları
Her şeye erişim anahtarı olan ajanlar
Yapay zekâ ajanları artık belgeleri okuyor, API’leri çağırıyor ve verileri kendi başlarına taşıyor. Her biri bir insan dışı kimliktir (NHI): bir kişi yerine yazılım tarafından kullanılan bir hesap, anahtar veya belirteç. Ajanlara genellikle geniş haklara sahip uzun ömürlü anahtarlar verilir ve kimse bu anahtarlarla ne yaptıklarını denetlemez.
Saldırganlar bunu fark etti. Özenle hazırlanmış bir belge, bir ajana veri sızdırmasını emredebilir (istem enjeksiyonu), zehirlenmiş bir araç açıklaması onu başka yöne yönlendirebilir (araç zehirlenmesi) ve çalınan bir anahtar modellerinizde yüksek bir fatura oluşturabilir (LLMjacking).
Sizin için neler değişir
Kalıcı ayrıcalık yok
Ajanlar her görev için kısa ömürlü kimlik bilgileri alır ve görevler arasında hiçbir erişime sahip olmaz.
Saldırılar, saldırganlar bulmadan önce bulunur
Ajanlarınız ve modelleriniz kontrollü bir şekilde kasıtlı olarak saldırıya uğrar ve zayıflıklar giderilir.
İçeride kalan veriler
Hassas veriler bir modelin yanıtları, günlükleri veya çalınan bir anahtar aracılığıyla dışarı çıkamaz.
Neler teslim ediyoruz
Yapay zekâ ajanı kimliği
Her ajan kendi kimliğini, sahibini ve amacını alır; diğer hesaplar gibi kimlik ve erişim yönetiminizde (IAM) yönetilir ve her eylem günlüğe kaydedilir.
Dinamik tam zamanında kimlik bilgileri
Bir görev için verilen ve görev sona erdiğinde süresi dolan kimlik bilgileri; böylece sızdırılan bir belirteç çok az değer taşır ve hiçbir ajan kullanmadığı bir erişime sahip olmaz.
Yapay zekâ kırmızı takım testleri
Jailbreak, istem enjeksiyonu ve araç zehirlenmesi dahil olmak üzere modellerinize ve ajanlarınıza yönelik kontrollü saldırılar; her bulgu yeniden üretilir, risk sırasına konur ve düzeltmeden sonra yeniden test edilir.
İstem enjeksiyonu ve araç zehirlenmesi güvenlik duvarları
Ajanlar, girdileri ve araçları arasında belgelerde, web sayfalarında ve araç açıklamalarında gizlenen talimatları tespit edip engelleyen koruma kuralları.
LLM veri sızıntısı önleme
Kişisel ve gizli verilerin istemler, yanıtlar veya günlükler aracılığıyla dışarı çıkmasını engelleyen, hem egemen hem de barındırılan modeller için geçerli kontroller.
LLMjacking savunması
Kasalarda saklanan model anahtarları, kullanım limitleri ve olağan dışı tüketimde uyarılar; böylece çalınan bir anahtar size zarar vermeden yakalanır.
Model tedarik zinciri denetimleri
Modellerinizin, ağırlıklarının, veri kümelerinin ve ajan araçlarının nereden geldiğine ve herhangi birinin değiştirilip değiştirilmediğine dair kontroller.
İş nasıl yürür
Ajanları listeleyin
Kullanımdaki her ajanı, modeli ve aracı, sahip oldukları kimlikleri ve erişebildikleri verileri buluruz.
Tehditleri modelleyin
Her ajan için bir saldırganın neyi ve nasıl hedefleyeceğini, girdilerinden araçlarına kadar belirleriz.
Kırmızı takım
Ajanlara ve modellere kararlaştırılan kurallar çerçevesinde saldırır ve her bulguyu yeniden üretilebilecek şekilde kaydederiz.
Sertleştirme
En yüksek risklerden başlayarak ajan kimlikleri, tam zamanında kimlik bilgileri, koruma kuralları ve sızıntı kontrolleri getiririz.
Yeniden test edin ve izleyin
Her düzeltmeyi yeniden test eder ve ajan davranışı ile model kullanımı için izleme kurarız.
Üretimde kanıt
Güvence altına aldığımız çok ajanlı sistemleri biz kurarız. Düzenlemeye tabi bir finans kuruluşunda ajanlarımız insan gözetimi ve izinleri dikkate alan erişim altında çalışır; böylece her biri yalnızca kullanıcısının görebileceği belgeleri görür.
Standartlar ve araçlar
- Yapay zekâ ve makine öğrenmesi
- Jais
- Mistral
- Güvenlik ve kriptografi
- HashiCorp Vault
- Standartlar ve düzenlemeler
- EU AI Act
- GDPR
- MENA PDPL
Nasıl başlanır
Sırada ne var
Ön danışmanlık oturumu
Bir ücretsiz 30 dakikalık çevrim içi ön danışmanlık oturumu: hedeflerinizi, sistemlerinizi ve kısıtlarınızı gözden geçiririz.
Hazırlık incelemesi
Bir ücretsiz 48 saatlik hazırlık incelemesi kapsamında baş mimar, projenizi 6 maddelik Hazırlık Tanımı’na göre kontrol eder ve uygun olan yolu önerir.
Yolun seçilmesi
Kapsamı hazır projeler 3–5 iş günü içinde içinde bağlayıcı bir teklif alır. Konsept aşamasındaki projeler Blueprint Studio’da başlar. Arızalı, belgelenmemiş veya entegrasyon gerektiren canlı bir sistem, 1–2 hafta teşhisiyle başlar. Blueprint Studio ve teşhisin her biri, teklifte belirtilen sabit bir ücrete tabidir.
Beş aşamada teslim
Harekete geçirme, canlı gösterimli sprintler, entegrasyon ve sağlamlaştırma, kabul ve canlıya alma, ardından yönetilen hizmetler. Lansmandan sonra bir garanti dönemi, ardından isteğe bağlı destek ve bakım gelir.
Gömülü uzmanlar ve stratejik ekip güçlendirme
Yakın kıyı ve yerinde baş mühendisler ve uzmanlar ile gömülü çözüm, dönüşüm, PQC ve entegrasyon mimarları.
Yapay zekâ odaklı ürün ekipleri
Ajan tabanlı kodlama ve QA koşum takımlarıyla donatılmış, kıdemli mühendislerden oluşan yönetilen, işlevler arası podlar.
En hızlı giriş yolu, hızlı iş birliği paketlerimizden biri olan Kuantum sonrası (CBOM) ve ajan güvenliği denetimi paketidir.
Nereden başlanırSorular ve yanıtlar
İnsan dışı kimlik nedir ve yapay zekâ için neden önemlidir?
İnsan dışı kimlik, bir kişi yerine yazılım tarafından kullanılan herhangi bir hesap, anahtar veya belirteçtir: hizmet hesapları, API anahtarları ve artık yapay zekâ ajanları. Oluşturulması kolay, unutulması kolaydır ve çoğu hiç sona ermez. Böyle bir anahtarla kendi başına hareket eden bir yapay zekâ ajanı, yanıltılırsa veya anahtar çalınırsa büyük zarar verebilir.
İstem enjeksiyonu nedir?
Bir yapay zekâ modelinin okuduğu içerikte, örneğin bir e-postada, belgede veya web sayfasında talimatlar gizleyerek modelin kullanıcısı yerine saldırganı izlemesini sağlayan bir saldırıdır. Yalnızca model tarafından önlenemez. Savunma; girdiler ve çıktılar üzerindeki koruma kurallarını, sınırlı erişime sahip ajanları ve hassas eylemler için insan onayını birleştirir.
Tam zamanında kimlik bilgileri ajanlar için nasıl çalışır?
Kalıcı bir anahtar yerine ajan, bir görev başladığında erişim ister. O göreve ve o zamana sınırlı bir kimlik bilgisi alır ve görev sona erdiğinde kimlik bilgisinin süresi dolar. Her istek günlüğe kaydedilir; böylece hangi ajanın kimin adına ne yaptığını görebilirsiniz.
Yapay zekâ kırmızı takım çalışması neleri içerir?
Kapsam ve kurallar üzerinde anlaşır, ardından modellerinize ve ajanlarınıza bir saldırganın yapacağı şekilde saldırırız: jailbreak, istem enjeksiyonu, araç zehirlenmesi ve veri çıkarma girişimleri. Her bulguyu yeniden üretme adımlarıyla ve risk sırasına göre alırsınız; düzeltmelerden sonra yeniden test ederiz.
Bizimle birlikte geliştirmediğiniz ajanları ve modelleri güvence altına alabilir misiniz?
Evet. Kimlik, kimlik bilgileri, koruma kuralları ve izleme ajanın etrafında yer alır; bu nedenle şirket içinde, başka bir tedarikçi tarafından veya bir tedarikçinin platformunda geliştirilen ajanlarla çalışır. Ajanın yapılandırmasına ve bağlantılarına erişime ihtiyacımız vardır, mutlaka koduna değil.
Büyük bir sağlayıcıdan barındırılan bir model kullanıyoruz. Verilerimiz güvende mi?
Bu, sağlayıcının koşullarına, çalıştığı bölgeye ve ona ne gönderdiğinize bağlıdır. Bu üçünü inceler, modelin önüne sızıntı kontrolleri ekler ve verilerin yargı yetkinizden çıkamayacağı durumlarda bunun yerine egemen veya özel bir model öneririz.
İnşa etmeye hazır mısınız? Teklif isteyin.
Gereksinimlerinizi veya RFP’nizi gönderin. Mimarlarımız bunları doğrular ve bağlayıcı, sabit kapsamlı bir teklif sunar.
Sırada ne var
Hazırlık incelemesi
Bir ücretsiz 48 saatlik hazırlık incelemesi kapsamında baş mimar, projenizi 6 maddelik Hazırlık Tanımı’na göre kontrol eder ve uygun olan yolu önerir.
Bağlayıcı teklif
ücretsiz mimari doğrulama sonrasında, 3–5 iş günü içinde içinde bağlayıcı ve sabit kapsamlı bir teklif alırsınız: kilometre taşları, mimari, ekip yapısı ve SLA’lar. Gereksinimlerinizi paylaşmadan önce, talebiniz üzerine sizinle bir gizlilik sözleşmesi (NDA) imzalarız.
Harekete geçirme
İmzaladıktan sonra mühendislik ekiplerimiz Sprint 0’a sözleşme imzalandıktan sonra 5–10 iş günü içinde başlar.
Beş aşamada teslim
Harekete geçirme, canlı gösterimli sprintler, entegrasyon ve sağlamlaştırma, kabul ve canlıya alma, ardından yönetilen hizmetler. Lansmandan sonra bir garanti dönemi, ardından isteğe bağlı destek ve bakım gelir.