Keamanan AI agentik dan identitas agen AI
Agen AI yang hanya memegang akses yang dibutuhkan, dan hanya selama diperlukan
Agen dengan kunci untuk semuanya
Agen AI kini membaca dokumen, memanggil API, dan memindahkan data sendiri. Setiap agen adalah identitas nonmanusia (NHI): akun, kunci, atau token yang digunakan perangkat lunak, bukan orang. Agen sering diberi kunci berumur panjang dengan hak yang luas, dan tidak ada yang meninjau apa yang dilakukan agen dengan kunci itu.
Penyerang sudah menyadarinya. Dokumen yang dirancang khusus dapat memerintahkan agen membocorkan data (injeksi prompt), deskripsi alat yang teracuni dapat membelokkannya (peracunan alat), dan kunci yang dicuri dapat membengkakkan tagihan model Anda (LLMjacking).
Yang berubah bagi Anda
Tanpa hak istimewa yang menetap
Agen menerima kredensial berumur pendek untuk setiap tugas dan tidak memegang akses di antara tugas.
Serangan ditemukan sebelum penyerang menemukannya
Agen dan model Anda diserang secara sengaja dan terkendali, lalu kelemahannya diperbaiki.
Data yang tidak keluar
Data sensitif tidak dapat keluar melalui jawaban model, log-nya, atau kunci yang dicuri.
Yang kami sediakan
Identitas agen AI
Setiap agen memperoleh identitas, pemilik, dan tujuan sendiri, dikelola dalam manajemen identitas dan akses (IAM) Anda seperti akun lain, dengan setiap tindakan tercatat dalam log.
Kredensial dinamis just-in-time
Kredensial diterbitkan untuk satu tugas dan kedaluwarsa saat tugas itu berakhir, sehingga token yang bocor bernilai kecil dan tidak ada agen yang memegang akses yang tidak sedang dipakainya.
Latihan red team AI
Serangan terkendali terhadap model dan agen Anda, termasuk jailbreak, injeksi prompt, dan peracunan alat, dengan setiap temuan direproduksi, diperingkat, dan diuji ulang setelah perbaikan.
Firewall injeksi prompt dan peracunan alat
Pagar pengaman antara agen, masukannya, dan alatnya yang mendeteksi dan memblokir instruksi tersembunyi dalam dokumen, halaman web, dan deskripsi alat.
Pencegahan kebocoran data LLM
Kendali yang mencegah data pribadi dan rahasia keluar melalui prompt, jawaban, atau log, baik untuk model berdaulat maupun model terkelola.
Pertahanan terhadap LLMjacking
Kunci model disimpan dalam brankas kunci, dengan batas penggunaan dan peringatan atas pemakaian yang tidak biasa, sehingga kunci yang dicuri tertangkap sebelum menimbulkan biaya.
Audit rantai pasok model
Pemeriksaan atas asal model, bobot, kumpulan data, dan alat agen Anda, serta apakah ada yang telah diubah.
Bagaimana pekerjaan berjalan
Daftarkan agen
Kami menemukan setiap agen, model, dan alat yang digunakan, identitas yang dipegangnya, dan data yang dapat dijangkau.
Petakan ancaman
Untuk setiap agen, kami menentukan apa yang akan disasar penyerang dan bagaimana caranya, dari masukan hingga alatnya.
Uji red team
Kami menyerang agen dan model dalam aturan yang disepakati dan mencatat setiap temuan agar dapat direproduksi.
Perkuat
Kami menerapkan identitas agen, kredensial just-in-time, pagar pengaman, dan kendali kebocoran, dimulai dari risiko tertinggi.
Uji ulang dan pantau
Kami menguji ulang setiap perbaikan dan menyiapkan pemantauan atas perilaku agen dan pemakaian model.
Bukti di produksi
Kami membangun sistem multiagen yang kami amankan. Di lembaga keuangan yang teregulasi, agen kami bekerja di bawah pengawasan manusia dan pengambilan yang sadar izin, sehingga setiap agen hanya melihat dokumen yang boleh dilihat penggunanya.
Standar dan alat
- AI dan pembelajaran mesin
- Jais
- Mistral
- Keamanan dan kriptografi
- HashiCorp Vault
- Standar dan regulasi
- EU AI Act
- GDPR
- MENA PDPL
Cara memulai
Yang terjadi selanjutnya
Sesi pra-konsultasi
sesi pra-konsultasi online gratis selama 30 menit: kami membahas sasaran, sistem, dan kendala Anda.
Tinjauan kesiapan
Dalam tinjauan kesiapan gratis selama 48 jam, Arsitek Utama memeriksa proyek Anda terhadap definisi siap 6 poin dan merekomendasikan jalur yang sesuai.
Memilih jalur
Proyek yang lingkupnya sudah siap menerima proposal yang mengikat dalam 3–5 hari kerja. Proyek pada tahap konsep dimulai di Blueprint Studio. Sistem yang sedang berjalan tetapi gagal, tidak terdokumentasi, atau perlu integrasi dimulai dengan diagnostik senilai 1–2 minggu. Blueprint Studio dan diagnostik masing-masing memiliki biaya tetap yang dicantumkan dalam proposal.
Penyampaian dalam lima tahap
Mobilisasi, sprint dengan demonstrasi langsung, integrasi dan pengerasan, penerimaan dan peluncuran, lalu layanan terkelola. Setelah peluncuran menyusul masa garansi, lalu dukungan dan pemeliharaan opsional.
Spesialis embedded dan penambahan staf strategis
Insinyur utama dan spesialis nearshore serta di lokasi, dan arsitek solusi, transformasi, PQC, dan integrasi yang embedded.
Tim produk AI-native
Pod produk lintas fungsi yang terkelola, berisi insinyur senior, dan dilengkapi kerangka kerja pengodean agentik dan QA.
Cara tercepat untuk memulai adalah paket Audit keamanan pascakuantum (CBOM) dan keamanan agen, salah satu paket penugasan cepat kami.
Mulai dari manaPertanyaan dan jawaban
Apa itu identitas nonmanusia, dan mengapa hal itu penting bagi AI?
Identitas nonmanusia adalah setiap akun, kunci, atau token yang digunakan perangkat lunak, bukan orang: akun layanan, kunci API, dan kini agen AI. Semuanya mudah dibuat dan mudah dilupakan, dan banyak yang tidak pernah kedaluwarsa. Agen AI yang bertindak sendiri dengan kunci semacam itu dapat menimbulkan kerugian besar jika disesatkan atau kuncinya dicuri.
Apa itu injeksi prompt?
Serangan yang menyembunyikan instruksi dalam konten yang dibaca model AI, seperti email, dokumen, atau halaman web, sehingga model mengikuti penyerang, bukan penggunanya. Hal itu tidak dapat dicegah oleh model saja. Pertahanan menggabungkan pagar pengaman pada masukan dan luaran, agen dengan akses terbatas, dan persetujuan manusia untuk tindakan sensitif.
Bagaimana kredensial just-in-time bekerja untuk agen?
Alih-alih kunci permanen, agen meminta akses saat tugas dimulai. Agen menerima kredensial yang dibatasi untuk tugas dan waktu tersebut, dan kredensial itu kedaluwarsa saat tugas berakhir. Setiap permintaan dicatat, sehingga Anda dapat melihat agen mana melakukan apa dan atas nama siapa.
Apa yang dicakup latihan red team AI?
Kami menyepakati ruang lingkup dan aturan, lalu menyerang model dan agen Anda sebagaimana penyerang melakukannya: jailbreak, injeksi prompt, peracunan alat, dan upaya mengekstrak data. Anda menerima setiap temuan beserta langkah untuk mereproduksinya, diurutkan berdasarkan risiko, dan kami menguji ulang setelah perbaikan.
Dapatkah Anda mengamankan agen dan model yang tidak kami bangun bersama Anda?
Ya. Identitas, kredensial, pagar pengaman, dan pemantauan berada di sekitar agen, sehingga berfungsi dengan agen yang dibangun secara internal, oleh pemasok lain, atau di platform vendor. Kami memerlukan akses ke konfigurasi agen dan koneksinya, tidak selalu ke kodenya.
Kami menggunakan model terkelola dari penyedia besar. Apakah data kami aman?
Tergantung pada ketentuan penyedia, wilayah tempat model berjalan, dan apa yang Anda kirimkan kepadanya. Kami meninjau ketiga hal itu, menambahkan kendali kebocoran di depan model, dan jika data tidak boleh meninggalkan yurisdiksi Anda, kami merekomendasikan model berdaulat atau model privat sebagai gantinya.
Siap membangun? Ajukan proposal.
Kirimkan kebutuhan Anda atau RFP. Arsitek kami memvalidasinya dan mengembalikan proposal yang mengikat dengan lingkup tetap.
Yang terjadi selanjutnya
Tinjauan kesiapan
Dalam tinjauan kesiapan gratis selama 48 jam, Arsitek Utama memeriksa proyek Anda terhadap definisi siap 6 poin dan merekomendasikan jalur yang sesuai.
Proposal yang mengikat
Setelah validasi arsitektur tanpa biaya, Anda menerima proposal yang mengikat dengan lingkup tetap dalam 3–5 hari kerja: tonggak, arsitektur, struktur tim, dan SLA. Kami menandatangani perjanjian kerahasiaan (NDA) dengan Anda atas permintaan, sebelum Anda membagikan kebutuhan Anda.
Mobilisasi
Setelah Anda menandatangani, pod rekayasa kami memulai Sprint 0 dalam 5–10 hari kerja setelah penandatanganan kontrak.
Penyampaian dalam lima tahap
Mobilisasi, sprint dengan demonstrasi langsung, integrasi dan pengerasan, penerimaan dan peluncuran, lalu layanan terkelola. Setelah peluncuran menyusul masa garansi, lalu dukungan dan pemeliharaan opsional.