Keselamatan AI agentik dan identiti ejen AI
Ejen AI yang hanya memegang akses yang diperlukannya, dan hanya selama ia memerlukannya
Ejen dengan kunci kepada segala-galanya
Ejen AI kini membaca dokumen, memanggil API dan memindahkan data dengan sendirinya. Setiap satu ialah identiti bukan manusia (NHI): akaun, kunci atau token yang digunakan oleh perisian dan bukan oleh orang. Ejen sering diberi kunci jangka panjang dengan hak yang luas, dan tiada siapa menyemak apa yang dilakukan oleh ejen dengan kunci itu.
Penyerang sudah menyedarinya. Dokumen yang direka khas boleh mengarahkan ejen membocorkan data (suntikan gesaan), penerangan alat yang diracuni boleh mengubah halaannya (peracunan alat), dan kunci yang dicuri boleh menaikkan bil model anda (LLMjacking).
Apa yang berubah untuk anda
Tiada keistimewaan berterusan
Ejen menerima kelayakan jangka pendek bagi setiap tugasan dan tidak memegang akses antara tugasan.
Serangan ditemui sebelum penyerang menemuinya
Ejen dan model anda diserang dengan sengaja, secara terkawal, dan kelemahannya dibetulkan.
Data yang kekal di dalam
Data sensitif tidak dapat keluar melalui jawapan model, lognya atau kunci yang dicuri.
Apa yang kami sampaikan
Identiti ejen AI
Setiap ejen mendapat identiti, pemilik dan tujuan sendiri, diurus dalam pengurusan identiti dan akses (IAM) anda seperti mana-mana akaun lain, dengan setiap tindakan direkodkan.
Kelayakan dinamik tepat pada masanya
Kelayakan dikeluarkan bagi satu tugasan dan tamat tempoh apabila ia berakhir, jadi token yang bocor tidak banyak nilainya dan tiada ejen memegang akses yang tidak digunakannya.
Ujian pasukan merah AI
Serangan terkawal ke atas model dan ejen anda, termasuk pemintasan sekatan (jailbreak), suntikan gesaan dan peracunan alat, dengan setiap penemuan dihasilkan semula, disusun mengikut risiko dan diuji semula selepas pembetulan.
Tembok api suntikan gesaan dan peracunan alat
Pagar keselamatan antara ejen, inputnya dan alatnya yang mengesan serta menyekat arahan tersembunyi dalam dokumen, halaman web dan penerangan alat.
Pencegahan kebocoran data LLM
Kawalan yang menghalang data peribadi dan sulit daripada keluar melalui gesaan, jawapan atau log, bagi model berdaulat dan model yang dihoskan.
Pertahanan LLMjacking
Kunci model disimpan dalam peti besi, dengan had penggunaan dan amaran bagi penggunaan luar biasa, supaya kunci yang dicuri dikesan sebelum ia merugikan anda.
Audit rantaian bekalan model
Pemeriksaan tentang dari mana datangnya model, pemberat, set data dan alat ejen anda, dan sama ada apa-apa telah diusik.
Cara kerja ini dijalankan
Menyenaraikan ejen
Kami mengenal pasti setiap ejen, model dan alat yang digunakan, identiti yang dipegangnya dan data yang dapat dicapainya.
Memodelkan ancaman
Bagi setiap ejen, kami menentukan apa yang akan disasarkan oleh penyerang dan bagaimana, daripada inputnya hingga alatnya.
Ujian pasukan merah
Kami menyerang ejen dan model itu dalam peraturan yang dipersetujui dan merekodkan setiap penemuan supaya ia boleh dihasilkan semula.
Memperkukuh
Kami memperkenalkan identiti ejen, kelayakan tepat pada masanya, pagar keselamatan dan kawalan kebocoran, bermula dengan risiko tertinggi.
Menguji semula dan memantau
Kami menguji semula setiap pembetulan dan menyediakan pemantauan bagi tingkah laku ejen dan penggunaan model.
Bukti dalam pengeluaran
Kami membina sistem berbilang ejen yang kami lindungi. Di sebuah institusi kewangan yang dikawal selia, ejen kami bekerja di bawah penyeliaan manusia dan capaian yang mengambil kira kebenaran, jadi setiap ejen hanya melihat dokumen yang boleh dilihat oleh penggunanya.
Piawaian dan alat
- AI dan pembelajaran mesin
- Jais
- Mistral
- Keselamatan dan kriptografi
- HashiCorp Vault
- Piawaian dan peraturan
- EU AI Act
- GDPR
- MENA PDPL
Cara bermula
Apa yang berlaku seterusnya
Sesi praperundingan
Satu sesi praperundingan dalam talian percuma selama 30 minit: kami meneliti matlamat, sistem dan kekangan anda.
Semakan kesediaan
Dalam satu semakan kesediaan percuma selama 48 jam, seorang Arkitek Utama menyemak projek anda menurut Takrif Kesediaan 6 perkara dan mengesyorkan landasan yang sesuai.
Memilih landasan
Projek yang bersedia dari segi skop menerima cadangan mengikat dalam 3 hingga 5 hari perniagaan. Projek pada peringkat konsep bermula di Blueprint Studio. Sistem yang sedang berjalan tetapi gagal, tidak didokumenkan atau memerlukan integrasi bermula dengan diagnostik selama 1 hingga 2 minggu. Blueprint Studio dan diagnostik masing-masing mempunyai fi tetap, disebut dalam cadangan.
Penyampaian dalam lima peringkat
Mobilisasi, sprint dengan demonstrasi langsung, integrasi dan pengukuhan, penerimaan dan pelancaran, kemudian perkhidmatan terurus. Selepas pelancaran menyusul tempoh jaminan, kemudian sokongan dan penyelenggaraan pilihan.
Pakar yang ditempatkan dan penambahan strategik
Jurutera utama dan pakar nearshore serta di lokasi, dan arkitek penyelesaian, transformasi, PQC dan integrasi yang ditempatkan.
Pasukan produk asli AI
Pod terurus merentas fungsi yang dianggotai jurutera kanan, dilengkapi harness pengekodan agentik dan harness QA.
Cara terpantas untuk bermula ialah pakej Audit keselamatan pascakuantum (CBOM) dan ejen, salah satu pakej penglibatan pantas kami.
Dari mana hendak bermulaSoalan dan jawapan
Apakah identiti bukan manusia, dan mengapa ia penting bagi AI?
Identiti bukan manusia ialah mana-mana akaun, kunci atau token yang digunakan oleh perisian dan bukan oleh orang: akaun perkhidmatan, kunci API, dan kini ejen AI. Ia mudah dicipta dan mudah dilupakan, dan banyak yang tidak pernah tamat tempoh. Ejen AI yang bertindak sendiri dengan kunci sedemikian boleh mendatangkan banyak mudarat jika ia disesatkan atau kuncinya dicuri.
Apakah suntikan gesaan?
Serangan yang menyembunyikan arahan dalam kandungan yang dibaca oleh model AI, seperti e-mel, dokumen atau halaman web, supaya model mengikut penyerang dan bukan penggunanya. Ia tidak dapat dicegah oleh model semata-mata. Pertahanan menggabungkan pagar keselamatan pada input dan output, ejen dengan akses terhad, serta kelulusan manusia bagi tindakan sensitif.
Bagaimana kelayakan tepat pada masanya berfungsi bagi ejen?
Sebagai ganti kunci kekal, ejen meminta akses apabila sesuatu tugasan bermula. Ia menerima kelayakan terhad kepada tugasan dan masa itu, dan kelayakan itu tamat tempoh apabila tugasan berakhir. Setiap permintaan direkodkan, jadi anda dapat melihat ejen mana melakukan apa dan bagi pihak siapa.
Apakah yang terlibat dalam latihan pasukan merah AI?
Kami bersetuju tentang skop dan peraturan, kemudian menyerang model dan ejen anda seperti yang dilakukan oleh penyerang sebenar: pemintasan sekatan, suntikan gesaan, peracunan alat dan cubaan mengekstrak data. Anda menerima setiap penemuan bersama langkah untuk menghasilkannya semula, disusun mengikut risiko, dan kami menguji semula selepas pembetulan.
Bolehkah anda melindungi ejen dan model yang tidak kami bina bersama anda?
Boleh. Identiti, kelayakan, pagar keselamatan dan pemantauan terletak di sekeliling ejen, jadi semuanya berfungsi dengan ejen yang dibina secara dalaman, oleh pembekal lain atau atas platform vendor. Kami memerlukan akses kepada konfigurasi ejen dan sambungannya, tidak semestinya kodnya.
Kami menggunakan model yang dihoskan oleh penyedia besar. Adakah data kami selamat?
Ia bergantung pada terma penyedia, rantau tempat model itu beroperasi dan apa yang anda hantar kepadanya. Kami menyemak ketiga-tiganya, menambah kawalan kebocoran di hadapan model dan, jika data tidak boleh keluar dari bidang kuasa anda, menyarankan model berdaulat atau persendirian sebagai gantinya.
Bersedia untuk membina? Minta cadangan.
Hantar keperluan atau RFP anda. Arkitek kami mengesahkannya dan mengembalikan cadangan mengikat dengan skop tetap.
Apa yang berlaku seterusnya
Semakan kesediaan
Dalam satu semakan kesediaan percuma selama 48 jam, seorang Arkitek Utama menyemak projek anda menurut Takrif Kesediaan 6 perkara dan mengesyorkan landasan yang sesuai.
Cadangan mengikat
Selepas pengesahan seni bina tanpa kos, anda menerima cadangan mengikat berskop tetap dalam 3 hingga 5 hari perniagaan: pencapaian, seni bina, struktur pasukan dan SLA. Kami menandatangani perjanjian kerahsiaan (NDA) dengan anda atas permintaan, sebelum anda berkongsi keperluan anda.
Mobilisasi
Setelah anda menandatangani, pod kejuruteraan kami memulakan Sprint 0 dalam 5 hingga 10 hari perniagaan selepas kontrak ditandatangani.
Penyampaian dalam lima peringkat
Mobilisasi, sprint dengan demonstrasi langsung, integrasi dan pengukuhan, penerimaan dan pelancaran, kemudian perkhidmatan terurus. Selepas pelancaran menyusul tempoh jaminan, kemudian sokongan dan penyelenggaraan pilihan.