Киберқауіпсіздік және кванттық технологиялар
Агенттік ЖИ қауіпсіздігі және ЖИ агенттерінің сәйкестігі
Тек өзіне қажет қолжетімділікті және тек қажет уақытқа ұстайтын ЖИ агенттері
Барлығына кілті бар агенттер
ЖИ агенттері енді құжаттарды оқып, API-лерді шақырып, деректерді өз бетінше жылжытады. Әрқайсысы адами емес сәйкестік (NHI): адам емес, бағдарлама пайдаланатын аккаунт, кілт немесе токен. Агенттерге жиі кең құқықтары бар ұзақ өмір сүретін кілттер беріледі және олардың олармен не істейтінін ешкім қарамайды.
Шабуылшылар байқады. Арнайы жасалған құжат агентке деректерді жіберуді бұйыра алады (промпт инъекциясы), уланған құрал сипаттамасы оны басқа жаққа бұра алады (құралды улау), ал ұрланған кілт модельдеріңізге шотты көтере алады (LLMjacking).
Сіз үшін не өзгереді
Тұрақты құқықтар жоқ
Агенттер әрбір тапсырма үшін қысқа мерзімді деректер алады және тапсырмалар арасында ешқандай қолжетімділік ұстамайды.
Шабуылдар шабуылшылардан бұрын табылады
Агенттеріңіз бен модельдеріңізге бақыланатын түрде әдейі шабуыл жасалады, ал осалдықтар түзетіледі.
Іште қалатын деректер
Сезімтал деректер модельдің жауаптары, журналдары немесе ұрланған кілт арқылы шыға алмайды.
Не жеткіземіз
ЖИ агентінің сәйкестігі
Әрбір агент өз сәйкестігін, иесін және мақсатын алады, кез келген басқа аккаунттай сәйкестік және қолжетімділікті басқару (IAM) жүйесінде басқарылады, әрбір әрекет тіркеледі.
Динамикалық дәл уақытында берілетін деректер
Бір тапсырмаға беріліп, ол аяқталғанда мерзімі бітетін деректер, сондықтан тарап кеткен токеннің құны аз және ешбір агент пайдаланбайтын қолжетімділікті ұстамайды.
ЖИ ред-тимі
Модельдеріңіз мен агенттеріңізге бақыланатын шабуылдар, джейлбрейктерді, промпт инъекциясын және құралды улауды қоса, әрбір табылған мәселе қайта жаңғыртылып, реттеліп, түзетуден кейін қайта тексеріледі.
Промпт инъекциясы мен құралды улауға қарсы файрволдар
Агенттер, олардың кірістері және құралдары арасындағы, құжаттарда, веб-беттерде және құрал сипаттамаларында жасырылған нұсқауларды тауып, тоқтататын шектеулер.
LLM арқылы деректердің шығуын болдырмау
Дербес және құпия деректердің промпттар, жауаптар немесе журналдар арқылы шығуын тоқтататын бақылаулар, егеменді және хостингтегі модельдер үшін бірдей.
LLMjacking-тен қорғау
Модель кілттері қоймада сақталып, пайдалану шектеулері мен әдеттен тыс тұтынуға ескертулер қойылады, сондықтан ұрланған кілт шығын әкелмей тұрып ұсталады.
Модель жабдықтау тізбегінің аудиттері
Модельдеріңіз, салмақтарыңыз, деректер жиынтықтарыңыз және агент құралдарыңыз қайдан келетінін және бірдеңе өзгертілген-өзгертілмегенін тексеру.
Жұмыс қалай жүреді
Агенттерді тізімдеу
Қолданыстағы әрбір агентті, модельді және құралды, олар ұстайтын сәйкестіктерді және жете алатын деректерді табамыз.
Қауіптерді модельдеу
Әрбір агент үшін шабуылшы нені және қалай нысанаға алатынын, кірістерінен құралдарына дейін анықтаймыз.
Ред-тим
Келісілген ережелер шегінде агенттер мен модельдерге шабуыл жасап, әрбір табылған мәселені қайта жаңғыртуға болатындай жазамыз.
Қатайту
Агент сәйкестіктерін, дәл уақытында берілетін деректерді, шектеулерді және шығуды бақылауды ең жоғары тәуекелдерден бастап енгіземіз.
Қайта тексеру және бақылау
Әрбір түзетуді қайта тексереміз және агент мінез-құлқы мен модель пайдалануына мониторинг орнатамыз.
Өндірістегі дәлел
Біз қорғайтын көп агенттік жүйелерді өзіміз құрамыз. Реттелетін қаржы институтында агенттеріміз адам қадағалауымен және рұқсатты ескеретін іздеумен жұмыс істейді, сондықтан әрқайсысы тек өз пайдаланушысы көре алатын құжаттарды көреді.
Стандарттар және құралдар
- ЖИ және машиналық оқыту
- Jais
- Mistral
- Қауіпсіздік және криптография
- HashiCorp Vault
- Стандарттар және реттеулер
- EU AI Act
- GDPR
- MENA PDPL
Қалай бастау керек
Әрі қарай не болады
Консалтингке дейінгі сессия
Алдымен тегін 30 минуттық онлайн алдын ала консультация: мақсаттарыңызды, жүйелеріңізді және шектеулеріңізді қараймыз.
Дайындық шолуы
тегін 48 сағаттық дайындық шолуы аясында бас архитектор жобаңызды алты тармақты дайындық анықтамасына сәйкес тексеріп, сай бағытты ұсынады.
Бағытты таңдау
Талаптары дайын жобалар 3 жұмыс күнінен 5 жұмыс күніне дейінгі мерзімде міндетті ұсыныс алады. Тұжырымдама кезеңіндегі жобалар Blueprint Studio-дан басталады. Істен шығып жатқан, құжатталмаған немесе интеграцияны қажет ететін жұмыс істеп тұрған жүйе 1 аптадан 2 аптаға дейін диагностикасынан басталады. Blueprint Studio мен диагностиканың әрқайсысының ұсыныста көрсетілетін белгіленген алымы бар.
Бес кезеңде жеткізу
Жұмысты бастау, тікелей демонстрациялары бар спринттер, интеграция және қатайту, қабылдау және іске қосу, содан кейін басқарылатын қызметтер. Іске қосқаннан кейін кепілдік мерзімі, сосын қосымша қолдау және техникалық қызмет келеді.
Кіріктірілген мамандар және стратегиялық күшейту
Жақын аймақтан және нысаннан келетін бас инженерлер мен мамандар, сондай-ақ кіріктірілген шешім, трансформация, PQC және интеграция архитекторлары.
ЖИ-ге туған өнімдік командалар
Агенттік кодтау және QA құралдарымен жабдықталған, аға инженерлерден тұратын басқарылатын кросс-функционалды топтар.
Ең жылдам жол: Посткванттық (CBOM) және агент қауіпсіздігіне аудит пакеті, біздің жылдам ынтымақтастық пакеттерінің бірі.
Қайдан бастау керекСұрақтар мен жауаптар
Адами емес сәйкестік деген не және ол ЖИ үшін неге маңызды?
Адами емес сәйкестік дегеніміз адамның орнына бағдарлама пайдаланатын кез келген аккаунт, кілт немесе токен: қызмет аккаунттары, API кілттері және енді ЖИ агенттері. Оларды жасау оңай және ұмыту оңай, көбі ешқашан мерзімі бітпейді. Осындай кілтпен өз бетінше әрекет ететін ЖИ агенті адастырылса немесе кілт ұрланса, үлкен зиян келтіре алады.
Промпт инъекциясы деген не?
ЖИ моделі оқитын мазмұнға, мысалы электрондық хатқа, құжатқа немесе веб-бетке нұсқауларды жасыратын шабуыл, сондықтан модель пайдаланушысының орнына шабуылшыға бағынады. Мұны тек модельмен болдырмауға болмайды. Қорғаныс кірістер мен шығыстардағы шектеулерді, қолжетімділігі шектеулі агенттерді және сезімтал әрекеттерге адам бекітуін біріктіреді.
Агенттер үшін дәл уақытында берілетін деректер қалай жұмыс істейді?
Тұрақты кілттің орнына агент тапсырма басталғанда қолжетімділік сұрайды. Ол сол тапсырмамен және сол уақытпен шектелген деректер алады, ал тапсырма аяқталғанда деректердің мерзімі бітеді. Әрбір сұраныс тіркеледі, сондықтан қай агент нені және кімнің атынан жасағанын көре аласыз.
ЖИ ред-тим жаттығуы нені қамтиды?
Көлем мен ережелерді келісіп, содан кейін модельдеріңіз мен агенттеріңізге қарсылас сияқты шабуыл жасаймыз: джейлбрейктер, промпт инъекциясы, құралды улау және деректерді шығаруға әрекеттер. Сіз әрбір табылған мәселені қайта жаңғырту қадамдарымен, тәуекел бойынша реттелген түрде аласыз, ал түзетулерден кейін қайта тексереміз.
Бізбен бірге құрмаған агенттер мен модельдерді қорғай аласыздар ма?
Иә. Сәйкестік, деректер, шектеулер және мониторинг агенттің айналасында тұрады, сондықтан олар ішкі команда құрған, басқа жеткізуші құрған немесе вендор платформасындағы агенттермен жұмыс істейді. Бізге агенттің конфигурациясы мен қосылымдарына қолжетімділік қажет, оның коды міндетті емес.
Үлкен провайдердің хостингтегі моделін қолданамыз. Деректеріміз қауіпсіз бе?
Бұл провайдердің шарттарына, ол жұмыс істейтін өңірге және оған нені жіберетініңізге байланысты. Осы үшеуін қараймыз, модельдің алдына шығуды бақылауды қосамыз және деректер юрисдикцияңыздан шығуға болмайтын жерде егеменді немесе жеке модельді ұсынамыз.
Құруға дайынсыз ба? Ұсыныс сұраңыз.
Талаптарыңызды немесе RFP-іңізді жіберіңіз. Архитекторларымыз оларды тексереді және міндетті, бекітілген ауқымды ұсыныс қайтарады.
Әрі қарай не болады
Дайындық шолуы
тегін 48 сағаттық дайындық шолуы аясында бас архитектор жобаңызды алты тармақты дайындық анықтамасына сәйкес тексеріп, сай бағытты ұсынады.
Міндетті ұсыныс
тегін архитектура валидациясы жүрген соң Сіз 3 жұмыс күнінен 5 жұмыс күніне дейінгі мерзімде міндетті, көлемі белгіленген ұсыныс аласыз: кезеңдер, архитектура, команда құрылымы және SLA. Біз Сіздің сұрауыңыз бойынша, талаптарыңызды бөліспес бұрын, Сізбен құпиялылық туралы келісімге (NDA) қол қоямыз.
Жұмысты бастау
Инженерия топтарымыз қол қойған соң келісімшартқа қол қойылғаннан кейін 5 жұмыс күнінен 10 жұмыс күніне дейін Sprint 0-ді бастайды.
Бес кезеңде жеткізу
Жұмысты бастау, тікелей демонстрациялары бар спринттер, интеграция және қатайту, қабылдау және іске қосу, содан кейін басқарылатын қызметтер. Іске қосқаннан кейін кепілдік мерзімі, сосын қосымша қолдау және техникалық қызмет келеді.