Кібербезпека й квантові технології
Безпека агентного ШІ та ідентичність ШІ-агентів
Агенти ШІ, що мають лише потрібний доступ і лише стільки, скільки потрібно
Агенти з ключами до всього
ШІ-агенти тепер самі читають документи, викликають API й переміщують дані. Кожен із них є машинною ідентичністю (NHI): обліковим записом, ключем чи токеном, яким користується програмне забезпечення, а не людина. Агентам часто дають довгоживучі ключі з широкими правами, і ніхто не перевіряє, що вони з ними роблять.
Атакувальники це помітили. Спеціально створений документ може наказати агенту злити дані (інʼєкція в запит), отруєний опис інструмента може перенаправити його (отруєння інструментів), а викрадений ключ може накрутити рахунок за ваші моделі (LLMjacking).
Що змінюється для вас
Жодних постійних привілеїв
Агенти отримують короткоживучі облікові дані для кожного завдання й не мають доступу між завданнями.
Атаки виявлено раніше, ніж їх знайдуть атакувальники
Ваших агентів і моделі атакують навмисно й контрольовано, а слабкі місця виправляють.
Дані, що не виходять
Чутливі дані не можуть піти через відповіді моделі, її журнали чи викрадений ключ.
Що ми постачаємо
Ідентичність агента ШІ
Кожен агент отримує власну ідентичність, власника й призначення, керовані в управлінні ідентичностями й доступом (IAM), як будь-який інший обліковий запис, а кожна дія журналюється.
Динамічні облікові дані точно вчасно
Облікові дані видаються на одне завдання й спливають, коли воно завершується, тож витік токена мало чого вартий, і жоден агент не має доступу, яким не користується.
Ред-тимінг ШІ
Контрольовані атаки на ваші моделі й агентів, зокрема джейлбрейки, інʼєкції в запит і отруєння інструментів, кожне знайдене відтворюється, ранжується й повторно перевіряється після виправлення.
Міжмережеві екрани від інʼєкцій у запит і отруєння інструментів
Захисні правила між агентами, їхніми входами й інструментами, що виявляють і блокують настанови, приховані в документах, вебсторінках та описах інструментів.
Запобігання витоку даних із LLM
Контролі, що не дають персональним і конфіденційним даним піти через запити, відповіді чи журнали, для суверенних і розміщених моделей однаково.
Захист від LLMjacking
Ключі моделей у сховищі, ліміти використання й оповіщення про нетипове споживання, щоб викрадений ключ було викрито до витрат.
Аудити ланцюга постачання моделей
Перевірки того, звідки походять ваші моделі, ваги, набори даних та інструменти агентів і чи щось було змінено.
Як виконується робота
Перелічіть агентів
Ми знаходимо кожного агента, модель та інструмент у використанні, їхні ідентичності й дані, до яких вони можуть дістатися.
Змоделюйте загрози
Для кожного агента ми зʼясовуємо, що й як атакував би нападник, від його входів до інструментів.
Проведіть ред-тимінг
Ми атакуємо агентів і моделі за узгодженими правилами й записуємо кожне знахідку, щоб її можна було відтворити.
Зміцніть
Ми впроваджуємо ідентичності агентів, облікові дані точно вчасно, захисні правила й контролі витоку, починаючи з найвищих ризиків.
Перевірте знову й стежте
Ми повторно перевіряємо кожне виправлення й налаштовуємо моніторинг поведінки агентів і використання моделей.
Перевірено в експлуатації
Ми створюємо мультиагентні системи, які захищаємо. У регульованій фінансовій установі наші агенти працюють під наглядом людини й з пошуком із урахуванням дозволів, тож кожен бачить лише документи, які може бачити його користувач.
Стандарти й інструменти
- ШІ й машинне навчання
- Jais
- Mistral
- Безпека й криптографія
- HashiCorp Vault
- Стандарти й регуляції
- EU AI Act
- GDPR
- MENA PDPL
Як почати
Що буде далі
Попередня консультація
Формат: безкоштовна 30-хвилинна онлайн-консультація перед співпрацею. Ми разом розбираємо ваші цілі, системи й обмеження.
Оцінка готовності
На кроці «безкоштовна 48-годинна оцінка готовності» головний архітектор перевіряє ваш проєкт за 6 пунктами Definition of Ready і рекомендує відповідний трек.
Вибір треку
Проєкти з готовим обсягом отримують обовʼязкову пропозицію протягом від 3 до 5 робочих днів. Проєкти на стадії концепції починаються в Blueprint Studio. Робоча система, яка дає збої, не має документації або потребує інтеграції, починається з діагностики тривалістю від 1 до 2 тижнів. Blueprint Studio і діагностика мають фіксовану плату, зазначену в пропозиції.
Постачання в пʼять етапів
Мобілізація, спринти з живими демонстраціями, інтеграція й зміцнення, приймання й запуск, потім керовані послуги. Після запуску настає гарантійний строк, потім необовʼязкова підтримка й обслуговування.
Вбудовані фахівці й стратегічне розширення
Головні інженери й фахівці в сусідніх країнах і на місці, а також вбудовані архітектори рішень, трансформації, PQC та інтеграцій.
ШІ-нативні продуктові команди
Керовані кросфункціональні поди старших інженерів, оснащені агентними оболонками для написання коду й QA.
Найшвидший спосіб почати: пакет Аудит постквантової безпеки (CBOM) і безпеки агентів, один із наших пакетів швидкої співпраці.
З чого початиЗапитання й відповіді
Що таке машинна ідентичність і чому це важливо для ШІ?
Машинна ідентичність означає будь-який обліковий запис, ключ чи токен, яким користується програмне забезпечення замість людини: сервісні облікові записи, ключі API, а тепер і ШІ-агенти. Їх легко створити й легко забути, а строк дії багатьох ніколи не спливає. ШІ-агент, що діє самостійно з таким ключем, може завдати великої шкоди, якщо його введуть в оману або викрадуть ключ.
Що таке інʼєкція в запит?
Атака, що ховає настанови в контенті, який читає модель ШІ, як-от лист, документ чи вебсторінка, щоб модель слухалася нападника, а не свого користувача. Цього не можна запобігти самою лише моделлю. Захист поєднує захисні правила на входах і виходах, агентів з обмеженим доступом і людське схвалення чутливих дій.
Як працюють облікові дані точно вчасно для агентів?
Замість постійного ключа агент просить доступ, коли починається завдання. Він отримує облікові дані, обмежені цим завданням і цим часом, і вони спливають, коли завдання завершується. Кожен запит журналюється, тож ви бачите, який агент що зробив і від чийого імені.
Що охоплює ред-тимінг ШІ?
Ми узгоджуємо обсяг і правила, а потім атакуємо ваші моделі й агентів так, як це робив би супротивник: джейлбрейки, інʼєкції в запит, отруєння інструментів і спроби витягти дані. Ви отримуєте кожне знахідку з кроками відтворення, ранжоване за ризиком, і ми повторно перевіряємо після виправлень.
Чи можете ви захистити агентів і моделі, які створювали не з вами?
Так. Ідентичність, облікові дані, захисні правила й моніторинг розташовані навколо агента, тож працюють з агентами, створеними вашою командою, іншим постачальником чи на платформі постачальника. Нам потрібен доступ до конфігурації агента та його підключень, не обовʼязково до коду.
Ми використовуємо розміщену модель від великого провайдера. Чи безпечні наші дані?
Це залежить від умов провайдера, регіону роботи й того, що ви йому надсилаєте. Ми переглядаємо ці три речі, додаємо контролі витоку перед моделлю й, де дані не можуть покидати вашу юрисдикцію, рекомендуємо натомість суверенну чи приватну модель.
Готові будувати? Запросіть пропозицію.
Надішліть ваші вимоги чи RFP. Наші архітектори перевірять їх і повернуть обовʼязкову пропозицію з фіксованим обсягом.
Що буде далі
Оцінка готовності
На кроці «безкоштовна 48-годинна оцінка готовності» головний архітектор перевіряє ваш проєкт за 6 пунктами Definition of Ready і рекомендує відповідний трек.
Обовʼязкова пропозиція
Після кроку «безкоштовна перевірка архітектури» ви отримуєте обовʼязкову пропозицію з фіксованим обсягом протягом від 3 до 5 робочих днів: етапи, архітектура, структура команди й SLA. Ми за вашим запитом підписуємо з вами угоду про нерозголошення (NDA) до того, як ви поділитеся вимогами.
Мобілізація
Щойно ви підпишете договір, наші інженерні поди починають Sprint 0 протягом від 5 до 10 робочих днів після підписання договору.
Постачання в пʼять етапів
Мобілізація, спринти з живими демонстраціями, інтеграція й зміцнення, приймання й запуск, потім керовані послуги. Після запуску настає гарантійний строк, потім необовʼязкова підтримка й обслуговування.