Кибербезопасность и квантовые технологии
Безопасность агентного ИИ и идентичность ИИ-агентов
ИИ-агенты получают только тот доступ, который им нужен, и только на время, пока он нужен
Агенты с ключами от всего
ИИ-агенты уже читают документы, вызывают API и перемещают данные самостоятельно. Каждый из них — это нечеловеческая идентичность (NHI): учётная запись, ключ или токен, которым пользуется программа, а не человек. Агентам часто выдают долгоживущие ключи с широкими правами, и никто не проверяет, что они с ними делают.
Злоумышленники это заметили. Подготовленный документ может заставить агента раскрыть данные (инъекция промпта), подменённое описание инструмента — перенаправить его (отравление инструментов), а украденный ключ — накрутить счёт за ваши модели (LLMjacking).
Что меняется для вас
Никаких постоянных привилегий
Агенты получают краткоживущие учётные данные на каждую задачу и не сохраняют доступ между задачами.
Атаки находятся раньше злоумышленников
Ваши агенты и модели подвергаются целенаправленным атакам в контролируемых условиях, а уязвимости устраняются.
Данные остаются внутри
Конфиденциальные данные не могут уйти через ответы модели, её журналы или украденный ключ.
Что мы предоставляем
Идентичность ИИ-агента
Каждый агент получает собственную идентичность, владельца и назначение и управляется в вашей системе управления идентификацией и доступом (IAM) как любая другая учётная запись, а каждое действие протоколируется.
Динамические учётные данные точно в срок
Учётные данные выдаются на одну задачу и истекают по её завершении, поэтому утёкший токен почти бесполезен, и ни один агент не хранит доступ, которым не пользуется.
Ред-тиминг ИИ
Контролируемые атаки на ваши модели и агенты, включая обход ограничений, инъекцию промпта и отравление инструментов; каждая находка воспроизводится, ранжируется и повторно проверяется после исправления.
Межсетевые экраны от инъекций промпта и отравления инструментов
Ограждения между агентами, их входными данными и инструментами, которые обнаруживают и блокируют инструкции, скрытые в документах, веб-страницах и описаниях инструментов.
Защита от утечки данных через LLM
Меры, не позволяющие персональным и конфиденциальным данным уходить через промпты, ответы или журналы — как для суверенных, так и для размещённых моделей.
Защита от LLMjacking
Ключи моделей хранятся в хранилище секретов, действуют лимиты использования и оповещения о необычном расходе, поэтому украденный ключ обнаруживается раньше, чем обходится вам в деньги.
Аудит цепочки поставки моделей
Проверка происхождения ваших моделей, весов, наборов данных и инструментов агентов, а также того, не было ли что-то изменено.
Как строится работа
Составьте перечень агентов
Мы находим каждого используемого агента, модель и инструмент, их идентичности и данные, к которым они имеют доступ.
Смоделируйте угрозы
Для каждого агента мы определяем, что и как атаковал бы злоумышленник — от входных данных до инструментов.
Ред-тиминг
Мы атакуем агентов и модели по согласованным правилам и фиксируем каждую находку так, чтобы её можно было воспроизвести.
Усильте защиту
Мы внедряем идентичности агентов, учётные данные точно в срок, ограждения и средства защиты от утечек, начиная с наиболее высоких рисков.
Повторно проверьте и наблюдайте
Мы повторно проверяем каждое исправление и настраиваем мониторинг поведения агентов и использования моделей.
Результат в эксплуатации
Мы создаём многоагентные системы, которые затем защищаем. В регулируемом финансовом учреждении наши агенты работают под надзором человека с поиском с учётом прав доступа: каждый видит только те документы, которые разрешены его пользователю.
Стандарты и инструменты
- ИИ и машинное обучение
- Jais
- Mistral
- Безопасность и криптография
- HashiCorp Vault
- Стандарты и нормативные требования
- EU AI Act
- GDPR
- MENA PDPL
Как начать
Что происходит дальше
Предконсультационная сессия
бесплатная 30-минутная онлайн-сессия предварительного консультирования: мы разбираем ваши цели, системы и ограничения.
Оценка готовности
В рамках бесплатная 48-часовая оценка готовности ведущий архитектор проверяет ваш проект по шести критериям определения готовности и рекомендует подходящий трек.
Выбор трека
Проекты с готовым объёмом работ получают обязывающее предложение в течение 3–5 рабочих дней. Проекты на стадии концепции начинаются в Blueprint Studio. Действующая система, которая сбоит, не документирована или требует интеграции, начинается с диагностики 1–2 недели. У Blueprint Studio и диагностики фиксированная плата, указанная в предложении.
Поставка в пять этапов
Мобилизация, спринты с живыми демонстрациями, интеграция и усиление защиты, приёмка и запуск, затем управляемые услуги. После запуска наступает гарантийный срок, затем дополнительная поддержка и обслуживание.
Встроенные специалисты и стратегическое усиление
Ведущие инженеры и специалисты в ближнем регионе и на месте, а также встроенные архитекторы решений, трансформации, PQC и интеграций.
Продуктовые команды с ИИ в основе
Управляемые кросс-функциональные команды старших инженеров, оснащённые агентными средами разработки и QA.
Самый быстрый путь — пакет Аудит постквантовой (CBOM) и агентной безопасности, один из наших пакетов быстрого старта.
С чего начатьВопросы и ответы
Что такое нечеловеческая идентичность и почему она важна для ИИ?
Нечеловеческая идентичность — это любая учётная запись, ключ или токен, используемые программой вместо человека: сервисные учётные записи, ключи API и теперь ИИ-агенты. Их легко создать и легко забыть, и многие из них никогда не истекают. ИИ-агент, действующий самостоятельно с таким ключом, может нанести большой вред, если его введут в заблуждение или ключ украдут.
Что такое инъекция промпта?
Это атака, при которой инструкции скрываются в содержимом, которое читает модель ИИ, — например, в письме, документе или веб-странице, — чтобы модель слушалась злоумышленника, а не своего пользователя. Только средствами модели это предотвратить нельзя. Защита сочетает ограждения на входе и выходе, агентов с ограниченным доступом и одобрение человеком чувствительных действий.
Как работают учётные данные точно в срок для агентов?
Вместо постоянного ключа агент запрашивает доступ при запуске задачи. Он получает учётные данные, ограниченные этой задачей и этим временем, и они истекают по завершении задачи. Каждый запрос протоколируется, поэтому видно, какой агент что сделал и от чьего имени.
Что включает ред-тиминг ИИ?
Мы согласуем объём работ и правила, а затем атакуем ваши модели и агенты так, как это делал бы противник: обход ограничений, инъекция промпта, отравление инструментов и попытки извлечь данные. Вы получаете каждую находку с шагами воспроизведения и оценкой риска, а после исправлений мы проводим повторную проверку.
Можете ли вы защитить агентов и модели, которые создавали не вы?
Да. Идентичность, учётные данные, ограждения и мониторинг находятся вокруг агента, поэтому работают с агентами, созданными внутри компании, другим поставщиком или на платформе вендора. Нам нужен доступ к конфигурации агента и его подключениям, но не обязательно к его коду.
Мы используем размещённую модель крупного провайдера. Наши данные в безопасности?
Это зависит от условий провайдера, региона его работы и того, что вы ему отправляете. Мы проверяем эти три аспекта, добавляем средства защиты от утечек перед моделью и, если данные не должны покидать вашу юрисдикцию, рекомендуем суверенную или частную модель.
Готовы начать разработку? Запросите предложение.
Пришлите требования или RFP. Наши архитекторы проверят их и вернут обязывающее предложение с фиксированным объёмом.
Что происходит дальше
Оценка готовности
В рамках бесплатная 48-часовая оценка готовности ведущий архитектор проверяет ваш проект по шести критериям определения готовности и рекомендует подходящий трек.
Обязывающее предложение
После валидация архитектуры без затрат вы получаете обязывающее предложение с фиксированным объёмом работ в течение 3–5 рабочих дней: этапы, архитектура, структура команды и SLA. По запросу мы подписываем с вами соглашение о конфиденциальности (NDA) до того, как вы поделитесь требованиями.
Мобилизация
После подписания наши инженерные команды начинают Sprint 0 в течение 5–10 рабочих дней после подписания договора.
Поставка в пять этапов
Мобилизация, спринты с живыми демонстрациями, интеграция и усиление защиты, приёмка и запуск, затем управляемые услуги. После запуска наступает гарантийный срок, затем дополнительная поддержка и обслуживание.