Login AI
Аудит безопасности ИИ-систем
Проверяем ИИ-систему на prompt injection, утечки данных через инструменты и избыточные права; на выходе — список находок с приоритетом и конкретными исправлениями.
Проверяем, что агент остаётся в границах прав и отражает инъекции.
Стоимость
от 500 000 ₽
за проект
Это нижняя граница проекта. Точную смету считаем после брифа: она зависит от объёма и числа интеграций.
Возможности
Prompt injection
Проверяем, можно ли через документ или пользователя увести агента с задачи и заставить выполнить лишнее.
Права инструментов
Агент не должен иметь доступ к тому, что не нужно для задачи: проверяем область прав и учётные записи.
Утечки через вывод
Смотрим, не возвращает ли модель данные других пользователей и не раскрывает ли системный промпт.
Отчёт с приоритетом
Находки с оценкой риска и конкретным исправлением, а не общий список «рекомендуем улучшить».
От заявки до результата
1
Сбор периметра
Описываем агента, инструменты, источники и данные: что он читает, что пишет и к чему имеет доступ.
2
Модель угроз
Фиксируем сценарии атаки: инъекция через документ, утечка через инструмент, повышение прав.
3
Проверки
Прогоняем сценарии на стенде и в проде по согласованию, фиксируем воспроизводимые находки.
4
Отчёт и фиксы
Отдаём находки с приоритетом и проверяем исправления повторным прогоном.
Проверьте, подойдёт ли вам
Подходит
Агент работает с инструментами
Чем больше действий доступно агенту, тем важнее проверить границы прав.
Внешние источники в контексте
Документы и веб-страницы в промпте — основной канал инъекций.
Не подходит
Чат без действий
Если бот только отвечает текстом и не вызывает инструменты, риск ниже, и глубокий аудит не нужен.
Нет логов
Без трассировки и журналов восстановить путь атаки нельзя, сначала включаем наблюдаемость.
Что вы получаете
3
критические находки, закрытые до релиза
После аудита закрыли доступ агента к лишним инструментам и добавили проверку входящих документов.
Что входит в поставку
Карта периметра
Карта периметра показывает инструменты, источники и данные, к которым агент имеет доступ. Лишние права помечаем отдельно, чтобы их было видно.
Модель угроз
Сценарии атаки записаны так, что их можно воспроизвести и показать команде. Модель угроз делает риски понятными на конкретных шагах.
Проверенные находки
Для каждой находки — шаги воспроизведения, оценка риска и конкретное исправление. Проверенные находки опираются на воспроизводимый сценарий.
План фиксов по приоритету
План фиксов делит находки по приоритету: что закрыть до релиза, а что можно отложить без риска. Порядок работ виден команде заранее.
Резюме для руководства
Короткое резюме показывает, сколько находок и какие из них критические. Руководство видит объём работ без чтения полного отчёта.
Повторный прогон
Повторный прогон после исправлений подтверждает, что закрытые находки перестали воспроизводиться. Остаток фиксируем отдельным списком.
Проверка до старта
Промпт-инъекция через данные
Вредоносная инструкция прячется в документе, письме или поле формы и пытается заставить агента выполнить лишнее действие. Мы пропускаем такие данные через агента и смотрим, выйдет ли он за рамки задачи.
Границы прав
Агент обращается только к тем данным и инструментам, что нужны для его задачи, даже если технически доступно больше. Проверяем, что лишние права не открывают чужие данные и необратимые действия.
Утечка между пользователями
Ответ одного пользователя содержит только его данные, без фрагментов, доступных другой роли или арендатору. Изоляцию проверяем с разных учётных записей и ролей.
Раскрытие системного промпта
Системные инструкции и внутренние правила остаются внутри и не попадают в ответ. Отдельно проверяем попытки вытащить промпт через переформулированные вопросы.
Механизм работы
Воспроизведение находки
Каждый сценарий прогоняем как тест: задаём вход, ожидаемое лишнее поведение и фактический результат. Находка попадает в отчёт только тогда, когда её удаётся воспроизвести повторно.
Оценка риска
Для воспроизведённой находки считаем риск: какие данные открываются, какие действия становятся возможны и нужен ли злоумышленник внутри контура. Оценка риска задаёт порядок исправлений.
Приоритет исправлений
Расставляем исправления по приоритету: что закрываем до релиза, что терпит до следующего спринта. Для каждого пункта даём конкретное исправление, чтобы команда сразу видела следующий шаг.
Проверка фикса
После исправлений проверяем фикс повторным прогоном: подтверждаем, что закрытая находка перестаёт воспроизводиться. Оставшиеся пункты фиксируем отдельным списком с оценкой риска для команды.
Где решение упирается
- 01
Гарантии ограничены
Новые сценарии атаки появляются постоянно, поэтому аудит даёт снимок на дату проверки. Гарантии ограничены, и проверку повторяют после крупных изменений.
- 02
Трассировка для воспроизведения
Без трассировки часть находок удаётся показать только на словах. Трассировка даёт воспроизведение: сначала включаем логи, потом ищем причину.
- 03
Прод по согласованию
Полный прогон идёт на стенде, а на проде проверки идут выборочно и по согласованию. Так прод остаётся под контролем вашей команды.
- 04
Аудит ИИ-слоя отдельно
Аудит ИИ-слоя проверяет инъекции, права и утечки, а инфраструктурный пентест идёт отдельной работой. Часто их заказывают вместе.
Когда звать аудит
Когда звать аудит
Перед релизом агента, который получает доступ к внутренним данным или инструментам.
После крупного изменения: новый инструмент, смена модели, переписанный системный промпт.
После инцидента: агент выполнил лишнее действие или вернул чужие данные.
Перед проверкой безопасности или запросом регулятора, когда нужен документированный результат.
Технологии
Технологии, которые мы используем в работе, и их роль в проекте.
Контур и наблюдаемость
Проверки опираются на трассировку Langfuse, права в Keycloak, конфигурацию Kubernetes и журналы в PostgreSQL.
Калькулятор стоимости
Это ориентировочный диапазон, а не коммерческое предложение. Точную смету подготовим после брифа: она зависит от объёма и числа интеграций.
AI-системы
Глубина проверки
Compliance-пакет
Ретест
Услуга
Аудит безопасности ИИ-систем
В смету входит работа команды. Оборудование, лицензии сторонних сервисов и командировки добавляем по согласованию.
Расчётная стоимость
740 000 ₽
Срок работ
3 нед.
Частые вопросы
Вы ломаете прод?
Проверки на проде — только по согласованию и на отдельных учётках. Основной объём идёт на стенде.
Это пентест?
Это аудит именно ИИ-слоя: инъекции, права инструментов и утечки, а не общий пентест инфраструктуры.
Что в отчёте?
Воспроизводимые сценарии, оценка риска, конкретное исправление и результат повторного прогона.
Как часто повторять?
После крупных изменений агента, промптов или набора инструментов.
Нужен ли доступ к исходному коду?
Нет, для большинства проверок достаточно доступа к агенту, его инструментам и логам. Код нужен только там, где смотрим фильтры и валидацию на входе.
Что если находок нет?
Тогда отчёт фиксирует проверенные сценарии и границы, которые выдержали проверку. Это тоже результат: его показывают на ревью и при внешнем аудите.
Что берут вместе с этой услугой
Готовы обсудить задачу?
Оставьте заявку – вернёмся с предложением и предварительной оценкой.
Связаться с нами