Шлюз безопасности для AI-приложений

Перехватываем запросы к моделям и проверяем их до и после генерации. Шлюз блокирует инъекции, маскирует персональные данные, ограничивает доступ и пишет журнал для разбора.

Ставим шлюз перед LLM: фильтры prompt injection, DLP, маскирование PII и журнал запросов.

Стоимость

от 600 000 ₽

за проект

Это нижняя граница проекта. Точную смету считаем после брифа: она зависит от объёма и числа интеграций.

Что входит

Возможности

Фильтры на входе

Проверяем промпты и вложения по правилам и классификатору. Подозрительные конструкции блокируются или уходят на проверку человеку.

DLP и PII

Находим персональные данные, ключи и номера договоров в запросах и ответах. Маскируем поля до отправки в модель и восстанавливаем после.

Доступ и лимиты

Привязываем шлюз к ролям и ключам приложения. Считаем запросы по пользователю и проекту, вводим квоты и rate limit.

Журнал и разбор

Пишем запрос, ответ, сработавшие правила и задержку в журнал. По инциденту видно, какой промпт прошёл и что вернула модель.

Как мы работаем

От заявки до результата

  1. 1

    Модель угроз

    Разбираем приложение, модели и данные. Фиксируем, какие атаки и утечки критичны для контура.

  2. 2

    Дизайн шлюза

    Выбираем точки перехвата, правила и схему маскирования. Считаем бюджет задержки и пропускную способность.

  3. 3

    Интеграция

    Подключаем шлюз к приложению и моделям. Настраиваем роли, ключи, квоты и журнал.

  4. 4

    Red team

    Проверяем шлюз набором атак и легитимных запросов. Настраиваем пороги и фиксируем ложные срабатывания.

Кому подходит

Проверьте, подойдёт ли вам

Подходит

  • Внешняя LLM

    Приложение отправляет данные в облачную модель. Шлюз проверяет запросы и ответы на пути к провайдеру.

  • PII в запросах

    Пользователи передают имена, телефоны, адреса или документы. DLP маскирует поля до отправки в модель.

Не подходит

  • Нет владельца приложения

    Шлюз встраивается в поток приложения и требует ответственного за релиз и правила. Без владельца проект останавливается на дизайне.

  • Бюджет задержки 5 мс

    Фильтры добавляют 15–40 мс. При жёстком бюджете в 5 мс часть проверок выносим в асинхронный этап.

Практика

Что вы получаете

15–40 мс

Задержка 15–40 мс

Фильтры добавляют 15–40 мс на запрос в тестовом контуре. Задержку измеряем по каждому шагу и показываем в дашборде.

100%

100% запросов

Все запросы к модели проходят через шлюз и попадают в журнал. Запись хранит пользователя, правило и результат проверки.

2 недели

2 недели

Пилот на одном приложении занимает около двух недель. В срок входят модель угроз, интеграция и red team.

Состав работы

Что входит в поставку

Шлюз

Шлюз перехватывает запросы и ответы, применяет правила и отдаёт метрики. Код, конфигурация и схема развёртывания входят в поставку.

Пакет правил

Пакет правил покрывает инъекции, PII, ключи и запрещённые темы. У каждого правила есть тест и владелец.

Дашборд

Дашборд показывает запросы, блокировки, задержку и ложные срабатывания. По нему безопасность видит нагрузку и инциденты.

Как устроено

Механизм работы

  1. Перехват

    Шлюз стоит между приложением и моделью и перехватывает каждый запрос. Он видит промпт, вложения, пользователя и контекст, поэтому проверка опирается на реальный поток данных.

  2. Проверка

    На входе правила и классификатор ищут инъекции, PII и запрещённые данные. На выходе шлюз возвращает замаскированные поля на место, проверяет ответ на новые утечки и маскирует найденные фрагменты перед отдачей в приложение.

  3. Журнал

    Каждый запрос, ответ и сработавшее правило попадают в журнал с задержкой по шагам. Журнал даёт материал для разбора инцидента и настройки порогов.

Ограничения и цена

Где решение упирается

  • 01

    Задержка

    Фильтры добавляют 15–40 мс на запрос. Для чата это незаметно, а для голосового контура задержку измеряем отдельно и выносим тяжёлые проверки в асинхронный этап.

  • 02

    Ложные срабатывания

    Правила DLP дают ложные срабатывания на нестандартных данных. Порог настраиваем на пилоте и ведём список исключений с владельцем.

  • 03

    Правила и владелец

    Шлюз применяет правила, которые утверждает безопасность. Мы поставляем политику и процесс обновления, а решение по риску остаётся за владельцем.

Стек

Технологии

Технологии, которые мы используем в работе, и их роль в проекте.

Шлюз и наблюдаемость

Разворачиваем шлюз в Kubernetes, проверяем роли через Keycloak, трассируем запросы в Langfuse, храним правила и журнал в PostgreSQL, события отправляем в Kafka.

Площадка шлюза: контейнеры масштабируются по нагрузке и переживают падение узла.Роли и ключи приложений: шлюз проверяет, кому разрешён вызов модели и какие данные доступны.Трассировка запросов: показывает путь промпта, сработавшие правила и задержку по каждому шагу.Хранит правила, исключения и журнал: по инциденту можно поднять исходный запрос и ответ.Поток событий безопасности: алерты и метрики уходят в SIEM и мониторинг без блокировки запроса.
Оценка бюджета

Калькулятор стоимости

Это ориентировочный диапазон, а не коммерческое предложение. Точную смету подготовим после брифа: она зависит от объёма и числа интеграций.

Приложения

2

Трафик

DLP-пакет

Аудит-журнал

Дополнительно

Поддержка

Первый год: обновления и мониторинг, ответ за 2 рабочих дня.

Услуга

Шлюз безопасности для AI-приложений

В смету входит работа команды. Оборудование, лицензии сторонних сервисов и командировки добавляем по согласованию.

Расчётная стоимость

840 000 ₽

Срок работ

4 нед.

Вопросы

Частые вопросы

Сколько стоит шлюз?

Базовая поставка стоит от 600 000 ₽ и включает шлюз, правила, журнал и red team. Число приложений и трафик влияют на срок и смету.

Какую задержку добавляет шлюз?

На тестовом контуре фильтры добавляют 15–40 мс на запрос. Тяжёлые проверки, например разбор документов, выносим в асинхронный этап.

Что с ложными срабатываниями?

Пороги настраиваем на пилоте по размеченному набору запросов. Исключения ведём списком с владельцем и датой пересмотра.

Где разворачиваете шлюз?

В вашем облаке или на ваших серверах. Поддерживаем Kubernetes и виртуальные машины, внешние модели подключаем по API.

Готовы обсудить задачу?

Оставьте заявку – вернёмся с предложением и предварительной оценкой.

Связаться с нами