Разработка систем обработки естественного языка

Собираем NLP-системы на ваших текстах: классификация обращений, извлечение сущностей, тональность и суммаризация. Модели обучаем и замеряем на размеченной выборке.

Извлекаем смысл из текста: тональность, сущности, классификация и суммаризация.

Стоимость

от 2 000 000 ₽

за проект

Это нижняя граница проекта. Точную смету считаем после брифа: она зависит от объёма и числа интеграций.

Что входит

Возможности

Классификация обращений

Разносим поток по темам и приоритетам, а не по ключевым словам.

Извлечение сущностей

Достаём из текста даты, суммы, адреса и артикулы в структуру.

Тональность с порогом

Модель возвращает вероятность, а не бинарную метку, и порог калибруется под задачу.

Суммаризация

Сжимаем длинные переписки в короткую выжимку с сохранением фактов.

Как мы работаем

От заявки до результата

  1. 1

    Аудит текстов

    Смотрим корпус и частоты: какие классы есть, где их мало и что вообще различимо по тексту.

  2. 2

    Схема разметки

    Согласуем определения классов и инструкцию разметки до начала работы.

  3. 3

    Обучение и оценка

    Обучаем на размеченной выборке, считаем метрики отдельно по классам и разбираем ошибки.

  4. 4

    Встраивание в процесс

    Подключаем модель к потоку и включаем доразметку спорных случаев оператором.

Кому подходит

Проверьте, подойдёт ли вам

Подходит

  • Есть размеченная выборка

    Хотя бы несколько сотен размеченных примеров на класс дают с чего начать.

  • Однотипный поток текстов

    Обращения, отзывы или тикеты похожи по структуре: модель ловит закономерность.

Не подходит

  • Нужна абсолютная точность

    Язык неоднозначен: 100% на реальных текстах не даёт ни одна модель.

  • Нет определения классов

    Без согласованных классов разметка противоречива, и модель учится на шуме.

Практика

Что вы получаете

82%

точность классификации тем

Классификатор разносил обращения по темам, а тональность с порогом отделяла спорные от явных.

82%

Точность по классам

Точность считается отдельно по каждому классу на отложенной выборке, поэтому редкий класс остаётся на виду.

40 мс

Инференс в темпе потока

Один короткий текст проходит инференс за 40 мс, поэтому контур успевает разбирать поток в темпе поступления.

2%

Ручной разбор спорных

Оператор видит только спорные тексты ниже порога уверенности, поэтому ручной разбор занимает малую долю потока.

Как устроено

Механизм работы

  1. Определения классов согласуются до разметки

    Определения классов согласуются до старта разметки: два специалиста читают тему одинаково, поэтому модель учится на согласованных примерах и уверенно различает близкие классы.

  2. Тональность возвращает вероятность

    Тональность возвращает вероятность класса, поэтому порог калибруется под задачу: команда сама выбирает, какие тексты закрывать автоматически, а какие отправлять на ручной разбор.

  3. Метрики считаются отдельно по классам

    Метрики считаются отдельно по каждому классу на отложенной выборке, поэтому редкий, но важный класс остаётся на виду и получает свою долю внимания.

  4. Суммаризация проверяется на фактах

    Суммаризация проверяется на фактах: выжимка сохраняет суммы, сроки и имена, поэтому краткое резюме пригодно для решений команды и для передачи дальше.

Ограничения и цена

Где решение упирается

  • 01

    Ирония остаётся слабым местом

    «Ужас, как быстро» модель относит к негативу, поэтому ирония и сарказм остаются слабым местом. Такие случаи размечаем вручную и добираем примерами.

  • 02

    Новые темы быстрее разметки

    Классификатор знает только те классы, что были в обучении, а новые темы появляются быстрее разметки. Новые классы добавляем по мере накопления примеров.

  • 03

    Перенос на другой домен

    Модель с отзывов теряет точность на юридических текстах, поэтому перенос на другой домен требует переобучения. Домен и стиль текстов задают требования к данным.

  • 04

    Язык меняется

    Сленг и новые названия продуктов требуют периодического обновления разметки. Язык меняется, и словарь классов обновляем по расписанию.

Где применяется

Где применяется

Классификатор разносит обращения поддержки по темам и приоритетам, поэтому очередь попадает к нужной команде.

Извлечение сущностей достаёт из договоров даты, суммы и стороны, и реквизиты идут в учётную систему.

Тональность с порогом отмечает негативные отзывы на маркетплейсе, и оператор видит их первыми.

Как устроен контур

Как устроен контур

Тексты приходят потоком, проходят нормализацию и разбор частей речи, а затем попадают в модель.

Модель возвращает вероятность по каждому классу, и порог отделяет автоматическую обработку от ручного разбора.

Размеченные оператором случаи возвращаются в обучение, и следующая версия модели опирается на них.

Стек

Технологии

Технологии, которые мы используем в работе, и их роль в проекте.

Тексты и модели

Тексты хранятся в Elasticsearch, признаки и разметка — в PostgreSQL, модели обучаются на PyTorch, инференс идёт на vLLM.

Поиск и хранение текстов: по нему находят похожие обращения и собирают выборку для разметки.Хранит разметку и вероятности модели: по ним считается точность отдельно по классам.Обучение и дообучение моделей на ваших текстах, включая редкие классы.Быстрый инференс для генеративных задач: суммаризация и разбор длинных переписок.
Оценка бюджета

Калькулятор стоимости

Это ориентировочный диапазон, а не коммерческое предложение. Точную смету подготовим после брифа: она зависит от объёма и числа интеграций.

NLP-задачи

4

Языки

2

Сложность

Дополнительно

Поддержка

Первый год: обновления и мониторинг, ответ за 2 рабочих дня.

Услуга

Разработка систем обработки естественного языка

В смету входит работа команды. Оборудование, лицензии сторонних сервисов и командировки добавляем по согласованию.

Расчётная стоимость

2,55 млн. ₽

Срок работ

6 нед.

Вопросы

Частые вопросы

Сколько примеров нужно?

От нескольких сотен на класс для типовых тем; редкие классы требуют больше или отдельной стратегии.

Кто размечает?

Ваши специалисты по согласованной инструкции. Мы считаем согласие разметчиков и разбираем противоречия до обучения.

Что с новыми темами?

Классификатор не знает класс, которого не было в обучении. Новые темы сначала попадают в ручную очередь, потом в разметку.

Как проверяется качество?

Метрики считаются на отложенной выборке отдельно по классам, а не одной средней цифрой.

Готовы обсудить задачу?

Оставьте заявку – вернёмся с предложением и предварительной оценкой.

Связаться с нами