Login AI
Дообучение LLM на ваших данных
Готовим датасет, обучаем адаптер или полную модель и разворачиваем её в вашем периметре на vLLM. Метрику фиксируем до обучения, сравниваем базовую и новую версию на одной выборке и отдаём отчёт с числами.
Настраиваем модель 7B–70B на LoRA, SFT или DPO и показываем качество на отложенной выборке до запуска.
Стоимость
от 800 000 ₽
за проект
Это нижняя граница проекта. Точную смету считаем после брифа: она зависит от объёма и числа интеграций.
Возможности
Подготовка датасета
Собираем 1 000–50 000 пар «инструкция и ответ», проверяем разметку на согласованность и делим массив на обучающую и отложенную части.
LoRA, SFT и DPO
Выбираем метод под задачу: LoRA обучает 0,1–1% весов, SFT задаёт формат ответа, DPO настраивает выбор на парах предпочтений.
Оценка до и после
Сравниваем базовую и дообученную модель на одной отложенной выборке: точность, следование формату и полноту ответа.
Развёртывание в периметре
Запускаем модель на vLLM в Kubernetes, веса храним в MinIO, а метрики и версии держим в PostgreSQL.
От заявки до результата
1
Аудит датасета
Смотрим объём, разметку и покрытие тем: считаем долю дублей, проверяем согласованность ответов и находим пробелы в примерах.
2
Выбор метода и модели
Подбираем базовую модель 7B–70B и метод обучения: LoRA для быстрого старта, SFT для формата, DPO для предпочтений. Фиксируем метрику и бюджет GPU.
3
Обучение
Собираем конфигурацию, запускаем прогоны на 2–8 GPU, следим за loss и валидацией, сохраняем чекпойнты и сравниваем версии между собой.
4
Оценка и развёртывание
Прогоняем отложенную выборку, сравниваем результат с базовой моделью и поднимаем vLLM в Kubernetes. Отдаём отчёт с метриками и инструкцией запуска.
Проверьте, подойдёт ли вам
Подходит
1 000+ примеров
У вас есть 1 000 и больше размеченных пар «инструкция и ответ» по целевой задаче: этого хватает на LoRA и честную отложенную выборку.
Отложенная выборка
Есть 200–500 примеров, которые останутся вне обучения: на них видно, переносится ли навык на новые формулировки.
Не подходит
Данных пока нет
Без корпуса примеров обучение сводится к пересказу документации. Сначала соберите и разметьте хотя бы 1 000 пар под задачу.
Новые знания без RAG
Дообучение меняет стиль, формат и решения на знакомых темах. Свежие факты и закрытые документы подключает RAG: модель берёт их из индекса на лету.
Что вы получаете
7B
Модель 7B в базе
Базовая модель 7B после LoRA держит целевой формат ответа и занимает 1–2 GPU A100 40 ГБ, поэтому её можно держать в вашем контуре постоянно.
10 ГБ
Датасет 10 ГБ
Из 10 ГБ сырых логов получается датасет на 1 000–5 000 чистых пар «инструкция и ответ» с карточкой данных и отложенной частью для оценки.
eval
Оценка до и после
Слой оценки сравнивает базовую и дообученную версии на одной выборке: точность, формат и стоимость ответа видны в одном отчёте.
Что входит в поставку
Датасет
Отдаём размеченный и очищенный датасет в JSONL: обучающую и отложенную части, карточку данных с описанием полей и правил разметки.
Адаптер или модель
Передаём LoRA-адаптер или полные веса в safetensors, конфигурацию обучения и скрипт воспроизведения прогона на вашей инфраструктуре.
Отчёт об оценке
Собираем отчёт об оценке: метрики базовой и дообученной модели на одной выборке, разбор ошибок и рекомендации по следующему циклу.
Механизм работы
Очистка данных
Датасет проходит очистку и разметку: убираем дубли, приводим ответы к одному формату и делим массив на обучающую и отложенную части в пропорции 90 на 10. Отложенная часть остаётся закрытой до финальной оценки.
Обучение
Прогон обучения идёт на 2–8 GPU: модель получает батчи по 8–32 примера, learning rate держим в диапазоне 1e-5–2e-4, а каждые 200 шагов снимаем валидацию. Чекпойнты сохраняем в MinIO, поэтому любой прогон можно воспроизвести.
Оценка и запуск
Оценка идёт на отложенной выборке: считаем точность, следование формату и долю корректных отказов, затем сравниваем числа с базовой моделью. После приёмки поднимаем vLLM в Kubernetes и переводим трафик на новую версию.
Где решение упирается
- 01
Качество данных
Качество данных задаёт потолок результата: 1 000 чистых пар дают больше, чем 20 000 шумных. Аудит занимает 3–5 дней и экономит недели обучения.
- 02
Катастрофическое забывание
Катастрофическое забывание проявляется на узкой задаче: модель теряет часть общих навыков. Смешиваем целевые примеры с 5–10% общих инструкций и сверяем оба набора на отложенной выборке.
- 03
Стоимость GPU
Стоимость GPU считаем до старта: 7B на LoRA держит 1–2 карты A100 40 ГБ, 70B на 8 картах. Прогон 7B занимает 8–20 часов, аренду оплачиваете по факту.
Технологии
Технологии, которые мы используем в работе, и их роль в проекте.
Обучение и запуск
Обучение идёт на PyTorch, инференс на vLLM, данные и артефакты лежат в MinIO, метрики и версии в PostgreSQL, а запуск и масштабирование выполняет Kubernetes.
Калькулятор стоимости
Это ориентировочный диапазон, а не коммерческое предложение. Точную смету подготовим после брифа: она зависит от объёма и числа интеграций.
Размер модели
Датасет, ГБ
Метод
Оценка до/после
Развёртывание
Дополнительно
Поддержка
Первый год: обновления и мониторинг, ответ за 2 рабочих дня.
Услуга
Дообучение LLM на ваших данных
В смету входит работа команды. Оборудование, лицензии сторонних сервисов и командировки добавляем по согласованию.
Расчётная стоимость
1 млн. ₽
Срок работ
6 нед.
Частые вопросы
Чем дообучение отличается от RAG?
RAG подставляет свежие фрагменты в контекст и отвечает по документам. Дообучение меняет поведение модели: стиль, формат и разбор типовых задач. Вместе они дают факты из индекса и устойчивый формат ответа.
Сколько данных нужно для дообучения?
Для LoRA хватает 1 000–5 000 пар «инструкция и ответ». SFT на 10 000–50 000 примеров даёт устойчивый формат, DPO требует 2 000–10 000 пар предпочтений. Точный объём называем после аудита выборки.
Сколько занимает проект?
4–6 недель: аудит данных занимает 3–5 дней, подготовка и обучение 2–3 недели, оценка и развёртывание ещё 1–2 недели. Прогон 7B модели на 4 GPU идёт 8–20 часов, и мы закладываем 2–3 прогона.
Где работает модель после обучения?
В вашем периметре: vLLM в Kubernetes, веса в MinIO, метрики в PostgreSQL. Для внешнего контура собираем тот же стек в вашем облаке и закрываем доступ по сети.
Что берут вместе с этой услугой
Связанные услуги
В составе решений
Примеры внедрений
−70 %
Время обработки обращения
Готовы обсудить задачу?
Оставьте заявку – вернёмся с предложением и предварительной оценкой.
Связаться с нами