Дообучение GigaChat и YandexGPT под вашу компанию
- Дообучение ставит стиль и формат ответа, но не «загружает» в модель ваши знания.
- Сначала промпт и база знаний по вашим документам — дообучение только если не хватило.
- Дообученная модель устаревает: изменились правила — тренировать надо заново.
Дообучение — это когда готовую модель (GigaChat, YandexGPT) дополнительно тренируют на ваших примерах, чтобы она усвоила манеру и формат вашей работы. Важно сразу понять, что дообучение даёт, а что нет: оно ставит модели стиль и формат ответа, но не заливает в неё ваши знания. Если нужно, чтобы модель знала ваши регламенты и цены, дообучение — неправильный инструмент: знания подают через базу знаний, и это дешевле и обновляется мгновенно. Честно: в разговорах о «своей нейросети» дообучение просят почти всегда, а нужно оно меньшинству — и наша работа обычно в том, чтобы это меньшинство отличить.
«Вам сказали: «нужна своя нейросеть, обученная на ваших данных» — и звучит это правильно, ведь общая модель вашей компании не знает. Вы прикидываете бюджет и понимаете, что это дорого и надолго, но не понимаете главного — а точно ли надо. Спросить не у кого: подрядчик, который умеет дообучать, скажет «надо», потому что этим и зарабатывает. А что будет, когда через полгода у вас поменяются правила, вам не расскажут.»
Как это работает
-
1
Сначала — три ступени, и дообучение на них последняя
Ступень первая: нормально написанная инструкция модели. Ступень вторая: база знаний по вашим документам — модель перед ответом находит нужный кусок в ваших регламентах и отвечает по нему, со ссылкой. Ступень третья: дообучение. Так вот, на практике первые две закрывают большинство задач, ради которых к нам приходят «дообучаться». Мы обязаны их пройти, прежде чем брать деньги за третью.
-
2
Что дообучение реально даёт
Устойчивый формат и манеру: модель начинает отвечать так, как принято у вас, без длинных объяснений в каждом запросе. Это заметно на однотипном потоке — разложить обращения по категориям, описать товар в вашем стиле, оформить ответ по вашему шаблону. Побочная выгода: инструкция становится короче, а значит, каждый запрос дешевле и быстрее.
-
3
Чего дообучение НЕ даёт (здесь ошибаются чаще всего)
Оно не делает модель знатоком ваших дел. Скормив ей регламенты, вы не получите надёжный ответ «сколько дней на согласование» — получите модель, которая уверенно говорит в стиле ваших регламентов и при этом путает цифры. Факты подаются поиском по документам, а не тренировкой. Это не наше мнение, это устройство технологии.
-
4
Нужны примеры, и много — их обычно нет
Тренировать надо на парах «вопрос — правильный ответ», собранных из вашей реальной работы, вычищенных от персональных данных и приведённых к одному виду. Речь про сотни и тысячи примеров, а не про папку документов. Именно тут проекты и умирают: примеры собирать некому, а те, что есть, противоречат друг другу — люди-то работают по-разному.
-
5
Что доступно у российских поставщиков
У Яндекса дообучение методом LoRA доступно в AI Studio, но не для всей линейки: дообучают младшую модель YandexGPT Lite, классификаторы на её основе и модель эмбеддингов. У Сбера дообучение в открытой документации GigaChat API не описано — это корпоративная история, через договор и обращение в Сбер. Обе модели работают на серверах в России, что важно по 152-ФЗ. Конкретные условия у обоих меняются — уточняем на момент вашего проекта, а не по статье годовой давности.
-
6
У дообученной модели есть срок годности
Изменились правила, ассортимент, законодательство — дообученная модель продолжает уверенно отвечать по-старому. Чинится это только новым циклом тренировки. База знаний в этом месте побеждает всухую: заменили документ — ответы изменились в тот же час. Про эту статью расходов на этапе продажи обычно молчат.
Когда это оправдано — а когда нет
Частые вопросы
Сколько стоит дообучить модель под нас?+
Зависит от задачи: есть ли у вас примеры, в каком они виде, какая модель подойдёт. Считаем на бесплатном разборе — прайс-таблиц у нас нет. Отдельно предупреждаем: тренировка — не разовый платёж, у дообученной модели есть срок годности, и это надо закладывать сразу.
Чем дообучение отличается от базы знаний по нашим документам?+
Дообучение меняет то, КАК модель отвечает. База знаний меняет то, ЧТО она знает. Если нужна ваша манера и формат — дообучение. Если нужны ваши факты, регламенты, цены, остатки — база знаний, и никакое дообучение её не заменит. Путаница между этими двумя вещами — причина большинства слитых бюджетов на «свою нейросеть».
Наши данные не утекут при дообучении?+
Модель тренируется на том, что вы отдали, — значит, к подготовке данных надо отнестись всерьёз: убрать персональные данные и всё, что не должно там оказаться. GigaChat и YandexGPT работают на серверах в России, это снимает часть вопросов по 152-ФЗ, но не отменяет вашей ответственности за то, что именно вы отправили. Если данные такие, что наружу нельзя вообще, — разговор другой: это своя модель в закрытом контуре.
Можно дообучить GigaChat или YandexGPT самостоятельно?+
Частично. У Яндекса в AI Studio дообучение LoRA доступно для младшей модели YandexGPT Lite, классификаторов на её базе и эмбеддингов — то есть не для всей линейки. У Сбера в открытой документации GigaChat API дообучения нет: это корпоративный сценарий через обращение и договор. Условия у обоих подвижны — если тема живая, проверяем актуальный статус под ваш проект.
А если дообучить открытую модель у себя на сервере?+
Так делают, и иногда это правильный ответ — особенно когда данные вообще не должны покидать контур. Но это уже не «дообучить нейросеть», а завести у себя железо, людей и обязанность всё это поддерживать. Решение не про модель, а про то, готовы ли вы содержать эту инфраструктуру годами.
С чего начать, если кажется, что нам нужно дообучение?+
С проверки за неделю: берём вашу задачу, пишем нормальный промпт, при необходимости подключаем базу знаний — и смотрим на реальных примерах, чего не хватает. Если после этого дообучение всё ещё нужно, вы будете точно знать зачем и чего от него ждать. Обычно уже не нужно, и это честный результат.
Подойдёт ли это вашему бизнесу?
Оставьте контакт — в бесплатном разборе честно скажем, окупится ли это именно у вас.
Заявка принята
Свяжемся в течение 24–48 часов и пришлём разбор на одну страницу.
Источники
Смежные темы
ИИ-помощник по базе знаний компании
Ответ на любой вопрос живёт в голове одного человека.
Безопасность и законЛокальная LLM в закрытом контуре
Хотите пользоваться ИИ, не отдавая данные наружу.
Безопасность и законИИ-аудит: почему пилот не взлетел
Пилот сделали и отчитались, а сегодня им не пользуется никто.