Что такое RAG и зачем он нужен
RAG решает задачу, которую не закрывает голая модель: ответить по вашим внутренним данным (документации, базе знаний, договорам, тикетам), которых нет в обучающей выборке. Вместо дообучения модели вы храните корпус отдельно, на каждый вопрос пользователя находите в нем наиболее подходящие фрагменты (retrieval) и передаете их модели как контекст (augmented generation). Плюсы для продакшена: базу можно обновлять без переобучения, ответы опираются на конкретные фрагменты, которые можно показать как источники, а расход токенов предсказуем, потому что в промпт попадает не весь корпус, а только top-k релевантных кусков.
Пайплайн RAG: шесть этапов
Полный контур выглядит так. (1) Корпус: собираете документы и режете их на чанки по несколько сотен токенов, чтобы каждый помещался в контекст и был семантически цельным. (2) Эмбеддинги: каждый чанк прогоняете через метод embeddings и получаете вектор, числовое представление смысла. (3) Векторный индекс: складываете векторы в векторное хранилище, например pgvector, FAISS или Qdrant, подойдет любое с поиском по косинусной близости. (4) Поиск top-k: на входящий вопрос строите эмбеддинг тем же способом и достаете k ближайших чанков. (5) Промпт с контекстом: найденные чанки вставляете в системный или пользовательский промпт с инструкцией отвечать только по ним. (6) Генерация: отправляете собранный промпт в chat.completions на модель-генератор. Если провайдер дает и эмбеддинги, и генерацию через один API, этапы 2 и 6 идут на один base_url с одним ключом.
Индексация корпуса и эмбеддинги
Эмбеддинги в RAG строятся дважды: один раз офлайн для всего корпуса при индексации и затем на каждый запрос для текста вопроса. В обоих случаях нужна одна и та же модель эмбеддингов, чтобы векторы лежали в одном пространстве и косинусная близость была осмысленной. Цен на эмбеддинги на этой странице нет: их нет в нашем каталоге, а придумывать цифры мы не будем. Практические заметки: держите размер чанка стабильным, сохраняйте рядом с вектором метаданные (id документа, заголовок, ссылку) для показа источников и переиндексируйте только изменившиеся документы.
from openai import OpenAI
client = OpenAI(
api_key="LLM_API_KEY", # ключ вашего провайдера
base_url="https://api.example.com/v1", # адрес вашего провайдера
)
# 1) Корпус: документы, порезанные на чанки
corpus = [
"Заказ доставляется за 2-3 рабочих дня после оплаты.",
"Вернуть товар можно в течение 14 дней с момента получения.",
"Поддержка отвечает в чате круглосуточно.",
]
# 2) Эмбеддинги для каждого чанка
resp = client.embeddings.create(
model="<embeddings-model>", # имя эмбеддинг-модели у провайдера
input=corpus,
)
vectors = [item.embedding for item in resp.data]
# 3) Векторный индекс: сложите vectors в pgvector / FAISS / Qdrant (например)
# рядом с вектором храните метаданные чанка: id, заголовок, ссылку
for chunk, vec in zip(corpus, vectors):
print(len(vec), "dims ->", chunk[:40])Поиск и сборка промпта с контекстом
На этапе ответа вы строите эмбеддинг вопроса тем же вызовом, что и для корпуса, и запрашиваете у векторного хранилища k ближайших чанков. Типичное k от 3 до 8, его подбирают под задачу и длину контекста модели. Найденные фрагменты склеиваются в блок контекста, который передается модели вместе с инструкцией отвечать строго по приведенным фрагментам, а если ответа в них нет, сообщать об этом, а не выдумывать. Это стандартный прием против галлюцинаций. Для показа источников вернитесь к метаданным чанков, которые сохранили при индексации: сама модель ссылок не хранит.
Выбор модели-генератора
Генератор в RAG отвечает за качество финального текста, retrieval при этом одинаков для любой модели. Легкие модели вроде gpt-6-luna подходят для больших объемов и простых ответов, gpt-6.1-sol и claude-sonnet-5-5 нужны, когда важнее качество рассуждения по контексту, gemini-3.8-flash дает быстрый баланс. Калькулятор ниже оценивает месячную стоимость генерации по ценам на сегодня в рублях, эмбеддинги в нем не считаются. Весь каталог и карточки семейств: /ai-tools/models/.
Проверка ключа на адресе PayClarus
Адрес https://payclarus.com/api/llm/v1 совместим с OpenAI Chat Completions: подойдет официальный SDK OpenAI для Python и Node.js или любой клиент с настройкой base_url. Ключ вида pcl_... выпускается в разделе «API-доступ» после входа на сайт. В примере модель gpt-6-luna, ее можно заменить на любую модель каталога. Ошибки, лимиты, потоковый ответ и настройка Cursor, Cline и Continue описаны в документации API.
# pip install openai
from openai import OpenAI
client = OpenAI(
api_key="pcl_...",
base_url="https://payclarus.com/api/llm/v1",
)
resp = client.chat.completions.create(
model="gpt-6-luna",
messages=[{"role": "user", "content": "Привет! Ответь одним предложением."}],
)
print(resp.choices[0].message.content)Калькулятор стоимости генерации
Задайте нагрузку: сколько токенов уходит на запрос и сколько запросов в месяц. Расчет покажет месячную стоимость моделей-генераторов в рублях по ценам на сегодня.
При такой нагрузке дешевле всего выходит gpt-6-luna: 639 ₽ в месяц.
| Модель | За 1 запрос | В месяц |
|---|---|---|
| gpt-6-lunaдешевле всего | 0.06 ₽ | 639 ₽ |
| gemini-3.8-flash | 0.51 ₽ | 5 091 ₽ |
| gpt-6.1-sol | 1 ₽ | 12 781 ₽ |
| claude-sonnet-5-5 | 2 ₽ | 15 622 ₽ |
Оценка по ценам каталога в рублях по курсу ЦБ на сегодня, без надбавки за длинный запрос. Реальный расход зависит от структуры промптов.
На что хватит пополнения
| Пополнение | Писем | Статей | Дней бота |
|---|---|---|---|
| 500 ₽ | 10 000 | 1 923 | 25 |
| 1 000 ₽ | 20 000 | 3 846 | 50 |
| 5 000 ₽ | 100 000 | 19 230 | 250 |
Размеры задач это наше допущение, а не замер: письмо: 1 запрос, 300 токенов на входе и 500 на выходе, статья: 1 запрос, 1 000 токенов на входе и 3 000 на выходе, бот: 100 диалогов в день по 4 запроса, в каждом 1 500 токенов на входе (история и инструкция) и 300 на выходе. Каждый запрос списывается по фактическим токенам и округляется вверх до копейки, поэтому длинные промпты и история диалога заметно меняют итог.
Полезные ссылки
- Каталог моделей и цены в рублях
- Модели OpenAI (gpt-6.1-sol, gpt-6.1-terra, gpt-6-luna)
- OpenAI API в России: статус доступа
- DeepSeek API в России
Частые вопросы
Эмбеддинги и генерация могут идти через один и тот же адрес?
Сколько стоят эмбеддинги в рублях?
Какую векторную базу нужно использовать?
Мой RAG написан под официальный OpenAI SDK. Что менять при смене провайдера?
Можно ли купить доступ к моделям для RAG у PayClarus?
Нужен доступ к моделям для RAG?
Ключ можно получить сразу: войдите на PayClarus и в разделе «API-доступ» пополните баланс и выпустите ключ. Если задача нестандартная, опишите ее в заявке, ответим на email.