Как развернуть RAG: от документов до ответов модели, коротко и с данными
Конспект страницы: 6 разделов коротко, данные на 14 октября 2026 и ответы на 3 вопроса. Полный разбор с примерами: Как развернуть RAG: от документов до ответов модели.
Коротко
Как развернуть RAG: включить базу знаний на готовой платформе, поставить приложение вроде AnythingLLM или собрать свою связку из векторной базы, модели эмбеддингов и языковой модели. Выбор зависит от объёма документов и требований к данным, а внутри всегда одни и те же шесть шагов, от разбивки текста до ответа со ссылкой на источник. Если нужно быстро и без сервера, берите RAG на платформе AI-агентов.
Конспект по разделам
Как работает RAG: шесть шагов от документа до ответа
RAG (retrieval-augmented generation, генерация с поиском) даёт модели ваши документы прямо в запросе. Модель не переучивают: перед ответом система находит подходящие куски текста и подкладывает их в подсказку.
- Собрать документы: PDF, страницы базы знаний, выгрузки из CRM.
- Разбить на фрагменты по несколько абзацев, с небольшим перекрытием, чтобы мысль не обрывалась на границе.
- Посчитать эмбеддинги: модель превращает каждый фрагмент в вектор, набор чисел, похожий у близких по смыслу текстов.
- Сложить векторы в базу вместе с текстом и ссылкой на источник.
Три способа развернуть RAG: платформа, приложение или свой код
На платформе AI-агентов на 14 октября 2026 есть RAG по своим базам знаний, OpenAI-совместимый API и модели GPT, Claude, DeepSeek, Qwen и YandexGPT. Цену агента с базой знаний можно прикинуть ниже: для RAG выбирайте вариант входного текста «с базой знаний». Запросы в день, объём найденного контекста и длина ответа: расчёт по ценам токенов
RAG на своём сервере в Docker: минимальный набор
Для своей связки нужны три компонента: модель эмбеддингов, векторная база и языковая модель. Всё запускается в Docker на одном сервере: Модель эмбеддингов скачивают в Ollama так же, как обычную: например docker compose exec ollama ollama pull qwen3-embedding или embeddinggemma. Код загрузки режет документы, получает векторы от Ollama и пишет их в Qdrant.
Сколько места и памяти нужно RAG
Объём векторов считается арифметикой: число фрагментов умножить на размерность и на 4 байта (одно число float32). 100 тыс. фрагментов при размерности 1024 дают около 410 МБ чистых векторов, индекс и служебные данные добавят сверху. Для базы знаний компании это немного: обычный VPS справится с хранением.
Почему RAG ошибается и как это проверить
Составьте 30-50 реальных вопросов с правильными ответами и прогоняйте их после каждой правки. Если в документах есть персональные данные клиентов, учтите 152-ФЗ: где хранятся векторы и куда уходит текст фрагментов при запросе к модели.
- Не нашёл нужный фрагмент.
- Нашёл, но додумал.
- Устаревшие данные.
Соберите ИИ-агента на готовой платформе
GPT, Claude, Gemini, DeepSeek и YandexGPT в одном кабинете, оплата рублями за токены.
- База знаний из ваших файлов (RAG)
- Чат-бот на сайт одним скриптом
- OpenAI-совместимый API
- Доступность 99,98% по SLA
Данные
| Путь | Что делаете вы | Кому подходит |
|---|---|---|
| Платформа AI-агентов Таймвеб Клауд | Загружаете базу знаний, выбираете модель, ставите виджет на сайт | Бот поддержки, ответы по регламентам |
| Готовое приложение на своём сервере | AnythingLLM, Open WebUI или LibreChat с загрузкой файлов | Команда, внутренние документы |
| Свой код | LangChain или LlamaIndex, векторная база, модель по API или в Ollama | Нестандартные источники, встраивание в продукт |
Данные на 14 октября 2026.
Вопросы и ответы
Можно ли сделать RAG полностью без интернета?
Да: модель эмбеддингов и языковая модель в Ollama, векторная база Qdrant, pgvector или Chroma на том же сервере. Для быстрых ответов понадобится видеокарта под языковую модель.
Какая векторная база нужна для RAG?
Для старта подойдёт любая. Qdrant удобен как отдельный сервис, pgvector если уже есть PostgreSQL, Chroma для прототипа на Python. Разница проявляется на миллионах векторов.
Чем RAG отличается от дообучения модели?
RAG подставляет документы в каждый запрос, и обновить знания можно, просто заменив файл. Дообучение меняет веса модели, стоит дороже и не даёт ссылок на источник.