Self hosted AI: нейросети на своём сервере, коротко и с данными
Конспект страницы: 6 разделов коротко, данные на 14 октября 2026 и ответы на 4 вопроса. Полный разбор с примерами: Self hosted AI: нейросети на своём сервере.
Коротко
Главная / Self-hosted / Self hosted AI Self hosted AI это нейросети, которые работают на вашем сервере: модель, интерфейс чата, база знаний и генерация картинок без отправки данных в чужое облако. Почти все сборки ставятся в Docker, а главный вопрос не в установке, а в железе: есть ли у сервера видеокарта. Для чата и базы знаний начните с Ollama и Open WebUI в Docker.
Конспект по разделам
Self hosted AI: сравнение открытых сборок
Сборки делятся на три слоя: движок, который запускает модель, интерфейс, через который с ней работают люди, и надстройки для документов и сценариев. Лицензии не одинаковы. MIT и GPL позволяют свободно использовать сборку в компании, а у Open WebUI и Dify есть дополнительные условия: брендинг и коммерческое использование нужно сверить с текстом лицензии до запуска для клиентов.
Какую self hosted AI сборку выбрать под задачу
Два ответа: задача и железо Интерфейсы вроде Open WebUI и AnythingLLM почти не нагружают сервер: тяжело работает только модель. Поэтому их часто ставят на обычный VPS, а модель запускают на отдельном сервере с GPU или берут по API.
Self hosted AI Starter Kit от n8n: что внутри
Команда n8n собрала готовый набор под лицензией Apache-2.0: n8n для сценариев, Ollama для моделей, Qdrant как векторная база и PostgreSQL для данных n8n. Всё запускается одним compose-файлом, а профиль выбирает железо: Набор подходит для пробы: агент читает документы из папки, кладёт их в Qdrant и отвечает через локальную модель. Для работы с клиентами добавьте домен с HTTPS и пароли к сервисам.
Какое железо нужно своему ИИ: процессор или видеокарта
Скорость локальной модели упирается в память. Модель, которая целиком помещается в видеопамять, отвечает быстро; на процессоре та же модель работает в разы медленнее, но работает. Чем больше параметров у модели, тем больше памяти ей нужно: расчёт по моделям есть на странице сервер для LLM.
Self hosted база знаний с ИИ на своих документах
База знаний с ИИ работает по схеме RAG: документы режутся на фрагменты, превращаются в векторы и хранятся в базе, а модель при каждом вопросе получает несколько подходящих фрагментов. Open WebUI поддерживает 9 векторных баз и гибридный поиск, AnythingLLM раскладывает документы по рабочим пространствам, у каждого своя подборка файлов и настройки модели. Кто отвечает за ошибку модели Модель может уверенно ответить неправильно, даже если нужный документ есть в базе.
Возьмите сервер с видеокартой под модель
Облачный GPU-сервер запускается за 1-2 минуты, оплата почасовая.
- RTX 4090, A5000, A6000, A100, H100
- От 1 до 4 карт на сервер
- Почасовая оплата
- Дата-центры уровня Tier III
Данные
| Проект | Что делает | Железо | Лицензия |
|---|---|---|---|
| Ollama | Скачивает и запускает модели, отдаёт API | Процессор или GPU | MIT |
| Open WebUI | Чат в браузере, RAG, поиск в интернете | Лёгкий, модель отдельно | Open WebUI License (на основе BSD-3 с условием о бренде) |
| AnythingLLM | Рабочие пространства с документами | Лёгкий, модель отдельно | MIT |
| LocalAI | Замена API OpenAI на своём сервере | По документации видеокарта не обязательна | MIT |
| Dify | Конструктор агентов и баз знаний | От 2 ядер и 4 ГБ памяти | Изменённая Apache 2.0 с условиями |
| ComfyUI | Генерация картинок узлами | Видеокарта | GPL-3.0 |
Данные на 14 октября 2026.
Вопросы и ответы
Можно ли запустить self hosted AI без видеокарты?
Да. Ollama и LocalAI работают на процессоре, но отвечают медленнее, поэтому на обычном VPS берут небольшие модели. Генерации картинок без видеокарты почти не получится.
Что входит в self hosted AI starter kit?
Набор от команды n8n: n8n, Ollama, векторная база Qdrant и PostgreSQL, запуск одним docker compose с профилем cpu, gpu-nvidia или gpu-amd.
Какая self hosted AI модель подойдёт для русского языка?
Берите многоязычные семейства, например Qwen, и выбирайте размер под память сервера. Перед запуском проверьте модель на своих текстах: качество русского сильно зависит от размера.
Нужен ли домен для своего ИИ-чата?
Для одного человека можно ходить через SSH-туннель. Для команды нужен домен с HTTPS, иначе пароли и переписка пойдут по сети открытым текстом.