Установка AnythingLLM на свой сервер: коротко и с данными
Конспект страницы: 6 разделов коротко, данные на 14 октября 2026 и ответы на 3 вопроса. Полный разбор с примерами: Установка AnythingLLM на свой сервер.
Коротко
Установка AnythingLLM на сервер делается Docker-контейнером mintplexlabs/anythingllm: интерфейс открывается на порту 3001, а документы, векторы и настройки хранятся в папке storage на хосте. Разработчики просят минимум 2 ГБ памяти и 10 ГБ диска, а поиск по документам работает сразу, без отдельной векторной базы. AnythingLLM нужен, если хочется чата по своим документам без сборки RAG руками.
Конспект по разделам
Что умеет AnythingLLM и чем он отличается от Open WebUI
AnythingLLM собран вокруг рабочих пространств: в каждое загружают свои документы, и модель отвечает по ним. Внутри уже есть векторная база LanceDB и встроенный эмбеддер, поэтому RAG заработает без дополнительных сервисов. Есть агенты с инструментами, расписание задач, поддержка MCP и виджет чата для сайта.
Сколько памяти и диска нужно AnythingLLM
Документация называет минимум 2 ГБ оперативной памяти и советует от 10 ГБ диска; дальше диск растёт вместе с документами, векторами и локальными моделями. Если модель работает по API, сервер почти не нагружен: он хранит файлы и считает векторы при загрузке. Три вопроса о модели, документах и людях: калькулятор подберёт конфигурацию
Установка AnythingLLM в Docker на Ubuntu
Образ собран для amd64 и arm64. В официальном docker-compose те же тома и порт, плюс переменная JWT_SECRET: задайте ей длинную случайную строку. Наружу интерфейс публикуйте через Caddy или Nginx с HTTPS.
- Поставьте Docker версии 20.10 или новее: старые версии не понимают адрес host.docker.internal.
- Создайте папку для данных и пустой файл настроек.
- Запустите контейнер с этой папкой:
Как подключить AnythingLLM к Ollama, LM Studio или API
В настройках AnythingLLM выбирают три вещи: модель для ответов, эмбеддер и векторную базу. Модель можно взять из Ollama, LM Studio, OpenAI или любого OpenAI-совместимого API, например AI Gateway Таймвеб Клауд с оплатой в рублях.
- Ollama на том же сервере указывается как http://host.docker.internal:11434: внутри контейнера localhost ведёт в сам контейнер.
- Эмбеддер по умолчанию встроенный; для документов на русском сравните его с многоязычной моделью эмбеддингов из Ollama или API.
- Вместо LanceDB можно подключить PGVector, Chroma, Weaviate или Pinecone, если векторы нужны другим программам.
Обновление и резервная копия AnythingLLM
Обновление: docker pull mintplexlabs/anythingllm, удалить старый контейнер и запустить новый той же командой. Данные переживут это, только если storage смонтирован в папку на хосте, как в команде выше; разработчики прямо советуют так делать. В папке storage лежат загруженные документы, векторная база LanceDB и файл.env с ключами API.
Запустите свой сервер за пару минут
Почасовая оплата: тестовый стенд на сутки стоит десятки рублей, а не месячный тариф.
- NVMe-диски и гарантированная доля процессора
- Root-доступ и любой софт, от Docker до игровых серверов
- Маркетплейс: 91 приложение в один клик
- Бесплатный перенос проекта силами специалистов
Данные
| Вопрос | AnythingLLM | Open WebUI |
|---|---|---|
| Главный сценарий | Чат по документам по пространствам | Универсальный чат с моделями |
| Порт по умолчанию | 3001 | 3000 на хосте |
| Несколько пользователей | Только в Docker-версии | Да |
| Лицензия | MIT | Open WebUI License |
Данные на 14 октября 2026.
Вопросы и ответы
Как обновить AnythingLLM в Docker без потери документов?
Скачать новый образ mintplexlabs/anythingllm и пересоздать контейнер с тем же монтированием папки storage. Если папка не была смонтирована на хост, сначала скопируйте данные из контейнера.
Почему AnythingLLM в Docker не видит Ollama?
Контейнер ищет Ollama у себя внутри. Укажите адрес http://host.docker.internal:11434, на Linux добавьте --add-host=host.docker.internal:host-gateway и переведите Ollama на OLLAMA_HOST=0.0.0.0.
Нужна ли AnythingLLM видеокарта?
Нет, если модель работает по API: серверу хватит 2-4 ГБ памяти. Видеокарта нужна, только когда своя модель на 9 млрд параметров и больше крутится на этом же сервере.