Установка CUDA на Ubuntu-сервер: коротко и с данными
Конспект страницы: 6 разделов коротко, данные на 14 октября 2026 и ответы на 4 вопроса. Полный разбор с примерами: Установка CUDA на Ubuntu-сервер.
Коротко
Установка CUDA на сервер начинается с драйвера NVIDIA: без него не работает ни PyTorch, ни Ollama, ни контейнер с GPU. CUDA Toolkit ставят из репозитория NVIDIA командой apt, а для Docker добавляют NVIDIA Container Toolkit. На сервер с GPU сначала ставят драйвер NVIDIA, потом по необходимости CUDA Toolkit.
Конспект по разделам
Драйвер, CUDA Toolkit или контейнер: что нужно серверу
CUDA: платформа NVIDIA для вычислений на видеокарте. На сервере она складывается из трёх частей, и ставить все три нужно не всегда. Образы с CUDA уже содержат нужные библиотеки внутри, а с хоста берут только драйвер.
Совместимость версий CUDA и драйвера NVIDIA
Драйвер NVIDIA обратно совместим: программа, собранная под старую CUDA, работает на более новом драйвере. Обратное верно только в пределах одной старшей версии, это называется совместимостью младших версий. В CUDA 13.0 NVIDIA убрала из Toolkit компиляцию и библиотеки для архитектур Maxwell, Pascal и Volta.
Установка CUDA на Ubuntu из репозитория NVIDIA
Для Ubuntu 22.04 в адресе репозитория замените ubuntu2404 на ubuntu2204. Начиная с CUDA 13.4 пакеты Toolkit не тянут драйвер за собой, поэтому драйвер ставится отдельной командой. Перед установкой CUDA проверьте, что модель поместится в видеопамять
- Убедитесь, что карта видна: lspci | grep -i nvidia.
- Подключите сетевой репозиторий NVIDIA пакетом cuda-keyring.
- Поставьте драйвер: пакет nvidia-open (открытые модули ядра) или cuda-drivers, затем перезагрузите сервер.
- Поставьте Toolkit, если собираете код на хосте, и добавьте его в PATH.
CUDA в Docker: установка NVIDIA Container Toolkit
Контейнер видит видеокарту, только если на хосте стоит NVIDIA Container Toolkit. Команды из документации NVIDIA для Ubuntu: Команда nvidia-ctk правит /etc/docker/daemon.json, чтобы Docker знал о среде NVIDIA. Последняя строка запускает тестовый контейнер: если он печатает таблицу с вашей картой, можно запускать Ollama, vLLM или Jupyter с GPU.
Почему CUDA не видит видеокарту на сервере
Какая карта под какую задачу и как устроена аренда, разобрано на странице аренда видеокарты.
- Нет перезагрузки после драйвера.
- Драйвер старее, чем просит программа.
- Контейнер без флага --gpus.
- Карта поколения Pascal на CUDA 13.
Возьмите сервер с видеокартой под модель
Облачный GPU-сервер запускается за 1-2 минуты, оплата почасовая.
- RTX 4090, A5000, A6000, A100, H100
- От 1 до 4 карт на сервер
- Почасовая оплата
- Дата-центры уровня Tier III
Данные
| Компонент | Что делает | Когда нужен |
|---|---|---|
| Драйвер NVIDIA | Даёт системе доступ к карте, приносит nvidia-smi | Всегда |
| CUDA Toolkit | Компилятор nvcc и библиотеки для сборки | Когда собираете код с CUDA прямо на хосте |
| NVIDIA Container Toolkit | Пробрасывает карту в контейнеры Docker | Когда модели и сервисы живут в Docker |
| CUDA Toolkit | Минимальный драйвер Linux |
|---|---|
| 13.x (13.0-13.4) | ветка 580 и новее |
| 13.4 с новыми функциями | ветка R615 |
| 12.x | от 525 |
| 12.8 GA | от 570.26 |
| 12.6 GA | от 560.28.03 |
Данные на 14 октября 2026.
Вопросы и ответы
Какой драйвер нужен для CUDA 12.8?
Для CUDA 12.8 GA нужен драйвер Linux 570.26 или новее, а в режиме совместимости младших версий любая CUDA 12.x работает на драйвере от 525.
Нужно ли ставить CUDA Toolkit, если всё работает в Docker?
Нет. На хосте достаточно драйвера NVIDIA и NVIDIA Container Toolkit, библиотеки CUDA лежат внутри образа.
Почему nvidia-smi показывает одну версию CUDA, а nvcc другую?
nvidia-smi пишет старшую версию CUDA, которую поддерживает драйвер. nvcc показывает установленный Toolkit. Это нормально, если Toolkit не новее драйвера.
Поддерживает ли CUDA 13 видеокарту GTX 1080?
Нет, начиная с CUDA 13.0 архитектура Pascal не поддерживается. Для таких карт используйте CUDA 12.x.