Установка Whisper и faster-whisper на сервер: коротко и с данными
Конспект страницы: 6 разделов коротко, данные на 14 октября 2026 и ответы на 3 вопроса. Полный разбор с примерами: Установка Whisper и faster-whisper на сервер.
Коротко
Установка Whisper на сервер занимает одну команду pip install и пакет ffmpeg, а модели от tiny до large весят от 39 млн до 1,55 млрд параметров. Для сервера чаще берут faster-whisper: по тестам разработчиков он до 4 раз быстрее оригинала при той же точности и терпимо работает даже на процессоре. Для расшифровки пары часов записей в день хватит обычного сервера с faster-whisper и моделью small или medium.
Конспект по разделам
Что такое Whisper и зачем ставить faster-whisper
Whisper это открытая модель OpenAI для распознавания речи: расшифровывает аудио на десятках языков, включая русский, определяет язык и умеет переводить речь на английский. Код и веса выпущены под лицензией MIT, поэтому её можно встраивать в коммерческие сервисы. faster-whisper от SYSTRAN это та же модель на движке CTranslate2. На 13 минутах записи и карте RTX 3070 Ti модель large-v2 у оригинала заняла 2 минуты 23 секунды, у faster-whisper 1 минуту 3 секунды, а в режиме int8.
Какую модель Whisper выбрать и сколько ей нужно памяти
Цифры из README OpenAI, скорость мерили на английской речи и карте A100. Turbo это ускоренная large-v3, но переводу её не обучали: для перевода на английский берите medium или large. Для русской речи подходят только многоязычные модели, без суффикса.en.
Whisper на сервере без видеокарты: что реально
На процессоре оригинальный Whisper медленный: small расшифровывал те же 13 минут почти 7 минут. faster-whisper в int8 справился за 1 минуту 42 секунды, а whisper.cpp за 2 минуты 5 секунд при 1 ГБ памяти. Для заметок, звонков и голосовых из бота этого хватает, для large-v3 на потоке нужна видеокарта. Три ответа, и калькулятор подберёт конфигурацию
Установка Whisper и faster-whisper на Ubuntu
В коде faster-whisper модель загружают строкой WhisperModel("large-v3", device="cuda", compute_type="float16"), на процессоре device="cpu", compute_type="int8". Веса скачиваются при первом запуске в кэш пользователя.
- Создайте виртуальное окружение Python.
- Поставьте пакет.
- Для видеокарты faster-whisper нужны библиотеки cuBLAS и cuDNN 9 для CUDA 12.
Whisper в Docker как HTTP API для своих сервисов
Чтобы расшифровку вызывали бот, CRM или n8n, Whisper заворачивают в HTTP-сервис. Готовый вариант whisper-asr-webservice поднимает REST API со страницей Swagger на порту 9000 и умеет три движка: openai_whisper, faster_whisper и whisperx. Без видеокарты уберите --gpus all и возьмите тег latest.
Возьмите сервер с видеокартой под модель
Облачный GPU-сервер запускается за 1-2 минуты, оплата почасовая.
- RTX 4090, A5000, A6000, A100, H100
- От 1 до 4 карт на сервер
- Почасовая оплата
- Дата-центры уровня Tier III
Данные
| Модель | Параметры | Видеопамять | Скорость относительно large |
|---|---|---|---|
| tiny | 39 млн | ~1 ГБ | ~10x |
| base | 74 млн | ~1 ГБ | ~7x |
| small | 244 млн | ~2 ГБ | ~4x |
| medium | 769 млн | ~5 ГБ | ~2x |
| large | 1 550 млн | ~10 ГБ | 1x |
| turbo | 809 млн | ~6 ГБ | ~8x |
Данные на 14 октября 2026.
Вопросы и ответы
Нужен ли ffmpeg для faster-whisper?
Нет. faster-whisper декодирует звук библиотекой PyAV, в которую ffmpeg уже встроен. Системный ffmpeg нужен оригинальному openai-whisper.
Можно ли использовать Whisper в коммерческом проекте?
Да. OpenAI выпустила и код, и веса Whisper под лицензией MIT, faster-whisper тоже под MIT.
Почему faster-whisper не видит видеокарту?
Чаще всего не хватает cuBLAS и cuDNN 9 для CUDA 12: свежие версии ctranslate2 работают только с ними. Для CUDA 11 разработчики советуют откатить ctranslate2 до 3.24.0.