Опубликовано 18 августа 2026 9 мин чтения

Как развернуть и дообучить DeepSeek-модели на AWS: практическое руководство

Разверните DeepSeek-R1 на AWS за 10 минут через Bedrock Marketplace или настройте полный цикл с SageMaker AI. Пошаговые инструкции, выбор инстансов и дообучение под свои задачи.

DeepSeek-R1 - открытая модель, которая решает сложные задачи рассуждения, математики и программирования на уровне лидеров рынка. Компании и разработчики разворачивают её на AWS, чтобы получить контроль над данными, снизить затраты и адаптировать модель под свои задачи. Это руководство покажет три пути развертывания: через Amazon Bedrock Marketplace, Amazon SageMaker AI и собственные инстансы EC2 с GPU или чипами Trainium и Inferentia. Вы узнаете, как выбрать подходящий тип инстанса, настроить окружение и запустить дообучение.

Для быстрого старта без управления серверами подходит Bedrock Marketplace. Для гибкой кастомизации и дообучения - SageMaker AI. Для полного контроля и оптимизации расходов - собственные инстансы EC2. Каждый вариант описан пошагово, с примерами кода и рекомендациями по выбору ресурсов.

Что такое DeepSeek-R1 и почему она привлекла внимание

DeepSeek-R1 - это семейство открытых моделей от китайской компании DeepSeek. Модель показала высокие результаты в задачах, требующих пошагового рассуждения: доказательство теорем, написание сложного кода, анализ данных. Открытая лицензия позволяет компаниям использовать модель без оплаты за каждый запрос, в отличие от проприетарных API.

Для понимания масштаба: DeepSeek-R1 доступна в нескольких размерах - от компактных версий на 7 миллиардов параметров до больших на 70 миллиардов и более. Компактные версии работают на одном GPU, большие требуют нескольких инстансов или специализированных чипов. Это даёт гибкость: стартап может начать с малого, а крупная компания - развернуть полноценный кластер.

Ключевые особенности DeepSeek-R1

Главные характеристики, которые делают модель привлекательной для бизнеса:

Открытая лицензия. Исходные веса доступны для скачивания и изменения. Нет привязки к вендору.
Размеры от 7B до 671B параметров. Можно выбрать версию под доступные ресурсы и требования к скорости ответа.
Высокая производительность в рассуждениях. Модель сопоставима с проприетарными аналогами в математике, коде и логике.
Совместимость с Hugging Face. Модель загружается через стандартные инструменты экосистемы.

Почему компании выбирают DeepSeek-R1

Первая причина - контроль над данными. При использовании проприетарных API данные уходят на серверы вендора. С открытой моделью всё остаётся внутри вашего облака AWS. Вторая причина - кастомизация. Модель можно дообучить на собственных данных: специфической терминологии, внутренних документах, стиле ответов. Третья причина - экономическая эффективность. При стабильной нагрузке собственный инстанс обходится дешевле, чем оплата за токены.

Практический пример: компания, которая обрабатывает 100 000 запросов в день, на проприетарном API платит за каждый токен. На AWS с инстансом p4d.24xlarge и моделью 70B стоимость фиксирована и предсказуема. При росте нагрузки добавляется второй инстанс, а не пересчитывается счёт за токены.

Варианты развертывания DeepSeek-R1 на AWS

AWS предлагает три основных пути. Каждый имеет свои компромиссы по сложности, стоимости и масштабируемости.

Amazon Bedrock Marketplace: быстрый старт без управления инфраструктурой

Bedrock Marketplace - управляемый сервис AWS. Вы находите DeepSeek-R1 в каталоге, подписываетесь на модель и получаете готовый endpoint. Никакой настройки серверов, обновлений и мониторинга инфраструктуры. Безопасность и масштабирование берёт на себя AWS.

Ограничения: меньше контроля над параметрами модели и окружением. Дообучение на собственных данных через Marketplace недоступно. Для задач, где нужна кастомизация, этот путь не подходит.

Amazon SageMaker AI: гибкость для дообучения и кастомизации

SageMaker AI - платформа для полного цикла машинного обучения. Она позволяет развернуть модель из Hugging Face, запустить дообучение на собственных данных и создать endpoint для продакшена. Интеграция с Hugging Face Deep Learning Containers упрощает запуск: контейнеры уже содержат необходимые библиотеки и зависимости.

Через SageMaker JumpStart можно развернуть DeepSeek-R1 в несколько кликов. Для более тонкой настройки используется SageMaker Python SDK с классом HuggingFace Estimator. Этот путь подходит командам, которым нужно дообучение и управление экспериментом.

Собственные инстансы EC2: полный контроль и оптимизация затрат

Инстансы EC2 дают максимальный контроль. Вы выбираете тип GPU, настраиваете окружение, запускаете модель через vLLM или Text Generation Inference (TGI). Для опытных пользователей это самый гибкий и часто самый дешёвый вариант при стабильной нагрузке.

Недостаток - вся ответственность за инфраструктуру на вас: обновления, безопасность, мониторинг, масштабирование. Для команд без DevOps-экспертизы этот путь может оказаться сложным.

Если вы только начинаете работать с Hugging Face на AWS, полезно разобрать базовую интеграцию. Статья о партнерстве AWS и Hugging Face объясняет, как SageMaker упрощает запуск NLP-моделей одной командой и снижает затраты до 90%.

Выбор инстанса для вашей версии DeepSeek-R1

Выбор инстанса зависит от размера модели и требований к скорости ответа. Компактные версии работают на одном GPU. Большие требуют нескольких GPU или специализированных чипов.

GPU-инстансы: универсальное решение

Популярные варианты на базе NVIDIA:

g5.xlarge - одна NVIDIA A10G, 24 ГБ памяти. Подходит для моделей до 7B.
p4d.24xlarge - восемь NVIDIA A100, 320 ГБ памяти суммарно. Подходит для моделей 70B и выше.
p5.48xlarge - восемь NVIDIA H100, 640 ГБ памяти суммарно. Для самых больших версий и интенсивного дообучения.

Стоимость p4d.24xlarge - около 32 долларов в час по требованию. Спотовые инстансы снижают цену на 60-70%.

AWS Trainium и Inferentia: оптимизация для обучения и инференса

Trainium - чип AWS для обучения моделей. Inferentia - для инференса. Оба чипа дают лучшую цену за производительность по сравнению с GPU в определённых сценариях.

Trainium используется через SageMaker Training Jobs для дообучения. Inferentia - через SageMaker Inference для развертывания. Интеграция с Hugging Face Optimum позволяет запускать модели на этих чипах без глубокой переработки кода.

Таблица соответствия версий модели и рекомендуемых инстансов:

Версия модели	Рекомендуемый инстанс	Назначение
DeepSeek-R1 7B	g5.xlarge	Инференс, прототипы
DeepSeek-R1 14B	g5.12xlarge	Инференс, лёгкое дообучение
DeepSeek-R1 70B	p4d.24xlarge	Инференс, дообучение
DeepSeek-R1 671B	p5.48xlarge или кластер Trainium	Дообучение, высоконагруженный инференс

Пошаговое развертывание DeepSeek-R1 на AWS

Подготовка: учетная запись AWS и доступ к Hugging Face

Перед началом убедитесь, что у вас есть:

Аккаунт AWS с правами на создание ресурсов EC2, SageMaker и Bedrock.
IAM-роль с политиками доступа к S3, SageMaker и EC2.
Токен Hugging Face для скачивания моделей. Получить его можно в настройках профиля на Hugging Face.

Токен сохраните в AWS Secrets Manager. Не храните его в коде или конфигурационных файлах.

Развертывание через Amazon Bedrock Marketplace

Самый быстрый путь:

Откройте консоль Amazon Bedrock.
Перейдите в раздел Marketplace.
Найдите DeepSeek-R1 и выберите нужную версию.
Нажмите «Подписаться» и дождитесь активации.
Создайте endpoint и протестируйте запрос через консоль или API.

Время от подписки до первого ответа - около 10 минут. Управление инфраструктурой не требуется.

Развертывание через Amazon SageMaker AI

Для гибкого развертывания с возможностью дообучения используйте SageMaker JumpStart или Hugging Face Deep Learning Containers. Пример кода для развертывания модели через SageMaker Python SDK:

from sagemaker.huggingface import HuggingFaceModel

model = HuggingFaceModel(
    model_data="s3://your-bucket/model.tar.gz",
    role="SageMakerRole",
    transformers_version="4.37",
    pytorch_version="2.1",
    py_version="py310",
)

predictor = model.deploy(
    initial_instance_count=1,
    instance_type="ml.p4d.24xlarge",
)

Этот код создаёт endpoint с моделью DeepSeek-R1. Для загрузки модели из Hugging Face Hub укажите её идентификатор в конфигурации контейнера.

Подробнее о развертывании моделей Hugging Face на SageMaker одной строкой кода читайте в пошаговом руководстве.

Развертывание на собственном инстансе EC2

Для полного контроля:

Запустите инстанс EC2 с AMI Deep Learning AMI GPU PyTorch.
Подключитесь по SSH и установите vLLM или TGI.
Скачайте модель из Hugging Face, используя токен.
Запустите сервер инференса и настройте группу безопасности.

Пример запуска модели через vLLM:

python -m vllm.entrypoints.openai.api_server \
    --model deepseek-ai/DeepSeek-R1-Distill-Llama-70B \
    --tensor-parallel-size 8 \
    --host 0.0.0.0 \
    --port 8000

После запуска endpoint доступен по адресу http://your-instance-ip:8000. Настройте HTTPS через Application Load Balancer и ограничьте доступ группой безопасности.

Дообучение DeepSeek-R1 под свои задачи

Дообучение нужно, когда модель должна понимать специфическую терминологию, отвечать в определённом стиле или знать доменные факты. Например, юридическая фирма дообучает модель на внутренних документах, чтобы она корректно использовала юридические термины.

Когда дообучение необходимо

Сценарии, в которых дообучение оправдано:

Специфическая терминология отрасли: медицина, юриспруденция, финансы.
Стиль ответов: формальный, разговорный, технический.
Доменные знания: внутренние регламенты, продукты компании, база знаний.

Если задача решается промпт-инжинирингом, дообучение не нужно. Начните с подбора промптов и только потом переходите к обучению.

Подготовка данных для дообучения

Данные должны быть в формате JSONL или Parquet. Каждая запись содержит пару «запрос - ответ». Объём: от 1000 до 10 000 качественных примеров для заметного эффекта. Очистите данные от дубликатов, ошибок и нерелевантных ответов.

Пример записи в JSONL:

{"prompt": "Что такое исковая давность?", "completion": "Исковая давность - это срок для защиты права по иску. Общий срок составляет три года."}

Запуск дообучения на AWS

Для дообучения используйте SageMaker Training Jobs. Метод LoRA позволяет дообучать большие модели с меньшими затратами памяти. Пример запуска:

from sagemaker.huggingface import HuggingFace

estimator = HuggingFace(
    entry_point="train.py",
    source_dir="./scripts",
    instance_type="ml.p4d.24xlarge",
    instance_count=1,
    role="SageMakerRole",
    transformers_version="4.37",
    pytorch_version="2.1",
    py_version="py310",
    hyperparameters={
        "epochs": 3,
        "learning_rate": 2e-5,
        "lora_r": 16,
    },
)

estimator.fit({"train": "s3://your-bucket/train.jsonl"})

Мониторинг обучения доступен в консоли SageMaker. После завершения модель сохраняется в S3 и готова к развертыванию.

Оптимизация затрат и решение типичных проблем

Как снизить стоимость развертывания

Практические рекомендации:

Используйте спотовые инстансы для дообучения и тестирования. Экономия до 70%.
Для стабильного инференса рассмотрите резервированные инстансы. Экономия до 40%.
Используйте Inferentia для инференса вместо GPU. Цена за инференс ниже на 30-40%.
Настройте автомасштабирование, чтобы не платить за простаивающие ресурсы.

Следите за расходами через AWS Cost Explorer. Установите бюджеты и алерты на превышение.

Частые ошибки и как их избежать

Типичные проблемы при развертывании DeepSeek-R1 на AWS:

Неправильный выбор инстанса. Модель 70B на g5.xlarge не запустится из-за нехватки памяти. Проверяйте требования к памяти перед выбором.
Недостаточная безопасность. Открытый endpoint без HTTPS и ограничений доступа уязвим. Настройте группу безопасности и TLS.
Проблемы с данными для дообучения. Низкое качество данных ухудшает модель. Проверяйте данные на ошибки и дубликаты.
Превышение лимитов сервисов. AWS устанавливает лимиты на количество инстансов. Запросите увеличение заранее.

Если вы используете Hugging Face в корпоративной среде, статья о Hugging Face Enterprise Hub объясняет, как оплатить подписку через AWS Marketplace и получить единый биллинг.

Заключение: DeepSeek-R1 на AWS - доступный путь к передовому ИИ

DeepSeek-R1 на AWS - это практичный способ получить передовую модель ИИ с контролем над данными и затратами. Начните с Bedrock Marketplace для быстрого тестирования. Когда появятся требования к кастомизации, переходите на SageMaker AI. Для максимальной оптимизации расходов используйте собственные инстансы EC2 с GPU или чипами Trainium и Inferentia.

Технология доступна уже сейчас. Компактные версии запускаются на одном GPU, а дообучение под свои задачи занимает часы, а не недели. Выберите подходящий путь и запустите первую модель сегодня.

Есть вопрос или заметили неточность? Напишите нам - мы открыты к диалогу и исправлениям.