КОЛЛЕКЦИЯ OMBRAHOST / Вычисления GPU

вычисления GPUОсвободите место для более масштабных идей.

Конфигурации NVIDIA с одним ускорителем с 24, 48 или 80 GB памяти GPU и отдельными выделениями хост-памяти. Сопоставьте вывод, рендеринг или выбранные рабочие нагрузки обучения с фактическим бюджетом памяти и поддерживаемым образом.

3конфигурации
4совместимые назначения
$929.10месячные планы от
Изучите конфигурации
СНАЧАЛА ДЕТАЛИ

Найдите подходящий вариант.

Смотрите ускоритель, видеопамять и вспомогательные ресурсы вместе.

3 конфигурацийПолный состав. Итоги полного цикла.
вычисления GPU

Spectre 4090

Объедините один NVIDIA RTX 4090 с 24 GB памяти GPU, 64 GB памяти хоста и 1 TB хранилища NVMe для инференса, рендеринга и экспериментов. Варианты образов CUDA и канал 10 Gbps поддерживают ваш программный стек; пригодность модели зависит от точности, длины контекста и накладных расходов среды выполнения.

  • УскорительОдин NVIDIA RTX 4090 с 24 GB VRAM
  • Вычисления8 vCPU (Threadripper)
  • Память64 GB DDR5
  • Хранилище1 TB NVMe SSD
  • Передача20 TB / месяц
  • Защита DDoS40 Gbps
  • IPv41 включено
  • Сетевой порт10 Gbps
  • ПлатформаBare-Metal
  • IPv6/64 подсеть
  • Один NVIDIA RTX 4090 с 24 GB VRAM
  • Локации ограничены Исландией, Швейцарией, Нидерландами и Молдовой
  • Совместимость со стеком PyTorch, vLLM и Ollama
  • 10 Gbps восходящий канал
Локации и программное обеспечение

Ubuntu 22.04 + CUDA 12 · Debian + CUDA 12 · Custom

  • Память GPU отделена от выделения 64 GB памяти хоста
  • Варианты образов CUDA перечислены в выборе операционной системы
  • Модель 13B FP16 требует около 26 GB только для весов и превышает 24 GB VRAM без другой стратегии управления памятью
  • Квантование, длина контекста, KV-кэш и накладные расходы среды выполнения определяют пригодность модели
$929.10/ месяц

Оплата ежемесячно

Настроить тариф Просмотреть полные характеристики
вычисления GPU

Spectre A6000

Используйте один NVIDIA RTX A6000 с 48 GB памяти GPU вместе с 128 GB хост-памяти ECC и 2 TB хранилища NVMe. Больший объём памяти GPU и 10 Gbps восходящий канал подходят для более требовательных задач вывода или отдельных рабочих процессов обучения, при этом память модели и оптимизатора оценивается перед развёртыванием.

  • УскорительОдин NVIDIA RTX A6000 с 48 GB VRAM
  • Вычисления16 vCPU (EPYC)
  • Память128 GB DDR5
  • Хранилище2 TB NVMe SSD
  • Передача30 TB / месяц
  • Защита DDoS80 Gbps
  • IPv41 включено
  • Сетевой порт10 Gbps
  • ПлатформаBare-Metal
  • IPv6/64 подсеть
  • Один NVIDIA RTX A6000 с 48 GB VRAM
  • Память хоста ECC
  • Избранные рабочие процессы обучения и вывода с размером, зависящим от модели
  • 10 Gbps восходящий канал
Локации и программное обеспечение

Ubuntu 22.04 + CUDA 12 · Custom

  • Память GPU отделена от выделения 128 GB памяти хоста
  • Модель 13B FP16 требует около 26 GB только для весов; градиенты, состояние оптимизатора и память среды выполнения добавляются отдельно
  • Варианты образов CUDA перечислены в выборе операционной системы
  • Возможность обучения зависит от точности, размера пакета, оптимизатора и стратегии управления памятью
$2,088.10/ месяц

Оплата ежемесячно

Настроить тариф Просмотреть полные характеристики
вычисления GPU

Spectre H100

Создайте интенсивные ускорительные нагрузки на базе одного NVIDIA H100 с 80 GB HBM3, 256 GB памяти хоста и 4 TB хранилища NVMe. Канал 25 Gbps и ежемесячный лимит трафика 50 TB поддерживают большие наборы данных; модели с большим числом параметров по-прежнему требуют тщательного планирования точности, контекста и памяти.

  • УскорительОдин NVIDIA H100 с 80 GB HBM3 GPU памяти
  • Вычисления32 vCPU (EPYC)
  • Память256 GB DDR5
  • Хранилище4 TB NVMe SSD
  • Передача50 TB / месяц
  • Защита DDoS100 Gbps
  • IPv41 включено
  • Сетевой порт25 Gbps
  • ПлатформаBare-Metal
  • IPv6/64 подсеть
  • Один NVIDIA H100 с 80 GB HBM3 GPU памяти
  • Рабочие процессы с большими моделями зависят от объёма памяти
  • 25 Gbps восходящий канал
  • 99.99% целевой показатель доступности каталога
Локации и программное обеспечение

Ubuntu 22.04 + CUDA 12 · Custom

  • Память GPU отделена от выделения 256 GB памяти хоста
  • Модель 70B FP16 требует около 140 GB только для весов; одна 80 GB H100 требует квантования, выгрузки или подходящей стратегии для нескольких устройств
  • NVLink относится к отдельно организованной конфигурации с несколькими GPU; этот план предусматривает один ускоритель
  • Варианты образов CUDA перечислены в выборе операционной системы
$5,508.10/ месяц

Оплата ежемесячно

Настроить тариф Просмотреть полные характеристики

Конфигурация. Назначение. Ваш выбор.

Изучите регионы развертывания и практические руководства вместе с точными требованиями вашего проекта.

Обзор сценариев использования
НЕМНОГО БОЛЬШЕ ЯСНОСТИ

Прежде чем ваш
следующий шаг.

Практические детали для вычислительных ресурсов GPU, от настройки до предстоящих решений.

Открыть центр знаний

Это подготовленные спецификации услуг. Инфраструктура, лицензии и дополнительные услуги требуют проверки перед запуском в эксплуатацию.

GPU ВЫЧИСЛЕНИЯ / ПОДРОБНО7 полезных ответов
Какие конфигурации OmbraHost GPU подготовлены?+

В линейке Spectre указан RTX 4090 с 24 GB VRAM, RTX A6000 с 48 GB и H100 с 80 GB. На соответствие влияют веса модели, кэш контекста, размер пакета и программные накладные расходы. Локации и образы различаются по уровню. Установленные модели, измеренные скорости обработки токенов и выделение GPU требуют интеграции с системой подготовки ресурсов.

Сколько памяти GPU нужно?+

Веса FP16 требуют примерно двух байт на параметр; четырехбитные веса — примерно половину байта. Предусмотрите дополнительное место для кэша контекста, пакетной обработки и накладных расходов среды выполнения.

Каковы варианты GPU?+

Spectre 4090 указывает 24 GB VRAM, A6000 48 GB и H100 80 GB. Перед выбором протестируйте фактическую модель и точность.

Подойдёт ли модель 70B FP16?+

Только его веса требуют примерно 140 GB. Один 80 GB H100 не может их вместить; оцените квантование или подходящую конфигурацию с несколькими GPU.

Могу ли я запросить несколько GPUs?+

Пользовательские конфигурации с несколькими GPU — это подготовленный коммерческий запрос. Наличие на складе, топологию NVLink, энергоснабжение и сроки поставки необходимо подтвердить до принятия каких-либо обязательств.

Доступны ли короткие исследовательские сессии?+

Источник описывает минимум в семь дней по договорённости. Это остаётся предложенным коммерческим вариантом; текущее оформление заказа использует три опубликованных цикла выставления счетов.

Можно ли использовать Windows?+

В стандартном селекторе отображаются только шаблоны каталога. Запросы Windows GPU или пользовательских образов требуют проверки драйверов, лицензий и права на развёртывание.

Немного больше гибкости.

ПОДГОТОВЛЕННЫЕ ОПЦИИ

Изучите дополнительные услуги и их единицы выставления счетов. Запросы на дополнительные услуги требуют подключенного провайдера до выполнения.

Veil Edge

Подготовленный сетевой профиль с выделением 10 Gbps на меры защиты, обнаружением аномалий и настройкой задержки. Проверьте его связь с защитой, уже включённой в план.

$4.75в месяц

Eclipse Shield

Подготовленный профиль 100 Gbps с правилами приложений и выделенным путём фильтрации. Подтвердите эффективную ёмкость и совместимость; некоторые базовые планы уже указывают большую ёмкость.

$19.00в месяц

Iron Veil

Базовый обзор под руководством инженера, охватывающий рекомендации CIS, защиту входа, обращение с ключами и правила межсетевого экрана. Эта услуга подготовлена, но инженер ещё не назначен.

$46.55one-time

Vault Mirror

Подготовленные ежедневные инкрементные внешние копии, семидневное хранение и зашифрованное назначение, совместимое с S3. Назначение и процедура восстановления требуют проверки в производственной среде.

$4.75в месяц

Checkpoint

Подготовленные запланированные и ручные снимки с циклическим лимитом хранения в пять снимков. Эта фиксированная плата за услугу отделена от предлагаемой платы за хранение за GB.

$2.85в месяц

First Light

Предлагаемая первоначальная настройка, охватывающая установку, базовую безопасность и согласованные базовые услуги. Единовременный объём работ должен быть подтверждён до начала работы.

$19.00one-time

Shadow Transfer

Подготовленная услуга переноса, включённая бесплатно в подходящий новый заказ. Инвентарь, доступ, переключение и откат согласуются до миграции.

$0.00one-time

Route Extension

Один дополнительный адрес IPv4, при условии права на выделение и технического одобрения. Выбор опции не резервирует и не маршрутизирует адрес.

$1.90в месяц